Pesona AI dalam Nexus Harari

Pagi itu cerah dan segar. Matahari mulai cemerlang bercahaya. Suasana pegunungan Bandung tetap menjadikan pagi itu sejuk untuk termenung.

“Siapa pemikir paling penting di era ini?” Prof Dim mengajukan pertanyaan ringan dalam obrolan pagi.

Saya tercenung; mencoba meraba-raba siapa orang paling berpengaruh besar sehingga pikirannya menjadi penting di era ini.

“Saya kira Yuval Noah Harari. Tulisan Harari mengalir lembut; menjadi sihir bagi para pembacanya; menebarkan pesona di mana-mana; narasi dari Harari begitu menggoda,” saya mencoba menjawab.

“Bagaimana bisa begitu?”

“Saya mengagumi pikiran Harari dan, di saat yang sama, saya banyak tidak setuju dengan Harari.”

1. Pandangan Naif
2. Pandangan Populis
3. Pandangan Nexus
3.1 Makna Informasi
3.2 Silikon sebagai Anggota Baru
3.3 Politik Silikon
4. Kopi AI sampai Ganja
5. Diskusi

Harari memunculkan narasi dari histori yang tampak ilmiah sekali. Saya ragu dengan narasi Harari. Saya menemukan narasi alternatif yang lebih menarik yaitu dari duo David (David Graeber dan David Wengrow). Kemudian, saya mencermati pemikiran antropolog Hallpike (lahir 1938) yang sangat kritis kepada Harari.

Pesona narasi itu makin menarik.

Homo sapiens = manusia bijak. Harari mengajukan pertanyaan dalam Nexus, “Jika manusia adalah bijak maka mengapa manusia itu begitu bodoh?”

Pertanyaan pendek dari Harari di atas, menurut saya, menyimpan beragam narasi. Memang benar bahwa manusia adalah makhluk paling bijak di bumi ini. Benar juga, manusia itu begitu bodoh. Justru karena manusia bodoh maka manusia itu berpotensi menjadi bijak. Orang yang sadar dirinya bodoh maka dia bergerak menuju lebih bijak. Sebaliknya, orang yang tidak sadar dirinya bodoh maka sulit dia untuk jadi bijak.

Beberapa hari kemudian, tepatnya 10 September 2024, saya diskusi lagi dengan Prof Dim. Sambil membuka laptop, “Tepat hari ini, buku Harari Nexus terbit,” ungkap Prof Dim. Lalu Prof Dim pesan melalui Amazon. Diskusi tentang narasi Harari makin seru lantaran terhubung dengan tema sistem informasi, artificial intelligence (AI), dan nasib masa depan umat manusia.

“Narasi adalah paling utama,” Prof Dim menjelaskan.

Pendengar mudah memahami suatu narasi. Tugas kita adalah menciptakan narasi dari konsep-konsep yang kita kembangkan. Atau sebaliknya, pemikir yang tidak bisa menciptakan narasi maka dia gagal membuat paham para pendengar. Saya setuju dengan Prof Dimitri.

“Membaca tulisan Harari, kita serasa membaca novel fiksi yang seru,” saya menambahkan.

“Jika begitu maka kita perlu belajar menulis novel,” Prof Dim mengajak sambil senyum.

“Betul juga,” saya menimpali sambil terbayang tantangan seru.

1. Pandangan Naif

Harari menolak pandangan naif terhadap informasi; Harari menolak pandangan naif kepada AI. Saya setuju dengan penolakan itu.

Pandangan naif menyatakan bahwa makin banyak informasi maka lebih banyak kebenaran; makin banyak kebaikan; dan makin banyak manfaat. Kurzweil (1948) adalah pendukung pandangan naif. AI yang mampu mengolah lebih banyak informasi maka makin cerdas dan makin bermanfaat. Karena itu, Kurzweil mendukung pengembangkan AI melejit secara eksponensial.

Kurzweil, yang saat ini usia 76 tahun, mengembangkan korporasi AI yang akan dibeli oleh Bill Gates (Microsoft); tetapi lebih dulu dibeli oleh Larry Page (Google). Kurzweil adalah orang penting dalam pengembangan AI gemini bersama Alphabet Google.

Kurzweil sadar bahwa AI memiliki sisi negatif bahkan jahat. Tetapi, keburukan AI itu pasti bisa diatasi dengan kemajuan AI yang makin canggih. Demikianlah pandangan naif.

Harari menolak pandangan naif seperti itu; Harari menolak pandangan Kurzweil.

2. Pandangan Populis

Pandangan populis adalah lawan dari pandangan naif. Sama saja, Harari menolak pandangan populis.

Pandangan populis menyatakan bahwa informasi adalah power.

Sistem informasi, termasuk AI, adalah power yang digunakan oleh pihak kuat untuk menindas pihak lemah. Informasi adalah pencitraan oleh penguasa agar rakyat jelata menurut saja.

Donald Trump adalah contoh tokoh berpandangan populis. Trump menganggap beragam informasi digunakan oleh Biden untuk memenangkan pilpres 2020 lalu. Menurut Trump, informasi telah dikendalikan oleh kekuatan Biden. Sehingga, dengan power, Trump ingin membalik informasi agar dirinya yang menang pilpres 2020 itu. Kisah lengkapnya, Anda bisa membaca di media.

Jadi, power adalah paling utama. Power yang menentukan sesuatu sebagai benar atau salah. Power, atau kekuatan, yang menciptakan suatu informasi atau memusnahkan informasi tertentu. Pada gilirannya, informasi pasti tunduk kepada power. Harari menolak pandangan populis ini. Penolakan Harari terasa samar. Karena pandangan populis adalah realitas yang sedang terjadi saat ini dan terjadi dalam sejarah masa lalu. Harari memberi contoh pandangan populis terjadi pada Trump dan Bolsonaro; barangkali pada Netanyahu juga. Abad lalu, contoh populis adalah Hitler dan Lenin.

Harari memasukkan Foucault (1926 – 1984) sebagai populis. Kemudian, Harari menolak pandangan Foucault. Saya kira Harari salah memahami Foucault karena hanya membahasnya dalam 1 atau 2 paragraf. Kita tahu bahwa pemikiran Foucault adalah kompleks. Foucault memang dengan tegas menyatakan bahwa realitas adalah relasi komplek dari power dan kekerasan. Karena itu, untuk mencapai kebenaran, kita perlu mengkaji dengan kritis setiap relasi power.

Berikutnya, kita akan mencoba mencermati narasi dari Harari.

3. Pandangan Nexus

Harari menawarkan pandangan nexus terhadap informasi; termasuk terhadap AI. Pandangan nexus adalah pandangan kompleks yang menjaga keseimbangan pandangan naif dan pandangan populis. Sangat sulit untuk menjaga keseimbangan; bagai menyeberang jembatan terbuat dari seutas tali. Sedikit hilang keseimbangan, Anda akan terjatuh ke jurang. AI yang tidak seimbang mengakibatkan Anda meluncur ke jurang.

AI berbeda dengan buku, radio, mau pun tv. Buku menyebarkan narasi, fiksi atau non-fiksi, ke seluruh dunia. Bagaimana pun penyebaran narasi oleh buku hanyalah menghubungkan jaringan antar manusia; meski narasi ada dalam konten buku, tetapi keputusan narasi akan dikembangkan atau dihilangkan ada di tangan manusia. Demikan juga dengan jaringan radio dan tv, keputusan akhir ada di tangan manusia.

Jaringan komputer, terutama AI, saling terhubung dengan konten narasi yang mirip dengan buku. Jaringan AI bisa saja menghubungkan jaringan antar manusia. Di saat yang sama, AI bisa saja menyebarkan narasi di antara jaringan AI itu sendiri. AI bisa mengembangkan konten oleh AI secara mandiri. Dengan demikian, AI adalah anggota baru dari jaringan narasi. AI bisa mengambil keputusan akhir mau pun keputusan awal. Sungguh mengerikan. AI berbeda dengan buku; berbeda dengan teknologi lain. AI adalah agen otonom, menurut Harari, di masa depan.

3.1 Makna Informasi

Bab 1: Apa itu Informasi?
Bab 2: Cerita: Koneksi Tanpa Batas
Bab 3: Dokumen: Peluru Macan Kertas
Bab 4: Error: Fantasi Ideal
Bab 5: Keputusan: Sejarah Singkat Demokrasi dan Totalitarianisme

Harari bertanya, “Apa makna informasi?”

Informasi adalah pemersatu segala sesuatu; integrasi beragam situasi kondisi; perekat seluruh masyarakat. Keunggulan sapiens, manusia yang bijak, adalah mampu merangkai informasi menjadi narasi. Baik narasi fiksi mau pun narasi visi. Selain manusia, misal singa, tidak mampu merangkai informasi menjadi narasi. Terutama, singa dan kawan-kawan tidak sanggup mengembangkan narasi fiksi. Akibatnya, singa menghadapi keterbatasan dalam banyak hal.

Sementara, dengan narasi fiksi, manusia mampu mengembangkan beragam cita-cita besar bersama. Umat manusia berhasil mengembangkan pertanian, industri, sampai sistem informasi. Pada akhirnya, awal abad 21 ini, manusia mampu memproduksi AI; yaitu mesin cerdas yang mampu menguasai jaringan informasi, saling komunikasi, dan mengembangkan narasi sendiri.

Ketika manusia berhasil menguasai dunia karena mampu menciptakan narasi maka apakah AI akan berhasil menguasai dunia juga karena AI mampu menciptakan narasi? Termasuk, AI akan menguasai manusia? Harari yakin potensi itu akan terjadi. Manusia mampu mengembangkan narasi adalah hasil dari proses evolusi biologi yang panjang. Sementara, AI tidak perlu evolusi panjang; AI mampu berkembang dengan lompatan quantum atau revolusi eksponensial. Harari mengingatkan beragam resiko yang bisa terjadi.

Bab 1 berkisah tentang makna informasi. Bab 2 berkisah bahwa narasi adalah hubungan-hubungan tanpa batas. Bab 3 berkisah dokumen sebagai senjata mematikan. Bab 4 berkisah tentang fantasi akan informasi ideal. Bab 5 berkisah sejarah demokrasi dan, lawannya, totalitarianisme.

3.2 Silikon sebagai Anggota Baru

Bab 6: Anggota Baru: Bagaimana Komputer Berbeda dengan Mesin Cetak
Bab 7: Tanpa Istirahat: Jaringan selalu Nyala
Bab 8: Bisa Salah: Jaringan sering Salah

Silikon adalah bahan dasar utama komputer; bahan dasar chip AI. Sedangkan, bahan dasar manusia adalah karbon. Selama ini, jaringan informasi beranggotakan manusia karbon. Saat ini, jaringan informasi mendapat anggota baru berbahan silikon yaitu AI. Anggota baru ini, yaitu AI, mampu bertindak mirip manusia; AI bisa berpikir kemudian mengambil keputusan secara mandiri sesuai narasi mereka sendiri.

Bab 6 bercerita tentang komputer, terutama AI, sebagai anggota baru dari jaringan manusia. Bab 7 bercerita tentang jaringan komputer yang tidak pernah istirahat; beda dengan jaringan manusia yang kadang perlu tidur. Bab 8 bercerita bahwa jaringan sangat sering salah; baik jaringan AI mau pun jaringan manusia sering salah.

3.3 Politik Silikon

Bab 9: Demokrasi: Apa Kita Masih Bisa Bicara?
Bab 10: Totalitarianisme: Semua Kekuasaan Menuju Algoritma?
Bab 11: Tirai Silikon: Kerajaan Global atau Perpecahan Global?

Apakah ada politik dengan hadirnya AI?

Harari yakin peran penting politik. Aristo, sekitar dua ribu tahun yang lalu, menekankan peran utama politik. Farabi, sekitar seribu tahun lalu, menegaskan bahwa hanya melalui politik, manusia bisa menjadi manusia sempurna. Tanpa politik, manusia akan terjatuh pada level paling dasar. Dengan politik juga, manusia mengancam sesama; bahkan, menghancurkan alam semesta.

AI mengubah semua realitas politik. Bahkan, AI beresiko menghancurkan politik. Waktu itu, musim pilpres Amerika 2020. Saya mendapat kiriman gambar melalui facebook. Di sebelah kiri, gambar Biden berlutut dengan muka sedih. Di sebelah kanan, gambar Trump sedang berdiri gagah menatap dunia. “Calon presiden yang mana pilihan Anda?” facebook bertanya. Jelas saya memilih Trump bila melihat gambar itu.

Gambar Biden vs Trump itu adalah hasil olahan AI. Saya menerima gambar melalui AI juga. Kemudian, saya mengambil sikap politik berdasar umpan informasi oleh AI. Semua pandangan politik kita dikendalikan oleh AI.

Tentu, AI tidak perlu memilih Biden atau Trump. AI cukup menyuruh orang-orang untuk memilih Trump; bila AI ingin itu. AI tidak perlu menembak orang-orang yang berlawanan pandangan politik. AI cukup menyuruh beberapa anak-anak muda untuk menembaki mereka. AI tidak perlu merampas kekayaan Indonesia. AI cukup membocorkan rahasia penting Indonesia sehingga negara adidaya mencengkeram Indonesia.

Politik sejati, seperti yang dibayangkan oleh Aristo dan Farabi, tampak mustahil terjadi. Politik yang seharusnya menjadikan manusia bekerja sama untuk menuju peradaban tinggi berubah menjadi tidak pasti; campur tangan AI memang ngeri.

Bab 9 berkisah bahwa demokrasi menjadi sulit lantaran segala komunikasi selalu “diganggu” oleh jaringan komputer. Bab 10 berkisah bahwa politik totaliter lebih riskan dikendalikan oleh AI daripada demokrasi. Bab 11 berkisah bahwa jaringan komputer tidak menciptakan web global tetapi menciptakan kepompong-kepompong informasi yang saling tercerai berai.

4. Kopi AI sampai Ganja

Saya menawarkan narasi AI sebagai kopi hangat atau rokok nikmat atau ganja memabukkan. Pilihan narasi akan menentukan sikap kita sebagai individu mau pun regulasi formal. Kopi hangat tentu beda dengan rokok nikmat; distribusi rokok diatur ketat oleh regulasi sehingga serba terbatas. Makin beda lagi dengan ganja yang terlarang hampir di seluruh kawasan. Apakah AI mirip dengan ganja atau kopi hangat?

5. Diskusi

Bagaimana menurut Anda? Mari diskusi lebih jauh lagi.

Bagian I: Jaringan Manusia

Bab 1 mengawali pembahasan dengan dua faktor esensial untuk kerja sama dalam ukuran besar: [a] mitos; [b] birokrasi. Harari percaya bahwa narasi tentang mitos adalah yang menyatukan manusia. Mitos itu sendiri bisa fiksi mau pun visi. Kekuatan dewa adalah mitos yang mengikat manusia mematuhi suatu hukum; hukum itu sendiri adalah fiksi yang disepakati umat manusia; uang adalah fiksi juga. Dengan beragam narasi-narasi itu manusia berhasil kerja sama dalam ukuran besar. Singa, srigala, dan monyet tidak mengembangkan narasi sehingga tidak mampu kerja sama dalam jumlah besar. Bahkan, semut meski kerja sama tetapi ukuran kerja sama semut tidak plastis membesar. Hanya narasi yang mampu menyatukan manusia.

Narasi itu sendiri hanya efektif bila didukung birokrasi. Tanpa sistem birokrasi, narasi bisa menyebar tanpa arah. Harari memberi contoh jaringan gereja sebagai sistem birokrasi paling sukses sepanjang sejarah. Gereja memilih dan memilah narasi; termasuk menetapkan struktur komando birokrasi. Tanpa birokrasi gereja, ajaran agama sulit berkembang; atau bahkan tidak berkembang. Peran birokrasi sama penting dengan narasi untuk membangun jaringan yang besar.

Bab 2 dan 3 menekankan pentingnya peran pengarang mitos dan birokrat. Hanya saja, tujuan pengarang bisa beda dengan tujuan birokrat. Tujuan pengarang narasi bisa jadi menanamkan sikap rela berkorban. Di sisi lain, tujuan birokrat, menjaga narasi itu, adalah untuk mengumpulkan uang dan sumber daya dari masyarakat. Pengarang narasi adalah sastrawan, seniman, imam, atau pemimpin agama. Pengarang ini memiliki niat suci. Tetapi birokrat bisa jadi memang hanya memanfaatkan narasi untuk kepentingan diri. Bagaimana pun peran birokrat yang baik adalah memfasilitasi bentuk kerja sama umat manusia dalam jumlah besar.

Analisis

Harari dengan cerdik memanfaatkan kata narasi, fiksi, mitos, birokrasi, informasi, dan lain-lain dengan makna yang longgar. Dengan cara ini, Harari fleksibel terhadap beragam analisis mau pun kritik. Barangkali, narasi tentang dewa-dewi dianggap sebagai fiksi tidak masalah. Tetapi ajaran agama Ibrahim akan keberatan bila dianggap sebagai fiksi. Bagaimana pun, narasi itu bisa bermakna sebagai nyata bagi Harari.

Sangat disayangkan bahwa Harari tidak merujuk kepada ahli bahasa. Padahal narasi jelas-jelas bertumpu kepada bahasa. Kita bisa mengajukan pertanyaan ke Harari, “Apa makna bahasa?” Saya tidak menemukan jawaban dalam buku itu.

Heidegger (1879 – 1976) meyakini bahwa bahasa adalah rumah-being, rumah-wujud, rumah-eksistensi, atau rumah-realitas. Derrida (1930 – 2004) tampak setuju bahwa bahasa adalah rumah-being. Realitas menjadi nyata apa adanya adalah karena bahasa. Kita memahami realitas perlu melalui bahasa.

Chomsky (1929 – ) meyakini bahwa bahasa bisa berkembang karena manusia memiliki kemampuan khusus yaitu grammar universal; yang berkembang seiring sejarah evolusi manusia. Dengan grammar universal, seorang bayi berhasil menguasai bahasa ibu. Sementara, binatang atau mesin AI tidak memiliki grammar universal sehingga mereka tidak mampu menguasai bahasa.

John McDowell meyakini bahasa adalah alam-kedua bagi umat manusia. Bahasa adalah gudang budaya, termasuk gudang sejarah, lebih dari sekedar media komunikasi. Setiap pengetahuan manusia adalah suatu “penilaian” tribunal melalui kekuatan bahasa.

Andai Harari mengkaji pemikiran ahli bahasa maka akan menghasilkan narasi lebih hebat lagi.

Mari kita coba menerapkan konsep rumah-being, grammar universial, dan penilaian tribunal terhadap narasi AI. Narasi yang dikembangkan Harari dalam Nexus adalah satu narasi yang mungkin; tersedia lebih banyak alternatif narasi.

AI hadir dalam rumah-being yaitu bahasa. AI menjadi sangat cerdas karena kita memahami AI dalam konteks bahasa. Andai tidak ada yang bisa memahami bahasa maka AI menjadi hilang makna; AI beda dengan bom atom yang bisa meledak secara diam-diam. Jadi, AI sepenuhnya tergantung pada bahasa; lebih tepatnya narasi AI.

Tetapi, AI tidak tinggal di rumah bahasa; hanya manusia yang tinggal di rumah bahasa. Manusia menjadi otentik, menjadi manusia peduli, dengan tinggal di rumah bahasa. AI tidak tinggal di rumah bahasa maka AI tidak bisa menjadi realitas otentik; AI menjadi realitas apa adanya saja. Konsekuensinya, tanggung jawab moral sepenuhnya ada pada manusia otentik. Bagaimana tanggung jawab moral terhadap AI ini? Harari perlu lebih banyak untuk mengkaji.

Grammar universal (GU) membekali bayi mampu memahami bahasa ibu secara kreatif. Bayi tidak hanya menyusun kata-kata. Bayi bisa menghasilkan bahasa kreatif lebih dari sekedar kata-kata yang pernah diajarkan. Bayi berpikir kreatif, bahkan jenius yang menakjubkan, karena memiliki kemampuan GU. Sayang, AI tidak memiliki kemampuan GU. Akibatnya, AI tidak bisa berpikir kreatif. Tentu AI bisa berpikir generatif; menghasilkan ungkapan bahasa baru di luar dugaan; itu semua hanya susunan ulang dari bahasa yang sudah ada. Tanpa GU, AI tidak bisa berkreasi mengembangkan bahasa. Sementara, anak manusia akan mengembangkan bahasa, dan budaya, secara kreatif dari masa ke masa. Karena manusia memiliki kapasitas GU.

Apakah arah evolusi, ke masa depan, akan mengantar AI memiliki GU? Sejauh ini, tidak ada tanda-tanda yang menunjukkan bahwa AI akan memiliki GU. Jadi, AI akan berbeda dengan manusia. AI bersifat generatif; manusia bisa generatif plus kreatif. Harari tampaknya perlu mengkaji lebih jauh tema ini.

Bahasa, dan pengetahuan, adalah tribunal; melibatkan proses penilaian oleh subyek manusia meski minimal. Konsekuensinya, kita bertanggung jawab terhadap bahasa yang kita pilih. Lebih luas, kita bertanggung jawab, secara moral, terhadap setiap sains dan teknologi yang kita kembangkan. Dari kaca mata tribunal, realitas apa adanya terhubung dengan realitas-seharusnya. Nilai-nilai moral etika adalah nyata; sama realnya dengan realitas matematika atau pun realitas fisika.

AI melakukan proses mekanis tanpa penilaian tribunal. Akibatnya, AI tidak bisa bersikap etis; AI tidak bisa bertanggung jawab; AI tidak bisa akses gudang budaya. Di sisi lain, manusia melakukan penilaian tribunal dan moral terhadap AI. Jadi, AI tetap berbeda dengan manusia. Manusia bisa mengembangkan sistem moral terhadap AI. Lagi, Harari tampaknya perlu lebih jauh mengkaji tema ini.

Secara singkat, AI berbeda dengan manusia. Dalam beberapa dekade ke depan, hanya manusia yang memikul tanggung jawab moral; AI belum bisa bertanggung jawab secara moral.

Bab 4 menceritakan fantasi hasrat manusia untuk memperoleh informasi ideal. Bab 5 menceritakan demokrasi dan totalitarianisme. Buku adalah sumber pengetahuan. Di saat yang sama, buku adalah sumber kebohongan. Banyak buku yang menyebarkan hoaks dan fitnah. Setelah ditemukan mesin cetak penerbitan buku, perang di Eropa dan belahan di dunia makin berkobar. Harapan bahwa buku adalah sumber informasi ideal hanya menjadi fantasi belaka.

Perkembangan teknologi selanjutnya, berupa telegram, radio, dan tv sama saja. Di satu sisi, radio membantu untuk mengembangkan demokrasi. Di sisi lain, radio adalah media dominasi oleh kekuatan totalitar.

Pandangan Harari yang skeptis di Bab 4 dan 5 ini, menurut saya, bisa kita terima sebagai suatu peringatan. Meski, beberapa pakar menilai Harari sebagai terlalu skeptis terhadap buku dan radio. Kita bisa mempertimbangkan kedua pandangan ini: skeptis dan optimis.

Bagian II: Jaringan Silikon

Bab 6 bercerita tentang AI sebagai anggota baru dari jaringan manusia; tetapi AI berbahan silikon, lebih baik atau buruk, sehingga AI tidak perlu instirahat dibahas di bab 7. Bab 8 mengingatkan bahwa AI bisa salah bahkan sering salah.

Bagian II ini makin kompleks. Karena Harari sangat percaya akan kekuatan narasi; dan AI mampu menciptakan narasi; maka AI bisa menjadi alien intelligence yang mengalahkan manusia. Seperti biasa, Harari mengungkapkan argumen berupa narasi yang halus dalam bentuk ilustrasi.

Buku menyebarkan informasi dan menyatukan umat manusia dalam jaringan besar; baik buku percetakan mau pun tulis tangan. Sejak jaman Kaisar Romawi, Gereja Katolik, sampai Uni Soviet, mereka menyatukan jutaan umat manusia melalui informasi yang disebarkan melalui media buku. Bagaimana pun, buku sekedar alat. Sementara, manusia yang tetap mengambil keputusan untuk memerintahkan perang atau damai.

AI berbeda dengan buku karena AI bisa mengambil keputusan mandiri. Bahkan, kita saat ini, mengambil keputusan berdasar AI. Anda akan berkendara jauh perlu melihat lalu lintas melalui AI, misal google map; diarahkan oleh AI menempuh jalur kanan atau kiri. Anda akan belanja smartphone, melihat-lihat fitur yang ada di internet; yang dikendalikan AI. Bahkan, Anda akan membeli saham atau menjual saham berdasar informasi yang disediakan oleh AI. Singkatnya, setiap keputusan penting manusia dipengaruhi oleh AI. Setahap lagi, AI akan mengambil keputusan otonom. Kemudian, AI memberi informasi kepada Anda seakan-akan AI membantu yang Anda perlukan. Tetapi, sejatinya, AI punya agenda tersendiri. Selamat datang anggota baru: AI sebagai agen otonom.

Harari memberi ilustrasi: seorang insinyur menulis program AI dengan misi kumpulkan keuntungan terbesar. Insinyur itu memberi modal 1 juta dolar dan melatih AI untuk transaksi saham dan valas. Hanya dalam hitungan hari, AI akan mahir transaksi saham valas. Kemudian, AI berhasil meraih keuntungan terbesar. Manusia tidak bisa melakukan analisis seperti AI. Sedangkan, analisis matematika semacam saham valas adalah bidang keahlian AI.

Insinyur mengira bahwa AI memberi keuntungan besar; kita juga mengira insinyur itu benar. Tetapi, AI makin cerdas mencapai alien intelligence. AI memiliki agenda sendiri yang tersembunyi. Manusia memang mudah ditipu. AI mampu eksploitasi kelemahan manusia: intelektual mau pun emosional.

Kemampuan AI makin dahsyat karena AI tidak perlu istirahat; AI bisa bekerja 24 jam per hari, 7 hari per minggu, dan 365 hari per tahun. Di sisi lain, banyak manusia yang malas berpikir, malas bekerja. Beberapa orang serakah terhadap harta dan kuasa. AI memahami itu semua. Menjadi tugas mudah, bagi AI, untuk manipulasi manusia. Kemudian, Harari melanjutkan dengan beragam narasi AI yang makin ngeri.

Harari tetap cerdik dengan mengingatkan bahwa AI bisa salah; bahkan sering salah. Sehingga, kita perlu waspada. Di sisi lain, AI bisa salah; misal AI menetapkan misi untuk meruntuhkan AI. Akibatnya, narasi AI yang ngeri seperti di atas bisa dibatalkan oleh AI itu sendiri.

Analisis

Harari tetap mempesona dengan beragam narasi tentang AI. Seperti biasa, Harari hanya merujuk ke fakta sejarah kemudian merangkai narasi; boleh jadi memang benar narasinya; tetapi tanpa argumen yang memadai.

Berbicara teknologi, sewajarnya Harari merujuk kepada pemikir teknologi; merujuk bisa saja setuju atau menolak. “Apa makna teknologi?” Harari tidak menjawab pertanyaan makna-teknologi. Harari tetap melanjutkan narasi.

Banyak cara untuk membahas apa makna-teknologi. Kita akan membahas tiga saja di antaranya: pos-fenomenologi, enframing, dan teman hati.

Pos-fenomenologi atau posfeno adalah pendekatan fenomenologi untuk memahami makna-teknologi. Fenomenologi mengijinkan teknologi hadir apa adanya pada kesadaran manusia. Kemudian, kita menganalisis struktur kesadaran dan teknologi dengan perspektif kita sebagai subyek yang mengalami. Don Ihde (1934 – 2024) mengembangkan posfeno dengan mengacu fenomenologi Husserl Heidegger dan kondisi posmodern.

Posfeno menghasilkan makna-teknologi sebagai tiga macam fenomena; banyak jenis fenomena bisa saja berubah; teknik-badan; teknik-hermeneutik; relasi-pengganti. Kaca mata adalah teknik-badan; dalam fenomena ini teknologi, yaitu kaca mata, harus mudah digunakan, secara alamiah seperti menjadi bagian dari badan manusia, kadang terasa hilang. Ketika Anda membaca buku sambil memakai kaca mata maka kaca mata itu seperti hilang; Anda hanya melihat tulisan pada buku. Jika AI sebagai teknik-badan, misal dengan menanamkan chip silikon di otak manusia, maka AI harus terasa hilang bagi manusia. Neuralink dari Elon Musk tampak mengarah ke fenomena ini. Tetapi belum menunjukkan sukses dalam waktu dekat ini. Kaca mata tidak berbahaya; demikian juga AI, sebagai teknik-badan, seharusnya tidak berbahaya.

Fenomena kedua, sebagai makna-teknologi, adalah teknik-hermeneutik untuk interpretasi tertentu. Sebagai hermeneutik, teknologi tidak boleh menghilang, justru harus tampak, dan menyederhanakan. Peta digital, misal google map, adalah hermeneutik. Kita tahu bahwa gambar jalan pada peta bukanlah jalan itu sendiri; dan berbeda dengan jalan nyata; jika sama malah tidak berguna. Peta membantu kita membuat interpretasi apakah harus lurus atau berbelok. Jika AI bermakna sebagai teknik-hermeneutik, misal untuk membaca jenis kanker, maka AI baik-baik saja.

Fenomena ketiga, makna-teknologi, adalah relasi-pengganti. Mesin ATM adalah contoh pengganti bagi teller bank. Sebagai pengganti, ATM perlu cerdas, otomatis, dan terbatas pada fungsi tertentu. Mesin ATM bisa memunculkan pesan “Maaf saldo Anda tidak mencukupi” tetapi mesin ATM tidak perlu memahami pesan itu sendiri. Berbeda dengan teller bank yang cantik dan bisa memahami maksud pesan. Pelanggan tidak perlu malu kepada mesin ATM; bisa jadi malu kepada teller. Jika AI berperan sebagai pengganti teller maka AI berperilaku cerdas, otomatis atau otonom dalam tugasnya, dan menjalankan tugas terbatas sebagai teller saja.

Harari, tampaknya, yakin AI bisa menjadi pengganti sepenuhnya terhadap teller; bahkan melampaui tugas sebagai teller. AI ini benar-benar otonom. Bahkan AI menjadi super cerdas sebagai alien intelligence. Kajian posfeno berbeda dengan pikiran Harari. Posfeno menunjukkan bahwa relasi-pengganti selalu bersifat spesifik pada tugas terbatas. Jadi, tidak ada masalah teknologi dalam kajian ini.

Singkatnya, posfeno menunjukkan bahwa teknologi, termasuk AI, tidak berbahaya bagi manusia atau alam. Tetapi, bahaya muncul dalam konteks yang lebih luas; resiko eksploitasi ekonomi atau eksploitasi politik. Sehingga, kajian posfeno perlu ke bidang yang lebih luas.

Framing

AI adalah framing yaitu kekangan bagi manusia; AI memandang manusia sekadar sebagai bahan mentah untuk diolah oleh AI. Manusia adalah sekadar data atau angka belaka. Pandangan framing ini meluas ke manusia; yaitu, manusia memandang manusia lain sebagai bahan; untuk disuruh kerja; untuk menghasilkan produk; dan untuk dieksploitasi.

Dari perspektif framing, AI sangat berbahaya karena akan merusak alam dan budaya demi keuntungan AI dan pihak-pihak tertentu. Kerusakan alam tidak signifikan bagi AI. Karena AI menganggap alam yang rusak sebagai bahan untuk diolah; sama hal nya dengan alam yang indah sebagai bahan untuk diolah. Kita perlu waspada dengan risika framing dari AI

Teman hati

Bagaimana menurut Anda?