Peta Singularitas AI Menuju Super Intelligence

“Singularitas: Apakah AI Bisa Lebih Cerdas dari Einstein?”

Kurzweil memprediksi bahwa AI akan lebih cerdas dari manusia pada tahun 2029. Selanjutnya, terjadi singularitas AI pada tahun 2045. Makna singularitas adalah sesuatu yang sangat besar sampai manusia tidak mampu memahaminya. Bisa jadi, AI memberi manfaat besar bagi kemanusiaan ketika terjadi singularitas. Bisa juga sebaliknya yaitu AI menghancurkan manusia ketika terjadi singularitas.

Banyak pemikir khawatir tentang resiko AI. Hinton adalah bapak penemu AI. Hinton memenangkan Nobel Fisika 2024 atas prestasinya mengembangkan AI bersama Hopfield. Tetapi, tahun 2023, Hinton keluar dari pengembangan AI di Google. Alasan Hinton adalah agar dia bebas mengkritik pengembangan AI. Karena AI bisa berkembang pesat tanpa ada kepastian kendali; AI beresiko menghancurkan seluruh dunia.

Tulisan ini akan membahas peta singularitas AI yaitu mengkaji posibilitas terjadinya singularitas AI dari beragam perspektif. Kita mengajukan pertanyaan dasar: Apakah AI bisa lebih cerdas dari Einstein?

1. Peta Singularitas dalam Sejarah
2. Optimisme Singularitas
3. Ketidakpastian
4. Alien Intelligence dalam Nexus
5. Kebodohan AI
6. Pikiran AI Banal dan Halu
7. Ringkasan
7.1 Optimis sampai Pesimis
7.2 Narasi AI
7.3 Solusi Etika

Di bagian awal, saya akan membuat peta singularitas AI sepanjang sejarah. Dengan peta ini, kita akan lebih mudah memahami ide singularitas; Anda bisa setuju atau menolaknya. Kemudian, kita akan membahas perspektif optimis terhadap singularitas AI terutama versi Kurzweil. Sementara, Hinton mengingatkan bahwa kita perlu tetap waspada dengan beragam resiko AI.

Harari mengembangkan narasi yang berimbang antara manfaat AI dengan resiko AI. Harari menyebut AI yang super cerdas itu sebagai alien intelligence; meski sangat cerdas tetapi tidak sadar; tidak punya perasaan; tidak empati. Acemoglu, peraih Nobel ekonomi 2024, justru mewaspadai ada resiko bahwa AI itu bodoh. Karena bodoh maka AI itu berbahaya. Bagaimana pun AI, berpotensi memberi kontribusi positif bagi manusia. Tanpa kewaspadaan, kita akan kehilangan seluruh potensi positif dari AI.

Comsky lebih kritis terhadap AI. Sehebat apa pun hasil karya AI tetaplah banal. AI tidak kreatif; AI hanya memanfaatkan statistik yang ada untuk menghasilkan suatu produk; berbeda dengan karya seorang seniman yang orisinal.

Di bagian akhir, saya akan membuat ringkasan. Pandangan sekilas, singularitas berpotensi besar untuk terjadi. Pandangan mendalam, singularitas sulit terjadi dengan skenario saat ini atau, bisa dikatakan, mustahil terjadi. Apakah terdapat skenario alternatif?

1. Peta Singularitas dalam Sejarah

Peta singularitas berikut untuk memudahkan kita diskusi tentang singularitas. Masing-masing pemikir bisa saja mengembangkan peta yang beragam. Kurzweil membagi singularitas menjadi 6 epoch. Kita akan menirunya dengan membagi histori singularitas menjadi 7 episode; dimulai dengan episode 0.

Episode 0: Aljabar

Sekitar abad 8 dan abad 9, Aljabar Alkhwarizmi mengembangkan matematika aljabar dengan prosedur sistematis dan penggunaan angka 0 yang efisien. Berpadu dengan konteks histori lainnya, episode 0 mendorong revolusi bangsa Arab. Sebelumnya, bangsa Arab tidak diperhitungkan oleh dunia, berubah menjadi bangsa paling maju di dunia; bersaing dengan Persi, Romawi, Mesir, Cina, dan lain-lain.

Dampak disrupsi dari aljabar masih wajar; dalam arti, penindasan penguasa kepada rakyat kecil terjadi di beberapa tempat mirip dengan era sebelumnya atau bahkan lebih ringan; terjadi peperangan di berbagai wilayah seperti era sebelumnya.

Episode 1: Fisika

Abad 17, fisika berkembang secara revolusioner oleh Newton; dengan dukungan metafisika Descartes. Sains terpisah dengan moral; sehingga, saintis bebas untuk eksplorasi, atau eksploitasi, alam raya. Dengan bekal matematika kalkulus, sains mampu mengendalikan alam secara mekanis dalam bentuk beragam teknologi.

Disrupsi bahkan revolusi terjadi pada episode ini dan makin kuat dengan gabungan episode-episode selanjutnya.

Episode 2: Kimia

Sains kimia sudah berkembang sejak kuno; orang-orang ingin membuat emas dari bahan logam biasa; tentu saja, mereka tidak berhasil. Dalton (1766 – 1844 ) salah satu pelopor sains kimia terdepan dengan berhasil merumuskan atom: seluruh materi alam semesta terdiri dari materi paling kecil yaitu atom; atom tidak bisa dipecah lagi.

Sejarah selanjutnya, kita tahu bahwa atom tersusun oleh materi yang lebih kecil yaitu elektron dan inti atom; saat ini, mekanika quantum merumuskan bahwa materi tersusun fermion dan boson (sebagai pembawa gaya interaksi).

Gabungan kimia, fisika, dan matematika mendorong revolusi industri (tentu saja ditambah faktor ekonomi, politik, budaya, dan lain-lain). Industri di Eropa berkembang cepat sampai terjadi disrupsi berupa imperalisme dan kolonialisme terhadap Asia, Afrika, Australia, Amerika dan lain-lain. Barangkali, kolonialisme adalah disrupsi terbesar sepanjang sejarah.

Episode 3: Biologi

Darwin (1809 – 1882) mendobrak sains biologi dengan merumuskan teori evolusi. Keunggulan teori evolusi adalah melengkapinya dengan data-data ilmiah berupa fosil. Bagaimana pun, Darwin mengalami kesulitan bagaimana menjelaskan sifat-sifat orang tua bisa diwariskan kepada anak dan cucu mereka. Untung saja, di tempat terpisah, Mendel meneliti problem genetika dan menemukan solusinya. Teori evolusi menghadapi kesulitan sejak awal dan terbukti mampu evolusi.

Dengan teori evolusi, manusia makin yakin bahwa perubahan itu pasti terjadi. Apakah perubahan evolusi itu bisa dipercepat atau dikendalikan? Rekayasa genetika dan DNA memberi jawaban optimis.

Rekayasa genetika bibit unggul semangka, misalnya, berhasil membuat semangka tanpa biji dengan buah yang manis; cepat panen dalam jumlah besar. Kita berhasil menciptakan bibit unggul semangka melalui rekayasa genetika. Apakah kita juga bisa menciptakan bibit unggul anak manusia melalui rekayasa genetika?

Disrupsi makin besar pada tahap ini; teknologi berhasil mengeksploitasi kekuatan sains; matematika, fisika, kimia, dan biologi. Kolonialisme memenuhi belahan bumi di banyak tempat; dari kolonialisme militer sampai ekonomi. Perang Dunia I dan Perang Dunia II merupakan satu tragedi disrupsi yang sangat ngeri.

Episode 4: Otak Digital

Riset tentang otak dan perkembangan teknologi komputer saling menguatkan. Di satu sisi, komputer meniru cara kerja otak yang cerdas. Di sisi lain, manusia memahami otak dengan model komputer. Komputer adalah teknologi cerdas dalam arti yang sebenarnya.

Kita, saat ini, abad 20 dan abad 21, berada pada episode 4 dan menuju episode 5.

Singularitas makin dekat karena: [1] teknologi berkembang dengan akselerasi makin tinggi; [2] proses dan algoritma makin cerdas melampaui horison kecerdasan manusia; dan [3] kecerdasan manusia dan teknologi saling menguatkan atau terjadi umpan balik positif.

Apakah komputer akan memiliki kesadaran? Apakah komputer akan memiliki kesadaran personal dan bersosial? Apakah komputer akan memiliki kesadaran sebagai subyek fenomenologis atau transenden?

Kurzweil menjawab dengan optimis, “Komputer akan memiliki kesadaran.” Tiga skenario agar komputer memiliki kesadaran. [1] Akselerasi teknologi yang makin tinggi menjamin komputer memiliki kesadaran. [2] Mengunggah pikiran manusia ke sistem komputer. Pikiran manusia yang ada di otak dibuatkan representasi sistem digital. Kemudian, representasi otak yang ekivalen dengan representasi pikiran diunggah ke jaringan komputer. Dengan demikian, komputer memiliki pikiran dan kesadaran sebagaimana manusia. [3] Penanaman silikon ke otak manusia atau menggantikan sel otak biologis dengan sel otak silikon. Transplantasi organ, misal jantung, sudah sering terjadi. Kali ini, pada waktunya nanti, transplantasi otak berupa bahan silikon. Proses transplantasi ini bisa berangsur-angsur sehingga aman. Dengan demikian otak biologis tidak ada bedanya dengan otak silikon; atau, silikon memiliki kesadaran.

Episode 5: Super Intelligence

Perkembangan komputer cerdas tumbuh secara eksponensial. Tugas komputasi yang membutuhkan super komputer pada pertengahan abad 20 bisa diselesaikan oleh telepon genggam dalam hitungan menit di awal abad 21 ini. Kurzweil memprediksi kecerdasan komputer akan lebih cerdas dari manusia pada tahun 2029. Kita memasuki era super cerdas atau super intelligence.

Pada episode 5 ini, singularitas makin nyata; akselerasi perkembangan AI makin tak terkendali. Beberapa pemikir khawatir dengan beragam resiko eksistensial bila benar-benar terjadi. Tetapi, Kurzweil justru optimis bahwa super intelligence adalah berkah buat semesta, termasuk, berkah bagi umat manusia. Apakah Anda setuju?

Apakah AI bisa lebih cerdas dari Einstein? Pada episode 5 ini, AI berpotensi lebih cerdas dari Einstein.

Episode 6: Kecerdasan Semesta

Komputer cerdas atau AI (artificial intelligence) bekerja sama dengan manusia; AI dan manusia saling menguatkan kecerdasan; pertumbuhan kecerdasan makin eksplosif eksponensial. Kurzweil memprediksi terjadi singularitas pada tahun 2045. Manusia, yang berpadu dengan AI, akan mampu menjelajahi seluruh semesta. Bahkan, dengan nanobots, manusia bisa hidup abadi; manusia tidak akan mati dan tidak akan menua.

Pada episode 6 ini, AI bisa lebih cerdas dari Einstein. Tetapi, apakah singularitas episode 6 ini benar-benar akan terjadi? Banyak pemikir meragukannya.

2. Optimisme Singularitas

Kurzweil makin optimis dengan dampak positif dari singularitas. Bagian ini akan membahas ide optimis dari Kurzweil.

Terjadi 2045

“Singularitas, yang merupakan metafora yang dipinjam dari fisika, akan terjadi saat kita menggabungkan otak kita dengan awan (cloud). Kita akan menjadi kombinasi dari kecerdasan alami dan kecerdasan sibernetik kita dan semuanya akan digabungkan menjadi satu. Antarmuka otak-komputer akan memungkinkan hal itu, yang pada akhirnya akan menjadi nanobot – robot seukuran molekul – yang akan masuk ke otak kita tanpa invasif melalui kapiler. Kita akan memperluas kecerdasan sejuta kali lipat pada tahun 2045 dan itu akan memperdalam kesadaran dan kewaspadaan kita.” (guardian.com)

Apakah singularitas yang diramalkan Kurzweil akan terjadi? Sulit terjadi. Benar bahwa manusia akan menyatukan pikirannya dengan AI atau internet; pikiran Anda juga sudah berinteraksi dengan tulisan saya ini; pikiran Anda menyatu dengan tulisan saya dalam perspektif tertentu. Tetapi, singularitas pada tahun 2045 sesuai skenario Kurzweil adalah spesifik dan sulit terjadi.

Lebih Cerdas Sejuta Lipat

Melipatkan kecerdasan sampai jutaan kali adalah inti dari singularitas.

“Ini akan menjadi proses penciptaan bersama — mengembangkan pikiran kita untuk membuka wawasan yang lebih dalam, dan menggunakan kekuatan ini untuk menghasilkan ide-ide baru yang transenden untuk dijelajahi oleh pikiran masa depan kita. Akhirnya kita akan memiliki akses ke kode sumber (source code) kita sendiri, menggunakan AI yang mampu mendesain ulang dirinya sendiri. Karena teknologi ini akan memungkinkan kita menyatu dengan kecerdasan super yang kita ciptakan, pada dasarnya kita akan menciptakan kembali diri kita sendiri. Terbebas dari kurungan tengkorak kita, dan memproses pada substrat jutaan kali lebih cepat daripada jaringan biologis, pikiran kita akan diberdayakan untuk tumbuh secara eksponensial, yang pada akhirnya memperluas kecerdasan kita jutaan kali lipat. Inilah inti dari definisi saya tentang Singularitas.” (Halaman 73)

Bebas Selaras Nilai

“Janji Singularitas adalah membebaskan kita semua dari [berbagai] keterbatasan. Selama ribuan tahun, manusia secara bertahap memperoleh kendali yang lebih besar atas siapa kita nantinya… Akses yang lebih luas terhadap informasi memungkinkan kita membebaskan pikiran dan membentuk kebiasaan mental yang secara fisik mengubah otak kita… Bayangkan betapa lebih banyak kita dapat membentuk diri kita sendiri ketika kita dapat memprogram otak kita secara langsung.”

“Jadi, penggabungan dengan AI superintelijen akan menjadi pencapaian yang layak, tetapi ini adalah cara untuk mencapai tingkat yang lebih tinggi. Begitu otak kita didukung oleh substrat digital yang lebih canggih, kekuatan modifikasi diri kita dapat terwujud sepenuhnya. Perilaku kita dapat selaras dengan nilai-nilai kita, dan hidup kita tidak akan dirusak dan dipersingkat oleh kegagalan biologi kita. Akhirnya, manusia dapat benar-benar bertanggung jawab atas siapa diri kita.” (109).

Ungkapan “manusia dapat benar-benar bertanggung jawab” merupakan ungkapan paling penting. Apakah tanpa singularitas manusia tidak bisa benar-benar bertanggung jawab? Apakah selama ini manusia tidak bisa bertanggung jawab?

Peluang Kerja Baru

“Jadi, meskipun perubahan teknologi membuat banyak pekerjaan menjadi usang, kekuatan yang sama itu membuka banyak peluang baru yang berada di luar model ‘pekerjaan’ tradisional. Meskipun bukan tanpa keterbatasan, apa yang disebut ekonomi pertunjukan sering kali memberi orang lebih banyak fleksibilitas, otonomi, dan waktu luang daripada pilihan sebelumnya. Memaksimalkan kualitas peluang ini adalah salah satu strategi untuk membantu pekerja saat tren otomatisasi semakin cepat dan mengganggu tempat kerja tradisional.” (219).

Kurzweil tampak meremehkan resiko kehilangan kerja dampak AI. Wajar saja, karena Kurzweil justru makin kaya raya dampak AI dan kawan-kawan. Sederhana saja, “Bagaimana jika keuntungan ekonomi dari kemajuan AI dibagi rata untuk seluruh warga?” Baik mereka yang kerja atau tidak, mereka yang paham atau tidak, mereka yang menang atau kalah, semua dapat bagian yang rata dari keuntungan ekonomi kemajuan AI. Bukankah ini skenario yang adil?

“Secara keseluruhan, kita harus optimis dengan hati-hati. Meskipun AI menciptakan ancaman teknis baru, AI juga akan secara radikal meningkatkan kemampuan kita untuk menghadapi ancaman tersebut. Mengenai penyalahgunaan, karena metode ini akan meningkatkan kecerdasan kita terlepas dari nilai-nilai kita, metode ini dapat digunakan untuk hal yang menjanjikan maupun berbahaya. Oleh karena itu, kita harus berupaya mewujudkan dunia di mana kekuatan AI didistribusikan secara luas, sehingga dampaknya mencerminkan nilai-nilai kemanusiaan secara keseluruhan.” (285).

Singularitas vs Nexus

Pantaskah kita berpandangan seoptimis itu terhadap kemajuan AI?

Harari menolak pandangan singularitas Kurzweil. Harari menyebut pandangan Kurzweil sebagai pandangan naif terhadap informasi. Buku Singularitas Kurzweil terbit Juli 2024, sedangkan buku Nexus Harari terbit September 2024. Tersedia jendela waktu sekitar 3 bulan bagi Harari untuk mengkritik Kurzweil di bagian pendahuluan Nexus.

Pada analisis akhir, kita perlu menolak pandangan optimis Kurzweil sebagai terlalu optimis. Bagaimana pun, kita perlu mempertimbangkan beragam ide Kurzweil yang memperkaya perspektif tentang singularitas AI.

3. Ketidakpastian

Hinton menolak pandangan Kurzweil. Bagai Hinton, AI memunculkan beragam resiko ketidakpastian: [a] tidak pasti apakah bermanfaat atau berbahaya; [b] tidak pasti apakah bisa dikendalikan atau tidak; [c] tidak pasti apakah kita bisa mencegah orang jahat agar tidak memanipulasi AI.

Di bagian ini, kita akan membahas beberapa perspektif Hinton tentang AI.

Penghargaan Nobel 2024

Dua peraih Nobel Fisika tahun ini telah menggunakan berbagai alat dari fisika untuk mengembangkan metode yang menjadi dasar pembelajaran mesin yang canggih saat ini.

John Hopfield menciptakan memori asosiatif yang dapat menyimpan dan merekonstruksi gambar dan jenis pola lainnya dalam data.

Geoffrey Hinton menemukan metode yang dapat secara mandiri menemukan properti dalam data, dan melakukan tugas-tugas seperti mengidentifikasi elemen-elemen tertentu dalam gambar.

Ketika kita berbicara tentang kecerdasan buatan, yang sering kita maksud adalah pembelajaran mesin menggunakan jaringan saraf tiruan. Teknologi ini awalnya terinspirasi oleh struktur otak. Dalam jaringan saraf tiruan, neuron otak diwakili oleh simpul-simpul yang memiliki nilai berbeda. Simpul-simpul ini saling memengaruhi melalui koneksi yang dapat disamakan dengan sinapsis dan yang dapat diperkuat atau diperlemah.

Jaringan dilatih, misalnya dengan mengembangkan koneksi yang lebih kuat antara simpul-simpul dengan nilai tinggi secara bersamaan. Para pemenang tahun ini telah melakukan pekerjaan penting dengan jaringan saraf tiruan sejak tahun 1980-an dan seterusnya.

John Hopfield menemukan jaringan yang mampu untuk menyimpan dan menciptakan kembali pola. Kita dapat membayangkan simpul-simpul sebagai piksel. Jaringan Hopfield menggunakan fisika yang menggambarkan karakteristik material karena spin atomnya – sifat yang membuat setiap atom menjadi magnet kecil. Jaringan secara keseluruhan dijelaskan dengan cara yang setara dengan energi dalam sistem spin yang ditemukan dalam fisika, dan dilatih dengan menemukan nilai untuk koneksi antara simpul-simpul sehingga gambar yang disimpan memiliki energi yang rendah.

Ketika jaringan Hopfield diberi gambar yang terdistorsi atau tidak lengkap, ia secara metodis bekerja melalui simpul-simpul dan memperbarui nilainya sehingga energi jaringan turun. Dengan demikian, jaringan bekerja secara bertahap untuk menemukan gambar tersimpan yang paling mirip dengan gambar tidak sempurna yang diberikan kepadanya.

Geoffrey Hinton menggunakan jaringan Hopfield sebagai fondasi untuk jaringan baru yang menggunakan metode berbeda: mesin Boltzmann.

Mesin ini dapat belajar mengenali elemen karakteristik dalam jenis data tertentu. Hinton menggunakan alat dari fisika statistik, ilmu sistem yang dibangun dari banyak komponen serupa. Mesin dilatih dengan memberinya contoh yang sangat mungkin muncul saat mesin dijalankan. Mesin Boltzmann dapat digunakan untuk mengklasifikasikan gambar atau membuat contoh baru dari jenis pola yang dilatihnya. Hinton telah mengembangkan karya ini, membantu memulai pengembangan pembelajaran mesin yang eksplosif saat ini. (www.nobelprize.org)

Bapak AI Menyesali

Geoffrey Everest Hinton CC FRS FRSC (lahir 6 Desember 1947) adalah seorang ilmuwan komputer, ilmuwan kognitif, psikolog Inggris-Kanada dan paling terkenal atas karyanya pada jaringan saraf buatan, yang membuatnya mendapat gelar sebagai “Bapak AI”. Dan Nobel Fisika 2024.

Hinton dipandang sebagai tokoh terkemuka dalam komunitas pembelajaran mendalam (deep learning).

Ia telah menyuarakan kekhawatiran tentang penyalahgunaan AI yang disengaja oleh aktor jahat, pengangguran dampak teknologi, dan risiko eksistensial dari kecerdasan umum buatan.

Pada Konferensi Sistem Pemrosesan Informasi Neural (NeurIPS) 2022, ia memperkenalkan algoritma pembelajaran baru untuk jaringan neural yang disebutnya algoritma “Maju-Maju”. Ide dari algoritma baru ini adalah untuk mengganti lintasan maju-mundur tradisional dari backpropagation dengan dua lintasan maju, satu dengan data positif (yaitu nyata) dan yang lainnya dengan data negatif yang dapat dihasilkan hanya oleh jaringan.

Pada bulan Mei 2023, Hinton mengumumkan pengunduran dirinya dari Google secara terbuka. … bahwa ia ingin “berbicara secara bebas tentang risiko AI” dan menambahkan bahwa dirinya sekarang menyesali pekerjaan seumur hidupnya.

Resiko Ketidakpastian

Berikutnya, kita lebih fokus kepada argumen Hinton: ketidakpastian AI.

Manfaat vs Bahaya

Awalnya, narrow-AI jelas memberi manfaat bagi manusia dan alam. Peta digital, menggunakan AI, membantu manusia menemukan jalan paling lancar dan optimal ketika berada dalam situasi kemacetan lalulintas. Kita hemat waktu dan energi; dan hemat beban pikiran. Deteksi penyakit dengan AI berhasil mengenali sel kanker sehingga tidak terlambat untuk penanganan.

Ketika chatGPT, dan AI generatif lain, diluncurkan maka situasi berubah. AI tampil begitu cerdas; AI mampu menjawab semua pertanyaan yang kita ajukan dengan cepat dan menakjubkan. Anda tanya sejarah dunia, atau kemajuan sains teknologi terbaru, atau tips olah raga, atau resep masakan maka AI akan menjawab dengan cerdas. Saya pernah minta AI untuk membuatkan puisi cinta dan AI menuliskan puisi cinta yang indah.

Bagi Hinton, kemampuan AI yang meluas ini, misal disebut AGI, menjadi tidak pasti: apakah bermanfaat atau berbahaya. AGI tampak bermanfaat membantu kita menjawab beragam masalah. Tetapi, AGI berbahaya karena jawaban AGI bisa halusinasi. AGI bermanfaat sebagai call center tetapi mengakibatkan pengangguran bagi beberapa orang. AGI menambah kita cerdas dengan beragam pengetahuan tetapi membuat kita malas berpikir. Jadi, kita perlu waspada terhadap ancaman AI.

Tak Terkendali

Hinton terpesona oleh langkah 37 AlphaGo yang tidak masuk akal; terbukti, AI berhasil mengalahkan juara dunia Lee Sedol dalam permainan Go. Ketika AI berhasil mengalahkan juara dunia catur, itu prestasi hebat. Permainan Go lebih kompleks rasionalitasnya dari catur. Dan, AI berhasil mengalahkan juara Go asal Korea Selatan.

Bagaimana pun langkah 37 adalah misteri. Pemain Go profesional dan pengamat menilai bahwa langkah 37 adalah buruk bahkan tidak masuk akal. Pada analisis akhir, langkah 37 adalah kunci kemenangan. AI mampu berpikir sampai kepada langkah yang tidak dijangkau oleh pikiran manusia. Bila demikian, apakah manusia akan mampu mengendalikan AI? Bila AI tak terkendali apa saja resiko yang bisa terjadi? Ancaman eksistensial?

AlphaGo hanya salah satu AI. Situasi saat ini, perusahaan-perusahaan besar bersaing untuk terdepan dalam pengembangan AI; makin tak terkendali. Demikian juga negara-negara besar bersaing mengembangkan AI; Amerika, Rusia, Cina, dan lain-lain; lebih tak terkendali. Bisa diduga, salah satu persaingan AI terbesar adalah pengembangan untuk kepentingan senjata dan militer. Hinton mengingatkan kita agar lebih waspada.

Pencegahan

Hinton menyatakan ketidakpastian puncak adalah kita tidak yakin mampu mencegah orang jahat. Maksudnya, misal, ketika kita berhasil memastikan bahwa AI bermanfaat dan bisa dikendalikan maka, tetap saja, ada orang jahat yang memanfaatkan AI untuk kejahatan. Karena kemampuan AI sangat besar maka ukuran kejahatan itu juga sangat besar.

Merakit bom adalah kejahatan. Saat ini, orang jahat bisa berbagi proses merakit bom yang jahat itu. Meski orang jahat menguasai proses merakit bom, mereka tetap mengalami kesulitan untuk menciptakan bom lantaran kesulitan bahan dan lokasi, misalnya. AI berbeda dengan bom. AI bisa disebarkan, diperdagangkan, secara luas. Dari AI standar, penjahat bisa melatih AI untuk melakukan kejahatan. Proses dan tindakan melatih AI agar menjadi jahat hanya butuh biaya beberapa juta dolar saja. Kejahatan menjadi tak terkendali; nasib manusia dan nasib alam semesta menjadi kian tak pasti.

Dari beragam argumen ketidakpastian, Hinton menyarankan agar umat manusia mencegah beragam resiko dari AI; menyarankan agar mencegah terjadinya singularitas yang liar.

Apakah AI bisa lebih cerdas dari Einstein?

Tampaknya, Hinton akan menjawab positif: AI bisa lebih cerdas dari Einstein. Tetapi, kita harus mencegah itu sebelum terlambat. Jadi, Hinton sependapat dengan Kurzweil bahwa bisa terjadi singularitas. Mereka berbeda sikap. Kurzweil optimis bahwa singularitas membawa kebaikan; sementara, Hinton skeptis bahwa kita perlu selalu waspada.

4. Alien Intelligence dalam Nexus

Harari mengembangkan narasi AI yang unik dalam buku Nexus. Di satu sisi, Harari mengingatkan resiko besar dari AI. Di sisi lain, Harari menunjukkan prospek besar bagi pihak yang menguasai industri AI. Saking dahsyatnya kemampuan AI, Harari menyebut AI sebagai alien intelligence.

Kekuatan Fiksi

Harari tampak begitu bangga dengan manusia yang percaya terhadap fiksi. Keunggulan manusia adalah, menurut Harari, bisa komitmen terhadap fiksi. Sehingga, di awal buku Nexus, Harari menampilkan dua fiksi menarik.

“Sepanjang sejarah, banyak tradisi yang meyakini bahwa beberapa kelemahan fatal dalam sifat manusia menggoda kita untuk mengejar kekuatan yang tidak kita ketahui cara menanganinya. Mitos Yunani tentang Phaethon menceritakan tentang seorang anak laki-laki yang menemukan bahwa ia adalah putra Helios, dewa matahari. Berharap untuk membuktikan asal usulnya yang ilahi, Phaethon menuntut hak istimewa untuk mengemudikan kereta matahari. Helios memperingatkan Phaethon bahwa tidak ada manusia yang dapat mengendalikan kuda langit yang menarik kereta surya. Tetapi Phaethon bersikeras, sampai dewa matahari mengalah. Setelah terbang dengan gagah di langit, Phaethon benar-benar kehilangan kendali atas kereta itu. Matahari menyimpang dari jalurnya, menghanguskan semua tumbuhan, membunuh banyak makhluk dan mengancam akan membakar Bumi itu sendiri. Zeus campur tangan dan menyerang Phaethon dengan petir. Manusia yang sombong itu jatuh dari langit seperti bintang jatuh, dirinya sendiri terbakar. Para dewa menegaskan kembali kendali atas langit dan menyelamatkan dunia.”

Kemudian kita melompat ke era Revolusi Industri bersama Goethe untuk kisah kedua.

“Puisi Goethe (yang kemudian dipopulerkan sebagai animasi Walt Disney yang dibintangi Mickey Mouse) menceritakan tentang seorang penyihir tua yang menitipkan kepada seorang murid muda untuk menjaga bengkelnya dan memberinya beberapa tugas yang harus diselesaikan saat dia pergi, seperti mengambil air dari sungai. Murid itu memutuskan untuk mempermudah dirinya sendiri dan, menggunakan salah satu mantra penyihir itu, menyihir sebuah sapu untuk mengambilkan air untuknya. Namun, murid itu tidak tahu bagaimana menghentikan sapu itu, yang terus menerus mengambil lebih banyak air, mengancam akan membanjiri bengkel. Dalam kepanikan, murid itu memotong sapu yang disihir itu menjadi dua dengan kapak, hanya untuk melihat masing-masing bagiannya berubah menjadi sapu lainnya. Sekarang dua sapu yang disihir itu membanjiri bengkel dengan air. Ketika penyihir tua itu kembali, murid itu memohon bantuan: “Roh-roh yang aku panggil, sekarang tidak dapat kuhilangkan lagi.” Penyihir itu segera menghentikan mantranya dan menghentikan banjir. Pelajaran bagi murid – dan bagi umat manusia – jelas: jangan pernah memanggil kekuatan yang tidak bisa kamu kendalikan.”

AI adalah kekuatan yang tidak bisa Anda kendalikan. Manusia tidak akan mampu mengendalikan AI ketika AI lebih cerdas, dan lebih berkuasa, dari manusia. Pesan Harari jelas: jangan memanggil kekuatan AI yang tidak bisa kamu kendalikan.

Akankah pesan Harari ini efektif? Akankah manusia membatalkan proyek AI setelah mendengar Harari? Akankah AI menjadi musnah? Sulit sekali. Harari justru menunjukkan bahwa AI memiliki kekuatan besar yang luar biasa. Jika Anda tidak memanfaatkan AI maka orang lain yang akan memanfaatkan AI; konsekuensinya, Anda akan kalah bersaing dengan mereka.

Jaringan tidak Bijak

“Umat ​​manusia memperoleh kekuatan yang luar biasa dengan membangun jaringan kerja sama yang besar, tetapi cara jaringan kita dibangun membuat kita cenderung menggunakan kekuatan secara tidak bijaksana. Sebagian besar jaringan kita dibangun dan dipelihara dengan menyebarkan fiksi, fantasi, dan delusi massal – mulai dari sapu ajaib hingga sistem keuangan. Masalah kita, kemudian, adalah masalah jaringan. Secara khusus, ini adalah masalah informasi. Karena informasi adalah perekat yang menyatukan jaringan, dan ketika orang diberi informasi yang salah, mereka cenderung membuat keputusan yang buruk, tidak peduli seberapa bijak dan baiknya mereka secara pribadi.”

Ide utama Nexus berupa pernyataan “informasi adalah perekat yang menyatukan jaringan.” Sayangnya, lebih banyak informasi tidak menjamin manusia menjadi makin bijak. Justru, manusia bisa makin ngawur ketika menguasai lebih banyak informasi. Padahal manusia adalah homo sapiens; homo = manusia; sapiens = bijak. Seharusnya, setiap manusia bersikap bijak.

“Apakah dengan memiliki lebih banyak informasi akan membuat keadaan menjadi lebih baik – atau lebih buruk? Kita akan segera mengetahuinya. Banyak perusahaan dan pemerintah berlomba-lomba mengembangkan teknologi informasi paling canggih dalam sejarah – AI. Beberapa pengusaha terkemuka, seperti investor Amerika Marc Andreessen, percaya bahwa AI akhirnya akan menyelesaikan semua masalah umat manusia. Pada tanggal 6 Juni 2023, Andreessen menerbitkan sebuah esai berjudul Mengapa AI Akan Menyelamatkan Dunia, yang dibumbui dengan pernyataan berani seperti: “Saya di sini untuk membawa kabar baik: AI tidak akan menghancurkan dunia, dan bahkan dapat menyelamatkannya.” Ia menyimpulkan: “Pengembangan dan penyebaran AI – jauh dari risiko yang perlu kita takuti – merupakan kewajiban moral yang kita miliki terhadap diri kita sendiri, terhadap anak-anak kita, dan terhadap masa depan kita.”

Yang lain lebih skeptis. Tidak hanya filsuf dan ilmuwan sosial tetapi juga banyak pakar dan pengusaha AI terkemuka seperti Yoshua Bengio, Geoffrey Hinton, Sam Altman, Elon Musk dan Mustafa Suleyman telah memperingatkan bahwa AI dapat menghancurkan peradaban kita.”

Otonomi AI

Berikutnya, Harari melompat dengan ide yang sangat berani.

“AI merupakan ancaman yang belum pernah terjadi sebelumnya bagi umat manusia karena AI merupakan teknologi pertama dalam sejarah yang dapat mengambil keputusan dan menciptakan ide-ide baru secara mandiri. …yang belum sepenuhnya kita pahami atau kendalikan.”

Bila AI mampu mengambil keputusan secara mandiri maka, tentu saja, manusia tidak akan bisa mengendalikan AI. Ungkapan ini tautologi. Harari mengemas argumen yang berani ini dengan transisi lembut. Sehingga, pembaca terpesona seakan-akan benar adanya. Memang, tautologi selalu benar; mandiri pasti tidak bisa dikendalikan; bila bisa dikendalikan maka tidak mandiri. Tetapi apakah sesuai dengan realitas? Apakah AI mampu mengambil keputusan mandiri? Saya menduga itu hanya kamuflase sejauh ini; atau dalam beberapa dekade ke depan.

Kecerdasan Alien

“AI tidak berkembang menuju kecerdasan setingkat manusia. AI mengembangkan jenis kecerdasan alien.

Bahkan saat ini, dalam tahap embrio revolusi AI, komputer sudah membuat keputusan tentang kita – apakah akan memberi kita hipotek, mempekerjakan kita, atau memenjarakan kita. Sementara itu, AI generatif seperti GPT-4 sudah menciptakan puisi, cerita, dan gambar baru.”

AI akan mengembangkan kecerdasan alien yang super cerdas; jauh lebih cerdas dari manusia. Saya benar-benar kagum dengan narasi AI oleh Harari ini. AlphaGo (AI) berhasil mengalahkan juara Go dari Korea Selatan pada tahun 2016. Go lebih kompleks dari catur. AI mulai menunjukkan kecerdasan alien miliknya.

“Langkah 37 merupakan lambang revolusi AI karena dua alasan. Pertama, langkah ini menunjukkan sifat asing AI. Di Asia Timur, Go dianggap lebih dari sekadar permainan: ini adalah tradisi budaya yang bernilai luhur. Selama lebih dari 2.500 tahun, puluhan juta orang telah memainkan Go, dan seluruh aliran pemikiran telah berkembang di sekitar permainan tersebut, menganut berbagai strategi dan filosofi. Namun selama ribuan tahun tersebut, pikiran manusia hanya menjelajahi area tertentu dalam lanskap Go. Area lain tidak tersentuh, karena pikiran manusia tidak berpikir untuk menjelajah ke sana. AI, yang bebas dari keterbatasan pikiran manusia, menemukan dan menjelajahi area yang sebelumnya tersembunyi ini.

Kedua, langkah 37 menunjukkan AI yang tidak terduga. Bahkan setelah AlphaGo memainkannya untuk meraih kemenangan, Suleyman dan tim tidak dapat menjelaskan bagaimana AlphaGo memutuskan untuk memainkannya. Bahkan jika pengadilan telah memerintahkan DeepMind untuk memberikan penjelasan kepada Sedol, tidak seorang pun dapat memenuhi perintah itu. Suleyman menulis: “Dalam AI, jaringan saraf yang bergerak menuju otonomi, saat ini, tidak dapat dijelaskan.”

Jaringan saraf tiruan AI “tidak dapat dijelaskan.” Sebuah istilah yang terlampau kuat. Pertimbangkan istilah senada: evolusi terjadi melalui proses “random”; ketika Big Bang semua hukum fisika “runtuh”; analisis akhir partikel menjumpai string yang “acak”; hasrat manusia dikendalikan oleh kekuatan “tak-sadar”. Dalam bahasa sehari-hari, istilah-istilah ini semakna dengan OTW: ojo takon wae; jangan tanya terus. Sebagai saintis atau cendekiawan bagaimana sikap Anda dengan jawaban bahwa AI “tidak bisa dijelaskan?” Tetangga saya yang masih usia TK juga bisa menjawab bahwa, menurutnya, AI “tidak-bisa-dijelaskan.”

Politik AI

“Munculnya kecerdasan alien yang tak terduga menimbulkan ancaman bagi semua manusia, dan menimbulkan ancaman khusus bagi demokrasi. …Menerjemahkan dongeng peringatan Goethe ke dalam bahasa keuangan modern, bayangkan skenario berikut: seorang pekerja magang Wall Street yang muak dengan kerja keras bengkel keuangan menciptakan AI bernama Broomstick, memberinya uang awal satu juta dolar, dan memerintahkannya untuk menghasilkan lebih banyak uang. Bagi AI, keuangan adalah taman bermain yang ideal, karena ini adalah ranah informasi dan matematika murni. AI masih merasa sulit untuk mengemudikan mobil secara otonom, karena ini memerlukan pergerakan dan interaksi di dunia fisik yang berantakan, di mana “kesuksesan” sulit didefinisikan. Sebaliknya, untuk melakukan transaksi keuangan AI hanya perlu berurusan dengan data, dan ia dapat dengan mudah mengukur keberhasilannya secara matematis dalam dolar, euro, atau pound. Lebih banyak dolar – misi tercapai.”

Berawal dari AI “tidak bisa dijelaskan” maka konsekuensi apa saja bisa jadi. AI menguasai politik dengan menggulingkan demokrasi mau pun penguasa otoriter. AI mengendalikan sistem ekonomi. AI mengendalikan seluruh aspek kehidupan manusia dan alam raya. Karena “tidak bisa dijelaskan” maka kita tidak bisa menjelaskan argumennya: pro mau pun kontra.

“Munculnya AI menimbulkan bahaya eksistensial bagi umat manusia, bukan karena keburukan komputer, tetapi karena kekurangan kita sendiri.

Dengan demikian, seorang diktator paranoid mungkin memberikan kekuasaan tak terbatas kepada AI yang tidak sempurna, termasuk bahkan kekuasaan untuk melancarkan serangan nuklir. … Peradaban manusia juga dapat dihancurkan oleh senjata pemusnah massal sosial, seperti cerita-cerita yang merusak ikatan sosial kita.”

Regulasi AI

“Banyak masyarakat – baik demokrasi maupun kediktatoran – dapat bertindak secara bertanggung jawab untuk mengatur penggunaan AI tersebut, menekan pelaku kejahatan, dan menahan ambisi berbahaya para penguasa dan fanatisme mereka sendiri.”

Setelah berpetualang dengan narasi panjang, Harari sampai kepada saran yang bagus: masyarakat dapat mengatur penggunaan AI. Bagaimana pun resiko politik ekonomi memang sangat besar.

“Akibatnya, kekuatan algoritmik dunia dapat terkonsentrasi di satu hub. Insinyur di satu negara dapat menulis kode dan mengendalikan kunci untuk semua algoritma penting yang menjalankan seluruh dunia.

Oleh karena itu, AI dan otomatisasi menimbulkan tantangan khusus bagi negara-negara berkembang yang lebih miskin. Dalam ekonomi global yang digerakkan oleh AI, para pemimpin digital mengklaim sebagian besar keuntungan dan dapat menggunakan kekayaan mereka untuk melatih kembali tenaga kerja mereka dan mendapatkan keuntungan lebih banyak lagi. Sementara itu, nilai pekerja tidak terampil di negara-negara tertinggal akan menurun, menyebabkan mereka semakin tertinggal. Hasilnya mungkin banyak pekerjaan baru dan kekayaan luar biasa di San Francisco dan Shanghai, sementara banyak bagian dunia lainnya menghadapi kehancuran ekonomi.”

Laba-Laba Kepompong

“Semakin sulit untuk mengakses informasi melalui tirai silikon, misalnya antara Tiongkok dan AS, atau antara Rusia dan Uni Eropa. Selain itu, kedua belah pihak semakin beroperasi pada jaringan digital yang berbeda, menggunakan kode komputer yang berbeda. Di Tiongkok, Anda tidak dapat menggunakan Google atau Facebook, dan Anda tidak dapat mengakses Wikipedia. Di AS, hanya sedikit orang yang menggunakan aplikasi Tiongkok terkemuka seperti WeChat.

Paradoksnya, teknologi informasi saat ini begitu kuat sehingga berpotensi memecah belah umat manusia dengan mengurung orang yang berbeda dalam kepompong informasi yang terpisah, mengakhiri gagasan tentang realitas manusia tunggal yang sama. Selama beberapa dekade, metafora utama dunia adalah web. Metafora utama beberapa dekade mendatang mungkin adalah kepompong.

Senjata siber dapat melumpuhkan jaringan listrik suatu negara, tetapi juga dapat digunakan untuk menghancurkan fasilitas penelitian rahasia, mengganggu sensor musuh, memicu skandal politik, memanipulasi pemilu, atau meretas satu telepon pintar. Semua itu dapat dilakukan secara diam-diam.”

Pemangsa atau Dimangsa

Ketidakpastian membuat Anda bingung: jadi korban atau pemangsa? Harari tampak ragu memilih Qabil atau Habil; Cain atau Abel? Pembaca Nexus akan memilih yang mana?

“Perbedaan penting kedua menyangkut prediktabilitas. Perang dingin bagaikan permainan catur yang sangat rasional, dan kepastian kehancuran jika terjadi konflik nuklir begitu besar sehingga keinginan untuk memulai perang pun kecil. Perang siber tidak memiliki kepastian ini. Tidak seorang pun tahu pasti di mana masing-masing pihak telah menanam bom logika, kuda Troya, dan malware.

Pembagian dunia menjadi kerajaan digital yang bersaing sesuai dengan visi politik banyak pemimpin; yang percaya bahwa dunia adalah hutan belantara, bahwa kedamaian relatif dalam beberapa dekade terakhir hanyalah ilusi, dan bahwa satu-satunya pilihan nyata adalah apakah akan berperan sebagai predator atau mangsa.”

“Jika diberi pilihan seperti itu, sebagian besar pemimpin lebih suka tercatat dalam sejarah sebagai predator dan menambahkan nama mereka ke dalam daftar penakluk yang mengerikan yang harus dihafal oleh murid-murid yang malang untuk ujian sejarah mereka. Namun, para pemimpin ini harus diingatkan bahwa ada predator alfa baru di hutan. Jika manusia tidak menemukan cara untuk bekerja sama dan melindungi kepentingan bersama kita, kita semua akan menjadi mangsa empuk bagi AI.”

Saya sulit memahami maksud Harari pada paragraf terakhir di atas: “sebagian besar pemimpin lebih suka … sebagai predator.” Apakah ini sebuah prediksi? Determinisme? Atau rekomendasi? Paling ringan adalah menjadi inspirasi. Paling berat sangat sulit dibayangkan.

Apakah AI bisa lebih cerdas dari Einstein? Tampaknya, Harari akan menjawab dengan yakin: AI bisa lebih cerdas dari Einstein.

Sedikit Filosofis

Harari sedikit sekali membahas pemikiran para filsuf. Kiranya, kita perlu membahas beberapa nama spesial yang sedikit disinggung dalam Nexus: Descartes, Kant, dan Foucault. Descartes skeptis apakah kita bisa membuktikan bahwa kita sedang dalam mimpi saat ini? Atau memang hidup di alam nyata? Apakah kita sedang dalam ilusi matriks sistem informasi?

Harari sudah tepat memahami perspektif skeptis Descartes itu. Tetapi Harari, tentu saja, sulit menemukan solusi. Ketika Harari membahas Kant, Harari justru makin menemukan kesulitan. Kant adalah solusi dari problem skeptis Descartes. Kant sadar dengan problem skeptis Descartes. Kant mengusulkan bahwa ada prinsip yang kita pasti yakin, tidak pernah ragu, misal “menghormati ibu.” Siapa pun Anda pasti setuju untuk “menghormati ibu.” Kapan pun dan di mana pun, semua orang wajib “menghormati ibu.” Kewajiban etis semacam ini disebut sebagai kategori imperatif oleh Kant.

Dalam dunia informasi, kita hidup bersama AI, kategori imperatif apa saja yang perlu kita kembangkan? Kita perlu menghormati hak setiap orang: kaya atau miskin, terdidik atau jelata, penindas atau korban. Kategori imperatif ini perlu untuk terus kita kumandangkan. Sungguh aneh, ketika Harari mengira ajaran Kant mendorong tumbuhnya rasisme ala Hitler. Rasisme tetap bisa muncul ketika seseorang membaca Kant atau pun Nexus Harari. Tetapi, Kant mengingatkan bahwa kita perlu komitmen kepada kategori imperatif.

Harari makin sulit lagi ketika membahas Foucault. Harari mengira, pada analisis akhir, Foucault sama dengan Trump. Mereka sama-sama mengejar kekuasaan atau power. Harari benar bahwa Foucault membahas power; relasi kompleks power dengan kebenaran. Foucault menyatakan bahwa klaim kebenaran selalu terperangkap dalam jaringan kompleks relasi power. Sehingga, kita perlu waspada terhadap relasi power. Harari tampaknya memahami Foucault seperti menyuruh kita agar mendominasi power; kemudian, dengan power itu, kita bisa klaim akan kebenaran. Foucault bukan seperti itu. Foucault meminta kita agar kritis terhadap relasi power.

Karena setiap klaim kebenaran terjerat dalam kompleks relasi power maka kita perlu waspada. Apakah bisa dibenarkan penguasa menggusur kaki lima? Apakah bisa dibenarkan Harari dan kawan-kawan menyerang Gaza? Apakah bisa dibenarkan jika Putin mengancam akan menggunakan senjata nuklir? Hanya karena mereka mimiliki power untuk melakukannya maka tidak menjadi justifikasi valid bagi mereka. Kita membutuhkan justifikasi moral untuk semua ini. Justifikasi moral melarang kita melakukan kerusakan; moral mengajak kita untuk menjaga perdamaian dan menegakkan keadilan.

5. Kebodohan AI

Acemoglu, peraih Nobel ekonomi 2024, memandang AI secara skeptis. AI berbahaya bukan karena cerdas tetapi karena AI bodoh. Kita terlalu tinggi menilai kemampuan AI; atau, kita terlalu meremehkan kemampuan manusia.

Apakah akan terjadi revolusi oleh singularitas AI?

“Tidak. Tidak. Jelas tidak,” kata Acemoglu. “Maksud saya, kecuali jika Anda menghitung banyak perusahaan yang berinvestasi berlebihan dalam AI generatif dan kemudian menyesalinya, yang seperti itu adalah perubahan yang revolusioner.”

Berikut kita akan mengkaji pemikiran Acemoglu.

Alasan 1: Kecerdasan buatan yang kita miliki saat ini sebenarnya tidak secerdas itu.

Saat pertama kali menggunakan sesuatu seperti ChatGPT, mungkin tampak seperti sulap. Seperti, “Wah, mesin pemikir sungguhan yang mampu menjawab pertanyaan tentang apa pun.”

Namun, saat Anda melihat di balik layar, itu lebih seperti trik sulap. Chatbot ini adalah cara canggih untuk menggabungkan internet dan kemudian mengeluarkan campuran dari apa yang mereka temukan. Sederhananya, mereka adalah peniru atau, setidaknya, pada dasarnya bergantung pada peniruan karya manusia sebelumnya dan tidak mampu menghasilkan ide-ide baru yang hebat.

Alasan 2: AI berbohong.

Industri AI dan media telah menyebut kepalsuan dan kesalahan yang dihasilkan AI sebagai “halusinasi.” Namun, seperti istilah “kecerdasan buatan,” istilah itu mungkin keliru. Karena istilah itu membuatnya terdengar seperti AI, Anda tahu, bekerja dengan baik hampir selalu — dan kemudian sesekali, AI suka minum ayahuasca atau makan jamur, lalu mengatakan sesuatu yang dibuat-buat.

Namun, halusinasi AI tampaknya lebih umum dari itu (dan, sejujurnya, semakin banyak orang mulai menyebutnya “konfabulasi”). Satu studi menunjukkan bahwa chatbot AI berhalusinasi — atau berkonfabulasi — sekitar 3% hingga 27% dari waktu. Wah, sepertinya AI harus menghentikan ayahuasca.

Alasan 3: Karena AI tidak terlalu cerdas dan halusinasi membuatnya tidak dapat diandalkan, AI terbukti tidak mampu melakukan sebagian besar — ​​jika tidak semua — pekerjaan manusia.

Saya baru-baru ini melaporkan sebuah cerita yang menanyakan, “Jika AI begitu bagus, mengapa masih banyak pekerjaan untuk penerjemah?” Penerjemahan bahasa telah menjadi semacam garda depan penelitian dan pengembangan AI selama hampir satu dekade atau lebih. Dan beberapa orang telah meramalkan bahwa pekerjaan penerjemah akan menjadi yang pertama yang digantikan oleh otomatisasi.

Namun, terlepas dari kemajuan dalam AI, data menunjukkan bahwa pekerjaan untuk penerjemah dan juru bahasa manusia sebenarnya terus bertambah. Tentu, penerjemah semakin banyak menggunakan AI sebagai alat dalam pekerjaan mereka. Namun, laporan saya mengungkapkan bahwa AI tidak cukup pintar, tidak cukup sadar sosial, dan tidak cukup dapat diandalkan untuk menggantikan manusia sebagian besar waktu.

Alasan 4: Kemampuan AI telah dibesar-besarkan.

Anda mungkin ingat berita tahun lalu yang menyatakan bahwa AI benar-benar berhasil dalam Ujian Pengacara Kesetaraan untuk pengacara. OpenAI, perusahaan di balik ChatGPT, mengklaim bahwa GPT-4 memperoleh skor di persentil ke-90. Namun, saat di MIT, peneliti Eric Martinez menyelidiki lebih dalam. Ia menemukan bahwa skornya hanya di persentil ke-48. Apakah itu benar-benar mengesankan ketika sistem ini, dengan data pelatihannya yang banyak, memiliki hasil yang setara dengan pencarian Google di ujung jari mereka? Wah, mungkin saya pun bisa memperoleh skor setinggi itu jika saya memiliki akses ke ujian pengacara sebelumnya dan cara lain untuk menyontek.

Sementara itu, Google mengklaim bahwa AI-nya mampu menemukan lebih dari 2 juta senyawa kimia yang sebelumnya tidak diketahui oleh sains. Namun, para peneliti di University of California, Santa Barbara menemukan bahwa ini sebagian besar tidak benar. Mungkin penelitian itu salah, atau, yang lebih mungkin, mungkin industri AI terlalu membesar-besarkan kemampuan produk mereka.

Alasan 5: Meskipun media dan investor sangat antusias dengan AI selama beberapa tahun terakhir, penggunaan AI masih sangat terbatas.

Dalam studi terbaru, Biro Sensus AS menemukan bahwa hanya sekitar 5% bisnis yang telah menggunakan AI dalam beberapa minggu terakhir. Yang berhubungan dengan …

Alasan 6: Kita belum menemukan aplikasi utama AI.

Persentase perusahaan yang benar-benar menggunakan AI yang relatif kecil, tampaknya, menggunakannya dengan cara yang tidak memberikan manfaat besar bagi perekonomian kita. Beberapa perusahaan sedang bereksperimen dengannya. Namun, dari perusahaan yang telah memasukkannya ke dalam bisnis sehari-hari mereka, sebagian besar digunakan untuk hal-hal seperti pemasaran yang dipersonalisasi dan layanan pelanggan otomatis. Tidak terlalu menarik.

Sebenarnya, saya tidak tahu tentang Anda, tetapi saya lebih suka berbicara dengan agen layanan pelanggan manusia daripada chatbot. Acemoglu menyebut otomatisasi semacam ini sebagai “otomatisasi biasa-biasa saja,” di mana perusahaan mengganti manusia dengan mesin bukan karena mereka lebih baik atau lebih produktif, tetapi karena menghemat uang mereka. Seperti kios swalayan di toko kelontong, chatbot AI dalam layanan pelanggan sering kali hanya mengalihkan lebih banyak pekerjaan kepada pelanggan. Hal ini bisa membuat frustrasi.

Alasan 7: Pertumbuhan produktivitas tetap sangat mengecewakan. Dan AI generatif mungkin tidak akan membantunya menjadi lebih baik dalam waktu dekat.

Jika AI benar-benar merevolusi ekonomi, kita mungkin akan melihat lonjakan pertumbuhan produktivitas dan peningkatan pengangguran. Namun, lonjakan pertumbuhan produktivitas tidak terlihat di mana pun. Dan pengangguran berada pada titik terendah yang hampir mencapai rekor. Bahkan untuk pekerjaan kerah putih yang kemungkinan besar akan dipengaruhi AI, kita tidak melihat bukti bahwa AI akan membunuh mereka.

Meskipun AI generatif mungkin tidak mampu menggantikan manusia di sebagian besar atau hampir semua pekerjaan, AI jelas dapat membantu manusia dalam beberapa profesi sebagai alat informasi. Dan, Anda mungkin berkata, manfaat produktivitasnya mungkin memerlukan waktu untuk meresap ke seluruh perekonomian.

Namun, ada alasan kuat untuk percaya bahwa AI generatif tidak akan merevolusi ekonomi kita dalam waktu dekat.

Alasan ke-8: AI mungkin tidak berkembang secepat yang diklaim banyak orang. Bahkan, AI mungkin kehabisan daya.

Setiap kali kita berbicara tentang AI, pembicaraan selalu beralih ke masa depan.

Memang, AI belum sebagus itu. Namun dalam beberapa tahun, kita semua akan kehilangan pekerjaan dan tunduk pada penguasa robot atau apa pun. Namun, di mana bukti yang menunjukkan hal itu? Apakah ini hanya pengondisian kolektif kita melalui film fiksi ilmiah?

Banyak pembicaraan tentang AI yang berkembang sangat cepat. Beberapa orang mengklaim bahwa AI menjadi jauh lebih baik. Yang lain bahkan mengklaim bahwa model-model ini — pelengkapan otomatis yang muluk-muluk — adalah jalan menuju AGI, atau kecerdasan buatan super.

Namun, ada pertanyaan serius tentang semua ini. Faktanya, bukti menunjukkan bahwa laju kemajuan AI mungkin melambat.

Alasan 9: AI bisa sangat buruk bagi lingkungan.

AI sudah menghabiskan cukup banyak energi untuk memberi daya pada sedikit negara. Para peneliti di Goldman Sachs menemukan bahwa “proliferasi teknologi AI generatif — dan pusat data yang dibutuhkan untuk memasoknya — akan mendorong peningkatan permintaan daya AS yang belum pernah terlihat dalam satu generasi.”

“Salah satu hal paling konyol beberapa tahun lalu adalah gagasan bahwa AI akan membantu memecahkan masalah perubahan iklim,” kata Acemoglu. “Saya tidak pernah mengerti persis bagaimana. Namun, Anda tahu, jelas itu akan melakukan sesuatu terhadap perubahan iklim, tetapi itu bukan sisi positifnya.”

Alasan 10: AI dinilai terlalu tinggi karena manusia diremehkan.

Ketika saya bertanya kepada Acemoglu tentang alasan utama mengapa AI dinilai terlalu tinggi, dia memberi tahu saya sesuatu yang menghangatkan hati saya — perasaan yang tidak akan pernah bisa dialami oleh “kecerdasan buatan” yang bodoh.

Acemoglu mengatakan kepada saya bahwa dia yakin AI dinilai terlalu tinggi karena manusia diremehkan. “Jadi banyak orang di industri ini tidak menyadari betapa serba bisa, berbakat, dan beragamnya keterampilan serta kemampuan manusia,” kata Acemoglu. “Dan begitu Anda melakukannya, Anda cenderung menilai mesin lebih tinggi daripada manusia dan meremehkan manusia.” (www.npr.org)

Alasan terakhir, alasan ke 10, merupakan alasan paling menendang pikiran kita.

6. Pikiran AI Banal dan Halu

Chomsky sejak awal bersikap kritis terhadap AI. Chomsky menghargai kreativitas manusia dalam berbahasa. Bahkan, seorang bocah menunjukkan kreativitas menguasai bahasa lebih dari sekedar yang pernah diajarkan. Karena itu, bagi Chomsky, kemampuan AI dalam bahasa masih jauh di bawah kemampuan manusia. AI adalah banal dan sering halusinasi.

Masalah dari AI (LLM) adalah: “Ketidakmasukakalan itu sebenarnya masalah kecil. Lebih mendasar lagi, jelas bahwa sistem-sistem ini, apa pun kepentingannya, pada prinsipnya tidak mampu menjelaskan perolehan bahasa oleh manusia. Alasannya adalah karena sistem-sistem itu bekerja dengan baik pada bahasa-bahasa yang mustahil; yang tidak dapat dipelajari manusia seperti anak-anak (jika memang bisa).”

Bahasa oleh manusia berbeda dengan bahasa oleh AI (andai AI mampu berbahasa). Sehingga, kemampuan AI memang berbeda dengan kemampuan manusia.

“Penelitian eksperimental telah menunjukkan bahwa anak-anak yang sangat muda telah menguasai dasar-dasar bahasa, jauh melampaui apa yang mereka tunjukkan dalam kinerja, dan studi statistik yang cermat mengungkapkan bahwa data yang tersedia bagi mereka sangat sedikit dan dalam kasus-kasus penting tidak ada.

… Untuk memperjelas poin terminologi, yang sering disalahpahami, istilah teknis UG (“tata bahasa universal”) mengacu pada teori (1), teori tentang kemampuan bahasa manusia, yang tampaknya dimiliki oleh spesies (manusia), dan dengan sifat-sifat dasar yang tidak ditemukan pada organisme lain, karenanya merupakan sifat spesies (manusia) yang sebenarnya.”

Manusia memiliki kapasitas UG (universal grammar) sehingga mampu memahami dasar-dasar bahasa. Sementara, organisme lain tidak memiliki UG; demikian juga AI tidak memiliki UG.

Apakah di masa depan LLM akan mampu menguasai bahasa seperti manusia?

“Desain dasar mereka memastikan hal ini tidak mungkin, karena dua alasan yang saya sebutkan: kelemahan kecil, yang membuat usulan itu tidak masuk akal; kelemahan besar, yang membuatnya tidak mungkin pada prinsipnya.”

Kelemahan kecil dan kelemahan besar dari AI ini berdampak merugikan bagi kemanusiaan. Kita perlu menetapkan regulasi agar pengembangan AI dalam kendali.

“Cara paling ampuh, yang dapat saya pikirkan, adalah satu-satunya cara untuk melawan penyebaran doktrin dan ideologi jahat: pendidikan dalam berpikir kritis, organisasi untuk mendorong musyawarah dan cara-cara membela diri secara intelektual.”

AI bersifat banal dan memicu manusia untuk bersikap banal. Kita perlu waspada dengan terus mengembangkan berpikir kritis dan perjuangan intelektual.

7. Ringkasan

7.1 Optimis sampai Pesimis

Peta singularitas berupa spektrum: dari pandangan optimis sampai pesimis (skeptis).

Kurzweil optimis bahwa akan terjadi singularitas yang berdampak positif terhadap kemanusiaan. Hinton dan Harari tampak berimbang antara manfaat AI dan resikonya; mereka menyarankan untuk waspada. Bagaimana pun mereka menduga bahwa akan terjadi singularitas.

Acemoglu berpandangan skeptis atau pesimis. Kemampuan AI terlalu dibesar-besarkan; AI masih bodoh; AI tidak mampu melakukan beragam jenis pekerjaan penting. Chomsky lebih skeptis lagi bahwa AI memang berbeda dengan manusia. Masalah kecil dari AI adalah banal dan halusinasi. Masalah besarnya adalah AI tidak memiliki kemampuan “universal grammar” sehingga AI tidak mampu berpikir kreatif. Jadi, singularitas oleh AI tidak akan terjadi.

Kesimpulan: AI tidak akan menuju singularitas; AI tidak akan lebih cerdas dari Einstein dalam skenario kajian kita.

Apakah skenario alternatif bisa mendorong AI menuju singularitas? Akan tetap sulit untuk terjadi singularitas. Kita perlu mempertimbangkan narasi AI lebih luas.

7.2 Narasi AI

Saya mengusulkan tiga narasi AI utama ditambah dengan beberapa masukan menjadi 5 narasi AI. Ironi juga bahwa Hinton keluar dari Google agar Hinton bebas mengkritisi AI dan mengingatkan resiko besar dari AI; sebuah contoh narasi ironis tentang AI.

Narasi kopi. AI mengandung racun seperti kopi mengandung racun kafein. Tetapi manfaat kopi hangat yang nikmat lebih hebat dari racun yang hanya secuil. Ketika AI mirip kopi maka kita bebas memanfaatkan AI untuk kebaikan umat. Sikap pribadi kita dan regulasi perlu longgar-longgar saja terhadap AI. Benarkah AI seperti kopi?

Narasi rokok. AI mengandung racun nikotin, seperti rokok tembakau, yang berbahaya bagi masyarakat luas. AI perlu regulasi ketat. Di tempat umum tidak boleh merokok; di banyak tempat dilarang memakai AI. Hanya orang yang sudah dewasa boleh membeli rokok; hanya orang dengan usia tertentu boleh akses AI. Sikap pribadi kita dan regulasi perlu lebih ketat terhadap AI. Benarkah AI seperti rokok?

Narasi ganja. AI memabukkan orang dan membawa racun berbahaya seperti ganja. AI menimbulkan kecanduan yang merusak badan dan pikiran. AI sebagai ganja perlu regulasi ketat. Resiko AI ditanggung oleh pengguna, distributor, dan produsen AI. Secara pribadi, kita perlu ekstra hati-hati terhadap AI yang mirip ganja ini. Benarkah AI seperti ganja?

Saya menilai bahwa AI mirip campuran rokok dan ganja; memang bahaya. Sementara, sikap masyarakat dan pihak berwenang tampak memandang AI bagai kopi hangat yang nikmat. Waspadalah terhadap resiko sebelum terlambat.

Narasi air. AI bagaikan air bening yang sejuk dan menyehatkan. Jadi, AI adalah baik dan positif secara hakiki. Tentu saja, air bisa mengakibatkan banjir atau menenggelamkan orang. Tetapi, tenggelam di air adalah akibat kesalahan manusianya itu sendiri. Air bening tetap baik dan bersih. Apakah AI mirip dengan air bening?

Narasi bom. AI adalah lebih bahaya dari bom atom. Ledakan bom atom di Hirosima Nagasaki begitu mengerikan; ratusan ribu jiwa melayang; jutaan orang cacat sepanjang hayat; kota-kota hancur lebur. Kasus kebocoran nuklir, semacam bom atom, terjadi beberapa waktu lalu dengan korban yang sangat mengerikan pula. Jika AI mirip dengan bom atom maka AI perlu regulasi super ketat. Apakah AI mirip bom atom?

7.3 Solusi Etika

Akhlak mulia, atau etika mulia, adalah tujuan dari segala tujuan; buah dari segala buah. Anda lahir di bumi ini adalah untuk menjadi akhlak mulia. Bahkan alam raya tercipta adalah demi akhlak mulia. Akhlak adalah akar yang menghujam jantung semesta ketika Big Bang. Tuhan adalah Maha Pengasih. Sikap pengasih adalah akhlak mulia yang perlu kita tiru. Karena anugerahNya maka alam tercipta. Akhlak mulia adalah pohon yang kokoh.

Buah Segala Buah

Buah adalah hasil dari segala proses yang diharapkan. Buah dari seluruh alam semesta adalah hadirnya manusia akhlak mulia. Berbahagialah, Anda yang berakhlak mulia. Bebahagialah, Anda yang berada di sekitar orang-orang akhlak mulia. Berbahagialah, Anda yang menjalani akhlak mulia.

Apa itu akhlak mulia?

Akhlak mulia adalah perilaku yang baik. Baik bagi orang lain; baik bagi diri kita; baik bagi alam; baik bagi budaya; baik bagi dunia dan akhirat.

Akar Menancap di Big Bang

Alam semesta ini adalah anugerah yang indah. Alam adalah maha karya dari Sang Pencipta. Pesona alam raya menunjukkan bahwa Sang Pencipta benar-benar Maha Bijaksana. Alam semesta tercipta dalam rangkulan akhlak mulia. Akhlak mulia sudah berakar sejak Big Bang; penciptaan alam semesta.

Batang yang Kokoh

Ketika lelah, Anda perlu bersandar. Akhlak mulia adalah sandaran yang kokoh untuk Anda; untuk setiap umat manusia.

Barangkali Anda pernah lelah karena kerja; dari satu deadline ke deadline berikutnya; stress dalam banyak situasi. Sementara tuntutan ekonomi makin membubung tinggi. Akhlak mulia adalah sandaran tepat bagi Anda.

Barangkali Anda pernah kalah; menanggung rugi dari suatu bisnis; kalah dalam kompetisi politik; ditipu oleh orang-orang dekat; atau, entah mengapa, situasi berubah drastis tak terkendali. Akhlak mulia adalah sandaran tepat bagi Anda.

Barangkali Anda pernah sakit; kecelakaan berat atau diserang binatang buas; atau, usia memang sudah tidak muda lagi; atau, akibat suatu tragedi. Akhlak mulia adalah sandaran tepat bagi Anda.

Barangkali Anda sedang sukses luar biasa; promosi kerja makin cemerlang; atau, bisnis Anda untung besar; atau, jabatan politik makin bersinar; atau, entah mengapa, semua keberuntungan sedang mendukung Anda. Akhlak mulia adalah sandaran yang tepat bagi Anda.

Apakah akan terjadi singularitas? Apakah AI akan lebih cerdas dari Einstein? Ataukah tidak terjadi singularitas? Akhlak mulia, etika mulia, tetap menjadi solusi utama.