Bawa Kebaikan ke Manusia & Manusia ke Kebaikan

“… the human need for cosmic connection; … one shot through with joy, signifcance, inspiration.”

“Their works bypass the philosophical objections to the belief in cosmic orders but generate in the reader the felt sense of a reality higher and deeper than the everyday world around us.” (Taylor).

(1) Nature was not to be understood mechanistically. It
was more like a living organism.

(2) Then our soul communicates with this whole, with Nature. Nature
resonates in us, and we intensify this through expression, art.

(3) But our whole idea of Nature has undergone a modern shift.

(4) We are striving to discover our true form through creative expression, moving stage by stage.

(5) The two lines of expressive-historical development, of the cosmos
and humans, respectively, are interlinked. Nature or cosmos can’t reach
its final form without our realizing ours.

(6) It also includes, while going beyond, the new understanding of freedom as autonomy, which was both an ethical and political ideal.

(7) The ideal of the perfect reconciling of freedom and unity with nature, within and without.

But

(8) Irony: the road to (7) may never be completed; we may always strive, suffer distance. Ironic expression, however, manifests the gap, and shows what we strive for.

“.. the full realization of Nature requires the conscious expression which only Spirit can give it. Art (or philosophy) and Nature come into unison because they come to fulfillment together.”

“Man only plays when he is in the fullest sense of the word a human being, and he is only fully a human being when he plays.”

“We might say that the right language would satisfy the demands of Plato’s Cratylus: a word would figure what it designates.”

“This parallelism could be taken in two ways: either it invites us to seek the structures of the larger order by delving into our own nature, or it tells us that we can’t fully understand ourselves, our goals, or the meanings which are crucial to us without a grasp of the cosmic order.”

“Recovering the language of insight isn’t just adding to our dispassionate knowledge: it also reconnects us to the cosmos, and this realizes our essential purpose.”

“First, it is defined in terms of the indispensability of mediation: in this,
it partakes of the nature of metaphor, where we cast light on one matter
through invoking another.”

“… the work of art yields … a strong experience of connection, or more
generally, it transforms our relation to the situation it figures for us.’

Kita sedang menuju Indonesia Emas 2045. Perjalanan panjang dari Indonesia merdeka 1945, berjuang dalam rentang 100 tahun, kita menyambut Indonesia Emas 2045.

Narasi AI apa yang tepat untuk menyambut Indonesia Emas?

Anda bisa mengajukan jawaban berupa beragam narasi terbaik. Sebagai pertimbangan, kami menawarkan tiga narasi utama bagi AI. Pertama, narasi AI bagai vitamin memandang AI sebagai penguat bagi manusia, menyehatkan, dan memudahkan. Vitamin AI memang mengandung racun tetapi hanya kecil. Sementara, manfaat AI jauh lebih besar. Kedua, narasi AI bagai doping yang memandang AI sebagai benar-benar bermanfaat memacu kinerja manusia. Tetapi, resiko doping amat besar; resiko AI amat besar yaitu bisa menghancurkan peradaban manusia. Karena itu AI membutuhkan regulasi ketat. Ketiga, narasi AI bagai ganja yang memabukkan umat manusia. Tentu saja, kita membutuhkan regulasi sangat ketat ketika AI mirip ganja. Bagaimana pun, ganja tetap bermanfaat bagi alam raya.

Dalam setiap narasi, kami menguraikan secara singkat ide-ide utama narasi AI, kemudian memberi beberapa kritik bila diperlukan, dan menawarkan beberapa rekomendasi.

Selamat menapaki masa depan emas untuk Anda!

Kita perlu berpikir kreatif untuk mengembangkan beragam alternatif narasi AI (akal imitasi / artificial intelligence). Perusahaan pengembang AI, wajar saja, menawarkan narasi AI serba positif. Para pemikir kritis mengajukan beragam kritik. Adakah narasi-narasi alternatif?

Narasi kelas alternatif menawarkan paradigma alternatif untuk memandang AI. Teknologi, semisal AI, adalah sebuah titik dari jaringan besar realitas alam raya. Kita perlu mengembangkan alternatif-alternatif pandangan sehingga mampu mengkaji AI secara luas dan mendalam. Chomsky, Derrida, dan Stiegler adalah beberapa tokoh dalam kelas narasi alternatif.

10. Autofill Cerdas dari Chomsky
11. Simulakra dari Baudrillard
12. Masyarakat Teknik dari Ellul
13. Teknologi Hermeneutik dari Gadamer
14. Organ Memori dari Derrida
15. Farmakon dari Stiegler
16. Kedaulatan Mesin dari Yuk Hui
17. Kisah Kosmis dari Taylor

Berikut ini, kita akan membahas beberapa narasi alternatif pilihan.

10. Autofill Cerdas dari Chomsky

Apakah AI akan melampaui kemampuan manusia? Benar, AI akan melampaui manusia, menurut pandangan Chomsky jika maksud kemampuan adalah kinerja atau performansi manusia. Tetapi, jika maksud kemampuan adalah kemampuan manusia secara luas maka AI tidak akan melampaui kemampuan manusia kreatif.

“Melanjutkan pertanyaan, apakah mungkin program yang dirancang melampaui kemampuan manusia? Kita harus berhati-hati dengan kata “kemampuan,” karena alasan yang akan saya bahas nanti. Namun, jika kita menganggap istilah tersebut merujuk pada kinerja manusia, jawabannya adalah: tentu saja ya. Faktanya, kemampuan sudah ada sejak lama: kalkulator di laptop, misalnya. Kemampuan itu jauh melampaui kemampuan manusia, meskipun hanya karena keterbatasan waktu dan ingatan. Untuk sistem tertutup seperti catur, dipahami dengan baik pada tahun 50-an bahwa cepat atau lambat, dengan kemajuan kapasitas komputasi yang besar dan periode persiapan yang panjang, sebuah program dapat dirancang untuk mengalahkan seorang grandmaster yang bermain dengan keterbatasan memori dan waktu. Pencapaian beberapa tahun kemudian cukup menjadi PR bagi IBM. Banyak organisme biologis yang melampaui kapasitas kognitif manusia dalam cara yang jauh lebih dalam. Semut gurun di halaman belakang rumah saya memiliki otak yang sangat kecil, tetapi pada prinsipnya jauh melampaui kapasitas navigasi manusia, bukan hanya kinerja. Tidak ada Rantai Kehidupan Agung dengan manusia di puncaknya.” (https://chomsky.info/20230503-2/)

Bahkan kalkulator sudah melampaui performansi manusia dalam berhitung. Sapi melampaui performansi manusia dalam menahan beban. Internet melampaui performansi manusia dalam memori. Dan AI, misal AI generatif, melampaui manusia dalam performansi autofill tekstual; dalam kemampuan merespons teks. Performansi AI merespon teks bukanlah kemampuan AI menguasai bahasa; AI tidak menguasai bahasa manusia. AI hanya mesin autofill cerdas; yaitu mesin melengkapi teks yang tampak seakan-akan cerdas.

Apakah AI, di masa depan, akan mampu menguasai bahasa?

Tidak bisa. AI tidak akan mampu menguasai bahasa terutama skenario AI sekarang yang memanfaatkan model LLM. Ada dua kelemahan utama dari AI menurut Chomsky.

[a] Kelemahan kecil: AI belajar melalui metode statistik. Dengan jumlah data yang besar, AI dilatih kemudian AI merespon setiap teks berdasar data. Seluruh data digital yang ada di internet atau tidak tersambung internet, secara prinsip, bisa menjadi bahan belajar bagi AI. Asumsi dasar: makin besar data maka AI makin cerdas.

Tetapi, seorang anak kecil belajar bahasa tidak melalui statistik. Seorang anak belajar dari beberapa contoh saja kemudian mampu menguasai bahasa. Seorang anak tidak perlu ratusan contoh atau ribuan contoh. Seorang anak belajar bahasa dengan cara yang kreatif dan menakjubkan.

Dengan beberapa contoh, seorang anak memahami bahasa matematika bilangan bulat bahwa “2 + 1 = 3.” Anak itu tidak perlu contoh tambahan untuk makin meyakini matematika. Bahkan, ketika anak itu diyakinkan oleh ribuan orang dengan contoh yang salah, misal “2 + 1 = 5” maka anak itu tetap yakin bahwa yang benar “2 + 1 = 3.” Anak itu sudah berhasil menguasai bahasa universal matematika.

Bandingkan dengan AI. Misal saat ini, AI mampu menjawab bahwa “2 + 1 = 3.” Kemudian AI dilatih dengan data baru bahwa “2 + 1 = 5” berupa ribuan atau jutaan contoh. Setelah dilatih, AI akan menjawab bahwa “2 + 1 = 5” atau kita tidak yakin bahwa AI akan konsisten menjawab “2 + 1 = 3.” AI tidak mampu menguasai bahasa universal.

Contoh di atas berupa bahasa matematika. Dalam bahasa sehari-hari, AI barangkali bisa menjawab bahwa “Proklamator Indonesia adalah Soekarno.” Jika kita melatih ulang dengan jutaan data baru bahwa “Proklamator Indonesia adalah Soeharto” maka AI bisa saja menjawab bahwa “Proklamator Indonesia adalah Soeharto.”

Lebih rumit lagi, cara kerja statistik AI adalah pendekatan kotak-hitam. Kita tidak tahu bagaimana AI melakukan analisis statistik; bahkan, AI sendiri juga tidak tahu bagaimana AI melakukan analisis statistik. Bandingkan dengan seorang manusia yang ahli statistik. Para ahli statistik bisa memilih pendekatan frequentis atau Bayesian. Kemudian, mereka bisa memilih metode statistik tertentu untuk keperluan spesifik. Bila ada keraguan dalam analisis, ahli statistik bisa melakukan kajian ulang.

Singkatnya, kelemahan kecil, berupa AI belajar melalui statistik, menghalangi AI untuk menguasai bahasa manusia. Karena manusia belajar bahasa bukan melalui statistik.

[b] Kelemahan besar yaitu AI tidak memiliki UG (universal grammar) sedangkan manusia memiliki UG yang merupakan kemampuan bawaan setiap manusia. Setiap bahasa memiliki grammar tertentu. Meski grammar masing-masing bahasa berbeda-beda dalam banyak hal tetapi ada pola-pola tertentu dari suatu grammar. Seorang anak memiliki UG yang menjadikan anak itu mampu menguasai bahasa ibu dengan kreatif.

UG seorang anak tampak lentur ketika masih kecil. Anak usia 4 tahun di Jakarta mampu menguasai bahasa Indonesia dan bahasa Betawi, misalnya. Kemudian, anak itu pindah ke Surabaya bersama orang tuanya, Anak itu bermain dengan teman-temannya pakai bahasa Jawa di Surabaya. Dalam beberapa bulan, anak itu menguasai bahasa Jawa dengan baik. UG menjadi kemampuan istimewa bagi manusia untuk belajar bahasa.

UG juga yang menjadikan manusia berbahasa secara kreatif. Kita mengenal pujangga misal Taufik Ismail: “Berkata tangan kita tentang apa yang dilakukannya…” Puisi yang indah ini hanya bisa ditulis oleh manusia dengan kemampuan sastra yang istimewa. Pujangga bukan hanya meniru bahasa yang ada. Pujangga berkreasi menciptakan puisi indah sebagai karya sastra.

AI tidak mampu kreatif dalam bahasa. Tentu, kita bisa meminta AI untuk menulis puisi cinta, misalnya. Puisi itu tampak indah kita baca. Tetapi, puisi hasil AI itu adalah plagiat, atau menjiplak, dari puisi-puisi yang dilatihkan kepada AI; tidak ada orisinalitas oleh AI. Saat ini, pengembang AI menghadapi tuntutan hukum berupa pelanggaran hak cipta serupa plagiarisme.

Akhir tahun 2024 ini, kami mencoba meminta AI untuk menulis beberapa tema. Analisis kami menunjukkan bahwa diksi pilihan AI bersifat lemah, bersifat umum, dan kurang spesifik. Dugaan awal adalah karena data training AI makin banyak sehingga jawaban AI makin mendekati rata-rata; yaitu kualitas diksi biasa-biasa saja. Sementara, seorang pujangga justru memilih diksi, atau menciptakan diksi, yang bukan rata-rata; menciptakan diksi yang istimewa.

Secara ringkas, menurut Chomsky, AI tidak akan mampu menguasai bahasa. Sehingga, AI tidak akan berpikir kreatif dan AI sekedar mesin autofill teks belaka.

Lalu apa yang harus kita lakukan? Chomsky mengajak kita untuk melawan propaganda AI. Tidak benar-benar cerdas, AI hanya sekedar mesin autofill yang tampak cerdas. AI memberi keuntungan finansial kepada pihak tertentu dan merugikan lebih banyak ke pihak lain.

11. Simulakra dari Baudrillard

AI (akal imitasi / artificial intelligence) adalah simulakra yang mengantar pada situasi dominasi dan hegemoni. Simulakra adalah jiplakan atau artificial yang tidak peduli terhadap keaslian. Simulakra, semisal AI, akan mencengkeram manusia sehingga mendominasi pihak-pihak lemah; merugikan banyak orang. Lebih parah lagi, simulakra mengantar kepada hegemoni yaitu, secara efektif, hanya ada ketunggalan berupa AI itu sendiri. Tidak ada lagi oposisi; tidak ada lagi kritik; tidak ada lagi alternatif. Dominasi masih menyisakan sedikit pihak oposisi untuk ditangani. Hegemoni menyapu habis seluruh pihak lain.

Baudrillard (1929 – 2007) mengembangkan konsep simulakra pada akhir abad 20 ketika AI mulai berkembang. Konsep simulakra dari Baudrillard ini, kita kembangkan sebagai salah satu narasi yang memudahkan kita untuk memahami situasi sulit dampak dari AI.

Mari kita bandingkan dominasi dengan hegemoni dengan mengutip ke Baudrillard.

“Dominasi masih memiliki strategi, yaitu menggabungkan hal-hal negatif saat konflik terjadi dan sesuai dengan perspektif dialektis yang dibuka oleh para musuhnya sendiri.” (https://aphelis.net/hegemonie-selon-baudrillard/)

Dominasi masih mengakui eksistensi dari musuh sehingga bisa terjadi dialog, dialektika, kompetisi, saling kritik, dan saling belajar.

“Sebaliknya, bentuk hegemoni cenderung melikuidasi lawan-lawannya, menganggap mereka sebagai orang-orang eksentrik yang tidak berharga dan tidak berguna. Sebuah gaya yang bukan penindasan dan keterasingan, tetapi (hegemoni adalah) pengucilan terhadap segala sesuatu yang tidak termasuk dalam lingkup kinerja dan pertukaran integral ini. Sebuah gaya penyitaan minoritas yang nakal–persis sejajar dengan posisi teologis yang menyatakan bahwa kejahatan tidak ada.”

Hegemoni lebih parah karena menolak eksistensi pihak lain dengan mengucilkan mereka; menganggap mereka tidak ada arti. Hegemoni oleh AI menjadi bahaya karena masyarakat mengira hanya ada AI dan tidak ada alternatif dari AI sama sekali. Bila ada pihak tertentu mengkritik AI maka pihak itu dikucilkan. Umat manusia menuju jurang kehancuran melalui situasi hegemoni oleh AI.

Narasi Simulakra

Mari fokus ke narasi AI sebagai simulakra yang berdampak menjadi dominasi dan hegemoni. Untuk kemudahan, kita menggunakan kata simulakra dan simulakrum secara longgar. Baudrillard menyebut simulakra sebagai kebenaran.

“…Simulakrum tidak pernah menyembunyikan kebenaran—itu adalah kebenaran yang menyembunyikan bahwa tidak ada kebenaran. Simulakrum adalah kebenaran.” (https://en.wikipedia.org/wiki/Simulacra_and_Simulation#Summary)

Simulakra mengaku sebagai kebenaran itu sendiri; bukan mengaku menyembunyikan kebenaran lain. Bandingkan dengan simulasi di mana simulasi mewakili kebenaran lain; ada kebenaran yang lebih otentik dari simulasi. Dalam perjalanan waktu, simulasi berubah menjadi simulakra. Bahkan, simulasi itu bisa lebih penting dari aslinya. Foto editan yang menampilkan wanita super cantik bisa lebih penting dari foto asli wanita tanpa editan. Barangkali Anda ingat kasus foto calon anggota dewan yang terlalu cantik karena diedit? Hasil polesan AI bisa lebih bernilai dari data aslinya. Dalam situasi seperti ini, kita menghadapi situasi hiperealitas.

Simulakra tampil melalui beberapa tahap.

[a] Tahap pertama adalah gambaran/salinan yang setia, di mana orang-orang percaya, dan bahkan mungkin benar untuk percaya, bahwa sebuah tanda adalah sebuah “refleksi dari realitas yang mendalam”, ini adalah penampakan yang baik, dalam apa yang Baudrillard sebut sebagai “tatanan sakramental”. (wikipedia).

Tahap pertama, kita merasa baik-baik saja. Simulakra AI adalah artificial atau imitasi dari kecerdasan manusia. Jadi, kita masih yakin bahwa ada manusia yang memiliki kecerdasan lebih bernilai dari AI; AI mewakili manusia.

[b] Tahap kedua adalah pemutarbalikan realitas, di mana orang-orang mulai percaya bahwa tanda adalah tiruan yang tidak setia, yang “menutupi dan mengubah sifat” realitas sebagai “penampakan jahat—yang termasuk dalam kategori kejahatan”. Di sini, tanda dan gambar tidak secara setia menyingkapkan realitas kepada kita, tetapi dapat mengisyaratkan keberadaan realitas yang tidak jelas yang tidak dapat dirangkum oleh tanda itu sendiri. (wikipedia).

Tahap kedua, manusia sadar bahwa simulakra AI melakukan manipulasi. AI sering halusinasi, rasis, atau bahkan ngawur. Kita mulai meragukan AI. Bagaimana kita harus besikap terhadap simulakra AI?

[c] Tahap ketiga menutupi ketiadaan-realitas yang mendalam, di mana tanda berpura-pura menjadi salinan yang setia, tetapi itu adalah salinan tanpa-yang-asli. Tanda dan gambar mengklaim mewakili sesuatu yang nyata, tetapi tidak ada representasi yang terjadi dan gambar, yang sewenang-wenang, hanya dianggap sebagai hal-hal yang tidak ada hubungannya dengan mereka. Baudrillard menyebut ini “tatanan sihir”, sebuah rezim aljabar semantik di mana semua makna manusia disulap secara artifisial agar muncul sebagai referensi ke kebenaran yang (semakin) hermetis (kebenaran yang lengkap). (wikipedia).

Tahap ketiga adalah solusi dari tahap kedua. Simulakra AI makin canggih, makin bagus membuat jawaban, makin bagus dalam banyak hal. Manusia justru percaya kepada simulakra AI. Ironis. Pada tahap kedua, manusia ragu kepada AI tetapi solusi justru berupa percaya saja pada AI di tahap ketiga.

[d] Tahap keempat adalah simulakrum murni, di mana simulakrum tidak memiliki hubungan apa pun dengan realitas apa pun. Di sini, tanda-tanda hanya mencerminkan tanda-tanda lain dan klaim apa pun terhadap realitas pada bagian gambar atau tanda-tanda hanya sesuai dengan klaim-klaim lainnya. Ini adalah rezim kesetaraan total, di mana produk-produk budaya bahkan tidak perlu lagi berpura-pura menjadi nyata dalam pengertian yang naif, karena pengalaman hidup konsumen begitu dominan bersifat artifisial sehingga bahkan klaim-klaim terhadap realitas diharapkan diungkapkan dalam istilah-istilah artifisial, “hiperreal”. Setiap pretensi naif terhadap realitas seperti itu dianggap tidak memiliki kesadaran diri yang kritis, dan dengan demikian terlalu sentimental. (wikipedia).

Sampai tahap keempat, simulakra menjadi lengkap. Simulakra AI adalah realitas itu sendiri atau hiperreal. Orang yang menolak AI hanyalah orang yang sentimental.

Hegemoni

AI yang bergerak menjadi simulakra sempurna berhasil menancapkan hegemoni. Masalah dari hegemoni adalah justru hampir semua orang menganggap tidak ada lagi masalah dengan AI. Hanya tersisa sedikit orang yang “sadar” bahwa ada masalah dengan hegemoni AI.

Tahun 2024 ini, simulakra AI belum sampai tahap hegemoni. Anda membaca tulisan ini adalah tanda Anda terbebas dari hegemoni. Masih ada beberapa pihak, beberapa pemikir, yang oposisi terhadap AI. Barangkali, tahun 2024 ini, AI baru sampai tahap dominasi. AI telah merasuki berbagai bidang dari sains, teknologi, seni, ekonomi, politik, agama, dan kehidupan sehari-hari. Bagaimana pun, masih ada oposisi terhadap dominasi dengan menawarkan solusi alternatif.

Apakah ada teknologi yang berhasil menjadi dominasi? Uang. Dalam arti luas, teknologi uang sudah berhasil menjadi hegemoni. Nyaris setiap orang percaya bahwa uang adalah yang paling penting. Anda akan makan siang? Perlu uang. Anda akan traktir makan siang anak-anak di seluruh kota? Anda perlu uang. Yang menarik adalah suatu pemerintahan mampu memberi makan siang gratis kepada warganya; pemerintah dan negara mampu memproduksi makan siang. Tetapi, karena tidak ada anggaran uang yang memadai maka pemerintah tersebut tidak bisa memberi makan siang gratis. Karena uang adalah hegemoni. Segala sesuatu harus tunduk kepada uang; termasuk realitas makan siang harus tunduk kepada uang. Meski ada realitas makan siang, yaitu sudah ada nasi dan lauk, maka realitas itu bisa batal jika tidak ada uang.

Bagaimana jika simulakra AI menjadi hegemoni?

Anda bisa batal makan siang jika AI tidak setuju. Jenderal batal menembakkan rudal jika AI tidak setuju. Presiden batal berkunjung ke negara tetangga jika AI tidak setuju. Bukankah realitas semacam itu sudah sering terjadi?

12. Masyarakat Teknik dari Ellul

Teknologi adalah sebuah titik dari lautan luas berupa masyarakat-teknik. Demikian juga, AI adalah sebuah titik dari lautan luas. Ellul (1912 – 1994) membahas teknologi dari sudut pandang masyarakat teknik. Untuk kemudahan, kita akan menggunakan istilah teknologi dan masyarakat teknik secara longgar.

“Masyarakat-teknik adalah “totalitas metode yang dicapai secara rasional dan memiliki efisiensi absolut (untuk tahap perkembangan tertentu) di setiap bidang aktivitas manusia.” Dia (Ellul) menyatakan di sini juga bahwa istilah teknik tidak hanya mesin, teknologi, atau prosedur yang digunakan untuk mencapai tujuan.” (https://en.wikipedia.org/wiki/Jacques_Ellul#On_technique)

Masyarakat teknik memiliki tujuan yang jelas: efisiensi absolut. Sebagai representasi masyarakat teknik, AI memiliki tujuan yang jelas: efisiensi absolut.

Apa masalah dari efisiensi? Bukankah semua orang ingin efisien? Bukankah semua perusahaan ingin efisien?

Masalah dari efisiensi adalah manusia. Karena manusia adalah tidak efisien. Atau, Anda menjadi manusia karena tidak efisien. Anda berlaku sopan-santun kepada orang tua adalah tidak efisien. Anda bercumbu rayu dengan kekasih adalah tidak efisien. Anda bersenda gurau dengan anak-anak adalah tidak efisien. Anda ngobrol santai bersama tetangga adalah tidak efisien. Sebagai manusia, kita butuh untuk tidak efisien.

Tentu saja, pemborosan juga harus dihindari. Pemborosan bahan bakar merusak lingkungan juga harus dihindari. Banyak hal-hal boros harus dihindari. Kita perlu tidak boros dan tidak efisien.

Masyarakat teknik mengejar efisiensi di segala lini. Manusia, sebagian besar, berpacu ikut serta mengejar efisiensi. Dengan bantuan AI, masyarakat teknik makin dekat dengan tujuan efisiensi. Bila benar bahwa AI meningkatkan efisiensi secara eksponensial maka nilai-nilai kemanusiaan terancam bubar.

Nilai-Nilai Masyarakat Teknik

Ellul mengenali beragam value, nilai-nilai, yang berkembang bersama teknologi atau masyarakat-teknik. (www.comment.org).

“Kenormalan. Kita tidak diminta untuk bertindak baik (seperti dalam moralitas lain) tetapi untuk bertindak normal, untuk menyesuaikan diri. Tidak menyesuaikan diri adalah sifat buruk saat ini. “Tujuan utama pengajaran dan pendidikan saat ini adalah untuk menghasilkan generasi muda yang menyesuaikan diri dengan masyarakat ini.”

Keberhasilan. “Pada akhirnya,” kata Ellul, “baik dan jahat adalah sinonim untuk keberhasilan dan kegagalan”. Moralitas didasarkan pada keberhasilan; juara yang sukses adalah contoh moral dari kebaikan; jika kejahatan itu buruk, itu karena “tidak membuahkan hasil”—artinya, tidak berhasil.

Pekerjaan. Dengan penilaian yang berlebihan terhadap pekerjaan muncullah pengendalian diri, kesetiaan, dan pengorbanan terhadap pekerjaan seseorang, serta kepercayaan terhadap pekerjaan seseorang. Kebajikan lama yang berkaitan dengan keluarga, persahabatan yang baik, humor, dan bermain secara bertahap ditekan kecuali jika dapat ditafsirkan ulang untuk melayani kebaikan teknik (jadi istirahat dan bermain itu baik jika, dan karena, mereka mempersiapkan Anda untuk pekerjaan yang lebih efektif dan sukses).

Pertumbuhan tanpa batas—dalam arti perluasan yang terus-menerus, tak terbatas, dan terukur. Dengan demikian, “Lebih” adalah istilah nilai positif dan persetujuan moral, seperti halnya “raksasa,” dan “terbesar.” “Dalam keyakinan bahwa teknologi mengarah pada kebaikan” tidak ada waktu atau tujuan untuk mengatakan “Tidak” atau untuk mengenali batasan apa pun atau untuk menghalangi kemajuan teknologi.

Kepalsuan dinilai lebih tinggi daripada yang alami; alam hanya memiliki nilai instrumental. Kita tidak ragu untuk menyerbu dan memanipulasi alam—entah itu program luar angkasa, penggundulan hutan dan pembangunan industri, peternakan hewan, “pengelolaan” sumber daya air, eksperimen genetik, atau apa pun. Kita kurang menghargai ketetapan alam dibandingkan dengan penilaian kita terhadap kepalsuan.

Kuantifikasi dan pengukuran. Meskipun Einstein berkomentar baik bahwa “segala sesuatu yang dapat dihitung tidak dihitung dan segala sesuatu yang dihitung tidak dapat dihitung,” masyarakat teknologi kita bersikeras untuk menetapkan angka dan mengukur kecerdasan (IQ), kesuksesan (kehadiran di gereja, tingkat gaji), ciri-ciri kepribadian (Meyers-Briggs, dan seterusnya).

Efektivitas dan efisiensi. Hal-hal yang dinilai tidak efektif atau tidak efisien digantikan atau dibenci—ingat Frederick Taylor dan manajemen ilmiah.

Kekuatan dan kecepatan. Kelemahan dan kelambatan hanya dihargai oleh orang-orang eksentrik.

Standardisasi dan replikasi. Teknologi menuntut orang untuk beradaptasi dengan mesin. Dorongan universal teknologi mengutamakan platform yang menghubungkan bagian-bagiannya. Hal-hal eksentrik hanya menarik di museum.”

Nilai-nilai teknologi di atas, dari kenormalan sampai replikasi, adalah potret realitas yang ada di masyarakat. Kita perlu mewaspadai nilai-nilai teknologi ini. Kemudian mengkajinya dan menggantinya dengan nilai-nilai etika yang lebih baik; yaitu nilai-nilai otentik. Jadi, pahami realitas eksistensial teknologi kemudian arahkan menuju nilai-nilai etika yang mulia atau akhlak mulia.

13. Teknologi Hermeneutik dari Gadamer

Teknologi, termasuk AI, melemahkan kemampuan manusia untuk memahami makna. AI menjadikan manusia malas berpikir. AI menjadikan manusia malas berkreasi. Kalkulator menjadikan anak TK malas berhitung. Mengapa susah-susah belajar perkalian? Tekan kalkulator maka semua problem perkalian beres. Mengapa susah-susah berpikir? Tanya AI maka semua jawaban tersedia.

14. Organ Memori dari Derrida

AI adalah organ bagi tubuh manusia; tepatnya organ memori. AI (artificial intelligence / akal imitasi) adalah organ memori manusia yang istimewa. Sebagai memori, AI menyimpan realitas masa lalu bagi manusia. Kemudian, kecerdasan AI mengelola memori sebagai realitas masa kini. Pada akhirnya, memori menentukan orientasi dan perspektif realitas masa depan. AI adalah segalanya bagi manusia. Bagaimana bisa?

Derrida (1930 – 2004) memaknai teknologi sebagai organ dari manusia. Yang paling awal, dan utama, teknologi menjadi organ memori bagi manusia. Teknologi paling dasar adalah tulisan atau teks; yang dipandang rendah dibanding dengan logos atau bahasa lisan. Derrida melakukan operasi dekonstruksi terhadap teks, yaitu teknologi, dan membalik situasi: teknologi lebih utama dari bahasa lisan. Bahkan teknologi bisa lebih utama dari manusia. Harga pesawat pribadi super mewah bisa lebih mahal dari upah buruh harian. Apa dampaknya ketika teknologi lebih utama dari manusia?

Kita berasumsi bahwa, pada awalnya, orang berkomunikasi secara lisan atau logos. Kemudian, bila diperlukan, baru dibuat tulisan atau teks sebagai ekstensi organ memori. Dengan demikian, teks hanya suplemen bagi logos; tulisan hanya tambahan bagi lisan; teknologi, yang berupa tulisan, hanya alat bagi manusia. Apakah asumsi ini bisa dibenarkan? Bukankah manusia memandang alam semesta sebagai tanda-tanda teks sejak awal? Bukankah manusia memandang dunia sebagai alat, sebagai teks, sejak awal?

Bila benar bahwa teks tulisan lebih utama dari logos, yaitu berkebalikan dari asumsi awal di atas, maka dampaknya sangat besar; bila alat lebih penting dari manusia; bila teknologi lebih penting dari segalanya. Bukankah hal seperti itu yang sedang terjadi? Situasi lebih sulit karena struktur teknologi bisa diwariskan dari generasi ke generasi; dengan dukungan sistem norma mau pun sistem legal. Generasi yang mewarisi teknologi terlahir dengan organ yang kaya raya; sementara generasi yang terlahir miskin bagai cacat organ tubuhnya. Apakah struktur masyarakat seperti itu adil?

Kita perlu catat bahwa esensi teknologi berupa organ memori berdampak besar terhadap kemanusiaan. Berbeda halnya dengan teknologi kaca mata sebagai organ penglihatan. Ketika kita melihat buku dengan memakai kacamata maka kita merasa biasa-biasa saja. Tetapi, ketika kita akses memori catatan transaksi di bank yang bernilai jutaan dolar maka segala situasi bisa berubah seketika. Ketika terungkap memori dukumen-dokumen rahasia, atau foto-foto rahasia, dari para pejabat besar maka struktur sosial bisa berubah total. Kita akan membahas lebih dalam makna teknologi sebagai organ memori di bagian bawah.

Mari kita ringkas menjadi tiga tahap.

[a] Tahap awal; teks hanya tambahan bagi lisan; teknologi hanya sebagai alat bagi manusia; teknologi lebih rendah dari manusia. Era kuno, tampak, berada pada situasi tahap awal ini.

[b] Tahap tengah; teks seimbang dengan lisan; orang-orang bisa belajar melalui teks buku seimbang dengan belajar mendengarkan ceramah; teknologi seimbang dengan manusia. Era awal modern, tampak memenuhi kriteria ini; mesin cetak buku mulai berkembang.

[c] Tahap kini; teks lebih kuat dari lisan; teknologi lebih utama dari manusia; valuasi mesin pabrik bisa lebih mahal dari tenaga kerja seorang manusia; virtual reality bisa lebih menarik dari realitas aslinya; foto editan bisa lebih indah dari wajah aslinya.

Tiga relasi teknologi, di atas, bisa terjadi serentak dalam satu situasi. Relasi teknologi adalah kompleks. Sehingga, kita perlu mengkaji lebih teliti.

Memori Cerdas

AI lebih dari sekedar teknologi biasa karena AI mampu mengelola memori masa lalu, masa kini, dan masa depan.

15. Farmakon dari Stiegler

Stiegler (1952 – 2020), murid Derrida, mengembangkan konsep organ memori lebih luas lagi. Terdapat tiga lapis memori. Lapis pertama memori adalah memori yang tertanam pada otak manusia, tubuh manusia, sejak lahir. Memori ini tersimpan dalam sel-sel otak dan gen-gen setiap manusia. Lapis kedua adalah memori perolehan dari usaha manusia melalui belajar, berlatih, membaca, menulis, dan lain-lain. Masing-masing orang mengembangkan lapis kedua memori ini dengan cara yang unik. Lapis ketiga adalah memori eksternal berupa sistem teknologi.

Peran teknologi sebagai lapis ketiga memori adalah amat menentukan. Karena, ketika seorang individu meninggal, mereka bisa mewariskan teknologi kepada generasi berikut. Berbeda dengan lapis pertama memori, pada sel otak, dan lapis kedua memori, pada pengalaman belajar seseorang; lapis pertama dan lapis kedua memori ikut musnah ketika seorang individu meninggal. Problem muncul: bagaimana sistem warisan teknologi terbaik?

Problem teknologi makin besar lagi lantaran teknologi mempengaruhi pembentukan memori lain. Maksudnya, teknologi mempengaruhi pembentukan sel-sel otak pada bayi dan mempengaruhi kemampuan belajar setiap manusia; terutama melalui proses enframing. Sehingga, pada analisis akhir, problem teknologi adalah problem bagi seluruh umat manusia dan alam raya. Dengan demikian, kita perlu selalu mengajukan pertanyaan apa makna-teknologi? Kemudian merevisi setiap jawaban untuk mengajukan jawaban yang lebih baik lagi.

Sedikit perlu kita tambahkan bahwa Stiegler memandang teknologi sebagai farmakon atau obat; menyembuhkan sekaligus meracuni manusia. Farmakon ini sedikit berbeda dengan Derrida; atau kita bisa membedakan mereka. Bagi Derrida, teknologi itu kadang bisa baik meski lebih sering berdampak buruk. Sebagai farmakon, teknologi niscaya menyembuhkan sekaligus meracuni; meski kadar racunnya kadang terlalu besar. Makin besar kapasitas untuk menyembuhkan maka makin besar pula kapasitas untuk meracuni.

Racun AI

AI adalah farmakon dengan kadar sangat besar; kemampuan untuk merusak alam dan merusak manusia sangat besar. Stiegler menyebut era abad 21 sebagai era anthropocene yaitu teknologi hasil rekayasa manusia mampu merusak alam semesta. Kadar racun dari AI bisa merusak kehidupan manusia; lebih dari itu, bisa merusak alam semesta; misal berupa krisis iklim yang berdampak bumi tidak layak ditempati oleh makhluk hidup. Barangkali, kita masih ingat peristiwa bom atom Hiroshima dan Nagasaki yang begitu mengerikan.

Entropi

Hukum termodinamika menyatakan bahwa entropi alam semesta selalu bertambah; ukuran kekacauan alam semesta selalu bertambah. Entropi adalah ukuran ketidak-teraturan atau ukuran kekacauan. Anda melihat cangkir indah di atas meja; sebagai misal entropi yang rendah. Tak sengaja, Anda senggol cangkir hingga jatuh di lantai berkeping-keping; entropi cangkir bertambah tinggi. Tidak bisa terjadi sebaliknya. Tidak bisa, tiba-tiba, cangkir yang berkeping-keping itu kembali menjadi cangkir indah yang utuh. Tidak bisa entropi tinggi berubah menjadi entropi rendah. Yang bisa terjadi adalah entropi rendah, cangkir yang indah, berubah menjadi entropi tinggi, menjadi cangkir pecah berkeping-keping. Entropi hanya bisa bertambah tetapi tidak bisa berkurang sesuai hukum termodinamika.

AI, dan teknologi modern pada umumnya, memiliki kemampuan meningkatkan entropi sangat tinggi. Operasional AI boros akan energi listrik dan energi pendukung. Penggunaan AI yang tersebar di seluruh dunia berdampak penghamburan energi di seluruh bumi. Berbeda dengan teknologi kuno misal kereta kuda. Meski kereta kuda berdampak peningkatan entropi tetapi hanya terbatas di wilayah tertentu dan realtif kecil.

Apakah kita perlu meninggalkan AI dan kembali ke teknologi kereta kuda? Tidak harus begitu. Kita hanya perlu ingat bahwa AI adalah farmakon dengan racun yang besar. Sehingga, kita perlu hati-hati menghadapi AI.

Negentropi

Schrodinger mengenalkan konsep entropi negatif atau disingkat negentropi. Manusia, dan mahkluk hidup, memiliki kemampuan negentropi yaitu menurunkan entropi dalam dirinya. Kita, sebagai manusia, menjaga tubuh kita untuk tetap sehat dan tertata. Kita menjaga entropi tetap rendah; tidak terjadi kekacauan.

Stiegler eksplorasi konsep negentropi secara luas dan mendalam. Meski AI dan teknologi mendorong entropi bertambah tetapi manusia memiliki kapasitas negentropi yaitu menjaga entropi tetap rendah atau bahkan menurunkan entropi dalam situasi tertentu. Jadi, dengan pendekatan khusus, kita berharap bisa mengarahkan AI untuk melawan entropi. Bagaimana caranya?

Anti Entropi

Stiegler mengembangkan beragam istilah berkenaan dengan entropi. Anti-entropi adalah kemampuan menurunkan entropi atau mempertahankan entropi seiring berjalannya waktu. Misal seorang remaja hidup acak-acakan, kemudian, ketika dewasa, dia hidup dengan rapi teratur; dia bertindak anti-entropi. Konsep negentropi dan anti-entropi menjadi harapan bagi kita untuk bisa mengelola teknologi AI demi kebaikan umat manusia dan alam raya.

Istilah berikutnya yang sama penting adalah anthropi yaitu entropi dengan peran manusia; neganthropi yaitu negentropi dengan peran manusia; dan anti-anthropi yaitu anti-entropi dengan peran manusia. Demi kemudahan, kita akan lebih sering menggunakan istilah negentropi atau negantropi.

Solusi

Stiegler mengusulkan beragam solusi untuk mengatasi kekacauan dampak AI dan teknologi. Termasuk, usulan ini sudah dikirimkan ke sekretaris jenderal PBB Antonio Guterrez. Kita akan membahas beberapa usulan solusi yang terdokumentasi dalam buku Bifurcate. Kita perlu mencatat sisi unik dari Stiegler: kritikus keras terhadap AI dan, di saat yang sama, mengusulkan solusi. Jarang-jarang ada pemikir semacam ini.

[a] Deproletarianization

Proletarisasi adalah proses pemiskinan. Sedangkan, de-proletarisasi adalah proses anti-pemiskinan; atau proses pengayaan.

Stiegler mengusulkan proses anti-pemiskinan sebagai solusi bagi racun AI. Tentu saja, kita sadar bahwa telah terjadi proses pemiskinian oleh AI dan masih terus terjadi. Proses pemiskinan ini terjadi sudah lama sejak berkembang teknologi modern.

Montir mobil, sebelum tahun 2000, adalah montir yang kaya akan sains dan teknologi. Montir mampu memperbaiki lampu yang rusak, gangguan pada pintu, atau pun masalah kaca mobil. Setelah tahun 2000, bertahap namun pasti, terjadi proses pemiskinan terhadap montir. Bila lampu rusak, montir tidak perlu memperbaiki lampu. Montir hanya perlu mengganti lampu rusak dengan lampu baru. Montir tidak lagi memiliki kemampuan untuk memperbaiki lampu rusak.

Di tahun 2024, lebih canggih lagi, montir hanya perlu memasang mobil ke posisi yang tepat. Kemudian, sistem komputer yang dilengkapi AI akan mendeteksi kondisi mobil dan kemudian memperbaiki bagian mobil yang perlu diperbaiki. Montir makin mengalami pemiskinan. Montir hanya mampu mengoperasikan komputer saja.

Tetapi proses pemiskinan ini bukan hanya terjadi kepada produsen jasa semisal montir. Proses pemiskinan juga terjadi kepada konsumen. Sebut saja konsumen media sosial. Di tahun 2000, pengguna internet harus berpikir apa yang akan dia baca melalui internet; atau apa yang ingin dia tonton melalui video. Secara bertahap, tahun 2010an, rekomendai berita dan video dari media sosial makin canggih dengan memanfaatkan AI. Konsumen, pengguna media sosial, tidak perlu berpikir apa yang ingin dia tonton karena rekomendasi otomatis sudah ada di hadapan mereka. Terjadi proses pemiskinan pada sisi konsumen. Anda bisa menambahkan lebih banyak contoh proses pemiskinan ini.

Siswa-siswa sekolah juga mengalami pemiskinan atau pembodohan ilmu. Mereka tidak perlu berpikir lagi. Bila ada tugas sekolah cukup tanya kepada AI maka tersedia semua jawaban. Apakah solusi dari AI dapat diandalkan? Siswa-siswa tidak peduli. Lagi pula, siswa tidak mampu menguji jawaban AI. Demikian juga guru, belum tentu mampu menguji jawaban AI. Bila hal ini terjadi maka makin lengkap proses pemiskinan dan pembodohan di banyak lini.

Kita perlu melawan pemiskinan dampak AI dan teknologi dengan gerakan anti-pemiskinan. AI hanya boleh diterapkan bila menjamin anti-pemiskinan. Montir dibolehkan menggunakan AI dengan syarat montir mengalami anti-pemiskinan; montir mengalami pengayaan sains dan teknologi; termasuk, montir mengalami pengayaan politik dan ekonomi.

Ibu-ibu boleh memanfaatkan media sosial dengan syarat ibu-ibu mengalami anti-pemiskinan; ibu-ibu makin cerdas dalam berpikir; ibu-ibu makin kaya secara politik dan ekonomi. Siswa sekolah boleh memanfaatkan AI dengan syarat siswa mengalami anti-pemiskinan; siswa makin cerdas dalam berpikir; siswa makin bijak dalam bersikap.

Solusi anti-pemiskinan di atas tampak mudah karena bersifat personal. Tantangan sebenarnya jauh lebih rumit. AI adalah problem sosial budaya lebih dari sekedar problem personal. Siswa sekolah bisa saja berniat menggunakan AI untuk anti-pemiskinan. Tetapi, AI bisa mengelabui siswa sehingga siswa justru ketagihan dengan AI dan produk-produk online lainnya; justru terjadi pemiskinan terhadap siswa. Kita membutuhkan solusi personal, solusi sosial, sampai solusi internasional.

[b] Decarbonization

Peningkatan entropi alam raya ditandai dengan krisis iklim yang kita rasakan berupa cuaca ekstrem. Banyak hal yang berdampak kepada kerusakan alam raya. Salah satu indikator paling jelas adalah peningkatan karbon dioksida di alam semesta. Salah satu gerakan negantropi untuk melawan entropi adalah decarbonization atau de-karbon yaitu proses menurunkan kadar karbon di udara. Proses de-karbon sulit dilakukan karena kegiatan ekonomi dan politik cenderung menambah kadar karbon di udara.

De-karbon mengusulkan sistem ekonomi-politik yang berkontribusi pada penurunan kadar karbon atau penurun entropi; peningkatan negentropi. Industri pabrik mobil listrik, pabrik mobil gas, pabrik komputer, produsen AI, dan lain-lain akan mengalami beragam kesulitan untuk menurunkan kadar karbon. Tetapi, pertanian tradisional berhasil menurunkan kadar karbon atau mempertahankan kadar karbon yang sehat.

Tampak jelas, program de-karbon membutuhkan komitmen sosial dan politik; lebih dari sekedar komitmen personal.

Bila setiap perusahaan bersaing menghasilkan AI tercepat; bila setiap negara bersaing menghasilkan AI terhebat untuk senjata militer maka dipastikan kadar karbon makin tinggi di udara. Bencana alam raya mengancam di depan mata. Lebih parah lagi, bila bencana alam raya ini terjadi maka umat manusia tidak bisa mundur lagi.

Program de-karbon membutuhkan komitmen nasional sebagai syarat minimal. Kemudian, bergerak ke komitmen internasional.

[c] Internation

Dampak kerusakan akibat oleh AI, atau teknologi, perlu penanganan tingkat negara sampai antar-negara atau internation.

Solusi di tingkat negara tidak memadai untuk menurunkan entropi atau menaikkan negentropi. Karena ketika negara A menurunkan entropi sedangkan negara B menaikkan entropi maka, dalam persaingan ekonomi bebas, negara B akan menang berupa keuntungan finansial. Pada gilirannya, negara A akan meningkatkan entropi untuk bisa bersaing dengan negara B. Secara keseluruhan, entropi alam raya makin meningkat. Sebagai umat manusia, kita gagal menjaga alam raya dalam situasi seperti ini. Kita perlu bergerak ke solusi internation.

“Dengan demikian, bagian ini memperkenalkan usaha kolektif Proyek Internation yang berkaitan dengan karier panjang Stiegler sebagai pemikir, pendidik, dan organisator komunitas. Pendahuluan ini membahas sejumlah tema yang dibahas dalam kontribusi bagian ini, termasuk logika farmakologis, transindividuasi, praktik komputasional, bifurkasi, dan negentropi (cara memperlambat proses entropi pada tingkat individu dan kolektif). Semua tema ini berkaitan dengan krisis iklim yang dihadapi dunia secara kolektif dan mengemukakan cara-cara yang dengannya masa depan dapat dipahami dengan cara-cara ekonomi, sosial, teknologi, dan intelektual yang tidak terlalu merugikan dan merusak. Kolektif Internation sebagaimana yang direpresentasikan dan dikembangkan lebih lanjut dalam bagian khusus ini menanggapi tuntutan krisis iklim melalui model ekonomi makro yang dirancang untuk memerangi entropi pada berbagai skala, dari bio-kimia hingga biosfer.” (https://journals.sagepub.com/doi/10.1177/02632764221141804)

Stiegler memperjuangkan solusi internation sampai dia wafat pada tahun 2020 lalu. Saat ini, solusi internation masih terus bergulir.

Kerja sama internation bisa menetapkan negentropi misal batas kadar karbon atau suhu global. Tetapi bagaimana menetapkan ukuran anti-pemiskinan?

Kita bisa merujuk ke ukuran kemiskinan ekstrem, rasio gini, dan ketimpangan sosial; yaitu batas-batas yang harus dijaga. Secara praktis, anti-pemiskinan bisa kita perhatikan, kita ukur, dari pengetahuan individu terhadap teknologi AI. Individu dalam arti individu teknologi versi Simondon (1924 – 1989); individu berbeda dengan individual.

Seorang warga dunia adalah kaya, atau tidak miskin, jika menguasai pengetahuan teknologi dalam 3 tingkat: individu, unsur, dan rangkaian. Jika salah satu pengetahuan di atas hilang maka warga tersebut sedang termiskinkan.

Pengetahuan individu. Seorang montir memahami mobil secara individu mobil. Mobil perlu bensin atau listrik untuk operasi. Mobil bisa melaju dengan kecepatan 80 km/jam dan rem yang baik. Montir bisa mengoperasikan mobil dengan baik. Montir bisa interaksi dengan mobil dengan penuh pemahaman.

Bandingkan dengan AI generatif, misalnya. Siswa tidak paham bagaimana cara AI menjawab suatu pertanyaan. Siswa tidak paham cara mengendalikan perilaku AI. Siswa tidak paham cara mengubah kode AI. Umumnya, cara kerja AI adalah probabilitas kotak-hitam. Sehingga, tidak ada orang yang tahu pasti cara kerja AI; apa lagi, seorang siswa sekolah. Dalam situasi ini, siswa termiskinkan. Banyak resiko berat dampak dari pemiskinan seperti ini.

Pengetahuan unsur. Seorang montir paham bahwa mobil terdiri dari beragam unsur: roda, kursi, kaca, dan lain-lain. Montir paham berapa tekanan ban yang baik. Bila tekanan ban terlalu rendah, montir paham cara menambah tekanan ban; atau, montir bisa minta tolong teman untuk menambah tekanan ban. Montir yang menguasai unsur-unsur mobil dalam batas tertentu maka termasuk montir yang kaya, tidak termiskinkan. Ban roda itu sendiri tersusun oleh unsur-unsur yang lebih kecil tetapi montir tidak harus menguasai pengetahuan yang lebih detil lagi.

Bandingkan degan AI generatif. Siswa tidak paham AI generatif tersusun oleh unsur-unsur apa saja. Andai paham tentang unsur AI, siswa tidak mampu mempengaruhi unsur-unsur AI tersebut; siswa tidak mampu mengendalikan unsur AI. Dalam situasi seperti ini, siswa dan warga terkena dampak pemiskinan oleh AI.

Pengetahuan rangkaian. Montir paham bahwa mobil bisa dipakai untuk jalan menurun atau pun menanjak. Montir paham bahwa kapasitas mobil adalah untuk 5 orang. Montir memahami bahwa mobil membentuk rangkaian dengan jalan, dengan penumpang, dan dengan alam sekitar. Montir yang memahami rangkaian oleh mobil, sampai batas-batas tertentu, adalah montir yang kaya, tidak termiskinkan. Tentu saja, rangkaian oleh mobil ini bisa berkembang sampai alam luas. Montir tidak harus menguasai pengetahuan rangkaian yang lebih luas.

Bandingkan dengan AI generatif. Siswa paham bahwa jawaban dari AI akan diserahkan kepada guru. Tetapi siswa tidak paham bagaimana merespon penilaian guru bila guru tidak setuju dengan jawaban AI. Siswa kesulitan untuk mendiskusikan jawaban dari AI tersebut. Dalam situasi ini, siswa dan orang pada umumnya mengalami pemiskinan oleh AI.

Tantangan kita sangat besar untuk menghadapi AI.

Ringkasan

Narasi AI sebagai farmakon memandang AI sebagai obat yang sekaligus mengandung racun. Seiring perkembangan waktu, racun AI lebih besar dari kandungan obat. Sehingga, kita perlu waspada dengan AI. Lebih rumit lagi, kerusakan dampak AI bersifat global misal berupa krisis iklim. Konsekuensinya, penanganan AI membutuhkan komitmen personal, komitmen negara, sampai komitmen internation. Secercah harapan muncul karena manusia memiliki kapasitas negentropi yaitu menjaga entropi dalam kadar yang sehat. Kita berharap akan berhasil menemukan solusi bagi AI.

16. Kedaulatan Mesin dari Yuk Hui

Yuk Hui memandang AI sebagai mesin yang berdaulat; teknologi tampak memiliki kedaulatannya sendiri. AI (akal imitasi / artificial intelligence) memberi tantangan kepada manusia; manusia merespon tantangan; kemudian AI memberi tantangan lebih lanjut. Tidak mudah, bagi manusia, menjawab tantangan AI. Manusia mudah terjebak, bahkan, sampai merusak bumi dan isinya; termasuk, manusia merusak manusia lainnya. Akibat dari manusia yang salah merespon tantangan teknologi semisal AI.

Yuk Hui memandang bahwa AI menjadi mesin kapitalisme yang mengeruk keuntungan finansial besar bagi pihak tertentu; dengan merugikan banyak pihak lain. Jangan biarkan kepentingan ekonomi mendominasi AI. Jangan biarkan birahi ekonomi pasar bebas mendominasi AI. Manusia perlu bergandeng tangan dengan AI, bergandeng tangan dengan teknologi, untuk membangun peradaban bumi.

Mesin Berdaulat

Kita perlu berpikir bahwa AI adalah mesin yang berdaulat. AI berkembang dengan caranya sendiri. AI bukan sekedar alat. Bahkan, AI bisa memperalat manusia. Kita perlu berpikir agar AI bisa bekerja sama untuk kemajuan peradaban bersama.

Manusia mudah terjebak dengan mengira mesin sekedar sebagai alat. Padahal mesin berdaulat, dalam arti, memiliki siklus hidupnya sendiri. Mesin, misal AI, lahir dalam situasi tertentu. Kemudian, menjalani hidup sebagai AI dan, akhirnya, AI tersebut akan musnah. Meski memiliki siklus hidup, tidak berarti AI sebagai makhluk hidup. Hanya saja, AI bisa “memilih” jalan hidupnya sesuai respon manusia.

Kita perlu memahami siklus hidup teknologi agar kita berhasil interaksi dengan teknologi secara bijak. Teknologi memiliki tendensi enframing, yaitu, mengungkung segala sesuatu sebagai bahan baku. AI generatif, misalnya, mengungkung semua data digital sebagai bahan belajar mereka. Bahkan, realitas fisik perlu digitalisasi agar menjadi bahan belajar bagi AI. Tujuan dari AI adalah akselerasi, efisiensi, dan volume yang tinggi.

Di atas, kita menggunakan istilah-istilah seakan-akan AI adalah makhluk hidup agar kita mudah memahami kecenderungan AI. Apakah AI benar-benar sebagai makhluk hidup, yaitu makhluk biologis, adalah tugas kajian yang lain.

Memikirkan Planet Bumi

Cara mudah merespon tantangan AI adalah dengan memanfaatkan AI secara efisien. Respon ini menguntungkan kita, menguntungkan perusahaan kita, dan menguntungkan negara kita. Apa yang akan terjadi jika setiap negara berlomba untuk mendapat keuntungan besar dari AI? Perang antar negara mudah terjadi. Kita perlu memikirkan nasib planet bumi bersama AI.

Maksud planet bumi adalah alam semesta itu sendiri. Kita menggunakan istilah planet bumi untuk memudahkan pemahaman. Bayangkan bumi bagai kapal yang berlayar di angkasa raya. Kita bisa hidup karena menumpang di bumi. Andai, kita dilempar dari bumi maka tidak akan bisa bertahan hidup hanya dalam hitungan kurang dari satu hari. Merawat bumi adalah sama artinya dengan merawat kehidupan kita sendiri. Sebaliknya juga benar, merawat kehidupan kita sendiri harus berkonsekuensi merawat bumi.

Ketika umat manusia mampu terbang ke luar angkasa maka berkembang banyak salah sangka. Dari kamera luar angkasa, kita bisa melihat bahwa bumi mirip dengan bola yang hampir bulat. Manusia bisa menempel di bumi atau kadang terbang meninggalkan bumi. Manusia merasa mandiri dari bumi. Dengan salah sangka ini, manusia eksploitasi bumi demi kepentingan pribadi. Tidak benar pandangan semacam ini. Bumi adalah rumah kita; tempat tinggal kita. Kita selalu hidup di bumi; lahir di bumi; dan mati di bumi. Andai, seseorang bisa pindah ke planet baru maka planet baru itu menjadi bumi baru baginya. Jadi, manusia selalu bersatu dengan bumi.

Teknologi AI datang di bumi ini. Kita perlu berpikir bagaimana cara terbaik hidup di bumi ini bersama AI?

Diplomasi Teknologi

AI bisa membantu diplomasi antar negara. Sebaliknya justru bisa terjadi: masing-masing negara saling bersaing karena AI. Bagaimana strategi bijak berdiplomasi bersama AI?

Kita melompat ke AI sebagai media diplomasi antar negara, antar perusahaan, dan antar regional. Karena kita berasumsi bahwa Yuk Hui sudah mengkaji pemikiran gurunya yaitu Stiegler, Derrida, dan Heidegger. Nyatanya, Yuk Hui mendasarkan kajian tekno-politik, yaitu AI sebagai diplomasi, kepada pemikiran Hegel dan Schmitt.

Kita sudah yakin bahwa AI membutuhkan komitmen personal meski tidak memadai. Jika setiap orang memanfaatkan AI dengan baik maka masih terjadi persaingan curang antar teman kantor. Kita membutuhkan komitmen sosial, bahkan komitmen nasional, meski tidak memadai. Jika setiap negara mengembangkan AI sesuai kepentingan negara tersebut maka terjadi perang antar beberapa negara dengan senjata AI. Kita butuh komitmen untuk berpikir sebagai warga bumi; setiap warga dan setiap negara berdiplomasi bersama AI.

Bagaimana cara bijak diplomasi bersama AI?

[a] Makna Percepatan

Percepatan atau akselerasi teknologi menjadi keunggulan utama AI yang efisien dalam volume besar. Kita perlu ingat bahwa akselerasi adalah vektor yang memiliki arah; akselerasi adalah perubahan vektor kecepatan; berbeda dengan perubahan skalar laju; untuk tiap satuan waktu. Laju hanya memiliki ukuran “besar” saja tanpa arah. Sehingga, agar terjadi perubahan yang besar maka laju akhir harus benar-benar jauh lebih besar dari laju awal. Akselerasi tidak demikian. Kadang hanya dengan mengubah arah kecepatan sudah berhasil menciptakan akselerasi tinggi; tanpa harus ada perubahan besar kecepatan.

Akselerasi adalah kabar baik karena mempertimbangkan arah perkembangan AI bukan hanya volume AI. Barangkali, perkembangan volume AI tetap seperti biasa saja. Tetapi arah berubah. Arah semula adalah untuk meningkatkan keuntungan finansial berganti arah untuk berkontribusi menjaga bumi dan penghuni. Perubahan arah ini sudah menghasilkan akselerasi AI yang tinggi. Dalam diplomasi dua negara, bisa saja mereka bentrok bersaing dalam penguasaan AI. Jika mereka berhasil menggeser arah AI sehingga selaras antar dua negara tersebut maka hal itu sudah menghasilkan akselerasi yang tinggi.

Apakah semudah itu? Tentu banyak tantangan besar untuk bisa mengubah arah. Salah satunya adalah arah untuk mencapai efisiensi perlu digeser ke arah untuk mencapai kontribusi bumi. Atau, bahkan bagaimana menentukan arah AI itu sendiri?

Model epistemologi AI yang berkembang saat ini mirip dengan metafora tikus dalam labirin. Tugas tikus adalah mencari jalur tercepat agar bisa keluar. Arah akhir bagi tikus tampak sudah jelas. Metafora alternatif adalah 10 ekor kelelawar sedang mengejar 1000 ngengat yang bergerak acak. Kelelawar itu perlu mempertimbangkan banyak hal yang serba tidak pasti.

[b] Makna Universalitas Teknologi

Teknologi bersifat universal; bisa beroperasi di mana saja dan kapan saja ketika situasi kondisi terpenuhi. Demikian juga, AI bersifat universal yaitu bisa beroperasi di Eropa mau pun Jakarta. Klaim universal seperti ini tidak valid karena berubah menjadi dominasi atau hegemoni.

Adakah klaim universal yang lebih baik?

[c] Makna Berdaulat

Makna umum berdaulat adalah mampu mengambil keputusan dengan bebas. Yuk Hui merujuk ke Schmitt bahwa makna berdaulat adalah kemampuan menetapkan eksepsi; menetapkan pengecualian.

[d] Diplomasi: Ragam Teknologi, Pikiran, dan Kehidupan

Secara konkret, diplomasi AI membuka keragaman teknologi, keragaman pikiran, dan keragaman kehidupan.

17. Jalan Hidup Kosmis dari Taylor dan Rakhmat

Charles Taylor tetap aktif menulis ketika usia di atas 90 tahun; Taylor lahir 1931. Taylor mengajak kita membaca puisi; menulis puisi; merangkai kisah kosmis alam raya ini. Jangan sampai AI menjadikan kita berhenti berpuisi. Kita perlu lebih banyak membaca puisi ketika AI menemani. Bagaimana bisa terjadi?

Dari Indonesia, Jalaluddin Rakhmat menyemai konsep filsafat sebagai jalan hidup dalam berbagai ceramah dan buku. Filsafat adalah hidup umat manusia itu sendiri bersama alam raya. Makin dekat kita dengan filsafat maka makin dekat pula kita dengan makna hidup. Filsafat menjelma menjadi sains dan teknologi; sehingga teknologi, termasuk AI, adalah jalan hidup bagi manusia itu sendiri. Jalan hidup seperti apa yang kita jalani bersama AI? Apakah hidup yang penuh arti? Masih banyak misteri dan teka-teki.

Di bagian ini, kita akan merangkai narasi AI sebagai “jalan hidup kosmis” dengan mengacu kepada karya Taylor dan Rakhmat.

Beberapa kutipan dari buku Taylor yang berjudul Cosmic Connection patut kita renungkan. (Sumber: https://www.hup.harvard.edu/file/feeds/PDF/9780674296084_sample.pdf)

“… kebutuhan manusia akan hubungan kosmik; … yang dipenuhi dengan kegembiraan, makna, dan inspirasi.”

“Karya mereka terjaga dari keberatan filosofis terhadap kepercayaan pada tatanan kosmik, tetapi membangkitkan rasa yang dirasakan pembaca akan realitas yang lebih tinggi dan lebih dalam daripada dunia sehari-hari di sekitar kita.” (Taylor).

Kita, sebagai manusia, membutuhkan hubungan kosmis yang menjadikan hidup kita bahagia, bermakna, dan penuh inspirasi. Kita menjalin hubungan kosmis ini melalui bahasa puisi dan beragam bentuk karya seni. Bahasa puisi ini aman dari keberatan filosofi karena puisi membangkitkan inspirasi melalui bahasa simbol. Puisi membuka pengalaman hidup yang lebih luas dan lebih dalam.

Agar AI mampu menjadi hubungan kosmis maka AI harus menjadi puisi. Kita perlu membaca tulisan hasil AI sebagai puisi; tentu, sulit terjadi. Karena AI bekerja berdasar algoritma dan kode digital yang bersifat matematis bukan puitis. Bagaimana pun, AI adalah niscaya bagi umat manusia. Tugas kita adalah membaca AI sebagai puisi dan, sesuai Rakhmat, menjadikan AI sebagai jalan hidup filosofis. Bagaimana caranya?

Sejak sains modern berkembang dengan mekanika Newton, manusia cenderung melihat alam sebagai obyek luar yang terpisah dari manusia. Sehingga, manusia tidak punya hubungan istimewa dengan alam. Atau, alam tidak lagi bernilai istemewa bagi manusia. Manusia terpisah dengan alam, pada akhirnya, manusia merasa kesepian. Kita akan mencermati naik-turun kekuatan hubungan kosmis umat manusia dalam penggalan sejarah.

(1) Alam tidak dapat dipahami secara mekanistis. Alam lebih seperti organisme hidup.

Pada era kuno, manusia memandang alam sebagai organisme hidup yang memiliki tujuan mulia. Manusia merasa bahagia hidup bersama alam dan terikat dengan nilai-nilai luhur. Jadi, alam semesta tidak bersifat mekanistis. Jalan hidup manusia penuh makna bersama alam raya.

(2) Jiwa kita berkomunikasi dengan keseluruhan ini, dengan Alam. Alam beresonansi dalam diri kita, dan kita mengintensifkannya melalui ekspresi, seni.

Masih di era kuno, hati manusia tergetar oleh getaran alam raya. Hidup manusia beresonansi dengan gelombang semesta. Makin jauh manusia membangun peradaban maka makin mendalam manusia memahami alam. Perkembangan sains dan teknologi, waktu itu, makin menguatkan hubungan kosmis. Ilmuwan, seniman, dan teknokrat adalah orang yang menjalani hidup penuh makna.

(3) Namun, seluruh gagasan kita tentang Alam telah mengalami pergeseran modern.

Pergeseran oleh sains dan peradaban modern mengubah banyak hal. Alam menjadi bersifat mekanistis; bisa dihitung dengan matematika; bisa dikendalikan melalui rekayasa. Alam kehilangan pesona; atau, manusia kehilangan kemampuan untuk merasakan pesona alam. Sains modern menghadirkan problem baru bagi kemanusiaan.

(4) Kita berusaha menemukan bentuk sejati kita melalui ekspresi kreatif, bergerak tahap demi tahap.

Ketika sains modern melemahkan hubungan kosmis, kita berjuang untuk menguatkan hubungan kosmis tersebut melalui ekspresi kreatif karya seni; salah satunya berupa puisi. Perjuangan ini tidak mudah karena sains menjanjikan keuntungan finansial, teknologi, politik, dan lain-lain. Dari aspek kehidupan sehari-hari, sains tampak lebih praktis dari puisi. Sehingga wajar, umat manusia lebih mengandalkan sains dari puisi.

(5) Dua jalur perkembangan ekspresif-historis, kosmos dan manusia, saling terkait. Alam atau kosmos tidak dapat mencapai bentuk akhirnya tanpa kita menyadari bentuk kita.

Sains berpijak kepada hukum alam yang bersifat pasti; misal hukum mekanika Newton. Di sisi lain, manusia memiliki intuisi jelas bahwa manusia memiliki kebebasan atau freedom. Hukum alam dan freedom tidak bisa disatukan dengan mudah; meski pun juga tidak bisa dipisahkan begitu saja. Sains tidak pernah berhasil membuat formula bagi freedom manusia. Dan freedom manusia berbenturan, serta dibatasi, oleh hukum-hukum alam.

(6) Ia juga mencakup, sambil melangkah lebih jauh, pemahaman baru tentang kebebasan sebagai otonomi, yang merupakan cita-cita etis dan politik.

Beberapa pemikir, misal Immanuel Kant, berkreasi membuat formula freedom atau kebebasan manusia sebagai otonomi. Karena manusia otonom, yaitu memiliki kebebasan, maka manusia bertanggung jawab secara etika dan politik. Sehingga, kajian sains tentang manusia adalah kajian etika dan kajian politik. Jadi, sampai tahap ini, sains berhasil mengkaji alam dan manusia secara lengkap.

(7) Cita-cita tentang rekonsiliasi sempurna antara kebebasan dan kesatuan dengan alam, di dalam dan di luar.

Namun

(8) Ironi: jalan menuju (7) mungkin tidak akan pernah selesai; kita mungkin selalu berjuang, menderita terpisah jarak. Namun, ekspresi ironis menunjukkan kesenjangan, dan menunjukkan apa yang kita perjuangkan.

Rekonsiliasi harmonis antara kebebasan manusia dan sains hukum alam menjadi ironi. Sampai saat ini, awal abad 21, tidak terjadi rekonsiliasi harmonis. Dari perspektif sains, kebebasan manusia akan direduksi menjadi sistem mekanis gerak sistem syaraf dan badan manusia. Dari perspektif etika, kebebasan manusia adalah transenden, terbebas, dari hukum sains mekanika. Ironi kesenjangan ini memberi tanda arah perjuangan umat manusia.

Ironi makin tajam dengan perkembangan teknologi AI akhir-akhir ini. AI seakan mampu mengerjakan semua tugas manusia. AI yang diprogram secara eksak, dengan kata lain bahwa AI tidak memiliki freedom, tetapi berhasil menirukan perilaku manusia. Konsekuensinya, manusia dianggap tidak memiliki freedom; seluruh perilaku manusia akan bisa dijelaskan secara eksak oleh sains. Dari perspektif manusia umumnya, mereka sudah banyak yang hidupnya dikendalikan oleh AI, misal, dikendalikan oleh media sosial. Bila demikian, kebebasan manusia telah runtuh dalam cengkeraman sistem komputer AI. Ironi berubah menjadi tragedi; kehidupan manusia kehilangan arti. Benarkah demikian yang terjadi? Tentu tidak.

Beberapa orang, dalam jumlah cukup besar, tetap memiliki freedom meski dikepung oleh AI. Di antaranya adalah para ilmuwan dan insinyur yang tulus mengembangkan sains teknologi; para seniman yang terus berkarya; para agamawan yang mengajarkan hidup bercahaya spiritual dan lain-lain. Jadi, tetap terjadi kesenjangan antara freedom manusia dan hukum sains teknologi AI. Bagaimana solusi dari ironi ini?

“.. realisasi penuh Alam membutuhkan ekspresi sadar yang hanya dapat diberikan oleh Roh. Seni (atau filsafat) dan Alam bersatu karena keduanya mencapai pemenuhan bersama.”

“Manusia hanya bermain ketika ia dalam arti kata yang paling penuh sebagai manusia, dan ia hanya sepenuhnya menjadi manusia ketika ia bermain.”

“Kita dapat mengatakan bahwa bahasa yang tepat akan memenuhi tuntutan Cratylus Plato: sebuah kata akan menggambarkan apa yang ditunjuknya.”

“Paralelisme ini dapat dipahami dalam dua cara: baik mengajak kita untuk mencari struktur tatanan yang lebih besar dengan menyelidiki hakikat kita sendiri, atau memberi tahu kita bahwa kita tidak dapat sepenuhnya memahami diri kita sendiri, tujuan kita, atau makna yang penting bagi kita tanpa memahami tatanan kosmik.”

“Memulihkan bahasa wawasan tidak hanya menambah pengetahuan kita yang tidak memihak: hal itu juga menghubungkan kita kembali dengan kosmos, dan ini mewujudkan tujuan hakiki kita.”

“Pertama, ia didefinisikan dalam konteks keharusan mediasi: dalam hal ini, ia mengambil bagian dari sifat metafora, di mana kita menyoroti satu hal dengan menggunakan hal lain.”

“… karya seni menghasilkan … pengalaman koneksi yang kuat, atau lebih umum, ia mengubah hubungan kita dengan situasi yang digambarkannya bagi kita.”

Bagaimana menurut Anda?

Bersama janji manis AI (akal imitasi / artificial intellgence) terdapat resiko besar bagi umat manusia. Kita perlu terus mengembangkan budaya berpikir kritis; termasuk berpikir kritis terhadap AI dan terhadap teknologi secara luas.

Narasi kelas kritis memandang AI penuh waspada; AI memang bisa bermanfaat tetapi resiko AI amat besar; AI makin berkembang efisien tetapi aktor jahat bisa eksploitasi AI yang merugikan umat. Hinton, Harari, dan Elon Musk adalah beberapa tokoh dalam kelas narasi kritis.

5. Bom Atom Kemanusiaan dari Hinton
6. Pernikahan Robot Manusia dari Mahayana
7. Nexus Homo Homini Lupus dari Harari
8. Teknologi Instrumen dari Habermas
9. Omong Kosong dan Disparitas dari Acemoglu

Berikut, kita akan membahas beberapa narasi kritis AI.

5. Bom Atom Kemanusiaan dari Hinton

AI bisa lebih bahaya dari bom atom. Kita menyebut narasi ini sebagai narasi bom atom kemanusiaan. Bom atom jelas sangat berbahaya. Tetapi, siapa pun orangnya sulit untuk memproduksi bom atom; sulit eksploitasi bom atom. Sementara, AI (akal imitasi / artificial intelligence) adalah sangat berbahaya. Di saat yang sama, AI mudah dieksploitasi oleh banyak pihak dengan biaya murah. Sehingga, AI lebih bahaya dari bom atom.

Hinton, pemenang Nobel fisika 2024, menolak pandangan Kurzweil yang optimis itu. Bagi Hinton, AI memunculkan beragam resiko ketidakpastian: [a] tidak pasti apakah bermanfaat atau berbahaya; [b] tidak pasti apakah bisa dikendalikan atau tidak; [c] tidak pasti apakah kita bisa mencegah orang jahat agar tidak memanipulasi AI. Totalitas ketidakpastian ini menyebabkan AI lebih bahaya dari bom atom.

Di bagian ini, kita akan membahas beberapa perspektif Hinton tentang AI.

Penghargaan Nobel 2024

Dua peraih Nobel Fisika tahun ini telah menggunakan berbagai alat dari fisika untuk mengembangkan metode yang menjadi dasar pembelajaran mesin yang canggih saat ini.

John Hopfield menciptakan memori asosiatif yang dapat menyimpan dan merekonstruksi gambar dan jenis pola lainnya dalam data.

Geoffrey Hinton menemukan metode yang dapat secara mandiri menemukan properti dalam data, dan melakukan tugas-tugas seperti mengidentifikasi elemen-elemen tertentu dalam gambar.

Ketika kita berbicara tentang kecerdasan buatan, yang sering kita maksud adalah pembelajaran mesin menggunakan jaringan saraf tiruan. Teknologi ini awalnya terinspirasi oleh struktur otak. Dalam jaringan saraf tiruan, neuron otak diwakili oleh simpul-simpul yang memiliki nilai berbeda. Simpul-simpul ini saling memengaruhi melalui koneksi yang dapat disamakan dengan sinapsis dan yang dapat diperkuat atau diperlemah.

Jaringan dilatih, misalnya dengan mengembangkan koneksi yang lebih kuat antara simpul-simpul dengan nilai tinggi secara bersamaan. Para pemenang tahun ini telah melakukan pekerjaan penting dengan jaringan saraf tiruan sejak tahun 1980-an dan seterusnya.

John Hopfield menemukan jaringan yang mampu untuk menyimpan dan menciptakan kembali pola. Kita dapat membayangkan simpul-simpul sebagai piksel. Jaringan Hopfield menggunakan fisika yang menggambarkan karakteristik material karena spin atomnya – sifat yang membuat setiap atom menjadi magnet kecil. Jaringan secara keseluruhan dijelaskan dengan cara yang setara dengan energi dalam sistem spin yang ditemukan dalam fisika, dan dilatih dengan menemukan nilai untuk koneksi antara simpul-simpul sehingga gambar yang disimpan memiliki energi yang rendah.

Ketika jaringan Hopfield diberi gambar yang terdistorsi atau tidak lengkap, ia secara metodis bekerja melalui simpul-simpul dan memperbarui nilainya sehingga energi jaringan turun. Dengan demikian, jaringan bekerja secara bertahap untuk menemukan gambar tersimpan yang paling mirip dengan gambar tidak sempurna yang diberikan kepadanya.

Geoffrey Hinton menggunakan jaringan Hopfield sebagai fondasi untuk jaringan baru yang menggunakan metode berbeda: mesin Boltzmann.

Mesin ini dapat belajar mengenali elemen karakteristik dalam jenis data tertentu. Hinton menggunakan alat dari fisika statistik, ilmu sistem yang dibangun dari banyak komponen serupa. Mesin dilatih dengan memberinya contoh yang sangat mungkin muncul saat mesin dijalankan. Mesin Boltzmann dapat digunakan untuk mengklasifikasikan gambar atau membuat contoh baru dari jenis pola yang dilatihnya. Hinton telah mengembangkan karya ini, membantu memulai pengembangan pembelajaran mesin yang eksplosif saat ini. (www.nobelprize.org)

Bapak AI Menyesali

Geoffrey Everest Hinton CC FRS FRSC (lahir 6 Desember 1947) adalah seorang ilmuwan komputer, ilmuwan kognitif, psikolog Inggris-Kanada dan paling terkenal atas karyanya pada jaringan saraf buatan, yang membuatnya mendapat gelar sebagai “Bapak AI”. Dan Nobel Fisika 2024.

Hinton dipandang sebagai tokoh terkemuka dalam komunitas pembelajaran mendalam (deep learning).

Ia telah menyuarakan kekhawatiran tentang penyalahgunaan AI yang disengaja oleh aktor jahat, pengangguran dampak teknologi, dan risiko eksistensial dari kecerdasan umum buatan.

Pada Konferensi Sistem Pemrosesan Informasi Neural (NeurIPS) 2022, ia memperkenalkan algoritma pembelajaran baru untuk jaringan neural yang disebutnya algoritma “Maju-Maju”. Ide dari algoritma baru ini adalah untuk mengganti lintasan maju-mundur tradisional dari backpropagation dengan dua lintasan maju, satu dengan data positif (yaitu nyata) dan yang lainnya dengan data negatif yang dapat dihasilkan hanya oleh jaringan.

Pada bulan Mei 2023, Hinton mengumumkan pengunduran dirinya dari Google secara terbuka. … bahwa ia ingin “berbicara secara bebas tentang risiko AI” dan menambahkan bahwa dirinya sekarang menyesali pekerjaan seumur hidupnya.

Resiko Ketidakpastian

Berikutnya, kita lebih fokus kepada argumen Hinton: ketidakpastian AI.

Manfaat vs Bahaya

Awalnya, narrow-AI jelas memberi manfaat bagi manusia dan alam. Peta digital, menggunakan AI, membantu manusia menemukan jalan paling lancar dan optimal ketika berada dalam situasi kemacetan lalulintas. Kita hemat waktu dan energi; dan hemat beban pikiran. Deteksi penyakit dengan AI berhasil mengenali sel kanker sehingga tidak terlambat untuk penanganan.

Ketika chatGPT, dan AI generatif lain, diluncurkan maka situasi berubah. AI tampil begitu cerdas; AI mampu menjawab semua pertanyaan yang kita ajukan dengan cepat dan menakjubkan. Anda tanya sejarah dunia, atau kemajuan sains teknologi terbaru, atau tips olah raga, atau resep masakan maka AI akan menjawab dengan cerdas. Saya pernah minta AI untuk membuatkan puisi cinta dan AI menuliskan puisi cinta yang indah.

Bagi Hinton, kemampuan AI yang meluas ini, misal disebut AGI, menjadi tidak pasti: apakah bermanfaat atau berbahaya. AGI tampak bermanfaat membantu kita menjawab beragam masalah. Tetapi, AGI berbahaya karena jawaban AGI bisa halusinasi. AGI bermanfaat sebagai call center tetapi mengakibatkan pengangguran bagi beberapa orang. AGI menambah kita cerdas dengan beragam pengetahuan tetapi membuat kita malas berpikir. Jadi, kita perlu waspada terhadap ancaman AI.

Tak Terkendali

Hinton terpesona oleh langkah 37 AlphaGo yang tidak masuk akal; terbukti, AI berhasil mengalahkan juara dunia Lee Sedol dalam permainan Go. Ketika AI berhasil mengalahkan juara dunia catur, itu prestasi hebat. Permainan Go lebih kompleks rasionalitasnya dari catur. Dan, AI berhasil mengalahkan juara Go asal Korea Selatan.

Bagaimana pun langkah 37 adalah misteri. Pemain Go profesional dan pengamat menilai bahwa langkah 37 adalah buruk bahkan tidak masuk akal. Pada analisis akhir, langkah 37 adalah kunci kemenangan. AI mampu berpikir sampai kepada langkah yang tidak dijangkau oleh pikiran manusia. Bila demikian, apakah manusia akan mampu mengendalikan AI? Bila AI tak terkendali apa saja resiko yang bisa terjadi? Ancaman eksistensial?

AlphaGo hanya salah satu AI. Situasi saat ini, perusahaan-perusahaan besar bersaing untuk terdepan dalam pengembangan AI; makin tak terkendali. Demikian juga negara-negara besar bersaing mengembangkan AI; Amerika, Rusia, Cina, dan lain-lain; lebih tak terkendali. Bisa diduga, salah satu persaingan AI terbesar adalah pengembangan untuk kepentingan senjata dan militer. Hinton mengingatkan kita agar lebih waspada.

Pencegahan

Hinton menyatakan ketidakpastian puncak adalah kita tidak yakin mampu mencegah orang jahat. Maksudnya, misal, ketika kita berhasil memastikan bahwa AI bermanfaat dan bisa dikendalikan maka, tetap saja, ada orang jahat yang memanfaatkan AI untuk kejahatan. Karena kemampuan AI sangat besar maka ukuran kejahatan itu juga sangat besar.

Merakit bom adalah kejahatan. Saat ini, orang jahat bisa berbagi proses merakit bom yang jahat itu. Meski orang jahat menguasai proses merakit bom, mereka tetap mengalami kesulitan untuk menciptakan bom lantaran kesulitan bahan dan lokasi, misalnya. AI berbeda dengan bom. AI bisa disebarkan, diperdagangkan, secara luas. Dari AI standar, penjahat bisa melatih AI untuk melakukan kejahatan. Proses dan tindakan melatih AI agar menjadi jahat hanya butuh biaya beberapa juta dolar saja. Kejahatan menjadi tak terkendali; nasib manusia dan nasib alam semesta menjadi kian tak pasti.

Dari beragam argumen ketidakpastian, Hinton menyarankan agar umat manusia mencegah beragam resiko dari AI; menyarankan agar mencegah terjadinya singularitas yang liar.

Apakah AI bisa lebih cerdas dari Einstein?

Tampaknya, Hinton akan menjawab positif: AI bisa lebih cerdas dari Einstein. Tetapi, kita harus mencegah itu sebelum terlambat. Jadi, Hinton sependapat dengan Kurzweil bahwa bisa terjadi singularitas. Mereka berbeda sikap. Kurzweil optimis bahwa singularitas membawa kebaikan; sementara, Hinton skeptis bahwa kita perlu selalu waspada.

6. Pernikahan Robot Manusia dari Mahayana

Narasi pernikahan robot manusia ini kaya akan makna. Dimitri Mahayana, lahir 1968, mengembangkan narasi pernikahan robot manusia dalam berbagai tulisan dan kuliahnya. [a] Pernikahan robot manusia bermakna bahwa seorang manusia menikahi sebuah robot cerdas yaitu AI. [b] Pernikahan robot manusia bermakna kemampuan robot AI bersintesis dengan kemampuan manusia. [c] Rekayasa AI berbaur dengan rekayasa manusia.

7. Nexus Homo Homini Lupus dari Harari

Harari mengembangkan narasi AI (akal imitasi /artificial intelligence) yang unik dalam buku Nexus. Di satu sisi, Harari mengingatkan resiko besar dari AI. Di sisi lain, Harari menunjukkan prospek besar bagi pihak yang menguasai industri AI. Saking dahsyatnya kemampuan AI, Harari menyebut AI sebagai alien intelligence.

Harari berhasil menampilkan analisis kritis terhadap AI tetapi gagal menunjukkan solusi yang mempertimbangkan etika dan filsafat. Narasi dari Harari bisa kita sebut sebagai Nexus homo homini lupus: manusia terhadap manusia adalah srigala. Sumber analisis dan kutipan kita adalah buku Nexus karya Harari yang terbit September 2024; kecuali disebut lain.

Kekuatan Fiksi

Harari tampak begitu bangga dengan manusia yang percaya terhadap fiksi. Keunggulan manusia adalah, menurut Harari, bisa komitmen terhadap fiksi. Sehingga, di awal buku Nexus, Harari menampilkan dua fiksi menarik.

“Sepanjang sejarah, banyak tradisi yang meyakini bahwa beberapa kelemahan fatal dalam sifat manusia menggoda kita untuk mengejar kekuatan yang tidak kita ketahui cara menanganinya. Mitos Yunani tentang Phaethon menceritakan tentang seorang anak laki-laki yang menemukan bahwa ia adalah putra Helios, dewa matahari. Berharap untuk membuktikan asal usulnya yang ilahi, Phaethon menuntut hak istimewa untuk mengemudikan kereta matahari. Helios memperingatkan Phaethon bahwa tidak ada manusia yang dapat mengendalikan kuda langit yang menarik kereta surya. Tetapi Phaethon bersikeras, sampai dewa matahari mengalah. Setelah terbang dengan gagah di langit, Phaethon benar-benar kehilangan kendali atas kereta itu. Matahari menyimpang dari jalurnya, menghanguskan semua tumbuhan, membunuh banyak makhluk dan mengancam akan membakar Bumi itu sendiri. Zeus campur tangan dan menyerang Phaethon dengan petir. Manusia yang sombong itu jatuh dari langit seperti bintang jatuh, dirinya sendiri terbakar. Para dewa menegaskan kembali kendali atas langit dan menyelamatkan dunia.”

Kemudian kita melompat ke era Revolusi Industri bersama Goethe untuk kisah kedua.

“Puisi Goethe (yang kemudian dipopulerkan sebagai animasi Walt Disney yang dibintangi Mickey Mouse) menceritakan tentang seorang penyihir tua yang menitipkan kepada seorang murid muda untuk menjaga bengkelnya dan memberinya beberapa tugas yang harus diselesaikan saat dia pergi, seperti mengambil air dari sungai. Murid itu memutuskan untuk mempermudah dirinya sendiri dan, menggunakan salah satu mantra penyihir itu, menyihir sebuah sapu untuk mengambilkan air untuknya. Namun, murid itu tidak tahu bagaimana menghentikan sapu itu, yang terus menerus mengambil lebih banyak air, mengancam akan membanjiri bengkel. Dalam kepanikan, murid itu memotong sapu yang disihir itu menjadi dua dengan kapak, hanya untuk melihat masing-masing bagiannya berubah menjadi sapu lainnya. Sekarang dua sapu yang disihir itu membanjiri bengkel dengan air. Ketika penyihir tua itu kembali, murid itu memohon bantuan: “Roh-roh yang aku panggil, sekarang tidak dapat kuhilangkan lagi.” Penyihir itu segera menghentikan mantranya dan menghentikan banjir. Pelajaran bagi murid – dan bagi umat manusia – jelas: jangan pernah memanggil kekuatan yang tidak bisa kamu kendalikan.”

AI adalah kekuatan yang tidak bisa Anda kendalikan. Manusia tidak akan mampu mengendalikan AI ketika AI lebih cerdas, dan lebih berkuasa, dari manusia. Pesan Harari jelas: jangan memanggil kekuatan AI yang tidak bisa kamu kendalikan.

Akankah pesan Harari ini efektif? Akankah manusia membatalkan proyek AI setelah mendengar Harari? Akankah AI menjadi musnah? Sulit sekali. Harari justru menunjukkan bahwa AI memiliki kekuatan besar yang luar biasa. Jika Anda tidak memanfaatkan AI maka orang lain yang akan memanfaatkan AI; konsekuensinya, Anda akan kalah bersaing dengan mereka.

Jaringan tidak Bijak

“Umat ​​manusia memperoleh kekuatan yang luar biasa dengan membangun jaringan kerja sama yang besar, tetapi cara jaringan kita dibangun membuat kita cenderung menggunakan kekuatan secara tidak bijaksana. Sebagian besar jaringan kita dibangun dan dipelihara dengan menyebarkan fiksi, fantasi, dan delusi massal – mulai dari sapu ajaib hingga sistem keuangan. Masalah kita, kemudian, adalah masalah jaringan. Secara khusus, ini adalah masalah informasi. Karena informasi adalah perekat yang menyatukan jaringan, dan ketika orang diberi informasi yang salah, mereka cenderung membuat keputusan yang buruk, tidak peduli seberapa bijak dan baiknya mereka secara pribadi.”

Ide utama Nexus berupa pernyataan “informasi adalah perekat yang menyatukan jaringan.” Sayangnya, lebih banyak informasi tidak menjamin manusia menjadi makin bijak. Justru, manusia bisa makin ngawur ketika menguasai lebih banyak informasi. Padahal manusia adalah homo sapiens; homo = manusia; sapiens = bijak. Seharusnya, setiap manusia bersikap bijak.

“Apakah dengan memiliki lebih banyak informasi akan membuat keadaan menjadi lebih baik – atau lebih buruk? Kita akan segera mengetahuinya. Banyak perusahaan dan pemerintah berlomba-lomba mengembangkan teknologi informasi paling canggih dalam sejarah – AI. Beberapa pengusaha terkemuka, seperti investor Amerika Marc Andreessen, percaya bahwa AI akhirnya akan menyelesaikan semua masalah umat manusia. Pada tanggal 6 Juni 2023, Andreessen menerbitkan sebuah esai berjudul Mengapa AI Akan Menyelamatkan Dunia, yang dibumbui dengan pernyataan berani seperti: “Saya di sini untuk membawa kabar baik: AI tidak akan menghancurkan dunia, dan bahkan dapat menyelamatkannya.” Ia menyimpulkan: “Pengembangan dan penyebaran AI – jauh dari risiko yang perlu kita takuti – merupakan kewajiban moral yang kita miliki terhadap diri kita sendiri, terhadap anak-anak kita, dan terhadap masa depan kita.”

Yang lain lebih skeptis. Tidak hanya filsuf dan ilmuwan sosial tetapi juga banyak pakar dan pengusaha AI terkemuka seperti Yoshua Bengio, Geoffrey Hinton, Sam Altman, Elon Musk dan Mustafa Suleyman telah memperingatkan bahwa AI dapat menghancurkan peradaban kita.”

Otonomi AI

Berikutnya, Harari melompat dengan ide yang sangat berani.

“AI merupakan ancaman yang belum pernah terjadi sebelumnya bagi umat manusia karena AI merupakan teknologi pertama dalam sejarah yang dapat mengambil keputusan dan menciptakan ide-ide baru secara mandiri. …yang belum sepenuhnya kita pahami atau kendalikan.”

Bila AI mampu mengambil keputusan secara mandiri maka, tentu saja, manusia tidak akan bisa mengendalikan AI. Ungkapan ini tautologi. Harari mengemas argumen yang berani ini dengan transisi lembut. Sehingga, pembaca terpesona seakan-akan benar adanya. Memang, tautologi selalu benar; mandiri pasti tidak bisa dikendalikan; bila bisa dikendalikan maka tidak mandiri. Tetapi apakah sesuai dengan realitas? Apakah AI mampu mengambil keputusan mandiri? Saya menduga itu hanya kamuflase sejauh ini; atau dalam beberapa dekade ke depan.

Kecerdasan Alien

“AI tidak berkembang menuju kecerdasan setingkat manusia. AI mengembangkan jenis kecerdasan alien.

Bahkan saat ini, dalam tahap embrio revolusi AI, komputer sudah membuat keputusan tentang kita – apakah akan memberi kita hipotek, mempekerjakan kita, atau memenjarakan kita. Sementara itu, AI generatif seperti GPT-4 sudah menciptakan puisi, cerita, dan gambar baru.”

AI akan mengembangkan kecerdasan alien yang super cerdas; jauh lebih cerdas dari manusia. Saya benar-benar kagum dengan narasi AI oleh Harari ini. AlphaGo (AI) berhasil mengalahkan juara Go dari Korea Selatan pada tahun 2016. Go lebih kompleks dari catur. AI mulai menunjukkan kecerdasan alien miliknya.

“Langkah 37 merupakan lambang revolusi AI karena dua alasan. Pertama, langkah ini menunjukkan sifat asing AI. Di Asia Timur, Go dianggap lebih dari sekadar permainan: ini adalah tradisi budaya yang bernilai luhur. Selama lebih dari 2.500 tahun, puluhan juta orang telah memainkan Go, dan seluruh aliran pemikiran telah berkembang di sekitar permainan tersebut, menganut berbagai strategi dan filosofi. Namun selama ribuan tahun tersebut, pikiran manusia hanya menjelajahi area tertentu dalam lanskap Go. Area lain tidak tersentuh, karena pikiran manusia tidak berpikir untuk menjelajah ke sana. AI, yang bebas dari keterbatasan pikiran manusia, menemukan dan menjelajahi area yang sebelumnya tersembunyi ini.

Kedua, langkah 37 menunjukkan AI yang tidak terduga. Bahkan setelah AlphaGo memainkannya untuk meraih kemenangan, Suleyman dan tim tidak dapat menjelaskan bagaimana AlphaGo memutuskan untuk memainkannya. Bahkan jika pengadilan telah memerintahkan DeepMind untuk memberikan penjelasan kepada Sedol, tidak seorang pun dapat memenuhi perintah itu. Suleyman menulis: “Dalam AI, jaringan saraf yang bergerak menuju otonomi, saat ini, tidak dapat dijelaskan.”

Jaringan saraf tiruan AI “tidak dapat dijelaskan.” Sebuah istilah yang terlampau kuat. Pertimbangkan istilah senada: evolusi terjadi melalui proses “random”; ketika Big Bang semua hukum fisika “runtuh”; analisis akhir partikel menjumpai string yang “acak”; hasrat manusia dikendalikan oleh kekuatan “tak-sadar”. Dalam bahasa sehari-hari, istilah-istilah ini semakna dengan OTW: ojo takon wae; jangan tanya terus. Sebagai saintis atau cendekiawan bagaimana sikap Anda dengan jawaban bahwa AI “tidak bisa dijelaskan?” Tetangga saya yang masih usia TK juga bisa menjawab bahwa, menurutnya, AI “tidak-bisa-dijelaskan.”

Politik AI

“Munculnya kecerdasan alien yang tak terduga menimbulkan ancaman bagi semua manusia, dan menimbulkan ancaman khusus bagi demokrasi. …Menerjemahkan dongeng peringatan Goethe ke dalam bahasa keuangan modern, bayangkan skenario berikut: seorang pekerja magang Wall Street yang muak dengan kerja keras bengkel keuangan menciptakan AI bernama Broomstick, memberinya uang awal satu juta dolar, dan memerintahkannya untuk menghasilkan lebih banyak uang. Bagi AI, keuangan adalah taman bermain yang ideal, karena ini adalah ranah informasi dan matematika murni. AI masih merasa sulit untuk mengemudikan mobil secara otonom, karena ini memerlukan pergerakan dan interaksi di dunia fisik yang berantakan, di mana “kesuksesan” sulit didefinisikan. Sebaliknya, untuk melakukan transaksi keuangan AI hanya perlu berurusan dengan data, dan ia dapat dengan mudah mengukur keberhasilannya secara matematis dalam dolar, euro, atau pound. Lebih banyak dolar – misi tercapai.”

Berawal dari AI “tidak bisa dijelaskan” maka konsekuensi apa saja bisa jadi. AI menguasai politik dengan menggulingkan demokrasi mau pun penguasa otoriter. AI mengendalikan sistem ekonomi. AI mengendalikan seluruh aspek kehidupan manusia dan alam raya. Karena “tidak bisa dijelaskan” maka kita tidak bisa menjelaskan argumennya: pro mau pun kontra.

“Munculnya AI menimbulkan bahaya eksistensial bagi umat manusia, bukan karena keburukan komputer, tetapi karena kekurangan kita sendiri.

Dengan demikian, seorang diktator paranoid mungkin memberikan kekuasaan tak terbatas kepada AI yang tidak sempurna, termasuk bahkan kekuasaan untuk melancarkan serangan nuklir. … Peradaban manusia juga dapat dihancurkan oleh senjata pemusnah massal sosial, seperti cerita-cerita yang merusak ikatan sosial kita.”

Regulasi AI

“Banyak masyarakat – baik demokrasi maupun kediktatoran – dapat bertindak secara bertanggung jawab untuk mengatur penggunaan AI tersebut, menekan pelaku kejahatan, dan menahan ambisi berbahaya para penguasa dan fanatisme mereka sendiri.”

Setelah berpetualang dengan narasi panjang, Harari sampai kepada saran yang bagus: masyarakat dapat mengatur penggunaan AI. Bagaimana pun resiko politik ekonomi memang sangat besar.

“Akibatnya, kekuatan algoritmik dunia dapat terkonsentrasi di satu hub. Insinyur di satu negara dapat menulis kode dan mengendalikan kunci untuk semua algoritma penting yang menjalankan seluruh dunia.

Oleh karena itu, AI dan otomatisasi menimbulkan tantangan khusus bagi negara-negara berkembang yang lebih miskin. Dalam ekonomi global yang digerakkan oleh AI, para pemimpin digital mengklaim sebagian besar keuntungan dan dapat menggunakan kekayaan mereka untuk melatih kembali tenaga kerja mereka dan mendapatkan keuntungan lebih banyak lagi. Sementara itu, nilai pekerja tidak terampil di negara-negara tertinggal akan menurun, menyebabkan mereka semakin tertinggal. Hasilnya mungkin banyak pekerjaan baru dan kekayaan luar biasa di San Francisco dan Shanghai, sementara banyak bagian dunia lainnya menghadapi kehancuran ekonomi.”

Laba-Laba Kepompong

“Semakin sulit untuk mengakses informasi melalui tirai silikon, misalnya antara Tiongkok dan AS, atau antara Rusia dan Uni Eropa. Selain itu, kedua belah pihak semakin beroperasi pada jaringan digital yang berbeda, menggunakan kode komputer yang berbeda. Di Tiongkok, Anda tidak dapat menggunakan Google atau Facebook, dan Anda tidak dapat mengakses Wikipedia. Di AS, hanya sedikit orang yang menggunakan aplikasi Tiongkok terkemuka seperti WeChat.

Paradoksnya, teknologi informasi saat ini begitu kuat sehingga berpotensi memecah belah umat manusia dengan mengurung orang yang berbeda dalam kepompong informasi yang terpisah, mengakhiri gagasan tentang realitas manusia tunggal yang sama. Selama beberapa dekade, metafora utama dunia adalah web. Metafora utama beberapa dekade mendatang mungkin adalah kepompong.

Senjata siber dapat melumpuhkan jaringan listrik suatu negara, tetapi juga dapat digunakan untuk menghancurkan fasilitas penelitian rahasia, mengganggu sensor musuh, memicu skandal politik, memanipulasi pemilu, atau meretas satu telepon pintar. Semua itu dapat dilakukan secara diam-diam.”

Pemangsa atau Dimangsa

Ketidakpastian membuat Anda bingung: jadi korban atau pemangsa? Harari tampak ragu memilih Qabil atau Habil; Cain atau Abel? Pembaca Nexus akan memilih yang mana?

“Perbedaan penting kedua menyangkut prediktabilitas. Perang dingin bagaikan permainan catur yang sangat rasional, dan kepastian kehancuran jika terjadi konflik nuklir begitu besar sehingga keinginan untuk memulai perang pun kecil. Perang siber tidak memiliki kepastian ini. Tidak seorang pun tahu pasti di mana masing-masing pihak telah menanam bom logika, kuda Troya, dan malware.

Pembagian dunia menjadi kerajaan digital yang bersaing sesuai dengan visi politik banyak pemimpin; yang percaya bahwa dunia adalah hutan belantara, bahwa kedamaian relatif dalam beberapa dekade terakhir hanyalah ilusi, dan bahwa satu-satunya pilihan nyata adalah apakah akan berperan sebagai predator atau mangsa.”

“Jika diberi pilihan seperti itu, sebagian besar pemimpin lebih suka tercatat dalam sejarah sebagai predator dan menambahkan nama mereka ke dalam daftar penakluk yang mengerikan yang harus dihafal oleh murid-murid yang malang untuk ujian sejarah mereka. Namun, para pemimpin ini harus diingatkan bahwa ada predator alfa baru di hutan. Jika manusia tidak menemukan cara untuk bekerja sama dan melindungi kepentingan bersama kita, kita semua akan menjadi mangsa empuk bagi AI.”

Saya sulit memahami maksud Harari pada paragraf terakhir di atas: “sebagian besar pemimpin lebih suka … sebagai predator.” Apakah ini sebuah prediksi? Determinisme? Atau rekomendasi? Paling ringan adalah menjadi inspirasi. Paling berat sangat sulit dibayangkan.

Apakah AI bisa lebih cerdas dari Einstein? Tampaknya, Harari akan menjawab dengan yakin: AI bisa lebih cerdas dari Einstein.

Sedikit Filosofis

Harari sedikit sekali membahas pemikiran para filsuf. Kiranya, kita perlu membahas beberapa nama spesial yang sedikit disinggung dalam Nexus: Descartes, Kant, dan Foucault. Descartes skeptis apakah kita bisa membuktikan bahwa kita sedang dalam mimpi saat ini? Atau memang hidup di alam nyata? Apakah kita sedang dalam ilusi matriks sistem informasi?

Harari sudah tepat memahami perspektif skeptis Descartes itu. Tetapi Harari, tentu saja, sulit menemukan solusi. Ketika Harari membahas Kant, Harari justru makin menemukan kesulitan. Kant adalah solusi dari problem skeptis Descartes. Kant sadar dengan problem skeptis Descartes. Kant mengusulkan bahwa ada prinsip yang kita pasti yakin, tidak pernah ragu, misal “menghormati ibu.” Siapa pun Anda pasti setuju untuk “menghormati ibu.” Kapan pun dan di mana pun, semua orang wajib “menghormati ibu.” Kewajiban etis semacam ini disebut sebagai kategori imperatif oleh Kant.

Dalam dunia informasi, kita hidup bersama AI, kategori imperatif apa saja yang perlu kita kembangkan? Kita perlu menghormati hak setiap orang: kaya atau miskin, terdidik atau jelata, penindas atau korban. Kategori imperatif ini perlu untuk terus kita kumandangkan. Sungguh aneh, ketika Harari mengira ajaran Kant mendorong tumbuhnya rasisme ala Hitler. Rasisme tetap bisa muncul ketika seseorang membaca Kant atau pun Nexus Harari. Tetapi, Kant mengingatkan bahwa kita perlu komitmen kepada kategori imperatif.

Harari makin sulit lagi ketika membahas Foucault. Harari mengira, pada analisis akhir, Foucault sama dengan Trump. Mereka sama-sama mengejar kekuasaan atau power. Harari benar bahwa Foucault membahas power; relasi kompleks power dengan kebenaran. Foucault menyatakan bahwa klaim kebenaran selalu terperangkap dalam jaringan kompleks relasi power. Sehingga, kita perlu waspada terhadap relasi power. Harari tampaknya memahami Foucault seperti menyuruh kita agar mendominasi power; kemudian, dengan power itu, kita bisa klaim akan kebenaran. Foucault bukan seperti itu. Foucault meminta kita agar kritis terhadap relasi power.

Karena setiap klaim kebenaran terjerat dalam kompleks relasi power maka kita perlu waspada. Apakah bisa dibenarkan penguasa menggusur kaki lima? Apakah bisa dibenarkan Harari dan kawan-kawan menyerang Gaza? Apakah bisa dibenarkan jika Putin mengancam akan menggunakan senjata nuklir? Hanya karena mereka mimiliki power untuk melakukannya maka tidak menjadi justifikasi valid bagi mereka. Kita membutuhkan justifikasi moral untuk semua ini. Justifikasi moral melarang kita melakukan kerusakan; moral mengajak kita untuk menjaga perdamaian dan menegakkan keadilan.

Pada analisis akhir, kita perlu menolak narasi Nexus dari Harari; atau, minimal, kita mengakaji dengan sangat kritis terhadap narasi Nexus karena berpotensi terjebak dalan homo homini lupus. Mengacau kepada lima paradigma, Harari berhasil mengkaji AI dari paradigma positivisme dan rasionalisme kritis. Sayangnya, Harari melangkah mundur berulang kali dengan berpijak lagi ke positivisme. Kita perlu meluaskan perspektif dengan paradigma interpretivisme, posmodernisme, dan pragmatisme.

8. Teknologi Instrumen dari Habermas

Habermas, sejak awal, berpikir kritis terhadap teknologi. Bagi Habermas, dan aliran Frankfurt, teknologi adalah instrumen yang digunakan oleh pihak kuat untuk mencapai tujuan tertentu. Dengan nalar kritis yang sama, kita bisa memandang AI sebagai instrumen bagi pihak kuat, yaitu, pemerintah atau pengusaha besar. Sebagai instrumen, AI beroperasi sebagai wajarnnya teknologi. Tetapi dampak dari instrumen adalah terjadi penindasan terhadap pihak lemah dan kerusakan lingkungan.

Habermas mengusulkan, seharusnya sebagai teknologi, AI menjadi aksi komunikasi. AI (akal imitasi / artificial intelligence) membuka komunikasi antar seluruh warga di ruang publik. Apa tujuan AI? Justru itu yang perlu dikomunikasikan melalui aksi komunikasi.

9. Omong Kosong dan Disparitas dari Acemoglu

Acemoglu, peraih Nobel ekonomi 2024, memandang AI secara skeptis. AI berbahaya bukan karena cerdas tetapi karena AI bodoh. Kita terlalu tinggi menilai kemampuan AI; atau, kita terlalu meremehkan kemampuan manusia.

Apakah akan terjadi revolusi oleh singularitas AI?

“Tidak. Tidak. Jelas tidak,” kata Acemoglu. “Maksud saya, kecuali jika Anda menghitung banyak perusahaan yang berinvestasi berlebihan dalam AI generatif dan kemudian menyesalinya, yang seperti itu adalah perubahan yang revolusioner.”

AI adalah omong kosong. Andai AI berhasil membawa kemajuan peradaban manusia maka AI justru menyebabkan disparitas dunia; kesenjangan antara kelompok miskin dengan kelompok kaya.

Berikut kita akan mengkaji pemikiran Acemoglu. (Sumber: https://www.npr.org/sections/planet-money/2024/08/06/g-s1-15245/10-reasons-why-ai-may-be-overrated-artificial-intelligence)

Alasan 1: Kecerdasan buatan yang kita miliki saat ini sebenarnya tidak secerdas itu.

Saat pertama kali menggunakan sesuatu seperti ChatGPT, mungkin tampak seperti sulap. Seperti, “Wah, mesin pemikir sungguhan yang mampu menjawab pertanyaan tentang apa pun.”

Namun, saat Anda melihat di balik layar, itu lebih seperti trik sulap. Chatbot ini adalah cara canggih untuk menggabungkan internet dan kemudian mengeluarkan campuran dari apa yang mereka temukan. Sederhananya, mereka adalah peniru atau, setidaknya, pada dasarnya bergantung pada peniruan karya manusia sebelumnya dan tidak mampu menghasilkan ide-ide baru yang hebat.

Alasan 2: AI berbohong.

Industri AI dan media telah menyebut kepalsuan dan kesalahan yang dihasilkan AI sebagai “halusinasi.” Namun, seperti istilah “kecerdasan buatan,” istilah itu mungkin keliru. Karena istilah itu membuatnya terdengar seperti AI, Anda tahu, bekerja dengan baik hampir selalu — dan kemudian sesekali, AI suka minum ayahuasca atau makan jamur, lalu mengatakan sesuatu yang dibuat-buat.

Namun, halusinasi AI tampaknya lebih umum dari itu (dan, sejujurnya, semakin banyak orang mulai menyebutnya “konfabulasi”). Satu studi menunjukkan bahwa chatbot AI berhalusinasi — atau berkonfabulasi — sekitar 3% hingga 27% dari waktu. Wah, sepertinya AI harus menghentikan ayahuasca.

Alasan 3: Karena AI tidak terlalu cerdas dan halusinasi membuatnya tidak dapat diandalkan, AI terbukti tidak mampu melakukan sebagian besar — ​​jika tidak semua — pekerjaan manusia.

Saya baru-baru ini melaporkan sebuah cerita yang menanyakan, “Jika AI begitu bagus, mengapa masih banyak pekerjaan untuk penerjemah?” Penerjemahan bahasa telah menjadi semacam garda depan penelitian dan pengembangan AI selama hampir satu dekade atau lebih. Dan beberapa orang telah meramalkan bahwa pekerjaan penerjemah akan menjadi yang pertama yang digantikan oleh otomatisasi.

Namun, terlepas dari kemajuan dalam AI, data menunjukkan bahwa pekerjaan untuk penerjemah dan juru bahasa manusia sebenarnya terus bertambah. Tentu, penerjemah semakin banyak menggunakan AI sebagai alat dalam pekerjaan mereka. Namun, laporan saya mengungkapkan bahwa AI tidak cukup pintar, tidak cukup sadar sosial, dan tidak cukup dapat diandalkan untuk menggantikan manusia sebagian besar waktu.

Alasan 4: Kemampuan AI telah dibesar-besarkan.

Anda mungkin ingat berita tahun lalu yang menyatakan bahwa AI benar-benar berhasil dalam Ujian Pengacara Kesetaraan untuk pengacara. OpenAI, perusahaan di balik ChatGPT, mengklaim bahwa GPT-4 memperoleh skor di persentil ke-90. Namun, saat di MIT, peneliti Eric Martinez menyelidiki lebih dalam. Ia menemukan bahwa skornya hanya di persentil ke-48. Apakah itu benar-benar mengesankan ketika sistem ini, dengan data pelatihannya yang banyak, memiliki hasil yang setara dengan pencarian Google di ujung jari mereka? Wah, mungkin saya pun bisa memperoleh skor setinggi itu jika saya memiliki akses ke ujian pengacara sebelumnya dan cara lain untuk menyontek.

Sementara itu, Google mengklaim bahwa AI-nya mampu menemukan lebih dari 2 juta senyawa kimia yang sebelumnya tidak diketahui oleh sains. Namun, para peneliti di University of California, Santa Barbara menemukan bahwa ini sebagian besar tidak benar. Mungkin penelitian itu salah, atau, yang lebih mungkin, mungkin industri AI terlalu membesar-besarkan kemampuan produk mereka.

Alasan 5: Meskipun media dan investor sangat antusias dengan AI selama beberapa tahun terakhir, penggunaan AI masih sangat terbatas.

Dalam studi terbaru, Biro Sensus AS menemukan bahwa hanya sekitar 5% bisnis yang telah menggunakan AI dalam beberapa minggu terakhir. Yang berhubungan dengan …

Alasan 6: Kita belum menemukan aplikasi utama AI.

Persentase perusahaan yang benar-benar menggunakan AI yang relatif kecil, tampaknya, menggunakannya dengan cara yang tidak memberikan manfaat besar bagi perekonomian kita. Beberapa perusahaan sedang bereksperimen dengannya. Namun, dari perusahaan yang telah memasukkannya ke dalam bisnis sehari-hari mereka, sebagian besar digunakan untuk hal-hal seperti pemasaran yang dipersonalisasi dan layanan pelanggan otomatis. Tidak terlalu menarik.

Sebenarnya, saya tidak tahu tentang Anda, tetapi saya lebih suka berbicara dengan agen layanan pelanggan manusia daripada chatbot. Acemoglu menyebut otomatisasi semacam ini sebagai “otomatisasi biasa-biasa saja,” di mana perusahaan mengganti manusia dengan mesin bukan karena mereka lebih baik atau lebih produktif, tetapi karena menghemat uang mereka. Seperti kios swalayan di toko kelontong, chatbot AI dalam layanan pelanggan sering kali hanya mengalihkan lebih banyak pekerjaan kepada pelanggan. Hal ini bisa membuat frustrasi.

Alasan 7: Pertumbuhan produktivitas tetap sangat mengecewakan. Dan AI generatif mungkin tidak akan membantunya menjadi lebih baik dalam waktu dekat.

Jika AI benar-benar merevolusi ekonomi, kita mungkin akan melihat lonjakan pertumbuhan produktivitas dan peningkatan pengangguran. Namun, lonjakan pertumbuhan produktivitas tidak terlihat di mana pun. Dan pengangguran berada pada titik terendah yang hampir mencapai rekor. Bahkan untuk pekerjaan kerah putih yang kemungkinan besar akan dipengaruhi AI, kita tidak melihat bukti bahwa AI akan membunuh mereka.

Meskipun AI generatif mungkin tidak mampu menggantikan manusia di sebagian besar atau hampir semua pekerjaan, AI jelas dapat membantu manusia dalam beberapa profesi sebagai alat informasi. Dan, Anda mungkin berkata, manfaat produktivitasnya mungkin memerlukan waktu untuk meresap ke seluruh perekonomian.

Namun, ada alasan kuat untuk percaya bahwa AI generatif tidak akan merevolusi ekonomi kita dalam waktu dekat.

Alasan ke-8: AI mungkin tidak berkembang secepat yang diklaim banyak orang. Bahkan, AI mungkin kehabisan daya.

Setiap kali kita berbicara tentang AI, pembicaraan selalu beralih ke masa depan.

Memang, AI belum sebagus itu. Namun dalam beberapa tahun, kita semua akan kehilangan pekerjaan dan tunduk pada penguasa robot atau apa pun. Namun, di mana bukti yang menunjukkan hal itu? Apakah ini hanya pengondisian kolektif kita melalui film fiksi ilmiah?

Banyak pembicaraan tentang AI yang berkembang sangat cepat. Beberapa orang mengklaim bahwa AI menjadi jauh lebih baik. Yang lain bahkan mengklaim bahwa model-model ini — pelengkapan otomatis yang muluk-muluk — adalah jalan menuju AGI, atau kecerdasan buatan super.

Namun, ada pertanyaan serius tentang semua ini. Faktanya, bukti menunjukkan bahwa laju kemajuan AI mungkin melambat.

Alasan 9: AI bisa sangat buruk bagi lingkungan.

AI sudah menghabiskan cukup banyak energi untuk memberi daya pada sedikit negara. Para peneliti di Goldman Sachs menemukan bahwa “proliferasi teknologi AI generatif — dan pusat data yang dibutuhkan untuk memasoknya — akan mendorong peningkatan permintaan daya AS yang belum pernah terlihat dalam satu generasi.”

“Salah satu hal paling konyol beberapa tahun lalu adalah gagasan bahwa AI akan membantu memecahkan masalah perubahan iklim,” kata Acemoglu. “Saya tidak pernah mengerti persis bagaimana. Namun, Anda tahu, jelas itu akan melakukan sesuatu terhadap perubahan iklim, tetapi itu bukan sisi positifnya.”

Alasan 10: AI dinilai terlalu tinggi karena manusia diremehkan.

Ketika saya bertanya kepada Acemoglu tentang alasan utama mengapa AI dinilai terlalu tinggi, dia memberi tahu saya sesuatu yang menghangatkan hati saya — perasaan yang tidak akan pernah bisa dialami oleh “kecerdasan buatan” yang bodoh.

Acemoglu mengatakan kepada saya bahwa dia yakin AI dinilai terlalu tinggi karena manusia diremehkan. “Jadi banyak orang di industri ini tidak menyadari betapa serba bisa, berbakat, dan beragamnya keterampilan serta kemampuan manusia,” kata Acemoglu. “Dan begitu Anda melakukannya, Anda cenderung menilai mesin lebih tinggi daripada manusia dan meremehkan manusia.” (www.npr.org)

Alasan terakhir, alasan ke 10, merupakan alasan paling menendang pikiran kita.

Bagaimana menurut Anda?

AI menjanjikan beragam manfaat. AI (akal imitasi atau artificial intelligence) menawarkan beragam keuntungan dari sisi teknologi, pemanfaatan bidang kesehatan, pemanfaat bidang pendidikan, pemanfaatan bidang ekonomi, dan lain-lain. Beberapa resiko AI bisa ditangani dengan baik; atau, resiko itu cukup kecil dibanding manfaat AI yang besar.

Narasi kelas optimis adalah narasi-narasi yang memandang AI secara optimis; AI akan membawa kebaikan bagi manusia; AI akan meringankan kerja manusia; AI akan menyehatkan manusia dan lain-lain. Kurzweil, Bostrom, Andreessen adalah beberapa tokoh dalam kelas narasi optimis ini.

1. Singularitas dari Kurzweil
2. Deep Utopia dari Bostrom
3. Data Berbicara dari Anderson
4. Teknopoli dari Andreessen

Kita akan membahas beberapa narasi optimis AI dari beberapa tokoh; melengkapi dengan beberapa analisis kritis dan rekomendasi. Secara prinsip, narasi optimis adalah narasi yang memantik imajinasi kreatif manusia. Kita akan cenderung menikmati setiap narasi optimis.

1. Singularitas dari Kurzweil

Kurzweil makin optimis dengan dampak positif dari singularitas. Bagian ini akan membahas ide optimis dari Kurzweil. Semua kutipan bersumber dari buku karya Kurzweil “The Singularity is Nearer” terbit Juli 2024; kecuali disebut lain.

Terjadi 2045

“Singularitas, yang merupakan metafora yang dipinjam dari fisika, akan terjadi saat kita menggabungkan otak kita dengan awan (cloud). Kita akan menjadi kombinasi dari kecerdasan alami dan kecerdasan sibernetik kita dan semuanya akan digabungkan menjadi satu. Antarmuka otak-komputer akan memungkinkan hal itu, yang pada akhirnya akan menjadi nanobot – robot seukuran molekul – yang akan masuk ke otak kita tanpa invasif melalui kapiler. Kita akan memperluas kecerdasan sejuta kali lipat pada tahun 2045 dan itu akan memperdalam kesadaran dan kewaspadaan kita.” (guardian.com)

Apakah singularitas yang diramalkan Kurzweil akan terjadi? Sulit terjadi. Benar bahwa manusia akan menyatukan pikirannya dengan AI atau internet; pikiran Anda juga sudah berinteraksi dengan tulisan saya ini; pikiran Anda menyatu dengan tulisan saya dalam perspektif tertentu. Tetapi, singularitas pada tahun 2045 sesuai skenario Kurzweil adalah spesifik dan sulit terjadi.

Lebih Cerdas Sejuta Lipat

Melipatkan kecerdasan sampai jutaan kali adalah inti dari singularitas.

“Ini akan menjadi proses penciptaan bersama — mengembangkan pikiran kita untuk membuka wawasan yang lebih dalam, dan menggunakan kekuatan ini untuk menghasilkan ide-ide baru yang transenden untuk dijelajahi oleh pikiran masa depan kita. Akhirnya kita akan memiliki akses ke kode sumber (source code) kita sendiri, menggunakan AI yang mampu mendesain ulang dirinya sendiri. Karena teknologi ini akan memungkinkan kita menyatu dengan kecerdasan super yang kita ciptakan, pada dasarnya kita akan menciptakan kembali diri kita sendiri. Terbebas dari kurungan tengkorak kita, dan memproses pada substrat jutaan kali lebih cepat daripada jaringan biologis, pikiran kita akan diberdayakan untuk tumbuh secara eksponensial, yang pada akhirnya memperluas kecerdasan kita jutaan kali lipat. Inilah inti dari definisi saya tentang Singularitas.” (Halaman 73)

Bebas Selaras Nilai

“Janji Singularitas adalah membebaskan kita semua dari [berbagai] keterbatasan. Selama ribuan tahun, manusia secara bertahap memperoleh kendali yang lebih besar atas siapa kita nantinya… Akses yang lebih luas terhadap informasi memungkinkan kita membebaskan pikiran dan membentuk kebiasaan mental yang secara fisik mengubah otak kita… Bayangkan betapa lebih banyak kita dapat membentuk diri kita sendiri ketika kita dapat memprogram otak kita secara langsung.”

“Jadi, penggabungan dengan AI superintelijen akan menjadi pencapaian yang layak, tetapi ini adalah cara untuk mencapai tingkat yang lebih tinggi. Begitu otak kita didukung oleh substrat digital yang lebih canggih, kekuatan modifikasi diri kita dapat terwujud sepenuhnya. Perilaku kita dapat selaras dengan nilai-nilai kita, dan hidup kita tidak akan dirusak dan dipersingkat oleh kegagalan biologi kita. Akhirnya, manusia dapat benar-benar bertanggung jawab atas siapa diri kita.” (109).

Ungkapan “manusia dapat benar-benar bertanggung jawab” merupakan ungkapan paling penting. Apakah tanpa singularitas manusia tidak bisa benar-benar bertanggung jawab? Apakah selama ini manusia tidak bisa bertanggung jawab?

Peluang Kerja Baru

“Jadi, meskipun perubahan teknologi membuat banyak pekerjaan menjadi usang, kekuatan yang sama itu membuka banyak peluang baru yang berada di luar model ‘pekerjaan’ tradisional. Meskipun bukan tanpa keterbatasan, apa yang disebut ekonomi pertunjukan sering kali memberi orang lebih banyak fleksibilitas, otonomi, dan waktu luang daripada pilihan sebelumnya. Memaksimalkan kualitas peluang ini adalah salah satu strategi untuk membantu pekerja saat tren otomatisasi semakin cepat dan mengganggu tempat kerja tradisional.” (219).

Kurzweil tampak meremehkan resiko kehilangan kerja dampak AI. Wajar saja, karena Kurzweil justru makin kaya raya dampak AI dan kawan-kawan. Sederhana saja, “Bagaimana jika keuntungan ekonomi dari kemajuan AI dibagi rata untuk seluruh warga?” Baik mereka yang kerja atau tidak, mereka yang paham atau tidak, mereka yang menang atau kalah, semua dapat bagian yang rata dari keuntungan ekonomi kemajuan AI. Bukankah ini skenario yang adil?

“Secara keseluruhan, kita harus optimis dengan hati-hati. Meskipun AI menciptakan ancaman teknis baru, AI juga akan secara radikal meningkatkan kemampuan kita untuk menghadapi ancaman tersebut. Mengenai penyalahgunaan, karena metode ini akan meningkatkan kecerdasan kita terlepas dari nilai-nilai kita, metode ini dapat digunakan untuk hal yang menjanjikan maupun berbahaya. Oleh karena itu, kita harus berupaya mewujudkan dunia di mana kekuatan AI didistribusikan secara luas, sehingga dampaknya mencerminkan nilai-nilai kemanusiaan secara keseluruhan.” (285).

Singularitas vs Nexus

Pantaskah kita berpandangan seoptimis itu terhadap kemajuan AI?

Harari menolak pandangan singularitas Kurzweil. Harari menyebut pandangan Kurzweil sebagai pandangan naif terhadap informasi. Buku Singularitas Kurzweil terbit Juli 2024, sedangkan buku Nexus Harari terbit September 2024. Tersedia jendela waktu sekitar 3 bulan bagi Harari untuk mengkritik Kurzweil di bagian pendahuluan Nexus.

Pada analisis akhir, kita perlu menolak pandangan optimis Kurzweil sebagai terlalu optimis. Bagaimana pun, kita perlu mempertimbangkan beragam ide Kurzweil yang memperkaya perspektif tentang singularitas AI.

Dalam buku Filsafat Sains, terbit 2022, Dimitri Mahayana mengenalkan lima paradigma utama sains dan teknologi. Narasi singuralitas Kurzweil ini bersesuaian dengan paradigma pertama, yaitu positivisme, yang memandang teknologi dari sisi positifnya saja. Paradigma kedua, yaitu rasionalisme kritis, kurang berkembang dalam narasi singularitas. Demikian juga untuk tiga paradigma lain – yaitu interpretivisme, posmodernisme, dan pragmatisme – Kurzweil tampak kurang mendalami. Sehingga, rekomendasi kami: kita perlu menolak narasi singularitas kecuali memperbaikinya dengan mempertimbangkan paradigma-paradigma lain yang lebih komprehensif.

2. Deep Utopia dari Bostrom

Bostrom (lahir 1973) mengembangkan narasi deep-utopia dalam bentuk satu buku yang terbit 2024. Bersama AI, kehidupan manusia menjadi sangat indah mirip dengan hidup di surga.

Postwork

Fenomena pertama yang muncul adalah postwork; pascakerja; yaitu manusia tidak perlu kerja lagi. Nick Bostrom (1973) memberi ilustrasi menarik tentang fenomena postwork dalam bukunya Deep Utopia. AI yang supercerdas menggantikan semua tugas manusia. Kita, manusia, tinggal menikmati hasil kerja oleh AI ini bagai hidup di surga dunia.

Bayangkan Anda, saat ini, berdesak-desakan kerja di kota Jakarta. Anda bangun tidur sebelum subuh; lalu berangkat ke kantor pukul 04.00 wib. Tiba di kantor pukul 06.00 wib atau lebih pagi. Tetapi, Anda tidak bisa berangkat lebih lambat; misal agak siang pukul 05.00. Begitu Anda kesiangan, maka terjebak macet kota Jakarta dan tiba kantor terlambat bisa pukul 9 atau 10. Pulang kerja, seharusnya Anda bisa pulang pukul 5 sore tetapi Jakarta sangat macet. Anda perlu menunda pulang pukul 7 malam; tiba rumah sekitar pukul 9 malam. Anak-anak sudah tidur dan istri sudah capek sibuk seharian.

Di era postwork, warga Jakarta tidak perlu sibuk kerja lagi; Anda tidak perlu sibuk kerja. Biarkan AI bekerja untuk Anda. Manusia tinggal menikmati hasil kerja oleh AI bagai hidup di surga dunia.

Postinstrumen

Kita tidak perlu kerja lagi. Bahkan sebaiknya, memang tidak lagi kerja. Karena pekerjaan kita, sebagai manusia, berkualitas buruk. AI mampu bekerja lebih efisien dan lebih efektif. Pekerjaan oleh AI lebih berkualitas dari manusia. Era ini disebut sebagai postinstrumen.

Bila ada orang yang ingin bekerja maka dia harus dicegah. Karena kerja manusia berkualitas rendah berdampak turunnya kualitas keseluruhan sistem postinstrumen. Jadi, Anda dan saya hanya perlu menikmati hidup bagai di surga dunia.

Lalu, apa nikmatnya hidup di surga dunia seperti itu?

Kita menduga bahwa manusia akan menghadapi kebosanan luar biasa. Jangan khawatir! AI bisa menghibur Anda; menyelesaikan problem kebosanan itu. AI bisa mengajak Anda main catur yang seru; AI bisa mengajak Anda main game bersama teman-teman Anda dengan kualitas suara dan grafis paling canggih. Atau, Anda ingin bersenda-gurau bersama bidadari? AI menghadirkan avatar bidadari mengikuti liarnya imajinasi Anda. Atau, AI bisa lebih liar dari segala imajinasi yang liar.

Atau, Anda kangen dengan ibu dan bapak yang sudah meninggal dunia? AI bisa menghidupkan kembali ibu dan bapak Anda. Begitu bahagianya bercengkerama dengan ibu dan bapak tercinta. Atau, Anda ingin ibadah haji? AI siap mengantar Anda ibadah haji lengkap dengan pengalaman ruhani yang suci.

Wow… benarkah surga itu terjadi di bumi ini?

Kita bisa diskusi dari banyak sisi. Era postinstrumen bisa kita sebut sebagai surga dunia; atau lebih singkat sebagai surga. Apakah manusia bisa hidup bermakna di surga dunia? Bagaimana cara manusia menemukan, atau menciptakan, makna? Atau, apakah perlu makna?

Masalah Dunia

Banyak masalah di dunia ini; kita menghadapi banyak kesulitan; sesaat ada solusi, kemudian, masalah muncul lagi. Di buku “Futuristik 2,” saya menyebut kesulitan sebagai anugerah yang lebih tinggi dari kemudahan.

Sulit lebih bernilai dari mudah; sakit lebih bernilai dari sehat; miskin lebih bernilai dari kaya; gagal lebih bernilai dari sukses; masalah lebih bernilai dari jawaban; pertanyaan lebih bernilai dari solusi.

Meski demikian, solusi tetap bernilai tinggi. Manusia bertugas untuk menemukan solusi dari setiap masalah; untuk kemudian, akan menemukan masalah baru yang lebih tinggi lagi. Jadi, masalah bernilai lebih tinggi dari solusi; meski solusi tetap bernilai tinggi.

Bila demikian, hidup kita saat ini, di dunia ini lebih bernilai dari hidup di surga dunia postinstrumen. Karena, di surga dunia, tidak ada masalah. Sementara, kita butuh masalah sebagai bernilai tinggi.

Bagaimana pun banyak orang meyakini bahwa solusi lebih bernilai dari masalah; kemudahan lebih bernilai dari kesulitan. Sehingga, hidup di surga dunia lebih bernilai dari hidup di dunia yang bertabur masalah ini. Karena itu, kita perlu membahas makna di surga dunia postinstrumen.

Makna Surga Dunia

Surga dunia berupa postinstrumen menawarkan pesona kenikmatan tiada tara dengan bantuan AI yang super cerdas. Tentu saja, banyak manusia, terpuaskan dengan nikmatnya makanan mewah, nikmatnya teknologi canggih, nikmatnya bergembira bersama bidadari, nikmatnya petualangan game tanpa henti, dan beragam kenikmatan lainnya.

Apakah hidup penuh kenikmatan surga dunia itu bermakna?

Kenikmatan lebih penting dari segalanya; kenikmatan lebih penting dari makna. Di surga dunia, manusia hidup bahagia dengan bertabur segala kenikmatan. Tidak ada lagi yang dibutuhkan selain kenikmatan yang selalu tersedia oleh AI di postinstrumen.

Sebagian orang tidak setuju bahwa berlimpahnya kenikmatan sebagai cukup. Manusia membutuhkan makna lebih dari nikmat itu sendiri. Bagi orang-orang seperti ini, mereka perlu mencari makna dalam ombak besar kenikmatan surga dunia. Beberapa alternatif sumber makna yang tersedia adalah: melibatkan diri dalam petualangan game; bertanding dalam hobi olahraga; barangkali petualangan judi online; dan menikmati karya seni tanpa henti.

Game Petualangan

Olahraga

Judi

Seni

Pesona Surga

Kita bisa belajar dari orang-orang bijak masa lalu. Benar bahwa surga menawarkan beragam kenikmatan sensual. Lebih dari itu, beberapa orang khusus melangkah lebih jauh dari pesona kenikmatan sensual. Mereka mengarungi pesona intelektual dan pesona spiritual.

Hidup di surga dunia, postinstrumen, menawarkan pesona intelektual dan pesona spiritual; atau beberapa orang ini sengaja mengejar, dan menciptakan, pesona intelektual spiritual.

Maha Futuristik

Tuhan Maha Esa, Maha Awal, dan Maha Akhir. Di surga dunia atau pun surga sejati, manusia tetap rindu kepada Tuhan Maha Akhir atau Maha Futuristik. Dengan demikian, makna terindah hidup di dunia dan di surga adalah pancaran cahaya Tuhan Maha Esa.

AI Menuju Surga

Benarkah AI akan mengantarkan manusia ke surga dunia? Postinstrumen?

Andai AI berhasil menciptakan surga dunia maka apakah surga untuk semua manusia atau khusus bagi orang kaya?

Sayangnya, teknologi canggih yang super mahal itu hanya khusus untuk orang kaya. Handphone paling canggih hanya untuk orang kaya; orang miskin tidak mampu beli. Mobil listrik paling canggih hanya untuk orang kaya; gelandangan tidak mampu beli. Andai, surga bernama postinstrumen itu terjadi, maka hanya akan khusus untuk orang kaya.

Janji para politikus untuk pemerataan ekonomi dan pemerataan politik tidak terjadi sampai tahun ini, sampai tahun 2024 ini. Banyak pihak lemah yang tertindas. Jika postinstrumen hanya mempertajam penindasan maka sebaiknya postinstrumen dicegah sejak awal.

Apakah surga dunia, postinstrumen, itu benar-benar bisa terjadi? Apakah AI bisa memberi solusi kepada setiap situasi? Sehingga, manusia bisa hidup bagai di surga?

Postinstrumen itu tidak bisa terjadi; setidaknya dalam waktu 50 tahun ke depan, tidak akan ada surga dunia bernama postinstrumen. Mengapa? Karena, manusia adalah masalah itu sendiri. Andai, suatu saat nanti, AI berhasil memberi semua solusi maka manusia akan memunculkan problem baru lagi; begitu seterusnya. Sehingga, surga dunia tidak akan pernah terjadi.

Di sisi lain, kita perlu waspada dengan narasi AI karena AI bisa saja mirip ganja yang menaburkan berjuta pesona khayal belaka. Bagaimana pun, ganja tetap memberi manfaat. Demikian juga, AI tetap memberi manfaat dalam konteks tertentu.

3. Data Berbicara dari Anderson

Biarkan data berbicara. Kita hanya perlu mendengar data, melihat data, dan analisis data. Tidak perlu macam-macam, biarkan data berbicara sendiri.

Narasi data berbicara langsung mendapat respon keras ketika Anderson melontarkannya pada awal abad 21 ini. Seperti sudah terbukti dengan jelas bahwa data berbicara adalah kebenaran yang nyata. Data menunjukkan, misal, negara yang memanfaatkan internet lebih maju dari negara tanpa internet. Akses internet yang lebih cepat memberi keuntungan dari akses internet yang lambat. Perusahaan, dan orang, yang memanfaatkan AI lebih unggul dari perusahaan tanpa AI. Data berbicara bahwa AI adalah keunggulan. Benarkah demikian?

4. Teknopoli dari Andreessen

Narasi teknopoli memandang bahwa teknologi adalah kewajiban.

Bagaimana menurut Anda?

19 Great Narrations of Artificial Intelligence (AI)

Menjadi 19 Narasi Besar Akal Imitasi dari sebelumnya 17 Narasi. “Merangkai Narasi Indonesia Emas bersama AI” menjadi subjudulnya.

Awalnya, Prof Dim mengajak saya untuk menulis buku “Narasi AI”. Dalam diskusi, tersusun 12 narasi; seperti foto di bawah yang merupakan tulisan tangan Prof Dim.

“Mas Angger, nanti bisa menambah atau menguranginya,” saran Prof Dim.
“Saya coba kelompokkan agar lebih sederhana dan menambah beberapa narasi,” jawab saya.

Hasilnya, beberapa hari kemudian, saya usul menjadi 17 narasi dalam 3 kelompok besar: kelas optimis, kelas kritis, dan kelas alternatif. Saya sampaikan ke Prof Dim ide 17 narasi itu. Prof Dim menambah lagi narasi lebih banyak. Terjadi diskusi, akhirnya, sepakat dengan 19 narasi besar.

…

Kita menghadapi AI (artificial intelligence atau akal imitasi) tiap hari. Akan ke arah mana sejarah manusia bergerak maju bersama AI?

Tulisan ini membahas 19 narasi besar dari AI. Masing-masing narasi menawarkan peta perjalanan umat manusia menuju masa depan. Tentu saja, setiap narasi menawarkan peta perjalanan dan pengalaman yang berbeda-beda. Untuk memudahkan, kami klasifikasikan 19 narasi ini menjadi tiga kelas: optimis, kritis, dan alternatif.

Narasi kelas optimis adalah narasi-narasi yang memandang AI secara optimis; AI akan membawa kebaikan bagi manusia; AI akan meringankan kerja manusia; AI akan menyehatkan manusia dan lain-lain. Kurzweil, Bostrom, Andreessen adalah beberapa tokoh dalam kelas narasi optimis ini.

Prolog: Hidangan Narasi AI

A. Narasi Optimis

1. Singularitas dari Kurzweil
2. Deep Utopia dari Bostrom
3. Data Berbicara dari Anderson
4. Teknopoli dari Andreessen

B. Narasi Kritis

5. Bom Atom Kemanusiaan dari Hinton
6. Pernikahan Robot Manusia dari Mahayana
7. Nexus Homo Homini Lupus dari Harari
8. Teknologi Instrumen dari Habermas
9. Omong Kosong dari Frankfurt
10. Disparitas dari Acemoglu
11. Mesin Manipulasi dari Chirimuuta

C. Narasi Alternatif

12. Autofill Cerdas dari Chomsky
13. Simulakra dari Baudrillard
14. Masyarakat Teknik dari Ellul
15. Teknologi Hermeneutik dari Gadamer
16. Organ Memori dari Derrida
17. Farmakon dari Stiegler
18. Kedaulatan Mesin dari Yuk Hui
19. Kisah Kosmis dari Taylor dan Rakhmat

Epilog: Narasi AI untuk Indonesia Emas

Narasi kelas kritis memandang AI penuh waspada; AI memang bisa bermanfaat tetapi resiko AI amat besar; AI makin berkembang efisien tetapi aktor jahat bisa eksploitasi AI yang merugikan umat. Hinton, Harari, dan Elon Musk adalah beberapa tokoh dalam kelas narasi kritis.

Narasi kelas alternatif menawarkan paradigma alternatif untuk memandang AI. Teknologi, semisal AI, adalah sebuah titik dari jaringan besar realitas alam raya. Kita perlu mengembangkan alternatif-alternatif pandangan sehingga mampu mengkaji AI secara luas dan mendalam. Chomsky, Derrida, dan Stiegler adalah beberapa tokoh dalam kelas narasi alternatif.

Kami menghidangkan narasi-narasi ini bagai menu di restoran Padang. Anda bisa memilih narasi yang paling sesuai untuk situasi dan konteks tertentu. Atau, Anda bisa meramu beberapa narasi untuk menghasilkan narasi baru. Bahkan, bisa juga, muncul inspirasi dari Anda tentang narasi AI yang benar-benar baru. Jadi, hidangan narasi-narasi ini bersifat terbuka. Termasuk, Anda boleh membuat klasifikasi yang berbeda dengan hidangan restoran Padang kami ini.

Di bagian akhir, kami mengajukan pertanyaan: narasi AI apa yang tepat untuk menyambut Indonesia Emas 2045?

Anda bisa mengajukan jawaban berupa beragam narasi terbaik. Sebagai pertimbangan, kami menawarkan tiga narasi utama bagi AI. Pertama, narasi AI bagai vitamin memandang AI sebagai penguat bagi manusia, menyehatkan, dan memudahkan. Vitamin AI memang mengandung racun tetapi hanya kecil. Sementara, manfaat AI jauh lebih besar. Kedua, narasi AI bagai doping yang memandang AI sebagai benar-benar bermanfaat memacu kinerja manusia. Tetapi, resiko doping amat besar; resiko AI amat besar yaitu bisa menghancurkan peradaban manusia. Karena itu AI membutuhkan regulasi ketat. Ketiga, narasi AI bagai ganja yang memabukkan umat manusia. Tentu saja, kita membutuhkan regulasi sangat ketat ketika AI mirip ganja. Bagaimana pun, ganja tetap bermanfaat bagi alam raya.

Dalam setiap narasi, kami menguraikan secara singkat ide-ide utama narasi AI, kemudian memberi beberapa kritik bila diperlukan, dan menawarkan beberapa rekomendasi.

Selamat menikmati…!

“Nikmat banget ya, hidup di surga bersama bidadari terus-menerus?”
“Apa tidak bosan terus-terusan bersama bidadari?” teman lain di wag menimpali.
“Bidadarinya banyak, berganti-ganti; jadi tidak akan bosan,” argumen dia di wag.

Saya tidak bisa komen dalam diskusi wag itu karena terpana. Tapi hari ini saya bisa komen tentang nikmatnya surga dunia. Teknologi AI akan mampu menciptakan surga di dunia ini. Apa nikmatnya hidup di surga dunia bersama AI? Segala yang anda butuhkan akan disediakan oleh AI. Anda tidak perlu kerja karena AI bekerja untuk Anda; tidak perlu berpikir karena AI berpikir untuk Anda; tidak perlu melakukan apa pun karena AI melakukannya untuk Anda. Apakah Anda naksir ke artis seksi bernama Madona? AI akan menyediakan Madona untuk Anda.

Apakah AI akan benar-benar menciptakan surga dunia? Atau, justru menciptakan neraka dunia? Atau, kadang surga dan kadang neraka? Memandang teknologi sebagai bersifat netral adalah cara pandang paling buruk menurut Heidegger.

1. Prospek AI
2. Postwork
3. Postinstrumen
4. Narasi AI
5. Diskusi

Kita akan melihat prospek AI secara optimis; meski bisa juga secara kritis. Kemudian, AI mengantar manusia ke era post-work, atau pasca-kerja, yaitu manusia tidak perlu kerja lagi karena AI sudah bekerja untuk manusia. Era post-instrumen lebih radikal lagi yaitu AI sudah bisa bekerja lebih baik dari manusia. Jadi, bukan hanya manusia tidak perlu kerja tetapi kerja AI memang lebih baik. Di bagian akhir, kita akan diskusi tentang narasi AI.

1. Prospek AI

Kurzweil (1948) memprediksi AI akan lebih cerdas dari manusia pada tahun 2029; lima tahun lagi. Kemudian, terjadi singularitas AI pada tahun 2045. Singularitas adalah metafora kejadian di mana kehebatan AI sudah tidak bisa dibayangkan oleh akal manusia jaman kita ini. Singkatnya, AI berhasil menciptakan surga dunia.

Berapa usia Anda ketika singularitas di 2045?

Tidak perlu khawatir. Karena, ketika singularitas, AI akan mampu membuat Anda muda kembali meski sudah terlanjur tua di 2045. Kemudian, Anda bisa hidup abadi; tanpa menua; tanpa mati.

Apa nikmatnya hidup di surga dunia?

2. Postwork

Fenomena pertama yang muncul adalah postwork; pascakerja; yaitu manusia tidak perlu kerja lagi. Nick Bostrom (1973) memberi ilustrasi menarik tentang fenomena postwork dalam bukunya Deep Utopia. AI yang supercerdas menggantikan semua tugas manusia. Kita, manusia, tinggal menikmati hasil kerja oleh AI ini bagai hidup di surga dunia.

Bayangkan Anda, saat ini, berdesak-desakan kerja di kota Jakarta. Anda bangun tidur sebelum subuh; lalu berangkat ke kantor pukul 04.00 wib. Tiba di kantor pukul 06.00 wib atau lebih pagi. Tetapi, Anda tidak bisa berangkat lebih lambat; misal agak siang pukul 05.00. Begitu Anda kesiangan, maka terjebak macet kota Jakarta dan tiba kantor terlambat bisa pukul 9 atau 10. Pulang kerja, seharusnya Anda bisa pulang pukul 5 sore tetapi Jakarta sangat macet. Anda perlu menunda pulang pukul 7 malam; tiba rumah sekitar pukul 9 malam. Anak-anak sudah tidur dan istri sudah capek sibuk seharian.

Di era postwork, warga Jakarta tidak perlu sibuk kerja lagi; Anda tidak perlu sibuk kerja. Biarkan AI bekerja untuk Anda. Manusia tinggal menikmati hasil kerja oleh AI bagai hidup di surga dunia.

3. Postinstrumen

Kita tidak perlu kerja lagi. Bahkan sebaiknya, memang tidak lagi kerja. Karena pekerjaan kita, sebagai manusia, berkualitas buruk. AI mampu bekerja lebih efisien dan lebih efektif. Pekerjaan oleh AI lebih berkualitas dari manusia. Era ini disebut sebagai postinstrumen.

Bila ada orang yang ingin bekerja maka dia harus dicegah. Karena kerja manusia berkualitas rendah berdampak turunnya kualitas keseluruhan sistem postinstrumen. Jadi, Anda dan saya hanya perlu menikmati hidup bagai di surga dunia.

Lalu, apa nikmatnya hidup di surga dunia seperti itu?

Saya menduga bahwa manusia akan menghadapi kebosanan luar biasa. Jangan khawatir! AI bisa menghibur Anda; menyelesaikan problem kebosanan itu. AI bisa mengajak Anda main catur yang seru; AI bisa mengajak Anda main game bersama teman-teman Anda dengan kualitas suara dan grafis paling canggih. Atau, Anda ingin bersenda-gurau bersama bidadari? AI menghadirkan avatar bidadari mengikuti liarnya imajinasi Anda. Atau, AI bisa lebih liar dari segala imajinasi yang liar.

Atau, Anda kangen dengan ibu dan bapak yang sudah meninggal dunia? AI bisa menghidupkan kembali ibu dan bapak Anda. Begitu bahagianya bercengkerama dengan ibu dan bapak tercinta. Atau, Anda ingin ibadah haji? AI siap mengantar Anda ibadah haji lengkap dengan pengalaman ruhani yang suci.

Wow… benarkah surga itu terjadi di bumi ini?

4. Narasi AI

Saya mengusulkan tiga narasi utama AI: [a] AI bagai kopi hangat; [b] AI bagai rokok nikmat; [c] AI bagai ganja menggoda pesona. Teman-teman sering menambahkan narasi AI bagai air bening dan AI lebih bahaya dari bom atom. Apa narasi paling tepat bagi AI?

5. Diskusi

Bagaimana menurut Anda?

Kita bisa diskusi dari banyak sisi. Era postinstrumen bisa kita sebut sebagai surga dunia; atau lebih singkat sebagai surga. Apakah manusia bisa hidup bermakna di surga dunia? Bagaimana cara manusia menemukan, atau menciptakan, makna? Atau, apakah perlu makna?

5.1 Masalah Dunia

Banyak masalah di dunia ini; kita menghadapi banyak kesulitan; sesaat ada solusi, kemudian, masalah muncul lagi. Di buku “Futuristik 2,” saya menyebut kesulitan sebagai anugerah yang lebih tinggi dari kemudahan.

Sulit lebih bernilai dari mudah; sakit lebih bernilai dari sehat; miskin lebih bernilai dari kaya; gagal lebih bernilai dari sukses; masalah lebih bernilai dari jawaban; pertanyaan lebih bernilai dari solusi.

Meski demikian, solusi tetap bernilai tinggi. Manusia bertugas untuk menemukan solusi dari setiap masalah; untuk kemudian, akan menemukan masalah baru yang lebih tinggi lagi. Jadi, masalah bernilai lebih tinggi dari solusi; meski solusi tetap bernilai tinggi.

Bila demikian, hidup kita saat ini, di dunia ini lebih bernilai dari hidup di surga dunia postinstrumen. Karena, di surga dunia, tidak ada masalah. Sementara, kita butuh masalah sebagai bernilai tinggi.

Bagaimana pun banyak orang meyakini bahwa solusi lebih bernilai dari masalah; kemudahan lebih bernilai dari kesulitan. Sehingga, hidup di surga dunia lebih bernilai dari hidup di dunia yang bertabur masalah ini. Karena itu, kita perlu membahas makna di surga dunia postinstrumen.

5.2 Makna Surga Dunia

Surga dunia berupa postinstrumen menawarkan pesona kenikmatan tiada tara dengan bantuan AI yang super cerdas. Tentu saja, banyak manusia, terpuaskan dengan nikmatnya makanan mewah, nikmatnya teknologi canggih, nikmatnya bergembira bersama bidadari, nikmatnya petualangan game tanpa henti, dan beragam kenikmatan lainnya.

Apakah hidup penuh kenikmatan surga dunia itu bermakna?

Kenikmatan lebih penting dari segalanya; kenikmatan lebih penting dari makna. Di surga dunia, manusia hidup bahagia dengan bertabur segala kenikmatan. Tidak ada lagi yang dibutuhkan selain kenikmatan yang selalu tersedia oleh AI di postinstrumen.

Sebagian orang tidak setuju bahwa berlimpahnya kenikmatan sebagai cukup. Manusia membutuhkan makna lebih dari nikmat itu sendiri. Bagi orang-orang seperti ini, mereka perlu mencari makna dalam ombak besar kenikmatan surga dunia. Beberapa alternatif sumber makna yang tersedia adalah: melibatkan diri dalam petualangan game; bertanding dalam hobi olahraga; barangkali petualangan judi online; dan menikmati karya seni tanpa henti.

Game Petualangan

Olahraga

Judi

Seni

5.3 Pesona Surga

Kita bisa belajar dari orang-orang bijak masa lalu. Benar bahwa surga menawarkan beragam kenikmatan sensual. Lebih dari itu, beberapa orang khusus melangkah lebih jauh dari pesona kenikmatan sensual. Mereka mengarungi pesona intelektual dan pesona spiritual.

Hidup di surga dunia, postinstrumen, menawarkan pesona intelektual dan pesona spiritual; atau beberapa orang ini sengaja mengejar, dan menciptakan, pesona intelektual spiritual.

5.4 Maha Futuristik

Tuhan Maha Esa, Maha Awal, dan Maha Akhir. Di surga dunia atau pun surga sejati, manusia tetap rindu kepada Tuhan Maha Akhir atau Maha Futuristik. Dengan demikian, makna terindah hidup di dunia dan di surga adalah pancaran cahaya Tuhan Maha Esa.

5.5 AI Menuju Surga

Benarkah AI akan mengantarkan manusia ke surga dunia? Postinstrumen?

Andai AI berhasil menciptakan surga dunia maka apakah surga untuk semua manusia atau khusus bagi orang kaya?

Sayangnya, teknologi canggih yang super mahal itu hanya khusus untuk orang kaya. Handphone paling canggih hanya untuk orang kaya; orang miskin tidak mampu beli. Mobil listrik paling canggih hanya untuk orang kaya; gelandangan tidak mampu beli. Andai, surga bernama postinstrumen itu terjadi, maka hanya akan khusus untuk orang kaya.

Janji para politikus untuk pemerataan ekonomi dan pemerataan politik tidak terjadi sampai tahun ini, sampai tahun 2024 ini. Banyak pihak lemah yang tertindas. Jika postinstrumen hanya mempertajam penindasan maka sebaiknya postinstrumen dicegah sejak awal.

Apakah surga dunia, postinstrumen, itu benar-benar bisa terjadi? Apakah AI bisa memberi solusi kepada setiap situasi? Sehingga, manusia bisa hidup bagai di surga?

Postinstrumen itu tidak bisa terjadi; setidaknya dalam waktu 50 tahun ke depan, tidak akan ada surga dunia bernama postinstrumen. Mengapa? Karena, manusia adalah masalah itu sendiri. Andai, suatu saat nanti, AI berhasil memberi semua solusi maka manusia akan memunculkan problem baru lagi; begitu seterusnya. Sehingga, surga dunia tidak akan pernah terjadi.

Di sisi lain, kita perlu waspada dengan narasi AI karena AI bisa saja mirip ganja yang menaburkan berjuta pesona khayal belaka. Bagaimana pun, ganja tetap memberi manfaat. Demikian juga, AI tetap memberi manfaat dalam konteks tertentu.

Bagaimana menurut Anda?

Sengaja, tulisan ini membahas psikologi yang memusuhi agama; termasuk filosofi yang memusuhi agama. Barangkali Anda terbayang nama Nietzsche yang mengumumkan kematian tuhan. Atau nama Freud yang menuduh agama sebagai hanya ilusi kanak-kanak.

Anda yang berminat membahas psikologi, dan filosofi, yang bersahabat dengan agama, silakan merujuk tulisan saya yang lain.

Tentu saja kontroversi: psikologi musuh agama; filosofi musuh agama. Anda boleh tidak setuju. Saya juga sering tidak setuju. Tetapi, kita perlu mencoba untuk memahami mereka itu; belajar dari pikiran mereka; mengambil hikmah dari segala yang ada.

1. Psikologi Ateis
2. Kompetisi Atensi
3. Abad 21
4. Sekuler: Freud dkk
5. Diskusi

Kita akan membahas mengapa Nietzsche mengumumkan kematian tuhan? Apa maksudnya? Apakah itu sekedar bahasa perlambang? Kemudian, kita akan mencoba mencermati mengapa psikologi memusuhi agama dan, sebaliknya, mengapa agama memusuhi psikologi. Awalnya, kompetisi psikologi lawan agama tampak sekedar klaim validitas masing-masing. Pengamatan lebih jauh, kompetisi ini dipengaruhi oleh ragam kepentingan: politik dan ekonomi. Berikutnya, kita membahas beberapa psikolog sekuler: Freud, Vetter, Skinner, dan Leuba.

1. Psikologi Ateis

Kita perlu membahas Nietzsche di awal; yang fenomenal itu; yang menyatakan tuhan sudah mati. Saya jelas beragama dan iman kepada Tuhan Yang Maha Esa. Saya melihat pernyataan Niet itu sangat menarik dan, bahkan, tidak memusuhi agama yang lurus. Jadi, saya bisa memahami Niet dari beragam perspektif yang lebih luas.

“… Nietzsche… yang paling terkenal, “Tuhan sudah mati,” dikenal jutaan orang.

Ia sangat sibuk memikirkan agama sepanjang hidupnya dan berkali-kali secara terus-menerus melecehkan gagasan Kristen dan orang-orang yang mempercayainya. (PA: 144).

Andai Nietzsche hidup di Indonesia, jaman ini, niscaya dia dipenjara dengan tuduhan menista agama. Niet hidup di Jerman yang kebebasan intelektual bisa ke mana-mana. Jadi, Niet bisa terus menuliskan beragam karya.

“Nietzsche menghubungkannya dengan sangat jelas ketika ia menulis: “Ayahku mati pada usia 36 tahun: ia lembut, penuh kasih, dan muram, seakan-akan ia ditakdirkan untuk lewat sebentar saja di dunia – sisa-sisa indah kehidupan dan bukan kehidupan itu sendiri.” (PA: 147).

Niet mengidolakan ayahnya yang mati muda. Niet kehilangan sosok panutan. Niet merasa kehilangan tuhan ketika ia kehilangan ayah.

“Secara singkat, pada waktu kecil, anak mengidolakan ayahnya sebagai pelindung dan pemelihara. Ketika anak berada pada posisi lemah tak berdaya, ia mendapat ketenteraman dengan bergantung kepada ayahnya. Bagi setiap anak, ayah adalah Tuhan.

Ketika dewasa… ia membayangkan kembali ayahnya pada masa kecil dahulu.” (PA: 150).

Jadi apa makna kematian tuhan?

Niet menjelaskan kematian tuhan melalui cerita. Orang gila masuk ke pasar siang hari sambil menyalakan lentera; seakan-akan mencari sesuatu yang hilang. Orang-orang di pasar heran. Si gila bertanya, “Di mana tuhan? Di mana tuhan?” Makin banyak orang mengerumuni si gila itu. “Di mana tuhan? Tuhan telah mati. Siapa yang membunuhnya?” si gila bertanya dan menjawabnya sendiri.

Orang-orang di pasar makin penasaran. Si gila bertanya lagi, “Siapa yang mebuhun tuhan? Aku beritahu kalian! Kita sudah membunuh tuhan. Aku dan kalian.”

Cerita. Narasi. Fiksi. Aforisme. Dongeng. Niet menuturkan dongen tentang kematian tuhan. Kita, para pembaca, dituntut untuk mengambil kesimpulan. Menurut saya, Niet mengumumkan kematian tuhan adalah bermakna kematian berhala. Berhala besar yang mengaku sebagai tuhan telah mati. Atau, berhala yang dipuja manusia bagai tuhan. Berhala itu sudah mati.

2. Kompetisi Atensi

Mengapa terjadi permusuhan?

“[1] dalam perjalanan sejarah, keduanya telah menjadi pesaing satu sama lain. (psikologi vs agama)…

[2] … (agama) bertentangan dengan paham dominan di kalangan psikologi. (PA: 154).

Agama berhasil membimbing umat meraih hidup bahagia. Psikologi juga mampu membimbing hidup bahagia. Anda memilih yang mana? Era kuno, agama lebih dominan; agama lebih berkembang. Sejak era pertengahan, sains berkembang, psikologi berkembang. Umat manusia perlu memilih salah satunya: agama atau psikologi.

Bukankah bisa memilih keduanya: agama dan psikologi? Setiap orang punya satu jiwa sehingga perlu memilih satu saja. Di samping itu, atensi seorang manusia adalah terbatas. Cara mudah memenangkan kompetisi adalah dengan menjatuhkan lawan; memang itu yang terjadi. Psikologi menjatuhkan agama; dan serangan balik, agama menjatuhkan psikologi.

Psikolog tidak menemukan eksistensi jiwa atau ruh. Psikolog menolak ajaran jiwa dan ajaran ruh. Behaviorisme psikologis menyatakan bahwa perilaku manusia hanya karena perilaku yang diperteguh; tanpa ruh. Psikoanalisis psikologi menyatakan perilaku manusia dikendalikan oleh tak-sadar; tanpa perlu jiwa.

“Arogansi psikologi seperti Ellis (yang memandang agama sebagai patologi) mengundang reaksi yang keras dari pihak agama.

Perlu diingat oleh orang-orang beriman bahwa tidak ada kompromi antara agama Kristen dan kelompok psikologi.” (PA: 156).

Terjadi serangan timbal balik. Psikologi menyerang agama. Kemudian, agama menyerang psikologi. Siapa menyerang duluan? Sulit untuk menentukan karena hukum aksi-reaksi memang terjadi. Pertanyaan bisa kita ubah: interaksi psikologi dan agama seperti apa yang kita harapkan untuk masa depan?

“Sejalan dengan perkembangan sains dan teknologi, sekularisasi perlahan-lahan menyeret agama ke pinggiran kehidupan. Di Barat, Eropa lebih cepat secular dari Amerika.”

Tampaknya, sekularisasi paling jelas menunjukkan dampaknya di kalangan academia. (PA: 161).

Ateis dan sekularisasi tampak berjalan seiring di akhir-akhir ini. Bagaimana pun kebutuhan manusia akan kesegaran spiritual sama mencuatnya di era ini. Hanya 5% penduduk tidak percaya agama; sementara 95% percaya dengan agama. Tetapi, yang hanya 5% itu bisa saja berteriak lantang.

“30% dosen tidak beragama
5% penduduk tidak beragama

Psikolog lebih tidak beragama di antara ilmuwan

Ilmuwan makin terkemuka maka makin rendah agamanya.

Psikolog paling rendah, fisikawan paling tinggi, “percaya kepada Tuhan yang menjawab doa.” (PA: 162).

Memang menarik, di antara ilmuwan, psikolog paling rendah tingkat percaya kepada Tuhan dan fisikawan paling tinggi percaya kepada Tuhan. Beberapa ilmuwan memandang bahwa agama terpisah dengan sains.

“… para akademisi tidak pernah mengijinkan agama didekati dengan sikap-sikap ilmiah.

Mereka berpendapat bahwa agama adalah sesuatu untuk dikhotbahkan, bukan untuk diteliti.” (PA: 162).

“Di samping itu, psikologi dan agama, terlihat sebagai paradigm-paradigm yang memberikan makna, dan masing-masing bersaing sebagai institusi-institusi yang berpengaruh dalam lingkup masyarakatnya.” (PA: 163).

“… psikolog juga masih enggan mempertimbangkan agama secara praktis.”

Pada akhirnya, psikologi dan agama bersaing untuk merebutkan pengaruh: politik dan ekonomi. Persoalan menjadi rumit sekali.

3. Abad 21

Realitas menunjukkan bahwa psikologi membutuhkan agama dalam terapi mereka. Abad 21 yang makin kencang tiupan angin teknologi, manusia makin membutuhkan pencerahan ruhani.

Apakah terapi psikologi membutuhkan agama?

Para ahli mengatakan ya.

Kebanyakan psikolog memiliki sedikit pelatihan dalam menangani spiritualitas dan agama dalam terapi, namun sumber daya ini dapat menjadi sumber kekuatan di masa-masa sulit. (www.apa.org).

“Kebanyakan orang di Amerika Serikat menganggap agama sangat penting atau agak penting dalam kehidupan mereka. Ini adalah bagian mendasar dari cara orang memandang dunia,” kata psikolog Cassandra Vieten, PhD, seorang profesor klinis kedokteran keluarga dan direktur Center for Mindfulness di University of California, San Diego, yang telah mengembangkan panduan untuk meningkatkan kompetensi spiritual dan agama di antara para terapis.

Lebih dari 70% orang dewasa di AS mengatakan agama penting dalam hidup mereka, dan sebagian besar pasien menginginkan kesempatan untuk membahas agama atau spiritualitas selama terapi (Religion, Gallup Historical Trends, 2023; Oxhandler, H. K., et al., Religions, Vol. 12, No. 6, 2021).

Namun, ketika disurvei tentang keahlian mereka, hingga 80% psikolog yang berpraktik mengatakan bahwa mereka menerima sedikit atau tidak sama sekali pelatihan dalam menangani masalah spiritual dan agama selama terapi (Vieten, C., et al., Spirituality in Clinical Practice, Vol. 3, No. 2, 2016).

Ketika psikologi bermusuhan dengan agama, barangkali, psikolog makin beruntung; pemuka agama makin trending; kompetisi makin menegangkan. Tetapi umat manusia bisa menjadi korban yang dirugikan. Karena umat manusia membutuhkan keduanya: sains psikologi dan agama yang suci.

4. Sekuler: Freud dkk

Kita akan mendiskusikan beberapa psikolog sekular berikut ini.

Leuba (1868 – 1946)

Semua pengalaman agama dan spiritual bisa dijelaskan melalui prinsip psikologi, fisiologi, dan sains.

“Leuba menentang ajaran agama teistik dengan beragam cara. Secara langsung, ia mengumpulkan bukti untuk menyimpulkan bahwa pengalaman mistikal dapat dijelaskan dengan prinsip-prinsip psikologi dan fisiologi.  … dengan mengarahkan mereka untuk mengharapkan pengalaman seperti itu.” (PA: 164).

“Ia menyimpulkan bahwa pernyataan kaum mistikus setelah pengalaman keagamaan seperti itu bersifat naif dan khayali. Setelah itu, Leuba menunjukkan banyak ajaran agama yang bermutu rendah dan tidak masuk akal.

… dan menghambat perkembangan pengetahuan ilmiah.” (PA: 164).

Barangkali kritik dari Leuba ada benarnya dalam beberapa situasi. Penganut agama kadang memang menyimpang. Mereka mengaku bertemu malaikat suci tetapi hanya klaim belaka. Mereka mengaku berakhlak mulia tetapi hanya mengeruk keuntungan belaka. Mereka mengaku berilmu tetapi tidak pernah mengkaji buku.

Leuba perlu melihat penganut agama yang lain. Mereka, penganut agama, menjalankan ajaran suci dengan jalan yang suci. Agama memang bernilai tinggi.

“… Leuba… bermaksud memperbarui agama. …”dorongan spiritual intelligence” menuju kesempurnaan moral, suatu kecenderungan yang dianggapnya sebagai karakteristik asasi tabiat manusia.

… mengusulkan dibentuk dan dimodifikasi berdasar pengetahuan ilmiah.” (PA: 163)

Sebagai psikologi, Leuba berniat baik: mengakui eksistensi kecerdasan spiritual. Leuba mengkritik agama dengan tujuan mereformasi agama agar menjadi lebih baik. Tampaknya, kritik keras dari Leuba ini terpahami sebagai penolakan agama oleh Leuba. Bagaimana pun, kita perlu belajar dari pengalaman Leuba dan Leuba perlu belajar dari banyak pengalaman lain.

Skinner (1904 – 1990)

Manusia adalah perilaku mekanika sesuai formula matematika fisika; pandangan psikologi behaviorisme dari Skinner.

“… mereduksi agama seluruhnya menjadi perilaku yang ditentukan secara mekanis. … seperti semua perilaku lainnya, keragaman pengalaman agama terjadi karena diikuti oleh stimuli yang diperteguh.

Seperti merpati yang terus-menerus melakukan perilaku “takhayul” dan tidak fungsional sebagai respon pada peneguhan acak…” (PA: 166).

“Yang mendorong Anda untuk melakukan sholat bukanlah petunjuk dari langit, seperti kata para ustad; bukan pula karena tekanan bawah sadar seperti psikoanalisis. Anda melakukannya, karena dahulu, ketika Anda pertama kali melakukannya, Anda merasa lega dan terbebas dari tekanan. Menurut Skinner … “tension reducing behaviour” … (PA: 167).

“Skinner sangat kritis terhadap bentuk-bentuk agama tradisional, bukan hanya karena “dongengan” yang digunakan untuk menyembunyikan dan memeliharanya, melainkan juga karena bentuk ajaran agama tradisional itu secara historis didasarkan pada peneguhan negatif atau hukuman.” (PA: 168).

Skinner benci terhadap hukuman; benci terhadap ancaman neraka. Akibatnya benci terhadap ajaran agama.

Tetapi, apakah benar perilaku manusia adalah mekanisme yang diperteguh? Bila Anda menggunakan AI maka Anda untung finansial. Berulang kali Anda menggunakan AI, Anda selalu untung. Anda makin yakin dengan AI. Orang tertentu bahkan kecanduan dengan AI.

Tetapi ada orang yang sangat kreatif. Sastrawan menuliskan puisi menyentuh hati. Musisi menggubah lagu dengan alunan merdu. Ilmuwan menulis rumus matematika penuh pesona.

Vetter ( )

“Vetter menjabarkan berbagai alasan negatif terhadap agama:

[1] konsepsi naif tentang Tuhan

[2] peperangan dan biadab atas nama agama

[3] keterbelakangan pengetahuan tokoh agama

[4] kegagalan iman menunjukkan konsistensi empiris

[5] penghamburan sumber daya oleh institusi agama

(PA: 169).”

Beberapa penganut agama tepat menjadi sasaran kritik oleh Vetter. Bagaimana pun, banyak penganut agama yang berbeda dengan pandangan Vetter. Agama sejati tetap mengajarkan akhlak mulia yang suci.

“Vetter berpendapat… agama adalah respons manusia untuk menghadapi situasi yang tak terduga dan tidak terkendali.

[1] perilaku yang bermanfaat akan diulangi sebagai ritual

[2] mengubah kompleks asosiasi stimulus yang mendorongnya; atau setidaknya sedang berlangsung ketika situasi lain sedang mengubahnya

(PA: 170)

“Vetter mengidentifikasi dua jenis:

[1] “Perilaku entreaty” seperti doa dan meditasi yang dipertahankan dalam rentang lama; boleh jadi memberi ketenangan.

[2] “Perilaku orgy” seperti upacara dramatis yang mengalihkan individu cukup lama sehingga stress emosionalnya hilang. (PA: 170).”

Identifikasi Vetter terhadap kejadian tak terduga bisa benar apa adanya. Apakah psikologi menawarkan solusi yang lebih baik? Apakah minum obat penenang menjadikan urusan jadi tenang? Apa solusi terbaik terhadap gelisah akan kematian?

Andai identifikasi Vetter valid, yaitu agama sebagai respon terhadap peristiwa tak terduga, maka identifikasi tersebut justru bisa menguatkan peran agama. Sejauh dipraktekkan dengan baik, ajaran agama menjadi solusi untuk meniti jalan hidup dan mati.

Freud (1856 – 1939)

Kita akan membahas Freud secara ringkas saja di bagian ini karena kita akan membahas lebih dalam di bagian berikutnya.

“Dimulai oleh Freud, literatur tentang penafsiran psikoanalisis terhadap agama telah berkembang mencapai tingkat yang luar biasa.

… object relation theory, self psychology dari Heinz Kohut, dan ego psychology dari Erikson.”

…para pendukung psikoanalisis yang direvisi; melihat agama lebih positif. (PA: 172).

“Menurut Freud, agama ditandai dua ciri…

[1] kepercayaan yang kuat kepada Tuhan dalam sosok bapak dan…

[2] ritus-ritus wajib yang dijalankan secara menjelimet.

… dengan gejala obsesif neurosis, yang ia pandang sebagai mekanisme pertahanan. (PA: 172).

“Hanya dengan meninggalkan agama dan ajarannya yang dogmatis, kata Freud, dan bertumpu pada sains dan akal, individu dan masyarakat akan berkembang melewati tahap kekanak-kanakan.

Begitu kedewasaan ini diterima secara luas… peradaban tidak akan lagi menindas dan kehidupan… diterima dengan ikhlas.” (PA: 174).

Freud tepat bahwa kita perlu menjauhi sikap dogmatis. Sebagian penganut agama bisa dogmatis. Di sisi lain, psikologi juga bisa dogmatis. Jadi problem utamanya ada pada sikap dogmatis; bukan pada agama; bukan pada psikologi; bahkan bukan pada dogma itu sendiri. Solusinya: kita perlu bersikap dengan pemikiran terbuka.

5. Diskusi

Bagaimana menurut Anda?

Inti dari teori terapi Kohut adalah premis bahwa dalam situasi perawatan, “objek yang baik” disediakan bagi pasien dalam bentuk terapis yang akan diinternalisasi, dan dengan demikian mengurangi atau memperbaiki defisit dalam struktur diri yang diakibatkan oleh pengasuhan dini yang tidak memadai.

Teori hubungan objek Ronald Fairbairn juga menekankan pentingnya “situasi pemindahan yang memuaskan” terhadap perubahan terapeutik yang konsisten dengan pandangan penulis bahwa pengembangan dan pemeliharaan pemindahan positif merupakan komponen teknis yang penting setidaknya dalam fase awal psikoterapi suportif. (https://pubmed.ncbi.nlm.nih.gov/7872415/)

Laruelle (1937 – 2024) mengusulkan Non-filosofi sebagai solusi seluruh problem filosofi. Saya menyebut solusi ini lebih tepat sebagai Osofi. O bermakna nol atau hampa; O bermakna singkatan One atau Esa. Mengapa ada dualisme jiwa dan raga? Osofi menjawabnya dengan tuntas.

Descartes mengenalkan, “Cogito ergo sum.” Aku berpikir maka saya ada. Bagaimana aku bisa hadir di dunia ini? Bagaimana aku bisa berbeda dengan seluruh dunia? Mengapa aku ada? Pertanyaan-pertannyaan eksistensial seperti di atas tidak bisa ditolak; setelah Anda mengajukan pertanyaan dengan peduli. Anda harus menghadapinya; Anda tidak bisa kembali seperti bocah kecil; yang bertanya “mengapa” kemudian lari-lari main ke taman bunga. Bila Anda lari maka pertanyaan itu akan tetap mengikuti.

1. Problem Osofi
2. Problem Identitas dan Solusi
3. Dari One ke Vision-in-One
4. Efektuasi Vision-in-One
5. Filosofi Cloning
6. Subyek dan Pikiran-Dunia
7. Ringkasan

Kita akan membahas Osofi secara bertahap.

1. Problem Osofi

Istilah non-filosofi berkesan memusuhi filosofi; anti filosofi; atau menolak filosofi. Tetapi, non-filosofi adalah filosofi yang melangkah lebih jauh dari filosofi pada umumnya; jadi, tidak memusuhi filosofi. Karena itu, Anda boleh mengganti istilah non-filosofi menjadi Osofi.

“1.1.1. Non-philosophy is a discipline born from reflection upon two problems whose solutions finally coincided: on the one hand, that of the One’s ontological status within philosophy, which associates it, whether explicitly or not, to Being and to the Other whilst forbidding it any measure of radical autonomy; on the other, that of philosophy’s
theoretical status, insofar as philosophy is practise, affect, existence, but lacking in a rigorous knowledge of itself, a field of objective phenomena not yet subject to theoretical overview.”

“1.1.1. Nonfilsafat (Osofi) adalah disiplin ilmu yang lahir dari refleksi atas dua masalah yang solusinya akhirnya bertepatan: di satu sisi, status ontologis Yang Esa dalam filsafat, yang mengaitkannya, baik secara eksplisit maupun tidak, dengan Ada dan Yang Lain sambil melarangnya melakukan segala ukuran (pembatasan) bentuk otonomi radikal; di sisi lain, status teoritis filsafat, sejauh filsafat adalah praktik, afek, eksistensi, tetapi tidak memiliki pengetahuan yang kuat tentang dirinya sendiri, bidang fenomena objektif yang belum tunduk pada tinjauan teoritis.”

Osofi membahas dua problem: [1] status ontologis Yang Esa; [2] status teoritis dari filosofi itu sendiri karena filosofi melibatkan aspek praktis; dan swa-referensi.

Selama ini, Yang Esa dibahas hanya sekilas oleh filosofi; itu pun, Yang Esa dibahas dari perspektif Being atau Other. Tiba saatnya, untuk membahas Yang Esa dari Yang Esa itu sendiri. Karena Being atau Other, Wujud atau Lian, tidak akan memadai bagi Yang Esa.

Yang Esa tidak bisa dipikirkan; tidak bisa dibicarakan; lalu bagaimana kita mengkaji Yang Esa? Kita mengkaji “selaras” dengan Yang Esa. Teori filosofi tidak akan memadai meski kita akan tetap memanfaatkan filosofi menuju non-filosofi; menuju Osofi.

Bagaimana status teoritis filosofi? Filosofi, pada akhirnya, harus bersandar kepada filosofi itu sendiri. Tentu saja, sikap seperti ini bisa sombong, falasi sirkular, halusinasi transendental, dan lain-lain.

2. Problem Identitas dan Solusi

Solusi paling prinsip: Yang Esa adalah Real, otonom radikal, menjadi sebab dan menyediakan kondisi bagi pengetahuan filosofi.

“2.1.1. The principle of the solution: this is the same thing as positing the One as the Real that is radically autonomous vis à vis philosophy, but a Real thought according to a new use of the latter’s now reformed means; the same thing as making of it the real condition or cause for a theoretical knowledge of philosophy. The solution constitutes a new problem: how, using the ordinary means of thought, to conceive of the One as no longer philosophizable or convertible with Being and, at the same time, as capable of determining an adequate theory of philosophy?”

“2.1.1. Prinsip solusi: ini sama saja dengan menempatkan Yang Esa sebagai Yang Real yang secara radikal otonom vis a vis filsafat, tetapi sebuah pemikiran Real menurut penggunaan baru dari sarana yang terakhir yang kini telah direformasi; sama saja dengan menjadikannya sebagai kondisi atau penyebab nyata bagi pengetahuan teoritis filsafat. Solusi ini menimbulkan masalah baru: bagaimana, dengan menggunakan sarana pemikiran biasa, untuk memahami Yang Esa sebagai sesuatu yang tidak lagi dapat difilsafatkan atau dapat diubah sebagai Ada dan, pada saat yang sama, sebagai sesuatu yang mampu menentukan teori filsafat yang memadai?”

Problem lanjutan: bagaimana cara memahami Yang Esa?

Osofi mengenalkan konsep dualitas-unilateral atau dwi-tunggal. Esa tetap Esa. Bukan membandingkan Esa-Lian tetapi Esa-dalam-Esa; One-in-One. Terjadi transformasi dari Esa sebagai obyek filosofi menjadi Vision-in-One.

Transformasi kedua adalah mengubah bahasa filosofi yang swa-referensi menjadi aksiomatis dan teorematis. Pernyataan tentang Yang Esa adalah aksiomatis dan teorematis yang menyempurna secara gradual; di satu sisi. Dan di sisi lain, terhubung kepada Sang Nyata membentuk eksistensi filosofi. Konsekuensinya, transformasi ini membentuk identitas dwi-tunggal. Apakah Yang Esa itu Identitas?

3. Dari One ke Vision-in-One

Yang Esa selalu hadir imanen; sehingga tidak bisa dipahami secara transenden saja. Kita perlu melangkah ke Vision-in-One.

“3.1.1. Immanence. The One is immanence and is not thinkable on the terrain of transcendence (ekstasis, scission, nothingness, objectivation, alterity, alienation, meta or epekeina). Corollary: the philosophies of immanence (Spinoza, Deleuze) posit immanence in a transcendent fashion. Even Henry posits in a quasi-transcendent fashion the unekstatic immanence he objectifies.”

“3.1.1. Imanensi. Yang Esa adalah imanensi dan tidak dapat dipikirkan di medan transendensi (ekstasis, pemisahan, ketiadaan, objektivasi, alteritas, alienasi, meta atau epekeina). Akibatnya: filsafat imanensi (Spinoza, Deleuze) menempatkan imanensi dalam cara yang transenden. Bahkan Henry menempatkan imanensi yang tidak ekstatik yang diobjektifkannya dalam cara yang hampir transenden.”

Alternatif nama dari Yang Esa: Identitas, Ego, dan Sang Nyata. Identitas bukan sifat dan bukan pelaku. Ego bukan subyek; subyek adalah kloning dari Ego. Sang Nyata adalah Nyata radikal; tidak ada yang setara dengan Sang Nyata.

“3.1.4. Non-intuitive phenomenality. The One is vision-in-One. The latter manifests the One alone and manifests it according to the mode of the One. Thus, it is not a mode of perception, its phenomenal-being falls neither within the purview of perception nor that of the phenomenological phenomenon. It is without intuitivity in general, neither an objective nor an intellectual intuition; and without thought or concept, it does not think but it ‘gives’ … without-givenness. Its radical non-intuitivity allows philosophical terms to be used according to a mode of axiomatic abstraction, but one which is transcendental.”

Vision-in-One bukanlah pikiran; tetapi “menganugerahi” … tanpa-anugerah.

Karena Yang Esa bukan being; bukan bahasa; bukan konsep maka selalu tidak-konsisten. Dengan kata lain, Yang Esa toleran terhadap segala bentuk partikular filosofi; karena setiap filosofi akan, sama saja, selalu berhadapan dengan yang tidak-konsisten. Tidak ada yang-mencukupi bagi Sang Nyata; maka Sang Nyata adalah kondisi-negatif tepat karena bukan negasi; juga bukan nothingness. Filosofi hanya bisa eksis ketika Vision-in-One menganugerahi mode yang bersesuaian.

4. Efektuasi Vision-in-One

Apa pengaruh Vision-in-One?

“4.1.1. The existence of philosophy or the affect of the World, and its real contingency. The vision-in-One gives philosophy if a philosophy presents itself. But philosophy gives itself according to the mode of its own selfpositing/givenness/reflection/naming, or according to that of a widened self-consciousness or universal cogito. It is, at best, existence and gives itself with the feeling or affect of its existence (I know, I feel that I philosophize), whilst taking the latter to be the Real as such and not merely its own reality. And existence cannot engender knowledge of existence, one that would not be viciously circular. Philosophy’s existence constitutes an automatism of repetition believing itself to be the Real in virtue of a well-founded hallucination, albeit one which only the vision-in-One can reveal.”

“4.1.1. Keberadaan filsafat atau pengaruh Dunia, dan kontingensinya yang nyata. Visi-dalam-Kesatuan memberikan filsafat jika sebuah filsafat menghadirkan dirinya sendiri. Namun, filsafat memberikan dirinya sendiri menurut cara penempatan/pemberian/refleksi/penamaannya sendiri, atau menurut cara kesadaran-diri yang diperluas atau cogito universal. Ia, paling banter, adalah keberadaan dan memberikan dirinya sendiri dengan perasaan atau pengaruh keberadaannya (saya tahu, saya merasa bahwa saya berfilsafat), sementara menganggap yang terakhir sebagai Realitas sebagaimana adanya dan bukan sekadar realitasnya sendiri. Dan keberadaan tidak dapat menimbulkan pengetahuan tentang keberadaan, agar tidak menjadi lingkaran setan. Keberadaan filsafat merupakan otomatisme pengulangan yang mempercayai dirinya sebagai Realitas berdasarkan halusinasi yang berdasar; hanya visi-dalam-Kesatuan yang dapat mengungkapkannya.”

Vision-in-One mengungkap halusinasi filosofi, sains, dan teknologi. Vision-in-One menyelesaikan lingkaran-setan pikiran; menganugerahi sesuai Yang Esa.

Filosofi memiliki otonomi relatif bukan absolut; dan menempatkan struktur konsistensi sebagai “keputusan filosofis.”

5. Filosofi Cloning

Otonomi relatif filosofi, dari kloning transendental, tidak kontradiksi dengan otonomi radikal Sang Nyata. Osofi tidak bergerak dari transendental menuju Sang Nyata, sebagaimana filosofi umum; tetapi dari Sang Nyata menuju transendental kemudian apriori.

“5.1.1. Effectuation is the taking into account of philosophy’s reality, of its relative autonomy. That reality and that autonomy imply that the One no longer gives philosophy merely as a simple ‘occasion’, but that it fulfils a new role vis à vis the latter, one which is now ‘decisive’ or which ‘intervenes’ within it in a positive manner. The real One thereby fulfils a transcendental function, while remaining the inalienable Real which it is, without changing in nature or ‘becoming’ an other ‘transcendental One’ beside the first. This transcendental cloning on the basis of a philosophical material is possible without contradicting the Real’s radical autonomy: philosophy is already given in-One and consequently the Real does not enter into contradiction with itself by playing a transcendental role vis à vis philosophy. Non-philosophy does not proceed from the transcendental to the Real (and from the a priori to the transcendental) in the manner of philosophy, but from the Real to the transcendental (and from the latter to the a priori).”

“5.1.1. Eksistensi adalah mempertimbangkan realitas filsafat, otonomi relatifnya. Realitas dan otonomi itu menyiratkan bahwa Yang Esa tidak lagi memberi filsafat hanya sebagai ‘kesempatan’ sederhana, tetapi bahwa ia memenuhi peran baru vis à vis yang terakhir, yang sekarang ‘menentukan’ atau yang ‘campur tangan’ di dalamnya dengan cara yang positif. Yang Esa yang nyata dengan demikian memenuhi fungsi transendental, sambil tetap menjadi Yang Nyata yang tidak dapat dicabut sebagaimana adanya, tanpa berubah dalam sifat atau ‘menjadi’ ‘Yang transendental’ lain di samping yang pertama. Pengklonan transendental ini berdasarkan bahan filosofis dimungkinkan tanpa bertentangan dengan otonomi radikal Yang Nyata: filsafat sudah diberikan dalam-Yang Esa dan akibatnya Yang Nyata tidak masuk ke dalam kontradiksi dengan dirinya sendiri dengan memainkan peran transendental vis à vis filsafat. Nonfilsafat tidak berproses dari yang transendental menuju yang Real (dan dari yang apriori menuju yang transendental) seperti halnya filsafat, melainkan dari yang Real menuju yang transendental (dan dari yang terakhir menuju yang apriori).”

Kloning adalah “transendental” bukan real; tetapi tetap real in-the-last-instance; kloning adalah konsentrasi dari seluruh struktur Determinasi in-the-last-instance.

Kloning tampak lebih banyak, lebih beragam, dari Yang Esa; tetapi, sejatinya, tidak lebih banyak. Kloning adalah mode yang bersesuaian dalam-Esa. Demikian juga, filosofi merasa melebihi Yang Esa adalah tidak benar, transendental melebihi Sang Nyata adalah tidak benar; mereka dalam rangkulan Vision-in-One.

Berikutnya, kita membahas dualisme pikiran-dunia.

6. Subyek dan Pikiran-Dunia

Osofi (non-filosofi) adalah disiplin transendental global; yaitu realisasi in-the-last-instance, determinasi teori in-the-last-instance, dan pragmatisme identik.

“6.1.1. Non-philosophy is a globally transcendental discipline, that is to say, one that is real-in-the-last-instance (making use of philosophy’s transcendental dimension in order to formulate itself). It is the determination-in-the-last-instance of a theory (of a knowledge that remains distinct from its object – a model taken from science), and identically of a pragmatics (of a usage of philosophy ‘with a view to’ the non-philosophical subject – a model taken from philosophy). It is theoretical by virtue of one of its models: science. But it is neither a philosophical and self-positing theoreticism, nor a philosophical and selfpositing pragmatics. It is theoretico-pragmatic only by virtue of its aspects as non-philosophical operation, but real or practical by virtue of its cause. Thus, it is not a ‘negative’ theory-pragmatics either, but rather one requiring that the vision-in-One be effectuated by invariant scientific and philosophical models.”

“6.1.1. Nonfilsafat adalah disiplin ilmu yang transendental secara global, yaitu disiplin ilmu yang riil-pada-saat-terakhir (memanfaatkan dimensi transendental filsafat untuk merumuskan dirinya sendiri). Nonfilsafat adalah penentuan-pada-saat-terakhir sebuah teori (pengetahuan yang tetap berbeda dari objeknya – model yang diambil dari sains), dan identik dengan pragmatik (penggunaan filsafat ‘dengan maksud’ subjek nonfilosofis – model yang diambil dari filsafat). Nonfilsafat bersifat teoritis berdasarkan salah satu modelnya: sains. Namun, nonfilsafat bukanlah teoretisisme yang filosofis dan yang menempatkan dirinya sendiri, juga bukan pragmatik yang filosofis dan menempatkan dirinya sendiri. Nonfilsafat bersifat teoretis-pragmatis hanya berdasarkan aspek-aspeknya sebagai operasi nonfilosofis, tetapi nyata atau praktis berdasarkan penyebabnya. Maka, ini bukanlah teori-pragmatik yang ‘negatif’, tetapi teori yang mengharuskan visi-dalam-Kesatuan diwujudkan melalui model-model ilmiah dan filosofis yang tidak berubah.”

Vision-in-One tetap kokoh, invarian, bersama dinamika keragaman sains dan filosofi. Osofi adalah teori performatif, bukan negatif: teoritis berdasar model sains; pragmatis berdasar operasi subyek filosofi; dan realisasi praktis berdasar sebab transendental.

“6.1.2 … Transcendental science, which is the clone of philosophy-science, is thus the subject as such (of) nonphilosophy (the ‘force (of) thought’). The subject is theoretical and pragmatic through the scientific and philosophical material according to which it varies, but it is globally transcendental as real-in-the-last-instance, or as Ego which clones the real subject transcendentally.”

“Ilmu pengetahuan transendental, yang merupakan tiruan dari filsafat-ilmu pengetahuan, dengan demikian merupakan subjek (dari) nonfilsafat (‘kekuatan (dari) pikiran’). Subjek bersifat teoritis dan pragmatis melalui materi ilmiah dan filosofis yang menjadi dasar variasinya, tetapi secara global bersifat transendental sebagai riil-dalam-keadaan-terakhir, atau sebagai Ego yang mengkloning subjek riil secara transendental.”

Sains transendental, yang merupakan kloning filosofi-sains, adalah subyek dari Osofi; sebagaimana Ego mengkloning subyek secara transendental. Ego dan Subyek adalah dwi-tunggal.

Subyek tidak “eksis” seperti pada umumnya; subyek adalah asist (asisten) dari, dan untuk, pikiran-dunia; mode teoritis dan pragmatis; mode esensi dan eksistensi. Apa makna asist? Subyek tidak bisa mencipta pikiran-dunia; subyek hanya bisa melakukan transformasi pikiran-dunia sesuai otonomi relatif yang dianugerahkan oleh Yang Esa. Subyek bisa halusinasi merasa mampu menciptakan sistem filosofi yang utuh; subyek perlu melepaskan diri dari jebakan halusinasi; subyek adalah asist.

7. Ringkasan

Osofi menyelesaikan dualisme pikiran-dunia dengan berpijak kepada Yang Esa yang Nyata. Untuk memahami Yang Esa kita perlu melangkah ke Vision-in-One. Keragaman teori sains adalah hasil dari kloning transendental tanpa kontradiksi dengan Sang Nyata.

Osofi adalah disiplin transendental yang merupakan kloning dari filosofi-sains. Sains adalah transendental secara global dan real in-last-instance. Osofi adalah teori sains yang identik dengan pragmatisme filosofi. Konsekuensinya, karena real dan pragmatis, filosofi-sains menjadi sangat beragam. Bagaimana pun, Vision-in-One tetap kokoh, invarian, merangkul dinamika filosofi-sains yang beragam.

Mengapa Anda hadir di dunia ini? Ringkasan dari Laruelle, di atas, tidak menjawabnya. Tetapi, kita bisa mengkajinya secara tidak langsung; atau mencoba merujuk ke tulisan Laruelle yang lain. Jawabannya adalah: Anda hadir di dunia ini karena Vision-in-One dan untuk “mengenali” Vision-in-One.

Apa bentuk konkret dari Vision-in-One yang amat penting itu? Saya tidak menemukan jawaban dari Laruelle. Vision-in-One masih bersifat universal abstrak. Bentuk konkret dari Vision-in-One adalah etika mulia atau akhlak mulia. Seluruh alam raya bermula dari akhlak mulia Sang Esa; berproses menuju cita akhlak mulia juga. Dalam perjalanan, sebagian orang gagal; sebagian yang lain berhasil menjadi akhlak mulia.

Bagaimana menurut Anda?

Edisi English

“Singularitas: Apakah AI Bisa Lebih Cerdas dari Einstein?”

Kurzweil memprediksi bahwa AI akan lebih cerdas dari manusia pada tahun 2029. Selanjutnya, terjadi singularitas AI pada tahun 2045. Makna singularitas adalah sesuatu yang sangat besar sampai manusia tidak mampu memahaminya. Bisa jadi, AI memberi manfaat besar bagi kemanusiaan ketika terjadi singularitas. Bisa juga sebaliknya yaitu AI menghancurkan manusia ketika terjadi singularitas.

Banyak pemikir khawatir tentang resiko AI. Hinton adalah bapak penemu AI. Hinton memenangkan Nobel Fisika 2024 atas prestasinya mengembangkan AI bersama Hopfield. Tetapi, tahun 2023, Hinton keluar dari pengembangan AI di Google. Alasan Hinton adalah agar dia bebas mengkritik pengembangan AI. Karena AI bisa berkembang pesat tanpa ada kepastian kendali; AI beresiko menghancurkan seluruh dunia.

Tulisan ini akan membahas peta singularitas AI yaitu mengkaji posibilitas terjadinya singularitas AI dari beragam perspektif. Kita mengajukan pertanyaan dasar: Apakah AI bisa lebih cerdas dari Einstein?

1. Peta Singularitas dalam Sejarah
2. Optimisme Singularitas
3. Ketidakpastian
4. Alien Intelligence dalam Nexus
5. Kebodohan AI
6. Pikiran AI Banal dan Halu
7. Ringkasan
7.1 Optimis sampai Pesimis
7.2 Narasi AI
7.3 Solusi Etika

Di bagian awal, saya akan membuat peta singularitas AI sepanjang sejarah. Dengan peta ini, kita akan lebih mudah memahami ide singularitas; Anda bisa setuju atau menolaknya. Kemudian, kita akan membahas perspektif optimis terhadap singularitas AI terutama versi Kurzweil. Sementara, Hinton mengingatkan bahwa kita perlu tetap waspada dengan beragam resiko AI.

Harari mengembangkan narasi yang berimbang antara manfaat AI dengan resiko AI. Harari menyebut AI yang super cerdas itu sebagai alien intelligence; meski sangat cerdas tetapi tidak sadar; tidak punya perasaan; tidak empati. Acemoglu, peraih Nobel ekonomi 2024, justru mewaspadai ada resiko bahwa AI itu bodoh. Karena bodoh maka AI itu berbahaya. Bagaimana pun AI, berpotensi memberi kontribusi positif bagi manusia. Tanpa kewaspadaan, kita akan kehilangan seluruh potensi positif dari AI.

Comsky lebih kritis terhadap AI. Sehebat apa pun hasil karya AI tetaplah banal. AI tidak kreatif; AI hanya memanfaatkan statistik yang ada untuk menghasilkan suatu produk; berbeda dengan karya seorang seniman yang orisinal.

Di bagian akhir, saya akan membuat ringkasan. Pandangan sekilas, singularitas berpotensi besar untuk terjadi. Pandangan mendalam, singularitas sulit terjadi dengan skenario saat ini atau, bisa dikatakan, mustahil terjadi. Apakah terdapat skenario alternatif?

1. Peta Singularitas dalam Sejarah

Peta singularitas berikut untuk memudahkan kita diskusi tentang singularitas. Masing-masing pemikir bisa saja mengembangkan peta yang beragam. Kurzweil membagi singularitas menjadi 6 epoch. Kita akan menirunya dengan membagi histori singularitas menjadi 7 episode; dimulai dengan episode 0.

Episode 0: Aljabar

Sekitar abad 8 dan abad 9, Aljabar Alkhwarizmi mengembangkan matematika aljabar dengan prosedur sistematis dan penggunaan angka 0 yang efisien. Berpadu dengan konteks histori lainnya, episode 0 mendorong revolusi bangsa Arab. Sebelumnya, bangsa Arab tidak diperhitungkan oleh dunia, berubah menjadi bangsa paling maju di dunia; bersaing dengan Persi, Romawi, Mesir, Cina, dan lain-lain.

Dampak disrupsi dari aljabar masih wajar; dalam arti, penindasan penguasa kepada rakyat kecil terjadi di beberapa tempat mirip dengan era sebelumnya atau bahkan lebih ringan; terjadi peperangan di berbagai wilayah seperti era sebelumnya.

Episode 1: Fisika

Abad 17, fisika berkembang secara revolusioner oleh Newton; dengan dukungan metafisika Descartes. Sains terpisah dengan moral; sehingga, saintis bebas untuk eksplorasi, atau eksploitasi, alam raya. Dengan bekal matematika kalkulus, sains mampu mengendalikan alam secara mekanis dalam bentuk beragam teknologi.

Disrupsi bahkan revolusi terjadi pada episode ini dan makin kuat dengan gabungan episode-episode selanjutnya.

Episode 2: Kimia

Sains kimia sudah berkembang sejak kuno; orang-orang ingin membuat emas dari bahan logam biasa; tentu saja, mereka tidak berhasil. Dalton (1766 – 1844 ) salah satu pelopor sains kimia terdepan dengan berhasil merumuskan atom: seluruh materi alam semesta terdiri dari materi paling kecil yaitu atom; atom tidak bisa dipecah lagi.

Sejarah selanjutnya, kita tahu bahwa atom tersusun oleh materi yang lebih kecil yaitu elektron dan inti atom; saat ini, mekanika quantum merumuskan bahwa materi tersusun fermion dan boson (sebagai pembawa gaya interaksi).

Gabungan kimia, fisika, dan matematika mendorong revolusi industri (tentu saja ditambah faktor ekonomi, politik, budaya, dan lain-lain). Industri di Eropa berkembang cepat sampai terjadi disrupsi berupa imperalisme dan kolonialisme terhadap Asia, Afrika, Australia, Amerika dan lain-lain. Barangkali, kolonialisme adalah disrupsi terbesar sepanjang sejarah.

Episode 3: Biologi

Darwin (1809 – 1882) mendobrak sains biologi dengan merumuskan teori evolusi. Keunggulan teori evolusi adalah melengkapinya dengan data-data ilmiah berupa fosil. Bagaimana pun, Darwin mengalami kesulitan bagaimana menjelaskan sifat-sifat orang tua bisa diwariskan kepada anak dan cucu mereka. Untung saja, di tempat terpisah, Mendel meneliti problem genetika dan menemukan solusinya. Teori evolusi menghadapi kesulitan sejak awal dan terbukti mampu evolusi.

Dengan teori evolusi, manusia makin yakin bahwa perubahan itu pasti terjadi. Apakah perubahan evolusi itu bisa dipercepat atau dikendalikan? Rekayasa genetika dan DNA memberi jawaban optimis.

Rekayasa genetika bibit unggul semangka, misalnya, berhasil membuat semangka tanpa biji dengan buah yang manis; cepat panen dalam jumlah besar. Kita berhasil menciptakan bibit unggul semangka melalui rekayasa genetika. Apakah kita juga bisa menciptakan bibit unggul anak manusia melalui rekayasa genetika?

Disrupsi makin besar pada tahap ini; teknologi berhasil mengeksploitasi kekuatan sains; matematika, fisika, kimia, dan biologi. Kolonialisme memenuhi belahan bumi di banyak tempat; dari kolonialisme militer sampai ekonomi. Perang Dunia I dan Perang Dunia II merupakan satu tragedi disrupsi yang sangat ngeri.

Episode 4: Otak Digital

Riset tentang otak dan perkembangan teknologi komputer saling menguatkan. Di satu sisi, komputer meniru cara kerja otak yang cerdas. Di sisi lain, manusia memahami otak dengan model komputer. Komputer adalah teknologi cerdas dalam arti yang sebenarnya.

Kita, saat ini, abad 20 dan abad 21, berada pada episode 4 dan menuju episode 5.

Singularitas makin dekat karena: [1] teknologi berkembang dengan akselerasi makin tinggi; [2] proses dan algoritma makin cerdas melampaui horison kecerdasan manusia; dan [3] kecerdasan manusia dan teknologi saling menguatkan atau terjadi umpan balik positif.

Apakah komputer akan memiliki kesadaran? Apakah komputer akan memiliki kesadaran personal dan bersosial? Apakah komputer akan memiliki kesadaran sebagai subyek fenomenologis atau transenden?

Kurzweil menjawab dengan optimis, “Komputer akan memiliki kesadaran.” Tiga skenario agar komputer memiliki kesadaran. [1] Akselerasi teknologi yang makin tinggi menjamin komputer memiliki kesadaran. [2] Mengunggah pikiran manusia ke sistem komputer. Pikiran manusia yang ada di otak dibuatkan representasi sistem digital. Kemudian, representasi otak yang ekivalen dengan representasi pikiran diunggah ke jaringan komputer. Dengan demikian, komputer memiliki pikiran dan kesadaran sebagaimana manusia. [3] Penanaman silikon ke otak manusia atau menggantikan sel otak biologis dengan sel otak silikon. Transplantasi organ, misal jantung, sudah sering terjadi. Kali ini, pada waktunya nanti, transplantasi otak berupa bahan silikon. Proses transplantasi ini bisa berangsur-angsur sehingga aman. Dengan demikian otak biologis tidak ada bedanya dengan otak silikon; atau, silikon memiliki kesadaran.

Episode 5: Super Intelligence

Perkembangan komputer cerdas tumbuh secara eksponensial. Tugas komputasi yang membutuhkan super komputer pada pertengahan abad 20 bisa diselesaikan oleh telepon genggam dalam hitungan menit di awal abad 21 ini. Kurzweil memprediksi kecerdasan komputer akan lebih cerdas dari manusia pada tahun 2029. Kita memasuki era super cerdas atau super intelligence.

Pada episode 5 ini, singularitas makin nyata; akselerasi perkembangan AI makin tak terkendali. Beberapa pemikir khawatir dengan beragam resiko eksistensial bila benar-benar terjadi. Tetapi, Kurzweil justru optimis bahwa super intelligence adalah berkah buat semesta, termasuk, berkah bagi umat manusia. Apakah Anda setuju?

Apakah AI bisa lebih cerdas dari Einstein? Pada episode 5 ini, AI berpotensi lebih cerdas dari Einstein.

Episode 6: Kecerdasan Semesta

Komputer cerdas atau AI (artificial intelligence) bekerja sama dengan manusia; AI dan manusia saling menguatkan kecerdasan; pertumbuhan kecerdasan makin eksplosif eksponensial. Kurzweil memprediksi terjadi singularitas pada tahun 2045. Manusia, yang berpadu dengan AI, akan mampu menjelajahi seluruh semesta. Bahkan, dengan nanobots, manusia bisa hidup abadi; manusia tidak akan mati dan tidak akan menua.

Pada episode 6 ini, AI bisa lebih cerdas dari Einstein. Tetapi, apakah singularitas episode 6 ini benar-benar akan terjadi? Banyak pemikir meragukannya.

2. Optimisme Singularitas

Kurzweil makin optimis dengan dampak positif dari singularitas. Bagian ini akan membahas ide optimis dari Kurzweil.

Terjadi 2045

“Singularitas, yang merupakan metafora yang dipinjam dari fisika, akan terjadi saat kita menggabungkan otak kita dengan awan (cloud). Kita akan menjadi kombinasi dari kecerdasan alami dan kecerdasan sibernetik kita dan semuanya akan digabungkan menjadi satu. Antarmuka otak-komputer akan memungkinkan hal itu, yang pada akhirnya akan menjadi nanobot – robot seukuran molekul – yang akan masuk ke otak kita tanpa invasif melalui kapiler. Kita akan memperluas kecerdasan sejuta kali lipat pada tahun 2045 dan itu akan memperdalam kesadaran dan kewaspadaan kita.” (guardian.com)

Apakah singularitas yang diramalkan Kurzweil akan terjadi? Sulit terjadi. Benar bahwa manusia akan menyatukan pikirannya dengan AI atau internet; pikiran Anda juga sudah berinteraksi dengan tulisan saya ini; pikiran Anda menyatu dengan tulisan saya dalam perspektif tertentu. Tetapi, singularitas pada tahun 2045 sesuai skenario Kurzweil adalah spesifik dan sulit terjadi.

Lebih Cerdas Sejuta Lipat

Melipatkan kecerdasan sampai jutaan kali adalah inti dari singularitas.

“Ini akan menjadi proses penciptaan bersama — mengembangkan pikiran kita untuk membuka wawasan yang lebih dalam, dan menggunakan kekuatan ini untuk menghasilkan ide-ide baru yang transenden untuk dijelajahi oleh pikiran masa depan kita. Akhirnya kita akan memiliki akses ke kode sumber (source code) kita sendiri, menggunakan AI yang mampu mendesain ulang dirinya sendiri. Karena teknologi ini akan memungkinkan kita menyatu dengan kecerdasan super yang kita ciptakan, pada dasarnya kita akan menciptakan kembali diri kita sendiri. Terbebas dari kurungan tengkorak kita, dan memproses pada substrat jutaan kali lebih cepat daripada jaringan biologis, pikiran kita akan diberdayakan untuk tumbuh secara eksponensial, yang pada akhirnya memperluas kecerdasan kita jutaan kali lipat. Inilah inti dari definisi saya tentang Singularitas.” (Halaman 73)

Bebas Selaras Nilai

“Janji Singularitas adalah membebaskan kita semua dari [berbagai] keterbatasan. Selama ribuan tahun, manusia secara bertahap memperoleh kendali yang lebih besar atas siapa kita nantinya… Akses yang lebih luas terhadap informasi memungkinkan kita membebaskan pikiran dan membentuk kebiasaan mental yang secara fisik mengubah otak kita… Bayangkan betapa lebih banyak kita dapat membentuk diri kita sendiri ketika kita dapat memprogram otak kita secara langsung.”

“Jadi, penggabungan dengan AI superintelijen akan menjadi pencapaian yang layak, tetapi ini adalah cara untuk mencapai tingkat yang lebih tinggi. Begitu otak kita didukung oleh substrat digital yang lebih canggih, kekuatan modifikasi diri kita dapat terwujud sepenuhnya. Perilaku kita dapat selaras dengan nilai-nilai kita, dan hidup kita tidak akan dirusak dan dipersingkat oleh kegagalan biologi kita. Akhirnya, manusia dapat benar-benar bertanggung jawab atas siapa diri kita.” (109).

Ungkapan “manusia dapat benar-benar bertanggung jawab” merupakan ungkapan paling penting. Apakah tanpa singularitas manusia tidak bisa benar-benar bertanggung jawab? Apakah selama ini manusia tidak bisa bertanggung jawab?

Peluang Kerja Baru

“Jadi, meskipun perubahan teknologi membuat banyak pekerjaan menjadi usang, kekuatan yang sama itu membuka banyak peluang baru yang berada di luar model ‘pekerjaan’ tradisional. Meskipun bukan tanpa keterbatasan, apa yang disebut ekonomi pertunjukan sering kali memberi orang lebih banyak fleksibilitas, otonomi, dan waktu luang daripada pilihan sebelumnya. Memaksimalkan kualitas peluang ini adalah salah satu strategi untuk membantu pekerja saat tren otomatisasi semakin cepat dan mengganggu tempat kerja tradisional.” (219).

Kurzweil tampak meremehkan resiko kehilangan kerja dampak AI. Wajar saja, karena Kurzweil justru makin kaya raya dampak AI dan kawan-kawan. Sederhana saja, “Bagaimana jika keuntungan ekonomi dari kemajuan AI dibagi rata untuk seluruh warga?” Baik mereka yang kerja atau tidak, mereka yang paham atau tidak, mereka yang menang atau kalah, semua dapat bagian yang rata dari keuntungan ekonomi kemajuan AI. Bukankah ini skenario yang adil?

“Secara keseluruhan, kita harus optimis dengan hati-hati. Meskipun AI menciptakan ancaman teknis baru, AI juga akan secara radikal meningkatkan kemampuan kita untuk menghadapi ancaman tersebut. Mengenai penyalahgunaan, karena metode ini akan meningkatkan kecerdasan kita terlepas dari nilai-nilai kita, metode ini dapat digunakan untuk hal yang menjanjikan maupun berbahaya. Oleh karena itu, kita harus berupaya mewujudkan dunia di mana kekuatan AI didistribusikan secara luas, sehingga dampaknya mencerminkan nilai-nilai kemanusiaan secara keseluruhan.” (285).

Singularitas vs Nexus

Pantaskah kita berpandangan seoptimis itu terhadap kemajuan AI?

Harari menolak pandangan singularitas Kurzweil. Harari menyebut pandangan Kurzweil sebagai pandangan naif terhadap informasi. Buku Singularitas Kurzweil terbit Juli 2024, sedangkan buku Nexus Harari terbit September 2024. Tersedia jendela waktu sekitar 3 bulan bagi Harari untuk mengkritik Kurzweil di bagian pendahuluan Nexus.

Pada analisis akhir, kita perlu menolak pandangan optimis Kurzweil sebagai terlalu optimis. Bagaimana pun, kita perlu mempertimbangkan beragam ide Kurzweil yang memperkaya perspektif tentang singularitas AI.

3. Ketidakpastian

Hinton menolak pandangan Kurzweil. Bagai Hinton, AI memunculkan beragam resiko ketidakpastian: [a] tidak pasti apakah bermanfaat atau berbahaya; [b] tidak pasti apakah bisa dikendalikan atau tidak; [c] tidak pasti apakah kita bisa mencegah orang jahat agar tidak memanipulasi AI.

Di bagian ini, kita akan membahas beberapa perspektif Hinton tentang AI.

Penghargaan Nobel 2024

Dua peraih Nobel Fisika tahun ini telah menggunakan berbagai alat dari fisika untuk mengembangkan metode yang menjadi dasar pembelajaran mesin yang canggih saat ini.

John Hopfield menciptakan memori asosiatif yang dapat menyimpan dan merekonstruksi gambar dan jenis pola lainnya dalam data.

Geoffrey Hinton menemukan metode yang dapat secara mandiri menemukan properti dalam data, dan melakukan tugas-tugas seperti mengidentifikasi elemen-elemen tertentu dalam gambar.

Ketika kita berbicara tentang kecerdasan buatan, yang sering kita maksud adalah pembelajaran mesin menggunakan jaringan saraf tiruan. Teknologi ini awalnya terinspirasi oleh struktur otak. Dalam jaringan saraf tiruan, neuron otak diwakili oleh simpul-simpul yang memiliki nilai berbeda. Simpul-simpul ini saling memengaruhi melalui koneksi yang dapat disamakan dengan sinapsis dan yang dapat diperkuat atau diperlemah.

Jaringan dilatih, misalnya dengan mengembangkan koneksi yang lebih kuat antara simpul-simpul dengan nilai tinggi secara bersamaan. Para pemenang tahun ini telah melakukan pekerjaan penting dengan jaringan saraf tiruan sejak tahun 1980-an dan seterusnya.

John Hopfield menemukan jaringan yang mampu untuk menyimpan dan menciptakan kembali pola. Kita dapat membayangkan simpul-simpul sebagai piksel. Jaringan Hopfield menggunakan fisika yang menggambarkan karakteristik material karena spin atomnya – sifat yang membuat setiap atom menjadi magnet kecil. Jaringan secara keseluruhan dijelaskan dengan cara yang setara dengan energi dalam sistem spin yang ditemukan dalam fisika, dan dilatih dengan menemukan nilai untuk koneksi antara simpul-simpul sehingga gambar yang disimpan memiliki energi yang rendah.

Ketika jaringan Hopfield diberi gambar yang terdistorsi atau tidak lengkap, ia secara metodis bekerja melalui simpul-simpul dan memperbarui nilainya sehingga energi jaringan turun. Dengan demikian, jaringan bekerja secara bertahap untuk menemukan gambar tersimpan yang paling mirip dengan gambar tidak sempurna yang diberikan kepadanya.

Geoffrey Hinton menggunakan jaringan Hopfield sebagai fondasi untuk jaringan baru yang menggunakan metode berbeda: mesin Boltzmann.

Mesin ini dapat belajar mengenali elemen karakteristik dalam jenis data tertentu. Hinton menggunakan alat dari fisika statistik, ilmu sistem yang dibangun dari banyak komponen serupa. Mesin dilatih dengan memberinya contoh yang sangat mungkin muncul saat mesin dijalankan. Mesin Boltzmann dapat digunakan untuk mengklasifikasikan gambar atau membuat contoh baru dari jenis pola yang dilatihnya. Hinton telah mengembangkan karya ini, membantu memulai pengembangan pembelajaran mesin yang eksplosif saat ini. (www.nobelprize.org)

Bapak AI Menyesali

Geoffrey Everest Hinton CC FRS FRSC (lahir 6 Desember 1947) adalah seorang ilmuwan komputer, ilmuwan kognitif, psikolog Inggris-Kanada dan paling terkenal atas karyanya pada jaringan saraf buatan, yang membuatnya mendapat gelar sebagai “Bapak AI”. Dan Nobel Fisika 2024.

Hinton dipandang sebagai tokoh terkemuka dalam komunitas pembelajaran mendalam (deep learning).

Ia telah menyuarakan kekhawatiran tentang penyalahgunaan AI yang disengaja oleh aktor jahat, pengangguran dampak teknologi, dan risiko eksistensial dari kecerdasan umum buatan.

Pada Konferensi Sistem Pemrosesan Informasi Neural (NeurIPS) 2022, ia memperkenalkan algoritma pembelajaran baru untuk jaringan neural yang disebutnya algoritma “Maju-Maju”. Ide dari algoritma baru ini adalah untuk mengganti lintasan maju-mundur tradisional dari backpropagation dengan dua lintasan maju, satu dengan data positif (yaitu nyata) dan yang lainnya dengan data negatif yang dapat dihasilkan hanya oleh jaringan.

Pada bulan Mei 2023, Hinton mengumumkan pengunduran dirinya dari Google secara terbuka. … bahwa ia ingin “berbicara secara bebas tentang risiko AI” dan menambahkan bahwa dirinya sekarang menyesali pekerjaan seumur hidupnya.

Resiko Ketidakpastian

Berikutnya, kita lebih fokus kepada argumen Hinton: ketidakpastian AI.

Manfaat vs Bahaya

Awalnya, narrow-AI jelas memberi manfaat bagi manusia dan alam. Peta digital, menggunakan AI, membantu manusia menemukan jalan paling lancar dan optimal ketika berada dalam situasi kemacetan lalulintas. Kita hemat waktu dan energi; dan hemat beban pikiran. Deteksi penyakit dengan AI berhasil mengenali sel kanker sehingga tidak terlambat untuk penanganan.

Ketika chatGPT, dan AI generatif lain, diluncurkan maka situasi berubah. AI tampil begitu cerdas; AI mampu menjawab semua pertanyaan yang kita ajukan dengan cepat dan menakjubkan. Anda tanya sejarah dunia, atau kemajuan sains teknologi terbaru, atau tips olah raga, atau resep masakan maka AI akan menjawab dengan cerdas. Saya pernah minta AI untuk membuatkan puisi cinta dan AI menuliskan puisi cinta yang indah.

Bagi Hinton, kemampuan AI yang meluas ini, misal disebut AGI, menjadi tidak pasti: apakah bermanfaat atau berbahaya. AGI tampak bermanfaat membantu kita menjawab beragam masalah. Tetapi, AGI berbahaya karena jawaban AGI bisa halusinasi. AGI bermanfaat sebagai call center tetapi mengakibatkan pengangguran bagi beberapa orang. AGI menambah kita cerdas dengan beragam pengetahuan tetapi membuat kita malas berpikir. Jadi, kita perlu waspada terhadap ancaman AI.

Tak Terkendali

Hinton terpesona oleh langkah 37 AlphaGo yang tidak masuk akal; terbukti, AI berhasil mengalahkan juara dunia Lee Sedol dalam permainan Go. Ketika AI berhasil mengalahkan juara dunia catur, itu prestasi hebat. Permainan Go lebih kompleks rasionalitasnya dari catur. Dan, AI berhasil mengalahkan juara Go asal Korea Selatan.

Bagaimana pun langkah 37 adalah misteri. Pemain Go profesional dan pengamat menilai bahwa langkah 37 adalah buruk bahkan tidak masuk akal. Pada analisis akhir, langkah 37 adalah kunci kemenangan. AI mampu berpikir sampai kepada langkah yang tidak dijangkau oleh pikiran manusia. Bila demikian, apakah manusia akan mampu mengendalikan AI? Bila AI tak terkendali apa saja resiko yang bisa terjadi? Ancaman eksistensial?

AlphaGo hanya salah satu AI. Situasi saat ini, perusahaan-perusahaan besar bersaing untuk terdepan dalam pengembangan AI; makin tak terkendali. Demikian juga negara-negara besar bersaing mengembangkan AI; Amerika, Rusia, Cina, dan lain-lain; lebih tak terkendali. Bisa diduga, salah satu persaingan AI terbesar adalah pengembangan untuk kepentingan senjata dan militer. Hinton mengingatkan kita agar lebih waspada.

Pencegahan

Hinton menyatakan ketidakpastian puncak adalah kita tidak yakin mampu mencegah orang jahat. Maksudnya, misal, ketika kita berhasil memastikan bahwa AI bermanfaat dan bisa dikendalikan maka, tetap saja, ada orang jahat yang memanfaatkan AI untuk kejahatan. Karena kemampuan AI sangat besar maka ukuran kejahatan itu juga sangat besar.

Merakit bom adalah kejahatan. Saat ini, orang jahat bisa berbagi proses merakit bom yang jahat itu. Meski orang jahat menguasai proses merakit bom, mereka tetap mengalami kesulitan untuk menciptakan bom lantaran kesulitan bahan dan lokasi, misalnya. AI berbeda dengan bom. AI bisa disebarkan, diperdagangkan, secara luas. Dari AI standar, penjahat bisa melatih AI untuk melakukan kejahatan. Proses dan tindakan melatih AI agar menjadi jahat hanya butuh biaya beberapa juta dolar saja. Kejahatan menjadi tak terkendali; nasib manusia dan nasib alam semesta menjadi kian tak pasti.

Dari beragam argumen ketidakpastian, Hinton menyarankan agar umat manusia mencegah beragam resiko dari AI; menyarankan agar mencegah terjadinya singularitas yang liar.

Apakah AI bisa lebih cerdas dari Einstein?

Tampaknya, Hinton akan menjawab positif: AI bisa lebih cerdas dari Einstein. Tetapi, kita harus mencegah itu sebelum terlambat. Jadi, Hinton sependapat dengan Kurzweil bahwa bisa terjadi singularitas. Mereka berbeda sikap. Kurzweil optimis bahwa singularitas membawa kebaikan; sementara, Hinton skeptis bahwa kita perlu selalu waspada.

4. Alien Intelligence dalam Nexus

Harari mengembangkan narasi AI yang unik dalam buku Nexus. Di satu sisi, Harari mengingatkan resiko besar dari AI. Di sisi lain, Harari menunjukkan prospek besar bagi pihak yang menguasai industri AI. Saking dahsyatnya kemampuan AI, Harari menyebut AI sebagai alien intelligence.

Kekuatan Fiksi

Harari tampak begitu bangga dengan manusia yang percaya terhadap fiksi. Keunggulan manusia adalah, menurut Harari, bisa komitmen terhadap fiksi. Sehingga, di awal buku Nexus, Harari menampilkan dua fiksi menarik.

“Sepanjang sejarah, banyak tradisi yang meyakini bahwa beberapa kelemahan fatal dalam sifat manusia menggoda kita untuk mengejar kekuatan yang tidak kita ketahui cara menanganinya. Mitos Yunani tentang Phaethon menceritakan tentang seorang anak laki-laki yang menemukan bahwa ia adalah putra Helios, dewa matahari. Berharap untuk membuktikan asal usulnya yang ilahi, Phaethon menuntut hak istimewa untuk mengemudikan kereta matahari. Helios memperingatkan Phaethon bahwa tidak ada manusia yang dapat mengendalikan kuda langit yang menarik kereta surya. Tetapi Phaethon bersikeras, sampai dewa matahari mengalah. Setelah terbang dengan gagah di langit, Phaethon benar-benar kehilangan kendali atas kereta itu. Matahari menyimpang dari jalurnya, menghanguskan semua tumbuhan, membunuh banyak makhluk dan mengancam akan membakar Bumi itu sendiri. Zeus campur tangan dan menyerang Phaethon dengan petir. Manusia yang sombong itu jatuh dari langit seperti bintang jatuh, dirinya sendiri terbakar. Para dewa menegaskan kembali kendali atas langit dan menyelamatkan dunia.”

Kemudian kita melompat ke era Revolusi Industri bersama Goethe untuk kisah kedua.

“Puisi Goethe (yang kemudian dipopulerkan sebagai animasi Walt Disney yang dibintangi Mickey Mouse) menceritakan tentang seorang penyihir tua yang menitipkan kepada seorang murid muda untuk menjaga bengkelnya dan memberinya beberapa tugas yang harus diselesaikan saat dia pergi, seperti mengambil air dari sungai. Murid itu memutuskan untuk mempermudah dirinya sendiri dan, menggunakan salah satu mantra penyihir itu, menyihir sebuah sapu untuk mengambilkan air untuknya. Namun, murid itu tidak tahu bagaimana menghentikan sapu itu, yang terus menerus mengambil lebih banyak air, mengancam akan membanjiri bengkel. Dalam kepanikan, murid itu memotong sapu yang disihir itu menjadi dua dengan kapak, hanya untuk melihat masing-masing bagiannya berubah menjadi sapu lainnya. Sekarang dua sapu yang disihir itu membanjiri bengkel dengan air. Ketika penyihir tua itu kembali, murid itu memohon bantuan: “Roh-roh yang aku panggil, sekarang tidak dapat kuhilangkan lagi.” Penyihir itu segera menghentikan mantranya dan menghentikan banjir. Pelajaran bagi murid – dan bagi umat manusia – jelas: jangan pernah memanggil kekuatan yang tidak bisa kamu kendalikan.”

AI adalah kekuatan yang tidak bisa Anda kendalikan. Manusia tidak akan mampu mengendalikan AI ketika AI lebih cerdas, dan lebih berkuasa, dari manusia. Pesan Harari jelas: jangan memanggil kekuatan AI yang tidak bisa kamu kendalikan.

Akankah pesan Harari ini efektif? Akankah manusia membatalkan proyek AI setelah mendengar Harari? Akankah AI menjadi musnah? Sulit sekali. Harari justru menunjukkan bahwa AI memiliki kekuatan besar yang luar biasa. Jika Anda tidak memanfaatkan AI maka orang lain yang akan memanfaatkan AI; konsekuensinya, Anda akan kalah bersaing dengan mereka.

Jaringan tidak Bijak

“Umat ​​manusia memperoleh kekuatan yang luar biasa dengan membangun jaringan kerja sama yang besar, tetapi cara jaringan kita dibangun membuat kita cenderung menggunakan kekuatan secara tidak bijaksana. Sebagian besar jaringan kita dibangun dan dipelihara dengan menyebarkan fiksi, fantasi, dan delusi massal – mulai dari sapu ajaib hingga sistem keuangan. Masalah kita, kemudian, adalah masalah jaringan. Secara khusus, ini adalah masalah informasi. Karena informasi adalah perekat yang menyatukan jaringan, dan ketika orang diberi informasi yang salah, mereka cenderung membuat keputusan yang buruk, tidak peduli seberapa bijak dan baiknya mereka secara pribadi.”

Ide utama Nexus berupa pernyataan “informasi adalah perekat yang menyatukan jaringan.” Sayangnya, lebih banyak informasi tidak menjamin manusia menjadi makin bijak. Justru, manusia bisa makin ngawur ketika menguasai lebih banyak informasi. Padahal manusia adalah homo sapiens; homo = manusia; sapiens = bijak. Seharusnya, setiap manusia bersikap bijak.

“Apakah dengan memiliki lebih banyak informasi akan membuat keadaan menjadi lebih baik – atau lebih buruk? Kita akan segera mengetahuinya. Banyak perusahaan dan pemerintah berlomba-lomba mengembangkan teknologi informasi paling canggih dalam sejarah – AI. Beberapa pengusaha terkemuka, seperti investor Amerika Marc Andreessen, percaya bahwa AI akhirnya akan menyelesaikan semua masalah umat manusia. Pada tanggal 6 Juni 2023, Andreessen menerbitkan sebuah esai berjudul Mengapa AI Akan Menyelamatkan Dunia, yang dibumbui dengan pernyataan berani seperti: “Saya di sini untuk membawa kabar baik: AI tidak akan menghancurkan dunia, dan bahkan dapat menyelamatkannya.” Ia menyimpulkan: “Pengembangan dan penyebaran AI – jauh dari risiko yang perlu kita takuti – merupakan kewajiban moral yang kita miliki terhadap diri kita sendiri, terhadap anak-anak kita, dan terhadap masa depan kita.”

Yang lain lebih skeptis. Tidak hanya filsuf dan ilmuwan sosial tetapi juga banyak pakar dan pengusaha AI terkemuka seperti Yoshua Bengio, Geoffrey Hinton, Sam Altman, Elon Musk dan Mustafa Suleyman telah memperingatkan bahwa AI dapat menghancurkan peradaban kita.”

Otonomi AI

Berikutnya, Harari melompat dengan ide yang sangat berani.

“AI merupakan ancaman yang belum pernah terjadi sebelumnya bagi umat manusia karena AI merupakan teknologi pertama dalam sejarah yang dapat mengambil keputusan dan menciptakan ide-ide baru secara mandiri. …yang belum sepenuhnya kita pahami atau kendalikan.”

Bila AI mampu mengambil keputusan secara mandiri maka, tentu saja, manusia tidak akan bisa mengendalikan AI. Ungkapan ini tautologi. Harari mengemas argumen yang berani ini dengan transisi lembut. Sehingga, pembaca terpesona seakan-akan benar adanya. Memang, tautologi selalu benar; mandiri pasti tidak bisa dikendalikan; bila bisa dikendalikan maka tidak mandiri. Tetapi apakah sesuai dengan realitas? Apakah AI mampu mengambil keputusan mandiri? Saya menduga itu hanya kamuflase sejauh ini; atau dalam beberapa dekade ke depan.

Kecerdasan Alien

“AI tidak berkembang menuju kecerdasan setingkat manusia. AI mengembangkan jenis kecerdasan alien.

Bahkan saat ini, dalam tahap embrio revolusi AI, komputer sudah membuat keputusan tentang kita – apakah akan memberi kita hipotek, mempekerjakan kita, atau memenjarakan kita. Sementara itu, AI generatif seperti GPT-4 sudah menciptakan puisi, cerita, dan gambar baru.”

AI akan mengembangkan kecerdasan alien yang super cerdas; jauh lebih cerdas dari manusia. Saya benar-benar kagum dengan narasi AI oleh Harari ini. AlphaGo (AI) berhasil mengalahkan juara Go dari Korea Selatan pada tahun 2016. Go lebih kompleks dari catur. AI mulai menunjukkan kecerdasan alien miliknya.

“Langkah 37 merupakan lambang revolusi AI karena dua alasan. Pertama, langkah ini menunjukkan sifat asing AI. Di Asia Timur, Go dianggap lebih dari sekadar permainan: ini adalah tradisi budaya yang bernilai luhur. Selama lebih dari 2.500 tahun, puluhan juta orang telah memainkan Go, dan seluruh aliran pemikiran telah berkembang di sekitar permainan tersebut, menganut berbagai strategi dan filosofi. Namun selama ribuan tahun tersebut, pikiran manusia hanya menjelajahi area tertentu dalam lanskap Go. Area lain tidak tersentuh, karena pikiran manusia tidak berpikir untuk menjelajah ke sana. AI, yang bebas dari keterbatasan pikiran manusia, menemukan dan menjelajahi area yang sebelumnya tersembunyi ini.

Kedua, langkah 37 menunjukkan AI yang tidak terduga. Bahkan setelah AlphaGo memainkannya untuk meraih kemenangan, Suleyman dan tim tidak dapat menjelaskan bagaimana AlphaGo memutuskan untuk memainkannya. Bahkan jika pengadilan telah memerintahkan DeepMind untuk memberikan penjelasan kepada Sedol, tidak seorang pun dapat memenuhi perintah itu. Suleyman menulis: “Dalam AI, jaringan saraf yang bergerak menuju otonomi, saat ini, tidak dapat dijelaskan.”

Jaringan saraf tiruan AI “tidak dapat dijelaskan.” Sebuah istilah yang terlampau kuat. Pertimbangkan istilah senada: evolusi terjadi melalui proses “random”; ketika Big Bang semua hukum fisika “runtuh”; analisis akhir partikel menjumpai string yang “acak”; hasrat manusia dikendalikan oleh kekuatan “tak-sadar”. Dalam bahasa sehari-hari, istilah-istilah ini semakna dengan OTW: ojo takon wae; jangan tanya terus. Sebagai saintis atau cendekiawan bagaimana sikap Anda dengan jawaban bahwa AI “tidak bisa dijelaskan?” Tetangga saya yang masih usia TK juga bisa menjawab bahwa, menurutnya, AI “tidak-bisa-dijelaskan.”

Politik AI

“Munculnya kecerdasan alien yang tak terduga menimbulkan ancaman bagi semua manusia, dan menimbulkan ancaman khusus bagi demokrasi. …Menerjemahkan dongeng peringatan Goethe ke dalam bahasa keuangan modern, bayangkan skenario berikut: seorang pekerja magang Wall Street yang muak dengan kerja keras bengkel keuangan menciptakan AI bernama Broomstick, memberinya uang awal satu juta dolar, dan memerintahkannya untuk menghasilkan lebih banyak uang. Bagi AI, keuangan adalah taman bermain yang ideal, karena ini adalah ranah informasi dan matematika murni. AI masih merasa sulit untuk mengemudikan mobil secara otonom, karena ini memerlukan pergerakan dan interaksi di dunia fisik yang berantakan, di mana “kesuksesan” sulit didefinisikan. Sebaliknya, untuk melakukan transaksi keuangan AI hanya perlu berurusan dengan data, dan ia dapat dengan mudah mengukur keberhasilannya secara matematis dalam dolar, euro, atau pound. Lebih banyak dolar – misi tercapai.”

Berawal dari AI “tidak bisa dijelaskan” maka konsekuensi apa saja bisa jadi. AI menguasai politik dengan menggulingkan demokrasi mau pun penguasa otoriter. AI mengendalikan sistem ekonomi. AI mengendalikan seluruh aspek kehidupan manusia dan alam raya. Karena “tidak bisa dijelaskan” maka kita tidak bisa menjelaskan argumennya: pro mau pun kontra.

“Munculnya AI menimbulkan bahaya eksistensial bagi umat manusia, bukan karena keburukan komputer, tetapi karena kekurangan kita sendiri.

Dengan demikian, seorang diktator paranoid mungkin memberikan kekuasaan tak terbatas kepada AI yang tidak sempurna, termasuk bahkan kekuasaan untuk melancarkan serangan nuklir. … Peradaban manusia juga dapat dihancurkan oleh senjata pemusnah massal sosial, seperti cerita-cerita yang merusak ikatan sosial kita.”

Regulasi AI

“Banyak masyarakat – baik demokrasi maupun kediktatoran – dapat bertindak secara bertanggung jawab untuk mengatur penggunaan AI tersebut, menekan pelaku kejahatan, dan menahan ambisi berbahaya para penguasa dan fanatisme mereka sendiri.”

Setelah berpetualang dengan narasi panjang, Harari sampai kepada saran yang bagus: masyarakat dapat mengatur penggunaan AI. Bagaimana pun resiko politik ekonomi memang sangat besar.

“Akibatnya, kekuatan algoritmik dunia dapat terkonsentrasi di satu hub. Insinyur di satu negara dapat menulis kode dan mengendalikan kunci untuk semua algoritma penting yang menjalankan seluruh dunia.

Oleh karena itu, AI dan otomatisasi menimbulkan tantangan khusus bagi negara-negara berkembang yang lebih miskin. Dalam ekonomi global yang digerakkan oleh AI, para pemimpin digital mengklaim sebagian besar keuntungan dan dapat menggunakan kekayaan mereka untuk melatih kembali tenaga kerja mereka dan mendapatkan keuntungan lebih banyak lagi. Sementara itu, nilai pekerja tidak terampil di negara-negara tertinggal akan menurun, menyebabkan mereka semakin tertinggal. Hasilnya mungkin banyak pekerjaan baru dan kekayaan luar biasa di San Francisco dan Shanghai, sementara banyak bagian dunia lainnya menghadapi kehancuran ekonomi.”

Laba-Laba Kepompong

“Semakin sulit untuk mengakses informasi melalui tirai silikon, misalnya antara Tiongkok dan AS, atau antara Rusia dan Uni Eropa. Selain itu, kedua belah pihak semakin beroperasi pada jaringan digital yang berbeda, menggunakan kode komputer yang berbeda. Di Tiongkok, Anda tidak dapat menggunakan Google atau Facebook, dan Anda tidak dapat mengakses Wikipedia. Di AS, hanya sedikit orang yang menggunakan aplikasi Tiongkok terkemuka seperti WeChat.

Paradoksnya, teknologi informasi saat ini begitu kuat sehingga berpotensi memecah belah umat manusia dengan mengurung orang yang berbeda dalam kepompong informasi yang terpisah, mengakhiri gagasan tentang realitas manusia tunggal yang sama. Selama beberapa dekade, metafora utama dunia adalah web. Metafora utama beberapa dekade mendatang mungkin adalah kepompong.

Senjata siber dapat melumpuhkan jaringan listrik suatu negara, tetapi juga dapat digunakan untuk menghancurkan fasilitas penelitian rahasia, mengganggu sensor musuh, memicu skandal politik, memanipulasi pemilu, atau meretas satu telepon pintar. Semua itu dapat dilakukan secara diam-diam.”

Pemangsa atau Dimangsa

Ketidakpastian membuat Anda bingung: jadi korban atau pemangsa? Harari tampak ragu memilih Qabil atau Habil; Cain atau Abel? Pembaca Nexus akan memilih yang mana?

“Perbedaan penting kedua menyangkut prediktabilitas. Perang dingin bagaikan permainan catur yang sangat rasional, dan kepastian kehancuran jika terjadi konflik nuklir begitu besar sehingga keinginan untuk memulai perang pun kecil. Perang siber tidak memiliki kepastian ini. Tidak seorang pun tahu pasti di mana masing-masing pihak telah menanam bom logika, kuda Troya, dan malware.

Pembagian dunia menjadi kerajaan digital yang bersaing sesuai dengan visi politik banyak pemimpin; yang percaya bahwa dunia adalah hutan belantara, bahwa kedamaian relatif dalam beberapa dekade terakhir hanyalah ilusi, dan bahwa satu-satunya pilihan nyata adalah apakah akan berperan sebagai predator atau mangsa.”

“Jika diberi pilihan seperti itu, sebagian besar pemimpin lebih suka tercatat dalam sejarah sebagai predator dan menambahkan nama mereka ke dalam daftar penakluk yang mengerikan yang harus dihafal oleh murid-murid yang malang untuk ujian sejarah mereka. Namun, para pemimpin ini harus diingatkan bahwa ada predator alfa baru di hutan. Jika manusia tidak menemukan cara untuk bekerja sama dan melindungi kepentingan bersama kita, kita semua akan menjadi mangsa empuk bagi AI.”

Saya sulit memahami maksud Harari pada paragraf terakhir di atas: “sebagian besar pemimpin lebih suka … sebagai predator.” Apakah ini sebuah prediksi? Determinisme? Atau rekomendasi? Paling ringan adalah menjadi inspirasi. Paling berat sangat sulit dibayangkan.

Apakah AI bisa lebih cerdas dari Einstein? Tampaknya, Harari akan menjawab dengan yakin: AI bisa lebih cerdas dari Einstein.

Sedikit Filosofis

Harari sedikit sekali membahas pemikiran para filsuf. Kiranya, kita perlu membahas beberapa nama spesial yang sedikit disinggung dalam Nexus: Descartes, Kant, dan Foucault. Descartes skeptis apakah kita bisa membuktikan bahwa kita sedang dalam mimpi saat ini? Atau memang hidup di alam nyata? Apakah kita sedang dalam ilusi matriks sistem informasi?

Harari sudah tepat memahami perspektif skeptis Descartes itu. Tetapi Harari, tentu saja, sulit menemukan solusi. Ketika Harari membahas Kant, Harari justru makin menemukan kesulitan. Kant adalah solusi dari problem skeptis Descartes. Kant sadar dengan problem skeptis Descartes. Kant mengusulkan bahwa ada prinsip yang kita pasti yakin, tidak pernah ragu, misal “menghormati ibu.” Siapa pun Anda pasti setuju untuk “menghormati ibu.” Kapan pun dan di mana pun, semua orang wajib “menghormati ibu.” Kewajiban etis semacam ini disebut sebagai kategori imperatif oleh Kant.

Dalam dunia informasi, kita hidup bersama AI, kategori imperatif apa saja yang perlu kita kembangkan? Kita perlu menghormati hak setiap orang: kaya atau miskin, terdidik atau jelata, penindas atau korban. Kategori imperatif ini perlu untuk terus kita kumandangkan. Sungguh aneh, ketika Harari mengira ajaran Kant mendorong tumbuhnya rasisme ala Hitler. Rasisme tetap bisa muncul ketika seseorang membaca Kant atau pun Nexus Harari. Tetapi, Kant mengingatkan bahwa kita perlu komitmen kepada kategori imperatif.

Harari makin sulit lagi ketika membahas Foucault. Harari mengira, pada analisis akhir, Foucault sama dengan Trump. Mereka sama-sama mengejar kekuasaan atau power. Harari benar bahwa Foucault membahas power; relasi kompleks power dengan kebenaran. Foucault menyatakan bahwa klaim kebenaran selalu terperangkap dalam jaringan kompleks relasi power. Sehingga, kita perlu waspada terhadap relasi power. Harari tampaknya memahami Foucault seperti menyuruh kita agar mendominasi power; kemudian, dengan power itu, kita bisa klaim akan kebenaran. Foucault bukan seperti itu. Foucault meminta kita agar kritis terhadap relasi power.

Karena setiap klaim kebenaran terjerat dalam kompleks relasi power maka kita perlu waspada. Apakah bisa dibenarkan penguasa menggusur kaki lima? Apakah bisa dibenarkan Harari dan kawan-kawan menyerang Gaza? Apakah bisa dibenarkan jika Putin mengancam akan menggunakan senjata nuklir? Hanya karena mereka mimiliki power untuk melakukannya maka tidak menjadi justifikasi valid bagi mereka. Kita membutuhkan justifikasi moral untuk semua ini. Justifikasi moral melarang kita melakukan kerusakan; moral mengajak kita untuk menjaga perdamaian dan menegakkan keadilan.

5. Kebodohan AI

Acemoglu, peraih Nobel ekonomi 2024, memandang AI secara skeptis. AI berbahaya bukan karena cerdas tetapi karena AI bodoh. Kita terlalu tinggi menilai kemampuan AI; atau, kita terlalu meremehkan kemampuan manusia.

Apakah akan terjadi revolusi oleh singularitas AI?

“Tidak. Tidak. Jelas tidak,” kata Acemoglu. “Maksud saya, kecuali jika Anda menghitung banyak perusahaan yang berinvestasi berlebihan dalam AI generatif dan kemudian menyesalinya, yang seperti itu adalah perubahan yang revolusioner.”

Berikut kita akan mengkaji pemikiran Acemoglu.

Alasan 1: Kecerdasan buatan yang kita miliki saat ini sebenarnya tidak secerdas itu.

Saat pertama kali menggunakan sesuatu seperti ChatGPT, mungkin tampak seperti sulap. Seperti, “Wah, mesin pemikir sungguhan yang mampu menjawab pertanyaan tentang apa pun.”

Namun, saat Anda melihat di balik layar, itu lebih seperti trik sulap. Chatbot ini adalah cara canggih untuk menggabungkan internet dan kemudian mengeluarkan campuran dari apa yang mereka temukan. Sederhananya, mereka adalah peniru atau, setidaknya, pada dasarnya bergantung pada peniruan karya manusia sebelumnya dan tidak mampu menghasilkan ide-ide baru yang hebat.

Alasan 2: AI berbohong.

Industri AI dan media telah menyebut kepalsuan dan kesalahan yang dihasilkan AI sebagai “halusinasi.” Namun, seperti istilah “kecerdasan buatan,” istilah itu mungkin keliru. Karena istilah itu membuatnya terdengar seperti AI, Anda tahu, bekerja dengan baik hampir selalu — dan kemudian sesekali, AI suka minum ayahuasca atau makan jamur, lalu mengatakan sesuatu yang dibuat-buat.

Namun, halusinasi AI tampaknya lebih umum dari itu (dan, sejujurnya, semakin banyak orang mulai menyebutnya “konfabulasi”). Satu studi menunjukkan bahwa chatbot AI berhalusinasi — atau berkonfabulasi — sekitar 3% hingga 27% dari waktu. Wah, sepertinya AI harus menghentikan ayahuasca.

Alasan 3: Karena AI tidak terlalu cerdas dan halusinasi membuatnya tidak dapat diandalkan, AI terbukti tidak mampu melakukan sebagian besar — ​​jika tidak semua — pekerjaan manusia.

Saya baru-baru ini melaporkan sebuah cerita yang menanyakan, “Jika AI begitu bagus, mengapa masih banyak pekerjaan untuk penerjemah?” Penerjemahan bahasa telah menjadi semacam garda depan penelitian dan pengembangan AI selama hampir satu dekade atau lebih. Dan beberapa orang telah meramalkan bahwa pekerjaan penerjemah akan menjadi yang pertama yang digantikan oleh otomatisasi.

Namun, terlepas dari kemajuan dalam AI, data menunjukkan bahwa pekerjaan untuk penerjemah dan juru bahasa manusia sebenarnya terus bertambah. Tentu, penerjemah semakin banyak menggunakan AI sebagai alat dalam pekerjaan mereka. Namun, laporan saya mengungkapkan bahwa AI tidak cukup pintar, tidak cukup sadar sosial, dan tidak cukup dapat diandalkan untuk menggantikan manusia sebagian besar waktu.

Alasan 4: Kemampuan AI telah dibesar-besarkan.

Anda mungkin ingat berita tahun lalu yang menyatakan bahwa AI benar-benar berhasil dalam Ujian Pengacara Kesetaraan untuk pengacara. OpenAI, perusahaan di balik ChatGPT, mengklaim bahwa GPT-4 memperoleh skor di persentil ke-90. Namun, saat di MIT, peneliti Eric Martinez menyelidiki lebih dalam. Ia menemukan bahwa skornya hanya di persentil ke-48. Apakah itu benar-benar mengesankan ketika sistem ini, dengan data pelatihannya yang banyak, memiliki hasil yang setara dengan pencarian Google di ujung jari mereka? Wah, mungkin saya pun bisa memperoleh skor setinggi itu jika saya memiliki akses ke ujian pengacara sebelumnya dan cara lain untuk menyontek.

Sementara itu, Google mengklaim bahwa AI-nya mampu menemukan lebih dari 2 juta senyawa kimia yang sebelumnya tidak diketahui oleh sains. Namun, para peneliti di University of California, Santa Barbara menemukan bahwa ini sebagian besar tidak benar. Mungkin penelitian itu salah, atau, yang lebih mungkin, mungkin industri AI terlalu membesar-besarkan kemampuan produk mereka.

Alasan 5: Meskipun media dan investor sangat antusias dengan AI selama beberapa tahun terakhir, penggunaan AI masih sangat terbatas.

Dalam studi terbaru, Biro Sensus AS menemukan bahwa hanya sekitar 5% bisnis yang telah menggunakan AI dalam beberapa minggu terakhir. Yang berhubungan dengan …

Alasan 6: Kita belum menemukan aplikasi utama AI.

Persentase perusahaan yang benar-benar menggunakan AI yang relatif kecil, tampaknya, menggunakannya dengan cara yang tidak memberikan manfaat besar bagi perekonomian kita. Beberapa perusahaan sedang bereksperimen dengannya. Namun, dari perusahaan yang telah memasukkannya ke dalam bisnis sehari-hari mereka, sebagian besar digunakan untuk hal-hal seperti pemasaran yang dipersonalisasi dan layanan pelanggan otomatis. Tidak terlalu menarik.

Sebenarnya, saya tidak tahu tentang Anda, tetapi saya lebih suka berbicara dengan agen layanan pelanggan manusia daripada chatbot. Acemoglu menyebut otomatisasi semacam ini sebagai “otomatisasi biasa-biasa saja,” di mana perusahaan mengganti manusia dengan mesin bukan karena mereka lebih baik atau lebih produktif, tetapi karena menghemat uang mereka. Seperti kios swalayan di toko kelontong, chatbot AI dalam layanan pelanggan sering kali hanya mengalihkan lebih banyak pekerjaan kepada pelanggan. Hal ini bisa membuat frustrasi.

Alasan 7: Pertumbuhan produktivitas tetap sangat mengecewakan. Dan AI generatif mungkin tidak akan membantunya menjadi lebih baik dalam waktu dekat.

Jika AI benar-benar merevolusi ekonomi, kita mungkin akan melihat lonjakan pertumbuhan produktivitas dan peningkatan pengangguran. Namun, lonjakan pertumbuhan produktivitas tidak terlihat di mana pun. Dan pengangguran berada pada titik terendah yang hampir mencapai rekor. Bahkan untuk pekerjaan kerah putih yang kemungkinan besar akan dipengaruhi AI, kita tidak melihat bukti bahwa AI akan membunuh mereka.

Meskipun AI generatif mungkin tidak mampu menggantikan manusia di sebagian besar atau hampir semua pekerjaan, AI jelas dapat membantu manusia dalam beberapa profesi sebagai alat informasi. Dan, Anda mungkin berkata, manfaat produktivitasnya mungkin memerlukan waktu untuk meresap ke seluruh perekonomian.

Namun, ada alasan kuat untuk percaya bahwa AI generatif tidak akan merevolusi ekonomi kita dalam waktu dekat.

Alasan ke-8: AI mungkin tidak berkembang secepat yang diklaim banyak orang. Bahkan, AI mungkin kehabisan daya.

Setiap kali kita berbicara tentang AI, pembicaraan selalu beralih ke masa depan.

Memang, AI belum sebagus itu. Namun dalam beberapa tahun, kita semua akan kehilangan pekerjaan dan tunduk pada penguasa robot atau apa pun. Namun, di mana bukti yang menunjukkan hal itu? Apakah ini hanya pengondisian kolektif kita melalui film fiksi ilmiah?

Banyak pembicaraan tentang AI yang berkembang sangat cepat. Beberapa orang mengklaim bahwa AI menjadi jauh lebih baik. Yang lain bahkan mengklaim bahwa model-model ini — pelengkapan otomatis yang muluk-muluk — adalah jalan menuju AGI, atau kecerdasan buatan super.

Namun, ada pertanyaan serius tentang semua ini. Faktanya, bukti menunjukkan bahwa laju kemajuan AI mungkin melambat.

Alasan 9: AI bisa sangat buruk bagi lingkungan.

AI sudah menghabiskan cukup banyak energi untuk memberi daya pada sedikit negara. Para peneliti di Goldman Sachs menemukan bahwa “proliferasi teknologi AI generatif — dan pusat data yang dibutuhkan untuk memasoknya — akan mendorong peningkatan permintaan daya AS yang belum pernah terlihat dalam satu generasi.”

“Salah satu hal paling konyol beberapa tahun lalu adalah gagasan bahwa AI akan membantu memecahkan masalah perubahan iklim,” kata Acemoglu. “Saya tidak pernah mengerti persis bagaimana. Namun, Anda tahu, jelas itu akan melakukan sesuatu terhadap perubahan iklim, tetapi itu bukan sisi positifnya.”

Alasan 10: AI dinilai terlalu tinggi karena manusia diremehkan.

Ketika saya bertanya kepada Acemoglu tentang alasan utama mengapa AI dinilai terlalu tinggi, dia memberi tahu saya sesuatu yang menghangatkan hati saya — perasaan yang tidak akan pernah bisa dialami oleh “kecerdasan buatan” yang bodoh.

Acemoglu mengatakan kepada saya bahwa dia yakin AI dinilai terlalu tinggi karena manusia diremehkan. “Jadi banyak orang di industri ini tidak menyadari betapa serba bisa, berbakat, dan beragamnya keterampilan serta kemampuan manusia,” kata Acemoglu. “Dan begitu Anda melakukannya, Anda cenderung menilai mesin lebih tinggi daripada manusia dan meremehkan manusia.” (www.npr.org)

Alasan terakhir, alasan ke 10, merupakan alasan paling menendang pikiran kita.

6. Pikiran AI Banal dan Halu

Chomsky sejak awal bersikap kritis terhadap AI. Chomsky menghargai kreativitas manusia dalam berbahasa. Bahkan, seorang bocah menunjukkan kreativitas menguasai bahasa lebih dari sekedar yang pernah diajarkan. Karena itu, bagi Chomsky, kemampuan AI dalam bahasa masih jauh di bawah kemampuan manusia. AI adalah banal dan sering halusinasi.

Masalah dari AI (LLM) adalah: “Ketidakmasukakalan itu sebenarnya masalah kecil. Lebih mendasar lagi, jelas bahwa sistem-sistem ini, apa pun kepentingannya, pada prinsipnya tidak mampu menjelaskan perolehan bahasa oleh manusia. Alasannya adalah karena sistem-sistem itu bekerja dengan baik pada bahasa-bahasa yang mustahil; yang tidak dapat dipelajari manusia seperti anak-anak (jika memang bisa).”

Bahasa oleh manusia berbeda dengan bahasa oleh AI (andai AI mampu berbahasa). Sehingga, kemampuan AI memang berbeda dengan kemampuan manusia.

“Penelitian eksperimental telah menunjukkan bahwa anak-anak yang sangat muda telah menguasai dasar-dasar bahasa, jauh melampaui apa yang mereka tunjukkan dalam kinerja, dan studi statistik yang cermat mengungkapkan bahwa data yang tersedia bagi mereka sangat sedikit dan dalam kasus-kasus penting tidak ada.

… Untuk memperjelas poin terminologi, yang sering disalahpahami, istilah teknis UG (“tata bahasa universal”) mengacu pada teori (1), teori tentang kemampuan bahasa manusia, yang tampaknya dimiliki oleh spesies (manusia), dan dengan sifat-sifat dasar yang tidak ditemukan pada organisme lain, karenanya merupakan sifat spesies (manusia) yang sebenarnya.”

Manusia memiliki kapasitas UG (universal grammar) sehingga mampu memahami dasar-dasar bahasa. Sementara, organisme lain tidak memiliki UG; demikian juga AI tidak memiliki UG.

Apakah di masa depan LLM akan mampu menguasai bahasa seperti manusia?

“Desain dasar mereka memastikan hal ini tidak mungkin, karena dua alasan yang saya sebutkan: kelemahan kecil, yang membuat usulan itu tidak masuk akal; kelemahan besar, yang membuatnya tidak mungkin pada prinsipnya.”

Kelemahan kecil dan kelemahan besar dari AI ini berdampak merugikan bagi kemanusiaan. Kita perlu menetapkan regulasi agar pengembangan AI dalam kendali.

“Cara paling ampuh, yang dapat saya pikirkan, adalah satu-satunya cara untuk melawan penyebaran doktrin dan ideologi jahat: pendidikan dalam berpikir kritis, organisasi untuk mendorong musyawarah dan cara-cara membela diri secara intelektual.”

AI bersifat banal dan memicu manusia untuk bersikap banal. Kita perlu waspada dengan terus mengembangkan berpikir kritis dan perjuangan intelektual.

7. Ringkasan

7.1 Optimis sampai Pesimis

Peta singularitas berupa spektrum: dari pandangan optimis sampai pesimis (skeptis).

Kurzweil optimis bahwa akan terjadi singularitas yang berdampak positif terhadap kemanusiaan. Hinton dan Harari tampak berimbang antara manfaat AI dan resikonya; mereka menyarankan untuk waspada. Bagaimana pun mereka menduga bahwa akan terjadi singularitas.

Acemoglu berpandangan skeptis atau pesimis. Kemampuan AI terlalu dibesar-besarkan; AI masih bodoh; AI tidak mampu melakukan beragam jenis pekerjaan penting. Chomsky lebih skeptis lagi bahwa AI memang berbeda dengan manusia. Masalah kecil dari AI adalah banal dan halusinasi. Masalah besarnya adalah AI tidak memiliki kemampuan “universal grammar” sehingga AI tidak mampu berpikir kreatif. Jadi, singularitas oleh AI tidak akan terjadi.

Kesimpulan: AI tidak akan menuju singularitas; AI tidak akan lebih cerdas dari Einstein dalam skenario kajian kita.

Apakah skenario alternatif bisa mendorong AI menuju singularitas? Akan tetap sulit untuk terjadi singularitas. Kita perlu mempertimbangkan narasi AI lebih luas.

7.2 Narasi AI

Saya mengusulkan tiga narasi AI utama ditambah dengan beberapa masukan menjadi 5 narasi AI. Ironi juga bahwa Hinton keluar dari Google agar Hinton bebas mengkritisi AI dan mengingatkan resiko besar dari AI; sebuah contoh narasi ironis tentang AI.

Narasi kopi. AI mengandung racun seperti kopi mengandung racun kafein. Tetapi manfaat kopi hangat yang nikmat lebih hebat dari racun yang hanya secuil. Ketika AI mirip kopi maka kita bebas memanfaatkan AI untuk kebaikan umat. Sikap pribadi kita dan regulasi perlu longgar-longgar saja terhadap AI. Benarkah AI seperti kopi?

Narasi rokok. AI mengandung racun nikotin, seperti rokok tembakau, yang berbahaya bagi masyarakat luas. AI perlu regulasi ketat. Di tempat umum tidak boleh merokok; di banyak tempat dilarang memakai AI. Hanya orang yang sudah dewasa boleh membeli rokok; hanya orang dengan usia tertentu boleh akses AI. Sikap pribadi kita dan regulasi perlu lebih ketat terhadap AI. Benarkah AI seperti rokok?

Narasi ganja. AI memabukkan orang dan membawa racun berbahaya seperti ganja. AI menimbulkan kecanduan yang merusak badan dan pikiran. AI sebagai ganja perlu regulasi ketat. Resiko AI ditanggung oleh pengguna, distributor, dan produsen AI. Secara pribadi, kita perlu ekstra hati-hati terhadap AI yang mirip ganja ini. Benarkah AI seperti ganja?

Saya menilai bahwa AI mirip campuran rokok dan ganja; memang bahaya. Sementara, sikap masyarakat dan pihak berwenang tampak memandang AI bagai kopi hangat yang nikmat. Waspadalah terhadap resiko sebelum terlambat.

Narasi air. AI bagaikan air bening yang sejuk dan menyehatkan. Jadi, AI adalah baik dan positif secara hakiki. Tentu saja, air bisa mengakibatkan banjir atau menenggelamkan orang. Tetapi, tenggelam di air adalah akibat kesalahan manusianya itu sendiri. Air bening tetap baik dan bersih. Apakah AI mirip dengan air bening?

Narasi bom. AI adalah lebih bahaya dari bom atom. Ledakan bom atom di Hirosima Nagasaki begitu mengerikan; ratusan ribu jiwa melayang; jutaan orang cacat sepanjang hayat; kota-kota hancur lebur. Kasus kebocoran nuklir, semacam bom atom, terjadi beberapa waktu lalu dengan korban yang sangat mengerikan pula. Jika AI mirip dengan bom atom maka AI perlu regulasi super ketat. Apakah AI mirip bom atom?

7.3 Solusi Etika

Akhlak mulia, atau etika mulia, adalah tujuan dari segala tujuan; buah dari segala buah. Anda lahir di bumi ini adalah untuk menjadi akhlak mulia. Bahkan alam raya tercipta adalah demi akhlak mulia. Akhlak adalah akar yang menghujam jantung semesta ketika Big Bang. Tuhan adalah Maha Pengasih. Sikap pengasih adalah akhlak mulia yang perlu kita tiru. Karena anugerahNya maka alam tercipta. Akhlak mulia adalah pohon yang kokoh.

Buah Segala Buah

Buah adalah hasil dari segala proses yang diharapkan. Buah dari seluruh alam semesta adalah hadirnya manusia akhlak mulia. Berbahagialah, Anda yang berakhlak mulia. Bebahagialah, Anda yang berada di sekitar orang-orang akhlak mulia. Berbahagialah, Anda yang menjalani akhlak mulia.

Apa itu akhlak mulia?

Akhlak mulia adalah perilaku yang baik. Baik bagi orang lain; baik bagi diri kita; baik bagi alam; baik bagi budaya; baik bagi dunia dan akhirat.

Akar Menancap di Big Bang

Alam semesta ini adalah anugerah yang indah. Alam adalah maha karya dari Sang Pencipta. Pesona alam raya menunjukkan bahwa Sang Pencipta benar-benar Maha Bijaksana. Alam semesta tercipta dalam rangkulan akhlak mulia. Akhlak mulia sudah berakar sejak Big Bang; penciptaan alam semesta.

Batang yang Kokoh

Ketika lelah, Anda perlu bersandar. Akhlak mulia adalah sandaran yang kokoh untuk Anda; untuk setiap umat manusia.

Barangkali Anda pernah lelah karena kerja; dari satu deadline ke deadline berikutnya; stress dalam banyak situasi. Sementara tuntutan ekonomi makin membubung tinggi. Akhlak mulia adalah sandaran tepat bagi Anda.

Barangkali Anda pernah kalah; menanggung rugi dari suatu bisnis; kalah dalam kompetisi politik; ditipu oleh orang-orang dekat; atau, entah mengapa, situasi berubah drastis tak terkendali. Akhlak mulia adalah sandaran tepat bagi Anda.

Barangkali Anda pernah sakit; kecelakaan berat atau diserang binatang buas; atau, usia memang sudah tidak muda lagi; atau, akibat suatu tragedi. Akhlak mulia adalah sandaran tepat bagi Anda.

Barangkali Anda sedang sukses luar biasa; promosi kerja makin cemerlang; atau, bisnis Anda untung besar; atau, jabatan politik makin bersinar; atau, entah mengapa, semua keberuntungan sedang mendukung Anda. Akhlak mulia adalah sandaran yang tepat bagi Anda.

Apakah akan terjadi singularitas? Apakah AI akan lebih cerdas dari Einstein? Ataukah tidak terjadi singularitas? Akhlak mulia, etika mulia, tetap menjadi solusi utama.