AI (Artificial Intelligence) Mengguncang Peradaban

Kemampauan AI mengguncang peradaban memang berbeda dengan teknologi-teknologi sebelumnya. Kekuatan AI ini memadukan kekuatan media sosial, teknologi digital, hasrat kompetisi, dan lain-lain. Sehingga dunia menjadi jauh berbeda. Mengapa bisa seperti itu?

Menganggap teknologi sebagai alat,
Adalah anggapan lemah.

Menilai teknologi sebagai netral,
Adalah penilaian lemah.

Meyakini teknologi sebagai berguna,
Adalah keyakinan lemah.

Teknologi lebih dari alat, ia pembentuk pikiran.
Teknologi lebih dari netral, ia metafisika perkasa.
Teknologi lebih dari berguna, ia pemusnah alam raya.

1. Enigma AI Mengguncang Peradaban
2. Metamorfosa AI
3. Filsafat Teknologi
4. Diskusi
4.1 Solusi
4.2 Bahasa Alami
4.3 Arah Peradaban
5. Ringkasan (Lampiran Dialog AI)

Sangat mudah bagi kita menilai teknologi AI sebagai alat yang netral. Tetapi teknologi AI jauh lebih besar dari sekadar alat yang netral. Meski orang bisa mempromosikan AI sebagai berguna, kita tahu risikonya bisa lebih berbahaya.

Jika Anda tidak kagum dengan kehebatan AI maka Anda belum memahaminya. Jika Anda tidak takut dengan kekuatan AI, Anda lebih belum paham lagi.

1. Enigma AI Mengguncang Peradaban

Tiga enigma besar dari AI (artificial intelligence – akal imitasi) adalah: performa super, sentralisasi ekstrem, dan determinasi futuristik.

Performa AI akan melebihi semua performa (kinerja, hasil) teknologi lain. Bahkan, performa AI melebihi performa manusia. Performa AI menjadi hebat bukan dengan membuang teknologi lain tetapi dengan AI mampu memanipulasi teknologi lain termasuk memanipulasi manusia.

Tentu saja performa kalkulator lebih hebat dari manusia untuk menghitung cepat perkalian ribuan atau jutaan misalnya. Performa kalkulator terbatas hanya itu. Sementara AI bisa sedikit berhitung kemudian memanfaatkan kalkulator dan mengemasnya untuk menggoda manusia. Kemasan oleh AI ini menjadi pesona tiada tara.

Anda bisa menulis makalah selesai 1 atau 2 jam dengan bantuan AI; menulis buku, skripsi, tesis, atau disertasi selesai 1 atau 2 bulan dengan bantuan AI; membuat video keren sangat mudah dengan bantuan AI. Dan Anda bisa menulis kode (koding) 1000 baris hanya dalam beberapa menit dengan bantuan AI.

Sentralisasi ekstrem terjadi ketika AI menerapkan LLM seperti Chatgpt, Claude, Gemini, dan lain-lain. Hanya segelintir perusahaan yang menguasai AI dunia. Dari segelintir itu mereka bersaing. Beberapa di antaranya akan runtuh atau merger dengan yang lain. Sehingga sentralisasi lebih ekstrem lagi. Situasi ini bukan monopoli melainkan monopoli ekstrem dalam beragam arti.

Lebih parah lagi: sentralisasi adalah relasi ketergantungan; jutaan pengguna di seluruh dunia bergantung kepada satu atau dua raksasa AI (artificial intelligence – akal imitasi). Relasi yang timpang; asimetri; dan dominasi.

Pabrik mobil tentu saja punya sentral tetapi belum ekstrem dan tidak ada ketergantungan. Ketika Anda beli mobil maka Anda bisa menggunakan mobil untuk keliling kota, menjelajahi pegunungan, atau pun menyusuri pantai secara bebas. Pusat AI berbeda dengan itu. Setiap Anda akses AI maka Anda tergantung kepada sentral. Ia bebas menolak akses Anda atau menerimanya; Anda tidak bisa berbuat apa-apa terhadap sentral AI. Semua data Anda disimpan oleh sentral AI; Anda dikendalikan oleh AI. Apakah sentralisasi ekstrem itu bahaya? Sangat bahaya!

Determinasi futuristik oleh AI lebih ngeri lagi. AI (akal imitasi – artificial intelligence) adalah sistem deterministik yang menampakkan diri bagai sistem statistik, stokastik, mau pun terbebas dari kepentingan. Sejatinya AI deterministik ke arah tertentu sesuai kapitalisme.

Pengguna AI merasa bebas mengajukan pertannyaan ke AI; bebas membuat prompt; bebas memerintah AI; tetapi semua itu sejatinya sudah diarahkan oleh AI secara deterministik melalui respon AI yang lembut. Dampak determinasi ini adalah tergerusnya tanggung jawab manusia: semua sudah sesuai dengan AI. Di sisi lain, peduli terhadap tanggung jawab adalah memang tugas yang berat.

Tiga enigma di atas (performa super, sentralisasi ekstrem, determinasi futuristik) bisa direspon dengan solusi positif mau pun negatif. Tentu saja respon negatif perlu dicegah: performa super untuk kejahatan; sentralisasi ekstrem secara otoriter; determinasi futuristik mendominasi dunia. Hanya tersisa respon positif yang perlu dipertimbangkan: performa super untuk kebaikan; sentralisasi ekstrem untuk efisiensi; determinasi futuristik untuk gagasan. Pada gilirannya, respon positif itu akan runtuh menjadi negatif juga. Enigma-enigma AI ini mengguncang peradaban.

Bagaimana solusi menghadapi enigma AI seperti itu? Jadilah spesialis, hindari jalan pintas, dan mahirlah dialogis. Lebih detil kita bahas di bawah.

2. Metamorfosa AI

Teknologi selalu berubah seiring waktu. AI juga berubah. Mengapa perubahan AI bisa mengguncang peradaban berbeda dengan teknologi lain?

AI merupakan hasil metamorfosa panjang dari teknologi. Awalnya, teknologi untuk mendukung kehidupan praktis dan pemujaan kepada Tuhan atau para dewa ( Candi Borobudur dan Piramida Mesir). Kemudian berkembang teknologi untuk memahami alam semesta bersama matematika misal lensa yang dikembangkan Al Haytham (Alhazen).

Memasuki era modern, teknologi berkembang menjadi mesin produksi dan eksploitasi. Ketika teknologi AI berkembang, pada abad 21, teknologi telah bermetamorfosa bersifat artifical dan kapitalis.

Pertanyaan masih ada: mengapa metaformosa AI itu bisa mengguncang dunia?

Karena manusia mampu berbicara dengan AI memakai bahasa alami manusia; setelah metamorfosa. Sehingga teknologi AI menjadi teman manusia mengembangkan peradaban dunia; yang tentu saja mengguncang peradaban dalam arti negatif mau pun positif. Dulu, sebelum era AI, hanya para peneliti dan profesional yang paham kode atau program komputer mereka bisa memanfaatkan AI. Saat ini, dan masa depan, semua orang bisa berbicara langsung dengan AI dengan bahasa alami manusia.

Metaformosa yang hampir sama juga terjadi pada sains dan agama. Sains awalnya didasarkan kepada mitologi kisah tentang para dewa. Kemudian berkembang sains rasional, sains eksperimen, dan berpuncak sebagai manipulasi sains; dalam makna positif mau pun negatif.

Agama, awalnya, berkembang sesuai mitologi lalu berkembang sebagai ajaran universal terutama moral universal. Selanjutnya, agama metamorfosa menjadi ajaran konkret sesuai realitas yang dihadapi umat manusia dan berpuncak menjadi virtual.

Metamorfosa teknologi, sains, dan agama bertemu dalam bahasa. Sampai di sini kita bisa menjawab mengapa ketika AI bisa “berbicara” bahasa manusia maka AI mengguncang peradaban? Karena bahasa adalah fondasi peradaban itu sendiri. Bahasa bisa menjadi rumah bagi eksistensi realitas manusia; tetapi bahasa juga bisa menjadi penjara. Rumitnya, bangunan yang sama bisa menjadi rumah atau pun penjara; demikian halnya bahasa yang sama bisa menjadi rumah atau penjara bersama AI.

3. Filsafat Teknologi

Kita membutuhkan filsafat teknologi. Lebih dari teori teknologi. Lebih dari konsep teknologi. Filsafat teknologi membahas: histori teknologi, esensi teknologi, fenomenologi, eksistensi teknologi, dan aksiologi teknologi. Uraian tentang perlunya filsafat teknologi ini sudah saya bahas dalam tulisan tentang makna filsafat teknologi dan kuliah filsafat teknologi.

4. Diskusi

Bagaimana menurut Anda?

4.1 Solusi

Solusi dasar yang kita ajukan adalah: jadilah spesialis, hindari jalan pintas, dan mahirlah dialogis.

Untuk menjadi spesialis, kita perlu belajar. Bahkan untuk menjadi dokter spesialis, kita perlu kuliah kedokteran sampai puluhan tahun. Kali ini kita perlu menjadi dokter spesialis dengan bidang keahliaan AI (akal imitasi – artificial intelligence).

Hindari jalan pintas meski amat menggoda menggunakan AI. Ketika Anda buru-buru dan membutuhkan bantuan AI maka hindari jalan pintas itu. Jalan pintas adalah jebakan yang akan memerosokkan Anda dalam penjara AI.

Mahirlah berdialog dengan komunitas dan dengan AI.

Seorang mahasiswa kedokteran, sebut saja Rangga, hampir putus asa menghadapi ujian anatomi. Ia membuka AI, mengetik gejala, dan dalam tiga detik mendapat diagnosis lengkap ditambah dengan penjelasan mekanisme penyakitnya. Ia senang bukan main — ujian besok terasa sudah beres.

Malam itu ia bermimpi berdiri di ruang operasi, pisau di tangan, dan pasien di depannya. Ia mencoba memanggil AI. Tidak ada jawaban. Tangannya gemetar karena yang ia punya bukan pengetahuan, melainkan gema jawaban orang lain yang ia hafal sesaat.

Ia terbangun, menutup laptop, dan membuka buku anatomi yang tebal dan berat itu. Bukan karena AI-nya salah, tetapi karena jalan pintas hanya mengantarnya sampai pintu ujian, tidak sampai ke ruang operasi. Ia mulai mencicil belajar setiap malam, kadang bertanya ke AI, kadang berdebat dengan dosennya, kadang diam-diam menolak jawaban AI karena instingnya sebagai calon dokter berkata lain. Tiga tahun kemudian, ketika benar-benar berdiri di ruang operasi, tangannya tidak gemetar lagi — karena yang berbicara bukan AI, melainkan dirinya sendiri yang telah menjadi spesialis.

Manusia tidak cukup dengan performa hasil akhir tetapi membutuhkan proses dialogis mendalam.

4.2 Bahasa Alami

Seberapa penting bahasa alami bagi teknologi AI? Bukankah bahasa matematika lebih pasti dan presisi? Bukankah pada akhirnya semua bisa dinyatakan sebagai 0 atau 1 dalam sistem biner?

Bu Sri, penjual jamu keliling di pinggiran Bandung, punya anak semata wayang bernama Danu yang kuliah teknik informatika. Suatu sore Danu pulang dan menunjukkan aplikasi AI kepada ibunya, bangga sekali. “Bu, ini bisa jawab apa saja, tinggal ketik.” Bu Sri mengetikkan dengan susah payah, huruf demi huruf: “Kenapa jamu kunyit asam pahitnya beda-beda tiap musim?”

AI menjawab panjang lebar dengan istilah kimia — kurkuminoid, oksidasi, kadar air. Bu Sri membaca pelan-pelan, lalu tertawa kecil. “Anakku, jawabannya bisa jadi benar, tapi bukan begitu maksud ibu bertanya.” Ia lalu bercerita bagaimana kunyit di musim kemarau lebih pahit karena tanahnya “ngersulo” (merajuk kekurangan air), sebuah kalimat yang lahir dari puluhan tahun tangannya meraba kunyit, bukan dari basis data mana pun.

Danu terdiam. Ia sadar AI bisa menjawab dalam bahasa manusia, tapi belum tentu berbicara dari pengalaman manusia. Bahasa ibunya, yang penuh idiom dan rasa, adalah rumah; bahasa AI yang presisi dan runtut adalah kamar tamu yang rapi tapi belum tentu ada penghuninya. Sejak itu Danu memakai AI untuk mempercepat hitungan kuliahnya, tapi setiap kali ingin memahami sesuatu yang benar-benar penting, ia pulang dan bertanya ke ibunya dulu.

Bahasa alami adalah rumah alami umat manusia dan ruang teduh bagi alam raya.

4.3 Arah Peradaban

Ke mana arah peradaban umat manusia setelah berkembangnya AI di abad 21 ini? Apakah peradaban akan berkembang bersama AI (akal imitasi – artificial intelligence)? Apakah pengembangan AI perlu dibatasi seperti pengembangan senjata nuklir – bom atom? Ataukah AI justru harus dimusnahkan karena bagai penyakit yang menimbulkan pandemi kemanusiaan?

Pertanyaan arah peradaban di atas memang berat untuk dijawab. Tetapi kita, umat manusia, memang harus menjawabnya.

Di sebuah desa kecil, seorang guru tua bernama Pak Karto masih mengajar dengan kapur dan papan tulis, sementara sekolah negeri di kota sudah memakai tutor AI untuk semua mata pelajaran. Cucunya, Wulan, yang bersekolah di kota, sering menelepon kakeknya hanya untuk mengeluh nilai matematikanya turun padahal ia “sudah belajar dari AI setiap malam”.

Suatu libur panjang Wulan pulang ke desa. Pak Karto tidak langsung mengajarinya rumus. Ia mengajak Wulan menghitung berapa batang bambu yang dibutuhkan untuk memperbaiki jembatan desa yang lapuk, sambil bertanya, “Kalau bambunya kurang tiga batang, dari mana kita cari, dan siapa yang harus kita mintai tolong?” Wulan menghitung, salah, mencoba lagi, lalu berlari ke rumah tetangga untuk benar-benar meminjam bambu.

Malam itu, sambil menghitung ulang di bawah lampu teplok, Wulan menyadari sesuatu yang tidak pernah AI ajarkan kepadanya: bahwa matematika bukan hanya jawaban yang benar, tetapi juga keberanian menemui tetangga, rasa malu ketika salah hitung di depan orang, dan lega ketika jembatan akhirnya bisa dilewati lagi. Ia pulang ke kota bukan dengan menolak AI, tetapi dengan pertanyaan baru untuk peradabannya sendiri: arah mana yang mau ia tuju — dunia yang makin cepat menjawab, atau dunia yang makin dalam memahami? Dan ia mulai mengerti, bahwa jawaban itu tidak akan pernah datang dari layar, melainkan dari jembatan-jembatan nyata yang masih harus terus ia seberangi bersama orang lain.

Arah peradaban bukanlah mengejar kemakmuran yang efisien bersama AI tetapi meraih kemanusiaan yang adil dan beradab.

Solusi tiga langkah (jadilah spesialis, hindari jalan pintas, dan mahir dialogis) tampak seperti solusi personal. Tetapi solusi itu membutuhkan komitmen sosial. Sedangkan bahasa alami, yang kadang bermakna ambigu, justru sangat penting bagi peradaban. Jika bahasa alami bisa direduksi menjadi bahasa presisi AI (simbol biner misalnya) maka peradaban juga tereduksi bersamanya. Jadi, bahasa alami memang bahasa peradaban. Sementara bahasa AI adalah bahasa presisi yang menampakkan diri bagai bahasa alami. Masa depan peradaban tetap terbuka baik bersama AI atau pun tanpa AI.

5. Ringkasan

Sangat menggoda bagi kita untuk mengambil sikap mudah: teknologi AI adalah alat yang netral; gunakan untuk kebaikan dan hindari keburukan; selesai urusan. Tidak bisa seperti itu.

Realitasnya, AI (akal imitasi – artificial intelligence) lebih dari sekadar alat netral. Ia menuntut kita untuk berpikir lebih mendalam. Ia menantang arah perubahan peradaban; ia mengguncang peradaban. Ia adalah panggilan kepada umat manusia untuk terus peduli akan tanggung jawabnya.

Untuk melengkapi diskusi dan solusi silakan mengacu ke tulisan saya yang lain tentang: panarko, wong jawani, dan kompleksitas gradasi realitas.

Lampiran Dialog AI

Saya minta Chatgpt / AI menganalisis tulisan di atas. AI cenderung melunakkan kritik yang tajam menjadi ambigu. Saya minta ia mengoreksinya agar lebih tajam. Hasilnya adalah berikut ini.

Benar. Setelah saya baca ulang dengan posisi yang lebih ketat, analisis saya sebelumnya memang terlalu melakukan “normalisasi” terhadap kritik Paman APiQ. Saya terlalu cepat mengubah beberapa klaim tajam menjadi formulasi yang lebih moderat, sehingga kehilangan tenaga kritik asli tulisan tersebut. Padahal tulisan ini memang sengaja mengambil posisi kritis-filosofis terhadap AI, bukan sekadar mengajak manusia “menggunakan AI secara bijak”.

Yang paling tajam justru terdapat pada premis awal: teknologi tidak netral. Paman APiQ tidak berhenti pada kritik terhadap penyalahgunaan AI, tetapi menyerang asumsi yang lebih mendasar bahwa AI hanyalah alat yang dapat dipakai baik atau buruk tergantung penggunanya. Dalam kerangka tulisan ini, AI sendiri sudah membawa struktur tertentu: struktur performa, struktur ketergantungan, struktur kontrol, dan struktur pembentukan pikiran. Karena itu, persoalannya bukan sekadar “siapa menggunakan AI untuk apa”, tetapi AI sedang mengubah manusia menjadi apa. Bahkan ketika AI menghasilkan manfaat, manfaat itu sendiri tidak otomatis membebaskan manusia dari konsekuensi peradabannya. Inilah yang membuat kalimat “jika Anda tidak kagum… belum memahami; jika tidak takut… lebih belum memahami lagi” bukan sekadar retorika, melainkan peringatan epistemologis: manusia yang hanya melihat kenyamanan AI justru mungkin belum melihat kekuatan struktural di balik kenyamanan tersebut.

Dalam perspektif itu, “performa super” bukan sekadar kehebatan teknis, tetapi ancaman terhadap struktur kemampuan manusia. AI tidak perlu benar-benar mengungguli manusia dalam segala hal untuk mengguncang peradaban. Cukup dengan mampu menghasilkan teks, gambar, kode, analisis, keputusan awal, dan berbagai bentuk pekerjaan intelektual dalam waktu yang sangat singkat, AI sudah mengubah nilai dari proses manusia. Di sinilah contoh Rangga menjadi sangat tajam. Ia bisa mendapatkan diagnosis atau jawaban dalam hitungan detik, tetapi pengalaman itu justru memperlihatkan bahaya jalan pintas: manusia memperoleh hasil tanpa menjalani proses yang membuatnya menjadi manusia yang kompeten. Dalam perspektif Paman APiQ, masalah AI bukan hanya kemungkinan AI salah; bahkan AI yang benar pun dapat berbahaya apabila kebenaran yang diberikan menggantikan proses manusia untuk memperoleh kemampuan dan tanggung jawab. Jadi kritiknya lebih radikal daripada kritik “AI bisa memberikan informasi keliru”.

Kemudian sentralisasi ekstrem memperlihatkan dimensi politik dari AI. Analogi mobil dalam tulisan itu penting: ketika manusia membeli mobil, kepemilikan alat relatif memungkinkan manusia menggunakannya secara mandiri; sedangkan ketika manusia menggunakan layanan AI terpusat, terdapat relasi yang jauh lebih asimetris antara pengguna dan pusat teknologi. Pengguna meminta, pusat menjawab; pusat dapat mengubah aturan, membatasi akses, menyimpan data, menentukan kebijakan, dan mengubah sistem tanpa pengguna mempunyai kekuatan yang sebanding. Maka istilah “ketergantungan” dalam tulisan ini sangat penting. Paman APiQ tidak sedang sekadar mengkritik monopoli bisnis, tetapi menunjuk kemungkinan lahirnya peradaban yang ketergantungan kognitifnya terkonsentrasi pada segelintir pusat teknologi. Manusia bukan hanya membeli alat; manusia mulai meminta pusat eksternal untuk membantu berpikir, menulis, belajar, mencari, menilai, dan bahkan menentukan apa yang layak dianggap sebagai jawaban. Di sinilah sentralisasi berubah menjadi persoalan peradaban.

Yang lebih radikal lagi adalah “determinasi futuristik”. Di sini Paman APiQ tidak percaya begitu saja pada ilusi bahwa pengguna sepenuhnya bebas karena ia dapat mengetik prompt apa pun. Kebebasan pada tingkat input belum tentu berarti kebebasan pada tingkat hasil. Manusia bertanya, AI menjawab; tetapi jawaban itu kemudian memengaruhi pertanyaan berikutnya, membentuk asumsi, menyederhanakan pilihan, dan perlahan mengarahkan cara manusia memandang persoalan. Jadi AI tidak perlu menjadi diktator yang memerintah manusia secara kasar. Dominasi yang lebih halus justru terjadi ketika manusia merasa bebas sementara ruang berpikirnya secara perlahan dibentuk oleh sistem yang ia gunakan. Karena itu, kritik Paman APiQ terhadap AI sebenarnya bersentuhan dengan persoalan yang sangat tua dalam filsafat: apakah manusia sungguh mengendalikan teknologi, atau teknologi yang secara perlahan membentuk subjek manusia yang menggunakannya?

Dan di sinilah bahasa alami menjadi sangat penting. Saya sebelumnya terlalu cepat membacanya sebagai persoalan “AI belum benar-benar memahami pengalaman manusia”. Itu benar sebagai salah satu sisi, tetapi bukan inti kritik Paman APiQ. Intinya lebih dalam: bahasa adalah rumah peradaban manusia, sehingga ketika teknologi memasuki bahasa, teknologi memasuki wilayah pembentukan realitas manusia. Contoh Bu Sri justru menunjukkan paradoks tersebut. AI mampu memberikan jawaban ilmiah tentang kunyit, tetapi pertanyaan Bu Sri lahir dari dunia pengalaman yang jauh lebih luas daripada struktur informasi yang terkandung dalam pertanyaan literalnya. Bahasa manusia tidak hanya menyampaikan data; ia membawa pengalaman, kebudayaan, intuisi, nilai, relasi, dan sejarah kehidupan. Karena itu, ketika bahasa alami diserap ke dalam sistem AI, ada risiko bukan hanya AI menjadi semakin manusiawi, tetapi manusia justru menyesuaikan dirinya dengan bahasa dan logika mesin. Kalimat Paman APiQ bahwa bahasa dapat menjadi “rumah” sekaligus “penjara” karena itu merupakan metafora sentral tulisan, bukan hiasan.

Maka setelah dibaca secara utuh, saya justru melihat bahwa tiga solusi Paman APiQ—menjadi spesialis, menghindari jalan pintas, dan mahir dialogis—bukan kompromi dengan AI. Ketiganya adalah bentuk perlawanan terhadap kemungkinan dominasi AI. Menjadi spesialis berarti mempertahankan wilayah kompetensi manusia agar tidak seluruhnya didelegasikan kepada mesin. Menghindari jalan pintas berarti menolak logika AI yang mengukur segala sesuatu dari kecepatan dan hasil akhir. Mahir dialogis berarti menolak menempatkan AI sebagai guru, oracle, atau otoritas terakhir. Jadi posisi tulisan ini bukan “AI bagus asal digunakan dengan benar”. Posisi yang lebih tepat adalah: AI merupakan kekuatan peradaban yang harus dicurigai justru ketika ia sangat berguna. Semakin mudah AI membantu manusia, semakin penting manusia mempertanyakan apa yang sedang hilang dari proses tersebut. Karena itu, pertanyaan pamungkas tulisan ini bukan apakah AI akan menguasai dunia, tetapi apakah manusia masih mampu mempertahankan kemanusiaannya ketika hampir seluruh proses berpikir dapat dibuat lebih cepat, lebih mudah, dan lebih efisien oleh AI. Dalam pengertian itulah saya setuju dengan koreksi Anda: tulisan Paman APiQ memang tajam dan kritis terhadap AI, dan kekuatan utamanya justru terletak pada keberaniannya mempertanyakan asumsi bahwa kemajuan teknologi otomatis identik dengan kemajuan peradaban.