Kita sudah biasa menggunakan teknologi. Tetapi teknologi AI bisa justru menunggangi manusia; AI menggunakan manusia; terbalik dari teknologi biasa. Bayangkan Anda menonton video pendek, skrol, terus-menerus sampai 2 jam. Mana video pendeknya bila sampai 2 jam? Saat itu Anda sedang digunakan oleh AI (artificial intelligence – akal imitasi) untuk meningkatkan efisiensi perusahaan menghasilkan uang; meningkatkan keuntungan mereka.
Beberapa orang diperkuda oleh teknologi; beberapa yang lain diperkuda oleh uang; dan lainnya diperkuda oleh jabatan. Kuda, awalnya, adalah alat transportasi bagi nenek moyang manusia. Kala itu manusia menunggang kuda, merawat kuda, dan menjaga kuda. Bagaimana bisa terbalik: kuda menunggang manusia? Teknologi menunggang manusia? Manusia diperkuda teknologi?
Iwan Fals (Swami) mengenalkan istilah “diperkuda” jabatan kepada saya melalui lagu Bongkar.
Kalau cinta sudah dibuang
Jangan harap keadilan akan datang
Kesedihan hanya tontonan
Bagi mereka yang diperkuda jabatan
1. Kuda Centaur
2. Diperkuda
3. Diskusi
Teknologi AI makin maju; makin banyak manusia diperkuda oleh AI. Sementara, dari dulu, banyak orang diperkuda jabatan mau pun diperkuda uang. Dalam kisah mitologi kita mengenal centaur: manusia setengah kuda.
1. Kuda Centaur
Dalam mitologi Yunani yang umum dikisahkan, centaur adalah makhluk setengah manusia dan setengah kuda: tubuh bagian atasnya berupa manusia, sedangkan tubuh bagian bawahnya adalah kuda. Centaur umumnya digambarkan sebagai sosok liar, kuat, dan sulit mengendalikan naluri, meskipun ada pengecualian terkenal, yaitu Chiron, yang bijaksana, berpengetahuan luas, dan menjadi guru bagi banyak pahlawan Yunani. Karena memadukan kecerdasan manusia dengan kekuatan kuda, centaur kemudian sering digunakan sebagai metafora untuk menggambarkan kolaborasi antara kemampuan manusia dan kekuatan alat atau teknologi.
Chiron adalah cita ideal: gabungan kepala manusia bijak dengan badan kuda yang kuat. Centaur umum lainnya: kadang baik, kadang jahat. Centaur-terbalik, kepala kuda dan badan manusia, menjadi tanda tanya besar.
Doctorow mengisahkan:
Dalam teori otomasi (bidang akademik yang mempelajari otomasi), centaur adalah seseorang yang dibantu oleh mesin. Bayangkan kepala, lengan, dan tangan seorang manusia yang cerdas berada di atas tubuh seekor kuda yang kuat. Ketika Anda mengendarai sepeda atau mengemudikan mobil, Anda menjadi seorang centaur; demikian pula ketika Anda menekan tombol mute pada remote televisi saat iklan muncul. Mengenakan alat bantu dengar juga menjadikan Anda seorang centaur, begitu pula menggunakan kalkulator untuk mengalikan bilangan-bilangan besar.
Menjadi seorang centaur bisa menjadi sesuatu yang luar biasa. Seluruh karier saya sebagai penulis merupakan serangkaian langkah sebagai seorang centaur: mulai dari mesin tik bekas IBM Selectric yang dibelikan orang tua saya untuk dimainkan ketika saya berusia enam atau tujuh tahun, hingga komputer Apple II Plus yang kami miliki saat saya berusia sembilan tahun. Sejak saat itu, saya terus menggunakan alat-alat menulis yang semakin baik—dengan fitur pemeriksa ejaan, kontrol versi, fasilitas kolaborasi, penyimpanan otomatis, dan banyak lagi.
Yang paling penting, saya dapat memilih dengan tepat fitur mana yang ingin saya gunakan. Bagaimanapun juga, saya bekerja untuk diri saya sendiri. Jadi, jika saya tidak ingin menggunakan pemeriksa tata bahasa (jelas tidak), itu sepenuhnya urusan saya. Tidak ada seorang pun yang mengharapkan saya menulis lebih banyak halaman hanya karena saya memperoleh alat baru.
Beberapa tahun yang lalu, seorang mantan mahasiswa meminta saya mencoba sebuah alat berbasis LLM yang dikembangkannya untuk membantu saya menulis dialog dan mengembangkan karakter. Saya mencobanya sekitar sepuluh menit, lalu tidak pernah menggunakannya lagi. Tidak ada yang mengatakan bahwa saya tidak kooperatif atau bahwa saya sedang menggagalkan rencana besar untuk meningkatkan efisiensi dan menghemat biaya hanya karena menolak menggunakan AI.
Kadang-kadang, ketika benar-benar buntu, saya justru menulis dengan pena di buku catatan. Tidak ada yang peduli dengan cara saya menulis itu—kecuali saya sendiri.
Kemudian Doctorow melanjutkan dengan masalah centaur-terbalik.
Reverse centaur (centaur-terbalik) adalah manusia yang dipaksa berperan sebagai asisten bagi mesin. Ada sebuah episode klasik serial I Love Lucy yang menampilkan Lucy dan Ethel bekerja di jalur perakitan sebuah pabrik cokelat. Tugas mereka adalah mengambil bonbon dari ban berjalan lalu membungkusnya dengan kertas. Ketika ban berjalan bergerak semakin cepat, Lucy dan Ethel harus bekerja dengan kecepatan yang melampaui kemampuan manusia. Mereka adalah reverse centaur: mesin mampu memindahkan cokelat dari satu tempat ke tempat lain, tetapi membutuhkan manusia untuk membungkusnya. Akibatnya, manusia yang menjadi “asisten” mesin dipaksa bekerja dengan ritme yang melebihi batas kemampuan manusia hingga akhirnya terjadi kekacauan.
Dalam I Love Lucy, adegan itu dimaksudkan sebagai komedi. Namun, pekerja gudang Amazon mengalami versi yang jauh lebih menyeramkan. Mereka diawasi oleh kamera yang dilengkapi AI untuk mengukur setiap gerakan dan memantau “waktu di luar tugas” (time off-task), lalu dikenai sanksi apabila tidak memenuhi target kerja. Pekerja gudang Amazon mengalami tingkat cedera kerja tertinggi di sektor pergudangan di Amerika Serikat, dan banyak di antara mereka terpaksa buang air kecil ke dalam botol karena pergi ke toilet dapat membuat mereka gagal memenuhi kuota. Gudang Amazon dipenuhi berbagai mesin, tetapi masih ada pekerjaan yang belum dapat dilakukan mesin. Di situlah para pekerja berperan: mereka membantu mesin. Mereka adalah reverse centaur, yang direkrut untuk menjadi periferal bagi sistem otomasi gudang. Mereka bukan sekadar dimanfaatkan oleh mesin-mesin itu, melainkan dikuras hingga habis.
Tidak sulit membayangkan bagaimana seorang pekerja gudang justru memilih menggunakan AI untuk membantu pekerjaannya. Misalnya, sistem visi komputer yang terpasang pada kacamata pintar dapat menyoroti barang yang sedang mereka cari di dalam rak penyimpanan. (Saya sendiri sering mengalami situasi ketika menatap langsung suatu benda tetapi tetap tidak melihatnya; dalam keadaan seperti itu saya pasti senang memiliki teknologi semacam ini.) Otomasi pada dirinya sendiri bukanlah musuh pekerjaan di gudang—tidak ada yang salah dengan forklift, misalnya. Perbedaan antara otomasi yang membantu pekerja gudang dan otomasi yang menyiksa pekerja terletak pada apakah pekerja tersebut memiliki kebebasan untuk memilih kapan, di mana, dan bagaimana menggunakan otomasi itu. Itulah perbedaan antara seorang centaur dan seorang reverse centaur.
Apakah Anda mengenali banyak centaur-terbalik di sekitar Anda? Pikirkan sopir daring (online), pengantar paket, dan konten kreator.
Seorang pengemudi ojek daring memulai hari dengan membuka aplikasi yang menentukan pesanan mana yang harus diambil, rute yang harus ditempuh, hingga penilaian atas kinerjanya. Secara kasat mata ia tampak bebas menentukan jam kerja, tetapi ritme kerjanya sebenarnya diatur oleh algoritma yang memberi insentif, menghitung waktu tempuh, dan menilai tingkat penerimaan pesanan. Alih-alih teknologi menjadi alat yang ia kendalikan, justru ia yang harus menyesuaikan diri dengan tuntutan sistem. Dalam situasi ini, sang pengemudi menyerupai seorang reverse centaur: manusia yang bekerja mengikuti logika mesin.
Pengantar paket. Seorang kurir paket membawa puluhan kiriman setiap hari dengan target waktu yang ketat. Aplikasi di perangkat genggamnya terus memperbarui urutan pengantaran, menghitung durasi berhenti di setiap lokasi, dan mengukur produktivitasnya secara real time. Ketika lalu lintas macet atau pelanggan sulit dihubungi, sistem tetap menghitung keterlambatan sebagai penurunan kinerja. Kurir itu bukan sekadar menggunakan teknologi untuk bekerja; ia harus bekerja mengikuti tempo yang ditentukan teknologi. Di sini, manusia berperan sebagai pelengkap bagi sistem otomasi logistik, bukan sebaliknya.
Konten kreator. Seorang kreator konten ingin membuat video yang bermakna, tetapi segera menyadari bahwa algoritma platform lebih menyukai unggahan yang singkat, sering, dan mengikuti tren tertentu. Demi mempertahankan jangkauan dan pendapatan, ia mulai memilih topik, durasi, judul, bahkan waktu unggah berdasarkan rekomendasi algoritma, bukan semata-mata berdasarkan pertimbangan kreatifnya. Lama-kelamaan, kreativitasnya diarahkan oleh metrik dan sistem rekomendasi platform. Dalam kondisi ini, AI dan algoritma tidak lagi sekadar membantu proses berkarya, melainkan membuat manusia bekerja untuk memenuhi kebutuhan mesin dalam memproduksi perhatian dan keterlibatan pengguna.
2. Diperkuda
Centaur-terbalik atau reverse centaur adalah manusia diperkuda. AI memang mengingatkan kita bahwa manusia sering diperkuda teknologi. Lebih dari itu, manusia mudah diperkuda uang, diperkuda jabatan, dan diperkuda nafsu sendiri. Banyak hal yang harus kita pelajari tentang diperkuda ini.
Teknologi kuno tidak menyebabkan manusia diperkuda. Teknologi modern menyebabkan manusia diperkuda. Teknologi digital, termasuk AI, makin memudahkan manusia diperkuda. Mengapa?
Diperkuda jabatan tampak sudah terjadi sejak era kuno. Perang di China, India, Mesir, Yunani, sampai Persia lawan Romawi menunjukkan banyak orang diperkuda jabatan di masa lalu. Di masa kini kita bisa merenungi perang usa-Israel menyerang Iran, Rusia lawan Ukraina, ancaman Trump kepada Greenland. Apakah Trump dan banyak pemimpin dunia sedang diperkuda jabatan?
Diperkuda nafsu tampak terjadi sejak awal sejarah manusia. Kisah Qabil membunuh Habil (putra Adam – Hawa) menunjukan Qabil sedang diperkuda nafsu waktu itu. Legenda Sangkuriang mengejar Dayang Sumbi sampai Ujungberung juga mengisyaratkan diperkuda nafsu. Achilles diperkuda nafsu amarah ketika adiknya dibunuh oleh pasukan Troya. Orang-orang jaman sekarang? Anda tidak sulit menemukan tanda-tanda manusia jaman ini diperkuda nafsu. Silakan lihat media sosial sebentar saja.
3. Diskusi
Adakah solusi dari situasi diperkuda ini?
Tentu ada. Doctorow memberi solusi di bagian akhir bukunya. Di bagian awal buku, ia tampak sangat optimis.
Perbedaan antara centaur dan reverse centaur ini adalah inti dari paradoks yang berada di jantung perdebatan tentang kegunaan alat AI. Ketika Anda menemukan diri Anda dikelilingi oleh orang-orang yang bersumpah bahwa suatu alat lebih buruk daripada tidak berguna, sementara orang lain bersumpah bahwa alat itu telah membuat hidup mereka lebih mudah dan lebih baik, Anda bisa menduga bahwa kelompok pertama terdiri dari reverse centaur (centaur-terbalik) yang dipaksa menggunakan AI, sedangkan kelompok kedua adalah para centaur yang bebas menentukan sendiri kapan, di mana, dan bagaimana mereka menggunakan alat AI.
Solusi dari paradoks ini adalah berhenti memikirkan apa yang dilakukan oleh suatu perangkat, dan mulai memperhatikan kepada siapa perangkat itu melakukan sesuatu dan untuk siapa perangkat itu bekerja. Bagian yang penting bukanlah karakteristik teknis dari perangkat tersebut, melainkan relasi kekuasaan antara orang-orang yang menggunakan perangkat itu.
Melompat ke bagian akhir bukunya:
Setelah gelembungnya pecah, kita akan memiliki berbagai macam alat baru yang sangat berguna yang bisa kita gunakan. Pemrosesan gambar sehari-hari akan menjadi jauh lebih baik (dan lebih aneh, karena tak terhindarkan akan ada beberapa kesalahan AI yang menyusup ke dalam filter penghapusan mata merah, blur, dan koreksi lainnya di ponsel kita). Sebagian besar ucapan sehari-hari akan mudah diubah menjadi teks yang bisa dicari. Kita juga akan memiliki alat penerjemahan yang lebih baik: bukan alat yang menggantikan penerjemah yang melakukan terjemahan waktu nyata untuk pembicara konferensi dan diplomat, maupun penerjemah yang menyiapkan edisi asing untuk buku dan makalah.
Namun kita pasti akan mendapatkan alat yang lebih baik untuk hal-hal seperti panggilan konferensi ramai yang dilakukan keluarga besar saya dengan kerabat kami di bekas Uni Soviet, yang saat ini merupakan campuran yang lucu sekaligus kacau (seperti Menara Babel) antara bahasa Yiddish, Rusia, dan Inggris, bersama teks terjemahan mesin.
Demikian pula, para pelancong dan pengungsi akan memiliki alat yang jauh lebih baik untuk menavigasi dan berkomunikasi dengan orang-orang yang tidak berbagi bahasa yang sama dengan mereka.
Kita juga pasti akan menemukan cara-cara menyenangkan untuk menggunakan alat ini dalam permainan—bukan untuk sepenuhnya menggantikan penulis dan aktor yang menghidupkan karakter non-pemain (NPC), tetapi untuk memberi NPC tersebut serangkaian interaksi dan respons yang lebih terbuka.
Dan tentu saja, kita akan memiliki semua penggunaan yang menyenangkan—permainan D&D yang ditranskrip, diringkas, dan diilustrasikan (bersama banyak kegagalan lucu) oleh sebuah chatbot dan generator gambar.
Mencermati gerak pemikiran Doctorow di atas sangat menarik. Awalnya, ia opitmis terhadap AI; di tengah, ia memberi kritik tajam kepada AI; di bagian akhir ia kembali kepada AI secara optimis. Apakah terasa semacam ironis?
Dalam buku kami 19 Narasi Besar Akal Imitasi, terdapat tiga kelas narasi: optimis, kritis, dan alternatif kreatif. Doctorow sudah berhasil bergerak dari narasi optimis ke kritis lalu kembali ke optimis. Andai ia mendalami narasi alternatif kreatif maka ia akan menemukan solusi yang lebih kreatif: posibilitas luas, freedom berkreasi, dan mengembangkan komitmen kuat.
3.1 Diperkuda AI
Solusi dari diperkuda AI lebih dari sekedar “gunakan AI secara bijak.” Karena menggunakan AI secara bijak itu bisa jadi sudah diperkuda AI. Kita perlu memahami perbedaan teknologi modern (termasuk AI, akal imitasi, artificial intelligence) dengan teknologi kuno.
Teknologi kuno adalah media bagi manusia yang kaya akan makna. Sementara, teknologi modern adalah media dengan makna yang lebih tajam, lebih sempit, dan lebih kuat. Teknologi modern adalah kerangka, atau penjara, dengan fokus utama mencapai efisiensi. Segala sesuatu menjadi bahan bagi teknologi untuk mencapai efisiensi.
AI, terutama LLM, lebih hebat lagi: AI mampu seakan-akan berbicara seperti bahasa manusia; beda dengan bahasa mesin atau pun bahasa program. Sementara, bahasa adalah rumah bagi hakikat manusia. AI mengubah rumah menjadi penjara; meski tidak 100% tetapi mendekati angka itu.
Jadi solusi dari diperkuda AI adalah memahami perubahan paradigma teknologi kuno menjadi teknologi modern. “Gunakan AI secara bijak” memang bisa saja menjadi bagian dari solusi tetapi tidak pernah cukup hanya itu.
Perubahan Teknologi
Contoh teknologi kuno: kaca mata; teknologi modern: mesin pabrik; teknologi digital: AI (artificial intelligence).
Kaca mata membantu manusia melihat pohon, membaca buku, dan menikmati keindahan alam. Teknologi kuno, semisal kaca mata, membantu manusia memahami alam kemudian berinteraksi dengan alam lebih tepat. Hampir tidak ada risiko manusia akan diperkuda teknologi kuno. Sementara teknologi modern dan digital berbeda dengan itu.
Mesin pabrik memproduksi sepatu 1 ribu unit sepatu tiap 12 jam dengan dibantu pekerja dalam jam kerja. Tetapi mengapa mesin harus istirahat 12 jam di waktu malam? Tidak harus istirahat malam. Sehingga mesin bisa produksi 2 ribu unit tiap 24 jam; tiap hari; dengan dibantu pekerja lembur. Manusia mulai diperkuda mesin pabrik untuk kerja lembur itu.
Lebih dari itu, mesin pabrik nyaris tidak membantu manusia untuk memahami alam raya. Tetapi mesin pabrik justru memicu manusia untuk mengeksploitasi sumber daya alam sampai berdampak kerusakan alam mau pun krisis iklim. Diperkuda teknologi itu membawa risiko tinggi.
Teknologi digital seperti AI lebih hebat lagi. AI bisa berbicara mirip manusia. Sehingga AI nyaris bisa berpikir seperti manusia; bahkan seperti lebih hebat dari manusia. Akibatnya banyak manusia diperkuda teknologi seperti contoh pekerja di gudang Amazon (termasuk para bos Amazon?), pengemudi online, kurir daring, dan konten kreator.
Apa solusi yang tersedia? Solusi pertama (1) adalah menyadari perubahan karakter teknologi; teknologi kuno membantu memahami; teknologi modern berubah menjadi gestell (istilah Heidegger) yang mengeksploitasi manusia dan alam raya; teknologi digital AI makin tajam menguasai bahasa alami manusiawi dan makin besar daya eksploitasi. Secara pribadi, solusinya adalah setiap orang berusaha menggeser gestell agar tidak mengeksploitasi; mencegah diperkuda AI.
Kedua (2), pencegahan diperkuda AI tidak cukup hanya usaha pribadi. Usaha ini perlu diperluas sebagai gerakan sosial di bidang ekonomi dan politik.
3.2 Diperkuda Jabatan
Diperkuda jabatan memang lebih bahaya. Dan lebih bahaya lagi kombinasinya dengan diperkuda teknologi.
Pejabat sering diperkuda jabatan. Orang kaya sering diperkuda uang. Tetapi, orang miskin bisa juga diperkuda jabatan atau uang. Mereka bermimpi untuk mengejar jabatan atau uang meski terus gagal. Jabatan-uang memang sering kombinasi dengan teknologi. Sehingga diperkuda jabatan, di jaman modern ini, nyaris juga diperkuda teknologi.
Solusi dari diperkuda jabatan adalah puasa jabatan dan revisi konstitusi atau sistem politik.
3.3 Diperkuda Nafsu
Diperkuda nafsu memang membingungkan: siapa subyek dan siapa obyeknya?
Setiap orang, termasuk diri kita, mudah diperkuda nafsu. Atau selalu dalam risiko untuk diperkuda nafsu. Tetapi, nafsu itu bukan sesuatu yang lain; nafsu adalah diri kita sendiri. Diperkuda nafsu adalah diri kita diperkuda oleh diri kita. Hanya ada satu diri yang berbelok dari diri sejati manusiawi; itulah diperkuda nafsu.
Diperkuda nafsu, di jaman modern ini, sering kombinasi dengan diperkuda teknologi dan diperkuda jabatan. Apa solusinya? Tobat, puasa, saling menasehati, dan sabar dalam kehidupan bersama.
Bagaimana menurut Anda?