Dari edisi September 2022 Mobil dan Sopir.

Awal Juni, Blake Lemoine, seorang insinyur di Google yang bekerja pada kecerdasan buatan, menjadi berita utama karena mengklaim bahwa program obrolan Model Bahasa untuk Aplikasi Dialog (LaMDA) perusahaan itu sadar diri. Lemoine membagikan transkrip percakapannya dengan LaMDA yang menurutnya membuktikan bahwa itu memiliki jiwa dan harus diperlakukan sebagai rekan kerja daripada alat. Rekan-rekan insinyur tidak yakin, begitu juga saya. Saya membaca transkripnya; AI berbicara seperti tukang batu yang menyebalkan di pesta kampus, dan saya yakin orang-orang itu tidak memiliki kesadaran diri. Bagaimanapun, interpretasi Lemoine dapat dimengerti. Jika ada sesuatu yang berbicara tentang harapan dan impiannya, maka mengatakannya tidak ada rasanya tidak berperasaan.

Saat ini, mobil kami tidak peduli apakah Anda baik padanya. Bahkan jika terasa salah jika membiarkannya kotor, membiarkannya terkena bantingan pintu, atau menjalankannya dengan oktan 87, tidak ada korban emosional yang diambil. Anda mungkin membayar lebih untuk mekanik, tetapi tidak untuk terapis. Peringatan dari produk Honda Sensing dan Hyundai/Kia tentang mobil di depan mulai bergerak dan perintah dari sistem navigasi di Mercedes saat Anda melewatkan tiga belokan berturut-turut bukanlah tanda bahwa kendaraan semakin gusar. Perasaan bahwa ada peningkatan urgensi pada peringatan yang berkedip atau perubahan nada adalah imajinasi murni dari pihak pengemudi. Menghubungkan emosi ke mobil kita itu mudah, dengan proporsinya yang seperti berkaki empat, persahabatan yang mantap, dan wajah yang bersemangat. Tapi mereka tidak punya perasaan—bahkan yang imut seperti Austin-Healey Sprite.

Cara Bermotor dengan Sopan

Apa yang akan terjadi ketika mereka melakukannya? Akankah mobil yang bahan bakarnya rendah menyatakan terlalu lapar untuk melanjutkan, bahkan ketika Anda terlambat ke kelas dan cukup untuk sampai di sana dengan asap? Apa yang terjadi jika mobil Anda jatuh cinta dengan BMW tetangga atau, lebih buruk lagi, memulai perseteruan dengan Ford tetangga yang lain? Bisakah Anda berakhir dengan mobil penakut, yang tidak akan pergi ke daerah yang buruk atau keluar di hutan belantara setelah gelap? Jika demikian, bisakah Anda memaksanya pergi? Bisakah seseorang menjadi kejam terhadap mobil?

“Anda menjalaninya sampai akhir,” kata Mois Navon, dosen etika teknologi di Universitas Ben-Gurion Negev di Beersheba, Israel. Navon menunjukkan bahwa upaya untuk menciptakan kesadaran dalam AI sudah berpuluh-puluh tahun, dan terlepas dari pemikiran Lemoine dan imajinasi saya, kami sama sekali tidak berada di dekat komputer dengan perasaan nyata. “Sebuah mobil tidak menuntut belas kasihan kita jika tidak bisa merasakan sakit dan kesenangan,” katanya. Jadi, secara etis, kita tidak perlu khawatir tentang perasaan mobil, tetapi Navon mengatakan perilaku kita terhadap objek antropomorfik nantinya dapat tercermin dalam perilaku kita terhadap makhluk hidup. “Teman saya baru saja membeli Alexa,” katanya. “Dia bertanya kepada saya apakah dia harus mengatakan ‘tolong’ untuk itu. Saya berkata, ‘Ya, karena ini tentang Anda, bukan mesin, praktik meminta seperti orang yang baik.’ “

Paul Leonardi tidak setuju—bukan dengan gagasan berperilaku seperti orang baik, tetapi dengan gagasan berbicara dengan kendaraan kita seolah-olah mereka hidup. Leonardi adalah co-penulis Pola Pikir Digital, panduan untuk memahami peran AI dalam bisnis dan teknologi. Dia percaya bahwa memperlakukan mesin seperti manusia menciptakan harapan yang tidak realistis tentang apa yang dapat dilakukannya. Leonardi khawatir jika kita berbicara dengan mobil seperti KITT dari Knight Rider, maka kita akan mengharapkannya untuk dapat menyelesaikan masalah seperti yang dilakukan KITT untuk Michael. “Saat ini, AI tidak cukup canggih sehingga Anda bisa mengatakan ‘Apa yang harus saya lakukan?’ dan itu bisa menyarankan mengaktifkan dorongan turbo, “kata Leonardi.

Memahami kebutuhan saya untuk mengurangi segalanya menjadi TV dari tahun 80-an, dia menyarankan agar kami berlatih berbicara dengan AI kami seperti Picard dari Star Trek, dengan “petunjuk yang jelas dan eksplisit”. Mengerti. “Audi, teh, Earl Grey, panas.” Dan kalau-kalau Lemoine benar: “Tolong.”