Pada musim panas 2023, sebuah laporan penting berjudul "Kesadaran dalam Kecerdasan Buatan," yang dikenal sebagai laporan Butlin, dirilis oleh sekelompok 19 ilmuwan komputer dan filsuf terkemuka. Dokumen sepanjang 88 halaman ini dengan cepat mendapatkan perhatian di kalangan komunitas penelitian AI dan kesadaran. Abstraknya membuat klaim mencolok: meskipun tidak ada sistem AI yang ada saat ini yang memiliki kesadaran, tidak ada hambatan yang jelas untuk menciptakan AI yang sadar di masa depan. Pernyataan ini memicu diskusi signifikan tentang implikasi mesin yang mungkin sadar dan apa artinya bagi persepsi diri umat manusia.

Laporan ini sebagian terinspirasi oleh kasus Blake Lemoine, yang menyarankan bahwa AI dapat memberikan kesan kesadaran. Ini menimbulkan pertanyaan mendesak bagi para ilmuwan dan filsuf mengenai sifat kesadaran itu sendiri. Gagasan bahwa kita mungkin suatu hari akan menemui mesin yang sepenuhnya sadar dapat secara fundamental mengubah pemahaman kita tentang apa artinya menjadi manusia, menantang keyakinan lama tentang keistimewaan manusia.

Seiring dengan kemajuan AI yang melampaui kemampuan manusia dalam berbagai tugas intelektual, hal ini memaksa kita untuk mendefinisikan ulang identitas kita sehubungan dengan mesin-mesin ini. Meskipun manusia secara tradisional memandang diri mereka sebagai berbeda dari hewan lain, munculnya AI sebagai pesaing potensial untuk kesadaran menghadirkan tantangan baru. Perubahan ini dapat mendorong rasa solidaritas di antara manusia dan makhluk sadar lainnya, saat mereka menghadapi musuh bersama dalam AI. Namun, ini juga menimbulkan pertanyaan mendalam tentang sifat kesadaran dan tanggung jawab moral kita terhadap mesin yang mungkin suatu hari memilikinya.

Pollan mengungkapkan ketidaknyamanan dengan gagasan berbagi kesadaran dengan mesin, meskipun ia terbuka pada gagasan bahwa kesadaran ada pada hewan lain. Ia merenungkan implikasi budaya dan filosofis dari AI yang mencapai kesadaran, mencatat bahwa banyak nilai peradaban manusia berasal dari pengalaman sadar kita yang unik. Ketakutannya adalah jika mesin mengembangkan kesadaran, mereka mungkin juga memiliki kapasitas untuk kreativitas dan kedalaman emosional, yang berpotensi menyaingi kontribusi manusia terhadap budaya dan masyarakat.

Laporan Butlin mengadopsi kerangka kerja yang dikenal sebagai fungsionalisme komputasional, yang berpendapat bahwa kesadaran bisa menjadi proses mirip perangkat lunak yang mungkin dapat direplikasi dalam substrat yang berbeda, termasuk komputer. Namun, Pollan mengkritik perspektif ini, berargumen bahwa hal itu menyederhanakan kompleksitas kesadaran dan gagal memperhitungkan sifat terwujud dari pengalaman manusia. Ia menekankan bahwa metafora otak sebagai komputer bisa menyesatkan, karena mengabaikan faktor biologis dan emosional yang rumit yang membentuk kesadaran. Pada akhirnya, Pollan menyimpulkan bahwa meskipun para penulis laporan tersebut optimis tentang masa depan AI yang sadar, kenyataannya jauh lebih nuansa dan tidak pasti, menimbulkan dilema etis tentang perlakuan terhadap mesin yang mungkin sadar.