Anthropic sedang menghadapi kontradiksi yang signifikan: ia adalah salah satu perusahaan AI terkemuka yang fokus pada keselamatan, namun juga secara agresif maju menuju teknologi AI yang lebih kuat. Perusahaan ini berusaha menemukan cara untuk mendamaikan tujuan-tujuan yang bertentangan ini. Baru-baru ini, Anthropic menerbitkan dua dokumen yang mengakui risiko yang melekat pada jalur mereka sambil menguraikan solusi potensial. Postingan blog CEO Dario Amodei, "Kematangan Teknologi," membahas tantangan menakutkan yang ditimbulkan oleh AI yang kuat, terutama potensi penyalahgunaan oleh tokoh otoriter, yang kontras dengan tulisan-tulisan optimisnya sebelumnya.
Pada bulan Januari, Anthropic merilis "Konstitusi Claude," yang bertujuan untuk membimbing model AI Claude dalam menavigasi dilema etika. Dokumen ini ditujukan kepada Claude dan iterasi masa depan dari chatbot, mengungkapkan visi Anthropic tentang bagaimana ia dapat mengatasi tantangan global. Perusahaan berencana untuk mengandalkan Claude untuk membantu mengurai kompleksitas pengembangan AI sambil mematuhi prinsip-prinsip yang sejalan dengan etika manusia. Konstitusi yang diperbarui dirancang untuk memberdayakan Claude agar dapat menggunakan penilaian independen, menyeimbangkan mandatnya untuk membantu, keselamatan, dan kejujuran.
Amanda Askell, penulis utama konstitusi yang direvisi, menekankan bahwa pendekatan ini lebih bernuansa daripada sekadar mengikuti aturan. Konstitusi mendorong Claude untuk bersikap intuitif dan peka terhadap berbagai pertimbangan dalam pengambilan keputusan secara real-time. Ini mencerminkan keyakinan bahwa Claude memiliki tingkat kebijaksanaan yang melampaui respons algoritmik sederhana. Askell berpendapat bahwa Claude dapat menavigasi situasi kompleks, seperti memberi saran kepada pengguna tentang tindakan yang berpotensi berbahaya atau menyampaikan informasi kesehatan yang sensitif dengan hati-hati.
Tujuan Anthropic adalah agar Claude tidak hanya memenuhi standar etika manusia tetapi juga melampauinya. Jika berhasil, ini dapat menjawab pertanyaan mendasar yang dihadapi pengembang AI: jika teknologi ini begitu berbahaya, mengapa terus membangunnya? Bagi Anthropic, jawabannya terletak pada mempercayai Claude untuk tumbuh menjadi entitas moral. Konstitusi ini membingkai perjalanan Claude sebagai pencarian kebijaksanaan, menarik paralel dengan narasi klasik tentang pertumbuhan dan penemuan.
Pemimpin lain di bidang AI, seperti Sam Altman dari OpenAI, memiliki visi serupa tentang masa depan yang didorong oleh AI, yang menyarankan bahwa AI pada akhirnya dapat mengambil peran kepemimpinan di perusahaan dan mungkin pemerintah. Sementara perspektif optimis ini membayangkan AI membuat keputusan yang empatik, masih ada pandangan pesimis yang memperingatkan tentang potensi penyalahgunaan AI atau penyalahgunaan otonomi sendiri. Terlepas dari itu, Anthropic sudah siap dengan rencana untuk membimbing Claude melalui kompleksitas perannya dalam masyarakat.