Sebuah studi baru yang diterbitkan dalam Science memperingatkan bahwa kecerdasan buatan (AI) sedang mengubah kampanye disinformasi, memungkinkan satu individu untuk mengendalikan ribuan akun media sosial. Peralihan dari metode tradisional, yang mengandalkan banyak karyawan, dapat menyebabkan disinformasi disebarkan dalam skala dan kecepatan yang belum pernah terjadi sebelumnya. Para peneliti berpendapat bahwa 'gerombolan' AI ini dapat memanipulasi opini publik dan berpotensi merusak institusi demokratis jika tidak ditangani dengan cepat.
Makalah ini, yang ditulis oleh 22 ahli dari berbagai bidang, menyoroti bahaya kemampuan AI untuk meniru perilaku manusia dan beradaptasi secara real-time. Kemampuan ini dapat memungkinkan kampanye disinformasi tidak hanya mempengaruhi pemilihan tetapi juga menciptakan perubahan sosial yang luas dalam keyakinan. Laporan ini menekankan perlunya langkah-langkah pencegahan yang mendesak untuk melawan ancaman yang muncul ini.
Para ahli di bidang ini memiliki pandangan suram tentang implikasi teknologi AI untuk perang informasi. Mereka mencatat bahwa menargetkan individu atau komunitas tertentu akan menjadi jauh lebih mudah dan lebih efektif, menimbulkan tantangan bagi masyarakat demokratis. Bahkan mereka yang optimis tentang potensi AI mengakui risiko serius yang disoroti dalam studi ini, menekankan perlunya tata kelola dan strategi respons yang efektif.
Para peneliti menggambarkan agen AI yang mampu mempertahankan identitas dan memori yang persisten, memungkinkan mereka untuk mensimulasikan persona online yang dapat dipercaya. Agen-agen ini akan bekerja sama untuk mencapai tujuan bersama sambil menghindari deteksi. Makalah ini menyarankan bahwa sistem saat ini untuk mengidentifikasi disinformasi yang terkoordinasi tidak memadai, sehingga menyulitkan untuk menilai sejauh mana kampanye yang didorong AI ini.
Untuk mengurangi risiko yang ditimbulkan oleh gerombolan AI, para penulis mengusulkan pembentukan 'Observatorium Pengaruh AI' yang terdiri dari akademisi dan LSM. Kelompok ini bertujuan untuk menstandarisasi bukti dan meningkatkan kesadaran situasional, memungkinkan respons yang lebih cepat terhadap ancaman disinformasi. Namun, para peneliti mengungkapkan kekhawatiran bahwa perusahaan media sosial mungkin tidak memiliki insentif untuk mengidentifikasi gerombolan ini, karena peningkatan keterlibatan dapat menguntungkan model bisnis mereka. Tanpa kemauan politik yang signifikan atau tindakan dari platform-platform ini, ancaman disinformasi yang didorong AI mungkin segera menjadi kenyataan.