Deepfake yang dihasilkan oleh AI semakin sering digunakan untuk meniru pendeta, yang mengarah pada penipuan yang menargetkan jemaat mereka. Salah satu kasus yang mencolok melibatkan versi palsu dari Pastor Schmitz, yang memperingatkan pengikutnya tentang sebuah video di mana deepfake mendesak pemirsa untuk bertindak cepat untuk mengamankan berkat. Schmitz yang asli mengungkapkan keprihatinan bahwa meskipun ia dapat mengidentifikasi peniruan tersebut, banyak orang lain mungkin tidak dapat membedakannya, menyoroti masalah signifikan dengan teknologi ini.
Ahli keamanan siber Rachel Tobac mencatat bahwa pendeta telah menjadi target utama untuk penipuan AI ini, karena mereka sering memiliki pengikut online yang substansial. Banyak individu melaporkan telah menemui akun palsu di platform seperti TikTok, di mana peniru meniru penampilan dan ucapan tokoh agama untuk menipu pengikut. Tren ini telah memicu peringatan dari berbagai pendeta di seluruh negeri, termasuk mereka yang berada di Alabama, New York, dan Florida, yang telah mengalami upaya peniruan serupa.
Meningkatnya deepfake AI sangat mengkhawatirkan karena banyak pendeta sudah meminta sumbangan dan menjual produk secara online, sehingga memudahkan penipu untuk mengeksploitasi kemiripan mereka. Seorang anggota ChurchTrac menjelaskan bagaimana penipu dapat menggunakan AI untuk mereplikasi suara tokoh gereja terkenal, memungkinkan mereka untuk membuat permintaan dana yang curang.
Meskipun sifat penipuan ini mengkhawatirkan, beberapa video yang dihasilkan oleh AI yang menampilkan pendeta semakin populer tanpa secara langsung meniru individu tertentu. Video viral ini sering menyajikan khotbah yang berlebihan atau tidak terduga yang menarik banyak penonton, menimbulkan kekhawatiran tentang pengaruh yang mungkin mereka miliki terhadap pemirsa. Tobac menekankan potensi video ini untuk membentuk persepsi dan keyakinan publik, terutama ketika berasal dari tokoh yang terkait dengan otoritas agama.
Seiring kemajuan teknologi AI, beberapa gereja mulai menjelajahi penggunaannya untuk membuat konten, sementara yang lain tetap waspada terhadap implikasinya. Kekhawatiran tentang efek kesehatan mental yang terkait dengan interaksi AI juga muncul, dengan laporan yang menunjukkan bahwa beberapa pengguna mungkin mengalami delusi, termasuk yang bersifat religius. Bagi pendeta seperti Pastor Schmitz, yang telah menjadi korban peniruan AI, teknologi ini menimbulkan pertanyaan tentang penggunaan etisnya dan konsekuensi potensial bagi komunitas mereka.