"Munculnya deepfake dengan pemakaian generatif AI saya kira telah berkontribusi besar terhadap information disorder atau kekacauan informasi," ujar Nezar di Jakarta, Selasa.
Nezar mengatakan perkembangan teknologi deepfake yang kian canggih saat ini mampu memanipulasi informasi dan menciptakan konten yang sulit dibedakan antara yang benar dan palsu.
Kemampuan generatif AI, kata dia, terutama dalam model bahasa multi-model, memungkinkan manipulasi data dan informasi dengan tingkat kecanggihan yang membahayakan.
Baca juga: Kominfo antisipasi fenomena "deepfake" jelang Pemilu 2024
Dia mengatakan deepfake dapat menciptakan konten yang meniru gambar hingga suara menjadi sesuatu yang baru.Teknologi ini dinilai menjadi ancaman serius terhadap ketertiban informasi dan sering digunakan dalam konteks politik.
Dia mencontohkan adanya video viral beberapa waktu lalu yang menunjukkan Presiden Joko Widodo dimanipulasi bisa dengan lancar berpidato menggunakan bahasa Mandarin.
"Misalnya Bapak Presiden bisa berbahasa Mandarin dengan sangat lancar, lalu besoknya muncul lagi berbahasa Arab dengan lancar. Itu salah satu bagaimana deepfake mencoba memanipulasi," ujar Nezar.
"Jadi makin lama makin canggih. Sedemikian mengancamnya saya kira generatif AI ini bisa memporak-porandakan arus informasi yang kita terima," sambung dia.
Meski demikian, Nezar menekankan bahwa teknologi generatif AI juga memberikan manfaat besar dalam berbagai sektor, seperti sektor kesehatan dan transportasi.
Melihat adanya kompleksitas dampak positif dan negatif AI, Nezar mengatakan bahwa pemerintah akan segera menerbitkan Surat Edaran Menteri Komunikasi dan Informatika Panduan Etika Kecerdasan Artifisial.
Surat edaran ini diharapkan dapat menjadi panduan tata kelola penggunaan AI di masyarakat dengan etis dan transparan.
"Jadi, pelaku usaha juga di situ, masyarakat biasa, dari desain, pengembangan, sampai penggunaanya nanti bisa mengacu kepada surat edaran etika kecerdasan artifisial ini," kata dia.
Baca juga: India ingatkan FB dan YouTube tegakkan aturan tanggulangi deepfake
Baca juga: Microsoft ungkap strategi melindungi integritas pemilu tahun 2024
Baca juga: Presiden Jokowi pidato pakai bahasa Mandarin hoaks
Pewarta: Fathur Rochman
Editor: Maria Rosari Dwi Putri
Copyright © ANTARA 2023
