Salah satu penipuan belanja daring dengan menyalahgunakan AI adalah praktik manipulasi suara tokoh publik, seolah-olah tokoh publik tersebut mempromosikan produk yang dijual.
Nezar, di Jakarta, Selasa, mengatakan bahwa pihaknya telah bekerja sama dengan platform digital untuk memonitor penyalahgunaan AI untuk praktik penipuan tersebut.
"Kita bekerja sama dengan platform digital untuk sama-sama melakukan monitoring atas penyalahgunaan teknologi AI, terutama upaya-upaya yang sifatnya manipulatif menggunakan suara seseorang, biasanya tokoh masyarakat, tokoh publik, atau selebriti dalam rangka untuk mempromosikan barang yang sebenarnya tidak pernah dilakukan," ucap dia.
Baca juga: YLKI sarankan pembuatan SLIK e-commerce atasi penipuan belanja daring
Nezar menilai tindakan tersebut tidak hanya melanggar etika, tetapi juga merugikan konsumen dan dapat berdampak buruk bagi tokoh publik yang namanya dicatut.
Nezar mengatakan pihaknya telah menetapkan sejumlah langkah dalam mengatasi masalah tersebut. Pertama, masyarakat diimbau untuk melaporkan konten-konten yang mencurigakan saat berbelanja daring.
Kedua, platform digital juga harus melakukan pemantauan melalui patroli siber untuk mengidentifikasi konten yang melanggar aturan.
Ketiga, apabila konten tersebut melanggar hukum atau aturan yang berlaku, Kementerian Kominfo akan mengambil tindakan, seperti memblokir atau meminta platform digital untuk menurunkan konten tersebut.
Baca juga: Kaspersky bagikan kiat belanja daring aman selama Lebaran
Kementerian Kominfo juga telah berkoordinasi dengan berbagai lembaga, termasuk Yayasan Lembaga Konsumen Indonesia. Nezar mengaku pihaknya telah banyak mendengar tentang penyalahgunaan AI yang merugikan konsumen saat berbelanja daring.
Lebih lanjut Nezar juga memberikan imbauan kepada masyarakat untuk lebih waspada dan kritis dalam menyikapi konten yang mereka temui di ruang digital.
"Jadi misalnya kalau ada satu tokoh dengan nama besar yang mempromosikan satu produk yang kira-kira kurang masuk akal dia akan mempromosikan konten tersebut, masyarakat perlu waspada, jangan cepat percaya," saran dia.
Baca juga: Menkop waspadai aplikasi belanja digital dari China rambah RI
Masyarakat diingatkan untuk melakukan pengecekan dan teliti sebelum mempercayai konten yang mereka lihat atau dengar.
Jika menemukan konten yang mencurigakan atau melanggar aturan, masyarakat diharapkan untuk melaporkannya kepada platform digital atau langsung ke Kementerian Kominfo untuk diproses lebih lanjut.
"Yang penting jangan terkecoh, jangan sampai tertipu oleh begitu banyaknya promosi-promosi yang mencatut nama tokoh-tokoh publik," pungkas Nezar.
Baca juga: Pakar tekankan penting jaga keamanan agar tak tertipu belanja daring
Baca juga: Amazon hadirkan teknologi AI yang mampu merangkum ulasan produk
Pewarta: Fathur Rochman
Editor: Siti Zulaikha
Copyright © ANTARA 2024
