Menurut laporan Tech Crunch, Rabu, kemampuan tersebut bergantung pada GPT-4 yang dipandu oleh kebijakan dalam membuat penilaian moderasi serta membuat serangkaian contoh konten uji coba yang dapat atau tidak melanggar kebijakan. Penilaian tersebut kemudian akan dilabeli oleh ahli kebijakan yang dapat digunakan untuk menyempurnakan kebijakannya.
"Dengan memeriksa perbedaan antara penilaian GPT-4 dan penilaian manusia, para ahli kebijakan dapat meminta GPT-4 untuk menemukan rasionalisasi di balik labelnya, menganalisis ambiguitas dalam definisi kebijakan, menyelesaikan kebingungan, dan memberikan klarifikasi lebih lanjut dalam kebijakan yang sesuai," kata OpenAI dalam sebuah pernyataan.
Baca juga: FTC selidiki OpenAI terkait pelanggaran data pribadi dan misinformasi
OpenAI mengklaim bahwa dengan menggunakan GPT-4 dapat mengurangi waktu proses moderasi konten bagi perusahaan media sosial hingga beberapa jam dan model tersebut memiliki pendekatan lebih baik dibandingkan model dari pengembang lain.
Moderasi konten merupakan tugas rumit bagi perusahaan media sosial seperti induk Facebook dan Instagram, Meta, yang mengerahkan ribuan moderator di seluruh dunia untuk memblokir konten berbahaya seperti pornografi anak dan gambar kekerasan ekstrem.
Baca juga: Twitter pangkas tim moderasi konten global
Platform moderasi konten berbasis AI bukanlah hal baru. Sebelumnya, Tim Teknologi Kontra Penyalahgunaan dan Jigsaw dari Google, meluncurkan Perspective yang tersedia untuk umum beberapa tahun yang lalu.
Selain itu, beberapa perusahaan teknologi lain juga mengembangkan platform serupa seperti Spectrum Labs, Cinder, Hive dan Oterlu.
Baca juga: Perihal moderasi konten di Indonesia
Penerjemah: Farhan Arda Nugraha
Editor: Siti Zulaikha
Copyright © ANTARA 2023
