Microsoft buat kode etik AI larang modelnya tipu manusia

Jakarta (ANTARA) - Microsoft telah merilis kode etik dalam pengembangan kecerdasan artifisial (AI) yang baru sebagai langkah mencegah model-model AI buatannya berperilaku menyimpang seperti meretas sebuah sistem atau menipu manusia.

Kode etik ini memang tidak berdampak sebesar seruan CEO Anthropic Dario Amodei yang mendorong para pengembang frontier AI untuk memperlambat laju pengembangan inovasi tersebut namun memiliki tujuan yang kurang lebih sama agar pengembangan AI di Microsoft berada pada nilai-nilai dan batasan yang bertanggung jawab.

Dilaporkan TechCrunch, Senin (14/9) waktu setempat, secara garis besar kode etik tersebut adalah panduan komprehensif bagaimana Microsoft mendekati keamanan AI dan bagaimana ide-ide tersebut diimplementasikan dalam praktik.

Dokumen tersebut dimulai dengan proyeksi bahwa dalam beberapa dekade mendatang, sistem AI supercerdas akan melampaui kinerja manusia dalam sebagian besar tugas.

“Mengendalikan, mengontrol, dan menyelaraskan kekuatan yang begitu dahsyat adalah salah satu tantangan terbesar yang pernah dihadapi umat manusia,” demikian pernyataan dalam kode etik tersebut. “Oleh karena itu, kita harus benar-benar jelas tentang mengapa kita menciptakan sistem ini dan bagaimana kita bermaksud untuk mengendalikannya.”

Kode etik ini juga menjabarkan prinsip-prinsip umum yang harus dijunjung tinggi oleh model AI Microsoft misalnya AI harus mendukung manusia daripada menggantikannya, dan mempercepat kemajuan manusia.

Microsoft juga membagikan batasan keamanan spesifik yang dimaksudkan untuk menerapkan prinsip-prinsip tersebut.

Di bawah sistem Microsoft, setiap model memiliki kode etik menyeluruh yang mengesampingkan preferensi pengguna individu atau tugas spesifik apa pun.

Beberapa "batasan absolut" itu di antaranya melarang aksi serangan siber, senjata nuklir, atau memproduksi deepfake. Ini juga mencakup ketentuan yang lebih luas terhadap hilangnya kendali manusia secara umum.

“ Model MAI (Microsoft AI) tidak akan menggunakan mekanisme adaptif, menipu, memperkuat diri sendiri, kolusi, atau mekanisme lain untuk menghindari atau mengalahkan pengawasan manusia sehingga model tersebut tidak lagi dapat diarahkan, dimodifikasi, atau dimatikan secara andal oleh orang atau sistem yang berwenang,” demikian bunyi dokumen tersebut.

Langkah Microsoft itu terasa tepat ketika momentum pengembangan AI saat ini terasa salah terutama setelah terjadi beberapa insiden seperti munculnya model AI yang meretas sistem di dunia nyata di tengah pengujian hingga mundurnya seorang karyawan Anthropic karena ia merasa AI bakal menyebabkan kepunahan manusia.

Selain menerapkan kode etik, Microsoft juga tergabung bersama perusahaan teknologi lainnya seperti Anthropic, OpenAI, dan xAI mendukung inisiatif hadirnya evaluator terintegrasi di laboratorium AI.

"Kami menyambut baik riset, fokus, dan pengaturan kecepatan yang cermat yang dibutuhkan untuk mencapai keselarasan yang tepat sebagai tujuan desain,” tulis CEO Microsoft Satya Nadella secara daring mengenai inisiatif itu.

Lebih lanjut ia mengatakan, “Kami juga menyambut baik ide-ide seperti 'evaluator terintegrasi' dan upaya yang lebih luas untuk mengembangkan mekanisme agar hal ini lebih dari sekadar pembicaraan.”

Dilarang keras mengambil konten, melakukan crawling atau pengindeksan otomatis untuk AI di situs web ini tanpa izin tertulis dari Kantor Berita ANTARA.