OpenAI Bongkar Operasi Pengaruh Iran dan Rusia yang Gunakan ChatGPT

OpenAI telah mengidentifikasi dan membongkar dua operasi pengaruh besar yang dijalankan oleh Iran dan Rusia, yang memanfaatkan platform ChatGPT untuk memperkuat agenda geopolitik mereka.

Menurut penyelidikan perusahaan teknologi tersebut, operasi dari Iran menciptakan persona wartawan palsu yang digunakan untuk menyebarkan kandungan yang dirancang untuk mengubah persepsi awam. Sementara itu, operasi dari Rusia menjalankan sebuah institusi pemikiran bayangan dengan tujuan menyiarkan propaganda yang bertentangan dengan Ukraine dan kepentingannya.

Kedua-dua kampanye ini menunjukkan bagaimana teknologi AI generatif dapat disalahgunakan untuk mempengaruhi pendapat umum dan menyebarkan maklumat yang tidak tepat dalam skala besar. OpenAI menyatakan telah mengambil tindakan untuk menutup akaun-akaun yang terlibat dan memaklumkan pihak berkuasa yang berkaitan.

Peringatan ini menambah pada kebimbangan yang semakin meningkat mengenai penggunaan alat AI oleh aktor-aktor negara untuk memajukan operasi pengaruh. Penganalisis keselamatan siber menekankan keperluan untuk kewaspadaan yang lebih ketat dan mekanisme pemantauan yang lebih baik bagi mengesan dan mencegah penyalahgunaan teknologi tersebut di masa hadapan.