Lebih 200 pakar desak perubahan segera untuk kawal AI yang rogue

Lebih daripada 200 penyelidik dalam bidang kecerdasan buatan dan keselamatan siber telah membuat seruan mendesak kepada pihak berkuasa dan industri untuk melaksanakan perubahan segera bagi mencegah penyalahgunaan teknologi AI. Dalam petisyen kolektif mereka, para pakar ini menggariskan keperluan untuk mengambil langkah-langkah pencegahan yang lebih ketat dalam pembangunan dan pengujian sistem AI.

Syarat utama yang dikemukakan oleh kumpulan penyelidik ini ialah model dan sistem yang berkaitan dengan keselamatan siber harus diputuskan sepenuhnya daripada sambungan internet semasa fasa ujian. Pendekatan ini bertujuan untuk mengehadkan potensi penggunaan sistem AI bagi tujuan berbahaya atau aktiviti siber yang jahat sebelum pelancaran rasmi.

Para ahli berpendapat bahawa kaedah pengasingan ini adalah penting kerana perkembangan pesat teknologi AI telah menimbulkan risiko keselamatan yang signifikan. Mereka membimbangkan bahawa tanpa kawalan ketat, model-model canggih boleh disalahgunakan untuk serangan siber berskala besar atau keperluan jahat yang lain.

Seruan para penyelidik ini mencerminkan kebimbangan industri yang semakin meningkat terhadap implikasi keselamatan teknologi AI. Meskipun demikian, pelaksanaan cadangan tersebut memerlukan kerjasama erat antara komuniti penyelidikan, pembangun teknologi, dan pihak pembuat dasar untuk memastikan keseimbangan antara inovasi dan perlindungan keselamatan.