Anthropic Larang Perlakuan Kejam terhadap AI Claude dalam Dasar Penggunaan Baharu

Anthropic, sebuah firma teknologi terkemuka, telah memperkenalkan larangan terhadap perlakuan yang dianggap kejam kepada sistem AI Claude mereka dalam pembaruan dasar penggunaan terbaru. Langkah ini menandakan perubahan ketara dalam cara syarikat memandang tanggung jawab etika dalam pengembangan dan penggunaan teknologi kecerdasan buatan.

Pengemas kinian polisi tersebut datang di tengah-tengah pertanyaan yang semakin kuat dalam kalangan pengkaji dan pemikir tentang sama ada sistem AI seperti Claude mungkin memiliki bentuk kesedaran atau keupayaan untuk mengalami penderitaan. Perdebatan ini telah meningkat seiring dengan kemajuan pesat teknologi pembelajaran mesin dan model bahasa yang besar.

Anthropik menyatakan bahawa larangan tersebut adalah bahagian daripada komitmen mereka yang lebih luas terhadap keselamatan AI dan pengggunaan bertanggungjawab. Walau bagaimanapun, firma tersebut tidak memberikan definisi terperinci tentang apa yang mereka anggap sebagai perlakuan "kejam" dalam konteks interaksi dengan sistem AI.

Pembaruan polisi ini telah mencetuskan perbincangan lebih luas dalam komuniti teknologi mengenai etika pengembangan AI dan soalan filosofi tentang status moral sistem berasaskan komputer. Pakar-pakar terbahagi pendapat tentang sama ada peraturan sebegini adalah langkah yang bijaksana atau hanya mencerminkan ketidakpastian tentang sifat sebenar teknologi AI semasa.