एंथ्रोपिक छोड़ने के बाद शोधकर्ता ने AI दौड़ के जोखिमों की चेतावनी दी

एंथ्रोपिक की सेफ्टी टीम से जुड़े एक वरिष्ठ शोधकर्ता जो बेंटन ने संगठन को छोड़ने के बाद आर्टिफिशियल इंटेलिजेंस विकास के संबंध में महत्वपूर्ण चेतावनियां जारी की हैं। बेंटन के अनुसार, सीमांत AI तकनीकों पर काम करने वाली कंपनियों को अपनी विकास प्रक्रिया और सुरक्षा उपायों के बारे में अधिक खुलासा करना चाहिए।

इस कदम के बाद बेंटन अब स्वतंत्र रूप से AI प्रणालियों के मूल्यांकन पर केंद्रित काम करने जा रहे हैं। उनका मानना है कि तेजी से विकसित हो रही AI प्रौद्योगिकियों के संदर्भ में बाहरी पर्यवेक्षण और जवाबदेही के मुद्दे बेहद महत्वपूर्ण हैं।

यह घटना तकनीकी क्षेत्र में AI सुरक्षा को लेकर बढ़ती चिंताओं को दर्शाती है। एंथ्रोपिक सहित कई अग्रणी AI संगठन सुरक्षा और नैतिकता संबंधी मुद्दों को लेकर आंतरिक बहसों का सामना कर रहे हैं।

बेंटन का रुख उस व्यापक बहस का हिस्सा है जो कृत्रिम बुद्धिमत्ता के विकास में तेजी, पारदर्शिता और नियामकीय निरीक्षण के बीच संतुलन को लेकर चल रही है। विशेषज्ञ मानते हैं कि इस क्षेत्र में व्यापक सहमति और मजबूत निरीक्षण तंत्र की आवश्यकता है।