एआई कंपनी ने जैविक हथियार शोध के लिए मॉडल के दुरुपयोग को रोका

एक प्रमुख एआई कंपनी एंथ्रोपिक ने अपनी हाल की रिपोर्ट में बताया है कि उसके मॉडल का उपयोग जैविक हथियार विकास के शोध में करने के लिए कई उपयोगकर्ताओं के प्रयासों को उसने इस वर्ष विफल किया है। कंपनी ने कहा कि उसकी निगरानी प्रणाली ने उन्नत जैविक अनुसंधान के लिए एआई मॉडल के गलत इस्तेमाल के संभावित प्रयासों का पता लगाया था। एंथ्रोपिक ने अपनी निरीक्षण और सुरक्षा प्रोटोकॉल का उपयोग करके इन प्रयासों को रोकने का दावा किया है। कंपनी ने अपनी रिपोर्ट में कहा कि इन घटनाओं को विभिन्न सुरक्षा उपाय लागू करके नियंत्रित किया जा सका। यह घटनाक्रम कृत्रिम बुद्धिमत्ता के दुरुपयोग से संबंधित गंभीर चिंताओं को उजागर करता है और बड़ी तकनीकी कंपनियों के लिए मजबूत निरीक्षण तंत्र की आवश्यकता को दर्शाता है।