अमेरिकी आर्टिफिशियल इंटेलिजेंस कंपनी एंथ्रोपिक (Anthropic) ने एआई के खतरनाक इस्तेमाल के आरोप लगाए हैं. साथ ही कहा है कि वैज्ञानिकों ने उसके आर्टिफिशियल इंटेलिजेंस मॉडल का इस्तेमाल ऐसे रिसर्च में किया, जिससे जैविक हथियार बनाने में मदद मिल सकती थी. इसी को देखते हुए कंपनी ने अपनी सुरक्षा व्यवस्था को और सख्त कर दिया है.
एनडीटीपी में छपी खबर के मुताबिक कंपनी की रिपोर्ट के हवाले से कहा गया कि इस साल एंथ्रोपिक ने कई संभावित साजिशों को रोक दिया है.ये देश और दुनिया के लिए खतरनाक हो सकती थीं. कंपनी ने बताया कि कुछ यूजर्स उसके मॉडल Claude का इस्तेमाल उन्नत जैविक शोध के लिए करने की कोशिश कर रहे थे.
Anthropic ने साफ कहा कि वह इस बात का पक्का सबूत नहीं जुटा सकी कि रिसर्च वाकई हथियार बनाने के इरादे से हो रही थी या नहीं क्योंकि जीव विज्ञान में यह फर्क करना काफी मुश्किल होता है. हो सकता है कि यही रिसर्च किसी वायरस या बैक्टीरिया के खिलाफ वैक्सीन बनाने जैसे अच्छे कामों के लिए भी हो रहा हो. हालांकि अगर इसका उद्धेश्य गलत है तो यह रोगाणुओं को ज्यादा खतरनाक भी बना सकती है. इसलिए कंपनी ने सावधानी बरतते हुए कदम उठाए हैं.
कंपनी ने दिया उदाहरण, बताया मामला
कंपनी ने बताया कि हालिया मामले में मई में एक वैज्ञानिक ने चिकनगुनिया वायरस पर रिसर्च के लिए Claude का इस्तेमाल किया. यह वायरस मच्छर से फैलता है और महीनों तक दर्द दे सकता है. वैज्ञानिक गेन-ऑफ-फंक्शन रिसर्च करना चाहता था, जिसमें वायरस को बदलकर देखा जाता है कि वह कैसे व्यवहार करता है. Anthropic को इसलिए चिंता हुई क्योंकि यह रिसर्च एक सैन्य रिसर्च संस्थान में होने वाली थी न कि किसी यूनिवर्सिटी या मेडिकल लेबोरेटरी में. वैज्ञानिक ने वायरस को जानवरों में बार-बार पास करके उसके नुकसान को बढ़ाने वाली म्यूटेशन विकसित करने की कोशिश की. हालांकि कंपनी ने उस वैज्ञानिक, संस्थान या देश के नाम का खुलासा नहीं किया है.
रिपोर्ट में कहा गया कि शोधकर्ता अपने काम का असली मकसद छिपाने की कोशिश कर रहे थे, ताकि कंपनी के सुरक्षा नियमों को दरकिनार किया जा सके. Anthropic ने ऐसे अकाउंट्स को अब बैन कर दिया है.
नए मॉडल हैं ज्यादा कारगर
पिछले साल तक पुराने मॉडल इतने सक्षम नहीं थे कि खतरनाक जैविक रिसर्च में मदद कर सकें. लेकिन नए मॉडल ज्यादा जटिल काम कर सकते हैं. इसलिए कंपनी ने दोहरे इस्तेमाल वाली जैविक पूछताछ पर सख्त नियंत्रण लगा दिए हैं.
अन्य मामले भी आए सामने
रिपोर्ट में जैविक मामलों के अलावा एआई के अन्य गलत इस्तेमाल भी सामने आए हैं. कुछ यूजर्स ने Claude का इस्तेमाल पारंपरिक हथियारों जैसे आग्नेयास्त्र, मिसाइल, ड्रोन और बम से जुड़े सॉफ्टवेयर के लिए किया. चीन, रूस और यमन से जुड़े छह मामले मिले. यमन वाले मामले में ईरान समर्थित हूथी समूह का संकेत है. इसके अलावा चीनी और ईरानी एजेंट्स से जुड़े संदिग्ध सरकारी मामलों में प्रवासी समुदायों पर निगरानी भी पकड़ी गई.
Anthropic का कहना है कि एआई का जैविक इस्तेमाल सबसे चिंताजनक है क्योंकि इसके नतीजे बहुत बड़े और बुरे हो सकते हैं. कंपनी ने कहा कि वह गलत इस्तेमाल रोकने के लिए लगातार निगरानी और सुरक्षा बढ़ा रही है.
