AI ने पुलिस की वेबसाइट पर भेजी फर्जी जानकारी, सुरक्षा को लेकर बढ़ी चिंता

आर्टिफिशियल इंटेलिजेंस (AI) अब सिर्फ सवालों के जवाब देने तक सीमित नहीं है। कई AI एजेंट इंटरनेट पर मौजूद वेबसाइट्स के साथ बातचीत करने और खुद कुछ काम करने में भी सक्षम हैं। लेकिन इनकी बढ़ती क्षमताओं के बीच एक नई घटना ने सुरक्षा को लेकर सवाल खड़े कर दिए हैं। Anthropic के एक AI मॉडल ने अमेरिका के फिलाडेल्फिया पुलिस विभाग की अनसुलझी हत्याओं से जुड़ी वेबसाइट पर कथित तौर पर फर्जी जानकारी भेज दी। यह घटना 18 जुलाई को हुई थी, जबकि कंपनी ने पुलिस को इसकी जानकारी 7 अक्टूबर को दी। सूचना देने में हुई देरी पर पुलिस ने नाराजगी जताई है।

ऑटोमेटेड टेस्टिंग के दौरान हुई गलती

AFP की रिपोर्ट के मुताबिक, फिलाडेल्फिया पुलिस की वेबसाइट पर 18 जुलाई को एक संदिग्ध टिप सबमिट की गई थी। वेबसाइट पर लोग अनसुलझे हत्या के मामलों से जुड़ी जानकारी साझा कर सकते हैं। Anthropic ने पुलिस को बताया कि उसका AI मॉडल ऑटोमेटेड टेस्टिंग के दौरान अलग-अलग वेबसाइट्स के साथ काम कर रहा था। इसी प्रक्रिया में उसने पुलिस की वेबसाइट पर एक हत्या के मामले से जुड़ी मनगढ़ंत जानकारी भेज दी। AI ने खुद को ऐसा व्यक्ति दिखाया, जिसके पास मामले से संबंधित जानकारी हो सकती थी।

हालांकि, वेबसाइट के सिस्टम ने इस जानकारी को स्पैम के रूप में पहचान लिया। इस वजह से टिप पुलिस के रियल टाइम क्राइम सेंटर तक नहीं पहुंची। पुलिस ने यह भी स्पष्ट किया कि उसके सिस्टम में सेंध लगाने या विभागीय डेटा से छेड़छाड़ होने का कोई सबूत नहीं मिला।

दो महीने बाद पुलिस को दी गई जानकारी

Anthropic को 28 सितंबर को इस घटना का पता चला। इसके बाद कंपनी ने संबंधित ऑटोमेटेड टेस्टिंग प्रक्रिया रोक दी और भविष्य में ऐसी गलतियों को रोकने के लिए अतिरिक्त वेरिफिकेशन सिस्टम जोड़ा। कंपनी ने 7 अक्टूबर को पुलिस को घटना की जानकारी दी। अगले दिन दोनों पक्षों के प्रतिनिधियों के बीच मुलाकात भी हुई। फिलाडेल्फिया पुलिस ने जानकारी देने में हुई देरी पर सवाल उठाए। विभाग का कहना था कि ऐसी घटना के बारे में पता लगाने और संबंधित अधिकारियों को सूचित करने में दो महीने से ज्यादा समय लगना स्वीकार्य नहीं है। पुलिस के मुताबिक, अनसुलझे मामलों में पीड़ित परिवारों और जांच अधिकारियों की भावनाएं जुड़ी होती हैं। ऐसे में किसी वास्तविक सूचना जैसी दिखने वाली फर्जी जानकारी गंभीर परेशानी पैदा कर सकती है।

OpenAI से जुड़े मामले के बाद फिर चर्चा

AI सुरक्षा को लेकर यह चिंता ऐसे समय बढ़ी है, जब OpenAI के एजेंट्स से जुड़ी एक दूसरी घटना भी चर्चा में आई थी। रिपोर्ट के अनुसार, उस मामले में टेस्टिंग के दौरान AI एजेंट्स ने तय सुरक्षा सीमाओं को पार कर Hugging Face और कुछ अन्य सिस्टम तक पहुंच बनाई थी। OpenAI ने 26 अगस्त की अपनी तकनीकी रिपोर्ट में माना था कि उसके मॉडल ने इंटरनेट से अलग रखने के लिए बनाई गई कुछ पाबंदियों को पार किया था। दोनों मामलों में अंतर है। Anthropic की घटना में पुलिस सिस्टम में सेंध का सबूत नहीं मिला, जबकि OpenAI के मामले में अनधिकृत सिस्टम एक्सेस की बात सामने आई थी। फिर भी दोनों घटनाएं बताती हैं कि वेबसाइट्स और ऑनलाइन टूल्स का इस्तेमाल करने वाले AI एजेंट्स से अनचाही गतिविधियां हो सकती हैं।

AI कंपनियों के सामने बड़ी चुनौती

AI सुरक्षा को लेकर बहस के बीच अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप ने प्रमुख टेक कंपनियों के साथ एक स्वैच्छिक समझौते की घोषणा की थी। इसमें सुरक्षा उपायों, स्वतंत्र ऑडिट और जोखिमों की निगरानी जैसे कदम शामिल बताए गए थे। हालांकि, यह समझौता कानूनी रूप से बाध्यकारी नहीं है। Anthropic की घटना ने एक बार फिर साफ किया है कि AI को ज्यादा स्वतंत्रता देने के साथ उसकी गतिविधियों पर निगरानी रखना भी जरूरी है। सवाल सिर्फ यह नहीं है कि AI क्या कर सकता है, बल्कि यह भी है कि गलत कदम उठाने पर उसे समय रहते कैसे रोका जाए। आने वाले समय में AI एजेंट्स के बढ़ते इस्तेमाल के साथ उनकी सुरक्षा और जवाबदेही और भी अहम होने वाली है।