ChatGPT के नए सेफ्टी फीचर्स लागू, हिंसक चैट पर होगी कार्रवाई

ChatGPT के नए सेफ्टी फीचर्स के तहत अब किशोरों को हथियारों और सिक्योरिटी सिस्टम से जुड़ी संवेदनशील जानकारी देना आसान नहीं होगा। OpenAI ने युवाओं की सुरक्षा को ध्यान में रखते हुए अपने AI प्लेटफॉर्म के नियमों को और सख्त करने का फैसला किया है। नए बदलावों के तहत अगर कोई यूजर लगातार हिंसा या किसी को नुकसान पहुंचाने से जुड़ी बातें करता है, तो ChatGPT उस बातचीत को अपने आप बंद कर सकता है।

कंपनी के मुताबिक, बार-बार इस तरह की बातचीत होने पर यूजर का अकाउंट अस्थायी रूप से रोका भी जा सकता है। इसके अलावा, अगर किसी किशोर का अकाउंट हिंसा से जुड़ी गतिविधियों के कारण रोका जाता है, तो उसके पैरेंट्स को इसकी सूचना देने की व्यवस्था भी की जा रही है। इन नए सुरक्षा फीचर्स को अगले कुछ हफ्तों में चरणबद्ध तरीके से लागू किया जाएगा।

ChatGPT में हथियारों से जुड़ी जानकारी पर लगेगी रोक

OpenAI के नए फैसले के मुताबिक, 18 साल से कम उम्र के यूजर्स को हथियारों और सिक्योरिटी सिस्टम से जुड़ी ऐसी व्यावहारिक जानकारी नहीं दी जाएगी, जिसका इस्तेमाल हिंसा को बढ़ावा देने या किसी को नुकसान पहुंचाने के लिए किया जा सकता है। खास बात यह है कि यह नियम तब भी लागू होगा, जब किशोर का सवाल सामान्य दिखाई दे और उसमें हिंसा करने का कोई इरादा नजर न आए। यानी अब केवल सवाल के आधार पर नहीं, बल्कि उससे जुड़े संभावित खतरे को भी ध्यान में रखा जाएगा।

हिंसक चैट होने पर अपने आप बंद होगी बातचीत

OpenAI ने सभी यूजर्स के लिए भी कुछ नए सुरक्षा उपायों की घोषणा की है। अगर ChatGPT को बातचीत के दौरान ऐसा लगता है कि कोई व्यक्ति लगातार हिंसा या किसी दूसरे को गंभीर नुकसान पहुंचाने पर ध्यान केंद्रित कर रहा है, तो सिस्टम उस चैट को अपने आप समाप्त कर सकता है। अगर कोई यूजर बार-बार ऐसी बातचीत करता है और कई चैट सेशन इसी वजह से बंद होते हैं, तो कंपनी उसका अकाउंट कुछ समय के लिए अस्थायी रूप से रोक सकती है। कंपनी का उद्देश्य ऐसी गतिविधियों को शुरुआती स्तर पर ही रोकना है, ताकि AI का इस्तेमाल किसी हिंसक घटना की योजना बनाने या उसे अंजाम देने में न हो सके।

पुराने बड़े हमलों की जानकारी भी सीमित होगी

ChatGPT पर अब इतिहास में हुए बड़े सामूहिक हमलों से जुड़ी संवेदनशील जानकारी देने के मामले में भी सख्ती की जाएगी। यह नियम सभी यूजर्स पर लागू होगा। इसके तहत पुराने हमलों में इस्तेमाल किए गए हथियारों, उन्हें हासिल करने के तरीकों और हमलों की विस्तृत योजना जैसी जानकारी को सीमित किया जाएगा। हालांकि, यूजर्स इन घटनाओं के इतिहास, पीड़ितों पर पड़े प्रभाव और भविष्य में ऐसी घटनाओं को रोकने के तरीकों के बारे में जानकारी ले सकेंगे। कंपनी का मकसद इतिहास की जानकारी रोकना नहीं, बल्कि ऐसी संवेदनशील जानकारियों को सीमित करना है, जिनका गलत इस्तेमाल हो सकता है।

पैरेंट्स को कैसे मिलेगा अलर्ट?

OpenAI के नए सुरक्षा उपायों में माता-पिता के लिए भी अहम बदलाव शामिल हैं। अगर किसी किशोर का अकाउंट बार-बार हिंसा से जुड़ी बातचीत के कारण अस्थायी रूप से रोका जाता है, तो उसके पैरेंट्स को इसकी सूचना देने की व्यवस्था की जा रही है। इसके लिए माता-पिता और किशोर के ChatGPT अकाउंट का लिंक होना जरूरी होगा। कंपनी पहले से ही कुछ गंभीर सुरक्षा चिंताओं, जैसे आत्महत्या या खुद को नुकसान पहुंचाने के संभावित संकेतों पर पैरेंट्स को अलर्ट भेजने की सुविधा देती है। ध्यान देने वाली बात यह है कि पैरेंट्स को किशोर की पूरी चैट हिस्ट्री नहीं दिखाई जाएगी। उन्हें केवल सुरक्षा से जुड़ी जरूरी जानकारी दी जाएगी, ताकि वे समय रहते अपने बच्चों की मदद कर सकें।

उम्र का अनुमान लगाने वाला सिस्टम भी हुआ मजबूत

OpenAI ने अपने एज प्रेडिक्शन सिस्टम को भी बेहतर बनाया है। यह सिस्टम यूजर के व्यवहार और दूसरी उपलब्ध जानकारियों के आधार पर अनुमान लगाता है कि वह 18 साल से कम उम्र का है या वयस्क। अगर सिस्टम को लगता है कि कोई यूजर किशोर है, तो उसके अकाउंट पर उम्र के हिसाब से अतिरिक्त सुरक्षा नियम लागू किए जा सकते हैं। इससे उन किशोरों को भी सुरक्षा मिल सकेगी, जिन्होंने अकाउंट बनाते समय अपनी उम्र की सही जानकारी नहीं दी है। हालांकि, अगर कोई वयस्क गलती से किशोर वाले अनुभव में चला जाता है, तो उसके पास अपनी उम्र सत्यापित करने का विकल्प भी रहेगा।

किशोर रोजाना 15 मिनट से भी कम करते हैं ChatGPT का इस्तेमाल

OpenAI की ओर से जारी किशोरों के इस्तेमाल से जुड़ी रिपोर्ट में बताया गया है कि टीनेजर्स रोजाना औसतन 15 मिनट से भी कम समय ChatGPT पर बिताते हैं। इसके बावजूद कंपनी का मानना है कि AI प्लेटफॉर्म पर बच्चों और किशोरों की सुरक्षा को लेकर अतिरिक्त सावधानी जरूरी है। खासकर हिंसा, आत्महत्या और खुद को नुकसान पहुंचाने जैसी गंभीर स्थितियों में समय पर कदम उठाना अहम है।

यह भी पढ़े: 1 नवंबर से दिल्ली में किन गाड़ियों की होगी नो एंट्री?

यह भी पढ़े: कम कीमत में ज्यादा माइलेज, ये 5 कारें बचाएंगी आपका पेट्रोल खर्च

क्यों सख्त किए जा रहे हैं ChatGPT के सुरक्षा नियम?

पिछले कुछ समय से AI प्लेटफॉर्म पर बच्चों और किशोरों की सुरक्षा को लेकर लगातार सवाल उठ रहे हैं। कॉमन सेंस मीडिया (Common Sense Media) जैसी संस्थाओं ने भी किशोरों के AI इस्तेमाल और सुरक्षा व्यवस्था को लेकर चिंता जताई है। ऐसी रिपोर्ट्स के बाद AI कंपनियों पर यह जिम्मेदारी बढ़ी है कि वे अपने प्लेटफॉर्म पर गलत इस्तेमाल को रोकने के लिए मजबूत व्यवस्था तैयार करें। OpenAI का कहना है कि नए सुरक्षा फीचर्स को अगले कुछ हफ्तों में लागू करना शुरू किया जाएगा। कंपनी इनके काम करने के तरीके पर नजर रखेगी और जरूरत के मुताबिक आगे भी बदलाव करेगी।