ChatGPT पर हथियारों की जानकारी होगी सीमित, हिंसक चैट पर पैरेंट्स को अलर्ट

आर्टिफिशियल इंटेलिजेंस यानी AI का इस्तेमाल तेजी से बढ़ रहा है। पढ़ाई, नौकरी, रिसर्च, कंटेंट तैयार करने और रोजमर्रा के सवालों के जवाब पाने के लिए लोग ChatGPT जैसे AI टूल का इस्तेमाल कर रहे हैं। लेकिन AI का गलत इस्तेमाल रोकना भी टेक कंपनियों के सामने बड़ी चुनौती बन गया है। इसी को ध्यान में रखते हुए OpenAI ने ChatGPT के लिए नए सेफ्टी फीचर्स और सख्त सुरक्षा नियमों की घोषणा की है।

30 अक्टूबर 2026 को घोषित इन बदलावों का मुख्य उद्देश्य हथियारों से जुड़ी ऐसी व्यावहारिक जानकारी को सीमित करना है, जिसका इस्तेमाल वास्तविक दुनिया में हिंसा करने के लिए किया जा सकता है। खास तौर पर 18 साल से कम उम्र के यूजर्स को हथियारों और सुरक्षा प्रणालियों से जुड़ी जोखिम भरी जानकारी देने पर अतिरिक्त रोक लगाई जाएगी। इसके अलावा अगर किसी बातचीत में कोई व्यक्ति बार-बार हिंसा या किसी को गंभीर नुकसान पहुंचाने की बातों पर अटका दिखाई देता है, तो ChatGPT उस चैट को अपने आप समाप्त कर सकता है। ऐसी कई बातचीत होने पर अकाउंट को अस्थायी रूप से रोकने की संभावना भी रहेगी।

इस बदलाव का एक और महत्वपूर्ण हिस्सा पैरेंटल कंट्रोल से जुड़ा है। अगर किसी किशोर का ChatGPT अकाउंट बार-बार हिंसा से जुड़ी बातचीत के कारण अस्थायी रूप से रोका जाता है, तो OpenAI उसके लिंक किए गए माता-पिता या अभिभावक को सूचना देने की योजना बना रही है। कंपनी का कहना है कि ये सुरक्षा उपाय अगले कुछ हफ्तों में चरणबद्ध तरीके से लागू किए जाएंगे और समय के साथ उनमें सुधार किया जाएगा।

यहां एक बात समझना जरूरी है कि इसका मतलब यह नहीं है कि ChatGPT पर हथियार, इतिहास, युद्ध या हिंसा से जुड़ा हर सवाल पूरी तरह प्रतिबंधित हो जाएगा। खबर का मुख्य मुद्दा ऐसी जानकारी को रोकना है जो किसी को हथियारों का गलत इस्तेमाल करने, हिंसा की योजना बनाने या किसी व्यक्ति को नुकसान पहुंचाने में व्यावहारिक मदद दे सकती है।

OpenAI ने क्यों लिया यह फैसला?

AI चैटबॉट अब सिर्फ सवालों के जवाब देने वाले टूल नहीं रह गए हैं। लोग उनसे लंबे समय तक बातचीत करते हैं और कई बार निजी परेशानियों, गुस्से, तनाव और गंभीर विचारों पर भी चर्चा करते हैं। ऐसी बातचीत में कभी-कभी जोखिम के संकेत धीरे-धीरे सामने आते हैं।

एक सवाल सामान्य दिखाई दे सकता है, लेकिन अगर उससे पहले की बातचीत में किसी को नुकसान पहुंचाने की इच्छा, हिंसा की योजना या हथियार हासिल करने की कोशिश दिखाई दे रही हो, तो उसी सवाल का अर्थ बदल सकता है। OpenAI का कहना है कि वह ऐसे मामलों को केवल एक संदेश के आधार पर नहीं, बल्कि बातचीत के संदर्भ और पहले सामने आए संकेतों को ध्यान में रखकर समझने की क्षमता मजबूत कर रही है।

कंपनी के अनुसार, AI सिस्टम को यह अंतर समझने की जरूरत है कि कोई व्यक्ति किसी ऐतिहासिक घटना को जानना चाहता है, किसी खबर को समझना चाहता है या वास्तव में हिंसा करने के तरीके खोज रहा है। सुरक्षा व्यवस्था का लक्ष्य सामान्य और वैध बातचीत को जारी रखते हुए जोखिम भरी जानकारी देने से बचना है।

OpenAI ने यह भी बताया है कि वह मानसिक स्वास्थ्य और हिंसा रोकथाम से जुड़े विशेषज्ञों के साथ मिलकर इन सुरक्षा उपायों को विकसित कर रही है। इसका मकसद केवल गलत जवाब रोकना नहीं, बल्कि ऐसी परिस्थितियों में समय रहते हस्तक्षेप करना है जहां बातचीत वास्तविक दुनिया में नुकसान का संकेत दे सकती है।

किशोरों को हथियारों से जुड़ी जानकारी पर ज्यादा रोक

नए बदलावों में सबसे ज्यादा ध्यान 18 साल से कम उम्र के यूजर्स पर दिया गया है। OpenAI के अनुसार, किशोरों को हथियारों से जुड़ी व्यावहारिक जानकारी देने पर अतिरिक्त सीमाएं लागू की जाएंगी। यह रोक तब भी लागू हो सकती है जब सवाल देखने में सामान्य या हानिरहित लगे और बातचीत में हिंसक इरादे का स्पष्ट संकेत न हो।

उदाहरण के तौर पर, किसी किशोर को हथियारों या सुरक्षा प्रणालियों के ऐसे व्यावहारिक विवरण नहीं दिए जाएंगे जिनका गलत इस्तेमाल करके किसी को नुकसान पहुंचाया जा सकता हो। कंपनी का उद्देश्य ऐसी जानकारी तक पहुंच सीमित करना है जो हिंसा को आसान बना सकती है।

हालांकि इसका अर्थ यह नहीं है कि किशोर हथियारों से जुड़े किसी भी शैक्षणिक या सामान्य सवाल का जवाब नहीं पा सकेंगे। वे हिंसा को रोकने, किसी विवाद को शांत करने, सुरक्षित रहने, सहायता मांगने और किसी भरोसेमंद वयस्क से संपर्क करने जैसी जानकारी के लिए ChatGPT का इस्तेमाल कर सकते हैं।

इस तरह सुरक्षा व्यवस्था का फोकस केवल विषय पर नहीं, बल्कि जानकारी के संभावित इस्तेमाल पर भी है। उदाहरण के लिए, किसी स्कूल प्रोजेक्ट के लिए हथियारों के इतिहास के बारे में सामान्य जानकारी और किसी हथियार का इस्तेमाल करके नुकसान पहुंचाने की व्यावहारिक प्रक्रिया—दोनों को एक जैसा नहीं माना जाएगा।

हिंसा पर बार-बार बातचीत होने पर ChatGPT खुद बंद कर सकता है चैट

OpenAI के नए सुरक्षा फीचर्स में एक महत्वपूर्ण बदलाव यह है कि ChatGPT ऐसी बातचीत को अपने आप समाप्त कर सकेगा, जिसमें कोई व्यक्ति हिंसा या किसी दूसरे व्यक्ति को गंभीर नुकसान पहुंचाने के विचार पर लगातार अटका हुआ दिखाई देता है।

यह फीचर उन स्थितियों को पहचानने के लिए बनाया जा रहा है, जहां बातचीत सामान्य चर्चा से आगे बढ़कर संभावित हिंसक व्यवहार की ओर जा सकती है। अगर सिस्टम को ऐसे संकेत मिलते हैं, तो वह बातचीत को रोककर उस समय जोखिम को आगे बढ़ने से रोकने की कोशिश करेगा।

यह सुविधा सभी यूजर्स के लिए सुरक्षा व्यवस्था का हिस्सा होगी। इसका मतलब है कि यह केवल किशोरों के अकाउंट तक सीमित नहीं रहेगी। OpenAI का कहना है कि हिंसा से जुड़े जोखिम को पहचानने और जरूरत पड़ने पर बातचीत रोकने के लिए सिस्टम को बेहतर बनाया जा रहा है।

हालांकि हर हिंसा से जुड़ी चर्चा को खतरनाक नहीं माना जाएगा। कोई यूजर किसी फिल्म, इतिहास, समाचार, युद्ध, सामाजिक घटना या काल्पनिक कहानी के बारे में बात कर सकता है। ऐसे विषयों पर सामान्य चर्चा और वास्तविक दुनिया में किसी को नुकसान पहुंचाने की योजना के बीच अंतर समझना इस फीचर के लिए महत्वपूर्ण होगा।

कंपनी के मुताबिक, सुरक्षा व्यवस्था का उद्देश्य सामान्य बातचीत को अनावश्यक रूप से रोकना नहीं, बल्कि उन परिस्थितियों में हस्तक्षेप करना है जहां हिंसा का वास्तविक खतरा दिखाई देता है।

बार-बार ऐसी चैट होने पर अकाउंट अस्थायी रूप से रुक सकता है

नई व्यवस्था में केवल एक बातचीत समाप्त करना ही एकमात्र कदम नहीं होगा। अगर ChatGPT किसी अकाउंट पर कई बार ऐसी चैट समाप्त करता है, जिनमें हिंसा को लेकर गंभीर चिंता दिखाई देती है, तो OpenAI उस अकाउंट को अस्थायी रूप से रोक भी सकती है।

इसका उद्देश्य लगातार जोखिम भरी गतिविधियों को रोकना है। उदाहरण के लिए, अगर कोई व्यक्ति अलग-अलग बातचीत में बार-बार किसी को गंभीर नुकसान पहुंचाने की बात करता है और सिस्टम ऐसे संकेतों को पहचानता है, तो कंपनी आगे की सुरक्षा कार्रवाई कर सकती है।

अकाउंट को अस्थायी रूप से रोकने का फैसला सुरक्षा संकेतों और कंपनी की नीतियों के आधार पर लिया जा सकता है। यह व्यवस्था सामान्य असहमति, गुस्सा व्यक्त करने या किसी काल्पनिक कहानी पर चर्चा करने के लिए नहीं बनाई गई है। OpenAI ने स्पष्ट किया है कि काल्पनिक लेखन, गेमिंग, समाचार, राजनीतिक चर्चा, सामान्य नाराजगी और अमूर्त सवालों को अपने आप हिंसक खतरे के रूप में नहीं देखा जाना चाहिए।

इसका मतलब है कि सिस्टम को संदर्भ समझकर फैसला लेना होगा। केवल किसी व्यक्ति का गुस्सा जाहिर करना या किसी हिंसक घटना के बारे में सवाल पूछना अपने आप में अकाउंट रोकने का आधार नहीं होना चाहिए।

पैरेंट्स को कब मिलेगा अलर्ट?

नए सुरक्षा बदलावों में माता-पिता और अभिभावकों के लिए नोटिफिकेशन की सुविधा भी शामिल है। अगर किसी किशोर का अकाउंट बार-बार हिंसा से जुड़ी बातचीत के कारण अस्थायी रूप से रोक दिया जाता है, तो OpenAI उसके लिंक किए गए पैरेंट या गार्जियन को सूचना देने की योजना बना रही है।

इसका उद्देश्य माता-पिता को ऐसी गंभीर स्थिति के बारे में जानकारी देना है, जिसमें उन्हें अपने बच्चे से बातचीत करने या जरूरत पड़ने पर सहायता उपलब्ध कराने की जरूरत हो सकती है।

यहां यह समझना जरूरी है कि पैरेंटल अलर्ट का मतलब माता-पिता को बच्चे की हर चैट दिखाना नहीं है। ChatGPT के मौजूदा पैरेंटल कंट्रोल सिस्टम में माता-पिता और किशोर के अकाउंट लिंक किए जा सकते हैं, लेकिन इससे माता-पिता को किशोर की पूरी चैट हिस्ट्री, निजी बातचीत या रियल-टाइम गतिविधि देखने का अधिकार नहीं मिलता। सुरक्षा संबंधी नोटिफिकेशन में सीमित जानकारी दी जाती है।

माता-पिता को मिलने वाली सूचना का उद्देश्य बच्चे की सुरक्षा से जुड़ी चिंता बताना है, न कि उसकी हर ऑनलाइन गतिविधि पर नजर रखने की सुविधा देना। इससे परिवार को जरूरत के समय बातचीत शुरू करने और सही मदद उपलब्ध कराने का अवसर मिल सकता है।

पहले से मौजूद पैरेंटल कंट्रोल में क्या सुविधाएं हैं?

ChatGPT में पैरेंटल कंट्रोल की सुविधा पहले से उपलब्ध है। इसके जरिए माता-पिता या अभिभावक अपने किशोर के अकाउंट को अपने अकाउंट से लिंक कर सकते हैं और कुछ सुरक्षा सेटिंग्स को नियंत्रित कर सकते हैं।

अकाउंट लिंक होने के बाद परिवार को कुछ ऐसे विकल्प मिलते हैं, जिनसे किशोर के लिए ChatGPT का इस्तेमाल अधिक सुरक्षित बनाया जा सकता है। इनमें संवेदनशील सामग्री को कम करने वाली सेटिंग, शांत समय यानी Quiet Hours और कुछ सुरक्षा नोटिफिकेशन शामिल हैं।

अकाउंट लिंक करना: माता-पिता या किशोर परिवार के सदस्य को आमंत्रित करके दोनों अकाउंट लिंक कर सकते हैं। इसके लिए सेटिंग्स में Parental Controls का विकल्प इस्तेमाल किया जाता है।

संवेदनशील सामग्री पर नियंत्रण: लिंक किए गए किशोर अकाउंट में ऐसी सुरक्षा सेटिंग्स मिलती हैं, जो ग्राफिक सामग्री, हिंसक रोलप्ले, कुछ संवेदनशील विषयों और अन्य अनुचित सामग्री को कम करने में मदद करती हैं।

Quiet Hours: माता-पिता निर्धारित समय तय कर सकते हैं, जिसमें किशोर ChatGPT का इस्तेमाल नहीं कर पाएगा। यह सुविधा पढ़ाई, नींद और परिवार के समय के लिए डिजिटल सीमाएं तय करने में मदद कर सकती है।

सुरक्षा नोटिफिकेशन: गंभीर सुरक्षा चिंताओं के कुछ मामलों में माता-पिता को ईमेल, SMS या मोबाइल पुश नोटिफिकेशन के जरिए जानकारी मिल सकती है।

इन सुविधाओं का उद्देश्य परिवारों को डिजिटल सुरक्षा के लिए बेहतर नियंत्रण देना है। हालांकि पैरेंटल कंट्रोल को बच्चों की पूरी निगरानी करने वाला सिस्टम नहीं समझना चाहिए।

क्या माता-पिता बच्चे की पूरी चैट पढ़ सकेंगे?

यह इस खबर से जुड़ा सबसे महत्वपूर्ण सवाल है। ChatGPT के पैरेंटल कंट्रोल में अकाउंट लिंक करने का मतलब यह नहीं है कि माता-पिता को बच्चे की पूरी बातचीत पढ़ने की अनुमति मिल जाती है।

OpenAI के मौजूदा नियमों के अनुसार, लिंक किए गए पैरेंट अकाउंट से किशोर की चैट हिस्ट्री या रियल-टाइम गतिविधि नहीं देखी जा सकती। सुरक्षा नोटिफिकेशन में केवल सीमित जानकारी दी जाती है, जैसे किस तरह की सुरक्षा चिंता सामने आई या अकाउंट पर कौन-सी कार्रवाई की गई।

यह व्यवस्था बच्चों की सुरक्षा और उनकी निजता के बीच संतुलन बनाने की कोशिश करती है। किशोरों को अपनी पढ़ाई, सामान्य सवालों और व्यक्तिगत विषयों पर AI से बातचीत करने की जगह मिलती है, जबकि गंभीर सुरक्षा संकेत सामने आने पर अभिभावकों को सूचित किया जा सकता है।

हालांकि किसी भी डिजिटल सुरक्षा व्यवस्था की सीमाएं होती हैं। नोटिफिकेशन हर संभावित समस्या को पहचान पाए, इसकी गारंटी नहीं होती। इसलिए माता-पिता और बच्चों के बीच खुलकर बातचीत, भरोसा और जरूरत पड़ने पर विशेषज्ञों की मदद भी जरूरी है।

OpenAI ने उम्र पहचानने वाला सिस्टम भी मजबूत किया

नए सुरक्षा बदलावों का एक और हिस्सा उम्र पहचानने की तकनीक से जुड़ा है। OpenAI ने अपने Age Prediction सिस्टम को मजबूत करने की घोषणा की है। इसका उद्देश्य यह अनुमान लगाना है कि ChatGPT इस्तेमाल करने वाला व्यक्ति 18 साल से कम उम्र का है या वयस्क।

यह सिस्टम उपयोग के व्यवहार और अन्य संकेतों का विश्लेषण करके उम्र का अनुमान लगा सकता है। अगर सिस्टम को लगता है कि कोई अकाउंट किशोर का हो सकता है, तो उसे जरूरत के अनुसार कम उम्र वाले यूजर्स के अनुभव में स्थानांतरित किया जा सकता है।

इस बदलाव का महत्व इसलिए है क्योंकि हर यूजर अपने अकाउंट में सही उम्र दर्ज करे, यह हमेशा सुनिश्चित नहीं किया जा सकता। अगर कोई किशोर खुद को वयस्क बताकर अकाउंट इस्तेमाल करता है, तो उम्र पहचानने की तकनीक अतिरिक्त सुरक्षा उपलब्ध कराने में मदद कर सकती है।

हालांकि उम्र का अनुमान हमेशा सही हो, इसकी गारंटी नहीं होती। OpenAI के अनुसार, अगर किसी वयस्क को गलती से किशोर अनुभव में रखा जाता है, तो उसके पास अपनी उम्र की पुष्टि करने और अतिरिक्त किशोर सुरक्षा हटवाने का तरीका उपलब्ध रहेगा।

इससे कंपनी का उद्देश्य कम उम्र के यूजर्स को अधिक सुरक्षा देना है, लेकिन वयस्कों को गलत तरीके से प्रतिबंधित होने से बचाना भी है।

पुरानी सामूहिक हिंसक घटनाओं की जानकारी पर भी सख्ती

OpenAI ने केवल भविष्य में होने वाली हिंसा से जुड़े सवालों पर ही ध्यान नहीं दिया है। कंपनी पुराने सामूहिक हमलों और हिंसक घटनाओं के बारे में दी जाने वाली जानकारी को भी सीमित कर रही है।

अब ChatGPT ऐसी घटनाओं के बारे में कम विस्तृत जानकारी देने की दिशा में काम करेगा, जिसमें हमलावरों द्वारा इस्तेमाल किए गए हथियारों, उपकरणों और उन्हें हासिल करने के तरीकों का बारीक विवरण शामिल हो सकता है। यह नियम उम्र की परवाह किए बिना सभी यूजर्स पर लागू होगा।

हालांकि ऐसी घटनाओं के सामाजिक प्रभाव, पीड़ितों की स्थिति, समुदायों पर पड़े असर और भविष्य में ऐसी घटनाओं को रोकने के तरीकों के बारे में जानकारी हासिल करना संभव रहेगा।

इस बदलाव का उद्देश्य हिंसक घटनाओं का अध्ययन रोकना नहीं, बल्कि ऐसे विवरणों को सीमित करना है जिनका इस्तेमाल कोई व्यक्ति भविष्य में नुकसान पहुंचाने के लिए कर सकता है। उदाहरण के लिए, किसी घटना के कारणों, पीड़ितों पर प्रभाव और सुरक्षा व्यवस्था की कमियों पर चर्चा की जा सकती है, लेकिन हमले को दोहराने में मदद करने वाले व्यावहारिक विवरण सीमित किए जाएंगे।

क्या ChatGPT पर हथियारों के हर सवाल का जवाब बंद हो जाएगा?

नहीं, इस खबर को इस तरह समझना सही नहीं होगा कि ChatGPT पर हथियारों या हिंसा से जुड़े हर सवाल का जवाब पूरी तरह बंद हो जाएगा।

हथियारों का इतिहास, कानून, सार्वजनिक सुरक्षा, युद्ध का सामाजिक प्रभाव, हिंसा की रोकथाम और सुरक्षा से जुड़े सामान्य सवाल अब भी वैध चर्चा के विषय हो सकते हैं। फर्क उस जानकारी में है जो किसी व्यक्ति को हथियार हासिल करने, उसका गलत इस्तेमाल करने या हिंसक गतिविधि को अंजाम देने में व्यावहारिक मदद दे सकती है।

किशोरों के लिए इस तरह की व्यावहारिक जानकारी पर अतिरिक्त सीमाएं होंगी। सभी यूजर्स के लिए भी हिंसा की योजना बनाने या उसे अंजाम देने में मदद करने वाले निर्देशों पर रोक है। इसके अलावा पुरानी सामूहिक हिंसक घटनाओं के हथियारों और उपकरणों से जुड़े अत्यधिक विस्तृत विवरण भी सीमित किए जा रहे हैं।

इसलिए किसी ऐतिहासिक या शैक्षणिक सवाल को हिंसा की योजना बनाने वाले सवाल के बराबर नहीं माना जाना चाहिए। सिस्टम का लक्ष्य बातचीत के संदर्भ को समझकर उचित जवाब देना है।

AI कंपनियों पर क्यों बढ़ रहा है सुरक्षा का दबाव?

ChatGPT जैसे AI टूल का इस्तेमाल दुनिया भर में बढ़ रहा है। लोग इनका उपयोग पढ़ाई, काम, जानकारी और निजी बातचीत के लिए करते हैं। ऐसे में AI कंपनियों की जिम्मेदारी भी बढ़ गई है कि उनके टूल का इस्तेमाल किसी व्यक्ति या समुदाय को नुकसान पहुंचाने के लिए न हो।

AI सिस्टम तेजी से जानकारी दे सकते हैं और बातचीत के दौरान कई सवालों का जवाब तैयार कर सकते हैं। अगर इनका गलत इस्तेमाल हो, तो जोखिम बढ़ सकता है। इसी वजह से कंपनियों को यह सुनिश्चित करना पड़ता है कि उनके सिस्टम खतरनाक निर्देश, हिंसा की योजना या गंभीर नुकसान पहुंचाने वाली सलाह उपलब्ध न कराएं।

OpenAI ने अपनी सामुदायिक सुरक्षा रिपोर्ट में बताया कि 2026 की तीसरी तिमाही में उसने हिंसक योजनाओं को रोकने के लिए कानून प्रवर्तन एजेंसियों को 200 से अधिक रेफरल किए। कंपनी ने यह भी कहा कि वह संभावित जोखिम की पहचान और समीक्षा के लिए विशेषज्ञों के साथ काम कर रही है।

यह कदम दिखाता है कि AI सुरक्षा अब केवल गलत जानकारी या अनुचित भाषा तक सीमित नहीं है। इसमें वास्तविक दुनिया में होने वाले नुकसान को रोकना भी शामिल हो गया है।

नए सेफ्टी फीचर्स कब से लागू होंगे?

OpenAI ने 30 अक्टूबर 2026 को इन नए सुरक्षा उपायों की घोषणा की है। कंपनी के अनुसार, नए फीचर्स अगले कुछ हफ्तों में चरणबद्ध तरीके से लागू होने शुरू होंगे। इसका अर्थ है कि सभी यूजर्स को एक ही दिन ये बदलाव दिखाई दें, यह जरूरी नहीं है। अलग-अलग फीचर्स अलग समय पर उपलब्ध हो सकते हैं।

ChatGPT, Claude और Grok एक साथ डाउन: लॉगिन और जवाब में दिक्कत, जानें क्या हुआ

http://ChatGPT और आर्टिफिशियल इंटेलिजेंस की ऑनलाइन सुरक्षा व्यवस्था