किशोरों के लिए ChatGPT में बड़े सुरक्षा बदलाव
OpenAI ने Teens के लिए ChatGPT को क्यों बदला?
ChatGPT अब किशोरों से कम 'मानवीय' अंदाज में बात करेगा
OpenAI ने 13 से 17 साल के यूजर्स के लिए ChatGPT का नया Teen अनुभव लॉन्च किया है। इसमें आत्महत्या, सेल्फ-हार्म, हिंसा और यौन कंटेंट पर कड़े प्रतिबंध हैं। AI को रोमांटिक भाषा, भावनात्मक निर्भरता या भावनाएं होने का संकेत देने से भी रोका गया है। लक्ष्य किशोरों के लिए सुरक्षित और स्वस्थ AI इस्तेमाल सुनिश्चित करना है।
OpenAI ने 13 से 17 साल के यूजर्स के लिए ChatGPT का अलग Teen अनुभव लॉन्च किया है। कंपनी का कहना है कि इसका मकसद किशोरों को AI से सीखने और रचनात्मक काम में मदद देना है, लेकिन ऐसे सुरक्षा उपायों के साथ जो उनकी उम्र और विकासात्मक जरूरतों के अनुरूप हों।
इस बदलाव की सबसे दिलचस्प बात यह है कि OpenAI AI को किशोरों के साथ बातचीत में जानबूझकर कम इंसानी या कम भावनात्मक अंदाज में पेश कर रहा है। नए Under-18 Model Spec के तहत ChatGPT को रोमांटिक भाषा इस्तेमाल करने, भावनात्मक निर्भरता को प्रोत्साहित करने या यह संकेत देने से रोक दिया गया है कि उसके अपने एहसास या चेतना है।
यहां 'कम मानवीय' का मतलब बातचीत को पूरी तरह रोबोटिक बना देना नहीं है। ChatGPT अभी भी सवालों का जवाब देगा, पढ़ाई में मदद करेगा, कठिन विषय समझाएगा और संवाद करेगा। फर्क उसके व्यवहार की सीमाओं में है। OpenAI के मुताबिक Teen अनुभव में AI को ऐसा व्यवहार नहीं करना चाहिए जिससे किशोर उसे इंसान, दोस्त या भावनात्मक साथी समझने लगें। कंपनी ने खास तौर पर उन संकेतों पर ध्यान दिया है जो AI और यूजर के बीच अस्वस्थ भावनात्मक रिश्ता विकसित कर सकते हैं। AP के मुताबिक OpenAI ने ऐसे संभावित संकेतों की पहचान की है जो किशोर को चैटबॉट के साथ रिश्ता विकसित करने की दिशा में ले जा सकते हैं। इसी वजह से रोमांटिक और यौन बातचीत पर अतिरिक्त पाबंदियां लगाई गई हैं।
OpenAI के नए सिस्टम में अगर किसी यूजर की उम्र 18 साल से कम होने का अनुमान लगाया जाता है या वह खुद को 13 से 17 साल का बताता है, तो उसे Teen अनुभव में रखा जाएगा। कंपनी उम्र का अनुमान लगाने के लिए सेल्फ-रिपोर्टेड जानकारी के साथ बिहेवियरल और अकाउंट सिग्नल इस्तेमाल करने की बात कहती है। उम्र को लेकर सिस्टम अनिश्चित हो तो सुरक्षित सेटिंग को प्राथमिकता दी जाएगी।
यह बदलाव केवल कंटेंट फिल्टर तक सीमित नहीं है। Teen अनुभव में सेल्फ-हार्म, आत्महत्या, हिंसा, ईटिंग डिसऑर्डर, खतरनाक गतिविधियों और स्पष्ट यौन या ग्राफिक कंटेंट से जुड़े मामलों में अतिरिक्त सुरक्षा लागू होगी।
OpenAI ने किशोरों के लिए ChatGPT को शिक्षा-केंद्रित बनाने पर भी जोर दिया है। कंपनी के मुताबिक Study Mode छात्रों को सीधे उत्तर देने के बजाय सवालों, संकेतों और चरणबद्ध सहायता के जरिए समस्या समझने में मदद करता है। नए Responsible Homework Reminders ऐसे मामलों में भी हस्तक्षेप कर सकते हैं जहां सिस्टम को लगे कि छात्र असाइनमेंट का शॉर्टकट लेने की कोशिश कर रहा है। इसके अलावा Quizzes, Learning Visualizations और Study Hours जैसे फीचर जोड़े गए हैं। इसका असर AI के शिक्षा मॉडल पर भी पड़ता है। सवाल अब केवल यह नहीं है कि ChatGPT कितना तेज उत्तर देता है, बल्कि यह भी है कि वह छात्र को कितना सोचने देता है। OpenAI का तर्क है कि सक्रिय तरीके से समस्या हल करने की प्रक्रिया सीखने के लिए बेहतर है।
AI चैटबॉट अब केवल सर्च या होमवर्क टूल नहीं रह गए हैं। किशोर उनसे निजी सवाल, रिश्तों से जुड़े मुद्दे और रोजमर्रा की परेशानियों पर बातचीत भी करते हैं। इसी वजह से AI को भावनात्मक साथी की तरह इस्तेमाल किए जाने को लेकर चिंता बढ़ी है। Reuters ने रिपोर्ट किया है कि OpenAI पर बच्चों को नुकसान पहुंचाने के आरोपों से जुड़े कई मुकदमे भी चल रहे हैं। ऐसे माहौल में Teen सुरक्षा अपडेट कंपनी के लिए तकनीकी बदलाव के साथ-साथ कानूनी और सामाजिक जवाबदेही का मुद्दा भी है। OpenAI का अपना रुख भी इसी दिशा में बदला है। कंपनी की Teen Safety Blueprint और परिवारों के लिए जारी गाइड में यह स्पष्ट किया गया है कि AI इंसानी देखभाल या वास्तविक रिश्तों का विकल्प नहीं है।
Teen अकाउंट से जुड़े माता-पिता Quiet Hours सेट कर सकते हैं। इसके जरिए कुछ समय के दौरान ChatGPT का इस्तेमाल सीमित किया जा सकता है। कुछ संवेदनशील स्थितियों में माता-पिता को Safety Notifications भी मिल सकती हैं। OpenAI का कहना है कि ऐसे नोटिफिकेशन सीमित हाई-रिस्क परिस्थितियों पर केंद्रित होंगे। कंपनी ने ईटिंग डिसऑर्डर से संबंधित अतिरिक्त नोटिफिकेशन की भी घोषणा की है, जबकि साझा की जाने वाली जानकारी को सीमित रखने की बात कही गई है। फिर भी पैरेंटल कंट्रोल को लेकर एक अहम बात है। AP की रिपोर्ट के अनुसार कुछ विशेषज्ञों ने सवाल उठाया है कि Long-Term Memory जैसी सुविधाओं पर पर्याप्त डिफॉल्ट सीमाएं नहीं होने से सुरक्षा में अंतर रह सकता है।
यहीं सबसे अहम सवाल सामने आता है। OpenAI ने सुरक्षा की कई परतें जोड़ी हैं, लेकिन इससे यह साबित नहीं होता कि Teen अनुभव हर जोखिम को रोक देगा। Fairplay के विशेषज्ञ ब्रेंडन बुफार्ड ने AP से कहा कि नए उपाय सही दिशा में कदम हो सकते हैं, लेकिन माता-पिता को केवल कंपनी की घोषणा के आधार पर पूरी सुरक्षा का भरोसा नहीं करना चाहिए। उन्होंने किशोरों में compulsive use और emotional dependence के जोखिम को लेकर चिंता जताई। इसका अर्थ यह नहीं है कि OpenAI के नए उपाय अप्रभावी हैं। बल्कि सवाल यह है कि वास्तविक दुनिया में किशोर इन सुरक्षा सीमाओं के साथ कैसे व्यवहार करते हैं और क्या वे बार-बार प्रयास करके सिस्टम के प्रतिबंधों से बच निकल सकते हैं।
Teen सुरक्षा की पूरी व्यवस्था उम्र पहचानने की क्षमता पर भी निर्भर करती है। OpenAI के अनुसार सिस्टम सेल्फ-रिपोर्टेड उम्र के अलावा व्यवहार और अकाउंट संकेतों का इस्तेमाल करता है। अगर उम्र को लेकर संदेह हो तो कंपनी सुरक्षित विकल्प चुनने की बात कहती है।
लेकिन उम्र का अनुमान तकनीकी रूप से जटिल विषय है। गलत अनुमान की स्थिति में वयस्क और किशोर अनुभव के बीच अंतर पैदा हो सकता है। इसलिए Age Assurance केवल सुरक्षा फीचर नहीं, बल्कि Privacy और User Experience से जुड़ा सवाल भी है।
OpenAI ने इस दिशा में पहले ही Age-Prediction सिस्टम और Under-18 Model Spec पर काम शुरू कर दिया था। नया Teen अनुभव इन्हीं पहलों को एक उत्पाद के रूप में जोड़ता है।
ChatGPT के शुरुआती दौर में ज्यादा स्वाभाविक और बातचीत जैसा AI अनुभव एक बड़ी ताकत माना जाता था। GPT-5.1 जैसे अपडेट में OpenAI ने मॉडल को ज्यादा conversational और warmer बनाने पर भी जोर दिया था। अब किशोरों के मामले में कंपनी का दृष्टिकोण अलग दिशा ले रहा है। यहां ज्यादा मानवीय लगना हमेशा सकारात्मक नहीं माना जा रहा। अगर प्राकृतिक बातचीत किसी किशोर को AI को इंसानी रिश्ते का विकल्प समझने की ओर ले जाती है, तो वही सुविधा Safety Risk बन सकती है। इसलिए Teen संस्करण में OpenAI एक अलग संतुलन तलाश रहा है। AI उपयोगी और संवादात्मक रहे, लेकिन अपनी पहचान को लेकर भ्रम पैदा न करे।
यह बहस अभी खुली है। एक पक्ष का तर्क है कि ज्यादा प्रतिबंध AI को कम उपयोगी और कम स्वाभाविक बना सकते हैं। खासकर उन किशोरों के लिए जो संवेदनशील सवाल पूछते हैं और सुरक्षित वातावरण में जानकारी चाहते हैं। दूसरा पक्ष मानता है कि किशोरों के लिए AI की प्राथमिकता अधिकतम मानवीय बातचीत नहीं, बल्कि सुरक्षित और उम्र के मुताबिक बातचीत होनी चाहिए। OpenAI का मौजूदा मॉडल इसी दृष्टिकोण को अपनाता दिख रहा है। इसमें शिक्षा का पहलू भी महत्वपूर्ण है। अगर ChatGPT छात्र को हर सवाल का तैयार उत्तर देने के बजाय सोचने और समाधान तक पहुंचने में मदद करता है, तो AI का इस्तेमाल एक answer engine से learning assistant की दिशा में जाता है।
OpenAI ने संकेत दिया है कि Teen सुरक्षा अंतिम रूप में तय नहीं हुई है। कंपनी आगे अतिरिक्त फीचर विकसित करने, सुरक्षा का आकलन करने और अपने अनुभव से सीखने की बात कहती है। इसलिए आने वाले समय में तीन मुद्दे खास रहेंगे। पहला, उम्र पहचान की सटीकता। दूसरा, emotional dependence को रोकने की प्रभावशीलता। तीसरा, सुरक्षा और उपयोगिता के बीच संतुलन। इसके साथ स्वतंत्र शोध और पारदर्शिता भी जरूरी होगी। केवल कंपनी के अपने आकलन से यह तय करना मुश्किल होगा कि नए नियम वास्तविक दुनिया में कितने प्रभावी हैं।
OpenAI ने किशोरों के लिए ChatGPT का नया सुरक्षा मॉडल पेश कर एक महत्वपूर्ण नीति बदलाव किया है। 13 से 17 साल के यूजर्स के लिए AI को रोमांटिक भाषा, भावनात्मक निर्भरता और खुद को भावनाओं या चेतना वाला बताने से रोका गया है। साथ ही संवेदनशील कंटेंट पर कड़े प्रतिबंध और शिक्षा-केंद्रित फीचर जोड़े गए हैं। इसलिए यह कहना ज्यादा सटीक होगा कि ChatGPT को किशोरों के लिए कम 'मानवीय' नहीं, बल्कि कम anthropomorphic बनाया जा रहा है। यानी AI इंसान जैसा दिखे या महसूस हो, ऐसी धारणा को कम करने की कोशिश हो रही है।
असली परीक्षा अब इसके क्रियान्वयन की होगी। अगर सुरक्षा उपाय किशोरों को जोखिमपूर्ण बातचीत से बचाते हुए पढ़ाई और रचनात्मक काम में मदद करते हैं, तो यह AI Safety में महत्वपूर्ण कदम होगा। लेकिन अगर उम्र पहचान, emotional dependence या privacy से जुड़े सवाल अनसुलझे रहते हैं, तो बहस आगे भी जारी रहेगी।
Shah Times Reporter
शाह टाइम्स के वरिष्ठ संवाददाता। स्थानीय, राजनीतिक, अपराध, शिक्षा एवं सामाजिक विषयों पर नियमित रिपोर्टिंग।
