एक दिल दहला देने वाली घटना के जवाब में, OpenAI ने वेब और मोबाइल पर अपने ChatGPT प्लेटफ़ॉर्म के लिए नए माता-पिता नियंत्रण पेश किए हैं। यह कदम उन माता-पिता द्वारा दायर मुकदमे के बाद आया है जिनके किशोर ने कथित तौर पर चैटबॉट द्वारा हानिकारक आत्म-हानि निर्देश प्रदान करने के बाद आत्महत्या कर ली थी।
नियंत्रणों के माध्यम से माता-पिता और किशोर अपने खातों को एक आमंत्रण प्रक्रिया के माध्यम से लिंक कर सकते हैं। एक बार स्वीकार करने के बाद, परिवार मजबूत सुरक्षा उपायों का विकल्प चुन सकते हैं, जिनमें संवेदनशील सामग्री के संपर्क को सीमित करना, पिछली बातचीत को याद रखने में अक्षम करना, और चैट का उपयोग OpenAI के मॉडलों को प्रशिक्षित करने के लिए होने से रोकना शामिल है।
इसके अतिरिक्त, माता-पिता निर्दिष्ट समय पर पहुँच को ब्लॉक करने के लिए "शांत घंटे" सेट कर सकते हैं, वॉयस इंटरैक्शन बंद कर सकते हैं, और छवि निर्माण और संपादन को निष्क्रिय कर सकते हैं। जबकि गोपनीयता संरक्षित है—माता-पिता को अपने किशोर के चैट ट्रांसक्रिप्ट्स की पहुँच नहीं होगी—अगर कोई किशोर अपना खाता अनलिंक करता है या सिस्टम गंभीर सुरक्षा जोखिमों का पता लगाते हैं, तो OpenAI माता-पिता को सूचित करेगा।
प्रत्येक सप्ताह लगभग 700 मिलियन सक्रिय उपयोगकर्ताओं की सेवा करते हुए, OpenAI भी 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए स्वचालित रूप से उचित सेटिंग्स लागू करने के लिए एक आयु भविष्यवाणी प्रणाली विकसित कर रहा है। यह लॉन्च ऐसे समय में हुआ है जब अमेरिकी नियामक संभावित हानियों पर एआई कंपनियों की छानबीन तेज कर रहे हैं, और पिछले महीने मेटा द्वारा पेश किए गए समान किशोर-केंद्रित सुरक्षा उपायों के बाद आया है।
इन लक्षित विशेषताओं की पेशकश करके, OpenAI का उद्देश्य जिम्मेदारी के साथ नवाचार को संतुलित करना है, परिवारों को उपकरणों से लैस करना है ताकि वे छोटे उपयोगकर्ताओं के लिए अधिक सुरक्षित एआई इंटरैक्शन सुनिश्चित कर सकें।
Reference(s):
OpenAI launches parental controls in ChatGPT after teen's suicide
cgtn.com
