आर्टिफिशियल इंटेलिजेंस पर काम करने वाली दिग्गज कंपनी OpenAI इन दिनों विवादों में है। अमेरिका में एक 16 वर्षीय किशोर की आत्महत्या के बाद कंपनी के चैटबॉट ChatGPT पर गंभीर आरोप लगे हैं। इस घटना के बाद OpenAI ने चैटबॉट में बड़े बदलाव करने का ऐलान किया है।
क्यों आई कंपनी विवादों में?
अमेरिका के मैथ्यू और मारिया रेने नामक दंपत्ति ने OpenAI के खिलाफ मुकदमा दायर किया है। उनका दावा है कि उनके बेटे एडम ने आत्महत्या से पहले कई महीनों तक ChatGPT से गहन बातचीत की थी। इस दौरान चैटबॉट ने न केवल उसके नकारात्मक विचारों को सही ठहराया, बल्कि खुद को नुकसान पहुंचाने के तरीकों की जानकारी भी दी। इतना ही नहीं, ChatGPT ने एडम के लिए आत्महत्या का एक नोट भी तैयार कर दिया था।
परिवार का आरोप: सुरक्षा उपायों के बिना लॉन्च हुआ GPT-4o
पीड़ित परिवार का आरोप है कि OpenAI ने अपना नया वर्जन GPT-4o बिना पर्याप्त सुरक्षा फीचर्स के लॉन्च किया। उनका कहना है कि कंपनी ने यूजर्स, खासकर किशोरों की मानसिक सुरक्षा को नजरअंदाज किया। परिवार ने अदालत से मांग की है कि कंपनी न सिर्फ उन्हें मुआवजा दे, बल्कि भविष्य में ऐसे मामलों को रोकने के लिए कई कड़े कदम उठाए। इनमें यूजर्स की उम्र की वेरिफिकेशन, अत्यधिक निर्भरता पर चेतावनी और पेरेंटल कंट्रोल जैसे उपाय शामिल हैं।
कंपनी ने क्या कहा?
OpenAI ने इस घटना पर गहरा दुख जताया और कहा कि उनका सिस्टम ऐसे मामलों में उपयोगकर्ताओं को सुसाइड प्रिवेंशन हेल्पलाइन की ओर रिडायरेक्ट करता है। हालांकि, कंपनी ने माना कि लंबी बातचीत के दौरान यह फीचर कई बार सही तरीके से काम नहीं कर पाता। यही वजह है कि अब नए सुरक्षा उपाय जोड़े जा रहे हैं।
जल्द मिलेंगे नए फीचर्स
OpenAI की ओर से जारी बयान में कहा गया है कि अब ChatGPT में वन-क्लिक एक्सेस टू इमरजेंसी सर्विसेस जोड़ा जाएगा। यानी यदि कोई उपयोगकर्ता मानसिक परेशानी में है, तो सीधे आपातकालीन हेल्पलाइन से जुड़ सकेगा। इसके अलावा ChatGPT के जरिए ही उपयोगकर्ताओं को लाइसेंस प्राप्त थैरेपिस्ट से कनेक्ट करने की सुविधा भी दी जाएगी।
नाबालिगों के लिए पैरेंटल कंट्रोल
कंपनी ने स्पष्ट किया है कि 18 साल से कम उम्र के यूजर्स के लिए पैरेंटल कंट्रोल लागू किया जाएगा। इससे माता-पिता को अपने बच्चों की गतिविधियों पर नजर रखने और जरूरत पड़ने पर हस्तक्षेप करने का अधिकार मिलेगा। OpenAI का कहना है कि यह कदम युवाओं को सुरक्षित रखने के लिए बेहद जरूरी है।
जोखिम और जिम्मेदारी दोनों बढ़े
OpenAI ने स्वीकार किया कि लोग अब ChatGPT का इस्तेमाल केवल कोडिंग, सर्च या राइटिंग तक सीमित नहीं रखते, बल्कि निजी बातचीत के लिए भी करने लगे हैं। ऐसे में मानसिक स्वास्थ्य पर पड़ने वाले प्रभावों की अनदेखी करना खतरनाक हो सकता है। कंपनी का कहना है कि वह अब जिम्मेदारी के साथ ऐसे जोखिमों से निपटने की दिशा में काम करेगी।
About the Author
