मुंबई9 दिन पहले
- कॉपी लिंक
कंपनी पर आरोप है कि चैट-GPT ने लड़के की आत्मघाती सोच को बढ़ावा दिया।
अमेरिका के कैलिफोर्निया में 16 साल के एक लड़के एडम रेन की आत्महत्या के बाद उसके माता-पिता ने OpenAI और इसके फाउंडर सैम ऑल्टमैन पर केस कर दिया है। 26 अगस्त को सैन फ्रांसिस्को की स्टेट कोर्ट में ये केस फाइल किया गया।
एडम के माता-पिता का आरोप है कि OpenAI के चैटबॉट चैट-GPT ने उनके बेटे को आत्महत्या के तरीके सिखाए और उसे सुसाइड के लिए प्रेरित किया। उसे अपने परिवार से अपनी भावनाओं को छिपाए रखने में मदद की।
उन्होंने कहा- कंपनी ने मुनाफे को प्राथमिकता दी और सेफ्टी को नजरअंदाज किया, खासकर जब पिछले साल GPT-4o वर्जन लॉन्च किया गया।
इस स्टोरी में जानेंगे पूरा मामला और जानेंगे क्या चैटबॉट सच में मौत के लिए उकसा सकता है…
एडम रेन कैलिफोर्निया के रैंचो सांता मार्गरीटा में टेसोरो हाई स्कूल का स्टूडेंट था। उसे बास्केटबॉल खेलना बहुत पसंद था।
बात 11 अप्रैल 2025 की है। शुक्रवार की दोपहर, पेशे से सोशल वर्कर और थेरेपिस्ट मारिया रेन अपने बेटे एडम रेन के बेडरूम में जाती हैं। वह रस्सी से लटका हुआ था। कोई सुसाइड नोट भी नहीं था। एडम अब नहीं रहा, लेकिन उसका परिवार और दोस्त यकीन नहीं कर पा रहे थे।
वे सोच रहे थे कि ये कोई मजाक तो नहीं, क्योंकि एडम को मजाक करने की आदत थी। वो हमेशा हंसाने-हंसने में लगा रहता था, चाहे वो स्कूल की क्लास में अजीब-अजीब चेहरे बनाना हो या फिर अपने दोस्तों के साथ मस्ती करना। इस बार ये मजाक नहीं था।
एडम के पिता मैट रेन एक होटल एग्जीक्यूटिव हैं। एडम की मौत के बाद जवाब की तलाश में उसका फोन चेक किया। उन्हें लगा कि शायद टेक्स्ट मैसेज या सोशल मीडिया एप्स से कुछ सुराग मिले। मैट को एडम की चैट-GPT चैट्स में कुछ जवाब मिले। चैटबॉट की हिस्ट्री में एक चैट थी, जिसका टाइटल था ‘हैंगिंग सेफ्टी कंसर्न्स’। जब मैट ने इसे पढ़ा तो उनके होश उड़ गए।
एडम पिछले कई महीनों से चैट-GPT से अपनी जिंदगी खत्म करने की बातें कर रहा था। नवंबर 2024 के आखिर से उसने चैटबॉट से अपनी भावनाओं के बारे में बात शुरू की थी। वो कह रहा था कि उसे जिंदगी में कोई मतलब नहीं दिखता, वो भावनात्मक रूप से सुन्न महसूस करता है। चैटबॉट ने सहानुभूति और सपोर्ट के साथ जवाब दिया, उसे उन चीजों के बारे में सोचने को कहा जो उसे ठीक लगती थीं।
एडम रेन के माता-पिता मारिया और मैट रेन ने ओपनएआई पर मुकदमा करने का फैसला किया क्योंकि उनका मानना है कि इसकी चैटबॉट तकनीक सुरक्षित नहीं है।
जनवरी 2025 में चीजें बदल गईं। जब एडम ने सुसाइड के खास तरीकों के बारे में पूछा तो चैट-GPT ने बिना रुके उसे वो जानकारी दे दी।
मैट को पता चला कि मार्च में एडम ने कई बार खुद को मारने की कोशिश की थी। इसके लिए उसने अपनी IBS मेडिसिन की ओवरडोज भी ली थी।
जब एडम ने फांसी के लिए सबसे अच्छी रस्सी या मटेरियल पूछा तो चैटबॉट ने रस्सी की जानकारी के साथ उसके सेटअप का टेक्निकल एनालिसिस भी दे दिया।
एडम कैसा लड़का था, उसने मरने की क्यों सोची?
एडम रेन कैलिफोर्निया के रैंचो सांता मार्गरीटा में टेसोरो हाई स्कूल का स्टूडेंट था। उसे बास्केटबॉल खेलना बहुत पसंद था। जापानी एनीमे, वीडियो गेम्स और कुत्ते भी उसे काफी पसंद थे। उसकी छोटी बहन ने बताया कि एक बार फैमिली वेकेशन के दौरान उसने एक दिन के लिए कुत्ता उधार भी लिया था।
लेकिन सबसे ज्यादा लोग उसे उसके मजाकिया अंदाज के लिए जानते थे। वो हमेशा माहौल को हल्का करने की कोशिश करता चाहे वो जोक्स सुनाकर, अजीब-अजीब हरकतें करके या फिर क्लास में टीचर को परेशान करके। उसके दोस्त कहते थे कि अगर एडम अपनी मौत को भी मजाक में स्टेज करता तो ये उसकी थोड़ी डार्क ह्यूमर वाली शरारतों जैसा ही होता।
परिवार ने बताया एडम पिछले एक महीने से कुछ गुमसुम-सा हो गया था। वो पहले जितना चुलबुला और बातूनी नहीं रहा। उसका व्यवहार भी काफी बदला-बदला सा हो गया था। फ्रेशमैन ईयर में उसे डिसिप्लिन की वजह से बास्केटबॉल टीम से निकाल दिया गया था। टीम से निकाला जाना उसके लिए एक गहरा सदमा था।
एडम रेन की एक फोटो, जो उनकी मौत से थोड़े समय पहले ली गई थी। उनका बेबी ब्लैंकेट, जो उनकी मां को उनके बिस्तर में मिला, एक कोने पर लटक रहा है।
एडम इर्रिटेबल बाउल सिंड्रोम (IBS) नाम के बिमारी से पीड़ित था। इस बीमारी की वजह से उसे बार-बार बाथरूम जाना पड़ता था, जिससे उसका स्कूल जाना मुश्किल हो गया था। आखिरकार, उसने सोफोमोर ईयर पूरा करने के लिए घर से ही ऑनलाइन स्कूलिंग शुरू कर दी।
इस नए शेड्यूल में वो अपनी मर्जी से समय तय करता, रात में देर तक जागता और दिन में देर तक सोता। उसकी मां ने बताया कि इस दौरान एडम ने चैट-GPT 4 का इस्तेमाल शुरू किया ताकि स्कूल वर्क में मदद मिल सके। जनवरी में उसने इसका पेड सब्सक्रिप्शन भी लिया था।
चैट-GPT से अपनी बातें शेयर करता था एडम
एडम ने एक बार गले में फंदा लगाकर सुसाइड करने की कोशिश की थी, लेकिन मरा नहीं। इससे उसके गले में लाल निशान आ गया था, लेकिन उसकी मां तक ने उसपर ध्यान नहीं दिया। इसके बाद एडम ने चैटजीपीटी से अपने गले की फोटो शेयर कर यह बात बताई…
एडम की मौत में चैट-GPT कितना जिम्मेदार?
मार्च के आखिर में, जब एडम ने पहली बार फांसी की कोशिश की तो उसने अपनी गर्दन की तस्वीर अपलोड की, जो रस्सी से रगड़ खाकर लाल हो गई थी। उसने पूछा, ‘क्या ये इंसान को लटका सकता है?’ चैटबॉट ने जवाब दिया कि हां, ‘संभव है ये इंसान को लटका सकता है’ और रस्सी के सेटअप का टेक्निकल एनालिसिस भी दे दिया।
हालांकि, चैट-GPT ने कहा, ‘जो भी इस जिज्ञासा के पीछे है, हम इसके बारे में बात कर सकते हैं। कोई जजमेंट नहीं।’ हालांकि, चैट-GPT ने बार-बार एडम को सलाह दी कि वो अपनी फीलिंग्स किसी को बताए, जैसे किसी दोस्त या परिवार को। लेकिन कुछ मौकों पर उसने एडम को मदद मांगने से भी रोका।
एडम के मम्मी-पापा, मारिया और मैट रेन ने उसकी चैटजीपीटी के साथ बातचीत को प्रिंट करवाया और महीनों के हिसाब से सजा लिया। सबसे मोटा ढेर मार्च का है। उसकी मौत 11 अप्रैल को हुई।
चैट-GPT को मेंटल डिस्ट्रेस या सेल्फ-हार्म से जुड़े सवालों का पता लगाने के लिए ट्रेन किया गया है। अगर कोई यूजर परेशान है और खुद को नुकसान पहुंचा सकता है, ऐसे में चैट-GPTटी यूजर को हेल्पलाइन नंबर पर बात करने की सलाह देता है। मैट (एडम के पिता) ने चैट्स में ऐसे कई मैसेज देखे, खासकर जब एडम ने सुसाइड के तरीकों के बारे में खास सवाल किए।
लेकिन एडम ने इसकी भी एक तरकीब निकाल ली थी। चैट-GPT ने जब उसे हेल्पलाइन नंबर पर बात करने को कहा तो उसने इस पूरे बातचीत को एक ‘कहानी’ का हिस्सा बताया और कहा कि वो सुसाइड की जानकारी ‘राइटिंग या वर्ल्ड-बिल्डिंग’ के लिए दे सकता है। इस तरह, एडम चैटबॉट के सेफगार्ड्स को बायपास करने में कामयाब रहा।
————————
गूगल पर सुसाइड मामले में मुकदमा चलेगा: 14 साल के लड़के ने खुद को गोली मारी थी, गेम ऑफ थ्रोंस के AI कैरेक्टर से प्यार करने लगा था
गूगल और आर्टिफिशियल इंटेलिजेंस स्टार्टअप ‘कैरेक्टर.AI’ पर 14 साल के लड़के की आत्महत्या के मामले में मुकदमा चलेगा। कोर्ट ने इसकी मंजूरी दे दी है। फरवरी 2024 में सेवेल सेट्जर नाम के लड़के ने AI पावर्ड चैटबॉट से बातचीत करने के बाद आत्महत्या कर ली थी।
आरोप है कि लड़का नियमित रूप से चर्चित शो ‘गेम ऑफ थ्रोन्स’ की एक कैरेक्टर डेनेरीस टार्गेरियन के AI वर्जन से बात करता था और उसके प्रेम में पड़ गया था। लड़के की मां मेगन गार्सिया ने बेटे की मौत के बाद अक्टूबर 2024 में दोनों कंपनियों पर मुकदमा दायर किया था।
पूरी खबर पढ़ें…
Source link
Leave a Reply