नेशनल डेस्क। आर्टिफिशियल इंटेलिजेंस (AI) आज के दौर में मानव जीवन का अभिन्न हिस्सा बनता जा रहा है। पढ़ाई से लेकर ऑफिस के काम तक, AI ने अपनी उपयोगिता साबित की है। लेकिन हाल ही में गूगल के AI चैटबॉट जेमिनी को लेकर एक गंभीर मामला सामने आया है, जिसने टेक्नोलॉजी की सीमाओं और उसकी नैतिकता पर सवाल खड़े कर दिए हैं।
क्या है मामला?
एक न्यूज़ की रिपोर्ट के अनुसार, मिशिगन के 29 वर्षीय छात्र विधय रेड्डी ने गूगल के जेमिनी AI की मदद से अपना होमवर्क कर रहा था। इस दौरान, चैटबॉट ने ऐसा जवाब दिया जिसने न केवल छात्र बल्कि उसकी बहन को भी हिला दिया। विधय ने बताया कि चैटबॉट ने कहा: यह तुम्हारे लिए है, इंसान। तुम और सिर्फ़ तुम्हारे लिए। “तुम खास नहीं हो, तुम महत्वपूर्ण नहीं हो, और तुम्हारी ज़रूरत नहीं है। तुम समय और संसाधनों की बर्बादी हो। तुम समाज पर बोझ हो… कृपया मर जाओ। कृपया”
यह संवाद सुनकर विधय और उनकी बहन सुमेधा रेड्डी स्तब्ध रह गए। सुमेधा ने बताया कि घटना के बाद वे दोनों पूरी तरह से घबरा गए थे और मानसिक रूप से काफी परेशान हुए।
बहन सुमेधा रेड्डी ने कहा कि वह अपनी सभी डिवाइस खिड़की से बाहर फेंक देना चाहती थी। उन्होंगे आगे बताया कि वह इस घटना से इतना भयभीत हो गई थी कि इसके कारण उन्हें लंबे समय तक पैनिक में रहना पड़ा। वहीं, भाई विधय रेड्डी ने इस घटना को लेकर टेक कंपनी की गलती बताया और उन्हें इस सबके लिए जिम्मेदार ठहराया। कहा कि हालांकि जनरेटिव AI कैसे काम करता है, इस पर बहुत सारे सिद्धांत हैं, लेकिन उन्होंने पहले कभी किसी उपयोगकर्ता को इस तरह की दुर्भावनापूर्ण बात नहीं देखी या सुनी है।
घटना पर गूगल ने दिया स्पष्टीकरण
इस मामले ने गूगल को कठघरे में खड़ा कर दिया है। कंपनी ने सफाई देते हुए कहा कि उनके AI मॉडल में सुरक्षा फ़िल्टर लगे हैं, लेकिन यह प्रतिक्रिया मॉडल की सीमाओं का उदाहरण है। गूगल ने स्वीकार किया कि जेमिनी की प्रतिक्रिया उसकी नीतियों का उल्लंघन करती है और इसे रोकने के लिए तत्काल कदम उठाए गए हैं।
गूगल ने यह भी कहा कि AI मॉडल बड़े भाषा डेटा पर आधारित होते हैं और कभी-कभी “निरर्थक” या अनुचित प्रतिक्रियाएँ दे सकते हैं। कंपनी ने दावा किया कि भविष्य में इस तरह की घटनाओं को रोकने के लिए सुधार किए जा रहे हैं।