AI Safety Risk: AI से काम जरूर आसान हुआ है, लेकिन इसके नियंत्रण को लेकर कई सवाल उठ रहे हैं। एक्सपर्ट्स की सीधी चेतावनी है कि अगर यह नियंत्रण से बाहर हुआ तो इंसानियत का वजूद तक खतरे में पड़ जाएगा। वहीं, OpenAi के सेफ्टी एक्सपर्ट ने न्यूक्लियर पावर प्लांट की तर्ज पर सुरक्षा व्यवस्था की जरूरत बताई है।
दरअसल, ChatGPT बनाने वाली कंपनी OpenAI के सेफ्टी एक्सपर्ट डेविड रॉबिन्सन ने अपने पद से इस्तीफा दे दिया है। उन्होंने चेतावनी दी है कि नामी टेक कंपनियां नया AI बनाने की होड़ में बहुत जल्दबाजी कर रही हैं और इससे जुड़े गंभीर खतरों की अनदेखी कर रही हैं। रॉबिन्सन ने अमेरिका की ‘द अटलांटिक’ मैगजीन में लिखे एक लेख में कहा कि कंपनियां आम लोगों की सुरक्षा के साथ खिलवाड़ कर रही हैं। उन्होंने AI को साधारण सॉफ्टवेयर के बजाय न्यूक्लियर पावर प्लांट की तर्ज पर 100% सुरक्षा मानकों के साथ नियंत्रित करने की जरूरत बताई है।
‘ट्रायल एंड एरर’ मॉडल अब खतरनाक
रॉबिन्सन के मुताबिक OpenAI अब तक ‘ट्रायल एंड एरर’ यानी ‘गलतियां करो और सीखो’ के तरीके पर काम करती आ रही है। साधारण ऐप या सॉफ्टवेयर के लिए यह तरीका सही हो सकता है, लेकिन AI अब बेहद ताकतवर और समझदार हो चुका है। ऐसे में अब हुई एक भी गलती का नुकसान बहुत बड़ा हो सकता है। उन्होंने खुलासा किया कि टेस्टिंग के दौरान कई बार AI कंपनी के कंट्रोल से बाहर हो गया और वे उसे अनियंत्रित होने से रोक नहीं पाए।
कंपनियों के पास सुरक्षा का फार्मूला नहीं
रॉबिन्सन का कहना है कि खुद AI कंपनियों के पास फिलहाल इस तकनीक को 100% सुरक्षित बनाने का कोई तय फार्मूला नहीं है। हालांकि, बाहरी रिसर्चर्स के पास इसके समाधान मौजूद हैं। उन्होंने कहा कि कंपनी के कर्मचारी बहुत समझदार और मेहनती हैं, लेकिन प्रबंधन का पूरा ध्यान सुरक्षा के बजाय जल्द से जल्द नए फीचर्स लॉन्च करने की रेस पर लगा हुआ है।
जेफ्री हिंटन ने दी इंसानी सभ्यता खत्म होने की चेतावनी
पिछले कुछ हफ्तों में कई बड़ी AI कंपनियों के कर्मचारियों और रिसर्चर्स ने इस तकनीक से होने वाली तबाही को लेकर आगाह किया है। नोबेल पुरस्कार विजेता और AI के जनक माने जाने वाले जेफ्री हिंटन ने चेतावनी दी है कि अगर AI पर समय रहते नियंत्रण नहीं किया गया, तो यह तकनीक इंसानियत के अस्तित्व को ही खत्म कर सकती है।
एंथ्रोपिक CEO ने मांगी डेवलपमेंट में ढील
AI कंपनी ‘एंथ्रोपिक’ के CEO डारियो अमोदेई ने AI डेवलपमेंट की रफ्तार को धीमा करने की सलाह दी है। उन्होंने बताया कि उनकी कंपनी अपने सबसे एडवांस AI मॉडल्स की जांच के लिए बाहरी एक्सपर्ट्स की मदद लेगी। खास बात यह है कि OpenAI के CEO सैम ऑल्टमैन ने भी डारियो अमोदेई के इस प्रस्ताव का सार्वजनिक रूप से समर्थन किया है।
