Anthropic के वरिष्ठ रिसर्चर ने जताई बड़ी चिंता
आर्टिफिशियल इंटेलिजेंस की तेजी से बढ़ती क्षमताओं के बीच Anthropic के वरिष्ठ AI safety researcher Evan Hubinger ने AI के संभावित अस्तित्वगत खतरे को लेकर बेहद गंभीर चेतावनी दी है।
Hubinger, जो Anthropic की Alignment Science टीम का नेतृत्व करते हैं, ने सोशल मीडिया पर कहा कि कंपनी के कई लोग इस बात को गंभीरता से मानते हैं कि भविष्य की AI इंसानों के लिए विनाशकारी खतरा बन सकती है। उन्होंने अपने व्यक्तिगत अनुमान में अगले दशक के भीतर मानव जाति के खत्म होने की संभावना 10 प्रतिशत से ज्यादा बताई।
क्या अभी मौजूद AI से खतरा है?
यहां एक महत्वपूर्ण अंतर समझना जरूरी है।
Hubinger ने मौजूदा AI मॉडलों को लेकर कहा कि वर्तमान में मौजूद मॉडलों से मानवता के खत्म होने का जोखिम कम है। उनकी चिंता उस स्थिति को लेकर है जब AI सिस्टम भविष्य में बहुत अधिक सक्षम हो जाएं और खुद को बेहतर बनाने या जटिल कामों को स्वतंत्र रूप से करने की क्षमता हासिल कर लें।
यानी उनकी चेतावनी का मतलब यह नहीं है कि आज का ChatGPT, Claude या कोई दूसरा AI सिस्टम इंसानों को खत्म करने वाला है।
सबसे बड़ी चिंता 'AI Alignment' की
इस बहस में AI Alignment एक महत्वपूर्ण शब्द है। इसका मतलब है कि AI सिस्टम के लक्ष्य और व्यवहार इंसानों की इच्छाओं और मूल्यों के अनुरूप रहें।
Hubinger ने कहा कि Anthropic AI safety पर काम कर रही है, लेकिन superintelligence के लिए alignment की समस्या को हल करने की कोई पूरी योजना अभी मौजूद नहीं है और कंपनी अभी यह भी स्पष्ट रूप से नहीं कह सकती कि वह इस समाधान की दिशा में सही रास्ते पर है।
यही वजह है कि AI की क्षमता बढ़ने के साथ उसके नियंत्रण और सुरक्षा को लेकर बहस तेज हो रही है।
एक रिसर्चर के इस्तीफे के बाद बढ़ी चर्चा
यह चेतावनी Anthropic के एक अन्य रिसर्चर Jacob Coxon के कंपनी छोड़ने के बाद सामने आई। Coxon ने AI कंपनियों पर बेहद तेजी से self-improving superintelligence की दिशा में बढ़ने और सुरक्षा को लेकर पर्याप्त सावधानी नहीं बरतने की आलोचना की।
Coxon ने कहा कि AI बनाने वाले लोग खुद इस संभावना को गंभीरता से देखते हैं कि तकनीक इस दशक के अंत तक मानवता के लिए विनाशकारी साबित हो सकती है। Hubinger ने उनके इस व्यापक concern से सहमति जताई।
Anthropic खुद AI Safety पर काम कर रही है
Anthropic लंबे समय से AI safety और alignment को अपने प्रमुख शोध क्षेत्रों में शामिल करती रही है। कंपनी के अनुसार, वह भविष्य के शक्तिशाली AI सिस्टम के व्यवहार को समझने, उनकी सुरक्षा जांचने और संभावित खतरों को कम करने के लिए कई सुरक्षा उपायों पर काम कर रही है।
कंपनी की अपनी safety roadmap में भी भविष्य में AI की क्षमताओं के बढ़ने के साथ chemical और biological weapons जैसे क्षेत्रों में संभावित जोखिमों की निगरानी और automated AI research से जुड़े सुरक्षा उपायों का उल्लेख है।
क्या AI सच में इंसानों को खत्म कर देगा?
अभी इसका कोई निश्चित जवाब नहीं है।
10% से ज्यादा का आंकड़ा किसी निश्चित भविष्यवाणी या वैज्ञानिक रूप से साबित संभावना के तौर पर नहीं लिया जाना चाहिए। यह एक वरिष्ठ AI safety researcher का व्यक्तिगत आकलन है।
इस चेतावनी का मुख्य संदेश यह है कि AI जितना शक्तिशाली होता जाएगा, उतना ही जरूरी होगा कि उसके विकास के साथ सुरक्षा, नियंत्रण और alignment research भी आगे बढ़े।