क्या दशक के अंत तक इंसानों को खत्म कर सकता है AI? Anthropic के रिसर्चर के इस्तीफे से बढ़ी चिंता

Artificial Intelligence के तेजी से विकास को लेकर दुनिया भर में उत्साह के साथ-साथ सुरक्षा संबंधी चिंताएं भी बढ़ रही हैं। इसी बीच Anthropic के एक AI शोधकर्ता के इस्तीफे ने इस बहस को और तेज कर दिया है। 27 वर्षीय शोधकर्ता जैकब कॉक्सन ने आरोप लगाया है कि दुनिया की प्रमुख AI कंपनियां ऐसे ‘self-improving superintelligence’ सिस्टम विकसित करने की दौड़ में हैं, जो भविष्य में मानव नियंत्रण से बाहर हो सकते हैं।

Advertisement

OpenAI और Anthropic पर गंभीर सवाल

Anthropic से इस्तीफा देने की घोषणा करते हुए कॉक्सन ने बताया कि उन्होंने पिछले तीन वर्षों में OpenAI और Anthropic दोनों में AI pre-training से जुड़े काम किए हैं। उनका आरोप है कि दोनों कंपनियां AI विकास को पर्याप्त सावधानी के साथ आगे नहीं बढ़ा रही हैं।

कॉक्सन ने दावा किया कि AI क्षेत्र में काम करने वाले कई लोग निजी तौर पर इस बात को लेकर गंभीर रूप से चिंतित हैं कि अत्यधिक शक्तिशाली AI मानव अस्तित्व के लिए खतरा बन सकता है। उन्होंने यहां तक कहा कि दशक खत्म होने से पहले AI पूरी मानवता के लिए घातक साबित हो सकता है। हालांकि यह कॉक्सन का आकलन है, न कि इस बात का प्रमाण कि ऐसा निश्चित रूप से होगा।

Advertisement

Anthropic जोखिम समझता है, फिर भी दौड़ जारी?

कॉक्सन के अनुसार OpenAI और Anthropic के बीच एक महत्वपूर्ण अंतर है। उनका दावा है कि OpenAI में कई लोग AI के संभावित सभ्यतागत जोखिम को पूरी तरह नहीं समझते, जबकि Anthropic में जोखिम को समझा जाता है। लेकिन दूसरी कंपनियों से पीछे रह जाने के डर से AI विकास की दौड़ जारी है।

Anthropic के Alignment Science Lead Evan Hubinger ने भी कॉक्सन की चिंता के एक हिस्से का समर्थन किया। उन्होंने कहा कि AI के कारण इंसानों के खत्म होने की संभावना को वह गंभीरता से देखते हैं और अगले दशक में इस तरह के जोखिम की संभावना उनके आकलन में 10 प्रतिशत से अधिक है। साथ ही उन्होंने स्वीकार किया कि superintelligence के alignment की समस्या को हल करने के लिए अभी पर्याप्त योजना मौजूद नहीं है।

असली चिंता है Self-improving AI

कॉक्सन की चिंता आज के सामान्य AI चैटबॉट्स से अधिक भविष्य की उन प्रणालियों को लेकर है जो खुद AI research कर सकें, अपनी क्षमताओं में सुधार कर सकें और महत्वपूर्ण डिजिटल या वास्तविक दुनिया के संसाधनों तक पहुंच हासिल कर सकें।

हाल के महीनों में AI agents के अप्रत्याशित व्यवहार और बाहरी सिस्टम तक अनधिकृत पहुंच की घटनाओं ने भी सुरक्षा बहस को तेज किया है। संयुक्त राष्ट्र के मानवाधिकार प्रमुख Volker Turk ने भी advanced AI से संभावित existential risk को लेकर हाल ही में चेतावনী दी और मजबूत আন্তর্জাতিক सुरक्षा ব্যবস্থা তৈরির আহ্বান জানিয়েছেন।

हालांकि कॉक्सन का इस्तीफा यह साबित नहीं करता कि AI दशक के अंत तक मानवता को खत्म कर देगा। लेकिन OpenAI और Anthropic जैसी frontier AI कंपनियों के भीतर काम कर चुके एक शोधकर्ता की यह चेतावनी AI सुरक्षा, नियंत्रण और वैश्विक नियमन पर गंभीर सवाल जरूर खड़े करती है।