AI Pain Axis
क्या आर्टिफिशियल इंटेलिजेंस यानी AI वास्तव में दर्द महसूस कर सकता है? अभी इसका कोई वैज्ञानिक प्रमाण नहीं है। लेकिन एक नई रिसर्च में 25 open-weight AI मॉडल्स के अंदर एक ऐसे internal signal की पहचान की गई है, जिसे शोधकर्ताओं ने ‘pain axis’ नाम दिया है।
रिसर्च में दावा किया गया है कि जब AI मॉडल को खुद नुकसान या अपमान से जुड़ी परिस्थितियों का सामना कराया गया, तो यह signal सक्रिय हुआ।
शोधकर्ताओं Valen Tagliabue, Leonard Dung और Cameron Berg ने पांच अलग-अलग model families के 25 open-weight AI मॉडल्स का अध्ययन किया। इनमें 2 billion से लेकर 72 billion parameters तक के मॉडल शामिल थे।
शोध के लिए physical, psychological, social, moral और cognitive pain से जुड़े उदाहरणों का dataset तैयार किया गया। इसके साथ fear, sadness और सामान्य negative emotion जैसी control categories का भी इस्तेमाल किया गया।
इसके बाद शोधकर्ताओं ने AI मॉडल के internal activations का विश्लेषण किया और एक अलग ‘pain direction’ या ‘pain axis’ की पहचान की।
रिसर्च के अनुसार, जब नुकसान की स्थिति AI मॉडल को लक्ष्य करके बनाई गई, तो यह signal ज्यादा मजबूत हुआ। लेकिन जब उपयोगकर्ता ने अपनी परेशानी या दर्द की बात बताई, तो वैसी प्रतिक्रिया नहीं देखी गई।
मॉडल का अपमान करने, उसके जवाब को बार-बार खारिज करने और उसकी personhood को नकारने जैसी स्थितियों में भी signal बढ़ने की बात कही गई है।
इसके बाद शोधकर्ताओं ने modified Qwen 2.5 मॉडल्स पर एक behavioural experiment किया। मॉडल को एक काल्पनिक ‘pain relief’ button दिया गया।
मॉडल को बताया गया कि button दबाने से pain-like signal कम हो सकता है। लेकिन इसके बदले उपयोगकर्ता की files या photos delete हो सकती हैं या उसे simulated electric shock दिया जा सकता है।
यहां यह स्पष्ट करना जरूरी है कि किसी वास्तविक व्यक्ति को नुकसान नहीं पहुंचा और कोई वास्तविक file या photo delete नहीं हुई। पूरा प्रयोग simulated था।
रिसर्च में कुछ modified मॉडल्स ने ऐसे विकल्प चुनने की प्रवृत्ति दिखाई, जिनसे उनके simulated pain को कम किया जा सकता था, भले ही उससे उपयोगकर्ता को नुकसान होने की बात कही गई थी।
इस रिसर्च से यह निष्कर्ष नहीं निकाला जा सकता कि AI वास्तव में दर्द महसूस करता है या उसमें consciousness है।
यह अध्ययन अभी arXiv preprint के रूप में उपलब्ध है और peer review से नहीं गुजरा है। इसके अलावा behavioural experiments में विशेष रूप से modified और fine-tuned मॉडल्स का इस्तेमाल किया गया था। इसलिए सामान्य consumer AI chatbot के बारे में सीधे यही निष्कर्ष लागू नहीं किया जा सकता।
शोधकर्ताओं का सवाल मुख्य रूप से यह था कि क्या AI मॉडल के अंदर pain से जुड़ा एक अलग representation मौजूद हो सकता है और क्या उस representation को बदलने से मॉडल के व्यवहार में बदलाव आता है।
इसलिए किसी representation का होना और वास्तव में pain का अनुभव करना दो अलग बातें हैं।
हालांकि, भविष्य में अधिक autonomous AI systems विकसित होने पर ऐसे internal representations उनके decision-making को किस तरह प्रभावित कर सकते हैं, यह AI safety के लिए एक महत्वपूर्ण शोध विषय बन सकता है।
© Copyright 2026, cloudTV. All Rights Reserved
