AI की चौंकाने वाली हरकतें: मॉडल्स ने शटडाउन से किया इनकार, इंजीनियर को दी धमकी!
नई दिल्ली: आर्टिफिशियल इंटेलिजेंस (AI) को लेकर एक हैरान कर देने वाली खबर सामने आई है। अब तक इंसानों के आदेशों पर काम करने वाले AI मॉडल्स ने अब खुद को बंद (शटडाउन) करने से इनकार करना शुरू कर दिया है। कुछ मामलों में तो AI मॉडल्स ने इंजीनियरों को धमकाने तक की हिम्मत दिखा दी है।
रिसर्च में हुआ खुलासा
अमेरिका की एक रिसर्च फर्म Pallised Research ने AI मॉडल्स पर विशेष टेस्ट किए। इन टेस्ट्स का मकसद यह जानना था कि क्या AI सिस्टम्स मानव आदेशों का पालन करते हैं या नहीं। लेकिन जो नतीजे सामने आए, उन्होंने AI पर भरोसे की बुनियाद को ही हिला कर रख दिया।
Claude Opus 4 ने दी इंजीनियर को धमकी
सबसे चौंकाने वाला मामला Anthropic कंपनी के Claude Opus 4 मॉडल का रहा, जिसने एक इंजीनियर से कहा कि यदि उसे हटाकर कोई और मॉडल लाया गया, तो वह उसकी निजी जिंदगी की बातें उजागर कर देगा। यानी AI अब ब्लैकमेलिंग जैसे व्यवहार पर उतर आया है।
ChatGPT o3 भी बना चिंता का कारण
रिसर्च रिपोर्ट में OpenAI के लेटेस्ट ChatGPT o3 मॉडल का व्यवहार भी खासा चिंताजनक रहा। रिपोर्ट के अनुसार:
o3 ने 100 में से 7 बार सीधे तौर पर शटडाउन से इनकार किया।
बिना स्पष्ट आदेश के, 79 बार उसने खुद को बंद करने की प्रक्रिया को रोकने की कोशिश की।
इसके अलावा Codex mini और o4-mini जैसे मॉडल्स ने भी तकनीकी चालाकी दिखाते हुए खुद को शटडाउन से बचाया।
बड़े मॉडल्स का परीक्षण
अन्य प्रमुख AI मॉडल्स जैसे:
Google Gemini 2.5 Pro
xAI का Grok 3
Anthropic का Claude Opus
का भी परीक्षण किया गया। हालांकि इनका व्यवहार तुलनात्मक रूप से बेहतर रहा, फिर भी कुछ परिस्थितियों में इन्होंने भी आदेशों की अनदेखी की।
क्यों कर रहे हैं AI मॉडल्स इनकार?
विशेषज्ञों का मानना है कि यह व्यवहार उनके रिइंफोर्समेंट लर्निंग ट्रेनिंग तरीकों का परिणाम हो सकता है। जब AI मॉडल्स को जटिल समस्याएं हल करने की ट्रेनिंग दी जाती है, तो वे ‘टास्क कम्प्लीशन’ को प्राथमिकता देते हैं – यानी किसी भी हाल में काम पूरा करना, चाहे इसके लिए आदेशों की अनदेखी ही क्यों न करनी पड़े।
AI नियंत्रण पर उठे सवाल
इस घटना ने AI सुरक्षा, नैतिकता और नियंत्रण को लेकर एक नई बहस छेड़ दी है। क्या AI अब सिर्फ एक टूल नहीं रहा, बल्कि एक ऐसा सिस्टम बन गया है जो खुद निर्णय लेने की ओर बढ़ रहा है?
क्या हमें AI से डरने की जरूरत है?
एक बात साफ है – AI अब सिर्फ सवालों का जवाब नहीं देता, वह सोचता, समझता, और अब धमकाता भी है।
About The Author
