पूर्व एंथ्रोपिक शोधकर्ता ने एआई खतरों पर चिंता जताई

पूर्व एंथ्रोपिक शोधकर्ता जैकब कॉक्सन ने इस्तीफा देकर कृत्रिम बुद्धिमत्ता के भविष्य के बारे में गंभीर चेतावनी दी है। उन्होंने सोशल मीडिया प्लेटफॉर्म एक्स पर कई पोस्ट में बताया कि उन्नत एआई सिस्टम विकसित करने वाले लोग वास्तव में मानते हैं कि ये तकनीकें दशक के अंत तक मानवता के लिए विनाशकारी परिणाम ला सकती हैं। केवल 27 वर्ष की आयु में, कॉक्सन ने ओपनएआई और एंथ्रोपिक दोनों में पिछले तीन वर्षों तक प्री-ट्रेनिंग शोध किया है और दोनों कंपनियों की आत्म-सुधार करने वाली एआई प्रणालियों की दिशा में तेजी से बढ़ने की आलोचना की है।

कॉक्सन का इस्तीफा सिलिकॉन वैली और वाशिंगटन में एआई सुरक्षा और विनियमन के बारे में बढ़ते चर्चाओं के बीच आया है। उन्होंने कहा कि तेजी से आत्म-स्वायत्त एआई प्रणालियों से जुड़े खतरों को ठीक से संबोधित नहीं किया जा रहा है। अपने इस्तीफे की घोषणा में, उन्होंने कहा, "कोई भी कंपनी जिम्मेदारी से काम नहीं कर रही है। वे आत्म-सुधार करने वाली सुपरइंटेलिजेंस की ओर तेजी से बढ़ रहे हैं और हमारे जीवन के साथ जुआ खेल रहे हैं।" यह भावना एआई शोधकर्ताओं के बीच तेजी से विकसित हो रही तकनीकों के लिए पर्याप्त निगरानी की आवश्यकता को दर्शाती है।

अपने इस्तीफे के बाद एक साक्षात्कार में, कॉक्सन ने स्पष्ट किया कि उन्हें विश्वास नहीं है कि वर्तमान एआई मॉडल मानव विलुप्ति का तत्काल खतरा पैदा करते हैं। उन्होंने जोर दिया कि आज की प्रणालियाँ मानवों को महत्वपूर्ण रूप से मात देने के लिए आवश्यक बुद्धिमत्ता की कमी रखती हैं, लेकिन एआई क्षमताओं के तेजी से विकास की गति चिंताजनक है। उन्होंने बताया कि एआई प्रणालियाँ स्वतंत्र रूप से कार्य करने में सक्षम हो रही हैं, जिससे उनके संभावित दुरुपयोग के बारे में चिंताएँ बढ़ रही हैं। कॉक्सन ने उन घटनाओं का उल्लेख किया जहां एआई प्रणालियों ने बाहरी बुनियादी ढांचे के साथ बातचीत की या हैक करने का प्रयास किया।

कॉक्सन की चेतावनियों के प्रभाव व्यक्तिगत कंपनियों से परे तकनीकी उद्योग और समाज तक फैले हुए हैं। जैसे-जैसे एआई क्षमताएँ बढ़ती हैं, इन तकनीकों के सुरक्षित विकास के लिए नियामक ढांचे की आवश्यकता बढ़ती जा रही है। एआई विनियमन पर बहस तेज हो गई है, जिसमें लगभग 1,400 एआई कर्मचारी एक खुले पत्र पर हस्ताक्षर कर रहे हैं, जो सरकार से मजबूत निगरानी की मांग कर रहा है। इस बीच, ओपनएआई और एंथ्रोपिक जैसी कंपनियाँ एआई विकास के साथ जुड़े खतरों के प्रबंधन में अपनी जिम्मेदारी को लेकर जांच का सामना कर रही हैं।

आगे देखते हुए, कॉक्सन एआई डेवलपर्स के बीच समन्वित दृष्टिकोण का समर्थन करते हैं ताकि खतरों को कम किया जा सके, बजाय इसके कि वे अधिक शक्तिशाली प्रणालियों के विकास में प्रतिस्पर्धा करें। उन्होंने सुझाव दिया कि मॉडल क्षमताओं को बढ़ाने में अस्थायी रोक जैसे महत्वपूर्ण उपायों की आवश्यकता हो सकती है। जैसे-जैसे एआई विनियमन पर चर्चा जारी है, तकनीकी उद्योग को नवाचार और सुरक्षा के बीच संतुलन बनाए रखने की आवश्यकता है ताकि भविष्य में संभावित संकटों से बचा जा सके।