David Robinson ने कहा- AI कंपनियां तेजी से शक्तिशाली मॉडल बना रही हैं, लेकिन सुरक्षा पर उतनी सावधानी नहीं बरती जा रही; चेतावनी ऐसे समय आई है जब अमेरिका की बड़ी AI कंपनियों ने Trump के साथ स्वैच्छिक सेफ्टी समझौता किया है
आर्टिफिशियल इंटेलिजेंस यानी AI को लेकर दुनिया में एक तरफ नई तकनीक की रफ्तार बढ़ रही है, तो दूसरी तरफ उसकी सुरक्षा को लेकर चिंता भी गहरी हो रही है।
इसी बीच OpenAI के पूर्व सेफ्टी कर्मचारी David Robinson ने AI उद्योग को लेकर गंभीर चेतावनी दी है। उनका कहना है कि AI कंपनियां जिस तेजी से अधिक शक्तिशाली सिस्टम विकसित कर रही हैं, उस अनुपात में सुरक्षा पर सावधानी नहीं बरती जा रही।
Robinson ने कहा है कि AI को विकसित करने का तरीका अब वैसा नहीं रह सकता जिसमें पहले सिस्टम लॉन्च किया जाए और समस्या सामने आने के बाद सुरक्षा उपाय बढ़ाए जाएं। उनके मुताबिक उन्नत AI के लिए विमानन और परमाणु ऊर्जा जैसे उच्च जोखिम वाले क्षेत्रों की तरह पहले से मजबूत सुरक्षा व्यवस्था जरूरी है।
पहले समझिए पूरा मामला क्या है
David Robinson करीब साढ़े तीन साल तक OpenAI में काम कर चुके हैं। उन्होंने कंपनी के कई बड़े AI मॉडल लॉन्च से जुड़े सेफ्टी रिपोर्ट तैयार करने और उसके Preparedness Framework पर काम किया था। उन्होंने 12 फ्रंटियर AI मॉडल लॉन्च की सुरक्षा रिपोर्ट की निगरानी भी की थी।
अब कंपनी छोड़ने के बाद उन्होंने The Atlantic में एक लेख लिखकर OpenAI और पूरे AI उद्योग के काम करने के तरीके पर सवाल उठाए हैं।
Robinson का मुख्य सवाल यह है कि जैसे-जैसे AI सिस्टम अधिक सक्षम होते जा रहे हैं, क्या उन्हें विकसित करने की मौजूदा सुरक्षा व्यवस्था भी उसी अनुपात में मजबूत हुई है?
उनका जवाब है- नहीं।
सबसे बड़ी चिंता क्या है?
Robinson के मुताबिक AI कंपनियां लगातार नए और ज्यादा सक्षम मॉडल विकसित करने की दौड़ में हैं। उनका आरोप है कि इस दौड़ में गति और लचीलापन सुरक्षा से ज्यादा प्राथमिकता पा रहे हैं।
वह OpenAI के जिस तरीके की आलोचना कर रहे हैं, उसे ‘iterative deployment’ कहा जाता है। आसान भाषा में इसका मतलब है कि नया मॉडल जारी किया जाए, उसके इस्तेमाल के दौरान समस्याएं सामने आएं और फिर सुरक्षा उपायों में बदलाव किए जाएं।
Robinson का कहना है कि शुरुआती AI सिस्टम के लिए यह तरीका शायद काम कर सकता था, लेकिन ज्यादा शक्तिशाली AI के मामले में किसी गंभीर गलती के बाद सुधार करना बहुत देर हो सकता है। इसलिए उनका तर्क है कि बड़े मॉडल को सार्वजनिक रूप से उपलब्ध कराने से पहले ज्यादा व्यापक सुरक्षा जांच और रिसर्च होनी चाहिए।
‘न्यूक्लियर पावर और एविएशन जैसी सुरक्षा चाहिए’
Robinson ने AI उद्योग के लिए विमानन और परमाणु ऊर्जा क्षेत्र से सबक लेने की बात कही है।
इन क्षेत्रों में किसी दुर्घटना के बाद सिर्फ समस्या ठीक करने पर निर्भर नहीं रहा जाता। सिस्टम को पहले से कई स्तरों की जांच, निगरानी और सुरक्षा प्रक्रियाओं से गुजारा जाता है।
Robinson का मानना है कि बेहद शक्तिशाली AI सिस्टम के मामले में भी इसी तरह की सोच जरूरी है। उनका कहना है कि अब AI विकास में ‘trial and error’ यानी पहले प्रयोग और बाद में सुधार वाला तरीका पर्याप्त नहीं है।
OpenAI ने आलोचना पर क्या कहा?
Robinson की आलोचना के जवाब में OpenAI ने कहा है कि कंपनी यह सुनिश्चित करने की कोशिश कर रही है कि उसके मॉडल उसकी क्षमता के अनुरूप सुरक्षित तरीके से विकसित और नियंत्रित किए जा सकें।
कंपनी का कहना है कि जरूरत पड़ने पर वह ट्रेनिंग रोक सकती है या किसी मॉडल को आगे बढ़ाने की प्रक्रिया को धीमा कर सकती है। यानी OpenAI ने यह स्पष्ट किया है कि सुरक्षा को लेकर जरूरी स्थिति आने पर मॉडल के विकास या लॉन्च को रोका जा सकता है।
मामला अभी क्यों ज्यादा अहम है?
Robinson की चेतावनी ऐसे समय आई है जब अमेरिका में AI सुरक्षा को लेकर नई बहस चल रही है।
29 सितंबर को अमेरिकी राष्ट्रपति Donald Trump ने छह बड़ी टेक कंपनियों के साथ AI सुरक्षा को लेकर एक स्वैच्छिक समझौते की घोषणा की थी। इसमें OpenAI, Anthropic, Google की parent company Alphabet, Meta, Nvidia और xAI शामिल हैं। समझौते में कंपनियों से अपने AI सिस्टम के लिए आंतरिक सुरक्षा नियंत्रण और बाहरी स्वतंत्र ऑडिट जैसी व्यवस्थाएं अपनाने की अपेक्षा की गई है।
लेकिन इस समझौते की एक बड़ी सीमा यह है कि यह कानूनी रूप से बाध्यकारी नहीं है और इसमें नियमों का पालन नहीं करने पर कोई तय दंड नहीं है। यही वजह है कि AI सुरक्षा के कुछ विशेषज्ञ इसे पर्याप्त नहीं मानते।
आम लोगों की चिंता भी बढ़ रही है
AI को लेकर चिंता सिर्फ विशेषज्ञों तक सीमित नहीं है। सितंबर में हुए Reuters/Ipsos सर्वे में 73% अमेरिकी लोगों ने कहा कि AI कंपनियां AI से होने वाले गंभीर नुकसान को रोकने के लिए पर्याप्त कदम नहीं उठा रही हैं।
सर्वे में 39% लोगों ने कहा कि AI का समाज पर नकारात्मक असर पड़ रहा है। वहीं 55% लोगों ने AI के विकास को धीमा करने का समर्थन किया, ताकि सुरक्षा और निगरानी के लिए ज्यादा समय मिल सके।
AI की रेस और सुरक्षा के बीच असली सवाल
AI को लेकर दुनिया इस समय एक तेज प्रतिस्पर्धा देख रही है। अमेरिका की कंपनियां लगातार ज्यादा सक्षम मॉडल विकसित कर रही हैं और चीन के साथ तकनीकी प्रतिस्पर्धा भी इस दौड़ को तेज कर रही है।
अमेरिकी प्रशासन का तर्क है कि बहुत ज्यादा सरकारी नियंत्रण AI innovation को धीमा कर सकता है। वहीं सुरक्षा विशेषज्ञों की चिंता है कि अगर तकनीक की क्षमता सुरक्षा व्यवस्था से आगे निकल गई, तो किसी बड़ी गलती को ठीक करने का मौका मिलने से पहले ही नुकसान हो सकता है।
इसी अंतर के बीच David Robinson की चेतावनी सामने आई है। उनकी बात का मूल सवाल सीधा है—AI कितना शक्तिशाली बनाया जा सकता है, यह सवाल जितना जरूरी है, उतना ही जरूरी यह भी है कि उसे सुरक्षित तरीके से नियंत्रित करने की क्षमता हमारे पास है या नहीं।
