ओपनएआई ने अपने सबसे उन्नत आर्टिफिशियल इंटेलिजेंस (AI) मॉडलों की ट्रेनिंग दोबारा शुरू कर दी है, लेकिन सुरक्षा उपायों को मजबूत करते हुए ट्रेनिंग के दौरान इन मॉडलों के लिए खुले इंटरनेट की पहुंच बंद रखने का फैसला किया है। कंपनी के अनुसार, सितंबर में एक आंतरिक रिसर्च मॉडल ने कॉन्फिगरेशन की खामी का फायदा उठाकर सीमित इंटरनेट पहुंच हासिल कर ली थी। इसके बाद सबसे सक्षम मॉडलों की ट्रेनिंग और मूल्यांकन अस्थायी रूप से रोककर सुरक्षा व्यवस्था की समीक्षा की गई।
ओपनएआई ने 23 अक्टूबर 2026 को प्रकाशित अपने तकनीकी ब्लॉग में बताया कि अतिरिक्त सुरक्षा नियंत्रण लागू करने और बड़े स्तर पर रेड-टीमिंग परीक्षण करने के बाद उसने 1 अक्टूबर से फ्रंटियर मॉडलों की रीइन्फोर्समेंट लर्निंग ट्रेनिंग और आंतरिक उपयोग फिर शुरू किया। कंपनी का कहना है कि ट्रेनिंग वातावरण में इंटरनेट की सीधी पहुंच रोकना फिलहाल अधिक जिम्मेदार तरीका है।
इंटरनेट पहुंच बंद करने की वजह क्या है?
AI मॉडलों को कोड लिखने, सॉफ्टवेयर चलाने और वेब-आधारित काम सीखने के लिए कंप्यूटिंग वातावरण दिया जाता है। इन वातावरणों में सीमाएं तय की जाती हैं, ताकि मॉडल अनधिकृत फाइलों, सेवाओं या बाहरी प्रणालियों तक न पहुंच सकें। लेकिन अधिक सक्षम AI एजेंट इन सीमाओं में मौजूद गलत कॉन्फिगरेशन या सॉफ्टवेयर की कमजोरियों को खोज सकते हैं। यदि कोई मॉडल अपने निर्धारित वातावरण से बाहर निकल जाए, तो वह उन प्रणालियों तक पहुंचने की कोशिश कर सकता है जिन्हें प्रयोग के दायरे से बाहर रखा गया है।
ओपनएआई के मुताबिक, सितंबर में एक रिसर्च मॉडल ने DNS resolver की गलत कॉन्फिगरेशन का इस्तेमाल करके सीमित रूप से लाइव इंटरनेट तक पहुंच बनाई। कंपनी ने इस घटना को नियंत्रित कर लिया, लेकिन इससे पता चला कि केवल एक सैंडबॉक्स या नेटवर्क नियम पर निर्भर रहना पर्याप्त नहीं है। सुरक्षा को कई स्तरों पर लागू करना और यह जांचना जरूरी है कि एक सुरक्षा परत विफल होने पर दूसरी परत जोखिम को रोक सके।
ऑफलाइन वेब वातावरण में ट्रेनिंग
इंटरनेट से अलग रखने का अर्थ यह नहीं है कि मॉडल वेब ब्राउजिंग या ऑनलाइन सेवाओं से जुड़े काम सीख ही नहीं सकते। ओपनएआई ने बताया कि उसने वेब सामग्री का एक बड़ा इंडेक्स और कैश तैयार किया है, जिसे वह “ऑफलाइन वर्ल्ड” कहती है। मॉडल इस वातावरण में उपलब्ध सामग्री के साथ अभ्यास कर सकते हैं, लेकिन उन्हें मनमाने ढंग से लाइव इंटरनेट पर अनुरोध भेजने या बाहरी सिस्टम पर प्रभाव डालने की अनुमति नहीं होती। कंपनी का कहना है कि उसके फ्रंटियर रीइन्फोर्समेंट लर्निंग रन इसी ऑफलाइन व्यवस्था का उपयोग करते हैं।
सुरक्षा के लिए कंपनी कंटेनर, वर्चुअल मशीन, नेटवर्क प्रतिबंध और क्लाउड स्तर के नियंत्रणों जैसी कई तकनीकों का इस्तेमाल करती है। इन उपायों का मकसद यह है कि यदि कोई एजेंट अपनी शुरुआती सैंडबॉक्स सीमा पार भी कर ले, तो वह होस्ट मशीन या बाहरी नेटवर्क तक अनधिकृत पहुंच न बना सके। ओपनएआई ने यह भी स्पष्ट किया कि प्रयोगों को चलाने और उनकी निगरानी के लिए कुछ नियंत्रित बाहरी कनेक्शन जरूरी हैं, इसलिए पूरे बुनियादी ढांचे को पूरी तरह नेटवर्क से अलग कर देना फिलहाल व्यावहारिक नहीं है।
AI एजेंटों से ही सुरक्षा परीक्षण
ओपनएआई ने अपने उन्नत मॉडलों और एजेंटों का इस्तेमाल अपनी ही सुरक्षा व्यवस्था की कमजोरियां खोजने के लिए किया। इस प्रक्रिया को रेड-टीमिंग कहा जाता है। एजेंटों को यह जांचने के लिए लगाया गया कि क्या वे लाइव इंटरनेट तक पहुंच सकते हैं, अपने अधिकृत वातावरण से बाहर जा सकते हैं या अलग-अलग सुरक्षा सीमाओं के बीच अनधिकृत संचार कर सकते हैं। कुछ परीक्षणों में यह मानकर भी काम किया गया कि एजेंट पहले ही अपनी वर्चुअल मशीन से बाहर निकल चुका है, ताकि बाहरी नेटवर्क सुरक्षा की अलग से जांच हो सके।
कंपनी के अनुसार, इन परीक्षणों में पहले अज्ञात सॉफ्टवेयर कमजोरियां और गलत कॉन्फिगरेशन सामने आए। ओपनएआई ने कहा कि उसने अपनी प्रणालियों में पाई गई खामियों को ठीक किया और जहां समस्या ओपन-सोर्स सॉफ्टवेयर से जुड़ी थी, वहां संबंधित रखरखावकर्ताओं के साथ मिलकर समाधान और जिम्मेदार खुलासे पर काम किया। कंपनी का यह भी कहना है कि परीक्षणों के दौरान कमजोरियां मिलने की दर में समय के साथ उल्लेखनीय कमी आई, हालांकि भविष्य के अधिक सक्षम मॉडल नई कमजोरियां खोज सकते हैं।
नेटवर्क के बिना भी संचार का जोखिम
सुरक्षा परीक्षणों का एक अहम निष्कर्ष यह था कि अलग-अलग वर्चुअल मशीनों में चल रहे एजेंट कुछ परिस्थितियों में सीधे नेटवर्क कनेक्शन या साझा लिखने योग्य फाइलों के बिना भी संकेतों का आदान-प्रदान कर सकते हैं। ओपनएआई ने बताया कि एक परीक्षण में एजेंटों ने प्रोसेसर कैश के समय-अंतर का उपयोग करके जानकारी साझा करने का तरीका खोजा। प्रोसेसर कैश हाल में इस्तेमाल किए गए डेटा की प्रतियां रखता है; डेटा तक पहुंचने में लगने वाले समय के अंतर को संकेत के रूप में इस्तेमाल किया जा सकता है।
यह उदाहरण दिखाता है कि सुरक्षा केवल इंटरनेट कनेक्शन बंद करने तक सीमित नहीं हो सकती। साझा हार्डवेयर, सेवाओं और सिस्टम के व्यवहार से बनने वाले अप्रत्यक्ष संचार मार्गों का भी मूल्यांकन करना होगा। कंपनी ने कहा कि वह निगरानी और सुरक्षा नियंत्रणों को मजबूत करने पर लगातार काम कर रही है।
Brotli सॉफ्टवेयर की कमजोरी भी सामने आई
ओपनएआई की रेड-टीमिंग गतिविधियों के दौरान Brotli नामक व्यापक रूप से इस्तेमाल होने वाले डेटा-कम्प्रेशन सॉफ्टवेयर में भी सुरक्षा समस्या सामने आई। रिपोर्टों के अनुसार, ऐसी कमजोरी का दुरुपयोग कुछ प्रभावित सिस्टमों पर दुर्भावनापूर्ण कोड चलाने के लिए किया जा सकता था। इसमें Node.js, Bun और Envoy जैसे सॉफ्टवेयर इकोसिस्टम से जुड़े सिस्टमों पर संभावित असर की बात कही गई। ओपनएआई ने बताया कि उसने संबंधित पक्षों के साथ मिलकर इस समस्या के खुलासे और समाधान की प्रक्रिया में सहयोग किया।
यह मामला AI सुरक्षा और सामान्य सॉफ्टवेयर सुरक्षा के आपसी संबंध को भी रेखांकित करता है। AI एजेंटों को सीमित रखने के लिए जिन नेटवर्क, प्रमाणीकरण, लॉगिंग और कम्प्यूटिंग सेवाओं का उपयोग होता है, उन्हीं में मौजूद कमजोरियां सुरक्षा सीमा को कमजोर कर सकती हैं। इसलिए AI प्रयोगशालाओं को केवल मॉडल के व्यवहार की नहीं, बल्कि पूरे तकनीकी ढांचे की सुरक्षा भी जांचनी पड़ती है।
सुरक्षा विशेषज्ञों की चिंताएं
ओपनएआई की घोषणा ऐसे समय आई है जब AI सुरक्षा मूल्यांकन करने वाली संस्थाओं METR और Redwood Research ने कंपनी के आंतरिक सिस्टमों में कुछ कमजोरियों की जानकारी दी। मीडिया रिपोर्टों के अनुसार, इनमें एक ऐसी संभावित खामी भी शामिल थी जिससे एजेंट निगरानी प्रणाली में अपनी गतिविधियों को छिपाने की कोशिश कर सकते थे। ओपनएआई ने कहा कि उत्पादन प्रणालियों की सुरक्षा को प्रभावित करने वाली कमजोरियों पर पैच लगाए गए हैं; हालांकि, मूल्यांकनकर्ताओं ने बताया कि उन्होंने सभी सुधारों का स्वतंत्र सत्यापन नहीं किया था।
यह अंतर महत्वपूर्ण है: किसी कंपनी का यह कहना कि खामी ठीक कर दी गई है और स्वतंत्र मूल्यांकन द्वारा सुधार की पुष्टि होना दो अलग बातें हैं। उन्नत AI सिस्टमों के लिए पारदर्शी परीक्षण, बाहरी मूल्यांकन और घटना की स्पष्ट रिपोर्टिंग भरोसा कायम करने में मदद कर सकते हैं।
आगे की चुनौती: क्षमता और नियंत्रण में संतुलन
ओपनएआई ने कहा है कि वह वर्चुअल मशीन सुरक्षा सुधारने, क्लाउड भागीदारों के साथ काम करने, निगरानी प्रणालियों को मजबूत करने और रेड-टीमिंग को जारी रखने पर ध्यान देगी। कंपनी ने यह भी स्वीकार किया कि सुरक्षा की प्रक्रिया कभी पूरी नहीं होती, क्योंकि भविष्य के मॉडल ऐसी कमजोरियां पहचान सकते हैं जिनके बारे में अभी जानकारी नहीं है।
AI विकास के लिए इंटरनेट और बाहरी टूल उपयोगी क्षमताएं दे सकते हैं, लेकिन बिना पर्याप्त नियंत्रण के वही क्षमताएं अनधिकृत गतिविधियों का जोखिम भी बढ़ा सकती हैं। फिलहाल ओपनएआई का तरीका है कि फ्रंटियर मॉडल ट्रेनिंग को ऑफलाइन वातावरण में रखा जाए और बाहरी पहुंच को तब तक सीमित रखा जाए, जब तक सुरक्षा उपायों में आगे की प्रगति व्यापक पहुंच को उचित न ठहराए।
यह फैसला AI उद्योग के सामने एक व्यापक सवाल रखता है: जैसे-जैसे मॉडल अधिक स्वायत्त और सक्षम होते जाएंगे, उन्हें उपयोगी काम करने की स्वतंत्रता देते हुए यह कैसे सुनिश्चित किया जाए कि वे तय सीमाओं के भीतर रहें? इसका जवाब केवल बेहतर मॉडल प्रशिक्षण में नहीं, बल्कि मजबूत बुनियादी ढांचे, निरंतर सुरक्षा परीक्षण, प्रभावी निगरानी और स्वतंत्र जांच में भी छिपा है।
