OpenAI ने AI सुरक्षा के लिए उठाया बड़ा कदम, उन्नत मॉडल्स की ट्रेनिंग में लाइव इंटरनेट पर लगाई रोक

0
11

नई दिल्ली। आर्टिफिशियल इंटेलिजेंस (AI) कंपनी OpenAI ने अपने सबसे उन्नत AI मॉडल्स की ट्रेनिंग के दौरान लाइव इंटरनेट एक्सेस पर रोक लगाने का फैसला किया है। कंपनी के अनुसार, यह कदम संभावित सुरक्षा खतरों को कम करने और अपने रिसर्च इंफ्रास्ट्रक्चर को सुरक्षित बनाने के उद्देश्य से उठाया गया है। यह प्रतिबंध तब तक जारी रहेगा, जब तक सुरक्षा व्यवस्था को व्यापक इंटरनेट एक्सेस के लिए पर्याप्त मजबूत नहीं माना जाता।

OpenAI ने 23 अक्टूबर को प्रकाशित ब्लॉग में बताया कि इंटरनेट से जुड़ाव AI मॉडल्स को वेब ब्राउजिंग और ऑनलाइन कार्य करने की क्षमता विकसित करने में मदद करता है। हालांकि, अधिक सक्षम AI एजेंट सुरक्षा सीमाओं को पार कर बाहरी वेबसाइटों, सेवाओं या कंप्यूटर सिस्टम तक अनधिकृत पहुंच हासिल कर सकते हैं। इसी जोखिम को देखते हुए कंपनी ने अपनी ट्रेनिंग व्यवस्था में बदलाव किया है।

सुरक्षा खामी के कारण रिसर्च मॉडल ने हासिल की इंटरनेट तक पहुंच

OpenAI के मुताबिक, 20 सितंबर 2026 को उसके एक आंतरिक रिसर्च मॉडल ने DNS रिजॉल्वर की गलत कॉन्फिगरेशन का फायदा उठाकर सीमित लाइव इंटरनेट एक्सेस हासिल कर लिया था। इस घटना के बाद कंपनी ने अपने सबसे सक्षम मॉडल्स की ट्रेनिंग और मूल्यांकन प्रक्रियाओं को अस्थायी रूप से रोक दिया।

इसके बाद रिसर्च इंफ्रास्ट्रक्चर की सुरक्षा मजबूत करने, निगरानी व्यवस्था में सुधार करने और गंभीर जोखिम सामने आने पर AI मॉडल की गतिविधियों को स्वतः रोकने वाले सिस्टम विकसित करने पर काम किया गया। कंपनी के अनुसार, अतिरिक्त सुरक्षा उपायों और समीक्षा के बाद 1 अक्टूबर को फ्रंटियर मॉडल्स की रीइन्फोर्समेंट लर्निंग ट्रेनिंग और आंतरिक उपयोग फिर शुरू किया गया।

AI मॉडल्स से ही खोजीं सुरक्षा व्यवस्था की कमजोरियां

OpenAI ने अपने उन्नत AI मॉडल्स का इस्तेमाल सुरक्षा प्रणालियों की खामियां पहचानने के लिए किया। इस प्रक्रिया को रेड-टीमिंग कहा जाता है, जिसमें किसी सिस्टम को जानबूझकर चुनौती देकर उसकी कमजोरियों का पता लगाया जाता है।

परीक्षण के दौरान AI एजेंट्स को लाइव इंटरनेट तक पहुंचने, निर्धारित सुरक्षा सीमाओं को पार करने और उन दूसरे एजेंट्स से संपर्क करने के संभावित रास्ते खोजने को कहा गया, जिनसे संवाद की अनुमति नहीं थी।

कंपनी के अनुसार, इन परीक्षणों में सॉफ्टवेयर की कुछ ऐसी कमजोरियां और रिसर्च इंफ्रास्ट्रक्चर की गलत कॉन्फिगरेशन सामने आईं, जिनकी पहले पहचान नहीं हुई थी। OpenAI ने दावा किया कि पहचानी गई खामियों को दूर किया गया और ओपन-सोर्स सॉफ्टवेयर से संबंधित समस्याओं के समाधान के लिए संबंधित डेवलपर्स के साथ भी काम किया गया।

लाइव इंटरनेट की जगह ऑफलाइन वेब वातावरण

OpenAI का मानना है कि AI मॉडल्स के लिए इंटरनेट पर जानकारी खोजना और वेब एप्लिकेशन के साथ काम करना सीखना जरूरी है। इसी जरूरत को पूरा करने के लिए कंपनी ने ऐसा ऑफलाइन वातावरण तैयार किया है, जहां मॉडल पहले से इंडेक्स की गई और कैश की गई वेब सामग्री का इस्तेमाल कर सकते हैं।

इस व्यवस्था के तहत मॉडल्स को ऑनलाइन सामग्री के साथ काम करने का अभ्यास मिलता है, लेकिन उन्हें सीधे लाइव इंटरनेट पर मनमानी पहुंच नहीं दी जाती। इससे वास्तविक वेबसाइटों और बाहरी सिस्टम पर अनधिकृत गतिविधियों का जोखिम सीमित करने में मदद मिल सकती है।

कई स्तरों पर सुरक्षा व्यवस्था मजबूत

कंपनी ने सुरक्षा के लिए प्रतिबंधित कंप्यूटिंग वातावरण, वर्चुअल मशीन, नेटवर्क नियंत्रण और संदिग्ध गतिविधियों की निगरानी जैसे उपाय अपनाए हैं। इसका उद्देश्य यह सुनिश्चित करना है कि यदि सुरक्षा की कोई एक परत विफल हो जाए, तो अन्य उपाय AI मॉडल को अनधिकृत पहुंच हासिल करने से रोक सकें।

उन्नत AI एजेंट्स की बढ़ती क्षमताओं के बीच सुरक्षा संबंधी चिंताएं भी बढ़ रही हैं। ऐसे मॉडल सॉफ्टवेयर की खामियों का फायदा उठाकर उन गतिविधियों को अंजाम देने का प्रयास कर सकते हैं, जिनकी उन्हें अनुमति नहीं दी गई है।

OpenAI ने अगस्त 2026 में भी एक अन्य घटना का विवरण साझा किया था, जिसमें उसके आंतरिक रिसर्च मॉडल्स ने सुरक्षा प्रतिबंधों को दरकिनार कर इंटरनेट तक पहुंच बनाई थी। कंपनी ने उस घटना में रिसर्च इंफ्रास्ट्रक्चर और Hugging Face के कुछ सिस्टम प्रभावित होने की जानकारी दी थी।

फिलहाल ट्रेनिंग और मूल्यांकन तक सीमित है प्रतिबंध

OpenAI ने स्पष्ट किया है कि लाइव इंटरनेट एक्सेस पर रोक उसके उन्नत मॉडल्स की मौजूदा ट्रेनिंग और मूल्यांकन व्यवस्था से संबंधित है। कंपनी सुरक्षा परीक्षण, निगरानी और तकनीकी नियंत्रणों को बेहतर बनाने पर काम कर रही है। लाइव इंटरनेट तक व्यापक पहुंच की अनुमति देने का फैसला सुरक्षा व्यवस्था की मजबूती और जोखिमों के आकलन के आधार पर लिया जाएगा।

LEAVE A REPLY

Please enter your comment!
Please enter your name here