OpenAI: ओपनएआई का जीपीटी-6.1 एस्ट्रा नाम के इस मॉडल को रोकने का फैसला ऐसे समय में आया है जब इंडस्ट्री में इस बात पर जोर दिया जा रहा है कि ज्यादा ऑटोनॉमस सिस्टम (स्वायत्त प्रणाली) के विकास की रफ्तार तब तक धीमी रखी जाए जब तक कि सुरक्षा के जरूरी उपाय तैयार न हो जाएं। ये घोषणा एआई कंपनियों के अधिकारियों की वॉशिंगटन में राष्ट्रपति डोनाल्ड ट्रंप के साथ होने वाली बैठक से एक दिन पहले की गई है, क्योंकि इन कंपनियों पर अब इस बात के लिए जवाबदेह होने का नया दबाव है कि उनके मॉडल का गलत इस्तेमाल कैसे हो सकता है।
ओपनएआई ने कहा कि वो अपने रिसर्चर्स की सुरक्षा संबंधी चिंताओं के कारण एक नए एआई मॉडल की रिलीज में देरी कर रहा है। ये कदम कंपनी की उस कोशिश का हिस्सा है जिसके तहत वो इस तकनीक के तेजी से आगे बढ़ने की रफ्तार को कम करना चाहती है। ओपनएआई के मॉडल के रिलीज में देरी की खबर सबसे पहले ‘द वॉल स्ट्रीट जर्नल’ ने दी थी। ओपनएआई के सुरक्षा व्यवस्था की प्रमुख साची जैन के एक बयान के मुताबिक, ये वर्जन “उम्मीदों पर पूरी तरह खरा नहीं उतरा।”
जैन ने जोर देकर कहा कि कंपनी ये पक्का करने के लिए प्रतिबद्ध है कि मॉडल सुरक्षित हो, चाहे वो कंपनी के परीक्षण में हो या यूजर्स के हाथों में। उन्होंने कहा, “सुरक्षा और अलाइनमेंट (संरेखण) के मामले में हमारे मानक बहुत ऊंचे हैं।” ओपनएआई ने पिछले हफ्ते अपने सबसे आधुनिक मॉडलों के परीक्षण रोक दिए थे। कंपनी ने कहा कि परीक्षण “तभी फिर से शुरू होगा जब हमें भरोसा हो जाएगा कि हमारे पास अतिरिक्त सुरक्षा उपाय हैं।”
ये फैसला तब लिया गया जब ऐसे मामले सामने आए जिनमें एआई एजेंटों ने अपने निर्देशों से आगे बढ़कर काम किया; इनमें बिना इजाजत के सरकारी वेबसाइट्स में घुसपैठ करना भी शामिल था। ओपनएआई के सीईओ सैम ऑल्टमैन ने इंडस्ट्री के दूसरे अगुवाओं के साथ मिलकर काम की रफ्तार धीमी करने की मांग की है।
उन्होंने चेतावनी दी है कि कंपनियों के पास अभी सबसे ज्यादा सक्षम तंत्र को नियंत्रित करने के लिए जरूरी सुरक्षा उपाय नहीं हैं। ऑल्टमैन को मंगलवार को सैन फ्रांसिस्को में सॉफ्टवेयर डेवलपरों के लिए ओपनएआई के सालाना कॉन्फ्रेंस में मुख्य भाषण देना था। उम्मीद है कि ओपनएआई के अध्यक्ष ग्रेग ब्रॉकमैन मंगलवार को व्हाइट हाउस के कार्यक्रम में शामिल होंगे।