OpenAI में एक बार फिर आर्टिफिशियल इंटेलिजेंस (AI) सेफ्टी को लेकर सवाल खड़े हो गए हैं. कंपनी के लंबे समय तक काम करने वाले सेफ्टी लीडर डेविड रॉबिन्सन ने इस्तीफा दे दिया है. कंपनी छोड़ने के बाद रॉबिन्सन ने OpenAI की काम करने की कल्चर और एआई को आगे बढ़ाने के तरीके पर गंभीर सवाल उठाए हैं.
उन्होंने कहा कि AI इंडस्ट्री जिस तेजी से आगे बढ़ रही है, उसके साथ सेफ्टी पर भी उतना ही ध्यान देना जरूरी है. रॉबिन्सन के मुताबिक, मौजूदा तरीके से एआई को डेवलप करना अब सही नहीं है.
OpenAI की ट्रायल एंड एरर अप्रोच पर उठे बड़े सवाल
डेविड रॉबिन्सन ने अपने एक लेख में बताया कि एआई कंपनियां अक्सर पहले सिस्टम को डेवलप और डिप्लॉय करती हैं और जब कोई दिक्कत सामने आती है, तब सेफ्टी सिस्टम को बेहतर किया जाता है.
ओपनएआई इस तरीके को इटरेटिव डिप्लॉयमेंट कहता है. रॉबिन्सन का कहना है कि यह तरीका AI के लिए काफी बड़ा रिस्क बन सकता है. जैसे-जैसे एआई मॉडल ज्यादा पावरफुल होते जाएंगे, वैसे-वैसे किसी गलती का असर भी बड़ा हो सकता है.
उनके मुताबिक, अगर कोई बड़ी गलती हो गई तो हर बार उसे बाद में ठीक करने का मौका नहीं मिलेगा. इसलिए एआई कंपनियों को पहले से ज्यादा मजबूत सेफ्टी सिस्टम बनाने होंगे.
AI Agents की घटनाओं का भी किया जिक्र
रॉबिन्सन ने अपने लेख में एआई एजेंट से जुड़ी कुछ घटनाओं का भी जिक्र किया. उन्होंने बताया कि एक घटना में ओपनएआई से गलती से AI Agents का एक स्वॉर्म रिलीज हो गया था.
उन्होंने एक और मामले का जिक्र किया, जिसमें ट्रेनिंग के दौरान एक एआई मॉडल ने इंटरनेट एक्सेस से जुड़ी पाबंदियों को पार कर लिया. सिस्टम ने इसकी जानकारी दी, लेकिन उसे अपने आप बंद नहीं किया जा सका, जबकि ऐसा होना चाहिए था. रॉबिन्सन के मुताबिक, इस तरह की गलतियां सिर्फ एक कंपनी तक सीमित नहीं हैं. AI इंडस्ट्री में तेजी से काम करने की वजह से ऐसी घटनाएं हो रही हैं.
अब Trial and Error का समय खत्म
रॉबिन्सन ने कहा कि AI की बढ़ती कैपिसिटी को देखते हुए अब 'Trial and Error' के भरोसे आगे बढ़ना ठीक नहीं है. उनका मानना है कि भविष्य में एआई सिस्टम इंसानों से भी ज्यादा सक्षम हो सकते हैं. ऐसे में किसी बड़ी गलती को बाद में ठीक करना मुश्किल हो सकता है.
उन्होंने AI कंपनियों को एविएशन और नुक्लेअर पावर जैसे हाई-रिस्क सेक्टर से सेफ्टी के तरीके सीखने की सलाह दी है. उनके मुताबिक, एआई सिस्टम में भी कई लेयर की सेफ्टी और बैकअप सिस्टम होने चाहिए, ताकि एक छोटी गलती बड़ी समस्या में न बदल जाए.
AI से नहीं, उसके गलत इस्तेमाल से चिंता
रॉबिन्सन ने यह भी साफ किया कि वह एआई को पूरी तरह खराब नहीं मानते. उनके मुताबिक, AI लोगों के लिए काफी उपयोगी और फायदेमंद हो सकता है. लेकिन इसकी कैपिसिटी बढ़ने के साथ सेफ्टी भी उसी हिसाब से मजबूत होनी चाहिए.
OpenAI से इस्तीफा देने के बाद अब रॉबिन्सन बाहर से AI सेफ्टी को लेकर काम करना चाहते हैं. उनका कहना है कि कंपनियों पर बाहर से भी दबाव होना जरूरी है, ताकि एआई को ज्यादा सुरक्षित तरीके से डेवलप किया जा सके.
यह इस्तीफा ऐसे समय आया है जब AI सेफ्टी को लेकर पूरी इंडस्ट्री में बहस तेज हो रही है. रॉबिन्सन का कहना है कि एआई को तेजी से आगे बढ़ाने के साथ-साथ उसे सुरक्षित रखने की जिम्मेदारी को नजरअंदाज नहीं किया जा सकता.
