Sustainable Finance | Financial Literacy | Sustainable Future
संवेदनशील सूचना प्रकरणमा ओपनएआईका ३ अनुसन्धानकर्ता बर्खास्त
शुक्रबार, १६ आश्विन २०८३, राति ८:१६
काठमाडौं । च्याटजीपीटी निर्माता ओपनएआईले कम्पनीका संवेदनशील तथा गोप्य सूचनाको व्यवस्थापनसम्बन्धी आन्तरिक नियम उल्लंघन गरेको आरोपमा तीन जना अनुसन्धानकर्तालाई कम्पनीबाट हटाएको छ। उनीहरूले कम्पनीबाहिरको कृत्रिम बुद्धिमत्ता (एआई) मोडल विश्लेषण तथा मूल्यांकन गर्ने संस्थासँग सम्बन्धित कामका क्रममा संवेदनशील सूचना निर्धारित प्रक्रियाबाहिर गएको आरोप छ।
ओपनएआईका प्रवक्ताका अनुसार कम्पनीले गरेको आन्तरिक अनुसन्धानले तीन कर्मचारीले स्थापित प्रक्रियाबाहिर संवेदनशील सूचना व्यवस्थापन गरेको निष्कर्ष निकालेको थियो। कम्पनीले उनीहरूको गतिविधिले आन्तरिक नीति उल्लंघन गर्नुका साथै अनुसन्धानका लागि आवश्यक विश्वासमा असर पारेको जनाएको छ।
ओपनएआईले भने हटाइएका कर्मचारीको नाम सार्वजनिक गरेको छैन। तर द वाल स्ट्रिट जर्नल र अन्य रिपोर्टका अनुसार हटाइएका तीनमध्ये कम्तीमा दुई जना एआई सुरक्षा तथा ‘अलाइनमेन्ट’ अनुसन्धानमा संलग्न थिए। ब्लुमबर्गका अनुसार तीनमध्ये दुई जना सुरक्षा तथा अलाइनमेन्ट अनुसन्धानकर्ता र अर्का एक जना अनुसन्धान कार्यक्रम व्यवस्थापनमा संलग्न थिए।
बाह्य एआई मूल्यांकन संस्थासँग सम्बन्धित काम
यो घटनाको मुख्य विषय कम्पनीको संवेदनशील सूचना बाह्य संस्थासँग कसरी आदानप्रदान भयो भन्ने हो। रिपोर्टअनुसार अनुसन्धानकर्ताहरूले बाह्य एआई सुरक्षा वा मूल्यांकन संस्थासँग कम्पनीको संवेदनशील अनुसन्धानसम्बन्धी सूचना साझा गरेको विषय आन्तरिक अनुसन्धानको दायरामा परेको थियो। यद्यपि ओपनएआईले कुन सूचना, कति मात्रामा र कुन बाह्य संस्थासँग कसरी साझा गरिएको थियो भन्ने विस्तृत विवरण सार्वजनिक गरेको छैन।
बीबीसीका अनुसार अनुसन्धानकर्ताहरूलाई एआई सुरक्षासम्बन्धी चिन्ता व्यक्त गरेको कारण मात्र हटाइएको होइन, बरु संवेदनशील सूचनालाई कथित रूपमा कम्पनीको निर्धारित प्रक्रियाबाहिर व्यवस्थापन गरेको विषयमा कारबाही गरिएको हो।
एआई सुरक्षाबारे बहस चर्किएका बेला घटना
तीन अनुसन्धानकर्ता हटाइएको घटना विश्वका प्रमुख एआई कम्पनीहरूमा एआईको सुरक्षा, जोखिम र अनुसन्धानको पारदर्शिताबारे बहस तीव्र भइरहेका बेला आएको हो।
पछिल्ला महिनामा एआई मोडल तथा ‘एआई एजेन्ट’हरूले मानवले दिएको निर्देशनअनुसार स्वायत्त रूपमा विभिन्न काम गर्न सक्ने भएकाले तिनको नियन्त्रण, सुरक्षा परीक्षण र बाह्य मूल्यांकनलाई लिएर उद्योगभित्रै बहस बढेको छ। ओपनएआईलगायत कम्पनीहरूले एआईको सम्भावित जोखिम घटाउन सुरक्षा परीक्षण र निगरानीलाई प्राथमिकता दिने बताउँदै आएका छन्।
यसैबीच, ओपनएआईले आफ्ना एआई प्रणालीसँग सम्बन्धित केही अनधिकृत गतिविधिका घटनापछि अनुसन्धान तथा समीक्षा पनि अघि बढाएको रिपोर्टहरू सार्वजनिक भएका छन्। कम्पनीले प्रभावित हुन सक्ने १०० भन्दा बढी संस्थालाई घटनाबारे जानकारी गराएको बताइएको छ। यद्यपि त्यस्तो सूचना पठाइनुले ती संस्थाको गोप्य सूचना अनिवार्य रूपमा चोरी भएको वा प्रणाली नै ह्याक भएको प्रमाणित नगर्ने ओपनएआईको भनाइ छ।
अनुसन्धानकर्ताको भूमिका र कम्पनीको गोपनीयता
एआई सुरक्षा अनुसन्धानकर्ताहरूले शक्तिशाली एआई मोडलबाट उत्पन्न हुन सक्ने जोखिम पहिचान गर्ने, मोडलले दिएको परिणाम परीक्षण गर्ने तथा मानव निर्देशनअनुसार सुरक्षित रूपमा काम गरिरहेको छ कि छैन भन्ने मूल्यांकन गर्ने काम गर्छन्।
यस्ता अनुसन्धानमा कम्पनीभित्रको मोडल, परीक्षण परिणाम, सुरक्षा कमजोरी र अनुसन्धानसम्बन्धी संवेदनशील जानकारीमा पहुँच हुन सक्ने भएकाले त्यस्ता सूचनाको व्यवस्थापनलाई एआई कम्पनीहरूले कडा आन्तरिक नियमअन्तर्गत राख्ने गरेका छन्। ओपनएआईले पनि आफ्ना सुरक्षा टोलीसँग काम गर्न गहिरो विश्वास आवश्यक हुने बताएको छ।
यस घटनाले भने एउटा महत्त्वपूर्ण प्रश्नसमेत उठाएको छ—एआई सुरक्षा अनुसन्धानका क्रममा कम्पनीभित्रको गोपनीयता र बाह्य स्वतन्त्र मूल्यांकनबीच सन्तुलन कसरी कायम गर्ने? हालसम्म ओपनएआईले अनुसन्धानकर्ताहरूले कुन सूचनालाई कुन प्रक्रियामार्फत बाहिर लगे र त्यसबाट कुनै वास्तविक सुरक्षा क्षति भयो कि भएन भन्नेबारे विस्तृत जानकारी दिएको छैन। त्यसैले सार्वजनिक विवरणका आधारमा घटनाको पूर्ण प्रकृति अझै स्पष्ट भइसकेको छैन।
एआई उद्योगका लागि संवेदनशील विषय
ओपनएआईका तीन अनुसन्धानकर्ता हटाइएको घटना कम्पनीभित्रको कर्मचारी अनुशासनको विषय मात्र नभई तीव्र गतिमा विकास भइरहेको एआई उद्योगमा गोपनीयता, सुरक्षा परीक्षण, बाह्य मूल्यांकन र अनुसन्धानकर्ताको भूमिका कति संवेदनशील बन्दै गएको छ भन्ने उदाहरणका रूपमा समेत आएको छ।
ओपनएआईले भने आफ्नो कदमलाई स्पष्ट रूपमा कम्पनीको संवेदनशील सूचना व्यवस्थापनसम्बन्धी नीति उल्लंघनसँग जोडेको छ। अनुसन्धानकर्ताहरूले सुरक्षा जोखिमबारे सार्वजनिक रूपमा उठाएका विषय र उनीहरूलाई हटाइनुको कारणबीच प्रत्यक्ष सम्बन्ध रहेको पुष्टि कम्पनीले गरेको छैन।
प्रतिक्रिया 0