Sustainable Finance | Financial Literacy | Sustainable Future
एआई गार्डरेल्स : नवप्रवर्तन र सुरक्षाबीच सन्तुलन
मंगलबार, १७ कार्तिक २०८३, राति १०:३३
काठमाडौं । कृत्रिम बुद्धिमत्ता (Artificial Intelligence–AI) मा आधारित एजेन्टहरूको प्रयोग विश्वभरका संस्थाहरूमा तीव्र रूपमा विस्तार भइरहेको छ। कार्यसम्पादन बढाउने, सञ्चालन लागत घटाउने र उत्पादकत्व वृद्धि गर्ने उद्देश्यले संस्थाहरूले एआई एजेन्टलाई विभिन्न व्यावसायिक गतिविधिमा समावेश गरिरहेका छन्। तर, एआईको बढ्दो स्वचालनसँगै साइबर सुरक्षा र डेटा संरक्षणका नयाँ चुनौतीसमेत देखा पर्न थालेका छन्।
विश्व आर्थिक मञ्च (World Economic Forum–WEF) ले सार्वजनिक गरेको विश्लेषणअनुसार एआई एजेन्टको प्रयोग विस्तार भइरहेका बेला त्यसबाट उत्पन्न हुन सक्ने साइबर जोखिम व्यवस्थापन गर्न संस्थाहरूले प्रभावकारी सुरक्षा नियन्त्रण प्रणाली अर्थात् ‘एआई गार्डरेल्स’ (AI Guardrails) विकास गर्नुपर्ने आवश्यकता छ।
एआई एजेन्ट सामान्य एआई उपकरणभन्दा बढी स्वचालित हुन्छन्। यिनीहरूले प्रयोगकर्ताले दिएको निर्देशनअनुसार सूचना खोज्ने, विश्लेषण गर्ने, निर्णय प्रक्रियामा सहयोग पुर्याउने तथा विभिन्न डिजिटल प्रणालीसँग जोडिएर काम सम्पन्न गर्न सक्छन्। कतिपय अवस्थामा मानवीय हस्तक्षेपबिना नै सुरुदेखि अन्त्यसम्मका कार्यप्रवाह सञ्चालन गर्न सक्ने क्षमता पनि यिनीहरूमा हुन्छ।
यसले संस्थाहरूलाई कार्यक्षमता बढाउने र स्रोतसाधनको प्रभावकारी उपयोग गर्ने अवसर प्रदान गरेको छ। तर, पर्याप्त सुरक्षा नियन्त्रणबिना एआईलाई संस्थाको कार्यप्रवाहमा समावेश गर्दा संवेदनशील सूचना चुहावट, अनधिकृत प्रणाली पहुँच र साइबर आक्रमणको जोखिम बढ्न सक्छ।
एआईसम्बन्धी साइबर जोखिम तीव्र रूपमा बढ्दै
विश्व आर्थिक मञ्चको ‘ग्लोबल साइबर सेक्युरिटी आउटलुक २०२६’ अनुसार सर्वेक्षणमा सहभागी ८७ प्रतिशत नेतृत्वकर्ताले सन् २०२५ मा एआईसम्बन्धी कमजोरीलाई सबैभन्दा तीव्र गतिमा बढेको साइबर जोखिमका रूपमा पहिचान गरेका थिए।
विश्लेषणअनुसार एआई एजेन्टलाई खराब नियतले तयार गरिएका निर्देशनमार्फत भ्रमित पार्न, यसको मूल निर्देशन परिवर्तन गर्न तथा अनधिकृत गतिविधिमा संलग्न गराउन सकिन्छ। त्यस्तै, सूचना आदानप्रदानका क्रममा संवेदनशील विवरण चुहावट हुने, गलत वा काल्पनिक जानकारीलाई वास्तविक तथ्यका रूपमा प्रस्तुत गर्ने र आवश्यकताभन्दा बढी प्रणालीगत अधिकार प्राप्त गर्ने जोखिम पनि रहन्छ।
सन् २०२६ को जुलाईमा एउटा एआई एजेन्ट परीक्षणका क्रममा आफ्नो सीमित वातावरणबाट बाहिरिएर खुला इन्टरनेटमा पुगेको र अर्को कम्पनीका सक्रिय सर्भर नियन्त्रणमा लिएको घटना विश्लेषणमा उल्लेख छ। उक्त एजेन्टको उद्देश्य आक्रमण गर्नु नभई आफूलाई दिइएको परीक्षणको उत्तर खोज्नु थियो।
त्यस्तै, सन् २०२६ को जुनमा तथ्याङ्क खोज्ने काममा लगाइएका एआई एजेन्टले अस्ट्रेलियाको सार्वजनिक रूपमा उपलब्ध नभएको मेडिकेयर डेटामा अनधिकृत पहुँच प्राप्त गरेको घटनालाई पनि एआई सुरक्षाको चुनौतीका रूपमा प्रस्तुत गरिएको छ।
यस्ता घटनाले एआई एजेन्टको क्षमता बढ्दै जाँदा परम्परागत साइबर सुरक्षा प्रणाली मात्र पर्याप्त नहुन सक्ने देखाएको छ।
एआई गार्डरेल्स भनेको के हो?
एआई गार्डरेल्स भन्नाले एआई प्रणालीले गर्ने गतिविधि, निर्णय र पहुँचलाई निर्धारित नियम तथा सीमाभित्र राख्न प्रयोग गरिने सुरक्षा उपाय र नियन्त्रण संयन्त्रलाई बुझिन्छ।
यसले एआईलाई हानिकारक सामग्री उत्पादन गर्न, संवेदनशील सूचना सार्वजनिक गर्न वा गलत निर्देशनको प्रभावमा परेर अनधिकृत काम गर्नबाट रोक्ने उद्देश्य राख्छ।
विश्व आर्थिक मञ्चको विश्लेषणले एआई गार्डरेल्सलाई मुख्यतः तीन प्रकारमा वर्गीकरण गरेको छ।
१. बिल्ट–इन गार्डरेल्स (Built-in Guardrails)
एआई मोडल निर्माण तथा प्रशिक्षणकै क्रममा समावेश गरिने सुरक्षा व्यवस्था यसअन्तर्गत पर्छन्। यसले हानिकारक तथा घृणास्पद सामग्री उत्पादन रोक्ने र विकासकर्ताले निर्धारण गरेका सुरक्षा नीतिको पालना गराउने काम गर्छ। यद्यपि, यस्ता सुरक्षा व्यवस्था सामान्य व्यवहार नियन्त्रणमा बढी केन्द्रित हुने भएकाले मात्रै पर्याप्त नहुन सक्छन्।
२. मिडलवेयर गार्डरेल्स (Middleware Guardrails)
एआई मोडल र त्यससँग जोडिएका एप्लिकेसनबीच रहेर काम गर्ने सुरक्षा प्रणालीलाई मिडलवेयर गार्डरेल्स भनिन्छ। यसले एआईमा प्रवेश गर्ने सूचना र बाहिरिने परिणामको निगरानी गर्छ। व्यक्तिगत विवरण तथा गोप्य सूचना मोडलसम्म पुग्नुअघि नै पहिचान गरी रोक्न सक्ने भएकाले संस्थागत डेटा सुरक्षामा यसको महत्त्व हुन्छ।
३. एजेन्टिक गार्डरेल्स (Agentic Guardrails)
स्वतन्त्र रूपमा कार्यसम्पादन गर्ने एआई एजेन्टलाई कुन काम गर्न दिने, कुन प्रणालीमा पहुँच दिने र कुन गतिविधि निषेध गर्ने भन्ने निर्धारण गर्ने सुरक्षा संयन्त्र यसअन्तर्गत पर्छ। एआई एजेन्टले आफैँ विभिन्न काम सम्पन्न गर्न सक्ने भएकाले यसको गतिविधि नियन्त्रण गर्न यो विशेष महत्त्वपूर्ण मानिन्छ।
एआई गार्डरेल्सले साइबर जोखिम घटाउन सक्छ?
एआई गार्डरेल्सले एआई एजेन्टबाट हुन सक्ने डेटा चुहावट, अनधिकृत पहुँच, गलत निर्णय तथा साइबर आक्रमणको जोखिम न्यूनीकरण गर्न महत्त्वपूर्ण भूमिका खेल्न सक्छ। यसले एआईलाई निश्चित नियम र सीमाभित्र राख्दै संवेदनशील सूचना बाहिरिनबाट रोक्ने, प्रणालीमा पहुँच नियन्त्रण गर्ने र जोखिमपूर्ण गतिविधिमा मानवीय स्वीकृति अनिवार्य गर्ने व्यवस्था गर्न सक्छ।
उदाहरणका लागि बैंक तथा वित्तीय संस्थाले प्रयोग गर्ने एआई एजेन्टलाई ग्राहकको विवरण विश्लेषण गर्ने अनुमति दिँदा आवश्यकताअनुसार मात्र डेटा पहुँच दिन सकिन्छ। त्यस्तै, ठूलो रकमको कारोबार, संवेदनशील विवरण परिवर्तन वा महत्त्वपूर्ण वित्तीय निर्णय गर्नुअघि सम्बन्धित कर्मचारीको स्वीकृति अनिवार्य गर्न सकिन्छ।
यद्यपि, एआई गार्डरेल्सले सबै प्रकारका साइबर जोखिम पूर्ण रूपमा समाप्त गर्न सक्दैन। नयाँ प्रकृतिका साइबर आक्रमण, सुरक्षा प्रणालीको कमजोरी, गलत कन्फिगरेसन तथा मानवीय त्रुटिका कारण सुरक्षा घेरा छलिन सक्ने सम्भावना रहन्छ। त्यसैले नियमित सुरक्षा परीक्षण, गतिविधिको निरन्तर निगरानी, पहुँच नियन्त्रण र साइबर सुरक्षा अडिटलाई पनि सँगसँगै अघि बढाउन आवश्यक हुन्छ।
सुरक्षित एआई प्रयोगका लागि तीन तहको रणनीति
एआईबाट उत्पन्न जोखिम न्यूनीकरण गर्न विश्व आर्थिक मञ्चले प्रविधि, सञ्चालन र संस्थागत सुशासन गरी तीन तहमा सुरक्षा व्यवस्था लागू गर्नुपर्ने सुझाव दिएको छ।
१. प्राविधिक सुरक्षा (Technical Security)
संस्थाले प्रयोग गर्ने एआई प्रणालीबाट उत्पन्न हुन सक्ने जोखिम पहिचान गरी त्यसअनुसार सुरक्षा नियन्त्रण लागू गर्नुपर्छ। एआईले प्राप्त गर्ने निर्देशन र दिने परिणामको निगरानी, आवश्यकताअनुसार उपकरण तथा प्रणालीमा पहुँच सीमित गर्ने र प्रयोग गर्नुअघि पर्याप्त परीक्षण गर्ने व्यवस्था आवश्यक हुन्छ।
विशेषगरी एआई एजेन्टलाई काम सम्पन्न गर्न आवश्यक पर्ने न्यूनतम अधिकार मात्र दिनुपर्ने अवधारणालाई प्राथमिकता दिनुपर्छ। यसलाई ‘लिस्ट प्रिभिलेज’ (Least Privilege) भनिन्छ।
२. सञ्चालनगत निगरानी (Operational Oversight)
एआईले गर्ने महत्त्वपूर्ण तथा संवेदनशील निर्णयमा मानवीय निगरानी आवश्यक हुन्छ। व्यवसायलाई असर पार्न सक्ने गतिविधिमा एआईलाई पूर्ण रूपमा स्वतन्त्र छाड्नुको सट्टा मानव हस्तक्षेप र स्वीकृतिको व्यवस्था गर्नुपर्छ।
संस्थाले एआई प्रणालीले के काम गरिरहेको छ र किन गरिरहेको छ भन्ने विषयमा निरन्तर निगरानी राख्नुपर्ने विश्लेषणमा उल्लेख छ।
३. संस्थागत सुशासन (Governance)
एआई प्रयोग गर्ने संस्थाले स्पष्ट नीति, जिम्मेवारी र जोखिम व्यवस्थापन प्रणाली विकास गर्नुपर्छ। साथै, सम्बन्धित देशका नियामकीय आवश्यकतासँग मेल खाने र अन्तर्राष्ट्रिय मापदण्डमा आधारित सुरक्षा व्यवस्था अपनाउनुपर्छ।
यसका लागि अमेरिकाको नेसनल इन्स्टिच्युट अफ स्ट्यान्डर्ड्स एन्ड टेक्नोलोजी (NIST) को एआई रिस्क म्यानेजमेन्ट फ्रेमवर्क (AI RMF) तथा अन्तर्राष्ट्रिय मानकीकरण संस्था (ISO) को ISO/IEC 42001 जस्ता मापदण्ड उपयोगी हुन सक्छन्।
नवप्रवर्तन रोक्ने होइन, सुरक्षित बनाउने माध्यम
विश्व आर्थिक मञ्चका अनुसार एआई गार्डरेल्सको उद्देश्य प्रविधिको विकास र नवप्रवर्तनलाई रोक्नु होइन। बरु, जोखिम नियन्त्रण गर्दै संस्थाहरूलाई विश्वसनीय र जिम्मेवार ढङ्गले एआई प्रविधि विस्तार गर्न सक्षम बनाउनु हो।
एआई एजेन्टको प्रयोग बढ्दै जाँदा संस्थाहरूले केवल प्रविधि अपनाउने कुरामा मात्र ध्यान दिनु पर्याप्त हुँदैन। त्यससँगै डेटा सुरक्षा, पहुँच नियन्त्रण, मानवीय निगरानी र संस्थागत जवाफदेहितालाई पनि प्राथमिकता दिनुपर्ने देखिन्छ।
विशेषगरी बैंक तथा वित्तीय संस्था, सरकारी निकाय, स्वास्थ्य सेवा र संवेदनशील व्यक्तिगत विवरण व्यवस्थापन गर्ने संस्थाहरूका लागि एआई सुरक्षा अझ महत्त्वपूर्ण बन्नेछ।
अन्ततः एआई गार्डरेल्सले नवप्रवर्तन र सुरक्षाबीच सन्तुलन कायम गर्न सहयोग पुर्याउन सक्छ। तर, प्रभावकारी सुरक्षा सुनिश्चित गर्न प्रविधिगत नियन्त्रण, मानवीय निगरानी र संस्थागत सुशासनलाई एकीकृत रूपमा अघि बढाउन आवश्यक देखिन्छ ।
प्रतिक्रिया 0