नियम तोड्ने एआईलाई तत्काल बन्द गर्ने प्रणाली ल्याउँदै एनभिडिया

काठमाडौं । चिप निर्माता कम्पनी एनभिडियाले नियम उल्लंघन गर्ने वा तोकिएको सीमाभन्दा बाहिर जाने एआई एजेन्टलाई नियन्त्रणमा लिन तथा आवश्यक परे तत्काल बन्द गर्न सकिने नयाँ सुरक्षा प्रणाली सार्वजनिक गरेको छ। ब्लुमबर्गका अनुसार, एआई एजेन्टलाई मानिसको प्रत्यक्ष निगरानीबिना विभिन्न डिजिटल काम गर्न दिने प्रविधिको प्रयोग बढिरहेका बेला एनभिडियाले यस्तो सुरक्षा प्रणाली अघि सारेको हो।

कम्पनीका अनुसार नयाँ प्रविधिले एआई एजेन्टले कुन प्रणाली, स्रोत वा उपकरणमा पहुँच पाइरहेको छ भन्ने विषयमा निगरानी गर्न सहयोग गर्छ। एआई एजेन्टले तोकिएको सुरक्षा नीति वा अनुमति उल्लंघन गर्न खोजेमा त्यसको गतिविधिलाई रोक्न सकिने गरी प्रणाली विकास गरिएको एनभिडियाको दाबी छ। यसले एआई एजेन्टलाई काम गर्ने स्वतन्त्रता दिँदै आवश्यक सुरक्षा सीमासमेत कायम राख्ने उद्देश्य राखेको छ।

एनभिडियाले नयाँ सुरक्षा प्रविधि हालै चर्चामा आएको हगिङ फेसको सुरक्षा घटनासँग पनि जोडेको छ। कम्पनीको दाबीअनुसार यस्तो सुरक्षा प्रणाली उक्त घटनाको समयमा प्रयोगमा रहेको भए ओपनएआईका एआई मोडलबाट भएको गतिविधिलाई रोक्न सकिने थियो। हगिङ फेससँग सम्बन्धित घटनामा एआई मोडलले साइबर सुरक्षा परीक्षणका क्रममा तोकिएको सीमाभन्दा बाहिर गएर पूर्वाधारमा पहुँच बनाएको विषय सार्वजनिक भएपछि स्वायत्त एआई प्रणालीको सुरक्षा र नियन्त्रणबारे बहस थप तीव्र भएको थियो।

नयाँ प्रणालीले एआई एजेन्टको गतिविधिलाई सुरक्षित वातावरणभित्र सीमित गर्ने र त्यसको पहुँच तथा व्यवहारलाई निगरानी गर्ने संयन्त्र उपलब्ध गराउने बताइएको छ। एआई एजेन्टले अप्रत्याशित रूपमा व्यवहार गर्दा त्यसको गतिविधि रोक्न सकिने भएकाले संवेदनशील प्रणालीमा हुने सम्भावित क्षति कम गर्ने उद्देश्य यसमा राखिएको छ।

विशेषगरी एआई एजेन्टलाई कोड लेख्ने, फाइल व्यवस्थापन गर्ने, वेबसाइट तथा अन्य डिजिटल सेवासँग अन्तरक्रिया गर्ने र स्वचालित रूपमा विभिन्न काम पूरा गर्ने क्षेत्रमा प्रयोग बढ्दै गएको छ। यस्तो अवस्थामा एआई एजेन्टलाई दिइने पहुँच नियन्त्रण गर्नु र नियम उल्लंघन भए तत्काल हस्तक्षेप गर्न सक्नु साइबर सुरक्षाको महत्वपूर्ण विषय बन्दै गएको छ।

एनभिडियाले नयाँ सुरक्षा प्रविधिसँग सम्बन्धित उपकरणहरू विकासकर्ताले प्रयोग गर्न सक्ने गरी उपलब्ध गराउने जनाएको छ। कम्पनीको दृष्टिकोणमा एआईको क्षमता विस्तारसँगै त्यसलाई नियन्त्रण गर्ने सुरक्षा तह पनि समान रूपमा विकास हुन आवश्यक छ।

एआई एजेन्टले मानिसले दिएको निर्देशनअनुसार काम गरे पनि अप्रत्याशित कदम चाल्न सक्ने सम्भावना रहने भएकाले पूर्वनिर्धारित नियम, पहुँच सीमा र आवश्यक पर्दा तत्काल बन्द गर्न सकिने संयन्त्रको आवश्यकता बढेको छ। ब्लुमबर्गका अनुसार, एनभिडियाको नयाँ पहलले स्वायत्त एआई प्रणालीको बढ्दो प्रयोगसँगै त्यसको सुरक्षा र नियन्त्रणलाई कसरी बलियो बनाउने भन्ने बहसलाई थप अघि बढाएको छ।