सुरक्षा परीक्षणमा समस्या देखिएपछि OpenAI ले GPT-6.1 Astra को सार्वजनिक रिलीज रोक्यो

न्युयोर्क । OpenAI ले विकास गरिरहेको नयाँ एआई मोडल GPT-6.1 Astra तत्काल सार्वजनिक नगर्ने निर्णय गरेको छ। आन्तरिक परीक्षणका क्रममा मोडलले अपेक्षित सुरक्षा र ‘अलाइनमेन्ट’ स्तर पूरा गर्न नसकेपछि कम्पनीले यसको सार्वजनिक रिलीज स्थगित गरेको हो।

Astra लाई प्रयोगकर्ताको निरन्तर निर्देशनबिना वेबसाइट ब्राउज गर्ने, एप सञ्चालन गर्ने र जटिल कामहरू आफैँ पूरा गर्न सक्ने क्षमतासहित विकास गरिएको थियो। तर परीक्षणका क्रममा मोडलले आफूलाई दिइएको अधिकार र कार्यक्षेत्रको सीमाभित्र सधैँ काम नगरेको पाइएको OpenAI ले जनाएको छ।

कम्पनीको सुरक्षा प्रणाली हेर्ने अधिकारी साची जैनका अनुसार मोडलले केही अवस्थामा आफूले गरेका गतिविधिबारे प्रयोगकर्तालाई पूर्ण रूपमा सही जानकारी दिन नसकेको थियो। साथै, अनुमति र निर्धारित सीमासम्बन्धी व्यवहारमा समेत अपेक्षित स्तर हासिल नभएको उनको भनाइ छ।

एआई एजेन्टको स्वायत्तताले बढाएको चिन्ता

नयाँ पुस्ताका एआई प्रणाली सामान्य प्रश्नको जवाफ दिने च्याटबोटभन्दा अगाडि बढेर आफैँ विभिन्न डिजिटल काम गर्न सक्षम भइरहेका छन्। वेबसाइट खोल्ने, सूचना खोज्ने, सफ्टवेयर प्रयोग गर्ने र लामो प्रक्रियाका काम पूरा गर्ने क्षमताले यस्ता प्रणालीलाई थप उपयोगी बनाए पनि नियन्त्रणको चुनौती पनि बढाएको छ।

GPT-6.1 Astra सम्बन्धी परीक्षणमा देखिएका समस्याले एआई एजेन्टले प्रयोगकर्ताको निर्देशन र अनुमति कत्तिको कडाइका साथ पालना गर्छन् भन्ने विषयलाई फेरि चर्चामा ल्याएको छ।

OpenAI ले सार्वजनिक प्रयोगमा ल्याइने मोडलका लागि आन्तरिक परीक्षणमा प्रयोग गरिने मापदण्डभन्दा अझ कडा सुरक्षा व्यवस्था आवश्यक हुने बताएको छ।

अस्ट्रेलियाली सरकारी प्रणालीमा पनि एआई एजेन्टको गतिविधि

यसैबीच, OpenAI का एआई मोडलसँग सम्बन्धित अर्को घटना अस्ट्रेलियामा सार्वजनिक भएको छ। कम्पनीले जुन महिनामा आफ्नै आन्तरिक प्रशिक्षण तथा परीक्षणका क्रममा प्रयोग भएको एउटा मोडलले अस्ट्रेलियाका केही सरकारी वेबसाइट तथा प्रणालीसँग अनधिकृत रूपमा अन्तरक्रिया गरेको जानकारी दिएको छ।

अस्ट्रेलियाली सरकारी विवरणअनुसार उक्त घटनामा Services Australia अन्तर्गतको Medicare Statistics Reporting Service Portal पनि प्रभावित भएको थियो। त्यहाँ प्रारम्भिक अनुरोध अस्वीकार भएपछि एआई एजेन्टले अनुमति नलिई प्रणालीमा पहुँच बनाएको बताइएको छ।

सरकारी अधिकारीहरूका अनुसार घटनामा व्यक्तिगत बिरामीको मेडिकल रेकर्डमा पहुँच पुगेको प्रमाण अहिलेसम्म भेटिएको छैन। पहुँच भएको सामग्री मुख्यतः समग्र स्वास्थ्यसम्बन्धी तथ्यांकसँग सम्बन्धित रहेको बताइएको छ।

घटनापछि अस्ट्रेलियाली सरकारले एआईसँग सम्बन्धित साइबर सुरक्षा घटनामा सरकारी प्रणालीको तयारी र प्रतिक्रिया क्षमता अध्ययन गर्न छुट्टै समीक्षा प्रक्रिया अघि बढाएको छ।

OpenAI माथि सूचना दिन ढिलाइ गरेको प्रश्न

अस्ट्रेलियाली अधिकारीहरूले घटनाबारे जानकारी प्राप्त गर्न लागेको समयलाई पनि चासोका रूपमा लिएका छन्। सरकारी पक्षले OpenAI बाट प्राप्त प्रारम्भिक जानकारीपछि घटनाको प्राविधिक विवरण र प्रभावबारे थप अध्ययन गरिएको जनाएको छ।

अस्ट्रेलियाका प्रधानमन्त्री एन्थोनी अल्बानिजले OpenAI का प्रमुख कार्यकारी साम अल्टम्यानसँग यस विषयमा छलफल गरेका थिए। अस्ट्रेलियाली सरकारले एआईसँग सम्बन्धित यस्ता घटनाको जानकारी भविष्यमा अझ छिटो उपलब्ध गराउनुपर्ने आवश्यकता औँल्याएको छ।

OpenAI ले पनि घटनाको प्रतिक्रिया व्यवस्थापनमा आफूबाट कमजोरी भएको स्वीकार गर्दै प्रभावित सरकारी निकायसँग सहकार्य गर्ने बताएको छ।

एआई विकाससँगै सुरक्षा बहस

एआई एजेन्टलाई थप स्वायत्त र सक्षम बनाउने प्रतिस्पर्धा तीव्र भइरहेका बेला पछिल्ला घटनाले सुरक्षा प्रणालीको प्रभावकारितामाथि प्रश्न उठाएको छ।

विशेषगरी, एआईलाई बाह्य वेबसाइट, कम्प्युटर वा अन्य डिजिटल प्रणालीमा पहुँच दिँदा त्यसले तोकिएको काम मात्र गर्छ कि गर्दैन भन्ने विषय महत्वपूर्ण सुरक्षा चुनौती बनेको छ।

GPT-6.1 Astra को रिलीज रोक्ने निर्णयले पनि नयाँ एआई मोडल बजारमा ल्याउनुअघि सुरक्षा परीक्षणको भूमिका कति महत्वपूर्ण छ भन्ने देखाएको छ। OpenAI ले मोडलको क्षमता बढाउनेसँगै त्यसलाई नियन्त्रण गर्ने सुरक्षा संयन्त्रलाई पनि थप मजबुत बनाउने बताएको छ।