सुपर एआईले एक दशकभित्र सबै मानिस मार्न सक्छ ?

एआई सुरक्षा अनुसन्धानकर्ताको दाबी : अहिलेका मोडल होइन, तीव्र गतिमा विकसित हुँदै गरेको ‘सुपरइन्टेलिजेन्ट’ एआई मुख्य चिन्ता

कृत्रिम बुद्धिमत्ता (एआई) विकासको दौडमा विश्वका अग्रणी प्रविधि कम्पनीहरू नयाँ–नयाँ शक्तिशाली मोडल निर्माण गर्न तीव्र गतिमा अघि बढिरहेका बेला एआईकै सुरक्षा अनुसन्धानकर्ताहरूले मानव अस्तित्वमाथि पर्न सक्ने जोखिमबारे गम्भीर चेतावनी दिएका छन् ।

एआई कम्पनी एन्थ्रोपिकका सुरक्षा अनुसन्धानकर्ता ईभन हबिङ्गरले आगामी एक दशकभित्र अत्यन्त शक्तिशाली एआईका कारण मानवजाति नै समाप्त हुन सक्ने सम्भावना १० प्रतिशतभन्दा बढी रहेको आफ्नो व्यक्तिगत आकलन सार्वजनिक गरेका छन् ।

यो भनाइ कुनै वैज्ञानिक अध्ययनबाट निकालिएको निश्चित तथ्याङ्क होइन। हबिङ्गरले आफ्नै जोखिम आकलनका रूपमा उक्त संख्या दिएका हुन्। तर उनी एआई विकासको भित्री तहमा काम गरिरहेका सुरक्षा अनुसन्धानकर्ता भएकाले उनको भनाइले अहिलेको एआई विकासको गति र त्यसलाई नियन्त्रण गर्ने क्षमताबीचको अन्तरबारे बहसलाई गम्भीर बनाएको छ ।

हबिङ्गरले सामाजिक सञ्जाल एक्समा एन्थ्रोपिकका पूर्व अनुसन्धानकर्ता जेकब कक्सनको चेतावनीलाई प्रतिक्रिया दिँदै लेखेका छन, ‘जेकब यहाँ सही छन् । हामी वास्तवमै एआईले सबै मानिसलाई मार्न सक्ने सम्भावनालाई गम्भीर रूपमा विश्वास गर्छौं। मेरो व्यक्तिगत विचारमा आगामी एक दशकभित्र यस्तो हुने सम्भावना १० प्रतिशतभन्दा बढी छ ।’

हबिङ्गरको सबैभन्दा गम्भीर भनाइ १० प्रतिशतको संख्या मात्रै होइन। उनले सुरक्षा अनुसन्धानमा प्रयास भैरहेपनि भविष्यको सुपर इन्टिलिजेन्स मानवभन्दा धेरै शक्तिशाली हुने र यसलाई सुरक्षित रूपमा नियन्त्रण गर्ने उपाय नरहेको बताएका छन् ।

चिन्ता भविष्यमा बन्न सक्ने मानवभन्दा धेरै सक्षम, स्वायत्त र आफ्नो क्षमता सुधार गर्न सक्ने एआई प्रणालीसँग सम्बन्धित हो ।

सामान्य भाषामा भन्नुपर्दा, अहिलेका एआई मोडल धेरै क्षेत्रमा मानिसभन्दा छिटो वा राम्रो हुन सक्छन्, तर उनीहरू अझै पनि धेरै सीमितता भएका प्रणाली हुन्। यस्तो प्रणालीले विज्ञान, गणित, कम्प्युटर प्रोग्रामिङ, अनुसन्धान, रणनीति, साइबर सुरक्षा वा अन्य क्षेत्रमा मानिसभन्दा धेरै तीव्र गतिमा काम गर्न सक्ने अवस्था आयो भने त्यसको सम्भावित प्रभाव अहिलेका च्याटवड भन्दा पूर्ण रूपमा फरक हुन सक्छ ।

एआई सुरक्षा अनुसन्धानकर्ताहरूको मुख्य डर ‘रोबोटले बन्दुक बोकेर मानिसलाई मार्छ’ भन्ने मात्र होइन । सबैभन्दा ठूलो चिन्ता नियन्त्रण गुम्ने अवस्था हो ।

अर्को जोखिम दुरुपयोग हो। शक्तिशाली एआईले साइबर आक्रमण, जैविक अनुसन्धान, गलत सूचना वा अन्य विनाशकारी गतिविधि गर्न मानिसलाई सहयोग गर्न सक्ने क्षमता बढाउन सक्छ ।