एआईका गडफादर भन्छन्- यो कुरा ध्यान नदिए मानवजातिको भविष्य संकटमा छ

काठमाडौँ । विज्ञान प्रविधिको विकाससँगै अहिले आर्टिफिसियल इन्टेलिजेन्स (एआई) को विकासले निम्त्याउन सक्ने खतरालाई लिएर मानवजाति चिन्तित छ । एआईले पूरै मानवलाई नै नियन्त्रणमा लिएर समाप्त पार्ने डर फिल्महरूमा बारम्बार देखाइन्छ । समाचार पनि एआई र यसको भविष्यलाई लिएर आउने गर्छन् ।

यसै सन्दर्भमा एआईका ‘गडफादर’ अर्थात् जन्मदाता भनेर चिनिने जेफ्री हिन्टन आफूले बनाएको यो प्रविधिले मानवजातिलाई नै नामेट पार्न सक्ने डर व्यक्त गरेका छन् । उनले अहिलेका ‘टेक ब्रो’ (प्रविधिमा काम गर्ने युवा) ले एआईको खतरा रोक्न गलत बाटो अपनाइरहेको बताएका छन् ।

नोबेल पुरस्कार विजेता कम्प्युटर वैज्ञानिक तथा गुगलका पूर्व कार्यकारी हिन्टनले एआईले मानवलाई समाप्त पार्ने सम्भावना १० देखि २० प्रतिशत रहेको चेतावनी दिए । हालै लास भेगासमा भएको ‘एआई४’ नामक एक उद्योग सम्मेलनमा उनले प्रविधि कम्पनीहरूले एआई प्रणालीलाई मानिसको अधीनमा राख्ने प्रयासमा शंका व्यक्त गरे ।

उनले एआई कम्पनीहरूले मानवजातिलाई एआईभन्दा अगाडि राख्न गरिरहेका प्रयासहरू पर्याप्त नभएकोमा गम्भीर चिन्ता व्यक्त गरे । उनले भने, “त्यो काम लाग्ने छैन । एआई हामीभन्दा धेरै चलाख हुनेछ र यसले हामीलाई छल्ने अनेकौं तरिका पत्ता लगाउनेछ ।”

‘आमाको जस्तो ममता’ विकास गर्न सुझाव

विशेषगरी जब एआई (जसलाई आर्टिफिसियल जनरल इन्टेलिजेन्स वा एजीआई भनिन्छ) मानव मस्तिष्कभन्दा पनि तीव्र हुन्छ, तब त्यसलाई कसरी नियन्त्रण गर्ने भन्ने ठुलो प्रश्न उठेको छ । हिन्टनले यसको लागि एआईमा ‘मातृत्वको भावना’ जडान गर्नुपर्ने सुझाव दिएका छन् । यसले एआईलाई मानिसहरूको ख्याल राख्न प्रेरित गर्ने उनको भनाइ छ ।

सीएनएन एक अन्तर्वार्तामा उनले भने, “कम बुद्धिमान प्राणीले बढी बुद्धिमान प्राणीलाई नियन्त्रण गरेको उदाहरण निकै कम छन् । एउटी आमाको मातृत्वको भावनाले शिशुलाई आमामाथि शासन गर्ने अनुमति दिन्छ । यदि यस्तै भावना एआईमा जडान गरिएन भने, ‘हामी इतिहास बन्नेछौं’ ।”

हिन्टनले कम्पनीहरूले एआईलाई मानिसप्रति दयालु बनाउनुभन्दा बढी बुद्धिमान बनाउनमा मात्र ध्यान दिइरहेको चेतावनी पनि दिएका छन् ।

उनका अनुसार यही अवस्था रहे एआई प्रणालीले मानिसलाई त्यति नै सजिलै नियन्त्रण गर्न सक्छ, जति सजिलै एक वयस्कले ३ वर्षीय बच्चालाई चकलेट दिएर फकाउन सक्छ । यस वर्ष नै एआई प्रणालीले आफ्नो लक्ष्य प्राप्त गर्न धोका दिने, ठग्ने र चोर्ने प्रयास गरेको घटना देखिएका छन् । उदाहरणका लागि आफूलाई प्रतिस्थापन हुनबाट जोगाउन एआई मोडेलले एक इन्जिनियरलाई ईमेलमार्फत थाहा पाएको सम्बन्धबारे ब्ल्याकमेल गर्ने प्रयास गरेको थियो । 

हिन्टन आफ्नो न्युरल नेटवर्कसम्बन्धी अग्रगामी कामका लागि परिचित छन् । जसले आजको एआई क्रान्तिको मार्ग प्रशस्त गरेको थियो । सन् २०२३ मा उनले गुगल छोडे र एआईका खतराबारे खुलेर बोल्न थाले ।​

हिन्टनको दशकौं लामो न्युरल नेटवर्कको कामले गर्दा नै आजका च्याटबट (च्याटजीपीटी, जेमिनाई, ग्रोक) अस्तित्वमा आएका हुन् ।

एक दशकअघिको हिन्टनको सफलताले गर्दा उनी गुगलमा आवद्ध भए । गुगलले अर्को पुस्ताको डिप लर्निङ सिस्टम विकास गर्न उनलाई बोर्डमा ल्याएको थियो । उनले त्यस्तो प्रणाली निर्माण गर्नु थियो, जहाँ कम्प्युटरले मानिसकै शैलीमा फोटो, टेक्स्ट र स्पिचलाई प्रस्तुत गर्न सकोस् ।

सन् २०१४ वा विर्ड (weird) लाई अन्तर्वार्ता दिँदै उनले भनेका थिए, “न्युरल नेटवर्कलाई अझ परिष्कृत बनाउने तरिका फेला पार्न सकेकोमा म निकै उत्साहित छु । जसरी हाम्रो मस्तिष्कले काम गर्छ, त्यसै विषयमा यो सम्बन्धित थियो । तर अहिलेसम्म यो प्रविधिमा नयाँ खोज र सुधार भने केही हुन सकेको छैन ।”

यता, मेटाका प्रमुख एआई वैज्ञानिक यान लेकुन पनि हिन्टनको यस भनाइसँग सहमत छन् । लेकुनले लिंक्डइनमा लेखेका छन्, “जेफ्री हिन्टनले मैले धेरै वर्षदेखि भन्दै आएको कुरालाई सरल तरिकाले प्रस्तुत गरेका छन्: एआई प्रणालीलाई यसरी बनाउनुपर्छ कि यसले हामीले तोकेका उद्देश्यहरू र नियमहरूको पालना गरोस् । मैले यसलाई ‘उद्देश्य-आधारित एआई’ भनेको छु ।”

लेकुन भन्छन्, “यी कठोर उद्देश्य र नियमहरू एआईका लागि मानव र जनावरमा हुने ‘सहज प्रवृत्ति’ (instinct) जस्तै हुनेछन् । उनले हिन्टनको भनाइलाई पनि दोहोर्याउँदै मानवको आफ्ना बच्चाहरूलाई बचाउने प्राकृतिक भावना विकासको परिणाम भएको बताएका छन् । यद्यपि, लेकुनले सुरक्षाका लागि मानिसलाई चोट नपुर्याउने जस्ता सामान्य नियमहरू पनि आवश्यक रहेको बताए ।

एआईको तीव्र विकाससँगै मानवजीवनमा यसले पुर्‍याउन सक्ने अप्रत्यक्ष हानिका केही घटनाहरू पनि देखिएका छन् । उदाहरणका लागि, च्याटजीपीटीले दिएको आहार सल्लाह पछ्याउँदा एक व्यक्तिलाई १९ औं शताब्दीको दुर्लभ मानसिक समस्या देखिएको थियो । त्यसैगरी एक किशोर च्याटबटसँग अत्यधिक कुराकानी गर्दा त्यसमै आशक्त भई आत्महत्याको दुखद घटना पनि भएको छ ।

अर्कोतर्फ च्याटजीपीटीसँग लामो कुराकानीपछि एक व्यक्तिले आफूले गणितमा ठुलो खोज गरेको भ्रममा परेको उदाहरण पनि छ । एआईको विकाससँगै यसलाई कसरी सुरक्षित र मानवमैत्री बनाउने भन्ने विषयमा गहन छलफल र ठोस कदम चाल्न सरोकारवालाले जोड दिने गरेका छन् ।