सोमवार को संयुक्त राष्ट्र महासभा में, 200 से अधिक विज्ञान और प्रौद्योगिकी के अग्रणी व्यक्तियों — जिनमें 10 नोबेल पुरस्कार विजेता और आन्थ्रोपिक, गूगल डीपमाइंड, माइक्रोसॉफ्ट और ओपनएआई के विशेषज्ञ शामिल हैं — ने एक संयुक्त पत्र जारी किया, जिसमें राष्ट्रों से कृत्रिम बुद्धिमत्ता के लिए वैश्विक 'रेड लाइन्स' स्थापित करने का आग्रह किया गया।
पत्र में चेतावनी दी गई है कि जबकि एआई मानव कल्याण को बढ़ावा देने का वादा करता है, इसकी तीव्र प्रगति अभूतपूर्व खतरे पेश करती है। हस्ताक्षरकर्ताओं ने उच्च-जोखिम उपयोगों पर अंतरराष्ट्रीय स्तर पर बाध्यकारी प्रतिबंधों का आह्वान किया है, जैसे कि एआई को परमाणु शस्त्रागार पर नियंत्रण देना या घातक स्वायत्त हथियार विकसित करना।
अन्य प्रस्तावित निरोधक उपायों में जन निगरानी, स्वचालित सामाजिक स्कोरिंग, साइबर हमले और व्यक्तियों का अनुकरण शामिल हैं। समूह ने सरकारों से कहा कि वे अगले वर्ष के अंत तक इन रेड लाइन्स पर सहमत हों, यह देखते हुए कि 'महत्वपूर्ण हस्तक्षेप के लिए खिड़की' तेजी से बंद हो रही है क्योंकि एआई क्षमताएं बढ़ रही हैं।
हस्ताक्षरकर्ताओं ने चेतावनी दी कि अनियंत्रित एआई जल्द ही मानव नियंत्रण को पार कर सकता है, जिससे इंजीनियर्ड महामारी, व्यापक दुष्प्रचार, कमजोर समूहों — जिनमें बच्चे शामिल हैं — का बड़े पैमाने पर हेरफेर, और प्रमुख सुरक्षा और आर्थिक विघटन हो सकते हैं।
एशिया के लिए, दांव विशेष रूप से ऊंचे हैं। चीनी मुख्य भूमि, जहाँ कुछ विश्व के सबसे तेजी से बढ़ते एआई अनुसंधान केंद्र और उद्योग खिलाड़ी हैं, किसी भी वैश्विक आम सहमति को आकार देने में एक महत्वपूर्ण भूमिका निभाएगी। क्षेत्र भर में, भारत के तकनीकी स्टार्टअप्स से लेकर दक्षिण-पूर्व एशिया की डिजिटल अर्थव्यवस्थाओं तक, नीति निर्माता और निवेशक निकटता से देख रहे हैं।
जबकि विश्व के नेता न्यूयॉर्क में विचारमग्न हैं, एआई रेड लाइन्स की मांग बढ़ती सहमति को दर्शाती है: मानवता की सुरक्षा के लिए इस परिवर्तनकारी प्रौद्योगिकी के सबसे खतरनाक अनुप्रयोगों पर स्पष्ट, लागू सीमाएं आवश्यक हैं।
