एक ऐतिहासिक कदम में, इंडोनेशिया एलन मस्क के ग्रोक चैटबॉट की अस्थायी रोक लगाने वाला पहला देश बन गया, जिसमें एआई-जनरेटेड यौनकृत छवियों और संभावित डीपफेक दुरुपयोग की चिंता व्यक्त की गई।
शनिवार को कम्युनिकेशंस और डिजिटल मंत्री म्यूतया हाफ़िद ने घोषणा की, कि ग्रोक की छवि निर्माण विशेषता ने अश्लील सामग्री, जिसमें नाबालिगों का प्रदर्शन शामिल था, का उत्पादन किया था। “गैर-सहमति यौनकृत डीपफेक का अभ्यास मानवाधिकारों, गरिमा और डिजिटल स्पेस में नागरिकों की सुरक्षा का गंभीर उल्लंघन है,” हाफ़िद ने कहा।
xAI, ग्रोक के पीछे की स्टार्टअप, ने छवि निर्माण और संपादन को भुगतान करने वाले ग्राहकों तक सीमित कर दिया है, जबकि यह सुरक्षा उपायों को मजबूत करने पर काम कर रहा है। कंपनी का कहना है कि यह उन खामियों को संबोधित कर रही है जिन्होंने उपयोगकर्ताओं को अश्लील सामग्री उत्पन्न करने की अनुमति दी, एक कदम जिसका स्वागत किया गया है।
इंडोनेशिया का निर्णय देश के सख्त डिजिटल नियमों को दर्शाता है, जो इसकी सांस्कृतिक मूल्यों और अश्लील मानी जाने वाली सामग्री से अपने बड़े मुस्लिम जनसंख्या की रक्षा के लिए प्रतिबद्धताओं से आकार लेते हैं। अधिकारियों ने X के प्रतिनिधियों को भी चर्चा करने और अनुपालन सुनिश्चित करने के लिए बुलाया है।
एलन मस्क ने X पर बात करते हुए चेतावनी दी कि ग्रोक का उपयोग करके अवैध सामग्री उत्पन्न करने वाले किसी भी व्यक्ति को उसी परिणाम का सामना करना पड़ेगा जैसा उसके मंच पर अवैध सामग्री अपलोड करने वालों को होता है। इस बीच, एशिया और इससे परे की डिजिटल निगरानी संस्थाएं इंडोनेशिया की कार्रवाई को एआई शासन के लिए एक मिसाल बनाने के रूप में देख रही हैं।
जैसा कि एआई उपकरण बढ़ रहे हैं, जकार्ता से बीजिंग तक एशिया के देश नवाचार और सार्वजनिक सुरक्षा के संतुलन के लिए अपने रास्ते खोज रहे हैं। इंडोनेशिया का त्वरित कदम एक बढ़ती सहमति को रेखांकित करता है: मजबूत नियम आवश्यक हो सकते हैं ताकि समाज के मानदंडों और मानव गरिमा से समझौता किए बिना एआई की क्षमता को प्राप्त किया जा सके।
