सोशल मीडिया प्लॅटफॉर्म ‘X’ (पूर्वीचे ट्विटर) आणि इलॉन मस्क यांची एआय कंपनी xAI सध्या एका मोठ्या वादाच्या भोवऱ्यात अडकली आहे. ग्रोक (Grok) या एआय चॅटबॉटचा वापर करून महिलांचे आक्षेपार्ह आणि अश्लील फोटो (Deepfakes) तयार केले जात असल्याचा प्रकार समोर आल्यानंतर, कंपनीने आता या चॅटबॉटच्या इमेज जनरेशन फिचरवर कडक निर्बंध लादले आहेत.
काय आहे संपूर्ण वाद?
गेल्या काही दिवसांपासून ‘X’ वर अनेक वापरकर्ते Grok AI चा वापर करून सामान्य महिलांचे आणि अगदी लहान मुलांचे फोटो मॉर्फ (Morph) करत असल्याचे दिसून आले. वापरकर्ते ग्रोकला “या महिलेचे कपडे काढा” किंवा “हिला बिकिनीमध्ये दाखवा” अशा प्रकारचे प्रॉम्प्ट (सूचना) देत होते. धक्कादायक म्हणजे, कोणतीही संमती नसताना ग्रोक हे फोटो तयार करून थेट रिप्लायमध्ये पोस्ट करत होता. याला ‘डिजिटल लैंगिक छळ’ असे संबोधत जगभरातून संताप व्यक्त करण्यात आला.
xAI ने घेतलेले नवीन निर्णय
वाढता दबाव आणि कायदेशीर कारवाईच्या भीतीने xAI ने आता खालील बदल केले आहेत:
- फक्त सशुल्क वापरकर्त्यांसाठी (Paywall): आता ग्रोकद्वारे इमेज जनरेशन आणि एडिटिंग करण्याची सुविधा केवळ ‘X Premium’ किंवा ‘Premium+’ सबस्क्राइबर्ससाठीच उपलब्ध असेल. मोफत वापरकर्त्यांना हे फिचर वापरता येणार नाही.
- सुरक्षा कवच (Guardrails): अश्लील किंवा बेकायदेशीर कंटेंट तयार होऊ नये म्हणून सॉफ्टवेअरमध्ये नवीन फिल्टर्स लावण्यात आले आहेत.
- अकाउंटवर बंदी: मस्क यांनी स्पष्ट केले आहे की, जो कोणी ग्रोकचा वापर करून बेकायदेशीर कंटेंट तयार करेल, त्याचे अकाउंट कायमचे बंद केले जाईल.
भारत आणि जागतिक स्तरावर उमटलेले पडसाद
१. भारत सरकारचा इशारा: भारत सरकारच्या माहिती तंत्रज्ञान मंत्रालयाने (MeitY) ‘X’ ला कडक ताकीद दिली होती. महिलांच्या प्रतिष्ठेला धक्का लावणारा कंटेंट ७२ तासांत न हटवल्यास कायदेशीर कारवाई करण्याचा इशारा भारताने दिला होता. २. युरोपियन युनियन (EU): युरोपियन युनियनने या प्रकाराला ‘घृणास्पद’ म्हटले असून, निर्बंध लावूनही ते समाधानी नाहीत. “सबस्क्रिप्शन असले किंवा नसले, तरी अशा प्रतिमा प्लॅटफॉर्मवर असता कामा नयेत,” असे त्यांनी स्पष्ट केले आहे. ३. ब्रिटन: ब्रिटनचे पंतप्रधान कीर स्टार्मर यांनीही यावर कडक भाषेत टीका केली असून ‘X’ वर बंदी घालण्यापर्यंतचे संकेत दिले आहेत.
तरीही धोका कायम?
तज्ज्ञांच्या मते, केवळ सबस्क्रिप्शन अनिवार्य केल्याने प्रश्न सुटणार नाही. कारण पैसे भरूनही लोक गैरवापर करू शकतात. तसेच, ग्रोकचे स्वतंत्र ॲप अजूनही काही ठिकाणी विना-सबस्क्रिप्शन अशा प्रतिमा तयार करण्यास परवानगी देत असल्याचे समोर आले आहे.
निष्कर्ष:
एआय (AI) तंत्रज्ञान जितके प्रगत होत आहे, तितकाच त्याचा गैरवापरही वाढत आहे. इलॉन मस्क यांनी निर्बंध तर लादले आहेत, पण महिलांची सुरक्षा आणि प्रायव्हसी राखण्यासाठी हे पुरेसे आहेत का? हा मोठा प्रश्न अजूनही कायम आहे.
तुम्हाला काय वाटते? एआयवर अशा प्रकारचे निर्बंध पुरेसे आहेत का? कमेंट्समध्ये नक्की कळवा!
