विरोध के बाद मस्क के एआई बॉट ग्रोक ने X पर कुछ इमेज जनरेशन को सीमित कर दिया है।

एलन मस्क के स्टार्टअप xAI ने सोशल मीडिया प्लेटफॉर्म X पर अपने ग्रोक चैटबॉट के इमेज जनरेशन फंक्शन पर कुछ प्रतिबंध लगा दिए हैं, क्योंकि इस टूल द्वारा यौन उत्तेजक छवियों को बनाने और प्रकाशित करने के लिए AI के उपयोग ने व्यापक विरोध को जन्म दिया था।

X पर उपयोगकर्ता सीधे ग्रोक से लोगों की तस्वीरों को संपादित करने के लिए कह सकते थे, जिसमें कपड़े हटाना और उन्हें कामुक मुद्राओं में रखना शामिल था – अक्सर उनकी सहमति के बिना। ग्रोक फिर इन छवियों को सोशल मीडिया प्लेटफॉर्म पर जवाबों में प्रकाशित करता था।

ग्रोक ने शुक्रवार को एक्स यूजर्स को बताया कि इमेज जनरेशन और एडिटिंग की सुविधाएं अब केवल सशुल्क सब्सक्राइबर्स के लिए ही उपलब्ध हैं।

ऐसा प्रतीत होता है कि इस कदम से ग्रोक को सोशल मीडिया साइट पर उपयोगकर्ता की पोस्ट या टिप्पणी के जवाब में इस तरह की छवियों को उत्पन्न करने और स्वचालित रूप से प्रकाशित करने से रोक दिया गया है।

लेकिन X उपयोगकर्ता अभी भी ग्रोक टैब का उपयोग करके यौन उत्तेजक छवियां बनाने में सक्षम थे, जहां लोग सोशल मीडिया प्लेटफॉर्म के भीतर चैटबॉट के साथ सीधे बातचीत करते हैं, और फिर उन छवियों को स्वयं X पर पोस्ट करते हैं।

X से अलग संचालित होने वाला स्टैंडअलोन ग्रोक ऐप भी उपयोगकर्ताओं को बिना सदस्यता के चित्र बनाने की अनुमति दे रहा था।

रॉयटर्स द्वारा ईमेल के माध्यम से टिप्पणी के लिए भेजे गए अनुरोधों का xAI ने स्वचालित जवाब देते हुए लिखा, “पारंपरिक मीडिया झूठ बोल रहा है”। xAI ने टिप्पणी के अनुरोधों पर तुरंत कोई प्रतिक्रिया नहीं दी।

मस्क ने पिछले हफ्ते कहा था कि ग्रोक का इस्तेमाल करके अवैध सामग्री बनाने वाले किसी भी व्यक्ति को सीधे तौर पर ऐसी सामग्री अपलोड करने के समान ही परिणामों का सामना करना पड़ेगा।

शुक्रवार को, रॉयटर्स के एक रिपोर्टर ने X पर मौजूद ग्रोक बॉट से अपनी एक तस्वीर को बिकिनी पहने हुए तस्वीर में बदलने का अनुरोध किया, जो पिछले एक सप्ताह में उपयोगकर्ताओं द्वारा किए गए आम अनुरोधों जैसा ही था। बॉट ने ऐसा नहीं किया और जवाब में बताया कि यह टूल केवल सोशल मीडिया प्लेटफॉर्म के सशुल्क ग्राहकों के लिए ही उपलब्ध है।

यूरोपीय आयोग, जिसने X पर साझा की गई नग्न महिलाओं और बच्चों की छवियों को गैरकानूनी और भयावह बताया है, ने कहा कि प्रतिबंधों ने उसकी चिंताओं का समाधान नहीं किया है।

“छवि निर्माण और संपादन को केवल भुगतान करने वाले ग्राहकों तक सीमित करने से हमारी मूल समस्या नहीं बदलती, चाहे सदस्यता सशुल्क हो या निःशुल्क, हम ऐसी छवियां नहीं देखना चाहते,” आयोग के एक प्रवक्ता ने कहा।

अन्य सरकारों और नियामकों ने भी ग्रोक द्वारा एक्स पर उत्पन्न की गई आपत्तिजनक सामग्री की निंदा की है और कुछ ने इसकी जांच शुरू कर दी है, जिससे प्लेटफॉर्म पर यह दिखाने का दबाव बढ़ रहा है कि वह अवैध सामग्री को रोकने और हटाने के लिए क्या कर रहा है।

जर्मनी के मीडिया मंत्री वोल्फ्राम वेइमर ने इस सप्ताह अर्धनग्न तस्वीरों की बाढ़ को “यौन उत्पीड़न का औद्योगीकरण” बताया।