सोशल मीडिया प्लेटफॉर्म X ने अपने AI चैटबोट Grok के जरिए अश्लील और आपत्तिजनक इमेज जनरेशन पर रोक लगाने की घोषणा की है। कंपनी ने बताया कि भारत में कानून का पालन करते हुए 3,500 से अधिक अश्लील कंटेंट ब्लॉक कर दिए गए हैं और 600 से ज्यादा अकाउंट्स डिलीट किए गए हैं।

यह कदम केंद्र सरकार की चेतावनी के बाद उठाया गया। सूत्रों के अनुसार, अश्लील कंटेंट तेजी से फैलने के बाद X को तुरंत कार्रवाई करने के लिए कहा गया था।

क्या हुआ था मामला

शिवसेना (UBT) की सांसद प्रियंका चतुर्वेदी ने 2 जनवरी को आईटी मंत्री अश्विनी वैष्णव को पत्र लिखकर Grok के दुरुपयोग का मुद्दा उठाया था। उन्होंने बताया कि कुछ यूजर्स फर्जी अकाउंट बनाकर महिलाओं की तस्वीरें पोस्ट कर रहे हैं और AI से उन्हें आपत्तिजनक रूप में बदलने के लिए कह रहे हैं। यह प्राइवेसी और सुरक्षा के लिए गंभीर खतरा है।

प्रियंका चतुर्वेदी ने कहा कि X ने कंटेंट को पूरी तरह रोकने की बजाय केवल पेड यूजर्स तक सीमित कर दिया है। उन्होंने आरोप लगाया कि इससे महिलाओं और बच्चों की सुरक्षा खतरे में पड़ती है और प्लेटफॉर्म इस गलत व्यवहार को मॉनिटाइज कर रहा है।

X और मस्क की प्रतिक्रिया

X के मालिक इलॉन मस्क ने पहले कहा था कि AI टूल Grok सिर्फ यूजर के इनपुट पर काम करता है। उन्होंने इसे इस तरह समझाया कि जैसे किसी बुरी बात को लिखने के लिए पेन को दोष देना सही नहीं है। मस्क के अनुसार, AI टूल की जिम्मेदारी नहीं, बल्कि इसका उपयोग करने वाले व्यक्ति की जिम्मेदारी होती है।

इसके बाद X ने स्वीकार किया कि प्लेटफॉर्म में कंटेंट मॉडरेशन में कमी थी और उन्होंने इसे सुधारने का निर्णय लिया। कंपनी ने स्पष्ट किया कि भारत उनके लिए महत्वपूर्ण बाजार है और वह स्थानीय कानूनों का पूरी तरह सम्मान करेगा।

सरकारी दिशा-निर्देश

केंद्र सरकार ने 30 दिसंबर को सभी सोशल मीडिया प्लेटफॉर्म्स को चेतावनी दी थी कि अश्लील, भद्दे, पोर्नोग्राफिक और बच्चों से जुड़े यौन शोषण वाले कंटेंट पर तुरंत रोक लगाई जाए। निर्देश दिए गए कि नियमों का पालन नहीं होने पर कानूनी कार्रवाई की जाएगी।इस कदम के बाद X ने अपनी नीतियों को सख्त करते हुए Grok के माध्यम से अश्लील सामग्री बनने से रोकने का आश्वासन दिया।

--------------------------