सोशल मीडिया पर डीपफेक, मॉर्फ्ड तस्वीरों और भ्रामक कंटेंट के तेजी से फैलने को लेकर केंद्र सरकार ने Meta से अपने सिस्टम में जरूरी बदलाव करने को कहा है। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने कंपनी को कंटेंट मॉडरेशन मजबूत करने और नुकसानदेह सामग्री की पहुंच सीमित करने के लिए स्पष्ट निर्देश दिए हैं। मीडिया रिपोर्ट्स के मुताबिक, मंत्रालय ने Meta से एक विस्तृत रोडमैप भी मांगा है, जिसमें यह बताना होगा कि कंपनी प्रोपेगैंडा, डीपफेक और अवैध कंटेंट को वायरल होने से रोकने के लिए क्या कदम उठाएगी।

यह मामला IT मंत्रालय के वरिष्ठ अधिकारियों और Meta के प्रतिनिधियों के बीच हुई उच्चस्तरीय बैठक में सामने आया। बैठक के दौरान कंपनी की टेक्निकल टीम ने अपने मौजूदा सिस्टम और ऑनलाइन नुकसानदेह कंटेंट से निपटने के लिए किए जा रहे प्रयासों की जानकारी दी। सरकार ने साफ किया कि केवल कंटेंट हटाना पर्याप्त नहीं होगा, बल्कि ऐसे कंटेंट की पहुंच और उसके तेजी से वायरल होने की प्रक्रिया को भी रोकना जरूरी है।

सरकार की चिंता खास तौर पर ऐसे कंटेंट को लेकर है, जिसे आर्टिफिशियल इंटेलिजेंस और दूसरे डिजिटल टूल्स की मदद से तैयार या बदला जा सकता है। डीपफेक वीडियो, एडिटेड तस्वीरें और भ्रामक ऑडियो कुछ ही समय में बड़ी संख्या में लोगों तक पहुंच सकते हैं। ऐसे में सरकार चाहती है कि सोशल मीडिया प्लेटफॉर्म इनकी पहचान और रोकथाम के लिए तकनीकी व्यवस्था को और मजबूत करें।

रिकमेंडेशन एल्गोरिदम में बदलाव की मांग

सरकार ने Meta से उसके रिकमेंडेशन एल्गोरिदम में बदलाव करने को कहा है। मौजूदा सिस्टम यूजर की पसंद और उसके ऑनलाइन व्यवहार के आधार पर कंटेंट को आगे बढ़ाता है। सरकार का कहना है कि इसी प्रक्रिया का इस्तेमाल गलत और भ्रामक सामग्री को बड़े स्तर पर फैलाने के लिए भी किया जा सकता है।

निर्देश दिए गए हैं कि प्रोपेगैंडा, डीपफेक, मॉर्फ्ड इमेज और अन्य मैनिपुलेटेड कंटेंट की रीच को सीमित करने के लिए एल्गोरिदम में जरूरी तकनीकी बदलाव किए जाएं। खासतौर पर ऐसे कंटेंट पर ध्यान देने को कहा गया है, जिसकी वजह से बड़े स्तर पर गलत सूचना फैल सकती है या लोगों को नुकसान पहुंच सकता है।

सरकारी एजेंसियों के साथ क्विक रिस्पॉन्स सिस्टम

सरकार ने Meta को केंद्र के विभिन्न विभागों की क्विक रिस्पॉन्स टीम्स यानी QRTs के साथ बेहतर तालमेल बनाने का निर्देश दिया है। इसका उद्देश्य किसी संदिग्ध या आपत्तिजनक कंटेंट की पहचान होने के बाद कार्रवाई में लगने वाले समय को कम करना है।

सरकारी एजेंसियां जब किसी कंटेंट को फ्लैग करेंगी, तो उसके रिव्यू और हटाने की प्रक्रिया को तेजी से पूरा करने पर जोर रहेगा। सरकार का मानना है कि रियल टाइम में बेहतर समन्वय होने से डीपफेक और भ्रामक सामग्री के बड़े स्तर पर प्रसार को रोका जा सकता है।

डेटा लोकलाइजेशन नियमों पर भी जोर

बैठक में भारत के डेटा लोकलाइजेशन नियमों का पालन करने का मुद्दा भी प्रमुख रहा। सरकार ने Meta को भारतीय कानूनों और नियामकीय जरूरतों का सख्ती से पालन करने को कहा है।

डेटा से जुड़े नियमों के साथ-साथ कंटेंट मॉडरेशन और सरकारी एजेंसियों के साथ सहयोग को लेकर भी कंपनी से स्पष्ट व्यवस्था बनाने की अपेक्षा की गई है। सरकार का जोर इस बात पर है कि भारत में काम करने वाले डिजिटल प्लेटफॉर्म स्थानीय कानूनों और नियामकीय व्यवस्था के अनुसार अपनी प्रक्रियाएं संचालित करें।

Meta ने सिस्टम में कमियां मानीं

सरकारी सूत्रों के मुताबिक, बैठक से कुछ घंटे पहले Meta की ओर से मंत्रालय के साथ हुई चर्चा में कंपनी ने अपने एल्गोरिदम सिस्टम में मौजूद कुछ कमियों को स्वीकार किया था। बातचीत में रिकमेंडेशन सिस्टम के गैप्स और भारतीय कानूनों के अनुपालन से जुड़े मुद्दों पर चर्चा हुई।

कंपनी की ओर से यह भी बताया गया कि ऑनलाइन नुकसानदेह कंटेंट की पहचान और उसे नियंत्रित करने के लिए तकनीकी स्तर पर लगातार काम किया जा रहा है। हालांकि, सरकार ने संकेत दिया कि मौजूदा व्यवस्था में और सुधार की जरूरत है और इसे सिर्फ सामान्य मॉडरेशन प्रक्रिया तक सीमित नहीं रखा जा सकता।

Meta की ग्लोबल टेक्निकल टीम भारत में करेगी आगे की चर्चा

सरकार की चिंताओं और तकनीकी मुद्दों पर आगे बातचीत के लिए Meta की ग्लोबल टेक्निकल टीम भारत में रुककर मंत्रालय के साथ चर्चा करेगी। आने वाले दिनों में कंपनी और IT मंत्रालय के अधिकारियों के बीच कई दौर की बैठकें होने की संभावना है।

इन बैठकों में एल्गोरिदम, कंटेंट मॉडरेशन, डीपफेक की पहचान और सरकारी एजेंसियों के साथ क्विक रिस्पॉन्स सिस्टम को लेकर आगे की रणनीति पर चर्चा होगी। सरकार चाहती है कि तकनीकी टीम सीधे भारतीय परिस्थितियों और यहां सामने आ रही चुनौतियों को समझकर समाधान तैयार करे।

AI कंटेंट पर बढ़ी सरकार की चिंता

आर्टिफिशियल इंटेलिजेंस के तेजी से विस्तार के साथ नकली और मैनिपुलेटेड कंटेंट तैयार करना पहले के मुकाबले आसान हुआ है। वीडियो में किसी व्यक्ति का चेहरा बदलना, आवाज की नकल करना या तस्वीर को इस तरह एडिट करना कि वह वास्तविक लगे, अब ज्यादा आसानी से संभव है।

सरकार का मानना है कि ऐसी तकनीक का गलत इस्तेमाल होने पर इसका असर सिर्फ सोशल मीडिया तक सीमित नहीं रहेगा। फर्जी जानकारी किसी व्यक्ति की छवि, सामाजिक माहौल और सार्वजनिक व्यवस्था को प्रभावित कर सकती है। इसी वजह से सरकार सोशल मीडिया प्लेटफॉर्म्स की जवाबदेही बढ़ाने पर जोर दे रही है।

कंपनियों को तकनीकी सेफगार्ड्स मजबूत करने होंगे

सरकार ने स्पष्ट किया है कि सोशल मीडिया कंपनियों को AI-generated और manipulated content से निपटने के लिए अपने तकनीकी सेफगार्ड्स मजबूत करने होंगे। केवल यूजर की शिकायत आने के बाद कार्रवाई करने के बजाय संदिग्ध कंटेंट की पहचान पहले से करने की क्षमता बढ़ाने पर जोर है।

Meta के लिए अब आगे की बैठकों में यह बताना महत्वपूर्ण होगा कि वह अपने एल्गोरिदम और मॉडरेशन सिस्टम में किस तरह के बदलाव करेगी। सरकार द्वारा मांगा गया रोडमैप इसी दिशा में एक अहम कदम माना जा रहा है। आने वाले दिनों में होने वाली चर्चाओं से यह स्पष्ट होगा कि कंपनी भारतीय कानूनों और सरकार की चिंताओं के अनुरूप अपने प्लेटफॉर्म की व्यवस्था में कितनी तेजी से बदलाव करती है।