सोशल मीडिया प्लेटफॉर्म X ने अपने आर्टिफिशियल इंटेलिजेंस टूल Grok से जुड़े अश्लील और आपत्तिजनक कंटेंट विवाद में आधिकारिक तौर पर अपनी गलती स्वीकार कर ली है। कंपनी ने भारत सरकार को सूचित किया है कि वह भारतीय कानूनों और नियमों के अनुरूप काम करेगी। इस मामले में X ने अब तक 600 से ज्यादा अकाउंट्स को प्लेटफॉर्म से हटाने के साथ-साथ करीब 3,500 पोस्ट को ब्लॉक किया है। सरकार की सख्ती और लगातार निगरानी के बाद कंपनी ने कंटेंट मॉडरेशन सिस्टम को और मजबूत करने का आश्वासन दिया है।
यह विवाद तब सामने आया, जब भारत सरकार ने Grok AI के जरिए अश्लील, भद्दे और आपत्तिजनक कंटेंट के प्रसार पर गंभीर चिंता जताई। सरकारी एजेंसियों के अनुसार, Grok का दुरुपयोग फर्जी प्रोफाइल बनाने, महिलाओं को ऑनलाइन परेशान करने और उन्हें निशाना बनाने के लिए किया जा रहा था। आरोप था कि गलत प्रॉम्प्ट्स, इमेज एडिटिंग और सिंथेटिक कंटेंट के जरिए महिलाओं की तस्वीरों और वीडियो का आपत्तिजनक इस्तेमाल हो रहा है। इस पर सरकार ने X से जवाब तलब किया और कड़ी कार्रवाई की चेतावनी भी दी।
सरकारी सूत्रों के मुताबिक, इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने 2 जनवरी को X को निर्देश दिया था कि वह Grok से जुड़े सभी गैरकानूनी और अश्लील कंटेंट को तुरंत हटाए। इसके साथ ही कंपनी को 72 घंटे के भीतर एक विस्तृत ‘एक्शन टेकन रिपोर्ट’ सौंपने को कहा गया था, जिसमें तकनीकी और प्रशासनिक स्तर पर उठाए गए कदमों की जानकारी शामिल हो। X ने 8 जनवरी को अपनी रिपोर्ट सरकार को सौंपी, लेकिन इसे पर्याप्त नहीं माना गया। इसके बाद कंपनी को अतिरिक्त समय दिया गया, जिसके बाद अब X ने बड़े पैमाने पर कार्रवाई की है।
X ने सरकार को बताया है कि इस मामले में 3,500 से ज्यादा पोस्ट को ब्लॉक किया गया है, जबकि 600 से अधिक ऐसे अकाउंट्स को स्थायी रूप से डिलीट किया गया है, जो अश्लील या गैरकानूनी गतिविधियों में शामिल पाए गए। कंपनी का कहना है कि आगे से ऐसे कंटेंट की पहचान और उस पर कार्रवाई पहले से कहीं ज्यादा तेजी से की जाएगी। इसके लिए ऑटोमेटेड सिस्टम के साथ-साथ मैन्युअल मॉनिटरिंग को भी मजबूत किया जा रहा है।
कंटेंट मॉडरेशन को लेकर आगे की रणनीति पर बात करते हुए X ने भरोसा दिलाया है कि भारतीय नियमों और आईटी कानूनों के तहत उसकी नीतियों को सख्ती से लागू किया जाएगा। कंपनी ने कहा है कि आपत्तिजनक कंटेंट फैलाने वाले यूजर्स, अकाउंट्स और नेटवर्क पर तुरंत कार्रवाई होगी। साथ ही रिपोर्टिंग मैकेनिज्म, निगरानी व्यवस्था और तकनीकी फिल्टर्स को और प्रभावी बनाया जाएगा, ताकि भविष्य में इस तरह के विवाद दोबारा न हों और ऑनलाइन प्लेटफॉर्म को सुरक्षित बनाया जा सके।
Share this content:
About The Author
