सोशल मीडिया प्लेटफॉर्म X (पूर्व ट्विटर) ने आईटी मंत्रालय की चेतावनी के बाद अपने एआई टूल ‘ग्रोक’ से उत्पन्न अश्लील कंटेंट के खिलाफ कार्रवाई की है। सरकार की सख्त चेतावनी के बाद कंपनी ने 3,500 से अधिक विवादित पोस्ट हटा दिए और 600 से ज्यादा अकाउंट बंद कर दिए हैं। सूत्रों के अनुसार, यह विवाद तब उभरा जब ग्रोक के जरिए महिलाओं की अश्लील और छेड़छाड़ वाली तस्वीरें बनाई और सोशल मीडिया पर फैलाई जा रही थीं।
आईटी मंत्रालय ने इसे महिलाओं की सुरक्षा और गरिमा के खिलाफ बताया और 72 घंटे के भीतर सुधार की मांग की। मंत्रालय के निर्देशों के बाद, एक्स ने अपनी सुरक्षा नीतियों की समीक्षा की और सरकार को भरोसा दिलाया कि भविष्य में एआई या किसी अन्य माध्यम से गलत कंटेंट नहीं फैलने दिया जाएगा। कंपनी ने अब भारतीय कानूनों के अनुपालन की रिपोर्ट भी सरकार को सौंप दी है।
