आर्टिफिशियल इंटेलिजेंस (AI) के बढ़ते इस्तेमाल के बीच बच्चों की ऑनलाइन सुरक्षा एक बड़ी चुनौती बनती जा रही है। इसी को ध्यान में रखते हुए OpenAI ने ChatGPT पर बच्चों से जुड़े आपत्तिजनक और अश्लील कंटेंट को रोकने के लिए नए सेफ्टी फीचर्स पेश किए हैं। इनकी मदद से न केवल संदिग्ध तस्वीरों की पहचान की जा सकेगी, बल्कि गलत प्रॉम्प्ट देने वाले यूजर्स को भी चेतावनी मिलेगी।
OpenAI ने इसके लिए एक नया AI इमेज क्लासिफायर विकसित किया है। यह टूल तस्वीरों को स्कैन करके बच्चों के यौन शोषण से जुड़े कंटेंट की पहचान कर सकता है। खास बात यह है कि यह AI से बनाई गई संदिग्ध तस्वीरों को भी पहचानने में सक्षम है। इसके बाद तस्वीरों को जोखिम के आधार पर स्कोर दिया जाएगा, ताकि सुरक्षा टीमें प्राथमिकता के साथ जांच कर सकें।
कंपनी ChatGPT में एक अलर्ट स्क्रीन भी जोड़ रही है। यदि कोई यूजर बच्चों से जुड़ी आपत्तिजनक सामग्री बनाने की कोशिश करता है, तो उसे चेतावनी दी जाएगी। साथ ही ऐसी गतिविधियों से दूर रहने और मदद लेने की जानकारी भी मिलेगी। गंभीर मामलों में यूजर का अकाउंट 24 घंटे के लिए सस्पेंड किया जा सकता है।
OpenAI ने यह टूल नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रन (NCMEC) के सहयोग से तैयार किया है। शुरुआती परीक्षण में इसने जांच के लिए चुनी जाने वाली तस्वीरों की संख्या 48 फीसदी तक घटाई, जबकि संदिग्ध तस्वीरों की पहचान करने की क्षमता बरकरार रही।
फिलहाल इसे कुछ चुनिंदा संस्थाओं को API के जरिए मुफ्त उपलब्ध कराया गया है। कंपनी डेवलपर्स और कानून प्रवर्तन एजेंसियों को भी नए टूल, गाइडलाइंस और ट्रेनिंग देकर बच्चों की ऑनलाइन सुरक्षा मजबूत करना चाहती है।


