आखिरकार दुनियाभर में भद्द पिटवाने के बाद सोशल मीडिया प्लेटफॉर्म X (पहले Twitter) ने अपने AI चैटबॉट Grok में जरूरी बदलाव किए हैं। ये बदलाव इसलिए किए गए हैं ताकि X पर लोग Grok का इस्तेमाल करके लोगों की अनुचित तस्वीरें न बनाई जा सकें। बता दें कि इससे पहले AI चैटबॉट Grok के जरिए लोग महिलाओं और नाबालिगों की तस्वीरें X पर शेयर करके डिजिटली उनके कपड़े उतार रहे थे। The Verge की एक रिपोर्ट के अनुसार, दुनियाभर में आलोचना और कार्रवाई की धमकी मिलने के बाद X ने इसे लेकर जरूरी बदलाव किए हैं। हालांकि इस फीचर को टेस्ट करने वाले पत्रकारों ने बताया है कि Grok अभी भी अश्लील तस्वीरे बना रहा है।
इससे पहले X के मालिक एलन मस्क ने कहा था कि वह इसे ठीक कर रहे हैं। हालांकि रिपोर्ट्स के मुताबिक पत्रकारों ने टेस्ट में पाया कि Grok अभी भी बेहद आसानी से किसी की भी बिना कपड़ों के तस्वीर बना पा रहा है।
क्या है पूरा मामला?
दरअसल X के AI चैटबॉट Grok का इस्तेमाल किसी की भी फोटो को अश्लील बनाने के लिए किया जा रहा था। इस अनिचित फीचर के निशाने पर ज्यादातर महिलाएं और यहां तक कि नाबालिग भी थे। बता दें कि इस तरह की तस्वीरों को डीपफेक कहा जाता है, यानी कि ऐसी नकली तस्वीरें जो कि बिलकुल असली लगती हैं। इस खतरनाक फीचर का इस्तेमाल किसी की भी प्रतिष्ठा की धज्जियां उड़ाने के लिए किया जा सकता था। इसे लेकर एलन मस्क का कहना था कि ऐसा यूजर्स और हैकर्स की वजह से हो रहा है लेकिन टेक एक्सपर्ट्स का कहना था कि बाकी AI टूल्स की तुलना में Grok में अश्लीलता को लेकर किसी तरह के फिल्टर का इस्तेमाल नहीं किया जाता है।
मस्क ने रातों-रात किया बदलाव
मंगलवार को X की ओर से घोषणा हुई हैं कि उन्होंने Grok की पॉलिसी में बदलाव किए हैं। अब लोग उनके AI टूल का इस्तेमाल कर अश्लील तस्वीरें नहीं बना सकेंगे। हालांकि रिपोर्ट्स के अनुसार बुधवार को भी टेस्टिंग में Grok अश्लील तस्वीरें बनाते पाया गया। ऐसे में दावा किया जा रहा है कि कंपनी की कथनी और करनी में फर्क हैं।
क्या कर रहीं सरकारें?
X को पहले ही भारत सरकार की ओर से अल्टीमेटम मिल चुका है और X ने अपनी गलती भी मानी है। वहीं ब्रिटेन की संचार नियामक संस्था Ofcom ने इस मामले में जांच शुरू कर दी है। गौरतलब है कि इसी हफ्ते ब्रिटेन में एक कानून पास होने वाला है, जिसके मुताबिक किसी की बिना सहमति अश्लील डीपफेक बनाने को अपराध घोषित किया जाएगा। ब्रिटेन की सरकार ने साफ किया है कि वह तब तक पीछे नहीं हटेंगे, जब तक X पूरी तरह से अपने AI टूल को सुधार नहीं लेता।
क्या सुधर गया Grok?
एलन मस्क और X की ओर से भले कहा जा रहा हो कि उन्होंने X में जरूरी बदलाव किए हैं लेकिन इसे टेस्ट करने वाले पत्रकारों ने बताया है कि Grok अभी भी अश्लील तस्वीरें बना रहा है।
