Grok AI अश्लील कंटेंट विवाद: आर्टिफिशियल इंटेलिजेंस दिन ब दिन हमारी जिंदगी का महत्त्वपूर्ण हिस्सा बनता जा रहा है। तकनीकी क्रांति में यह भविष्य की सबसे बड़ी उपलब्धि माना जाएगा। लेकिन यह उपलब्धि तब तक ही काम की होगी जब तक की यह एक सीमा में रहेगी। परंतु जब यह तकनीक सामाजिक मर्यादा, कानून और महिलाओं की गरिमा पर सवाल खड़ा करने लगे तो बहस होना लाजमी है। ऐसा ही एक मामला हाल ही में सामने आया है, जब AI टूल Grok के जरिए आपत्तिजनक और अश्लील कंटेंट बनाने का मुद्दा X प्लेटफार्म पर सामने आया है। यह मामला तब और भी ज्यादा गंभीर हो गया जब खुले तौर पर महिलाओं की तस्वीरों को AI के जरिए आपत्तिजनक रूप में बदलकर सोशल मीडिया पर खुले रूप से परोसा जाने लगा।
इस मामले के तूल पकड़ते ही सोशल मीडिया की जिम्मेदारी पर सवाल खड़े होने लगे। यह भी समझ आने लगा कि AI का इस्तेमाल यदि गलत तरीके से किया जाए तो कितना नुकसान पहुंच सकता है। इसी मामले में राज्यसभा सांसद प्रियंका चतुर्वेदी ने कड़ा रुख अपनाते हुए केंद्र सरकार और IT मंत्रालय से हस्तक्षेप की मांग की। जिसके बाद भारत सरकार ने एलन मस्क के स्वामित्व वाले X प्लेटफार्म को चेतावनी दी और अश्लील कंटेंट हटाने के निर्देश दिए। हालांकि शुरुआत में X प्लेटफार्म इंकार करता रहा परंतु आखिरकार उसे अपनी गलती स्वीकार करनी पड़ी और आपत्तिजनक पोस्ट हटाने पड़े।
AI के गलत इस्तेमाल को लेकर X प्लेटफार्म ने क्या कदम उठाए है?
- इस पूरे मुद्दे के चलते X ने अपनी गलती मानी है और इस बात पर हामी भर दी है कि प्लेटफार्म पर अश्लील कंटेंट के प्रसार को रोकने में X से चूक हुई है।
- इसके बाद X प्लेटफार्म से 3,500 से अधिक आपत्तिजनक पोस्ट हटाए गए हैं और कुछ सामग्री को प्लेटफार्म से ब्लॉक भी कर दिया गया है।
- साथ ही ऐसे 600 उपयोगकर्ता के खातों को हटा दिया गया है जिन्होंने AI का इस्तेमाल कर आपत्तिजनक सामग्री बनाई और उसे वायरल भी किया।
- इस पूरे विवाद का केंद्र Grok AI टूल है जिस पर अब पहले से ज्यादा कड़ी नजर रखी जा रही है ताकि आने वाले समय में आपत्तिजनक तस्वीर बनाने के लिए इसका इस्तेमाल न किया जाए।
- साथ ही भारत सरकार ने X प्लेटफार्म को जहां एक ओर वल्गर और आपत्तिजनक कंटेंट हटाने के लिए 72 घंटे का अल्टीमेटम दिया, वही आगे सावधान रहने के लिए चेतावनी भी दे दी है।
- भारत के IT विभाग ने स्पष्ट रूप से कहा है कि आगे भी यदि X उचित निगरानी और अपना दायित्व नहीं निभाता तो वह क्षेत्र 79 के अंतर्गत से हार्बर इम्यूनिटी खो सकता है।
चलिए सबसे पहले जानते हैं कि आखिर यह पूरा मामला क्या था?
हाल ही में एलन मस्क के स्वामित्व वाले X प्लेटफार्म पर एक बहुत बड़ा विवाद खड़ा हुआ जहां कुछ ऐसी तस्वीरें सामने आई जो Grok AI का इस्तेमाल कर बनाई गई थी और इन्हें सोशल मीडिया पर शेयर किया जा रहा था। इसमे सबसे बड़ी बात यह थी कि यह तस्वीर जिन महिलाओं की थी उन महिलाओं को इन तस्वीरों के बारे में बिल्कुल पता नहीं था और यह तस्वीर उनकी अनुमति के बिना ही इस प्रकार से तैयार की गई थी कि महिलाओं की गरिमा, निजता और कानून का उल्लंघन हो रहा था।
जैसा कि हम सब जानते हैं Grok AI जेनरेटिव टूल है और इसे प्रॉन्प्ट देकर किसी भी प्रकार की इमेज बनवाई जा सकती है। इसीलिए कुछ लोगों ने डीप फेक जैसी सामग्री तैयार कर इसे X पर वायरल कर दिया। सबसे महत्वपूर्ण बात यह रही की X का सिस्टम इस कंटेंट को वायरल होने से नहीं रोक पाया और यह भी समझ नहीं पाया कि यह पूरी तरह से फेक सामग्री है। उल्टा X प्लेटफार्म पर यह आपत्तिजनक अश्लील कंटेंट खुले तौर पर वायरल होने लगा। इस कंटेंट में आम महिलाओं से लेकर सार्वजनिक हस्तियों की छवियां आपत्तिजनक रूप से तैयार की गई थी। इसके बाद यह मामला राज्यसभा सांसद प्रियंका चतुर्वेदी ने राज्यसभा में उठाया और कड़ी कार्यवाही करने के लिए सरकार से निवेदन किया।
इस कार्यवाही के बाद क्या होंगे भारत सरकार के भविष्य के कदम?
- इस संपूर्ण कार्यवाही के बाद अब भारत सरकार X प्लेटफार्म को Section 79 की धमकी दे चुकी है। यदि आने वाले समय में X प्लेटफार्म पर इसी प्रकार का अनदेखी देखी गई तो हो सकता है कि X प्लेटफार्म अपनी हार्बर इम्यूनिटी खो दे। अर्थात इसके बाद X पर वायरल होने वाले हर कंटेंट के लिए एलन मस्क की कंपनी को ही जिम्मेदारी ठहराया जाएगा।
- सबसे जरूरी बात यह है कि यह केवल भारत का मुद्दा नहीं है यह अब हर देश की आम कहानी हो गई है जहां AI का गलत इस्तेमाल कर गैर कानूनी कामों को अंजाम दिया जा रहा है।
- ऐसे में अब जरूरी हो गया है कि AI कंपनी जवाबदेही लें और मानव सुरक्षा, निजता और डिजिटल गरिमा को ध्यान में रखते हुए कंटेंट मॉडरेशन सिस्टम और प्रीवेंटिव सेफगार्ड तैयार करें।
कुल मिलाकर AI के खिलाफ भारत में उठे इस मुद्दे का टेंपरेरी हल तो जरूर निकल चुका है जहां X प्लेटफार्म ने अपनी गलती मान जरूर ली है। परंतु आने वाले समय में ऐसी और घटनाएं नहीं होगी इसकी गारंटी कोई नहीं ले रहा। ऐसे में अब सरकार, निजी-निर्माता और समाज को मिलकर जवाबदेही सुनिश्चित करनी होगी ताकि AI तकनीक का गलत इस्तेमाल होने से रोका जा सके।
Read More: मर्दानी 3 रिलीज़ डेट: धुरंदर पार्ट 2 से पहले होगी रानी मुखर्जी की वापसी, बॉक्स ऑफिस पर मचेगा तूफान
