एलन मस्क की कंपनी X AI का AI चैटबॉट ग्रोक (Grok) एक बार फिर विवादों में आ गया है। इस बार वजह बनी इसकी इमेज बनाने की ताकत, जिसका कुछ लोगों ने गलत तरीके से इस्तेमाल किया। इसके बाद कई देशों में हंगामा मच गया और अब कंपनी को मजबूर होकर इसके लिए नए सुरक्षा नियम लगाने पड़े हैं।
असल में क्या हुआ था?
ग्रोक एक ऐसा AI है जो यूजर के कहने पर टेक्स्ट और तस्वीरें दोनों बना सकता है। हाल के दिनों में कुछ लोगों ने इसका इस्तेमाल असली लोगों, खासकर महिलाओं और नाबालिगों की अनुचित और आपत्तिजनक तस्वीरें बनाने में किया। कई बार लोगों की सामान्य फोटो लेकर उनमें गलत तरीके से बदलाव किए गए, जिससे उनकी Privacy और सम्मान को ठेस पहुंची।
यही वजह रही कि सोशल मीडिया पर ग्रोक को लेकर जबरदस्त नाराजगी देखने को मिली। लोगों ने कहा कि यह AI लोगों की जिंदगी खराब करने का जरिया बन सकता है।
दुनिया भर में उठी आपत्ति
यह मामला सिर्फ सोशल मीडिया तक सीमित नहीं रहा। कई देशों की सरकारों और रेगुलेटरी संस्थाओं ने इस पर सवाल उठाए। कुछ देशों ने ग्रोक पर अस्थायी रोक भी लगा दी। सरकारों का कहना है कि अगर AI इस तरह की तस्वीरें बनाने में मदद करता है, तो यह बच्चों और महिलाओं की सुरक्षा के लिए बड़ा खतरा बन सकता है।
भारत समेत कई देशों ने कंपनी से जवाब मांगा और चेतावनी दी कि अगर सुरक्षा के पुख्ता इंतजाम नहीं किए गए, तो कड़ी कार्रवाई हो सकती है।
अब क्या बदला गया है?
विवाद बढ़ने के बाद X AI ने ग्रोक में बड़े बदलाव किए हैं।
- अब ग्रोक बिना अनुमति के किसी असली व्यक्ति की अश्लील या आपत्तिजनक तस्वीर नहीं बनाएगा।
- जहां ऐसे कंटेंट पर कानून सख्त हैं, वहां ग्रोक की इमेज बनाने की सुविधा सीमित कर दी गई है।
- इमेज बनाने और एडिट करने की सुविधा अब ज्यादातर भुगतान करने वाले यूजर्स तक ही रखी गई है, कि इसका गलत इस्तेमाल कम हो।
- कंपनी ने साफ कहा है कि अगर कोई यूजर गैरकानूनी कंटेंट बनवाता है, तो उसकी जिम्मेदारी उसी की होगी।
एलन मस्क ने यह भी कहा कि ग्रोक खुद से कुछ नहीं करता, वह सिर्फ यूजर के दिए निर्देशों पर काम करता है। अगर कोई नियम तोड़ता है, तो उसके लिए वही जिम्मेदार माना जाएगा।
सिर्फ तस्वीरों तक सीमित नहीं है मामला
ग्रोक पहले भी कई बार विवादों में रहा है। उस पर आरोप लगे कि उसने भ्रामक या आपत्तिजनक बातें भी कही हैं। हालांकि कंपनी ने समय-समय पर इसके सिस्टम में बदलाव किए हैं, लेकिन यह विवाद दिखाता है कि AI जितना ताकतवर होता जा रहा है, उतना ही खतरनाक भी हो सकता है।
विशेषज्ञ क्या कहते हैं?
AI विशेषज्ञों का मानना है कि ऐसी तकनीकें बहुत तेज़ी से आगे बढ़ रही हैं, लेकिन उनके लिए मजबूत सुरक्षा नियम उतने तेज़ी से नहीं बन पा रहे। अगर इन पर सही नियंत्रण नहीं हुआ, तो यह तकनीक गलत लोगों के हाथ में जाकर गंभीर नुकसान पहुंचा सकती है।
यह विवाद एक तरह से सभी टेक कंपनियों के लिए चेतावनी है कि सिर्फ नई सुविधाएं जोड़ना ही काफी नहीं है, बल्कि लोगों की सुरक्षा और कानून का पालन करना भी उतना ही जरूरी है।
