Grok Ban:इंडोनेशिया के बाद मलेशिया में भी ग्रोक हुआ बैन, अश्लील तस्वीरों के मामले में हुई बड़ी कार्रवाई - Malaysia Indonesia Ban Elon Musk Grok Ai Illicit Deepfake Images Women Children

{"_id":"69649b94753a1982e00928e1","slug":"malaysia-indonesia-ban-elon-musk-grok-ai-illicit-deepfake-images-women-children-2026-01-12","type":"photo-gallery","status":"publish","title_hn":"Grok Ban: इंडोनेशिया के बाद मलेशिया में भी ग्रोक हुआ बैन, अश्लील तस्वीरों के मामले में हुई बड़ी कार्रवाई","category":{"title":"Tech Diary","title_hn":"टेक डायरी","slug":"tech-diary"}} Grok Ban: इंडोनेशिया के बाद मलेशिया में भी ग्रोक हुआ बैन, अश्लील तस्वीरों के मामले में हुई बड़ी कार्रवाई टेक डेस्क, अमर उजाला, नई दिल्ली Published by: नीतीश कुमार Updated Mon, 12 Jan 2026 12:29 PM IST सार

Grok Banned In Malaysia And Indonesia: एआई से बने अश्लील और बिना सहमति वाले डीपफेक मामलों पर बढ़ती चिंता के बीच मलेशिया और इंडोनेशिया ने एलन मस्क के AI चैटबॉट Grok पर रोक लगा दी है। दोनों देशों का कहना है कि मौजूदा सेफ्टी फीचर्स गलत इस्तेमाल रोकने में नाकाम रहे हैं।

विज्ञापन 1 of 4 दो देशों में बैन हुआ ग्रोक - फोटो : Grok

Link Copied

एलोन मस्क के सोशल मीडिया प्लेटफॉर्म X पर मिलने वाले एआई चैटबॉट Grok को लेकर एक बड़ी खबर सामने आई है। दक्षिण-पूर्व एशियाई देशों, मलेशिया और इंडोनेशिया ने अपने यहां ग्रोक एआई चैटबॉट को पूरी तरह ब्लॉक कर दिया है। अधिकारियों के अनुसार, इस टूल का इस्तेमाल महिलाओं और नाबालिगों की अश्लील, गैर-सहमति वाली और एडिटेड तस्वीरें बनाने में किया जा रहा था, जो गंभीर चिंता का विषय है।

डीपफेक को लेकर बढ़ती वैश्विक चिंता
Grok का इस्तेमाल वेबसाइट और एप से किया जा सकता है, लेकिन इसे सोशल मीडिया प्लेटफॉर्म एक्स (X) पर भी यूज किया जा सकता है। हाल ही में एक्स पर ग्रोक का इस्तेमाल कर महिलाओं की अश्लील डीपफेक तस्वीरें बनाई गईं। इसे लेकर आरोप है कि यह बेहद वास्तविक दिखने वाली तस्वीरें, ऑडियो और टेक्स्ट तैयार कर सकता है। समस्या यह है कि मौजूदा सुरक्षा उपाय इनका गलत इस्तेमाल रोकने में कारगर साबित नहीं हो पा रहे हैं। खासतौर पर महिलाओं को बिकिनी या आपत्तिजनक पोज में दिखाने और बच्चों से जुड़े कंटेंट पर सवाल उठे हैं। ये तस्वीरें इतनी असली लगती हैं कि किसी की भी छवि खराब कर सकती हैं। Trending Videos यह वीडियो/विज्ञापन हटाएं 2 of 4 डीपफेक - फोटो : freepik इंडोनेशिया और मलेशिया का रुख
इंडोनेशिया सरकार ने शनिवार को ग्रोक की पहुंच अस्थायी रूप से बंद की, जबकि मलेशिया ने रविवार को यही कदम उठाया। इंडोनेशिया की संचार और डिजिटल मामलों की मंत्री मेत्या हफीद ने कहा कि बिना सहमति के बनाए गए यौन डीपफेक मानवाधिकारों, गरिमा और डिजिटल सुरक्षा का गंभीर उल्लंघन हैं। इंडोनेशिया के डिजिटल स्पेस सुपरविजन महानिदेशक अलेक्जेंडर सबार के मुताबिक शुरुआती जांच में पाया गया कि ग्रोक में ऐसे प्रभावी सेफगार्ड नहीं हैं, जो असली तस्वीरों के आधार पर फर्जी अश्लील कंटेंट बनाने और फैलाने से रोक सकें। इससे लोगों की प्राइवेसी, इमेज राइट्स और मानसिक-सामाजिक प्रतिष्ठा को नुकसान पहुंचता है। विज्ञापन विज्ञापन 3 of 4 ग्रोक से बढ़ा डीपफेक का खतरा - फोटो : Freepik मलेशिया में भी सख्त कदम
मलेशियाई कम्युनिकेशंस एंड मल्टीमीडिया कमीशन ने Grok के “बार-बार दुरुपयोग” का हवाला देते हुए अस्थायी प्रतिबंध लगा दिया है। रेगुलेटर का कहना है कि X Corp. और xAI को भेजे गए नोटिस के जवाब में केवल यूजर रिपोर्टिंग मैकेनिज्म पर ही भरोसा दिखाया गया, जो पर्याप्त नहीं है। बैन तब तक रहेगा, जब तक मजबूत सुरक्षा उपाय लागू नहीं होते।

2023 में लॉन्च हुआ Grok सोशल मीडिया प्लेटफॉर्म X पर भी उपलब्ध है। पिछले साल इसमें इमेज जनरेशन फीचर 'ग्रोक इमेजिन' जोड़ा गया था, जिसमें ‘स्पाइसी मोड’ भी शामिल था, जो एडल्ट कंटेंट बना सकता है। इसी फीचर को लेकर सबसे ज्यादा विवाद हो रहा है। 4 of 4 सबसे पहले भारत में हुई कार्रवाई - फोटो : X / @grok भारत सरकार भी जारी कर चुकी है नोटिस
दक्षिण-पूर्व एशिया में लगे बैन के बीच Grok यूरोपीय संघ, ब्रिटेन, भारत और फ्रांस जैसे देशों में भी जांच और आलोचना का सामना कर रहा है। हाल ही में कंपनी ने इमेज जनरेशन को पेड यूजर्स तक सीमित किया, लेकिन आलोचकों का कहना है कि इससे समस्या पूरी तरह हल नहीं हुई। 

भारत सरकार के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने 2 जनवरी 2026 को सोशल मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) को 72 घंटे के भीतर प्लेटफॉर्म से अश्लील कंटेंट हटाने का अल्टीमेटम दिया था। सरकार ने ग्रोक के सुरक्षा घेरे की विफलता पर गंभीर चिंता जताते हुए इसे भारतीय IT नियमों का उल्लंघन बताया था।

भारी दबाव के बाद, 11 जनवरी 2026 को X ने अपनी गलती स्वीकार की और भारत सरकार को आश्वासन दिया कि वह भारतीय कानूनों का पालन करेगा। इस विवाद के बाद X ने
लगभग 3,500 पोस्ट को ब्लॉक करते हुए अश्लील सामग्री फैलाने वाले 600 से अधिक अकाउंट्स को डिलीट करने की पुष्टी की है। इसके अलावा, भविष्य में ऐसी सामग्री को रोकने के लिए अपने कंटेंट मॉडरेशन सिस्टम को मजबूत करने का भी वादा किया है। बता दें कि राज्यसभा सांसद प्रियंका चतुर्वेदी ने इस मुद्दे को IT मंत्री के सामने उठाया था, जिसके बाद सरकार ने कार्रवाई शुरू की। विज्ञापन अगली फोटो गैलरी देखें

रहें हर खबर से अपडेट, डाउनलोड करें Android Hindi News App, iOS Hindi News App और Amarujala Hindi News App अपने मोबाइल पे|
Get all Tech News in Hindi related to live updates update of latest mobile reviews apps, tablets etc. Stay updated with us for all breaking reports from Tech and more Hindi News.

विज्ञापन विज्ञापन