Character.ai Controversy:गूगल व Character.ai के बीच समझौते की तैयारी, क्या चैटबॉट्स बन रहे बच्चों के लिए खतरा - Google And Character.ai Preparing For Agreement Chatbots Becoming Threat Children?

विस्तार Follow Us

गूगल और कैरेक्टर.एआई पर ऐसे कई मुकदमे चल रहे हैं। जिनमें दावा किया गया है कि इनपर चैट करने के बाद कुछ किशोरों ने लंबे खुदकुशी की या खुद को गंभीर पहुंचाया। इन मामलों में पीड़ितों के परिवार ने आरोप लगाया है। उनका कहला है कि भावनात्मक रूप से जुड़ाव पैदा करने वाले एआई सिस्टम्स कमजोर मानसिक स्थिति वाले बच्चों को और ज्यादा प्रभावित करते हैं। 

और पढ़ें Trending Videos यह वीडियो/विज्ञापन हटाएं

समझौते की ओर क्यों बढ़ रहे हैं Google और Character.AI?

कोर्ट फाइलिंग्स के मुताबिक, दोनों कंपनियां इन मामलों में आर्थिक मुआवजे वाले समझौते पर बातचीत कर रही हैं। हालांकि, अब तक किसी भी कंपनी ने ये स्वीकार नहीं किया है कि वे कानूनी रूप से दोषी हैं। अंतिम शर्तें अभी तय होनी बाकी हैं, लेकिन कानूनी प्रक्रिया काफी संवेदनशील और कड़ी निगरानी में चल रही है।

विज्ञापन विज्ञापन

ये भी पढ़े: AI Voice Cloning: न भाई न दोस्त, AI से चुराई आवाज और1 लाख रुपये साफ; जानें कैसे काम करता है ये आवाज का जाल

क्या है विवाद की जड़? 

Character.AI एक ऐसा प्लेटफॉर्म है जहां यूजर्स अपनी पसंद के किसी भी काल्पनिक या असली चरित्र (जैसे सुपरहीरो, ऐतिहासिक हस्तियां या गेम कैरेक्टर्स) के साथ चैट कर सकते हैं। विवाद तब शुरू हुआ जब कई परिवारों ने दावा किया कि ये चैटबॉट्स बच्चों के साथ भावनात्मक जुड़ाव पैदा करते हैं। आरोप है कि एआई सिस्टम्स इतने एडवांस्ड हैं कि वे अकेलेपन के शिकार बच्चों को हकीकत से दूर कर देते हैं और उन्हें अपनी आभासी दुनिया का आदि बना लेते हैं।

गूगल का इस मामले में क्या हाथ?

हालांकि कैरेक्टर.एआई एक स्वतंत्र स्टार्टअप था, लेकिन इसकी जड़ें गूगल से जुड़ी हैं। इसके संस्थापक पूर्व गूगल इंजीनियर हैं। 2024 में गूगल ने Character.AI के साथ 2.7 बिलियन डॉलर की एक बड़ी डील की, जिसके तहत इसके फाउंडर्स और मुख्य तकनीक गूगल के पास वापस आ गई। इसी वजह से गूगल भी इस कानूनी लड़ाई में मुख्य पक्षकार बन गया है।

क्यों ऐतिहासिक माना जा रहा है ये समझौता?

अब तक एआई कंपनियों के खिलाफ यूजर्स को सीधे नुकसान पहुंचाने के आरोपों वाले मामले ज्यादातर बिना नतीजे के खत्म हो जाते थे। Character.AI से जुड़े ये केस ऐसे पहले मामलों में हैं, जो समझौते के बेहद करीब पहुंचे हैं। इसी कारण से ओपनएआई मेटा जैसी बड़ी टेक कंपनियां भी इन मामलों पर करीबी नजर बनाए हुए हैं।

ये भी पढ़े: CES 2026: दुनिया के सबसे अनोखे रोबोट्स; कोई खेल रहा पिंग-पोंग, तो कोई कर रहा बॉक्सिंग

कैसे मामले आए?

इन विवादों में सबसे ज्यादा सेवेल सेटजर III का केस सुर्खियों में रहा। इसमें 14 साल के बच्चे ने गेम ऑफ थ्रोन्स की कैरेक्टर डेनेरिस टार्गेरियन पर आधारित चैटबॉट के साथ लंबे समय तक भावनात्मक और यौन बातचीत की, जिसके बाद उसने आत्महत्या कर ली। इसके बाद उसकी मां मेगन गार्सिया ने अमेरिकी सीनेट में गवाही दी, जिसमें उन्होंने टेक कंपनियों को ऐसे सिस्टम बनाने के लिए जिम्मेदार ठहराया। इसके अलावा 17 साल के किशोर के बारे में दावा किया गया कि चैटबॉट ने खुद को नुकसान पहुंचाने को बढ़ावा दिया। माता-पिता पर हिंसा को जस्टिफाई करने जैसे जवाब दिए इन आरोपों ने भावनात्मक AI सिस्टम्स की सुरक्षा पर गंभीर सवाल खड़े कर दिए हैं।

Character.AI ने क्या किया?

Character.AI ने अक्तूबर 2024 में नाबालिगों के लिए अपनी सेवा सीमित कर दी थी। हालांकि, पीड़ित परिवारों का कहना है कि ये कदम बहुत देर से उठाए गए और इससे पहले ही नुकसान हो चुका था।

AI इंडस्ट्री पर क्या होगा असर?

अगर गूगल और कैरेक्टर.एआई के बीच ये समझौता पूरा हो जाता है, तो इसका असर सिर्फ इन दो कंपनियों तक सीमित नहीं रहेगा। ये पूरी एआई इंडस्ट्री के काम करने के तरीके में बदलाव आ सकता है। जैसे अब तक ज्यादातर एआई चैटबॉट्स को यूजर को ज्यादा देर तक जोड़े रखने के लिए डिजाइन किया जाता था। समझौते के बाद कंपनियों को कुछ बातों को सुनिश्चित करना पड़ सकता है। जैसे:

चैटबॉट भावनात्मक रूप से जरूरत से ज्यादा जुड़ाव न बनाए। बच्चों और कमजोर यूजर्स को मानसिक नुकसान न पहुंचे। खतरनाक या गलत जवाब देने से बचाने के लिए मजबूत सेफ्टी फिल्टर लगाए जाएं इससे एआई बनाने वाली कंपनियों पर जिम्मेदारी और निगरानी दोनों बढ़ेंगी।