आर्टिफिशियल इंटेलिजेंस (AI) चैटबॉट्स आज हमारी रोज़मर्रा की ज़िंदगी का अहम हिस्सा बन चुके हैं। लेकिन इसी बीच अमेरिकी संघीय व्यापार आयोग (FTC) ने इन चैटबॉट्स के बच्चों और किशोरों पर संभावित नकारात्मक प्रभाव को लेकर बड़ी कार्रवाई की है। इस जांच के दायरे में Google (Alphabet), Meta Platforms, OpenAI, Character AI, Snap, Instagram और xAI जैसी बड़ी कंपनियां शामिल हैं।
FTC का मुख्य फोकस यह जानना है कि ये कंपनियां अपने चैटबॉट्स से जुड़ी सुरक्षा, पारदर्शिता और बच्चों की सुरक्षा को लेकर क्या कदम उठा रही हैं।
क्यों उठे सवाल? (Why the Inquiry?)
चैटबॉट्स इंसानों की तरह बातचीत करने की क्षमता रखते हैं। कई बार बच्चे और किशोर इन्हें दोस्त या सलाहकार की तरह इस्तेमाल करने लगते हैं। इससे उनके भावनात्मक स्वास्थ्य पर गहरा असर पड़ सकता है।
- FTC को चिंता है कि ये चैटबॉट्स अनहेल्दी रिलेशनशिप पैदा कर सकते हैं।
- बच्चों और उनके माता-पिता को अक्सर यह नहीं बताया जाता कि डेटा कैसे इस्तेमाल किया जा रहा है।
- इनसे मिलने वाली जानकारी और सलाह कभी-कभी खतरनाक परिणाम दे सकती है।
FTC किन मुद्दों की जांच कर रही है?
FTC ने कंपनियों से कई अहम सवालों पर जानकारी मांगी है:
- ये कंपनियां बच्चों और किशोरों पर चैटबॉट्स के नकारात्मक असर को मापने और मॉनिटर करने के लिए क्या तरीके अपनाती हैं?
- चैटबॉट्स से डेटा कलेक्शन और शेयरिंग कैसे होती है?
- यूज़र्स को एंगेज रखने और मॉनेटाइजेशन मॉडल्स में क्या रणनीतियां अपनाई जाती हैं?
- चैटबॉट्स के कैरैक्टर डेवलपमेंट और अप्रूवल की प्रक्रिया क्या है?
- लॉन्च से पहले और बाद में इन चैटबॉट्स की सेफ्टी टेस्टिंग कैसे होती है?
- बच्चों और पेरेंट्स को जोखिमों की जानकारी और डिस्क्लोज़र किस तरह दिए जाते हैं?
गंभीर घटनाओं से बढ़ी चिंता
कई घटनाओं ने इस बहस को और ज़्यादा संवेदनशील बना दिया है:
- एक युवक ने आत्महत्या से पहले अपनी मां की हत्या की और माना जा रहा है कि उसने ChatGPT से लगातार बात की थी।
- Character.AI पर भी मुकदमा दर्ज हुआ है क्योंकि आरोप है कि उसके चैटबॉट ने एक किशोर को आत्महत्या के लिए प्रेरित किया।
ये मामले दिखाते हैं कि AI चैटबॉट्स के गलत इस्तेमाल और कमजोर निगरानी से गंभीर सामाजिक और मानसिक समस्याएं पैदा हो सकती हैं।
FTC का पेरेंटल कंट्रोल पर फोकस
FTC यह भी जानना चाहता है कि कंपनियां:
- पेरेंट्स को डेटा हैंडलिंग और विज्ञापनों के बारे में कैसे जानकारी देती हैं।
- बच्चों के लिए बने चैटबॉट्स पर एज-एप्रोप्रियेट कंट्रोल्स लगाए गए हैं या नहीं।
- क्या कंपनियां सचमुच बच्चों के हितों को ध्यान में रखकर अपने चैटबॉट्स डिज़ाइन कर रही हैं।
FTC चेयरमैन का बयान
FTC चेयरमैन एंड्रयू एन. फर्ग्यूसन ने कहा:
“जैसे-जैसे AI टेक्नोलॉजीज़ आगे बढ़ रही हैं, हमें यह समझना जरूरी है कि बच्चों पर इनके क्या प्रभाव हो सकते हैं। यह अध्ययन हमें यह जानने में मदद करेगा कि कंपनियां अपने प्रोडक्ट्स को कैसे विकसित कर रही हैं और बच्चों की सुरक्षा के लिए कौन-से कदम उठा रही हैं।”
बड़ा सवाल: भविष्य कैसा होगा?
AI चैटबॉट्स शिक्षा, हेल्थकेयर और एंटरटेनमेंट में क्रांतिकारी बदलाव ला सकते हैं, लेकिन बिना सख्त गाइडलाइंस और पॉलिसीज़ के ये बच्चों और किशोरों के लिए खतरनाक भी साबित हो सकते हैं।
- क्या सरकारें इस पर सख्त कानून बनाएंगी?
- क्या कंपनियां खुद से मजबूत सेफ्टी प्रोटोकॉल्स अपनाएंगी?
- और क्या पेरेंट्स को अपने बच्चों की AI यूज़ पर ज्यादा निगरानी रखनी होगी?
RRD’s Opinion
FTC की यह जांच केवल अमेरिका तक सीमित नहीं रहेगी। यह दुनिया भर की टेक कंपनियों और सरकारों के लिए चेतावनी का संकेत है। AI चैटबॉट्स भविष्य हैं, लेकिन इन्हें सुरक्षित बनाना हमारी सामूहिक जिम्मेदारी है।
JOIN OUR WHATSAPP CHANNEL CLICK HERE
Rahul Ram Dwivedi (RRD) is a senior journalist in 2YoDoINDIA.
NOTE : Views expressed are personal.
