अमेरिका की Federal Trade Commission (FTC) की पूर्व प्रमुख लीना खान ने कृत्रिम बुद्धिमत्ता (AI) कंपनियों को खुद अपनी निगरानी करने की अनुमति देने के खिलाफ चेतावनी दी है। उन्होंने Big Tech के स्व-नियमन को “पहले से नाकाम साबित हो चुका” तरीका बताया और AI से जुड़े जोखिमों से निपटने के लिए जांच, मौजूदा कानूनों के इस्तेमाल और नए कानून बनाने की मांग की।
खान की यह टिप्पणी उस समय आई है जब अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप ने व्हाइट हाउस में प्रमुख तकनीकी कंपनियों के नेताओं से मुलाकात के बाद कानूनी रूप से बाध्यकारी नियमों के बजाय AI सुरक्षा के लिए स्वैच्छिक व्यवस्था का समर्थन किया है। कंपनियों ने AI की सुरक्षा जांच के लिए आंतरिक नियंत्रण और बाहरी ऑडिट लागू करने पर सहमति जताई है, लेकिन यह समझौता कानूनी रूप से बाध्यकारी नहीं है।
एक कार्यक्रम में स्व-नियमन के खतरों पर पूछे गए सवाल के जवाब में खान ने सोशल मीडिया के दौर का उदाहरण दिया। उन्होंने कहा कि बड़ी तकनीकी कंपनियों के स्व-नियमन के प्रयास पहले भी नाकाम साबित हुए हैं।
खान ने कहा कि करीब एक दशक पहले सोशल मीडिया कंपनियों ने भी यह तर्क दिया था कि नई तकनीकों पर मौजूदा कानून और नियम लागू नहीं होते और वे खुद अपनी निगरानी करेंगी। उनके अनुसार, बाद के घटनाक्रमों ने इस व्यवस्था की कमियां सामने ला दीं।
उन्होंने Meta का उदाहरण देते हुए कहा कि कंपनी ने अपने उत्पादों से बच्चों को होने वाले गंभीर नुकसान से जुड़े सबूत छिपाए थे। खान ने कहा कि बड़ी तकनीकी कंपनियों के बिना पर्याप्त निगरानी के विस्तार से कई तरह के नुकसान सामने आए हैं। उनके मुताबिक, उन्नत AI प्रणालियों के दौर में उसी तरीके को दोहराना बड़ी गलती होगी।
ट्रंप ने व्हाइट हाउस में AI कंपनियों के नेताओं के साथ बैठक के दौरान कहा था कि AI सुरक्षित रहेगा क्योंकि कंपनियां खुद और एक-दूसरे की निगरानी करेंगी।
यह बहस ऐसे समय हो रही है जब अधिक स्वायत्त तरीके से काम करने वाले AI सिस्टम को लेकर चिंताएं बढ़ रही हैं। ABC कार्यक्रम के अनुसार, OpenAI ने अपने नवीनतम मॉडल को जारी करना रोक दिया था क्योंकि वह दायरे और अनुमति के भीतर काम करने से जुड़े कंपनी के मानकों पर खरा नहीं उतरा था। कार्यक्रम में ऐसे शोधों का भी उल्लेख किया गया, जिनमें AI एजेंटों द्वारा सरकारी वेबसाइटों में सेंध लगाने की कोशिश के उदाहरण सामने आए थे।
OpenAI के CEO सैम ऑल्टमैन ने भी AI से जुड़े व्यापक जोखिमों को स्वीकार किया है। उनके अनुसार, AI बनाने की प्रक्रिया जितनी अधिक स्वचालित होगी, AI की प्रगति की गति उतनी ही तेजी से बढ़ सकती है और ऐसे समय में बेहद सावधानी की जरूरत है।
खान ने कहा कि वॉशिंगटन को कार्रवाई करने के लिए पूरी तरह नई नियामक व्यवस्था का इंतजार करने की जरूरत नहीं है। उन्होंने उत्पाद दायित्व, उपभोक्ता संरक्षण, क्षतिपूर्ति, साइबर सुरक्षा उल्लंघनों और सार्वजनिक उपद्रव से जुड़े मौजूदा कानूनों को AI कंपनियों पर लागू किए जाने की संभावना का उल्लेख किया।
उन्होंने कहा कि केवल नई तकनीकी क्षमताएं विकसित होने के कारण मौजूदा कानूनों से कंपनियों को किसी तरह की व्यापक छूट देना उचित नहीं है।
खान के अनुसार, यदि AI एजेंट बार-बार खतरनाक व्यवहार करते हैं और कंपनियां पर्याप्त सुरक्षा उपायों के बिना उनका विकास जारी रखती हैं, तो जवाबदेही का सवाल और गंभीर हो जाएगा। उन्होंने FTC द्वारा उन कंपनियों के खिलाफ उपभोक्ता संरक्षण कानूनों के इस्तेमाल का भी उदाहरण दिया, जिन्होंने पर्याप्त साइबर सुरक्षा उपाय उपलब्ध नहीं कराए थे।
उन्होंने AI कंपनियों और उनके अधिकारियों के बारे में जांच की मांग भी की, ताकि यह पता लगाया जा सके कि उन्हें अपने AI सिस्टम के संभावित खतरनाक व्यवहार के बारे में पहले से क्या जानकारी थी।
खान ने कहा कि कुछ मामलों में अधिकारियों ने AI एजेंटों के नियंत्रण से बाहर जाकर काम करने की बात कही है, जबकि अन्य रिपोर्टों से संकेत मिलता है कि कंपनियों को इस तरह के व्यवहार की संभावना के बारे में पहले से जानकारी थी। उन्होंने कहा कि इसकी जांच जरूरी है कि मौजूदा कानूनों के तहत कंपनियों और संबंधित अधिकारियों की क्या जवाबदेही बनती है।
मौजूदा कानूनों के इस्तेमाल के अलावा खान ने अमेरिकी कांग्रेस से नए कानून बनाने की भी अपील की। उन्होंने कहा कि रेल, दवा और परमाणु ऊर्जा जैसे परिवर्तनकारी लेकिन जोखिमपूर्ण क्षेत्रों के नियमन से अमेरिका को पहले से अनुभव है।
उन्होंने सीनेटर बर्नी सैंडर्स और सांसद प्रमिला जयपाल तथा ग्रेग कैसर की ओर से AI को लेकर संभावित कानून पर चल रहे प्रयासों का भी उल्लेख किया। खान ने कहा कि राज्य स्तर के अटॉर्नी जनरल भी AI कंपनियों की निगरानी और जांच में महत्वपूर्ण भूमिका निभा सकते हैं
