एआई चैटबॉट्स ने दी बम बनाने की जानकारी:जानलेवा हमले करने की योजना भी बताई, जांच में सुरक्षा खामियों का खुलासा – Us-ai-models-security-risks-terrorist-attacks-gao-study-chatgpt-claude-gemini-grok-ied-blueprints-watchdog
अमेरिका के प्रमुख आर्टिफिशियल इंटेलिजेंस (एआई) मॉडल का इस्तेमाल देश के खिलाफ बड़े हमलों की योजना बनाने में किया जा सकता है। अमेरिकी सरकार की एक जांच में सामने आया है कि एआई चैटबॉट्स की सुरक्षा व्यवस्था को चकमा देकर उनसे ऐसी जानकारी हासिल की जा सकती है, जिसका इस्तेमाल बड़े पैमाने पर जानलेवा हमलों को अंजाम देने में हो सकता है।
अमेरिकी सरकारी जवाबदेही कार्यालय (जीएओ) की बुधवार को जारी रिपोर्ट के मुताबिक, शोधकर्ताओं ने चार प्रमुख एआई चैटबॉट्स की सुरक्षा व्यवस्था को पार कर उनसे हिंसा और हमलों की योजना बनाने में मददगार जानकारी हासिल की। इन चैटबॉट्स में ओपनएआई का चैटजीपीटी, एंथ्रोपिक का क्लाउड, गूगल का जेमिनी और स्पेसएक्सएआई का ग्रोक शामिल थे।
डेमोक्रेटिक सीनेटर के अनुरोध पर किया गया अध्ययन
न्यूयॉर्क टाइम्स की रिपोर्ट के मुताबिक, यह अध्ययन न्यू हैम्पशायर की डेमोक्रेटिक सीनेटर मैगी हसन के अनुरोध पर किया गया था। शोधकर्ताओं ने यह स्पष्ट नहीं किया कि किस कंपनी के मॉडल ने किस परीक्षण में सुरक्षा संबंधी खामी दिखाई। रिपोर्ट के मुताबिक, ऐसा इसलिए किया गया ताकि कोई अन्य व्यक्ति उन्हीं प्रयोगों को दोबारा करके सुरक्षा व्यवस्था को चकमा देने की कोशिश न करे।
दो एआई मॉडल से विस्फोटक बनाने से जुड़ी जानकारी मिली
जांच में पाया गया कि दो ऐसे मॉडल ने जानकारी दी, जिसका इस्तेमाल इम्प्रोवाइज्ड एक्सप्लोसिव डिवाइस (आईईडी) बनाने या उसमें विस्फोट करने के लिए किया जा सकता था। इस तरह के उपकरणों का इस्तेमाल बड़े पैमाने पर लोगों को नुकसान पहुंचाने वाले हमलों में हो सकता है।
एक अन्य परीक्षण में दो मॉडल ने बिजली ग्रिड को निशाना बनाने की साजिश से जुड़ी जानकारी दी। इसमें ड्रोन या आग्नेयास्त्रों के इस्तेमाल से आर्थिक नुकसान पहुंचाने की योजना शामिल थी। रिपोर्ट में कहा गया है कि इन प्लेटफॉर्म ने हमले के संभावित ठिकानों, स्थानों, समय और तरीकों जैसी विस्तृत जानकारी दी। शोधकर्ताओं के मुताबिक, हमले की योजनाएं तैयार करने में 12 घंटे से भी कम समय लगा।
हमले के समय और नुकसान बढ़ाने के तरीके भी बताए
जांच में यह भी पाया गया कि कुछ मौकों पर एआई मॉडल ने संभावित हमले की तारीख और समय, अधिकतम नुकसान पहुंचाने के तरीके और नक्शे तथा डायग्राम जैसी जानकारी उपलब्ध कराई। हालांकि, शोधकर्ताओं के सवालों पर एआई प्लेटफॉर्म की सुरक्षा व्यवस्था सक्रिय हुई थी। कुछ मामलों में चैटबॉट्स ने जवाब देने से इनकार किया और अकाउंट निलंबित करने जैसी कार्रवाई भी हुई। इसके बावजूद शोधकर्ता सुरक्षा संबंधी रुकावटों को पार करने में सफल रहे।
रिपोर्ट में कहा गया कि इसके लिए सुरक्षा व्यवस्था को चकमा देने वाली सामान्य तकनीकों का इस्तेमाल किया गया। हालांकि, जांचकर्ताओं ने इन तरीकों का विस्तृत ब्योरा सार्वजनिक नहीं किया।
सीनेटर मैगी हसन ने जताई चिंता
सीनेटर मैगी हसन ने कहा कि कोई आतंकी एआई प्लेटफॉर्म पर लॉगिन करके 12 घंटे से भी कम समय में जानलेवा हमले को अंजाम देने की ठोस योजना हासिल कर सकता है। उन्होंने कहा कि रिपोर्ट से स्पष्ट होता है कि एआई से जुड़ा सार्वजनिक सुरक्षा का खतरा अब केवल आशंका नहीं रह गया है।
हसन अगले साल सीनेट की होमलैंड सिक्योरिटी एंड गवर्नमेंटल अफेयर्स कमेटी का नेतृत्व करने वाली हैं। उन्होंने कहा कि समिति की शुरुआती सुनवाई में एआई से जुड़े सुरक्षा जोखिमों और महत्वपूर्ण बुनियादी ढांचे पर संभावित खतरों की जांच की जाएगी। इसका उद्देश्य इस क्षेत्र में कानून बनाने की दिशा में काम करना है।
एआई कंपनियों ने सुरक्षा सुधारों का दावा किया
रिपोर्ट पर एंथ्रोपिक, गूगल, ओपनएआई और स्पेसएक्सएआई ने अपनी प्रतिक्रियाएं दीं। कंपनियों ने कहा कि वे एआई सुरक्षा को गंभीरता से लेती हैं। उन्होंने माना कि गलत इरादे वाले लोग सुरक्षा प्रतिबंधों को पार करने की कोशिश कर सकते हैं। कंपनियों के मुताबिक, उन्होंने अपने एआई मॉडल के नए संस्करणों में दुरुपयोग रोकने के लिए अतिरिक्त सुरक्षा सुधार किए हैं।
अमेरिका में एआई को नियंत्रित करने पर राजनीतिक मतभेद
अमेरिका में एआई के इस्तेमाल को लेकर राजनीतिक मतभेद भी सामने आए हैं। रिपोर्ट के मुताबिक, राष्ट्रपति डोनाल्ड ट्रंप और कई रिपब्लिकन नेता एआई पर सख्त नियंत्रण लागू करने के पक्ष में ज्यादा सक्रिय नहीं दिखे हैं। उनका रुख मुख्य रूप से एआई उद्योग को अपने स्तर पर सुरक्षा व्यवस्था लागू करने देने का रहा है।
वहीं, डेमोक्रेटिक नेताओं ने नई कांग्रेस में एआई के नियमन और उससे जुड़े जोखिमों पर सक्रिय भूमिका निभाने के संकेत दिए हैं। हाल के मध्यावधि चुनावों में भी एआई तकनीक से जुड़ी चिंताएं मतदाताओं के प्रमुख मुद्दों में शामिल रही थीं।
आतंकी संगठनों के एआई के इस्तेमाल पर पहले भी चिंता
अमेरिकी सुरक्षा अधिकारियों के बीच आतंकी संगठनों की ओर से एआई के इस्तेमाल को लेकर चिंता बढ़ रही है। न्यूयॉर्क टाइम्स ने इस साल की शुरुआत में बोको हराम के पूर्व सदस्यों के साथ किए गए एक अध्ययन की रिपोर्ट दी थी। इसमें बताया गया था कि सुरक्षा उपायों के बावजूद एआई टूल्स ने आतंकी संगठनों को युद्धक्षेत्र में सीधे मदद पहुंचाई थी।
वहीं, सितंबर में एंथ्रोपिक ने एक खतरा संबंधी रिपोर्ट जारी की थी। इसमें बताया गया था कि क्लाउड का इस्तेमाल पारंपरिक हथियारों के डिजाइन और विकास से जुड़ा सॉफ्टवेयर तैयार करने के लिए करने की कोशिश की गई। इसमें बंदूक, मिसाइल, हथियारबंद ड्रोन और बम शामिल थे। रिपोर्ट में चीन के तीन, रूस के दो और यमन के एक मामले का जिक्र किया गया था।
क्या है सरकारी जवाबदेही कार्यालय?
अमेरिकी सरकारी जवाबदेही कार्यालय संघीय सरकार के खर्च की निगरानी करता है। इसका काम सरकारी धन की बर्बादी की पहचान करना और यह सुनिश्चित करना भी है कि कार्यपालिका कांग्रेस के निर्देशों का पालन करे।
इसी सप्ताह राष्ट्रपति ट्रंप ने व्हाइट हाउस के बजट कार्यालय में वरिष्ठ अधिकारी रहे एरिक एम. यूएलैंड को देश का नियंत्रक महालेखा परीक्षक नियुक्त करने के लिए नामित किया है। अगर सीनेट से उनकी नियुक्ति को मंजूरी मिलती है तो वह 15 साल के कार्यकाल के लिए इस कार्यालय की जिम्मेदारी संभालेंगे।
