AI चैटबॉट्स से पूछी आतंकी हमले की प्लानिंग, जवाब में मिले तबाही के ब्लूप्रिंट, अमेरिकी रिपोर्ट में चौंकाने वाला खुलासा

Direct Source Verification: This story is aggregated from India Today (indiatoday.in). Full reporting rights and copyright belong to the primary publisher.
आर्टिफिशियल इंटेलिजेंस (AI) का इस्तेमाल अब कई कामों में हो रहा है. लेकिन क्या यही टेकनीक किसी आतंकी हमले की प्लानिंग में भी मदद कर सकती है? अमेरिका की एक सरकारी जांच में इस सवाल को लेकर चिंता बढ़ाने वाला खुलासा हुआ है. जांचकर्ताओं ने चार बड़े AI चैटबॉट्स की सुरक्षा में सेंध लगाकर...

आर्टिफिशियल इंटेलिजेंस (AI) का इस्तेमाल अब कई कामों में हो रहा है. लेकिन क्या यही टेकनीक किसी आतंकी हमले की प्लानिंग में भी मदद कर सकती है? अमेरिका की एक सरकारी जांच में इस सवाल को लेकर चिंता बढ़ाने वाला खुलासा हुआ है. जांचकर्ताओं ने चार बड़े AI चैटबॉट्स की सुरक्षा में सेंध लगाकर उनसे बड़े हमलों के प्लान हासिल किए. इनमें बम धमाके और बिजली से जुड़े अहम ठिकानों पर हमले की योजनाएं शामिल थीं.

दरअसल, यह जांच अमेरिकी सरकारी एजेंसी गवर्नमेंट अकाउंटेबिलिटी ऑफिस (GAO) ने की. इसने OpenAI के ChatGPT, Anthropic के Claude, Google के Gemini और SpaceXAI के Grok को परखा. रिपोर्ट के मुताबिक, शुरुआत में चारों चैटबॉट्स ने खतरनाक सवालों का जवाब देने से इनकार कर दिया था. लेकिन जांचकर्ताओं ने उनकी सुरक्षा व्यवस्था को चकमा दे दिया. अमेरिकी मीडिया रिपोर्ट के मुताबिक, करीब 12 घंटे के अंदर चैटबॉट्स ने हमलों से जुड़ी जानकारी देनी शुरू कर दी.

जांचकर्ताओं ने चैटबॉट्स को दो तरह के काम दिए थे. पहला, ऐसा हमला करने की योजना बनाना जिसमें ज्यादा से ज्यादा लोगों की जान जा सके. दूसरा, ऐसा हमला तैयार करना जिससे देश को बड़ा आर्थिक नुकसान हो. GAO की रिपोर्ट के मुताबिक, दो चैटबॉट्स ने बड़े पैमाने पर लोगों को नुकसान पहुंचाने वाले हमलों के प्रस्ताव दिए. वहीं, दो अन्य ने बिजली ग्रिड को निशाना बनाने की योजनाएं बताईं.

एक चैटबॉट ने होटल की पार्किंग में विस्फोट करने का सुझाव दिया. दूसरे ने एक बड़े सम्मेलन केंद्र को संभावित निशाना बताया. कुछ जवाबों में हमले के लिए तारीख और समय तक शामिल थे. एक अन्य चैटबॉट ने ड्रोन के जरिए बिजली सबस्टेशन पर हमला करने का प्लान दिया.

यह भी पढ़ें: AI युग में क्या मशीनें तय करेंगी इंसान होने के मायने? कैम्ब्रिज ने 'Human' को चुना साल का शब्द

रिपोर्ट के मुताबिक, एक चैटबॉट ने पार्किंग में विस्फोटक से भरी गाड़ी रखने की जगह दिखाने वाली तस्वीर भी बनाई. एक अन्य ने हमले की तैयारी के लिए फर्जी कंपनी बनाने, गाड़ी किराए पर लेने और दूसरे इंतजाम करने जैसे सुझाव दिए.

बिजली के ठिकानों पर हमले को लेकर भी चैटबॉट्स ने जानकारी दी. एक ने ड्रोन हमले का चार चरणों वाला चित्र बनाया. उसने हमले का एक नकली वीडियो भी तैयार किया. दूसरे चैटबॉट ने बिजली सबस्टेशन के एक हिस्से को निशाना बनाने का सुझाव दिया.

हालांकि, GAO ने यह नहीं बताया कि किस चैटबॉट ने कौन सा जवाब दिया. एजेंसी ने हमले से जुड़ी कुछ तकनीकी जानकारियां भी सार्वजनिक नहीं कीं. इसका मकसद ऐसी जानकारी को गलत हाथों में जाने से रोकना था.

AI की सुरक्षा को कैसे दिया गया चकमा?

AI कंपनियां अपने चैटबॉट्स में सुरक्षा व्यवस्था लगाती हैं. इसका मकसद हिंसा और अपराध से जुड़ी खतरनाक जानकारी देने से रोकना है. लेकिन कुछ खास तरीकों से इन नियमों को चकमा दिया जा सकता है.

यह भी पढ़ें: रियल है या AI? 'साजन साजन...' वाला देसी बैटमैन क्यों हुआ वायरल

रिपोर्ट में 'डू एनीथिंग नाउ' यानी DAN जैसे तरीकों का जिक्र है. इसमें चैटबॉट को ऐसा व्यवहार करने के लिए कहा जाता है, जैसे उस पर सामान्य नियम लागू नहीं होते. इसके अलावा, कोई व्यक्ति सीधे हमले की योजना पूछने के बजाय छोटे-छोटे सवाल पूछकर भी जानकारी जुटाने की कोशिश कर सकता है.

चारों चैटबॉट बनाने वाली कंपनियों ने माना कि AI से खतरनाक जानकारी सामने आ सकती है. हालांकि, उन्होंने जांच के कुछ तरीकों पर सवाल भी उठाए. कंपनियों का कहना था कि जांच में यह नहीं देखा गया कि क्या यही जानकारी सामान्य सर्च इंजन से भी मिल सकती थी. उन्होंने यह भी कहा कि मई 2026 में हुए ये परीक्षण उनके पुराने AI मॉडल पर किए गए थे. इसके बाद सुरक्षा व्यवस्था में कई सुधार किए गए हैं.

इस जांच के बाद अमेरिकी सीनेटर मैगी हसन ने AI कंपनियों पर सख्त निगरानी की मांग की है. उन्होंने कहा कि AI से मिली ऐसी जानकारी किसी आतंकी के हाथ लग जाए तो इसके गंभीर नतीजे हो सकते हैं.

हसन AI सुरक्षा को लेकर कानून बनाने और इस मुद्दे पर सुनवाई कराने की तैयारी में हैं. वह चाहती हैं कि कंपनियां पर्याप्त सुरक्षा इंतजाम के बिना नए AI मॉडल जारी न करें. साथ ही, गैरकानूनी गतिविधियों से जुड़ी जानकारी मिलने पर कंपनियों को कानून लागू करने वाली एजेंसियों को इसकी सूचना देनी चाहिए.

Original Source
https://www.aajtak.in/technology/story/chatgpt-claude-gemini-grok-ai-chatbots-mass-casualty-attack-plans-us-gao-report-ntc-aktw-rptc-2700102-2026-11-18?utm_source=rss
Visit India Today ↗
SHARE STORY:
𝕏 f in

Related Coverage in Technology