दोषपूर्ण AI-युक्त खुफिया जानकारी के कारण U.S. सेना चीनी जहाज पर सवार होने के करीब पहुंच गई थी
CNN की रिपोर्ट के अनुसार, पश्चिम एशिया में एक AI-संचालित चैटबॉट द्वारा मानक कार्गो को परमाणु हथियार-संबंधित घटकों के रूप में गलत पहचानने के बाद U.S. सेना लगभग एक चीनी जहाज पर सवार हो गई थी। यह घटना तब हुई जब एक विश्लेषक ने एक LLM चैटबॉट का उपयोग किया जिसने गलती से जहाज के कार्गो को फ़्लैग कर दिया, जिससे अधिकारियों द्वारा मिशन को रद्द करने से पहले एक इंटरसेप्ट के लिए सैन्य तैयारी शुरू हो गई। इस बाल-बाल बची घटना ने AI शोधकर्ताओं के बीच व्यापक चिंताएं पैदा कर दी हैं, जिससे एंथ्रोपिक (Anthropic) में नैतिकता से संबंधित इस्तीफा देना पड़ा है और सैन्य खुफिया अभियानों में आर्टिफिशियल इंटेलिजेंस की विश्वसनीयता पर महत्वपूर्ण सवाल खड़े हो गए हैं।
मुख्य बिंदु
- एक AI चैटबॉट ने गलती से चीनी जहाज पर वाणिज्यिक कार्गो को परमाणु-संबंधित घटकों के रूप में फ़्लैग कर दिया था।
- मानव अधिकारियों द्वारा मिशन को रद्द करने से पहले U.S. सैन्य बलों ने जहाज को रोकने (intercept) की तैयारी की थी।
- इस घटना ने सैन्य खुफिया जानकारी के लिए जनरेटिव AI पर निर्भर रहने से जुड़े गंभीर जोखिमों को उजागर किया।
- इस घटना ने AI अनुसंधान समुदाय के भीतर तीव्र जांच और सार्वजनिक इस्तीफे को ट्रिगर किया।
परीक्षा तथ्य
- खुफिया रिपोर्ट एक AI चैटबॉट का उपयोग करके तैयार की गई थी जिसने साधारण जहाज के कार्गो की गलत पहचान की थी।
- इस घटना में सुरक्षा और नियंत्रण चिंताओं को लेकर Anthropic से एक AI शोधकर्ता का इस्तीफा शामिल था।
पढ़ें। याद रखें। याद करें।
स्पेस्ड-रिपीटिशन फ्लैशकार्ड, दैनिक क्विज़ और ऑफ़लाइन एक्सेस पाएं — एंड्रॉइड पर मुफ़्त।