The Ethics of Lethal Autonomous Weapons Systems in Global Conflict.
आधुनिक सैन्य तकनीक अब एक ऐसे मोड़ पर खड़ी है, जहाँ विज्ञान कथाओं (Science Fiction) का सबसे डरावना सपना हकीकत बन चुका है। अब तक हमने रडार, स्टेल्थ, और हाइपरसोनिक मिसाइलों की बात की, लेकिन इन सभी हथियारों के पीछे ट्रिगर दबाने वाला एक ‘इंसान’ मौजूद होता था। अब बैटलग्राउंड में LAWS (Lethal Autonomous Weapons Systems) की एंट्री हो चुकी है—ऐसे हथियार जो कृत्रिम बुद्धिमत्ता (AI) और सेंसर डेटा का इस्तेमाल करके ‘अपने आप’ टारगेट को खोजते हैं, उसकी पहचान करते हैं, और बिना किसी इंसानी आदेश (Human Command) के उसे जान से मारने का फैसला लेते हैं। एक मशीन को किसी इंसान की जान लेने का अधिकार देना केवल एक तकनीकी छलांग नहीं है; यह ‘International Humanitarian Law’ (अंतर्राष्ट्रीय मानवीय कानून) और मानव नैतिकता (Human Ethics) का अब तक का सबसे बड़ा संकट है। आइए LAWS के इस ग्लोबल डिबेट, डेटा और इसके खौफनाक सामरिक पहलुओं का एक डीप-एनालिसिस करते हैं।
[Detailed Biography & Origin: LAWS का क्रमिक विकास और ‘Human-out-of-the-loop’ का इतिहास]
इतिहास, उत्पत्ति और जेनेवा डिबेट्स: स्वचालित हथियारों (Automated Weapons) का इतिहास द्वितीय विश्व युद्ध के लैंडमाइंस (Landmines) या 1970 के दशक के नेवल ‘Phalanx CIWS’ (Close-In Weapon System) से जुड़ा है, जो दुश्मन की मिसाइल को देखकर खुद फायर करते थे। लेकिन वे हथियार ‘Automated’ थे, ‘Autonomous’ नहीं। वे सिर्फ एक तयशुदा (Pre-programmed) रडार सिग्नल पर रिएक्ट करते थे। असली ‘ऑटोनोमी’ (Autonomy) या ‘स्वायत्तता’ की शुरुआत 2010 के दशक में मशीन लर्निंग (Machine Learning) और कंप्यूटर विज़न (Computer Vision) के विकास के साथ हुई।
मिलिट्री ऑपरेशन्स में इंसानी दखल को तीन स्तरों में बांटा जाता है:
Human-in-the-loop: मशीन टारगेट दिखाती है, लेकिन ट्रिगर इंसान दबाता है (जैसे वर्तमान के सशस्त्र ड्रोन्स)।
Human-on-the-loop: मशीन खुद टारगेट खोजकर फायर करती है, लेकिन इंसान के पास उसे बीच में रोकने (Abort) का ‘वीटो पावर’ होता है।
Human-out-of-the-loop (LAWS): मशीन को एक इलाके में छोड़ दिया जाता है, और वह खुद तय करती है कि किसे मारना है और किसे नहीं। इंसान का कोई कंट्रोल नहीं होता।
इस तीसरे स्तर (LAWS) ने पूरी दुनिया में खलबली मचा दी है। संयुक्त राष्ट्र (UN) के ‘Convention on Certain Conventional Weapons’ (CCW) के तहत जेनेवा में पिछले एक दशक से इन ‘Killer Robots’ पर बैन लगाने की चर्चा चल रही है। 2021 में UN सिक्योरिटी काउंसिल की एक रिपोर्ट ने दुनिया को तब चौंका दिया जब यह खुलासा हुआ कि मार्च 2020 में लीबिया (Libya) के गृहयुद्ध में तुर्की निर्मित ‘STM Kargu-2’ ऑटोनोमस ड्रोन्स ने पीछे हटते हुए लड़ाकों पर बिना किसी इंसानी डेटा कनेक्टिविटी के ‘ऑटोनोमस मोड’ में हमला किया था। यह सैन्य इतिहास में संभवतः पहली बार था जब किसी मशीन ने अपने खुद के एल्गोरिदम के आधार पर इंसानों का शिकार किया। इस घटना ने साबित कर दिया कि LAWS अब भविष्य की थ्योरी नहीं, बल्कि वर्तमान की एक खतरनाक वास्तविकता है।
Meaningful Human Control (MHC): जीवन और मृत्यु के फैसले से इंसान की विदाई
इस पूरी नैतिक बहस (Ethical Debate) का केंद्र बिंदु ‘Meaningful Human Control’ (MHC) है। मिलिट्री एथिक्स का सबसे बुनियादी नियम यह कहता है कि किसी भी इंसान की जान लेने का फैसला एक ‘नैतिक वजन’ (Moral Weight) रखता है, जो केवल एक जीवित, सोचने-समझने वाले इंसान के पास ही होना चाहिए। एक एल्गोरिदम (Algorithm) के पास न तो दया (Compassion) होती है, न ही युद्ध के सन्दर्भ (Context) को समझने की क्षमता।
लेकिन सेनाओं (Militaries) का तर्क पूरी तरह से गति और डेटा पर टिका है। ग्लोबल सुपरपावर्स का मानना है कि भविष्य के युद्ध (जैसे हाइपरसोनिक मिसाइल स्वार्म्स या साइबर अटैक्स) इतने तेज़ होंगे कि इंसानी दिमाग (Human Brain) फैसले लेने में बहुत धीमा साबित होगा। अगर दुश्मन का AI-पावर्ड ड्रोन स्वार्म हमला कर रहा है, तो एक इंसान जो स्क्रीन पर देखकर क्लिक करता है, वह हार जाएगा। इसी ‘Machine Speed’ की जरूरत सेनाओं को ‘Human-out-of-the-loop’ सिस्टम्स तैनात करने के लिए मजबूर कर रही है। एथिसिस्ट्स (Ethicists) का सवाल यह है कि क्या सिर्फ ‘Speed’ (गति) हासिल करने के लिए हम युद्ध के मैदान से मानवीय विवेक (Human Judgment) को पूरी तरह से हटा सकते हैं?
IHL और ‘Distinction’ का नियम: क्या एक कंप्यूटर विज़न ‘सरेंडर’ कर रहे सैनिक को पहचान सकता है?
अंतर्राष्ट्रीय मानवीय कानून (International Humanitarian Law – IHL) और जेनेवा कन्वेंशन (Geneva Conventions) युद्ध के कुछ सख्त नियम तय करते हैं। इनमें सबसे महत्वपूर्ण है ‘Rule of Distinction’ (भेदभाव का नियम)। इसका मतलब है कि युद्ध में एक सैनिक को यह सुनिश्चित करना होता है कि वह केवल ‘Combatants’ (लड़ाकों) पर हमला करे, ‘Civilians’ (आम नागरिकों) पर नहीं
LAWS के मामले में यह तकनीकी रूप से एक दुस्वप्न (Nightmare) है। आधुनिक ड्रोन्स ‘YOLO’ (You Only Look Once) जैसे कंप्यूटर विज़न मॉडल्स का इस्तेमाल करते हैं जो पिक्सल्स को एनालाइज़ करके यह बताते हैं कि सामने खड़ा व्यक्ति एक सैनिक है या किसान। लेकिन युद्ध का मैदान कोई साफ़-सुथरी जगह नहीं है।
कल्पना कीजिए: एक 15 साल का लड़का हाथ में लकड़ी लेकर खड़ा है, और एक सैनिक हाथ में राइफल लेकर। एक AI मॉडल के लिए खराब रौशनी या धुएं के बीच इन दोनों में फर्क करना बेहद मुश्किल है। इससे भी बड़ा नैतिक संकट यह है कि IHL के तहत, अगर कोई दुश्मन सैनिक घायल हो गया है (Hors de combat) या हाथ ऊपर करके सरेंडर (Surrender) कर रहा है, तो उस पर गोली चलाना ‘War Crime’ (युद्ध अपराध) है। एक AI सिस्टम यह कैसे समझेगा कि कोई सैनिक हथियार डाल चुका है या सिर्फ अपनी पोजीशन बदल रहा है? भावनाएं (Emotions), डर, या सरेंडर के सूक्ष्म इंसानी इशारों (Subtle human gestures) को कोड की लाइनों (Lines of code) में ट्रांसलेट करना वर्तमान कंप्यूटर साइंस के लिए लगभग असंभव है।
The ‘Proportionality’ Calculation: एल्गोरिदम में ‘मासूमों की जान’ का गणित
IHL का दूसरा सबसे बड़ा नियम है ‘Proportionality’ (समानुपातिकता)। यह नियम कहता है कि किसी सैन्य लक्ष्य (Military Target) को नष्ट करने से जो फायदा होगा, उसके मुकाबले वहां मारे जाने वाले आम नागरिकों (Collateral Damage) की संख्या बहुत ज्यादा नहीं होनी चाहिए।
जब एक इंसानी कमांडर किसी आतंकी के ठिकाने पर बम गिराने का आदेश देता है, तो वह यह देखता है कि अगर उस बिल्डिंग में 5 आम नागरिक भी हैं, तो क्या उस आतंकी को मारना इतना महत्वपूर्ण है कि 5 मासूमों की जान दांव पर लगाई जाए? यह एक ‘Value Judgment’ (मूल्य-आधारित निर्णय) है।
एक LAWS (ऑटोनोमस सिस्टम) यह वैल्यू जजमेंट कैसे करेगा? क्या हम AI के कोड में यह फीड करेंगे कि “एक जनरल की जान = 10 आम नागरिक”, या “एक टैंक = 5 बच्चे”? नैतिकता (Ethics) को इस तरह से ‘गणितीय समीकरण’ (Mathematical Equation) में नहीं बांधा जा सकता। युद्ध में हालात हर सेकंड बदलते हैं, और यह ‘कॉमन सेंस’ (Common Sense) एक मशीन के पास नहीं होता।
The Accountability Gap (जवाबदेही का ब्लैक बॉक्स): अगर रोबोट से ‘युद्ध अपराध’ हो जाए, तो जेल कौन जाएगा?
ग्लोबल लीगल फ्रेमवर्क (Global Legal Framework) के सामने LAWS ने ‘Accountability Gap’ (जवाबदेही का शून्य) पैदा कर दिया है। अगर कोई इंसानी सैनिक किसी आम नागरिक की हत्या करता है, तो इंटरनेशनल क्रिमिनल कोर्ट (ICC) में उस सैनिक और आदेश देने वाले उसके कमांडर पर मुकदमा चलाया जा सकता है।
लेकिन अगर एक ‘पूरी तरह से स्वायत्त’ (Fully Autonomous) AI ड्रोन किसी स्कूल पर मिसाइल दाग दे, तो इसके लिए किसे ज़िम्मेदार ठहराया जाएगा?
-
The Machine? आप एक कोड या रोबोट पर मुकदमा चलाकर उसे जेल में नहीं डाल सकते।
-
The Commander? कमांडर ने उस ड्रोन को फायर करने का आदेश नहीं दिया था; उसने तो सिर्फ ड्रोन को इलाके में गश्त करने छोड़ा था। AI ने खुद निर्णय लिया।
-
The Programmer/Manufacturer? सॉफ्टवेयर इंजीनियर यह तर्क दे सकता है कि मशीन लर्निंग मॉडल ‘Deep Neural Networks’ पर काम करता है जो खुद सीखते हैं (Self-learning)। इंजीनियर ने आम नागरिकों को मारने का कोड नहीं लिखा था; मशीन ने अपने ट्रेनिंग डेटा से खुद यह ‘ब्लैक बॉक्स’ डिसीजन लिया।
इस कानूनी उलझन का मतलब है कि LAWS के द्वारा किए गए वॉर क्राइम्स (War Crimes) के लिए किसी को भी ज़िम्मेदार नहीं ठहराया जा सकेगा। बिना जवाबदेही (Accountability) के युद्ध का मतलब है बिना किसी सीमा (Limits) का कत्लेआम।
Algorithmic Bias और Data Poisoning: AI की नस्लीय और लैंगिक खामियां
एक और बड़ा खतरा AI का ट्रेनिंग डेटा है। हम जानते हैं कि फेशियल रिकग्निशन (Facial Recognition) तकनीकें अक्सर श्वेत चेहरों (White faces) पर अच्छा काम करती हैं, लेकिन अन्य नस्लों (Ethnicities) या महिलाओं के चेहरों को पहचानने में भारी गलतियाँ (High Error Rate) करती हैं।
अगर इस तरह के ‘Biased’ (पक्षपाती) AI को किसी ग्लोबल कॉन्फ्लिक्ट (Global Conflict) में ऑटोनोमस स्नाइपर या ड्रोन के रूप में तैनात कर दिया जाए, तो वह अपनी तकनीकी खामियों के कारण किसी खास नस्ल या रंग के निर्दोष लोगों को दुश्मन समझकर मार सकता है। इसके अलावा, युद्ध के दौरान ‘Adversarial Data Poisoning’ का खतरा हमेशा रहता है। अगर दुश्मन आपके AI को यह सिखा दे कि एक खास तरह का कपड़ा पहनने वाला हर व्यक्ति लड़ाका (Combatant) है, तो आपका अपना AI मशीन-स्पीड पर एक भयानक जनसंहार (Genocide) कर सकता है, जिसे रोकने का समय किसी इंसानी ऑपरेटर को नहीं मिलेगा।
‘Flash War’ और Algorithmic Escalation: मशीन-स्पीड पर तीसरे विश्व युद्ध का ट्रिगर
फाइनेंशियल मार्केट्स (Stock Markets) में एक घटना होती है जिसे ‘Flash Crash’ कहा जाता है। जब दो हाई-फ्रीक्वेंसी ट्रेडिंग अल्गोरिदम्स एक-दूसरे के डेटा पर रिएक्ट करते हैं, तो वे सेकंडों के भीतर बिना किसी इंसानी गलती के मार्केट को क्रैश कर देते हैं।
सैन्य रणनीतिकारों का सबसे बड़ा खौफ इसी तर्ज़ पर ‘Flash War’ का है। कल्पना कीजिए कि बॉर्डर पर दो देशों की सेनाएं आमने-सामने हैं। दोनों ने अपनी सीमाओं पर LAWS (ऑटोनोमस स्वार्म ड्रोन्स) तैनात कर रखे हैं ताकि दुश्मन की हरकत पर नज़र रखी जा सके। किसी एक देश के ड्रोन का रडार एक ‘ग्लिच’ (Glitch – तकनीकी खराबी) या धूप के रिफ्लेक्शन के कारण कुछ गलत डेटा प्रोसेस करता है और वह अपना ‘Defensive Posture’ बदल लेता है।
सामने वाले देश का ऑटोनोमस सिस्टम इस छोटे से बदलाव को मिलीसेकंड्स (Milliseconds) में ‘Threat’ (खतरा) मानता है और काउंटर-मेज़र के तौर पर अपनी मिसाइल का राडार ऑन कर देता है। पहला सिस्टम इसे ‘Active Targeting’ मानकर तुरंत फायर कर देता है। जवाब में दूसरा सिस्टम भी अपने पूरे स्वार्म को लॉन्च कर देता है।
यह पूरा एस्केलेशन (Algorithmic Escalation) महज़ कुछ सेकंड्स में हो जाएगा। जब तक किसी भी देश के इंसानी राष्ट्रपति या जनरल को यह पता चलेगा कि क्या हुआ है, तब तक हजारों मिसाइलें फायर हो चुकी होंगी और एक ‘Accidental World War’ शुरू हो चुका होगा। कूटनीति (Diplomacy), हॉटलाइन्स (Hotlines), और शांति वार्ताओं (Peace Talks) के लिए कोई समय नहीं बचेगा। भविष्य के युद्ध में सबसे बड़ा खतरा दुश्मन का इरादा (Intention) नहीं, बल्कि दो मशीनों के बीच होने वाला एक तकनीकी ‘Miscalculation’ (गलत गणना) है जो मानव सभ्यता को खत्म करने का ट्रिगर बन सकता है।