कृत्रिम बुद्धिमत्ता और मानवीय पहलू

अंद्रेया तोर्नेली संपादकीय निदेशक

वाटिकन सिटी, शनिवार 15 जून 2024 : "स्वायत्त हथियार प्रणालियाँ, जिसमें कृत्रिम बुद्धिमत्ता का शस्त्रीकरण भी शामिल है, गंभीर नैतिक चिंता का कारण है। स्वायत्त हथियार प्रणालियाँ कभी भी नैतिक रूप से जिम्मेदार विषय नहीं हो सकती हैं। नैतिक न्याय और नैतिक निर्णय लेने की अद्वितीय मानवीय क्षमता एल्गोरिदम के जटिल संग्रह से कहीं अधिक है, और उस क्षमता को मशीन को प्रोग्रामिंग करने तक सीमित नहीं किया जा सकता है, जो चाहे कितनी भी "बुद्धिमान" क्यों न हो, एक मशीन ही रहती है। इस कारण से, हथियार प्रणालियों की पर्याप्त, सार्थक और सुसंगत मानवीय निगरानी सुनिश्चित करना अनिवार्य है।" संत पापा फ्राँसिस ने 2024 के विश्व शांति दिवस के लिए अपने संदेश में यही लिखा है।

चालीस साल पहले घटी एक घटना को हर बार एक मिसाल के तौर पर देखा जाना चाहिए, जब भी हम युद्ध, हथियारों और मौत के साधनों पर लागू कृत्रिम बुद्धिमत्ता के बारे में बात करते हैं।

यह एक सोवियत अधिकारी की कहानी है, जिसने प्रोटोकॉल की अवहेलना करते हुए अपने फैसले की बदौलत दुनिया को एक परमाणु संघर्ष से बचाया, जिसके भयावह परिणाम हो सकते थे। वह व्यक्ति स्तानिस्लाव येवग्राफोविच पेट्रोव था, जो रूसी सेना में लेफ्टिनेंट कर्नल था।

26 सितंबर, 1983 की रात को, वह "सर्पुखोव 15" बंकर में रात की ड्यूटी पर थे, जहाँ वे अमेरिकी मिसाइल गतिविधियों की निगरानी कर रहे थे। शीत युद्ध एक महत्वपूर्ण मोड़ पर था, अमेरिकी राष्ट्रपति रोनाल्ड रीगन हथियारों पर भारी मात्रा में निवेश कर रहे थे और उन्होंने यूएसएसआर को "दुष्ट साम्राज्य" के रूप में वर्णित किया था, जबकि नाटो परमाणु युद्ध परिदृश्यों का अनुकरण करते हुए सैन्य अभ्यास में लगा हुआ था।

क्रेमलिन में, यूरी एंड्रोपोव ने हाल ही में संकट के "अभूतपूर्व वृद्धि" की बात कही थी और 1 सितंबर को सोवियत ने कामचटका प्रायद्वीप के ऊपर कोरियाई एयर लाइन्स के एक वाणिज्यिक विमान को मार गिराया था, जिसमें 269 लोग मारे गए थे।

26 सितंबर की उस रात, पेत्रोव ने देखा कि ओको कंप्यूटर सिस्टम, जिसे दुश्मन की गतिविधि की निगरानी करने में अचूक माना जाता था, ने मोंटाना में एक बेस से सोवियत संघ की ओर निर्देशित मिसाइल के प्रक्षेपण का पता लगाया था। प्रोटोकॉल के अनुसार अधिकारी को तुरंत अपने वरिष्ठों को सूचित करना था, जो तब संयुक्त राज्य अमेरिका की ओर जवाबी मिसाइल प्रक्षेपण के लिए हरी झंडी देते। लेकिन पेत्रोव हिचकिचाया, उसे याद आया कि कोई भी संभावित हमला बड़े पैमाने पर होने की संभावना है। इसलिए उसने अकेली मिसाइल को एक झूठा अलार्म माना।

उन्होंने अगली चार मिसाइलों के लिए भी यही विचार किया जो कुछ ही देर बाद उनके मॉनीटर पर दिखाई दीं, उन्हें आश्चर्य हुआ कि ग्राउंड रडार से कोई पुष्टि क्यों नहीं हुई। उन्हें पता था कि अंतरमहाद्वीपीय मिसाइलों को अपने गंतव्य तक पहुंचने में आधे घंटे से भी कम समय लगता है, लेकिन उन्होंने अलार्म नहीं बजाने का फैसला किया, जिससे वहां मौजूद अन्य सैन्यकर्मी अचंभित हो गए।

वास्तव में, "इलेक्ट्रॉनिक मस्तिष्क" गलत था; कोई मिसाइल हमला नहीं हुआ था। ओको को उच्च ऊंचाई वाले बादलों के संपर्क में सूर्य के प्रकाश के अपवर्तन की घटना ने गुमराह किया था।

संक्षेप में, मानव बुद्धि ने मशीन से परे देखा था। कार्रवाई न करने का दैवीय निर्णय एक ऐसे व्यक्ति द्वारा लिया गया था, जिसने डेटा और प्रोटोकॉल से परे देखते हुए सही निर्णय लिया।

परमाणु आपदा टल गई, हालांकि 1990 के दशक की शुरुआत तक किसी को इस घटना के बारे में पता नहीं चला। सितंबर 2017 में निधन हो चुके पेत्रोव ने "सर्पुखोव 15" बंकर में उस रात टिप्पणी की: "मैंने क्या किया? कुछ खास नहीं, बस मेरा काम था। मैं सही समय पर सही जगह पर सही आदमी था।"

वह एक ऐसा व्यक्ति था जो कथित रूप से अचूक मशीन की संभावित त्रुटि का मूल्यांकन करने में सक्षम था, वह व्यक्ति जो संत पापा के शब्दों को दोहराते हुए - "नैतिक न्याय और नैतिक निर्णय लेने" में सक्षम था, क्योंकि एक मशीन, चाहे कितनी भी "बुद्धिमान" क्यों न हो, एक मशीन ही रहती है।

संत पापा फ्राँसिस ने दोहराया कि युद्ध पागलपन है, मानवता की हार है। युद्ध मानवीय गरिमा का गंभीर उल्लंघन है।

एल्गोरिदम के पीछे छिपकर युद्ध करना, लक्ष्य निर्धारित करने और उन्हें कैसे मारा जाए, इसके लिए कृत्रिम बुद्धिमत्ता पर निर्भर रहना, इस प्रकार अपने विवेक को राहत देना क्योंकि यह मशीन ही थी जिसने निर्णय लिया था, यह और भी गंभीर है। आइए हम स्तानिस्लाव एवग्राफोविच पेट्रोव को न भूलें।