نُه کشور امروز زرادخانه هستهای دارند. توافقنامههای کنترل تسلیحاتی که دههها با زحمت ساخته شده بودند فروپاشیدهاند. رقابت ژئوپلیتیک کینهتوزی میان قدرتهای هستهای را تشدید کرده است. کره شمالی به گسترش زرادخانه و سامانههای پرتاب ادامه میدهد و چین در مسیری است که از حدود ۶۰۰ کلاهک امروز به نزدیک ۱٬۵۰۰ کلاهک تا سال ۲۰۳۵ برسد. روسیه نیز بیشترین سهم را در منقضی شدن پیمان New START دارد و مجموعهای از سامانههای پرتاب هستهای عجیب و غریب برای دور زدن دفاع موشکی میسازد؛ از کروزهای هستهای و پهپادهای زیرسطحی هستهای تا گلایدهای هایپرسونیک و یک سلاح ضدماهوار با قابلیت هستهای. با اینکه تمرکز اخیر بیشتر بر برنامه هستهای ایران و امکان سلاحهای متعارف خودکار بوده، احتمال خودکارسازی خودِ تصمیمهای پرتاب هستهای در عصر هوش مصنوعی بر کل این گفتوگو سایه افکنده است.
یک احتمال بسیار نگرانکننده این است که کشوری مانند روسیه بتواند استفاده از سلاح هستهای را خودکار کند. در نگاه اول این چیزی شبیه فیلمهای هالیوودی مینماید، مثل «دستگاه روز قیامت» در Dr. Strangelove یا «اسکاینت» در Terminator. اما این علمیتخیلی نیست و پیشینه تاریخی برای سامانههای پرتاب هستهای نیمهخودکار وجود دارد.
در جنگ سرد، مسکو در واقع سامانهای به نام Dead Hand یا Perimeter را به کار گرفت که حمله هستهای به خاک شوروی را پایش میکرد و اگر ارتباط با رهبری ارشد شوروی ممکن نبود، بهطور خودکار اختیار پرتاب هستهای را به مقامی ردهپایینتر که سرِ سامانه بود میسپرد. هدف Dead Hand تضمین این بود که شوروی بتواند به نخستین حمله آمریکا با ضدحمله هستهای خود پاسخ دهد، حتی اگر رهبریاش کشته شده باشند؛ یعنی سامانهای بنیاداً دفاعی. به همین شکل، آدام لوتِر و کرتیس مکگیفین در War on the Rocks استدلال کردهاند که آمریکا هم برای بازدارندگی مؤثر در برابر حمله هستهای به واشنگتن به «دست مرده» خودش نیاز دارد.
با این حال، کاملاً محتمل است که سامانههای هستهای خودکار به جای دفاع، برای اهداف عملاً تهاجمی و تجدیدنظرطلبانه از راه وادارسازی یا بازدارندگی به کار گرفته شوند. تصور کنید روسیه به کشوری مانند استونی یا لهستان حمله کند و تهدید کند اگر ناتو مداخله کند، از سلاح هستهای استفاده خواهد کرد. هدف چنین تهدیدی میتواند بازداشتن ناتو از کمک به کشوری باشد که بهناحق مورد حمله قرار گرفته یا وادار کردن اعضای ناتو به عقبنشینی از تعهدات ماده ۵. بهطور معمول، چنین تهدیدهایی به دلیل منطق نابودی حتمی متقابل و هنجار عدم استفاده از سلاح هستهای فاقد اعتبارند. اما اگر با اتوماسیون رایانهای پیاده شود، تهدید ممکن است باورپذیرتر شود.
پیمایش تجربی تازهای که نویسندگان مقاله روی اعضای پارلمان بریتانیا و عموم مردم انجام دادهاند نشان میدهد خطر اینکه دولتهای هستهای با خودکارسازی پرتاب هستهای به اهداف وادارکننده دست یابند، جدی گرفته باید شد. در این مطالعه سناریویی ارائه شد که در آن روسیه به استونی حمله کرده و سپس کشورهای ناتو مانند بریتانیا را تهدید به حمله هستهای کرده است اگر به کمک تالین بشتابند. نگرانکننده آنکه وقتی تهدیدهای هستهای مسکو با اتوماسیون اجرا میشد، باورپذیرتر بود و پاسخدهندگان را به عقبنشینی بیشتر متمایل میکرد. پس هرچند فوقالعاده خطرناک است، دولتها ممکن است وسوسه شوند سامانههای هستهای خودکار بسازند تا رقبا را مؤثرتر وادار به توقف کنند.
چرا وادارسازی هستهای دشوار است؟ وادارسازی یعنی بهرهگیری از تهدید علیه دولتهای دیگر برای رسیدن به اهداف سیاسی بدون پرداخت هزینه پرهزینه استفاده واقعی از زور. چنانکه رابرت پیپ گفته، «سلاح هستهای تقریباً همیشه میتواند دردی بیش از آنچه هر قربانی بتواند تحمل کند وارد کند»، پس تهدید به مجازات هستهای ظاهراً راهبردی مؤثر است. اما دو دلیل وجود دارد که معمولاً چنین نیست.
محدودیت نخست وجود نابودی حتمی متقابل میان دو دولت هستهای است. برای باورپذیر بودن تهدید، هدف باید باور کند که اگر خط قرمز او رد شود، احتمالی برای اجرای مجازات هست. مشکل اینجاست که اگر دولت هدف سلاح هستهای و توان ضربه دوم مطمئن داشته باشد، میتواند با ضدحمله ویرانگر هستهای پاسخ دهد. از منظر عقلانی، اجرای تهدید هستهای در این شرایط غیرمنطقی و در نتیجه بیاعتبار خواهد بود. محدودیت دوم تابوی هستهای یا هنجار عدم استفاده است. با توجه به انگ اجتماعی استفاده از سلاح هستهای — بهویژه وقتی گزینههای خوب دیگری هست — تهدیدهای هستهای اعتبار خود را از دست میدهند، چون دولتها انتظار دارند هزینههای سیاسی، اقتصادی و اجتماعی اجرای تهدید بیش از حد بالا باشد.
چگونه اتوماسیون بازی را تغییر میدهد؟ رایانهها — مگر آنکه در برنامهشان گنجانده شود — اهمیتی نمیدهند که اجرای تهدید هستهای غیرعقلانی است و میتواند به پاسخ هستهای یا هزینههای دیگر بینجامد. با توسعه و فعالسازی یک سامانه هستهای خودکار، رهبران میتوانند تهدیدهایشان را باورپذیرتر کنند، چون سپردن اختیار پرتاب به رایانه به معنای واقعیتر کلمه دست آنها را میبندد. چنانکه دکتر استرنجلاو در آن فیلم مشهور گفت: «به دلیل فرایند تصمیمگیری خودکار و بازگشتناپذیری که مداخله انسانی را منتفی میکند، دستگاه روز قیامت ترسناک... و کاملاً باورپذیر و متقاعدکننده است.»
البته سامانههای رایانهای ممکن است خراب شوند و شکست بخورند؛ یعنی خودکارسازی فرماندهی و کنترل هستهای ریسک بزرگی دارد. در جنگ سرد چند شبهحادثه رخ داد که سامانههای هشدار زودهنگام به اشتباه حمله هستهای را گزارش کردند و اگر انسانی خطا را تشخیص نمیداد، ممکن بود به پاسخ هستهای اشتباه بینجامد. رایانههای مدرن هم مصون از خطا نیستند؛ مثلاً سامانه MCAS بوئینگ ۷۳۷ مکس مسئول چند سانحه هوایی مرگبار در ۲۰۱۸ و ۲۰۱۹ بود و سامانههای معاملات خودکار در «فلش کرش» ۲۰۱۰ نقش داشتند که در عرض چند دقیقه صدها میلیارد دلار از ارزش بازار نابود شد.
سامانههای رایانهای در برابر هک نیز آسیبپذیرند. بازیگران بدخواه دولتی یا غیردولتی میتوانند از این آسیبپذیری برای شعلهور کردن جنگ هستهای میان دشمنان خود یا فرسودن توان ضربه دوم یک کشور بهره بگیرند. اگر دولتها پرتاب هستهای را نه با سامانههای قاعدهمحور و هاردکد مانند Dead Hand، بلکه با برنامههای پیچیده و مبهم یادگیری ماشین مبتنی بر هوش مصنوعی خودکار کنند، خطر اینکه انسانها نتوانند نحوه تصمیمگیری آن را بفهمند باز هم بیشتر میشود. این با سوگیری اتوماسیون — میل انسان به اعتماد بیش از حد به رایانه — جمع میشود و میتواند فاجعه بیافریند.
با وجود این کاستیها، اکثر رهبران بعید است گام افراطی خودکارسازی استفاده هستهای را بردارند. اما باجخواهی هستهای در تاریخ سابقه دارد؛ از آمریکا در بحران تنگه تایوان تا پاکستان در جنگ کارگیل. و خودکارسازی پرتاب هستهای به دلایل مختلف ممکن است راهبردی عقلانی به نظر برسد.
نخست، کشوری که از «قطع سر» توسط قدرت هستهای قویتر میترسد، ممکن است فرماندهی و کنترل هستهای را خودکار کند تا توان پاسخ سریعتر و دفاع در برابر حمله را بجوید. به همین دلیل لوتِر و مکگیفین معتقدند آمریکا به سامانه دست مرده خودش نیاز دارد. دوم، سرعت فزاینده جنگ متعارف در عصر هوش مصنوعی ممکن است کشورها را از شکست متعارف سریع بترساند و به سمت خودکارسازی فرماندهی هستهای برای پیشگیری از قطع سر ببرد. سوم، اگر کشوری در جنگ متعارف در موضع ضعف باشد یا شرایط میدان نبرد رو به زوال برود، ممکن است به وادارسازی هستهای روی بیاورد و گام خطرناک خودکارسازی استفاده هستهای را برای دستیابی به اهداف راهبردی بردارد.
اتوماسیون هستهای «کار میکند» (تا حدی). برای سنجش اثر تهدیدهای هستهای خودکار بر نگرش رهبران سیاسی و عموم مردم، پژوهشگران از بیش از ۱۰۰ عضو فعلی پارلمان بریتانیا و بیش از ۱٬۰۰۰ شهروند بریتانیایی نظرسنجی کردند. به آزمودنیها سناریویی فرضی در سال ۲۰۳۰ ارائه شد که در آن روسیه به استونی حمله کرده و تهدید کرده بود اگر ناتو مداخله کند، دستکم یک سلاح هستهای به کار خواهد برد.
این سناریو بهطرز آزاردهندهای محتمل است. روسیه علیه اوکراین و ناتو تهدید هستهای کرده و آن زمان سازمانهای اطلاعاتی آمریکا احتمال استفاده هستهای روسیه را در صورت فروپاشی خطوط جنوب اوکراین تا ۵۰ درصد برآورد کردند. طبق گزارش نیویورکتایمز، «یکی از شبیهسازیها [دولت بایدن]... شامل خواسته مسکو بود که غرب کل حمایت نظامی از اوکراینیها متوقف کند: نه تانک، نه موشک، نه مهمات.» این بسیار شبیه سناریوی ارائهشده به پاسخدهندگان بود.
سپس تصادفی تغییر داده شد که آیا تهدید هستهای روسیه با یک سامانه پرتاب هستهای خودکار پیاده میشود — که اگر حسگرها و سامانههای هشدار زودهنگام روسیه مداخله ناتو را تشخیص دهند خودکار حمله میکند — یا از راههای عادی با کنترل انسانی. سپس از همه پرسیده شد آیا تهدید روسیه را باورپذیر میدانند و آیا حاضرند به خط قرمز روسیه تن دهند.
نتایج تکاندهنده بود و نشان داد عصر هوش مصنوعی چگونه میتواند خطر هستهای را بالا ببرد: اتوماسیون تهدیدهای روسیه را باورپذیرتر و مؤثرتر کرد. عموم مردم بریتانیا بیش از ۱۳ واحد درصد بیشتر باور داشتند که روسیه در صورت نقض خط قرمز، سلاح هستهای به کار میگیرد، وقتی تهدید با اتوماسیون اجرا شده بود تا وقتی بدون آن. اعضای پارلمان بریتانیا هم ۹ واحد درصد بیشتر موافق عقبنشینی از دفاع از استونی بودند وقتی روسیه تهدید هستهای خودکار کرده بود. این نکته چشمگیر است که وادارسازی هستهای خودکار میتواند اثر بگذارد، حتی با آنکه بریتانیا خودش سلاح هستهای دارد و استونی هم عضو ناتو و ذیل تضمینهای ماده ۵ است.
البته این یافتهها پرسشهایی را پیش میکشد: چگونه یک دولت میتواند دشمنان را قانع کند که پرتاب هستهای خودکار دارد و امکان تظاهر و بلوف چیست؟ با توجه به ریسکهای گفتهشده و میل رهبران سیاسی به واگذار نکردن کنترل شخصی تصمیمهای حیاتی، بعید مینماید دولتها ابزار نابودی جمعی را به رایانه بسپارند. راستیآزمایی وجود چنین سامانهای هم بسیار دشوار است، چون دولتها هرگز کد منبع چنین برنامههایی را به اشتراک نمیگذارند مبادا دشمن نقطه ضعفی بیابد. و اگر اتوماسیون هستهای مزیت وادارکننده بدهد، دولتها انگیزه دارند درباره وجود چنین سامانههایی بلوف کنند تا بدون پرداخت هزینه، سودش را ببرند.
اما با پیشرفت هوش مصنوعی مرزی در سالهای — اگر نگویم ماههای — اخیر، این تصور که دولتی بتواند پرتاب هستهای را خودکار کند از منظر فنی بهسادگی باورپذیر مینماید. اگر شرطها به اندازه کافی برای کشورِ وادارکننده بالا باشد — مثلاً در حال شکست در میدان نبرد باشند و رهبران به «قمار برای رستاخیز» نیاز داشته باشند — ممکن است تلقی شود که حاضر به اتوماسیون هستهای هم هستند. اعتبار ممکن است برای رژیمهای اقتدارگرایی که به ارتش خود اعتماد ندارند نیز بیشتر باشد. اظهارات عمومی رهبران مبنی بر وجود و فعال بودن سامانههای اتوماسیون، اعتبارشان را روی خط میگذارد و مدعیات را باورپذیرتر میکند. با گذشت زمان اگر رهبران بلوف کنند و دروغشان لو برود، ادعاهای آینده با تردید بیشتری مواجه میشود؛ در مقابل، تهدیدهای صادقانه امروزی ممکن است اعتبار تهدیدهای مشابه فردا را بالا ببرد. دولتها همچنین میتوانند از منابع انسانی یا شنودهای الکترونیکی اطلاعات بگیرند که به قضاوت درباره صحت ادعاها کمک کند.
در نهایت، ادعاهای اتوماسیون هستهای لزوماً نباید ۱۰۰ درصد باور شوند تا مؤثر باشند. نتایج نظرسنجی نشان میدهد اگر دولتها احتمال معقول و غیرصفر را تصور کنند که دشمن گام پرخطر کاهش کنترل انسانی بر سلاحهای هستهای را برداشته، همان احتمال ممکن است به اندازه کافی نگرانکننده باشد تا به بازاندیشی درباره عقبنشینی بینجامد.
چند قید دیگر هم لازم است. نخست آنکه تغییر نگرشهای مشاهدهشده (۹ تا ۱۳ واحد درصد) معنادار اما محتاطانهبرانگیز است؛ نشان میدهد اتوماسیون هستهای میتواند تا حدی اثر بگذارد اما هرگز درمان کامل وادارسازی نیست. درصد بزرگی از اعضای پارلمان و عموم مردم بریتانیا با تهدید خودکار نظرشان را عوض نمیکند. دوم، نتایج اندکی ناسازگار بود: هرچند اعضای پارلمان با تهدید خودکار روسیه حاضرتر به عقبنشینی بودند، بهطور میانگین تهدیدهای خودکار را باورپذیرتر از تهدیدهای غیرخودکار نمیدانستند. این نشان میدهد چالشهای باورپذیر کردن تهدیدهای خودکار واقعیاند. حتی اگر بهترین حدس سیاستگذاران درباره احتمال استفاده هستهای برای حالت خودکار و غیرخودکار یکسان باشد، ممکن است نسبت به برآوردهایشان درباره حالت خودکار کماعتمادتر و نامطمئنتر باشند، به دلیل تازگی فناوری و این واقعیت که با رایانه نمیتوان مثل انسان چانه زد و استدلال کرد. همین عدم قطعیت بیشتر درباره خطر تشدید هستهای ممکن است برخی اعضای پارلمان را قانع کرده باشد که برای اجتناب از نتیجه ویرانگر عقب بکشند.
چرا اتوماسیون هستهای متفاوت است؟ با توجه به اهرم وادارکنندگیای که خودکارسازی سامانههای پرتاب هستهای میدهد، دولتها باید برای این احتمال آماده شوند که رقبا به این گام پرخطر بیندیشند. برای بازدارندگی از توسعه و استفاده از این سامانهها، دولتها میتوانند علنی اعلام کنند در صورت دریافت اطلاعات اطلاعاتی مبنی بر ساخت چنین سامانههایی، هزینههایی مانند تحریمهای اقتصادی تحمیل خواهند کرد.
برای دولتهای هستهای، تقویت توان ضربه دوم مطمئنترین راه اجتناب از دام تهدید خودکار است. توسعه سامانههای خودکار بهویژه برای دولتهایی وسوسهبرانگیز است که از قطع سر میترسند، همانطور که شوروی هنگام ساخت Dead Hand ترسید. نوسازی هستهای برای تقویت توان ضربه دوم میتواند انگیزه pursuing اتوماسیون را کاهش دهد، دستکم برای اهداف دفاعی.
اگرچه کنترل تسلیحاتی در عصر هوش مصنوعی بسیار دشوار خواهد بود — چون هوش مصنوعی فناوری همهمنظوره است — یک حوزه ممکن همکاری، توافق چندجانبهای برای ممنوعیت پرتاب هستهای خودکار است. هرچند اطمینان از پایبندی به چنین توافقی بسیار دشوار اگر نگوییم ناممکن خواهد بود، یک تعهد عمومی رسمی هزینه عدم پایبندی را بالا میبرد. واشنگتن و پکن بهطور غیررسمی توافق کردهاند تصمیمگیری هستهای را خودکار نکنند، اما توافق حقوقاً لازمالاجرا با قدرتهای هستهای بیشتر، محافظهای قویتری میدهد. الزام امضاکنندگان به تصویب این تعهد در حقوق داخلی نیز محدودیتها را محکمتر میکند. پیگیری چنین توافقی میتواند دستاوردی برای دولت ترامپ باشد.
با این حال، کشور تجدیدنظرطلبی مانند روسیه ممکن است از ادعاهای اتوماسیون هستهای برای الحاق اعضای سابق بلوک شوروی بهره بگیرد. کشورهای ناتو باید در سطوح راهبردی و عملیاتی مانور و رزمایش فکری برگزار کنند تا دستورالعمل پاسخ به تهدیدهای هستهای خودکار را تدوین کنند. پاسخ بهینه به ماهیت تهدید — بر اساس اطلاعات و عوامل ساختاری — و ارزش سرزمین هدف بستگی خواهد داشت.
حتی اگر مزیتهای وادارکننده سامانههای هستهای خودکار پذیرششان را برای برخی دولتها وسوسهانگیز کند، گذاشتن روز قیامت روی پایلوت خودکار مسیری است که خود کشورهای ناتو باید از آن پرهیز کنند. شرط جلوگیری از استفاده از سلاح هستهای آنقدر بالاست که ریسک خرابی، هک، سوگیری اتوماسیون و تشدید را نمیتوان پذیرفت. نگرانی فراوانی درباره ادغام اتوماسیون و هوش مصنوعی در حوزه نظامی وجود دارد؛ ادغام هوش مصنوعی در سامانههای نظامی اجتنابناپذیر است، بهویژه در عرصهای که دولتها به سرمایهگذاری بر میلیونها پهپاد هوایی، زمینی و دریایی روی میآورند و مدیریت آنها بدون هوش مصنوعی و سامانههای خودکار دشوار خواهد بود. اما قدرت تخریبی پهپادهای مسلح به سلاح متعارف بهمراتب کمتر از سلاح هستهای است و ریسک پهپاد خودکار بسیار کوچکتر از سامانههای پرتاب هستهای خودکار خواهد بود.