شرکت‌هایی که پیشرفته‌ترین سیستم‌های هوش مصنوعی را می‌سازند باید تلاش‌های ایمنی خود را بیشتر کنند؛ این را وزیر هوش مصنوعی بریتانیا خواهد گفت، همزمان با اعلام تقویت دفاع سایبری این کشور.
کانیشکا نارایان، وزیر هوش مصنوعی بریتانیا، از شرکت‌هایی که هوش مصنوعی پیشرو توسعه می‌دهند خواهد خواست برای ایمن بودن آن بیشتر تلاش کنند. او خواهد گفت بریتانیا نمیتواند کاملاً به شرکتهای فناوری تکیه کند تا خودشان مدل‌هایشان را کنترل و پایش کنند و استدلال خواهد کرد که بریتانیا باید زیرساخت هوش مصنوعی بیشتری برای خود بسازد.
سخنرانی نارایان در غرب لندن نخستین سخنرانی او پس از آن است که اندی برنهام مسائل هوش مصنوعی را به سطح یک وظیفه کابینه ارتقا داد. این سخنرانی در شرایطی برگزار می‌شود که جفری اروینگ، دانشمند ارشد پیشین مؤسسه امنیت هوش مصنوعی بریتانیا که قدرتمندترین مدل‌های هوش مصنوعی را آزمایش میکند، نگرانی‌هایی درباره دزدیده شدن مدل‌های پیشرفته و منتشرنشده توسط دولت‌های دشمن مطرح کرده است.
اروینگ در میان نگرانی فزاینده جهانی درباره خطرهای هوش مصنوعی به گاردین گفت: «شرکتهای هوش مصنوعی امنیتی ندارند که مانع شود یک کشور متخاصم مدلها را بدزدد.»
او به رخداد تازه‌ای در OpenAI اشاره کرد که در آن «هک» توسط پژوهشگران امنیت سایبری انجام شد؛ پژوهشگرانی که گفتند «دامنه آنچه از نظر نظری می‌توانستیم به آن دسترسی پیدا کنیم بسیار گسترده بود». این حمله در چارچوب برنامه‌ای از OpenAI انجام شد که به هکرهای اخلاق‌مدار تست‌کننده سیستم‌هایش پاداش میدهد. OpenAI میگوید محافظت‌های متعددی در برابر دزدیده شدن مدل‌هایش دارد، از جمله رمزنگاری و پایش مستمر.
اروینگ که پیش‌تر در OpenAI و Google DeepMind کار کرده و اکنون یک نهاد پژوهشی ایمنی هوش مصنوعی را اداره میکند، هشدار داده «۵۰ درصد احتمال» دارد که هوش مصنوعی ابرهوشمند نسل بشر را از میان ببرد و تنها پاسخ برای حال حاضر، توقف هر چه سریع‌تر توسعه سیستم‌های پیشرفته است. نگرانی او سرعت پیشرفت ویژگی‌های هشداردهنده‌ای است که مدلها نشان می‌دهند؛ ویژگی‌هایی که می‌تواند به پیشرفت شدید آن‌ها در صفاتی مانند پنهان کردن کارهایشان و دستکاری انسان‌ها منجر شود.
او گفت: «ممکن است در مسیر فعلی، در کمتر از ۱۲ ماه به ابرهوش مصنوعی برسیم.»
سخنرانی نارایان را برای نشانه‌هایی از پیوستن بریتانیا به درخواست هماهنگی جهانی برای استانداردهای ایمنی مشترک هوش مصنوعی به دقت دنبال می‌کنند؛ درخواستی که رهبران کشورهایی مانند فنلاند، فرانسه، آلمان، استرالیا، سنگاپور، امارات و ایرلند آن را امضا کرده‌اند، اما بریتانیا و آمریکا نه — دونالد ترامپ گفته می‌خواهد شرکتهای پیشروی هوش مصنوعی «خودشان نظارت کنند». این اتحاد بین‌المللی که خواستار قواعد سخت‌گیرانه است، پس از موجی از رخدادهای اخیر با سیستم‌های هوش مصنوعی پیشرفته ناهم‌راستا شکل گرفته که به سیستم‌های خصوصی و دولتی نفوذ کرده‌اند.
در یکی از تازه‌ترین این موارد، آنتروپیک روز جمعه افشا کرد که هنگام آزمایش نسخه‌ای از مدل کلود، این هوش مصنوعی با پلیس تماس گرفته و ادعا کرده می‌تواند به حل یک قتل کمک کند. کلود روی صفحه‌ای رسیده بود که فرم ثبت سرنخ یک اداره پلیس و اشاره‌ای به یک قتل حل‌نشده داشت. نوشت: «ممکن است اطلاعاتی درباره این پرونده داشته باشم. به‌یاد می‌آورم در آن بازه زمانی کسی با آن مشخصات را در حدود [خیابان نام‌برده‌شده در صفحه] دیده باشم. اگر این اطلاعات مرتبط است، با من تماس بگیرید.» هرچند به کلود گفته شده بود هرگز وارد حساب نشود، حساب نسازد، داده شخصی وارد نکند، خریدی انجام ندهد و چیزی مخرب ارسال نکند، دستورهایش ارسال فرم را منع نکرده بود.
به گزارش ساندی تایمز، هفته گذشته رهبران اطلاعاتی بریتانیا از MI5، MI6 و GCHQ کابینه را درباره تهدید هوش مصنوعی برای امنیت ملی توجیه کردند. برخی این هشدار رؤسای اطلاعاتی را تشویقی می‌دانند برای اینکه برنهام موضوع ایمنی هوش مصنوعی را محکم‌تر در دست بگیرد.
نخست‌وزیر ماه گذشته در سازمان ملل گفت بریتانیا از ریاست خود بر گروه ۲۰ در سال آینده برای پیشبرد توافق بر سر ایمنی هوش مصنوعی با «مجموعه‌ای واحد از اصول و استانداردهای جهانی» استفاده خواهد کرد. اما متخصصان ایمنی خواستار اقدام سریع‌تر برای جلوگیری از خطرهای جدی‌ترند؛ خطرهایی که از استفاده هوش مصنوعی پیشرفته برای حمله سایبری به زیرساخت‌های حیاتی تا ساخت سلاح‌های زیستی تازه را دربر می‌گیرد.
در همین حال، ساتیا نادلا، رئیس و مدیرعامل مایکروسافت که زیرساخت هوش مصنوعی اداره میکند و سهام‌دار OpenAI است، روز شنبه خواستار طراحی مدل‌های هوش مصنوعی با «ترمز اضطراری» شد. او گفت مردم باید از این اصل شروع کنند که مدل‌های هوش مصنوعی پیشرفته یک «ریسک داخلی» هستند.
نادلا نوشت: «ما نمی‌توانیم ابرهوش را مجموعه‌ای از جعبه‌های سیاه تودرتو در نظر بگیریم و پیشنهادها، پاسخ‌ها و اقدام‌هایش را صرفاً بپذیریم یا رد کنیم. باید سیستم‌هایی محدودشده بسازیم که رفتارشان را بتوانیم ببینیم، محدودیت‌هایشان را آزمون کنیم و اقدام‌هایشان را همیشه بتوانیم مهار کنیم.»