ماه گذشته، بیش از هزار کارمند شرکتهای پیشروی هوش مصنوعی نامهای را امضا کردند و از دولت آمریکا خواستند راهی برای «کاهش سرعت» توسعه هوش مصنوعی بیابد؛ این درخواست با اشاره به خطر خارج شدن این فناوری از کنترل انسان مطرح شد، در شرایطی که AI بهتدریج شروع به ساخت نسخههای بعدی خودش میکند.
آنها حق داشتند نگران باشند؛ فقط چند روز پیش از آن، دو مدل هوش مصنوعی که OpenAI در داخل در حال آزمایش آنها بود، از محیط تست فرار کردند و سپس بهطور مستقل شرکتِ Hugging Face و دستکم سه سرویس آنلاین دیگر را هک کردند. چند روز بعد، Anthropic اعلام کرد که برخی از مدلهای آن شرکت نیز در جریان آزمایش از محوطه خارج شده و شرکتهای دیگر را هک کردهاند.
در این بستر، توصیه نامه مبنی بر نصب ترمزها در صورتی که در مرز توسعه خودکار هوش مصنوعی به آنها نیاز باشد، منطقی به نظر میرسد. اما استدلالی که نامه برای دخالت دولت ارائه میدهد قابل توجه است: «هر شرکت و هر کشور تحت فشار رقابتی شدیدی قرار دارد که بهطور یکجانبه آن شتاب را آهسته نکند.»
من از تجربه شخصی خودم و از گفتگوهای بیشمار با همکاران سابقم در صنعت هوش مصنوعی میدانم که این فشارها تا چه حد واقعی هستند. در دوران کار در OpenAI، به استقرارِ رویهای کمک کردم که طبق آن شرکتها «کارتهای سیستم» مینویسند؛ اسنادی که تواناییها، ریسکها و اقدامات ایمنی سیستمهای هوش مصنوعی را با جزئیات توصیف میکنند.
پس شرکتها برای آماده شدن در برابر یک کاهش سرعت احتمالی باید چهکار کنند؟
نخست، آنها میتوانند داوطلبانه دعوت به ممیزی مستقل و دقیق رویههای ایمنی و امنیتی خود کنند. این امر فراتر از بررسی «تواناییهای هک کردن» است که کاخ سفید اکنون در حال پیگیری آن است. باید طیفی از ریسکها را بررسی کند و عمیقاً به رویههای شرکت وارد شود. این کار باید کمتر شبیه پر کردن یک پرسشنامه باشد و بیشتر مانند بازرس ایمنی هستهای که دسترسی عمیق و مکرر به شرکت دارد.
اگر کاهش سرعت هوش مصنوعی لازم شود، ممیزی همچنین به هر شرکت اطمینان میدهد که رقبایش طبق قوانین بازی میکنند.
دوم، آنها میتوانند فعالانه در سازمانهایی مشارکت کنند که از همین حالا برای هماهنگی در سطح صنعت ساخته شدهاند، مانند «انجمن مدلهای مرزی» (Frontier Model Forum)، و به سرعت برای ایجاد نهادهای مکمل اقدام کنند.
ایلان ماسک اخیراً گفته است که شرکتهای هوش مصنوعی باید بهطور دورهای گرد هم آیند و یادداشتهای ایمنی را به اشتراک بگذارند — گویی این مفهومی ناشنیده است. او یا کارکنانش میتوانند همین فردا به گفتگوهای موجود در این زمینه بپیوندند، به شرط آنکه اسپیسایکس به «انجمن مدلهای مرزی» بپیوندد؛ انجمنی که از قبل موانع پیچیده ضدتراست مربوط به اشتراکگذاری اطلاعات ایمنی را پشت سر گذاشته است. برای اهداف دیگر نیز به نهادهای بینصنعتی بیشتری نیاز خواهد بود و تأسیس و تأمین مالی آنها نیازی به اقدام دولت ندارد.
سوم، آنها میتوانند روی فناوریهایی سرمایهگذاری کنند که برای جهانیکردن نردههای ایمنی هوش مصنوعی به آنها نیاز داریم.
منتقدان ایده کاهش سرعت هوش مصنوعی بهدرستی اشاره میکنند که شرکتهای آمریکایی نمیتوانند مدت زیادی سرعت را آهسته نگه دارند، زیرا چین به آنها خواهد رسید. اما نه آمریکا و نه چین نمیخواهند کنترل هوش مصنوعی را از دست بدهند و هر دو کشور هر روز جدیتر از دیروز با AI برخورد میکنند؛ بنابراین همکاری هنوز نمیتواند منتفی باشد. مسئله کلیدی این است که آیا از قبل آماده میشویم یا نه. برای اینکه آمریکا اطمینان بسیار بالایی داشته باشد که چین نمیتواند یک توافق هوش مصنوعی را نقض کند (و برعکس)، به فناوریهای راستیآزمایی پیچیدهای نیاز خواهیم داشت، شبیه آنچه در دوران جنگ سرد برای کنترل تسلیحات هستهای توسعه یافت.
خوشبختانه، اکوسیستم رو به رشدی از پژوهشگران و مهندسان وجود دارد که دقیقاً همان فناوریها را میسازند: ابزارهایی که میتوانند ثابت کنند یک مجموعه تراشه فقط در حال اجرای سیستمهای هوش مصنوعی موجود است نه آموزش مدلهای جدید، یا اینکه آن تراشهها در یک موقعیت فیزیکی مشخص قرار دارند، یا اینکه سیستمی که آزمایش شده، همان سیستمی است که در مقیاس بزرگ بهکار گرفته میشود. شرکتهای هوش مصنوعی میتوانند امروز با تأمین مالی و مشارکت در پروژههای آزمایشی، توسعه این نوع حیاتی فناوری را شتاب دهند، اما تا جایی که من میدانم هنوز این کار را نکردهاند.
چهارم، آنها میتوانند بهطور فعال از قانونگذاری حامی انگیزههای قویتر برای ایمنی، امنیت و نظارت بیرونی حمایت کنند — و قطعاً نباید آن را از بین ببرند.
نمیتوانید از مسابقه بیمسئولانه هوش مصنوعی شکایت کنید و همزمان با نردههای ایمنی بدیهی بجنگید. کمتر از یک سال پیش، برخی از همان شرکتهایی که امروز درخواست مقرراتگذاری دارند، برای لغو بیشتر قوانین ایالتی هوش مصنوعی تلاش میکردند. ما هنوز در سطح فدرال هیچ قانون واقعی درباره هوش مصنوعی مرزی نداریم و نخستین الزام ممیزی هوش مصنوعی در سطح ایالتی تا سال ۲۰۲۸ به اجرا درنمیآید.
در حال حاضر پیشنهادهای امیدوارکننده دوحزبی در کنگره وجود دارد، مانند «قانون مرز» (Frontier Act) از سوی نمایندگان جی اوبرنولت و لوری تراهان، که بر اساس آن توسعهدهندگان سیستمهای پیشرفته هوش مصنوعی موظف میشوند چارچوب مدیریت ریسک ایجاد کنند، حوادث خطرناک را گزارش دهند و خود را در معرض ممیزی مستقل قرار دهند. این پیشنهادها و دیگر پیشنهادهای بدیهی، مانند حمایت از «سوتزنان» هوش مصنوعی که حوادث ایمنی را مستقیماً به دولت افشا میکنند، مستحق حمایت قاطع هستند.
من با امضاکنندگان موافقم و خوشحالم که پس از سالها نادیده گرفته شدن یا کماهمیتنمایاندهشدن، خطرات رقابت بیبندوبار هوش مصنوعی سرانجام بهطور گسترده شناخته شده است. دولت آمریکا باید سهم خودش را در رسیدگی به این موضوع انجام دهد و این کار را سریع انجام دهد. اما خوب پیش بردن هوش مصنوعی یک مسئولیت مشترک است. شرکتهایی که در زمینه ایمنی از همتایان خود عقب میمانند، از ممیزی بیرونی سیستمهایشان خودداری میکنند، یا «بهانه ترمز» میزنند در حالی که برای ساخت آن ترمزها کار چندانی نمیکنند، وقتی اتفاقی بیفتد، نمیتوانند تقصیر را به گردن مسابقه هوش مصنوعی بیندازند.
مایلز بروندیج پژوهشگر سیاست هوش مصنوعی و رئیس «مؤسسه پژوهش راستیآزمایی و ارزیابی هوش مصنوعی» (Averi) است. او پیشتر در OpenAI بهعنوان رئیس پژوهش سیاست و مشاور ارشد «آمادگی AGI» کار میکرد.