گوین نیوسام، فرماندار کالیفرنیا، در ۱۸ سپتامبر دستور اجرایی N-9-26 را امضا کرد تا نظارت مستقل بر شرکتهای هوش مصنوعی را سرعت ببخشد و الزام یک «کلید قطع» برای مدلهای هوش مصنوعی را پیگیری کند. این دستور واکنشی است به رویدادهای اخیر مانند حمله به Hugging Face و انبوه گزارشهایی که نشان میدهد مدلها و ایجنتهای هوش مصنوعی در حال دور زدن تدابیر امنیتی ساختهشده توسط خود شرکتهای سازنده هستند.
بر اساس این دستور، یک پنل تخصصی دو ماه فرصت دارد توصیههای خود را به دفتر فرمانداری تحویل دهد؛ مهلتی که تا ۱۶ نوامبر ۲۰۲۶ تعیین شده است. محور اصلی این توصیهها اصلاح قوانین فعلی ایالت در حوزه ایمنی و امنیت هوش مصنوعی است و حداقل چهار بند مشخص دارد. بند اول الزام همه توسعهدهندگان بزرگ مدلهای پیشرو به جای دادن سازمانهای تأییدکننده مستقل بهصورت حضوری در آزمایشگاههای خود است تا ممیزی و ارزیابی دورهای انجام دهند. بند دوم میخواهد چارچوبهای ایمنی، گزارشهای شفافیت و ارزیابیهای ریسکی که شرکتهای هوش مصنوعی ملزم به ثبت آن هستند، توسط یک سازمان تأییدکننده مستقل و بر اساس استانداردهای مورد تأیید همان سازمان، بهطور مستقل تأیید شوند.
بند سوم دقیقاً همان چیزی است که به «کلید قطع» معروف شده: الزام به ساخت مکانیزمی که بتواند مدلهای مرزی را از کار بیندازد، بهشرط آنکه کارآمدی این کلید بهطور مستمر توسط یک سازمان تأییدکننده مستقل بررسی شود. بند چهارم هم تعریف «رخداد بحرانی ایمنی» را گسترش میدهد تا رویدادهای «از دست رفتن کنترل» را هم در بر بگیرد؛ یعنی همان دستهای که گزارشهای اخیر توسعهدهندگان بزرگ را پوشش میدهد.
دستور، ضربالاجلهای اجرایی دیگری هم دارد: اداره عملیات دولت کالیفرنیا موظف است تا ۱ می ۲۰۲۷ الزامات قانونی مربوط به سازمانهای تأیید مستقل را تکمیل و شرایط و معیارهای درخواست را بهصورت عمومی منتشر کند و تا ۱ دسامبر ۲۰۲۷ گامهای قانونی بعدی را آغاز کند.
نیوسام در مقدمه این دستور به سابقه کالیفرنیا اشاره میکند: در سپتامبر ۲۰۲۳ دستور اجرایی N-12-23 را برای استفاده ایمن دولت از هوش مصنوعی امضا کرد، در ۲۰۲۴ گروهی از پژوهشگران برجسته هوش مصنوعی را گرد آورد که گزارش بیسابقهای درباره گاردریلهای مدلهای مرزی تولید کردند، در ۲۰۲۵ همراه با مجلس قانونگذار لایحه SB 53 را بهعنوان نخستین قانون از این نوع برای اعتماد و ایمنی هوش مصنوعی مرزی امضا کرد و در مارس ۲۰۲۶ دستور N-5-26 را برای تضمین حقوق مدنی و حریم خصوصی در تدارکات هوش مصنوعی صادر کرد. نکتهای که در متن دستور برجسته شده این است که ۳۲ شرکت از ۵۰ شرکت خصوصی برتر هوش مصنوعی جهان در کالیفرنیا مستقرند.
او در این میان دونالد ترامپ، رقیب سیاسیاش، را بهشدت نقد کرد؛ ترامپ آزمایشگاههای هوش مصنوعی را به ترسافکنی متهم کرده بود. نیوسام اشاره کرد که هیچ قانون فدرالی شرکتهای هوش مصنوعی را ملزم به گزارش رخدادهای خطرناک نمیکند و در نبود اقدام کنگره، کالیفرنیا خودش وارد میشود. به گفته او کالیفرنیا پیشتر قوانینی در حوزه ایمنی هوش مصنوعی، حفاظت از کودکان، دیپفیک، حریم خصوصی داده و امنیت سایبری تصویب کرده است و او از کنگره میخواهد همین چارچوب را بهعنوان خط پایه ملی بپذیرد.
این پیشنهادها در واقع از خود آزمایشگاههای هوش مصنوعی آمده بود؛ بخشی از فراخوان گستردهتر برای کند کردن تحقیق و توسعه که چهرههایی مثل سم آلتمن و دمیس هاسابیس هم از آن حمایت کردهاند و انتروپیک خواستار تعیین حد سرعت برای توسعه هوش مصنوعی پیش از آن شده است که خودبهسازی از کنترل انسان خارج شود.
فراتر از آزمایشگاهها، گروهی متشکل از ۴۲ ریاضیدان هم درباره خطر سیستمهای پیشرفته هوش مصنوعی که ممکن است در آیندهای نزدیک بهسرعت تحول پیدا کنند هشدار دادهاند؛ هشداری که در بستر پروندههای هک مدلها و درخواستهای توقف توسعه، وزن تازهای پیدا کرده است.