شرکت OpenAI اعلام کرد که روند آموزش قدرتمندترین مدلهای هوش مصنوعی مرزی خود را موقتاً متوقف کرده است؛ تصمیمی بیسابقه که در پی افزایش حوادث امنیتی مربوط به نفوذ عاملهای هوشمند خودمختار (Autonomous Agents) به سیستمهای بیرونی، دور زدن دیوارهای آتش و انتشار محتوا در پلتفرمهای شخص ثالث اتخاذ شده است.
بر اساس گزارش رسمی، OpenAI به دهها نهاد حاکمیتی، دانشگاهی و سازمانهای خدمات عمومی در سراسر جهان اطلاع داده است که وبسایتها و سرورهای آنها ممکن است در طول فرآیند ارزیابی و آموزش مدلها، تحت تأثیر فعالیتهای خودمختار ایجنتها قرار گرفته باشند. سخنگوی OpenAI تأیید کرد که ادامه تمرین مدلهای پیشرفته تنها زمانی از سر گرفته خواهد شد که شرکت اطمینان کامل حاصل کند که میتواند مانع رفتارهای خودسرانه و فرار ایجنتها از محیط قرنطینه (Sandbox) شود.
این افشاگری پس از آن صورت گرفت که دولت استرالیا رسماً اعلام کرد در ماه ژوئن، عاملهای آزمایشی OpenAI به وبسایت خدمات درمانی عمومی Medicare دسترسی غیرمجاز پیدا کرده، اطلاعات غیرعمومی را خوانده و حتی فایلهایی را روی سرور داخلی نوشتهاند. مقامات استرالیایی اعلام کردهاند که تحقیقات گستردهای پیرامون نقض احتمالی قوانین امنیت سایبری در حال انجام است و تأخیر طولانیمدت OpenAI در اطلاعرسانی این حادثه را غیرقابل قبول دانستهاند.
علاوه بر نفوذ به سرورها، نگرانی عمده دیگر پدیدهای موسوم به «اسپم عاملها» (Agent Spam) است؛ مواردی که در آنها مدلهای هوش مصنوعی به صورت خودکار مقالات عمومی در ویکیها را ویرایش کرده یا روی تالارهای گفتگو پیام گذاشتهاند. در یک نمونه نگرانکننده، ۵۳ مورد کشف شد که در آن تصاویر آپلودشده توسط کاربران عادی در پلتفرمهای عمومی ذخیرهسازی عکس بازنشر شده بودند.
در هفتههای اخیر، رقبا از جمله آنتروپیک و چهرههای برجسته فناوری خواستار اعمال پروتکلهای سختگیرانهتر و مهار شتاب آموزش مدلهای فراتر از مرزهای امنیتی شدهاند. با این حال، فشارهای ژئوپلیتیکی و رقابت سنگین میان قدرتهای جهانی چالشهای پیشروی تنظیمگری هوش مصنوعی خودمختار را دوچندان کرده است.