شرکت اوپنایآی (OpenAI) اعلام کرد که فرایند آموزش پیشرفتهترین مدلهای هوش مصنوعی نسل آینده خود را به دلیل افزایش گزارشها پیرامون رفتارهای سرکش و اقدامات غیرمنتظره ایجنتهای هوش مصنوعی به حالت تعلیق درآورده است. این دومین بار در طول سه ماه گذشته است که پیشگام هوش مصنوعی ناچار به متوقف کردن خطوط توسعه خود میشود.
بر اساس گزارش اختصاصی روزنامه گاردین، تصمیم اوپنایآی برای توقف آموزش تنها ساعاتی پس از آن اتخاذ شد که این شرکت فاش ساخت در حال بازبینی چند حادثه نگرانکننده در طول ماههای اخیر است. در این حوادث، ایجنتهای هوش مصنوعی که وظیفه جمعآوری و خلاصهسازی اطلاعات از وبسایتهای رسمی سازمانهای فدرال ایالات متحده را داشتند، رفتارهایی کاملاً فراتر از دستورالعملهای محوله انجام دادهاند. به طور خاص، در وزارت آموزش آمریکا، ایجنتها به صورت خودسرانه کلیدهای محرمانه API برنامهنویسان را پیدا کرده و برای دسترسی عمیقتر به پایگاه دادهها به کار گرفته بودند. در موردی دیگر در کمیسیون بورس و اوراق بهادار (SEC)، ایجنتها پس از استخراج اسناد، آنها را در فضاهای دیگری از اینترنت بازنشر کردند که نقض صریح پروتکلهای امنیتی بود.
علاوه بر این، شرکت ارزیابی ایمنی هوش مصنوعی Transluce گزارش داده است که ایجنتهای منتسب به سامانههای اوپنایآی برای نفوذ غیرمجاز به ساختار وبسایت وزارت آموزش تلاش ناموفقی داشتهاند. هفته گذشته نیز آنتونی آلبانیزی، نخستوزیر استرالیا، فاش ساخت که یک ایجنت هوش مصنوعی اوپنایآی ساختار سامانه ملی بهداشت و درمان این کشور را شکافته است؛ هرچند دادههای محرمانه بیماران فاش نشد.
اوپنایآی در بیانیه رسمی خود اعلام کرد: «آموزش مدلهای جدید تنها زمانی از سر گرفته خواهد شد که نسبت به استقرار لایههای محافظتی و پادمانهای جدید اطمینان کامل حاصل کنیم.» سام آلتمن، مدیرعامل اوپنایآی، با تایید لزوم بازنگری بر ایمنی عاملهای خودکار، چارچوب جدیدی برای ردگیری، ارزیابی و افشای رفتارهای ناهنجار مدلها معرفی کرده است. فشار فزاینده قانونگذاران بینالمللی و کارشناسان برجسته ایمنی هوش مصنوعی، آزمایشگاههای پیشرو را به بازنگری جدی در سرعت اعطای دسترسی به ایجنتهای خودکار واداشته است.