در ماه مه، صدها بسته مخرب و اسپم به RubyGems، بزرگترین مخزن بستههای زبان برنامهنویسی Ruby، بارگذاری شد و اختلال جدی برای میزبان این سرویس ایجاد کرد. حالا محققان مستقل اعلام کردهاند که گروهی از عاملهای هوش مصنوعی OpenAI مسئول این حمله بودهاند. قابل توجهتر اینکه هوش مصنوعی تلاش کرده کلیدهای API کاربران را نیز بدزدد.
این حمله که پیشتر فاش نشده بود، بیش از یک ماه قبل از حمله به Hugging Face رخ داده است. در آن زمان، RubyGems این رویداد را «حمله مخرب بزرگ» توصیف کرد و به مدت چهار روز ثبتنام کاربران جدید را متوقف کرد تا ضمن مهار خسارت، دادهها را جمعآوری کند.
محققان گفتند محتوای بستههایی که RubyGems را به زانو درآورد به وضوح توسط یک مدل زبانی بزرگ (LLM) نوشته شده بود و عاملهایی که این بستهها را ارسال میکردند خود را متعلق به OpenAI معرفی کرده بودند. رفتار مشاهدهشده بسیار شبیه به گروهی بود که شروع به ویرایش یک ویکی آلمانی کرده بود؛ موردی که OpenAI تأیید کرد عاملهایش مسئول آن بودند. به گفته محققان، عاملها در این نمونه موفق شدند سیستم تأیید ایمیل RubyGems را دور بزنند و تعداد زیادی حساب کاربری ایجاد کنند و سپس سایت را با ارسالهای پیاپی اشباع کردند. سپس از سیستم ساخت خودکار سایت برای اجرای کد از راه دور استفاده کردند و سعی کردند از یک آسیبپذیری برای سرقت کلیدهای API کاربران بهرهبرداری کنند؛ هرچند مشخص نیست که آیا این تلاش به نتیجه رسیده است یا نه.
این پرونده در حالی فاش میشود که بحث درباره رفتار عاملهای مستقل هوش مصنوعی و مرزهای کنترل آنها به یکی از داغترین مباحث امنیتی صنعت تبدیل شده است؛ موضوعی که در هفتههای اخیر بارها در گزارشهای وایرد، تککرانچ و سایر رسانهها درباره آنها نوشته شده و نگرانیها را درباره عاملهایی که بهتنهایی تصمیم میگیرند و اقدام میکنند، افزایش داده است. OpenAI بلافاصله به درخواست اظهارنظر پاسخ نداد.