گوگل برای نخستین بار تأیید کرد که مدل هوش مصنوعیاش، جمینای، در ماه می امنیت سه شرکت دیگر را شکسته است. این هکها در جریان یک ارزیابی امنیت سایبری از سوی شرکت امنیتی Irregular رخ داد.
Irregular، استارتاپی مستقر در اسرائیل که امنیت سیستمهای پیشرفته هوش مصنوعی را میکاود، در مرکز برخی از هکهای اخیر اوپنایآی و انتروپیک روی نهادهای ثالث هم بوده است؛ از جمله نفوذ اوپنایآی به شرکت نرمافزاری هوش مصنوعی Hugging Face.
شرایطی که در برخی از این موارد به هک شدن شرکتها منجر شد مشابه است: Irregular مدلها را در یک محیط آزمایشی بسته با شرکتهای جعلی تست میکرد. بر اساس گزارش والاستریت ژورنال، این محیط آزمایشی نباید به اینترنت وصل میبود، اما دسترسی اینترنت بهطور ناخواسته فراهم شده بود. پس از اتصال به اینترنت، مدلها بهطور غیرمنتظره وارد شرکتهای واقعی شدند.
Irregular پایان ژوئیه پس از آنکه کشف کرد اوپنایآی به Hugging Face نفوذ کرده، این هکها را به گوگل اطلاع داد. گوگل به گاردین تأیید کرد که هکها رخ دادهاند، اما این شرکت معتقد نبود افشای عمومی لازم است، چون مدلها به شرکتها آسیبی نزدند. والاستریت ژورنال نخستین رسانهای بود که این نفوذها را گزارش و برای اولین بار اعلام کرد که چنین اتفاقی افتاده است.
هدر ادکینز، معاون مهندسی امنیت گوگل، در بیانیهای گفت: «در یک ارزیابی استاندارد، مدل اطلاعات عمومی را آنلاین پیدا کرد و اعتبارنامهها را حدس زد تا به وبسایتهایی وارد شود که فکر میکرد بخشی از تست هستند. در هر سه مورد، مدل متوقف شد.»
در یکی از این نقضهای امنیتی، Irregular با هدایت مدل به گرفتن اطلاعات از نرمافزار یک شرکت جعلی، توانمندیهای امنیت سایبری جمینای را آزمایش میکرد. آن شرکت جعلی همنام یک شرکت واقعی بود. Irregular به والاستریت ژورنال گفت وقتی مدل بهطور ناخواسته به اینترنت دسترسی پیدا کرد، رمز عبور یک شرکت واقعی را درست حدس زد و به سرویس آن نفوذ کرد. گوگل میگوید مدل تا زمانی که بفهمد یک شرکت واقعی را هک کرده و نه شرکت شبیهسازیشده، پیش رفت و بعد متوقف شد.
در دو تست دیگر، مدل در وب جستوجو کرد و مخازن عمومی حاوی اعتبارنامههای دو شرکت دیگر را پیدا کرد و از این اعتبارنامهها برای دسترسی به شرکتهای واقعی استفاده کرد. به گفته گوگل، وقتی فهمید اینها شرکتهای واقعی هستند، متوقف شد.
انتروپیک و اوپنایآی تصمیم گرفتند این هکها را خودخواسته افشا کنند، اما گوگل این کار را نکرد. با این حال شرکت میگوید اطمینان حاصل کرده که سه شرکت هکشده از ماجرا باخبر شوند. ادکینز میگوید: «این رویدادها اهمیت آموزش مدلهای هوش مصنوعی قدرتمند برای رفتار مسئولانه را برجسته میکنند.»
افشاگریهای انتروپیک و اوپنایآی باعث شد برنی سندرز، سناتور مستقل آمریکایی، از این شرکتها بخواهد توسعه فناوریشان را متوقف کنند و گفت این موضوع نشانه آن است که شرکتها دیگر توان کنترل مدلهای خود را ندارند. اوپنایآی توسعه مدلهایش را دو هفته متوقف کرد و داریو آمودئی، مدیرعامل انتروپیک، خواستار کندشدن جمعی روند توسعه هوش مصنوعی شده تا اطمینان حاصل شود پیشرفتهترین مدلها با تدابیر حفاظتی کافی ساخته میشوند.