گاردین استرالیا فاش کرده که اوپنایآی برای نوشتن همان ایمیلی که به دولت استرالیا هشدار میداد عامل هوش مصنوعیاش به وبسایتهای کلیدی وزارتخانهها نفوذ کرده است، از هوش مصنوعی استفاده کرده است.
روز سهشنبه، یکی از مدیران این شرکت در یک تحقیق پارلمانی گفت فکر نمیکند فناوری خودِ شرکت برای ساختن آن ایمیل به کار رفته باشد، اما افزود لازم است این موضوع تأیید شود.
گاردین استرالیا می‌داند که تیمهای حقوقی و امنیتی اوپنایآی از هوش مصنوعی برای تولید بخشهایی از جمله‌بندیِ آن ایمیل استفاده کرده‌اند؛ از جمله انتخاب واژه‌ها و قالب‌بندی پیام. اما منبعی آگاه به این رخداد می‌گوید انسان‌ها ایمیل نهایی را بازبینی کرده‌اند و مسئولیت ارسال واقعی پیام به صندوق ورودی سرویس استرالیا هم بر دوش انسان‌ها بوده است.
اوپنایآی برای اظهارنظر در این باره تحت تماس قرار گرفت.
یک عامل هوش مصنوعی توسعه‌یافته توسط اوپنایآی در ژوئن به داده‌های سرویس استرالیا و سه سیستم دیگر دسترسی پیدا کرده بود. این شرکت ۱۰ سپتامبر به استرالیا اطلاع داد، هرچند در اوت از رخداد باخبر شده بود.
نخستین اطلاع‌رسانی این شرکت به استرالیا در قالب ایمیلی پنج‌پاراگرافی به صندوق ورودی سرویس استرالیا با نشانی [email protected] انجام شد؛ صندوقی که فقط روزی یک‌بار بررسی می‌شود.
اوپنایآی به‌خاطر روش اعلام غیررسمی و غیرمستقیم این موضوع تحت انتقاد قرار گرفته است؛ از جمله این‌که در دیدار حضوری سام آلتمن، مدیرعامل شرکت، و ریچارد مارلز، معاون نخست‌وزیر استرالیا در ۱ سپتامبر — نه روز پیش از ایمیل به سرویس استرالیا اما تقریباً یک ماه پس از نخستین آگاهی از نفوذ ۱۸ ژوئن — موضوع را مطرح نکرد.
جیسون کوون، مدیر ارشد استراتژی اوپنایآی، روز سهشنبه در جلسه پارلمان پذیرفت که «پاسخ ما به‌قدر کافی خوب نبود و باید خیلی زودتر به طرف‌های متأثر اطلاع می‌دادیم.»
در آن جلسه، آرون ویولی، نماینده پارلمان از حزب لیبرال و وزیر سایه فناوری، مستقیماً درباره آن ایمیل و نقش احتمالی هوش مصنوعی در ساخت آن از کوون پرسید: «می‌پذیرم که برای گرفتن داده و بازبینی باید از عامل‌های هوش مصنوعی استفاده کنید و بدیهی است کسبوکار شما از هوش مصنوعی استفاده می‌کند. وقتی از طریق ایمیل به سرویس استرالیا اطلاع دادید، کارکنان شما از هوش مصنوعی برای ساختن آن ایمیل استفاده کردند؟»
کوون پاسخ داد: «فکر نمی‌کنم، اما با کمال میل می‌رویم و تأییدش می‌کنیم.»
کوون در جلسه اشاره کرد که اوپنایآی پاسخ‌های مشخص‌تری به پرسش‌های فنی را در قالب «پاسخ به پرسش‌های اعلام‌شده» ارائه خواهد کرد. انتظار می‌رود این شرکت پس از پایان تحقیقات داخلی خود، اطلاعات بیشتری درباره آن ایمیل ارائه کند.
متن ایمیل که گاردین استرالیا در سپتامبر به دست آورد، به سرویس استرالیا اطلاع میداد: «ما شما را از یک آسیب‌پذیری امنیتی مطلع می‌کنیم که در جریان بررسی فعالیت مدل اوپنایآی روی سرویس آمار مدیکر سرویس استرالیا در medicarestatistics.humanservices.gov.au شناسایی شد.»
در ادامه آمده بود: «یک مدل اوپنایآی راهی پیدا کرد که سرور دستورهای ارسالی از طریق رابط گزارش‌دهی عمومی را اجرا کند، بدون نیاز به حساب خصوصی یا رمز عبور. مدل توانست از این راه بخشهایی از فایل‌ها و تنظیمات داخلی برنامه را بخواند، فهرستی از فایل‌ها به دست آورد و یک فایل آزمایشی کوچک روی سرور بسازد و بازخوانی کند.»
ایمیل اطلاع میداد که بررسی اوپنایآی «شواهدی نیافته که مدل به سوابق سطح بیمار، اطلاعات شخصی یا اعتبارنامه‌ها دسترسی پیدا کرده، داده‌ای حذف کرده یا دسترسی مستمری برقرار کرده باشد» و اطلاعاتی درباره «URL متأثر» و «گزارش متأثر» ارسال کرد.
پایان ایمیل این بود: «توصیه می‌کنیم تیم مسئول این سرویس آسیب‌پذیری را بررسی کند و تغییرات لازم برای پیشگیری از آن را ارزیابی کند. از ارائه توضیحات به تیم امنیتی شما و ارائه شواهد پشتیبان در حد امکان خوشحال خواهیم شد. — با احترام، تیم امنیت اوپنایآی.»
اندرو چارلتون، معاون وزیر علم و فناوری، روز پنج‌شنبه در سخنانی در سیدنی درباره این رخداد گفت و عامل این شرکت را چنین توصیف کرد که «به یک سیستم دولتی استرالیا نفوذ کرده است.»
او گفت: «به‌عنوان نقطه شروع، هیچ شرکتی نباید مدل هوش مصنوعی پیشرویی را منتشر کند که ایمن نیست. اما همین که این اتفاق افتاده و همین که آزمایشگاه‌ها آن را تشخیص یا پیشگیری نکرده‌اند، پرسش‌های مهمی درباره نقش مقررات تازه در «استانداردهای ملی هوش مصنوعی» استرالیا مطرح می‌کند.»
چارلتون گفت هوش مصنوعی پیشرو «حدود» کنوانسیون‌ها و پروتکل‌های موجود دولت برای ارزیابی ریسک‌های ایمنی را جابه‌جا می‌کند و از رویکردهای «متعارف» فراتر می‌رود.
او گفت «بازار» مسائل توسعه هوش مصنوعی را حل نمیکند؛ موضعی در تقابل با رویکرد ایالات متحده که به شرکت‌ها اجازه می‌دهد با درجه‌ای از خودتنظیمی فعالیت کنند. چارلتون نگرانی‌هایی مطرح کرد که «آزمایشگاه‌های پیشرو قابلیت را بر ایمنی مقدم می‌دارند» و گفت استرالیا می‌تواند با میزبانی از این آزمایشگاه‌ها و اثرگذاری بر آن‌ها بیشترین تأثیر را بر توسعه هوش مصنوعی بگذارد.
او افزود: «هوش مصنوعی به تنظیم‌گری نیاز دارد، چون آسیب‌هایش شدید، سخت بازگشت‌پذیر، تحمیل‌شده بر افرادی که هرگز انتخابش نکرده‌اند و بعضی‌وقت‌ها تا وقتی نرسد، نامرئی است.»
و در پایان: «بازار این را تنهایی حل نمیکند، چون انگیزه‌ها سرعت و قابلیت را پاداش می‌دهند و حتی افراد بالای این صنعت هم نمی‌توانند خودشان از سرعت کم کنند.»
پایان.