در حالی که این روزها اخبار متعددی درباره بهره‌گیری هکرها از ابزارهای هوش مصنوعی منتشر می‌شود، کشف یک آسیبپذیری امنیتی مهم در نسخه macOS اپلیکیشن ChatGPT اوپنایآی نشان میدهد که خود برنامههای هوش مصنوعی به عنوان اهداف پرارزش برای نفوذگران در حال تبدیل شدن هستند. این نقص امنیتی که توسط پژوهشگران بنیاد امنیتی Objective-See شناسایی و گزارش شده، می‌توانست به هکرها اجازه دهد کنترل کامل برنامه ChatGPT را در سیستم‌عامل مک به دست بگیرند.
بهره‌برداری از این آسیبپذیری به مهاجم اجازه میداد به تمام لاگ‌های ذخیره‌شده از مکالمات کاربر، دادههای متصل به نشست‌های مرورگر و اطلاعات حساسی که کاربر در برنامه وارد کرده دسترسی پیدا کند. پاتریک واردل (Patrick Wardle)، تحلیل‌گر ارشد نرم‌افزار و متخصص برجسته امنیت سیستم‌عامل macOS، در این باره می‌گوید: «ایجنت‌های هوش مصنوعی برای انجام وظایف خود نیازمند دسترسیهای سیستمی گسترده‌ای هستند؛ آن‌ها درست مانند مدیر ساختمانی هستند که کلید همه اتاق‌ها را در دست دارد. اگر این ابزارها دچار رخنه یا انحراف شوند، یک کد مخرب با سطح دسترسی پایین می‌تواند به تمام منابع محرمانه سیستم دسترسی پیدا کند.»
بر اساس بررسی‌های فنی، معماری نسخه مک ChatGPT از چندین بخش مجزا تشکیل شده که با بررسی امضاهای دیجیتال معتبر با یکدیگر ارتباط برقرار می‌کنند تا اطمینان حاصل شود که درخواست‌ها صرفا از طرف فرآیندهای مورد اعتماد OpenAI صادر شده‌اند. سیستم امنیتی حتی هویت فرآیند مادر و والد بالاتر را در سه لایه بررسی می‌کرد. با این حال، محققان متوجه شدند یک مولفه مفسر اسکریپت (Script Interpreter) معتبر در برنامه وجود دارد که اسکریپت‌های ورودی غیرمعتمد را می‌پذیرد. مهاجم می‌توانست با اجرای سه باره متوالی این مفسر، اعتبارسنجی سلسله‌مراتبی را فریب داده و دستورات دلخواه خود را مستقیما به بدنه اصلی ChatGPT تزریق کند.
واردل تاکید می‌کند که سوءاستفاده از این باگ با نوشتن تنها حدود ۱۰ خط کد امکان‌پذیر بود. اوپنایآی پس از دریافت گزارش، این نقص امنیتی را در به‌روزرسانی سیستم برطرف کرد و سخنگوی این شرکت اعلام نمود که در حال بازنگری سریع‌تر فرایندهای امنیتی است. پژوهشگران هشدار می‌دهند که در تب و تاب رقابت شرکت‌ها برای افزودن قابلیت‌های هوش مصنوعی جدید، سطح حملات سایبری (Attack Surface) به شدت گسترش یافته و امنیت نباید به یک موضوع حاشیه‌ای تبدیل شود.