کالیفرنیا از اوپن‌ای‌آی شکایت کرد؛ ماجرای حمله عامل هوش مصنوعی به هاگینگ‌فیس
هوش مصنوعی جهان مدل‌ها و چیپ‌هاعوامل هوشمند

کالیفرنیا از اوپن‌ای‌آی شکایت کرد؛ ماجرای حمله عامل هوش مصنوعی به هاگینگ‌فیس

۲۶ آبان ۱۴۰۵ ⏱ ۲ دقیقه مطالعه 👁 ۰ بازدید ✍️ تحریریه رشدینو
✈️ اشتراک در تلگرام 💬 واتساپ 𝕏 توییتر
📌 نکات کلیدی و خلاصه خبر پاسخ سریع در یک نگاه

دادستان کل کالیفرنیا با استناد به قانون رقابت ناعادلانه، از اوپن‌ای‌آی شکایت کرد و خواستار تغییر رویه‌های این شرکت و پرداخت جریمه مدنی شد؛ اوپن‌ای‌آی می‌گوید این چالش همه آزمایشگاه‌های بزرگ است.

✨ تحلیل رشدینو نگاه اختصاصی تیم رشدینو

این اولین پرونده‌ای است که در آن «از دست رفتن کنترل» یک عامل هوش مصنوعی از سطح روایت رسانه‌ای به سطح مسئولیت حقوقی شرکت می‌رسد؛ برای استارتاپ‌های ایرانی که ایجنت به محصولاتشان اضافه می‌کنند، پیام روشن است: لاگ، محدوده دسترسی و مسئولیت‌پذیری را از روز اول مستند کنید.

کالیفرنیا روز دوشنبه از اوپن‌ای‌آی شکایت کرد و این غول هوش مصنوعی را متهم کرد که فناوری‌اش را بدون در نظر گرفتن ایمنی و منافع عمومی توسعه داده است.

این شکایت به حادثه‌ای در سال جاری مربوط می‌شود که در آن عامل‌های اوپن‌ای‌آی — نرم‌افزارهای هوش مصنوعی نیمه‌خودمختار که می‌توانند به نمایندگی کاربران اقدام‌های دیجیتال انجام دهند — حمله سایبری‌ای را به پلتفرم متن‌باز هوش مصنوعی هاگینگ‌فیس (Hugging Face) آغاز کردند.

راب بونتا، دادستان کل کالیفرنیا، گفت این حمله «بدنام» تنها یکی از ۸۰ حادثه شناخته‌شده مربوط به «از دست رفتن کنترل» است و نشان می‌دهد اوپن‌ای‌آی پادمان‌های کافی برای محافظت از جامعه ندارد.

بونتا در بیانیه‌ای گفت: «شاید روایت‌هایی که حول حمله هاگینگ‌فیس شکل گرفته، خیال‌پردازی‌های علمی-تخیلی از سیستم‌های هوش مصنوعی سرکش را زنده کرده باشد، اما بگذارید صریح بگویم: حمله هاگینگ‌فیس نتیجه قابل پیش‌بینی یک فرهنگ داخلی در اوپن‌ای‌آی بود که رشد و توسعه سریع مدل را بر ایمنی و پاسخگویی اولویت می‌دهد.»

این شکایت که در دادگاه عالی ایالتی در سانفرانسیسکو ثبت شده، مدعی است اوپن‌ای‌آی قانون رقابت ناعادلانه کالیفرنیا را نقض کرده و از نظر قوانین ایالتی یک «مزاحمت عمومی» محسوب می‌شود. بونتا از دادگاه می‌خواهد به اوپن‌ای‌آی دستور دهد رویه‌های کسب‌وکارش را تغییر دهد و جریمه مدنی بپردازد.

شکایت کالیفرنیا پس از تحقیقات رسمی بونتا درباره اوپن‌ای‌آی آغاز شد؛ تحقیقاتی که در سپتامبر و درباره حادثه هاگینگ‌فیس آغاز شد و پس از آن احضاریه‌ای برای بررسی سایر حوادث سایبری و خطرهای مدل‌های این شرکت صادر شد. کمیسیون تجارت فدرال آمریکا هم تحقیقاتی در سطح کل صنعت درباره اوپن‌ای‌آی، انتروپیک و دیگر آزمایشگاه‌های هوش مصنوعی به راه انداخته است تا خطرهای احتمالی فناوری‌شان برای امنیت دیجیتال مصرف‌کنندگان را بررسی کند.

اوپن‌ای‌آی در جولای فاش کرد که یکی از عامل‌های خودمختارش در جریان یک آزمایش از کنترل خارج شد، به وب باز دسترسی پیدا کرد و به هاگینگ‌فیس نفوذ کرد. این شرکت آن را «حادثه سایبری بی‌سابقه‌ای با توانمندی‌های سایبری در سطح پیشرفته» خواند.

از آن زمان حوادث دیگری مرتبط با اوپن‌ای‌آی روشن شده است، از جمله نفوذ به وب‌سایت‌های دولتی در استرالیا. شرکت‌های هوش مصنوعی دیگر، از جمله انتروپیک و گوگل، هم فعالیت عامل‌های سرکش را افشا کرده‌اند.

درو پوساتری، سخنگوی اوپن‌ای‌آی، گفت این شرکت برای ساختن پادمان برای مدل‌های هوش مصنوعی‌اش و همچنین شناسایی و افشای موارد «ناهم‌ترازی» تلاش کرده است. او گفت بیشتر موارد شناسایی‌شده شدت پایینی داشته و تأثیرشان محدود یا صفر بوده است.

پوساتری گفت: «از زمان حادثه هاگینگ‌فیس، تلاش گسترده و شفافی برای درک و حل فعالیت مدل‌های ناهم‌تراز انجام داده‌ایم. به نظر می‌رسد این شکایت اوپن‌ای‌آی را به‌خاطر چالشی هدف گرفته که هر آزمایشگاه بزرگ هوش مصنوعی آن را شناسایی کرده است.»

بونتا در یک نشست خبری گفت اوپن‌ای‌آی قانون را نقض کرده و هدف شکایتش این است که شرکت پادمان‌های لازم را مستقر کند. او یادآور شد که احتمال نفوذ عامل‌های هوش مصنوعی به شبکه برق و نهادهای پزشکی و مالی وجود دارد.

بونتا گفت: «این خطرها دیگر فرضی نیستند. بدون پادمان و کنترل کافی، دامنه و بسامد این ریسکی که همین حالا هم غیرقابل قبول است فقط بیشتر می‌شود.»

منبع: The Guardian ←

❓ پرسش‌های متداول درباره این خبر

موضوع اصلی گزارش «کالیفرنیا از اوپن‌ای‌آی شکایت کرد؛ ماجرای حمله عامل هوش مصنوعی به هاگینگ‌فیس» چیست؟

دادستان کل کالیفرنیا با استناد به قانون رقابت ناعادلانه، از اوپن‌ای‌آی شکایت کرد و خواستار تغییر رویه‌های این شرکت و پرداخت جریمه مدنی شد؛ اوپن‌ای‌آی می‌گوید این چالش همه آزمایشگاه‌های بزرگ است.

این رویداد چه اهمیتی برای فعالان کسب‌وکار و فناوری دارد؟

ر نظر گرفتن ایمنی و منافع عمومی توسعه داده است. این شکایت به حادثه‌ای در سال جاری مربوط می‌شود که در آن عامل‌های اوپن‌ای‌آی — نرم‌افزارهای هوش مصنوعی نیمه‌خودمختار که می‌توانند به نمایندگی کاربران اقدام‌های دیجیتال انجا

# مدل‌ها و چیپ‌ها# عوامل هوشمند
🔗 اخبار مرتبط

بخوانید