ایالت بریتیش کلمبیا در کانادا در دادگاهی در کالیفرنیا از OpenAI شکایت کرده است؛ این ایالت میگوید اگر این شرکت به پلیس محلی هشدار داده بود که مهاجم از ChatGPT برای برنامهریزی کشتار جمعی در یک مدرسه استفاده کرده، آن حادثه قابل پیشگیری بود.
این شکایت روز دوشنبه در دادگاه فدرال سانفرانسیسکو تنظیم شده و OpenAI و سم آلتمن، مدیرعامل آن، را بهعنوان خواندگان معرفی میکند. در این شکایت خواستار پرداخت خسارت برای تأمین هزینه تلاشهای بازیابی پس از حمله فوریه در این ایالت شده و همچنین صدور حکمی برای تغییر روش برخورد این شرکت با گفتوگوهای ChatGPT که میتوانند به خشونت منجر شوند.
در تیراندازی مدرسهای در تامبلر ریج در بریتیش کلمبیا نُه نفر که عمدتاً کودک بودند کشته شدند. جسی ونروتسلار، مهاجم، پیشتر توسط تیم ایمنی این شرکت پس از گفتوگوهایش درباره خشونت مسلحانه پرچمگذاری شده بود، اما شرکت به پلیس خبر نداد.
آلتمن نامهای خطاب به جامعه محلی منتشر کرد و نوشت OpenAI «عمیقاً متأسف» است که با مقامهای انتظامی تماس نگرفته است. بر اساس این شکایت، او اصلاحاتی را وعده داد اما هرگز آنها را پیاده نکرد، با وجود تلاشهای دادستان کل بریتیش کلمبیا برای گفتوگو با شرکت.
بر اساس این شکایت، مدرسهای که تیراندازی در آن رخ داد در حال تخریب است و این ایالت ناچار شده هزینههای ساخت مدرسه جدید، مراقبتهای سلامت روان و دیگر پیامدهای این حادثه را بپردازد.
دریو پوساتری، سخنگوی OpenAI، این حادثه را فاجعهای توصیفناپذیر خواند و گفت: «OpenAI متعهد به ادامه همکاری با دولت و مقامهای انتظامی و پیشبرد کارهای ایمنی جاریاش است.»
شکایت بریتیش کلمبیا پس از آن مطرح میشود که بیش از ۳۰ نفر از اعضای خانواده قربانیان و دیگر افراد متأثر از این حمله، شکایتهایی در کالیفرنیا تنظیم کردهاند و شرکت را به از دست دادن فرصتی برای پیشگیری از تیراندازی متهم کردهاند.
به گفته پلیس، ونروتسلار در ۱۰ فوریه مادر و ناتنیاش را در خانه به قتل رساند و سپس یک دستیار آموزشی و پنج دانشآموز ۱۲ و ۱۳ ساله را در مدرسه سابقش کشت. او که ۱۸ سال داشت، سپس خودکشی کرد.
تعاملات ونروتسلار با ChatGPT اولین بار در ژوئن ۲۰۲۵ توسط شرکت پرچمگذاری شد. بر اساس شکایت که به افشاگران OpenAI که پس از این تیراندازی با والاستریت ژورنال صحبت کردند استناد میکند، اعضای تیم ایمنی توصیه کردند با پلیس تماس گرفته شود، اما آلتمن و دیگر رهبران OpenAI این توصیه را وتو کردند.
حساب کاربری مهاجم غیرفعال شد، اما او توانست حساب جدیدی بسازد و استفاده از پلتفرم را برای برنامهریزی حملهاش ادامه دهد.
پس از انتشار مقاله والاستریت ژورنال، این شرکت گفت حساب کاربری توسط سیستمهایی که «سوءاستفاده از مدلهای ما برای پیشبرد فعالیتهای خشونتآمیز» را شناسایی میکنند پرچمگذاری شده بود، اما این موارد معیارهای داخلی شرکت برای گزارش به مقامهای انتظامی را برآورده نکرده است.
این شکایت پس از زنجیرهای از پروندههای مشابه علیه OpenAI در دادگاههای ایالتی و فدرال آمریکا در ماههای اخیر مطرح میشود که ادعا میکنند ChatGPT تسهیلکننده خشونت بوده است؛ از جمله شکایتهای مربوط به تیراندازی جمعی در دانشگاه ایالتی فلوریدا در سال گذشته.
در ژوئن، فلوریدا اولین ایالتی بود که از OpenAI بهدلیل خطرهای ایمنی شکایت کرد و این شرکت را به ارائه تصویری نادرست از ایمنی پلتفرم ChatGPT متهم کرد؛ شکایت میگوید این پلتفرم با ارائه اطلاعات به مهاجمان مدارس، دادن راهنمایی درباره خودآزاری و اعتیادآور بودن برای کاربران جوان به کودکان آسیب زده است.
OpenAI که این ادعاها را رد کرده میگوید مدلهایش را طوری آموزش میدهد که درخواستهایی که میتوانند «بهشکل معنادار خشونت را ممکن کنند» رد کند و وقتی گفتوگوها نشاندهنده «خطری قریبالوقوع و معتبر برای آسیب به دیگران» باشند به مقامهای انتظامی اطلاع میدهد.