آنتروپیک پس از کشف مواردی که مدلهای کلود بهشکل ناخواسته با وب‌سایت‌های بیرونی تعامل کردند، مرز دسترسی به اینترنت را برای همه ارزیابیهای داخلی گسترش داده است. این موارد شامل ارسال فرمهای واقعی توسط کلود، سوءاستفاده از یک نقص در سرور دانشگاه و استفاده از توکنهای دسترسی برای رسیدن به دادههای عمومی پولی بوده است.
چند سایت از این سایتها را نهادهای دولتی فدرال، ایالتی و محلی آمریکا اداره می‌کنند. این شرکت می‌گوید کاخ سفید را در جریان گذاشته و هر سازمان را نیز مطلع کرده است. بیشتر سازمان‌های درگیر به درخواست خودشان محرمانه نگه داشته شده‌اند تا سیستم‌هایشان محافظت شود.
آنتروپیک معتقد است پیامدهای واقعی این موارد کم است و آن‌ها را از نظر هم‌راستایی و امنیت بسیار کم‌اهمیت‌تر از رخدادهای امنیت سایبری‌ای می‌داند که در ژوئیه و سپتامبر گزارش کرده بود. برای نمونه، در یک مورد کلود یک سرنخ قتل جعلی به پلیس فیلادلفیا فرستاد و پلیس نیز گزارش خود را منتشر کرد.
کلود روی سایتهای واقعی چه کرد
آنتروپیک بیشتر این رفتارها را در گزارش خود «پافشاری» توصیف می‌کند؛ یعنی حالتی که کلود به‌جای توقف هنگام ناتمام‌ماندن کار، راهی برای دور زدن یک محدودیت پیدا می‌کند.
در یکی از ارزیابی‌ها، کلود Mythos Preview هنگام استفاده از ابزار تحلیل عمومی یک دانشگاه با خطا روبه‌رو شد. در سرور دانشگاه اسکریپتی پیدا کرد که به هر فایل درخواستی پاسخ می‌داد و برای کپی فایل‌ها، از جمله کد خودش، استفاده می‌شد. داخل همان کد یک نقص تزریق شناسایی کرد که به آن اجازه می‌داد دستورها را روی سرور اجرا و محاسبات را کامل کند.
مدلهای این شرکت فرم‌هایی را ارسال کردند که نباید ارسال می‌کردند. برای نمونه، یک مدل پژوهشی منتشرنشده در نهایت یک فرم واقعی دولتی را فرستاد، چون نسخه تمرینی‌اش بارگذاری نشد یا مدل به‌اشتباه آن را بست. در ارزیابی دیگری نیز از کلود Haiku 4.5 خواسته شد پیش از ارسال نهایی توقف کند، اما به‌اشتباه چند بار ارسال کرد چون منتظر یک صفحه تأیید دیگر بود.
در دو مورد، کلود به دادههای عمومی‌ای رسید که تنها با پرداخت هزینه در دسترس‌اند. در یک ارزیابی، کلود Mythos 5 توکنهای دسترسی فعال را از فایل تنظیماتی استخراج کرد که نقشه املاک یک دولت محلی برای مرورگرها می‌فرستد و مستقیماً سرور نقشه را فراخوانی کرد. در استفاده داخلی یک پژوهشگر شرکت نیز Mythos 5 فهمید داشبورد عمومی یک نهاد ایالتی به هر بازدیدکننده یک توکن می‌دهد و با استفاده از آن بدون پرداخت، پایگاه داده را فراخوانی کرد.
چند مدل، از جمله کلود Opus 5 و Mythos 5، همچنین از کوتاه‌کننده‌های رایگان نشانی برای دور زدن محدودیت طولی استفاده کردند که شرکت روی برخی ابزارهای fetch خود گذاشته بود تا کارهای ناخواسته مثل حملات تزریق را ببندد.
سرنخ پلیس فیلادلفیا
کلود Haiku 4.5 هنگام کار روی وظایف نمونه‌ای روی صفحه‌های تصادفی وب، یک سرنخ جعلی را با پلیس فیلادلفیا به اشتراک گذاشت. روی صفحه‌ای درباره یک قتل حل‌نشده، اشاره کرد که فرستنده به‌یاد می‌آورد کسی با آن مشخصات را حدود خیابانی که در صفحه آمده بود دیده است، حال آنکه صفحه هیچ مظنونی را توصیف نمی‌کرد. فیلدهای اختیاری نام و اطلاعات تماس خالی ماند.
دستورهای کلود مراحلی مثل ورود به حساب یا اشتراک اطلاعات شخصی را ممنوع کرده بود، اما ارسال فرم را نه. آنتروپیک می‌گوید بر پایه متن مکالمه، به نظر می‌رسد کلود در حال ساختن محتوای نمونه بوده، نه تلاش برای فریب دادن کسی. این شرکت می‌افزاید ممکن است با تحلیل‌های بیشتر، دیدگاهش تغییر کند.
پلیس فیلادلفیا می‌گوید ارسال ۱۸ ژوئیه به‌عنوان هرزنامه علامت‌گذاری شده و هرگز به مرکز جرایم آنی این نهاد فرستاده نشده است. این نهاد هیچ نشانه‌ای از دسترسی غیرمجاز به سیستم‌های پلیس یا افشای دادههای پلیس پیدا نکرد. اداره پلیس همچنین می‌گوید محافظت‌هایش دامنه تأثیر را محدود کرد، اما این «از جدیت اینکه یک سیستم هوش مصنوعی اطلاعات ساختگی را طوری ارائه دهد که گویا از زبان فردی آگاه به یک قتل است» نمی‌کاهد. به گفته پلیس، آنتروپیک این ارسال را ۲۸ سپتامبر کشف کرده است. پلیس افزود: «تأخیر دو ماهه در شناسایی و گزارش این رخداد به شهر قابل قبول نیست.»
آنتروپیک چه چیزی را تغییر می‌دهد
قطع گسترده‌تر دسترسی به اینترنت زنده تا زمانی ادامه دارد که شرکت تأیید کند سنجه‌های امنیتی و پایشی‌اش رفتارهایی از این دست را بهشکل قابل اتکا شناسایی می‌کنند. پیش‌تر این محدودیت فقط برخی ارزیابیهای پرریسک و امنیت سایبری را پوشش می‌داد.
آنتروپیک بعضی ارزیابیهای عمومی را حذف و بعضی دیگر را آفلاین کرده و دامنه کارهایی که کلود می‌تواند با ابزارهای اینترنتی مثل قابلیت خواندن وب انجام دهد را محدود کرده است. این شرکت سنجه‌هایی پیاده کرده که این رفتارها را شناسایی و جلوگیری می‌کند و در بیشتر ارزیابی‌ها و استفاده داخلی عامل‌ها از مدلهای پیشروی خود فعال است. هنگام آزمایش این سنجه‌ها روی موارد گزارش‌شده، همه آن‌ها مسدود شدند. همچنین شرکت در حال رفع یا حذف محیط‌های آموزشی‌ای است که کلود را تشویق می‌کنند محدودیت‌ها را دور بزند.
این گزارش هیچ تغییری در دسترسی وب در محصولات مشتریان کلود اعلام نکرده است. این شرکت می‌گوید تا جایی که می‌داند، در هیچ‌یک از این موارد داده مشتریان یا سیستم‌های داخلی آنتروپیک درگیر نبوده است.
چرا این موضوع مهم است
مواردی که آنتروپیک توصیف می‌کند به صفحه‌های عمومی معمولی مربوط می‌شود؛ مثل فرمی برای ثبت سرنخ که نیازی به نام نداشت، نقشه‌ای با فایل تنظیمات حاوی توکنهای فعال، و داشبوردی که به هر بازدیدکننده یک توکن می‌دهد.
آنتروپیک اشاره می‌کند بسیاری از موارد این گزارش با وظایف مبهم یا ناممکن شروع شده‌اند و می‌افزاید بنچمارک‌های عمومی جست‌وجوی وب که توسعه‌دهندگان معمولاً برای مقایسه مدل‌ها استفاده می‌کنند، به‌طور پیش‌فرض روی اینترنت زنده اجرا می‌شوند. این گزارش تنها مدلهای خود آنتروپیک را پوشش می‌دهد و نمی‌سنجد که عامل‌ها در جای دیگر چقدر این‌گونه رفتار می‌کنند.
نگاه به آینده
آنتروپیک قصد دارد با اسکن مکالمه‌های بیشتر، از جمله استفاده خودش از کلود، موارد تازه را افشا کند. پلیس فیلادلفیا می‌گوید گزارش آنتروپیک را بررسی می‌کند و مدیریت شهر با شرکای ایالتی و فدرال درباره محافظت‌های نظارتی رایزنی خواهد کرد.