شرکت انتروپیک (Anthropic)، سازنده خانواده مدلهای هوش مصنوعی کلود (Claude)، از آغاز پژوهش و توسعه سیستمی منبعباز به نام FlashProve خبر داد که با هدف راستیآزمایی ریاضی هویت مدلهای تولیدکننده خروجی طراحی شده است. این پروتکل نوعی استنتاج اثباتپذیر (Provable Inference) به ارمغان میآورد؛ ضمانتی رمزنگاریشده که به کاربر اثبات میکند پاسخ دریافتی دقیقاً از همان مدلی تولید شده که ادعا میشود، نه یک نسخه ضعیفتر یا دستکاریشده.
کارکرد این فناوری به امضاهای دیجیتال در سیستمهای تبادل ایمیل امن شباهت دارد، با این تمایز که FlashProve در برابر ادعاهای نادرست یا فریبکاری حتی از سوی خود توسعهدهنده یا میزبانیکننده سرویس مقاوم است. پژوهشگران انتروپیک خاطرنشان میکنند که این مکانیزم میتواند مانع از تخلف ارائهدهندگان سرویسهای ابری شود که به منظور کاهش هزینههای پردازش محاسباتی، به طور مخفیانه مدلهای ارزانتر و کوچکتر را جایگزین مدلهای بزرگ و گرانقیمت در پشت صحنه API میکنند. همچنین از ترفند معکوس یعنی اجرای مدلهای بسیار سنگینتر به منظور جعل رکوردهای بنچمارک در مدلهای ضعیف جلوگیری خواهد شد.
کاربرد دیگر FlashProve در ارزیابی ادعاهای شرکتهای شخص ثالث است. به عنوان مثال، اگر یک شرکت مدعی شود که کتابخانه نرمافزاری آن توسط یک مدل پیشرفته امنیت سایبری برای کشف آسیبپذیریها اسکن شده، یا یک استارتاپ ادعا کند طرح تجاریاش به تأیید یک مدل انترپرایز تخصصی رسیده، مشتریان و کاربران میتوانند به راحتی با ابزارهای اعتبارسنجی صحت این ادعا را راستیآزمایی کنند.
سیستم برای فعالیت نیازمند آن است که آزمایشگاههای هوش مصنوعی هنگام انتشار هر مدل، یک «اثر انگشت» رمزنگاریشده (Fingerprint) از مدل منتشر سازند. این اثر انگشت به گونهای طراحی شده که هیچکدام از وزنهای محرمانه مدل (Weights) — که باارزشترین دارایی معنوی و انحصاری شرکتهایی نظیر انتروپیک و اوپنایآی به شمار میروند — فاش نمیشوند. بدین ترتیب شرکتهای ارائهدهنده مدلهای تجاری میتوانند بدون ترس از افشای ساختار داخلی شبکه عصبی، امکان اعتبارسنجی خروجیها را روی دستگاههای محلی کاربران فراهم نمایند.
انتروپیک همزمان با معرفی این طرح، مشخصات فنی دقیق و کدهای اجرایی بخشهایی از این سیستم را تحت یک مجوز منبعباز روی گیتهاب (GitHub) منتشر کرده است. محققان پروژه تصریح کردهاند که این مقاله نمایانگر مراحل میانی یک طرح پژوهشی باز است و هنوز در سامانههای عملیاتی کلود مستقر نشده است؛ هدف اصلی از عمومی کردن کدها، ترغیب جامعه تحقیقاتی برای بهبود، توسعه و استانداردسازی پروتکلهای اثبات استنتاج هوش مصنوعی است.