انتروپیک از سیستم منبع‌باز FlashProve برای اثبات رمزنگاری‌شده هویت مدل‌های هوش مصنوعی رونمایی کرد
هوش مصنوعی جهان مدل‌ها و چیپ‌ها

انتروپیک از سیستم منبع‌باز FlashProve برای اثبات رمزنگاری‌شده هویت مدل‌های هوش مصنوعی رونمایی کرد

۱۳ آبان ۱۴۰۵ ⏱ ۲ دقیقه مطالعه 👁 ۰ بازدید ✍️ تحریریه رشدینو
✈️ اشتراک در تلگرام 💬 واتساپ 𝕏 توییتر
📌 نکات کلیدی و خلاصه خبر پاسخ سریع در یک نگاه

انتروپیک سیستمی باز به نام FlashProve طراحی کرده که با اثبات ریاضی و رمزنگاری‌شده (Provable Inference)، امکان تأیید اصالت مدل ارائه‌دهنده خروجی را بدون افشای وزن‌های محرمانه مدل فراهم می‌سازد.

✨ تحلیل رشدینو نگاه اختصاصی تیم رشدینو

با ورود ایجنت‌های هوش مصنوعی به تراکنش‌های مالی و اعتباری، خطر تقلب شرکت‌ها در جابه‌جایی مخفیانه مدل‌های گران با مدل‌های ارزان به‌شدت بالا رفته است؛ FlashProve می‌تواند استاندارد جدید اعتماد در لایه نرم‌افزارهای ایجنتیک باشد.

شرکت انتروپیک (Anthropic)، سازنده خانواده مدل‌های هوش مصنوعی کلود (Claude)، از آغاز پژوهش و توسعه سیستمی منبع‌باز به نام FlashProve خبر داد که با هدف راستی‌آزمایی ریاضی هویت مدل‌های تولیدکننده خروجی طراحی شده است. این پروتکل نوعی استنتاج اثبات‌پذیر (Provable Inference) به ارمغان می‌آورد؛ ضمانتی رمزنگاری‌شده که به کاربر اثبات می‌کند پاسخ دریافتی دقیقاً از همان مدلی تولید شده که ادعا می‌شود، نه یک نسخه ضعیف‌تر یا دستکاری‌شده.

کارکرد این فناوری به امضاهای دیجیتال در سیستم‌های تبادل ایمیل امن شباهت دارد، با این تمایز که FlashProve در برابر ادعاهای نادرست یا فریب‌کاری حتی از سوی خود توسعه‌دهنده یا میزبانی‌کننده سرویس مقاوم است. پژوهشگران انتروپیک خاطرنشان می‌کنند که این مکانیزم می‌تواند مانع از تخلف ارائه‌دهندگان سرویس‌های ابری شود که به منظور کاهش هزینه‌های پردازش محاسباتی، به طور مخفیانه مدل‌های ارزان‌تر و کوچک‌تر را جایگزین مدل‌های بزرگ و گران‌قیمت در پشت صحنه API می‌کنند. همچنین از ترفند معکوس یعنی اجرای مدل‌های بسیار سنگین‌تر به منظور جعل رکوردهای بنچمارک در مدل‌های ضعیف جلوگیری خواهد شد.

کاربرد دیگر FlashProve در ارزیابی ادعاهای شرکت‌های شخص ثالث است. به عنوان مثال، اگر یک شرکت مدعی شود که کتابخانه نرم‌افزاری آن توسط یک مدل پیشرفته امنیت سایبری برای کشف آسیب‌پذیری‌ها اسکن شده، یا یک استارتاپ ادعا کند طرح تجاری‌اش به تأیید یک مدل انترپرایز تخصصی رسیده، مشتریان و کاربران می‌توانند به راحتی با ابزارهای اعتبارسنجی صحت این ادعا را راستی‌آزمایی کنند.

سیستم برای فعالیت نیازمند آن است که آزمایشگاه‌های هوش مصنوعی هنگام انتشار هر مدل، یک «اثر انگشت» رمزنگاری‌شده (Fingerprint) از مدل منتشر سازند. این اثر انگشت به گونه‌ای طراحی شده که هیچ‌کدام از وزن‌های محرمانه مدل (Weights) — که باارزش‌ترین دارایی معنوی و انحصاری شرکت‌هایی نظیر انتروپیک و اوپن‌ای‌آی به شمار می‌روند — فاش نمی‌شوند. بدین ترتیب شرکت‌های ارائه‌دهنده مدل‌های تجاری می‌توانند بدون ترس از افشای ساختار داخلی شبکه عصبی، امکان اعتبارسنجی خروجی‌ها را روی دستگاه‌های محلی کاربران فراهم نمایند.

انتروپیک هم‌زمان با معرفی این طرح، مشخصات فنی دقیق و کدهای اجرایی بخش‌هایی از این سیستم را تحت یک مجوز منبع‌باز روی گیت‌هاب (GitHub) منتشر کرده است. محققان پروژه تصریح کرده‌اند که این مقاله نمایانگر مراحل میانی یک طرح پژوهشی باز است و هنوز در سامانه‌های عملیاتی کلود مستقر نشده است؛ هدف اصلی از عمومی کردن کدها، ترغیب جامعه تحقیقاتی برای بهبود، توسعه و استانداردسازی پروتکل‌های اثبات استنتاج هوش مصنوعی است.

منبع: techcrunch.com ←

❓ پرسش‌های متداول درباره این خبر

موضوع اصلی گزارش «انتروپیک از سیستم منبع‌باز FlashProve برای اثبات رمزنگاری‌شده هویت مدل‌های هوش مصنوعی رونمایی کرد» چیست؟

انتروپیک سیستمی باز به نام FlashProve طراحی کرده که با اثبات ریاضی و رمزنگاری‌شده (Provable Inference)، امکان تأیید اصالت مدل ارائه‌دهنده خروجی را بدون افشای وزن‌های محرمانه مدل فراهم می‌سازد.

این رویداد چه اهمیتی برای فعالان کسب‌وکار و فناوری دارد؟

ستمی منبع‌باز به نام FlashProve خبر داد که با هدف راستی‌آزمایی ریاضی هویت مدل‌های تولیدکننده خروجی طراحی شده است. این پروتکل نوعی استنتاج اثبات‌پذیر (Provable Inference) به ارمغان می‌آورد؛ ضمانتی رمزنگاری‌شده که به کاربر

# مدل‌ها و چیپ‌ها
🔗 اخبار مرتبط

بخوانید