متا روز سهشنبه از انتشار Muse خبر داد؛ عامل هوش مصنوعی شخصی که کاربران میتوانند با پیامدادن به آن، وظایف دیجیتالی را در یک محیط ابری امن خودکار کنند؛ همه اینها در حالی است که به گفته این شرکت، امنیت و حریم خصوصی «از همان ابتدا در آن تعبیه شده» است.
متا میگوید Muse از امروز برای کاربران iOS و اندروید در یک اپ اختصاصی به نام Muse و همچنین وبسایت Muse.ai عرضه میشود. کاربران همچنین میتوانند مستقیماً در واتساپ با این عامل ارتباط برقرار کنند. به گفته متا، کاربران عینکهای هوش مصنوعی این شرکت نیز بهزودی میتوانند با عامل Muse تعامل داشته باشند. استفاده از Muse بهصورت رایگان امکانپذیر است، اما کاربرانی که میخواهند بسیاری از وظایف دیجیتالی را خودکار کنند، به یکی از برنامههای اشتراک هوش مصنوعی این شرکت نیاز خواهند داشت.
Muse تازهترین تلاش متا برای رقابت با عاملهای هوش مصنوعی ویروسی مانند OpenClaw و Instinct است؛ عواملی که کاربران با پیامدادن به آنها وظایف دیجیتالی را خودکار میکنند. Muse محصول Meta Superintelligence Labs است؛ واحد هوش مصنوعی که مارک زاکربرگ، مدیرعامل متا، حدود یک سال پیش برای رسیدن به OpenAI و Anthropic تشکیل داد و برای جذب پژوهشگر، بستههای جبرانی چشمگیری ارائه کرد. این واحد بر این باور بنا شده که عاملهای هوش مصنوعی نحوه گشتوگذار کاربران عادی در اینترنت و همچنین محصولات متا را متحول خواهند کرد.
وایرِد پیشتر گزارش کرده بود که متا Muse را در داخل با نام رمز «Hatch» آزمایش میکند و کارمندان از آن برای راهاندازی خودکار برنامههای شخص ثالث و مرور وب از طرف خودشان استفاده میکردند.
متا در یک پست وبلاگی ادعا میکند هر کسی میتواند بدون هیچ آمادهسازی از Muse استفاده کند و این محصول طوری طراحی شده که «هیچ منحنی یادگیری وجود نداشته باشد». کاربران میتوانند به زبان طبیعی به Muse دستور دهند و این عامل بهتنهایی کارهایی مانند ارسال ایمیل، رزرو سفر یا حتی کمک به فروش خودرو از طرف کاربر انجام میدهد.
Muse همچنین میتواند از طرف کاربر خرید انجام دهد و پرداخت را با زیرساخت ویژهای که Stripe طراحی کرده به پایان برساند. این ابزار پرداخت که Stripe آن را Link مینامد، یک شماره کارت یکبارمصرف صادر میکند تا عاملها اطلاعات مالی واقعی افراد را در سراسر اینترنت وارد نکنند. متا میگوید Muse نخستین عامل هوش مصنوعی است که تحت پوشش محافظتهای خرید Link برای عاملها قرار میگیرد؛ محافظتی که بازگشت رایگان کالا را تضمین میکند.
متا در عرضه یک عامل شخصی دیر کرده، اما به نظر میرسد میخواهد با تمرکز روی ویژگیهای امنیتی و حریم خصوصی خود را متمایز کند. این عامل با معماریای برای همه کاربران به نام Secure VM عرضه میشود که برای جداسازی فعالیت هر کاربر در یک ماشین مجازی طراحی شده تا دادههای غیرقابل اعتماد وب و هرگونه یکپارچهسازی، از بخشی از عامل که واقعاً میتواند از طرف کاربر اقدام کند، جدا بماند.
یک عامل هوش مصنوعی شخصی به اعتماد زیادی از سوی کاربر نیاز دارد؛ چیزی که متا بهطور خاص در طول سالها با آن به شدت دستوپنجه نرم کرده است. متا برای اینکه کاربران Muse را امتحان کنند — و اجازه دهند این عامل به برنامهها و خدمات شخص ثالث آنها متصل شود — تلاش میکند آنها را قانع کند که میتوانند به نحوه مدیریت دادههایشان توسط این شرکت اعتماد کنند.
«ما میدانیم اگر قرار باشد محصولی بسازیم که بتواند به منابع زیادی از دادههای شخصی دسترسی داشته باشد، بسیار مهم است که در این زمینه مسئول باشیم؛ به همین دلیل این سیستم را بسیار عمدی طراحی کردهایم»، میگوید دیوید سینگلتون، معاون مهندسی محصولات مصرفکننده در Meta Superintelligence Lab. «و ما چیزی ساختهایم که آن را سنتینل (Sentinel) مینامیم؛ سیستمی که مراقب هر چیزی است که از ماشین مجازی خارج میشود و یا آن را با سیاست موجودی که کاربر یا سیستم برای آن اجازه داده مطابقت میدهد، یا گفتوگویی با حضور انسان ارائه میدهد تا از شما بخواهد اقدامی را که قرار است انجام شود تأیید کنید.»
سینگلتون خاطرنشان میکند این پیامهای تأیید انسانی مستقیماً به خود کاربر میرسند و از فیلتر شدن از طریق مدل عبور نمیکنند تا در برابر حملههایی مانند تزریق پرامپت (prompt injection) محافظت ایجاد شود.
اگرچه Secure VM برای حفظ امنیت و حریم خصوصی کاربر ساخته شده، اما یک جعبه کاملاً قفلشده نیست. سینگلتون میگوید اگرچه سیاست، متا را از دسترسی به دادههای کاربر در Muse منع میکند، اما از نظر فنی همچنان امکانپذیر است. کاربران میتوانند اجازه استفاده از دادههایشان برای آموزش را لغو کنند.
معماری Secure VM از منظر حریم خصوصی قابل توجه است، حتی اگر فقط راهی برای تعیین استاندارد جدید صنعتی برای عاملهای هوش مصنوعی باشد. متا در نهایت Muse «Confidential VM» را نیز ارائه خواهد کرد؛ سیستمی که طوری طراحی شده هر ماشین مجازی در یک «محیط اجرای مورد اعتماد» اجرا شود و کاربران کلیدهای دسترسی خود را بهصورت محلی روی دستگاههایشان مدیریت کنند. به این ترتیب هیچکس دیگری — حتی خود متا — نمیتواند به ماشین مجازی عامل کاربر دسترسی پیدا کند.
Confidential VM بخشی از همکاری متا با موکسی مارلیناسپایک است؛ خالق اپ پیامرسان رمزگذاریشده سرتاسری Signal که در سالهای اخیر پلتفرم هوش مصنوعی حریمخصوصیمحور Confer را نیز توسعه داده است.
وایرِد پیشنویس اولیه یک مقاله فنی (white paper) درباره Confidential VM را مشاهده کرده است. متا علاوه بر ساختاربندی سیستم بهگونهای که کاربر کلیدهای دسترسی خود را کنترل میکند، به شرکتهای امنیتی منتخب نیز برای ممیزی و راستیآزمایی منظم تضمینهای حریم خصوصی، دسترسی به سورسکد Confidential VM میدهد. متا همچنین فایلهای باینری Confidential VM و یک گزارش شفافیت منتشر خواهد کرد تا کاربران بتوانند اعتبار و یکپارچگی اتصال خود به Muse را راستیآزمایی کنند.
سینگلتون تأکید میکند Secure VM موز بهطور گستردهای بررسی شده؛ از جمله توسط تیمهای قرمز انسانی و عاملی متا و همچنین برنامه جایزه باگ خصوصی این شرکت. حالا متا Muse را به محدوده جایزه باگ عمومی خود نیز اضافه کرده است؛ با پرداختهایی تا سقف ۳۰۰ هزار دلار برای یافتن آسیبپذیریهای معتبر، از جمله تا ۱۳۰ هزار دلار برای حمله موفق تزریق پرامپت که یک کاربر واحد را تحت تأثیر قرار دهد.