متا پلتفرمز روز دوشنبه Muse Ember را معرفی کرد؛ یک مدل هوش مصنوعی سطح ورودی که بهطور قابل توجهی از رقبا ارزانتر است. نکته قابل توجه اینکه این نخستین مدلی است که شرکت با استفاده از Muse Wonder آموزش داده؛ همان مدل زبانی بزرگ پرچمدار متا. متا مشخص نکرد کدام بخش از جریان کار را با Muse Wonder خودکار کرده است.
یک احتمال این است که شرکت از آن برای پسآموزش استفاده کرده باشد؛ همان کاری که با آموزش مدل روی دادههای بیشتر، تواناییهایش را صیقل میدهد. شرکت Thinking Machines Labs اخیراً نشان داد حتی یک مدل زبانی نسبتاً کوچک هم میتواند فرایند پسآموزش را سرتاسری اجرا کند. Anthropic هم هفته گذشته اعلام کرد مدلهایش بهزودی میتوانند پژوهش یادگیری ماشین را بهطور قابل توجهی سرعت بدهند.
کاربردها اغلب از مدلهای مرزی مثل Muse Wonder بهعنوان بخشی از ترکیب چندمدلی استفاده میکنند. وقتی کاربر درخواستی وارد میکند، مدل مرزی آن را به وظایف کوچکتر میشکند و به عاملهایی میسپارد که با مدل کمهزینهتری کار میکنند. به گفته متا، Muse Ember دقیقاً برای همین نقش دوم بهینه شده است.
متا مدل را با شاخص Artificial Analysis ارزیابی کرد؛ شاخصی که نه بنچمارک هوش مصنوعی در حوزههایی مثل کدنویسی و تحلیل مالی را کنار هم میگذارد. متا میگوید Muse Ember امتیاز مدل سطح ورودی Claude Haiku 5.5 از Anthropic را با حدود یکسوم قیمت تکرار کرد و از GPT-6 Luna، مدل قابل مقایسه OpenAI، بهتر عمل کرد.
در همان ارزیابی داخلی، متا Muse Ember و دو مدل رقیب را روی نه بنچمارک دیگر هم آزمود. هر سه مدل در حالت «max» بودند؛ یعنی بیشترین توان سختافزاری در دسترس را به کار میبردند و اولویتشان صرفهجویی نبود. Muse Ember در هفت بنچمارک از نه بنچمارک بهتر از Haiku و Luna عمل کرد.
حوزهای که مدل در آن بیشترین برتری را دارد، خودکارسازی وظایف کسبوکار است. بیشتر نتایج Muse Ember در بنچمارکها فقط چند درصد بهتر از Haiku و Luna بود، اما در AutomationBench-AA با ۱۷ درصد اختلاف پیشتاز شد. این بنچمارک مجموعهای از ۶۵۷ وظیفه است که برنامههای ابری رایج مثل Gmail و Salesforce را در بر میگیرد.
Muse Ember پنجره بافت یک میلیون توکنی دارد که به آن امکان میدهد اسناد طولانی کسبوکار را بخواند. کاربران میتوانند تصویر، صدا و ویدیو هم در درخواست خود بگنجانند. مدل پاسخهایی تا ۵۱۲ هزار توکن تولید میکند.
Muse Ember از طریق Model API متا با قیمت ۱۰ سنت برای هر میلیون توکن ورودی و ۵۰ سنت برای هر میلیون توکن خروجی در دسترس است. یک حافظه پنهان داخلی میتواند درخواستهای پرتکرار را دوباره استفاده کند و از پردازش تکراری جلوگیری کند. وقتی این ویژگی فعال باشد، قیمت Muse Ember به ۰.۴ سنت برای هر میلیون توکن ورودی کاهش مییابد.
این قیمتگذاری، مدل را برای سناریوهایی جذاب میکند که در آنها یک مدل بزرگتر درخواست را میشکند و دهها زیروظیفه کوچک به عاملها سپرده میشود. در چنین معماریای، هزینه هر توکن مدل کوچک تعیینکننده اقتصاد کل محصول است، نه قیمت مدل مرزی. متا با این حرکت هم جای خود را در لایه زیرین عاملها تثبیت میکند و هم نشان میدهد که آموزش یک مدل کوچک با مدل پرچمدار خودش، به کاهش هزینه و وابستگی کمتر به تأمینکننده بیرونی منجر میشود.
رقابت قیمتی در این لایه در ماههای اخیر شدت گرفته و مدلهای سطح ورودی از یک ابزار ارزان به زیرساخت اصلی محصولات عاملی تبدیل شدهاند. برای تیمهایی که پیشتر همه درخواستها را به مدل مرزی میفرستادند، جایگزینی بخشی از مسیر با مدل کمهزینه میتواند هزینه ماهانه را چند برابر کاهش بدهد؛ به شرط آنکه معیار موفقیت از ابتدا برای حفظ کیفیت در وظایف حساس تعریف شده باشد.