هاگینگ‌فیس و اوپن‌روتر متحد شدند؛ اجرای مدل‌های باز با یک توکن و یک API
هوش مصنوعی جهان

هاگینگ‌فیس و اوپن‌روتر متحد شدند؛ اجرای مدل‌های باز با یک توکن و یک API

۲۶ آبان ۱۴۰۵ ⏱ ۴ دقیقه مطالعه 👁 ۰ بازدید ✍️ تحریریه رشدینو
✈️ اشتراک در تلگرام 💬 واتساپ 𝕏 توییتر
📌 نکات کلیدی و خلاصه خبر پاسخ سریع در یک نگاه

هاگینگ‌فیس مسیریاب داخلی خود را کنار گذاشت و درخواست‌های مدل‌های زبانی را به اوپن‌روتر سپرد؛ نتیجه، انتخاب خودکار بهترین ارائه‌دهنده بر اساس قیمت، سرعت و پایداری و تلاش دوباره روی ارائه‌دهنده دیگر است.

✨ تحلیل رشدینو نگاه اختصاصی تیم رشدینو

جهش سهم مدل‌های باز از ۲۶.۸ به ۷۱.۷ درصد ترافیک نشان می‌دهد فاصله «کیفیت» دیگر تنها معیار انتخاب نیست؛ برای تیم‌های ایرانی که با محدودیت پرداخت ارزی روبه‌رو هستند، مسیریابی ارزان‌تر و تلاش مجدد خودکار می‌تواند تفاوت بین دمو و محصول باشد.

هاگینگ‌فیس (Hugging Face) و اوپن‌روتر (OpenRouter) برای آسان کردن اجرای مدل‌های با وزن باز با هم متحد شده‌اند. هر انتشار مهم مدل باز همین حالا در هاب هاگینگ‌فیس منتشر می‌شود و اوپن‌روتر این مدل‌ها را در مقیاس سرو می‌کند و هر درخواست را بر اساس اندازه‌گیری‌های زنده از عملکرد هر ارائه‌دهنده، میان بیش از ۸۰ ارائه‌دهنده مسیریابی می‌کند.

با این همکاری، هر مدل با وزن بازی در هاب که ارائه‌دهنده‌ای آن را سرو می‌کند، می‌تواند با توکن هاگینگ‌فیس شما، از طریق همان API و با انتخاب بهترین ارائه‌دهنده برای هر درخواست فراخوانی شود.

امروز مسیریاب اختصاصی خود هاگینگ‌فیس (Inference Providers) را کنار گذاشتیم و از مسیریاب اوپن‌روتر استفاده می‌کنیم. درخواست‌هایی که به مدل‌های زبانی می‌رود حالا از اوپن‌روتر عبور می‌کند که برای هر فراخوانی بر اساس قیمت، سرعت و پایداری زنده بهترین ارائه‌دهنده را انتخاب می‌کند و اگر ارائه‌دهنده اول شکست بخورد، درخواست را روی ارائه‌دهنده دیگری دوباره امتحان می‌کند. کد شما همان می‌ماند.

با همان ابزارهایی که دارید اجرا کنید

این مسیریاب برای هر مدل چت، از API چت کامپلشن و ریسپانسز اوپن‌ای‌آی و API پیام‌های انتروپیک پشتیبانی می‌کند، هر ارائه‌دهنده‌ای که پشت آن باشد. عامل کدنویسی یا SDK خود را انتخاب کنید، مدلی را برگزینید و بعد مراحل را کپی کنید یا کل تنظیمات را به شکل یک پرامپت برای عاملتان کپی کنید. راهنمای راه‌اندازی برای کلود کد، کدکس، اوپن‌کد، Pi و هرمس ایجنت موجود است.

همان توکن هاگینگ‌فیس همچنین ذخیره‌سازی با سطل‌های ذخیره‌سازی، توان محاسباتی با جابز و استنتاج اختصاصی با Inference Endpoints را در اختیارتان می‌گذارد. پلن‌های PRO، تیم و سازمانی اعتبار ماهانه برای محاسبات و استنتاج دارند.

مدل‌های با وزن باز چگونه استفاده می‌شوند؟

بر اساس داده‌های اوپن‌روتر از اکتبر ۲۰۲۶، سهم مدل‌های با وزن باز در توکن‌های سروشده از ۲۶.۸ درصد در اکتبر ۲۰۲۵ به ۷۱.۷ درصد در پایان سپتامبر ۲۰۲۶ رسید، پس از این‌که در جولای به ۷۷.۵ درصد اوج گرفت. در همین بازه، حجم هفتگی مدل‌های باز بیش از ۶۰ برابر شد، در مقابل کمتر از ده برابر برای مدل‌های بسته. این هفته پرکاربردترین مدل در اوپن‌روتر یک مدل با وزن باز است: دیپ‌سیک V4.1 فلش ۱۰۱۷ با ۵۹.۲ تریلیون توکن.

مدل‌های با وزن باز به‌طور میانگین حدود چهار برابر ارزان‌ترند: ۰.۲۸ دلار برای هر میلیون توکن ورودی و ۱.۶۲ دلار برای هر میلیون توکن خروجی، در مقابل ۱.۲۷ و ۶.۳۶ دلار برای مدل‌های بسته.

بهترین مدل‌های با وزن باز همچنان در دشوارترین بنچمارک‌ها از بهترین مدل‌های اختصاصی عقب‌اند. در شاخص هوشی آرتیفیشیال آنالیز، کیمی K3.1 پرو به‌عنوان بهترین مدل با وزن باز امتیاز ۴۶ می‌گیرد، در مقابل ۶۵ برای کلود فِیبل ۵.۲، با هزینه‌ای حدود یک‌هفتم به‌ازای هر وظیفه (۳.۶۸ دلار در مقابل ۲۶.۵۴ دلار). برای بسیاری از کارها این معامله می‌ارزد.

مسیریابی با قدرت اوپن‌روتر

اوپن‌روتر ماهانه بیش از ۸۰۰ تریلیون توکن را به بیش از ۱۰ میلیون کاربر، در بیش از ۶۰۰ مدل از بیش از ۸۰ ارائه‌دهنده سرو می‌کند. مسیریابی‌اش بر اندازه‌گیری زنده هر ارائه‌دهنده در همین ترافیک استوار است.

اوپن‌روتر به‌تازگی مسیریابی ارائه‌دهنده‌اش را بازسازی کرده است: به‌جای نگاه کردن فقط به پایین‌ترین قیمت فهرست، هر درخواست را به ارائه‌دهنده‌ای می‌فرستد که بهترین ترکیب قیمت، سرعت و پایداری را دارد.

وقتی ارائه‌دهنده‌ای کند می‌شود یا شروع به خطا دادن می‌کند، ترافیک از آن دور می‌شود تا وقتی که بازیابی شود، و یک تلاش ناموفق در همان فراخوانی روی ارائه‌دهنده بعدی دوباره امتحان می‌شود. در اندازه‌گیری‌های اوپن‌روتر، مسیریابی تازه خطاهای ظرفیت را ۴۶ درصد کاهش داده و زمان تا نخستین توکن را ۱۶.۹ درصد و توان عبوری را ۱۶.۳ درصد بهبود داده است.

پیش‌تر، Inference Providers یک ارائه‌دهنده را برای درخواست شما انتخاب می‌کرد و اگر شکست می‌خورد خطای همان را برمی‌گرداند. حالا درخواست روی ارائه‌دهنده دیگری دوباره امتحان می‌شود. همچنان می‌توانید سیاست یا ارائه‌دهنده را با یک پسوند روی شناسه مدل انتخاب کنید: مثلاً zai-org/GLM-5.3 برای ترکیب پیش‌فرض بهترین قیمت، سرعت و پایداری، همان شناسه با پسوند :fastest برای بالاترین توان عبوری، با پسوند :cheapest برای پایین‌ترین قیمت و پسوند نام یک ارائه‌دهنده مثل :novita برای استفاده فقط از همان.

مسیریابی همچنین نسبت به کش آگاه است: یک گفت‌وگو روی ارائه‌دهنده‌ای می‌ماند که کش پرامپتش را در اختیار دارد. برای صریح کردن این موضوع، برای هر گفت‌وگو یک UUID پایدار در هدر X-HF-Session-Id بفرستید.

قیمت‌گذاری

قیمت‌ها تغییری نمی‌کند: قیمت ارائه‌دهنده را در صورتحساب هاگینگ‌فیس می‌پردازید و هاگینگ‌فیس چیزی روی آن اضافه نمی‌کند. کاربران PRO ماهانه ۲ دلار اعتبار و سازمان‌های تیم و سازمانی ۲ دلار به‌ازای هر صندلی می‌گیرند.

تولید تصویر، ویدیو و صدا

تولید تصویر، ویدیو و صدا دقیقاً مثل قبل و مستقیم از Inference Providers هاگینگ‌فیس و بدون عبور از اوپن‌روتر کار می‌کند. می‌توانید همان توکن و API را استفاده کنید و به ده‌ها هزار LoRA دسترسی داشته باشید.

ببینید درخواست‌هایتان کجا می‌رود

در صفحه مدل‌ها می‌توانید همان‌جا در ویجت با مدل گفت‌وگو کنید. دو زبانه تازه نشان می‌دهد پشت آن چه خبر است: زبانه Providers همه ارائه‌دهندگانی را که اوپن‌روتر می‌تواند مدل را به آن‌ها مسیریابی کند فهرست می‌کند، با قیمت ورودی و خروجی، سرعت و آپتایم ۲۴ ساعت گذشته، و زبانه Metrics بهترین قیمت، توان عبوری، زمان تا نخستین توکن، طول زمینه و آپتایم میان آن‌ها را نشان می‌دهد.

در نمای مصرف، هزینه‌تان به تفکیک ارائه‌دهنده‌ای که هر درخواست به آن رفته شکسته می‌شود. در تنظیمات می‌توانید هر ارائه‌دهنده‌ای را که نمی‌خواهید خاموش کنید تا مسیریاب هرگز درخواست‌هایتان را به آن نفرستد. سازمان‌ها همین تنظیمات را دارند و روی هر درخواستی که به سازمان صورتحساب می‌شود اعمال می‌شود.

تغییر ناسازگار: کلیدهای اختصاصی ارائه‌دهنده

درخواست‌ها به مدل‌های زبانی حالا از اوپن‌روتر عبور می‌کند و به حساب یا سازمان هاگینگ‌فیس شما صورتحساب می‌شود، پس دیگر نمی‌توانید برای این مدل‌ها از کلید API خودتان برای یک ارائه‌دهنده استفاده کنید. همچنان می‌توانید ارائه‌دهنده را با پسوند روی شناسه مدل انتخاب کنید یا ارائه‌دهنده‌ها را در تنظیمات خاموش کنید و کدتان تغییر نمی‌کند. کلیدهای اختصاصی ارائه‌دهندگان تصویر و ویدیو کار خود را ادامه می‌دهند.

قدم بعدی

این نخستین گام همکاری ما با اوپن‌روتر است. در ادامه: اتصال حساب اوپن‌روتر به هاگینگ‌فیس و مسیریابی وظایف بیشتر از طریق اوپن‌روتر.

منبع: Hugging Face ←

❓ پرسش‌های متداول درباره این خبر

موضوع اصلی گزارش «هاگینگ‌فیس و اوپن‌روتر متحد شدند؛ اجرای مدل‌های باز با یک توکن و یک API» چیست؟

هاگینگ‌فیس مسیریاب داخلی خود را کنار گذاشت و درخواست‌های مدل‌های زبانی را به اوپن‌روتر سپرد؛ نتیجه، انتخاب خودکار بهترین ارائه‌دهنده بر اساس قیمت، سرعت و پایداری و تلاش دوباره روی ارائه‌دهنده دیگر است.

این رویداد چه اهمیتی برای فعالان کسب‌وکار و فناوری دارد؟

د شده‌اند. هر انتشار مهم مدل باز همین حالا در هاب هاگینگ‌فیس منتشر می‌شود و اوپن‌روتر این مدل‌ها را در مقیاس سرو می‌کند و هر درخواست را بر اساس اندازه‌گیری‌های زنده از عملکرد هر ارائه‌دهنده، میان بیش از ۸۰ ارائه‌دهنده مس

🔗 اخبار مرتبط

بخوانید