跳到主要内容
检索

# 大模型提供商路由

1 篇关联报道

订阅更新
  1. OpenRouter Blog

    OpenRouter 的路由接管 Hugging Face 推理:160 个模型自动选价、选速、选稳定

    Hugging Face 上的聊天模型推理现在由 OpenRouter 的提供商路由驱动,按实时价格、速度和可靠性为每次请求挑选服务商,并支持故障自动切换。此前开发者需要自己在多个服务商之间做选择。OpenRouter 称其十月重建路由时的在线实验测得容量错误请求减少 46%、首 token 时间快 16.9%、吞吐高 16.3%,代价是每次请求成本高 6.0%。目前以这种方式提供 160 个模型,来自 38 个实验室。

已读完全部报道