跳到主要内容
检索

# 私有模型网关

1 篇关联报道

订阅更新
  1. mastra.ai

    Mastra 智能体可接自托管开源模型:私有网关把请求留在本机,绕开第三方

    Mastra 推出私有模型网关,让智能体请求可以路由到自托管的开源权重模型。此前使用托管服务商时,数据会离开自有网络,HIPAA 或 GDPR 合规会变复杂,除非事先签好数据留存协议;现在只需给网关一个自定义 ID,就能在智能体配置里以 private/ollama/gpt-oss:20b 这样的前缀调用本地模型。自托管去掉了第三方,成本只计基础设施而非按 token 计费,并可用环境变量隐藏外部服务商。

已读完全部报道