Mastra 智能体可接自托管开源模型:私有网关把请求留在本机,绕开第三方
Mastra 推出私有模型网关,让智能体请求可以路由到自托管的开源权重模型。此前使用托管服务商时,数据会离开自有网络,HIPAA 或 GDPR 合规会变复杂,除非事先签好数据留存协议;现在只需给网关一个自定义 ID,就能在智能体配置里以 private/ollama/gpt-oss:20b 这样的前缀调用本地模型。自托管去掉了第三方,成本只计基础设施而非按 token 计费,并可用环境变量隐藏外部服务商。
Mastra 推出私有模型网关,让智能体请求可以路由到自托管的开源权重模型。此前使用托管服务商时,数据会离开自有网络,HIPAA 或 GDPR 合规会变复杂,除非事先签好数据留存协议;现在只需给网关一个自定义 ID,就能在智能体配置里以 private/ollama/gpt-oss:20b 这样的前缀调用本地模型。自托管去掉了第三方,成本只计基础设施而非按 token 计费,并可用环境变量隐藏外部服务商。
已读完全部报道