自由一号 AI 网关

自由一号 AI 网关为团队提供统一的模型接入层,用于整合本地 AI、云端模型与多供应商能力。

通过一次接入,系统即可根据任务需求自动选择更合适的执行路径:

  • 能本地处理的,优先本地
  • 需要更强能力时,再切到云端
  • 某个模型出问题时,自动切备用方案

这意味着接入链路更简洁,成本更可控,线上服务也更稳定。

为什么要做这个网关

  • 统一接入层:一个 OpenAI 兼容接口,统一本地与云端调用
  • 本地优先路由:让高隐私和低延迟场景先在设备侧完成
  • 产品更稳:内建回退策略,单一模型故障不会直接影响你的业务
  • 多端一致:Web、桌面、安卓、扩展和机器人都能共用同一套调用方式
  • 便于扩展:会话、提示词、工具和结构化输出都能纳入同一条链路

你能获得什么

灵活路由

  • local:强制走 SelfReason 安卓本地 AI 保护隐私
  • auto:优先本地,超窗或质量要求更高时再升级云端
  • cloud:直接走云端模型,处理超长上下文或更复杂推理
  • fallback:定义备用模型链路,提升稳定性

一致的调用契约

  • OpenAI 兼容的对话接口形态
  • 实时流式输出,适合聊天与摘要场景
  • 工具调用,适配 API 编排与业务动作
  • 自动化 API 支持 Universal Automation Protocol (UAP)
  • 结构化输出,直接得到类型化 JSON
  • 统一可观测性,追踪延迟、路由理由与安全动作

适合哪些团队

  • 正在做 AI 产品的团队:希望保留模型切换与供应商选择空间
  • 重视隐私的团队:希望敏感任务优先本地处理
  • 预算敏感的团队:想先用本地能力节省云端调用成本
  • 要稳定上线的团队:希望模型偶发异常时,业务还能继续跑

集成示例

from selfreason import AIClient

client = AIClient(
	api_key='YOUR_SELFREASON_KEY',
	base_url='https://YOUR_GATEWAY_BASE/v1'
)

stream = client.responses.stream(
	model='auto',
	messages=[
		{'role': 'system', 'content': 'You are a concise assistant.'},
		{'role': 'user', 'content': 'Summarize this ticket and suggest next steps.'},
	],
	route='auto',
	fallbacks=[
		{'model': 'cloud-balanced'}
	],
	metadata={
		'app': 'support-dashboard'
	}
)

for event in stream:
	if event.type == 'token':
		print(event.text, end='')

下一步

如果你希望把多个模型、多个供应商和不同成本档位整合成统一的 AI 能力入口,欢迎联系我们。