#SelfReason AI 网关

接入一次，就能按任务自动选择最合适的执行路径：能本地就本地，必要时再升级云端，并在模型异常时自动回退，保证稳定性和体验。

#为什么要做这个网关

• 一个 OpenAI 兼容接口，统一本地与云端调用
• 本地优先路由，让高隐私和低延迟场景先在设备侧完成
• 我们自己的客户端也在用这套网关：Web、桌面、安卓、扩展和机器人
• 会话、提示词、工具、结构化输出在多端保持一致
• 内建回退策略，单一模型故障不会直接影响你的产品

#你能获得什么

#灵活路由

• local：强制走 SelfReason 安卓本地 AI 保护隐私
• auto：优先本地，超窗或质量要求更高时再升级云端
• cloud：直接走云端模型，处理超长上下文或更复杂推理
• fallback：定义备用模型链路，提升稳定性

#一致的调用契约

• OpenAI 兼容的对话接口形态
• 实时流式输出，适合聊天与摘要场景
• 工具调用，适配 API 编排与业务动作
• 结构化输出，直接得到类型化 JSON
• 统一可观测性，追踪延迟、路由理由与安全动作

#集成示例

from selfreason import AIClient

client = AIClient(
	api_key='YOUR_SELFREASON_KEY',
	base_url='https://YOUR_GATEWAY_BASE/v1'
)

stream = client.responses.stream(
	model='auto',
	messages=[
		{'role': 'system', 'content': 'You are a concise assistant.'},
		{'role': 'user', 'content': 'Summarize this ticket and suggest next steps.'},
	],
	route='auto',
	fallbacks=[
		{'model': 'cloud-balanced'}
	],
	metadata={
		'app': 'support-dashboard'
	}
)

for event in stream:
	if event.type == 'token':
		print(event.text, end='')

#下一步

• 如果你重点关注本地推理与离线能力，继续看 SelfReason 本地 AI API
• 如果你想了解产品形态，查看 SelfReason

有特定模型或能力需求，欢迎提需求，一起完善 SelfReason AI 网关。