SelfReason 本地 AI API

如果你优先看重速度和隐私,本地 API 是最直接的方案:模型在设备上执行,常见任务不经过网络,响应快且数据更可控。

本地 API 适合什么

  • 文本分类与意图识别
  • 草稿改写(语气、长度、清晰度)
  • 文章、会话、工单摘要
  • 语言检测与轻量翻译
  • 输出前的安全检查与脱敏
  • 弱网或离线场景

本地优先实践

  1. 在安装或空闲时预下载模型。
  2. 通过应用或浏览器 API 绑定运行时。
  3. 本地推理优先执行。
  4. 超出能力边界时再交给网关升级云端。

何时需要升级云端

  • 提示词超出本地上下文窗口
  • 任务需要更深层的推理质量
  • 业务必须走集中治理或云端审计

常见错误类型

  • MODEL_UNAVAILABLE:模型尚未就绪
  • LIMIT_CONTEXT:提示词超过本地窗口
  • SAFETY_BLOCK:安全策略拦截了输出
  • DEVICE_CAPACITY:当前设备资源不足以运行所选模型

相关文档

当你既要本地速度,也要云端兜底,这个本地 API 与网关组合就是最稳的方案。