端侧 SDK 的交付形态与展示方式
端侧 SDK 采用双组件交付模式:客户 App 内的 SDK + ROM 系统应用。实际形态取决于客户开放的端侧权限。
QI Framework 系统应用封装了两层 SDK 能力:
包括端上的主 Plan Agent、GUI Agent。
其中,隐私处理、意图识别、工具调用可以是内置的模块,也可以让客户单独调用。
包括端侧模型 + 推理引擎,也可以让用户单独调用。
其中端侧模型 Qwen3.5-4B-VL 和 GUI 4B 模型在测试中。
可以做一个手机 App 来展示能力/Demo,类似 Google Edge Gallery 展示可安装端模型和对应的 Agent 能力测试。
客户可根据需求选择:
理想交付形态
- 1 个安装包:客户手机助手/自有 App 内的 SDK
- 1 个系统应用:ROM 交付的 QI Framework 系统应用
实际形态需要看跟客户的谈判情况对应着客户给端侧开放的权限范围。
QI Framework 系统应用
QI Framework 系统应用封装了两层 SDK 能力:
Agent SDK
包括端上的主 Plan Agent、GUI Agent。
其中,隐私处理、意图识别、工具调用可以是内置的模块,也可以让客户单独调用。
推理框架 SDK
包括端侧模型 + 推理引擎,也可以让用户单独调用。
其中端侧模型 Qwen3.5-4B-VL 和 GUI 4B 模型在测试中。
目前暂缺 ASR、TTS、OCR 的单独小模型。考虑到 4B 模型进行常驻实时交互并不现实,后期有待补充。
对客展示
可以做一个手机 App 来展示能力/Demo,类似 Google Edge Gallery 展示可安装端模型和对应的 Agent 能力测试。
客户接入选择
客户可根据需求选择:
| 接入方式 | 说明 |
|---|---|
| 集成 Agent SDK | 直接使用端上的 PA、GUI 完整能力 |
| 集成推理框架 SDK | 客户自己调度模型,运行自定义 Agent 逻辑 |
| 集成 QI Framework 系统应用 | ROM 集成,全套能力开箱即用 |
计费设计
端侧 SDK 计费方案暂无,处于调研阶段。
相关 PRD
- 《端侧 915 产品方案》