端侧大语言模型
模型简介 | 日日新-商量大语言模型-商量Mini-通用端侧大模型 |
模型最大上下文长度限制 | 4K,单位token |
接入方式 | 点击购买 每台设备SDK授权 9.9元/年 |
- 端侧通用能力说明
- 端侧模型矩阵:除通用端侧模型外,还包含知识问答、文本生成和文本总结与摘要的专项端侧模型,覆盖通用业务场景需求。
- 通用业务场景覆盖:支持工作、学习、生活场景下的闲聊、问答、生成等能力。
- 端云结合:理解用户意图,分流至对应模型,发挥端云各自优势。
- 高效推理:更高效的推理速度和更低的显存占用。
- 隐私数据保护:端上部署及推理,用户终端数据本地处理,安全性高。
- 可用性:适配中高端芯片不同品牌芯片,其中旗舰平台包含骁龙8Gen3、骁龙8Gen2、骁龙8Gen1等、中端平台支持骁龙7Gen3骁龙778等平台。
模型简介 | 日日新-商量大语言模型-商量Mini-文本总结与摘要端侧大模型 |
模型最大上下文长度限制 | 4K,单位token |
接入方式 | 点击购买 每台设备SDK授权 9.9元/年 |
- 端侧专项能力说明
- 文本总结与摘要端侧模型,支持针对长文本的总结与摘要,可帮助用户快速获取长文本的核心信息,提升信息获取效率。