端侧大语言模型 | 大装置帮助中心
跳到主要内容

端侧大语言模型

模型简介日日新-商量大语言模型-商量Mini-通用端侧大模型
模型最大上下文长度限制4K,单位token
接入方式点击购买 每台设备SDK授权 9.9元/年
  • 端侧通用能力说明
    • 端侧模型矩阵:除通用端侧模型外,还包含知识问答、文本生成和文本总结与摘要的专项端侧模型,覆盖通用业务场景需求。 
    • 通用业务场景覆盖:支持工作、学习、生活场景下的闲聊、问答、生成等能力。
    • 端云结合:理解用户意图,分流至对应模型,发挥端云各自优势。
    • 高效推理:更高效的推理速度和更低的显存占用。
    • 隐私数据保护:端上部署及推理,用户终端数据本地处理,安全性高。
    • 可用性:适配中高端芯片不同品牌芯片,其中旗舰平台包含骁龙8Gen3、骁龙8Gen2、骁龙8Gen1等、中端平台支持骁龙7Gen3骁龙778等平台。

模型简介日日新-商量大语言模型-商量Mini-文本总结与摘要端侧大模型
模型最大上下文长度限制4K,单位token
接入方式点击购买 每台设备SDK授权 9.9元/年
  • 端侧专项能力说明
    • 文本总结与摘要端侧模型,支持针对长文本的总结与摘要,可帮助用户快速获取长文本的核心信息,提升信息获取效率。