OpenAI 接口兼容模式

本指南介绍了如何从 OpenAI 模型快速迁移到SenseNova 日日新大模型服务，我们用实例展示这个过程，帮助您更好的完成迁移工作。同时，商汤面向 OpenAI API用户还将提供「特别搬家计划」，帮助您轻松切换至国产大模型。

基础工具包

OpenAI SDK为我们提供了一个开箱即用的调用工具，对此，我们在后端兼容了OpenAI的所有Endpoint, 提供了便捷的迁移方式，仅需更换api_key与base_url，就可以使用我们的模型。

调用前的准备工作
“获取访问密钥(Access Key ID & Access Key Secret)”
“生成API_TOKEN”

切换API Endpoint

from openai import OpenAI 

client = OpenAI(
    api_key="your sensenova API_TOKEN",
    base_url="https://api.sensenova.cn/compatible-mode/v1/"
) 

response = client.chat.completions.create(
    model="SenseChat-5",  
    messages=[    
        {"role": "system", "content": "请你扮演一名优秀的故事创作者，并按照以下步骤完成故事创作：1.根据用户的要求设定【故事主题】。2.按照以下格式输出：【故事主题】xxx、【故事名称】xxx、【故事内容】xxx。3.输出的内容不要超过500个字。"},    
        {"role": "user", "content": "帮我写一个关于勇者斗恶龙的故事。"} 
    ],
    top_p=0.7,
    temperature=1.0
 ) 
 
print(response .choices[0].message)

使用SenseNova 官方SDK

SenseNova的部分功能需要您通过官方SDK 进行调用, 您可以通过 pip 进行安装

$ pip install sensenova

【对话生成】

# -*- coding: utf-8 -*-
import sensenova
import sys

sensenova.access_key_id = "..."         # Access Key ID：用于标识用户。 
sensenova.secret_access_key = "..."     # Access Key Secret：用于验证用户的密钥。Access Key Secret是您的重要标识，请妥善保管。

stream = True # 流式输出或非流式输出
model_id = "SenseChat-5" # 填写真实的模型ID

resp = sensenova.ChatCompletion.create(
    messages=[{"role": "user", "content": "北京有哪些好吃的？"}],
    model=model_id,
    stream=stream,
    max_new_tokens=1024,
    repetition_penalty=1.05,
    temperature=0.8,
    top_p=0.7,
    user="sensenova-python-test-user",
)

if not stream:
    resp = [resp]
for part in resp:
    choices = part['data']["choices"]
    for c_idx, c in enumerate(choices):
        if len(choices) > 1:
            sys.stdout.write("===== Chat Completion {} =====\n".format(c_idx))
        if stream:
            delta = c.get("delta")
            if delta:
                sys.stdout.write(delta)
        else:
            sys.stdout.write(c["message"])
            if len(choices) > 1:
                sys.stdout.write("\n")
        sys.stdout.flush()

模型列表

SenseNova 日日新大模型服务提供了包括通用大模型、多模态大模型、拟人对话大模型等多种模型。

模型类型	模型名称	模型描述	输入单价	输出单价
通用大模型	SenseChat-5	最新版本模型 (V5)，128K上下文长度，语言、知识、推理、数学、代码等领域能力显著提升，达到或超越GPT-4 Turbo	0.04元/千tokens（限时优惠）	0.1元/千tokens
	SenseChat	基础版本模型 (V4)，4K上下文长度，通用能力强大	0.012元/千tokens	0.012元/千tokens
	SenseChat-Turbo	适用于快速问答、模型微调场景	0.002元/千tokens（限时优惠）	0.005元/千tokens
	SenseChat-5-Cantonese	32K上下文长度，在粤语的对话理解上超越了GPT-4，在知识、推理、数学及代码编写等多个领域均能与GPT-4 Turbo相媲美	0.027元/千tokens	0.027元/千tokens
多模态大模型	SenseChat-Vision	最新版本模型 (V5)，4K上下文长度，图文感知能力达到全球领先水平，在多个知名多模态榜单均取得领先成绩	0.1元/千tokens	0.1元/千tokens
拟人对话大模型	SenseChat-Character-Pro	高级版模型，32K上下文长度，能力全面提升，支持中/英文对话	0.015元/千tokens	0.015元/千tokens
	SenseChat-Character	标准版模型，8K上下文长度，高响应速度	0.012元/千tokens	0.012元/千tokens

OpenAI 接口兼容模式

基础工具包​

模型列表​

基础工具包

模型列表