文章来源:https://mp.weixin.qq.com/s/cS0DGGqUP1JOFSnzFWiqJQ

自 2024 年 1 月 31 日 Kimi 开放平台开启公测以来,moonshot-v1 系列模型一直为 Kimi 智能助手和众多开发者及企业用户提供着强大的大模型生成能力。我们逐渐发现,Kimi 智能助手产品和开放平台对模型能力需求的逐渐分化,我们遇到了一些挑战。一方面,Kimi 智能助手需要更具情绪价值的回复,而开放平台的用户则可能更希望模型能高效提取文本中的结构化数据并输出精准的 JSON。在优先满足智能助手需求时,开放平台的用户可能会遭遇提示词失效等“破坏性变动”,这并不符合开放平台对于追求模型效果稳定性的目标。另一方面,Kimi 智能助手的快速迭代特性,使得一些试验性特性虽在某些方面表现出色,但在其他场景下可能存在缺陷(如重复输出词语或句子)。这些特性并不适合第一时间应用于开放平台,因此开放平台上的模型与智能助手所用模型存在一定差异,也引发了部分用户对于同一提示词在 Kimi 网页版得到的回复,和调用 Kimi API 得到的回复略有不同的疑问。为了解决这些问题,我们决定推出一款新模型 kimi-latest。它将对标 Kimi 智能助手当前使用的模型,随智能助手产品更新而同步升级(模型名称始终为 kimi-latest)。这样,开放平台的用户既能体验到最新模型带来的卓越效果(包括尚未稳定的试验性特性),又能保持原有模型的稳定性。
Kimi Latest 模型特点
- Kimi Latest 总是使用 Kimi 智能助手产品使用最新的 Kimi 大模型,可能包含尚未稳定的特性
- 上下文长度为 128k,会自动根据上下文长度选择 8k/32k/128k 模型作为计费模型(详情请见模型推理定价)
- 是视觉模型,支持图片理解
- 支持自动上下文缓存,缓存命中的 Tokens 费用仅为 ¥1/M Tokens(暂不支持手动上下文缓存)
- 其余功能与
moonshot-v1
系列模型保持一致,包括:ToolCalls、JSON Mode、Partial Mode、联网搜索功能等
单轮对话的调用示例仅需替换 model 名称为 kimi-latest
from openai import OpenAI
client = OpenAI(
api_key = "$MOONSHOT_API_KEY",
base_url = "https://api.moonshot.cn/v1",
)
completion = client.chat.completions.create(
model = "kimi-latest",
messages =
[
{
"role": "system",
"content": "你是 Kimi,由 Moonshot AI 提供的人工智能助手,你更擅长中文和英文的对话。你会为用户提供安全,有帮助,准确的回答。同时,你会拒绝一切涉及恐怖主义,种族歧视,黄色暴力等问题的回答。Moonshot AI 为专有名词,不可翻译成其他语言。"
},
{
"role": "user",
"content":
[
{
"type": "image_url",
"image_url":
{
"url": "data:image/png;base64,iVBORw0KGgoAAAANSUhEUgAAAGAAAABhCAYAAAApxKSdAAAACXBIWXMAACE4AAAhOAFFljFgAAAAAXNSR0IArs4c6QAAAARnQU1BAACxjwv8YQUAAAUUSURBVHgB7Z29bhtHFIWPHQN2J7lKqnhYpYvpIukCbJEAKQJEegLReYFIT0DrCSI9QEDqCSIDaQIEIOukiJwyza5SJWlId3FFz+HuGmuSSw6p+dlZ3g84luhdUeI9M3fmziyXgBCUe/DHYY0Wj/tgWmjV42zFcWe4MIBBPNJ6qqW0uvAbXFvQgKzQK62bQhkaCIPc10q1Zi3XH1o/IG9cwUm0RogrgDY1KmLgHYX9DvyiBvDYI77XmiD+oLlQHw7hIDoCMBOt1U9w0BsU9mOAtaUUFk3oQoIfzAQFCf5dNMEdTFCQ4NtQih1NSIGgf3ibxOJt5UrAB1gNK72vIdjiI61HWr+YnNxDXK0rJiULsV65GJeiIescLSTTeobKSutiCuojX8kU3MBx4I3WeNVBBRl4fWiCyoB8v2JAAkk9PmDwT8sH1TEghRjgC27scCx41wO43KAg+ILxTvhNaUACwTc04Z0B30LwzTzm5Rjw3sgseIG1wGMawMBPIOQcqvzrNIMHOg9Q5KK953O90/rFC+BhJRH8PQZ+fu7SjC7HAIV95yu99vjlxfvBJx8nwHd6IfNJAkccOjHg6OgIs9lsra6vr2GTNE03/k7q8HAhyJ/2gM9O65/4kT7/mwEcoZwYsPQiV3BwcABb9Ho9KKU2njccDjGdLlxx+InBBPBAAR86ydRPaIC9SASi3+8bnXd+fr78nw8NJ39uDJjXAVFPP7dp/VmWLR9g6w6Huo/IOTk5MTpvZesn/93AiP/dXCwd9SyILT9Jko3n1bZ+8s8rGPGvoVHbEXcPMM39V1dX9Qd/19PPNxta959D4HUGF0RrAFs/8/8mxuPxXLUwtfx2WX+cxdivZ3DFA0SKldZPuPTAKrikbOlMOX+9zFu/Q2iAQoSY5H7mfeb/tXCT8MdneU9wNNCuQUXZA0ynnrUznyqOcrspUY4BJunHqPU3gOgMsNr6G0B0BpgUXrG0fhKVAaaF1/HxMWIhKgNMcj9Tz82Nk6rVGdav/tJ5eraJ0Wi01XPq1r/xOS8uLkJc6XYnRTMNXdf62eIvLy+jyftVghnQ7Xahe8FW59fBTRYOzosDNI1hJdz0lBQkBflkMBjMU5iL13pXRb8fYAJrB/a2db0oFHthAOEUliaYFHE+aaUBdZsvvFhApyM0idYZwOCvW4JmIWdSzPmidQaYrAGZ7iX4oFUGnJ2dGdUCTRqMozeANQCLsE6nA10JG/0Mx4KmDMbBCjEWR2yxu8LAM98vXelmCA2ovVLCI8EMYODWbpbvCXtTBzQVMSAwYkBgxIDAtNKAXWdGIRADAiMpKDA0IIMQikx6QGDEgMCIAYGRMSAsMgaEhgbcQgjFa+kBYZnIGBCWWzEgLPNBOJ6Fk/aR8Y5ZCvktKwX/PJZ7xoVjfs+4chYU11tK2sE85qUBLyH4Zh5z6QHhGPOf6r2j+TEbcgdFP2RaHX5TrYQlDflj5RXE5Q1cG/lWnhYpReUGKdUewGnRmhvnCJbgmxey8sHiZ8iwF3AsUBBckKHI/SWLq6HsBc8huML4DiK80D6WnBqLzN68UFCmopheYJOVYgcU5FOVbAVfYUcUZGoaLPglCtITdg2+tZUFBTFh2+ArWEYh/7z0WIIQSiM43lt5AWAmWhLHylN4QmkNEXfAbGqEQKsHSfHLYwiSq8AnaAAKeaW3D8VbijwNW5nh3IN9FPI/jnpaPKZi2/SfFuJu4W3x9RqWL+N5C+7ruKpBAgLkAAAAAElFTkSuQmCC"
}
},
{
"type": "text",
"text": "请描述这个图片"
}
]
}
],
)
print(completion.choices[0].message.content)
Kimi Latest 模型适用场景
- 如果你正在使用如 ChatWise、ChatBox、LobeChat、OpenCat 等大模型聊天应用,并想使用 Kimi 作为你的 AI 聊天伙伴,那么
kimi-latest
模型通常是你的最佳选择。 - 如果你正在为你的产品构建一个 AI 智能助手或客服,并且追求与 Kimi 智能助手相似的聊天体验,请选择
kimi-latest
模型。 - 如果你的工作是使用大模型进行意图识别或结构化数据提取,请选择
moonshot-v1
系列模型。 - 如果你的产品使用了
moonshot-v1
系列模型,并且提示词效果稳定,请继续使用moonshot-v1
系列模型,切换到kimi-latest
模型可能会需要重新修整提示词。
其他说明目前 kimi-latest 仅支持调用 kimi 普通版模型,Kimi k1.5 长思考模型暂不支持 API 调用。如有研究和测评需求,请填写 Kimi k1.5 申请表单提交测试申请,我们会评估您的申请信息,如审核通过我们会通过邮件与您联系并为您提供一个 API 密钥以访问 Kimi k1.5 模型!感谢您的支持与关注!