网站搜索

OpenAI 宣布更新 API,包括改进的函数调用功能


ChatGPT 背后的公司还宣布降价高达 25%,立即生效。

由于去年秋天 ChatGPT 的推出,OpenAI 比以往任何时候都更受欢迎,其应用程序编程接口 (API) 也成为开发人员追捧的工具。不同的公司从 OpenAI 的成功中找到了灵感,并希望复制它,从而导致开发人员使用其 API 来构建越来越多的工具。

为了帮助应对这种激增的需求,OpenAI 宣布对其 API 进行一些更改,例如改进的函数调用能力、更易于操控的 GPT-4 和 GPT-3.5 Turbo 版本、新的 16k 上下文版本的 GPT-3.5 Turbo 以及嵌入模型的成本降低了 75%,后者降低了为 API 付费的开发人员的成本。

一些新的更新包括聊天完成 API 中的新函数调用功能,这将使开发人员能够更可靠地将 GPT 模型的功能与外部工具连接起来。通过更新,开发人员将能够通过描述函数来为 GPT-4 和 GPT-3.5 Turbo 提供指令,模型将输出一个 JSON 对象,其中包含调用这些函数所需的参数。

此更新使开发人员可以更轻松地构建与外部工具和 API 交互的聊天机器人或应用程序,以执行特定任务,例如发送电子邮件、检索天气或航班信息,或从网站等文本源提取数据。

这些更新还使得 GPT-4 和 GPT-3.5 模型更具可操纵性,因此开发人员可以对模型的输出进行更大的控制。 OpenAI 允许开发人员制作上下文、指定所需的格式并向模型提供有关所需输出的指令。从本质上讲,开发人员对其应用程序中使用的模型生成的响应的语气、风格和内容有更多的发言权。

OpenAI还宣布推出新的16k上下文版本的GPT-3.5 Turbo,它与ChatGPT背后的GPT-3.5模型不同,因为它是专门为开发人员创建基于聊天的应用程序而定制的。最新的 16k 型号是之前使用的标准 4k 型号的升级版本。

“16k context”中的上下文用于描述对话中的文本,有助于提供上下文并帮助模型理解输入并提供与对话相关的响应。标准 GPT-3.5 Turbo 模型中的 4k(即 4,000 个)令牌限制了模型将对话中的上下文维护为几个段落的能力。 16k(即 16,000 个标记)相当于大约 20 页文本,为模型提供了大量文本作为上下文。

最后,OpenAI 宣布它已经能够变得更加高效并降低成本,因此它将 Embeddings 模型降低了 75%,至每 1k 代币 0.0001 美元,将 GPT-3.5 Turbo 降低了 25%,至每 1000 个输入代币 0.0014 美元,每 1000 个输出代币 0.002 美元代币。新的 GPT-3.5 Turbo-16k 模型的定价为每 1000 个输入代币 0.003 美元,每 1000 个输出代币 0.004 美元。

相关文章