Dify v0.8.1:如何使用 OpenAI 的 o1 系列模型构建 LLM 应用?


在北京时间 9 月 13 日凌晨 1 点,OpenAI 突然发布了最新的模型系列:o1-preview 和 o1-mini。OpenAI 表示,这一系列模型代表了人工智能的最高水平,尤其在复杂推理任务方面取得了重大突破。得益于 Dify 对于 LLM 优秀的底层支持能力,在 OpenAI 发布后的数小时内,Dify 第一时间完成接入,用户可以在构建 LLM 应用时率先体验这一系列先进的模型。

Dify v0.8.1:如何使用 OpenAI 的 o1 系列模型构建 LLM 应用?

卓越的性能表现

OpenAI o1 系列模型采用了强化学习的方法,以提升在复杂推理任务中的表现。模型在回复用户之前,会在内部进行长时间的链式思维(Chain of Thought,CoT)过程,模拟人类思考复杂问题的方式。这种方法使模型能够更深入地理解问题,并提供更加准确和详细的回答。因此,OpenAI o1 在数学、编程和科学问题方面都有巨大的飞跃性进步。与之前的 GPT-4o 模型相比,o1 系列在多个方面都有显著提升:
数学能力:
  • GPT-4o:在美国数学竞赛 AIME 2024 的测试中,单样本答题正确率为 9.3%,通过 64 个样本投票正确率为 13.4%
  • o1:单样本答题正确率提升至 74.4%,通过 64 个样本投票正确率高达 83.3%。这使得 o1 的表现达到了前 500 名美国学生的水平。

编程能力:

  • GPT-4o:在 Codeforces 的竞赛中,Elo 评分为 808,处于人类参赛者的第 11 个百分位。
  • o1:Elo 评分达到了 1,673,处于第 89 个百分位,表现显著优于 GPT-4o。

科学问题:

  • GPT-4o:在 GPQA(物理、化学和生物学问题)测试中,单样本准确率为 56.1%

  • o1:准确率提升至 78%,超过了人类博士水平的平均表现。

Dify v0.8.1:如何使用 OpenAI 的 o1 系列模型构建 LLM 应用?
Dify v0.8.1:如何使用 OpenAI 的 o1 系列模型构建 LLM 应用?

如何在 Dify 中配置和使用

1. 获取 API Key

首先,你需要前往 OpenAI 的官方网站获取 API key。访问 OpenAI API keys 页面,生成并复制你的 API key。

访问链接:

https://platform.openai.com/account/api-keys

Dify v0.8.1:如何使用 OpenAI 的 o1 系列模型构建 LLM 应用?

复制 API Key 后,将其复制进 Dify 的 Model Provider 内。

Tips:如果你无法获取 API Key,Dify 为每个账户提供了一定量的免费额度,帮助你试用 OpenAI o1 模型。

Dify v0.8.1:如何使用 OpenAI 的 o1 系列模型构建 LLM 应用?

2. 模型价格和 API 访问权限

值得注意的是,o1 系列在性能和能力上的显著提升,也带来了成本的增加。但我们相信,结合 Dify 的应用编排能力,OpenAI 最新的 o1 系列模型可以为用户和企业带来更高的价值。

以 o1-preview 为例:
输入:每 100 万个输入 token 收费 15 美元,是 GPT-4o 成本的三倍。

输出:每 100 万个输出 token 收费 60 美元,是 GPT-4o 成本的四倍。

目前,o1 系列模型的 API 访问权限将首先开放给 Tier 5 级用户,也就是已经在 OpenAI API 上花费超过 1000 美元的用户,且 API 调用速率限制为每分钟 20 次(20 RPM)。

我们为每个账户提供了一定量的免费额度供你试用 OpenAI o1 模型,只需按照 Dify 平台上的指导步骤操作,即可开始试用模型。其中,免费账号可以免费使用 200 条消息,Team 版包含 10,000 条消息额度。

Dify v0.8.1:如何使用 OpenAI 的 o1 系列模型构建 LLM 应用?

3. 在 Dify 中设置模型供应商

登录 Dify.AI 平台,导航到 设置 > 模型供应商。在这里,你可以看到各种支持的模型供应商。点击“添加供应商”,选择 OpenAI 并输入你的 API key。

Dify v0.8.1:如何使用 OpenAI 的 o1 系列模型构建 LLM 应用?

4. 选择默认推理模型(可选)

设置 > 模型供应商 页面中,设置 OpenAI o1 模型作为系统默认推理模型。这将确保在创建新的应用时,默认使用 o1 模型。

Dify v0.8.1:如何使用 OpenAI 的 o1 系列模型构建 LLM 应用?

使用 OpenAI o1 模型

5. 创建应用

首先,登录你的 Dify 账户。在导航栏中选择「工作室」,你将看到一个应用列表。在列表中,选择「从空白创建」来开始创建一个新的应用。

Dify v0.8.1:如何使用 OpenAI 的 o1 系列模型构建 LLM 应用?

在创建应用之前,你需要了解 Dify 提供的四种不同应用类型:聊天助手、文本生成应用、Agent 和工作流。对于本次创建的应用,我们选择「聊天助手」「工作流编排」。

Dify v0.8.1:如何使用 OpenAI 的 o1 系列模型构建 LLM 应用?

6. 填写应用信息

在创建应用的过程中,你需要完成以下信息:

  • 应用名称:给你的聊天助手起一个易于识别的名字。

  • 应用图标:选择一个合适的图标,或者上传你喜欢的图片作为图标。

  • 应用描述:使用简洁清晰的文字来描述此应用的用途,以方便后续在团队内的使用。

7. 配置聊天助手

在聊天助手的配置页面中,选择 OpenAI o1 模型作为默认模型。

Dify v0.8.1:如何使用 OpenAI 的 o1 系列模型构建 LLM 应用?

一旦完成配置,你就可以在 Dify.AI 中的各种应用场景中使用 OpenAI o1 模型。无论是科学研究、代码生成还是复杂的数学问题,o1 模型都能提供强大的推理和解决能力。

Dify v0.8.1:如何使用 OpenAI 的 o1 系列模型构建 LLM 应用?

随后点击右上角发布为应用,就可以运行并开始使用 OpenAI o1 了。

Dify v0.8.1:如何使用 OpenAI 的 o1 系列模型构建 LLM 应用?

写在最后

通过本文,您应该对如何在 Dify.AI 平台中配置和使用最新的 OpenAI o1 模型有了清晰的理解。希望这篇指南能帮助您充分利用这些强大的 AI 模型,提高工作效率和创新能力。

值得一提的是,Dify 能够在如此短的时间内支持 OpenAI 最新发布的 o1 系列模型,得益于便捷成熟的模型接入方案。通过预定义模型、自定义模型、从远程获取三种方式,可以在 Dify 迅速添加模型供应商,增加新模型,很大程度上便利了开发者贡献新模型的方式。因此,Dify 支持的模型种类丰富(LLM、Embedding、Rerank、TTS、STT 等),几乎涵盖了市面上所有的模型供应商。我们欢迎开发者加入我们,共同打造 Dify 更完备的模型生态!

Agent智能体新闻资讯

六大智能体平台大比拼:Coze如何脱颖而出?

2025-5-4 0:06:41

Agent智能体新闻资讯

Dify多参数混合条件判断的使用心得

2025-5-4 2:07:37

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
购物车
优惠劵
搜索