GPT-3.5退役,GPT-4o mini来了,成本骤降

Introducing GPT-4o mini > Hero > Media Item

OpenAI突发新模型,全面取代老去的GPT-3.5。

GPT-3.5退役,GPT-4o mini来了,成本骤降

GPT-4o mini能力接近原版GPT-4,价格却要便宜一个数量级:

  • 每百万输入tokens,15美分(约1.09元人民币)
  • 每百万输出tokens,60美分(约4.36元人民币)

对应的API也已经开放,支持128k输入tokens(图像和文本),更令人瞩目的是支持16k输出tokens

相比之下,隔壁Claude3.5Sonnet几天前刚刚升级8k输出tokens。

以其低成本和低延迟特性,官方推荐用于多种场景:

  • 链式或并行化多个模型调用
  • 将大量上下文输入给模型(如完整的代码库或对话历史记录)
  • 或通过快速、实时的文本响应交互(如客服)

原文:https://openai.com/index/gpt-4o-mini-advancing-cost-efficient-intelligence/

全文摘要
OpenAI 推出 GPT-4o mini,一款成本效益高的小型 AI 模型,旨在通过降低成本使 AI 应用更广泛。该模型在多种基准测试中表现优异,支持文本和视觉输入,并计划未来支持更多模式。价格为每百万输入令牌 15 美分,每百万输出令牌 60 美分,比 GPT-3.5 Turbo 更便宜。

关键段落

  • 模型介绍: GPT-4o mini 是 OpenAI 最新推出的小型 AI 模型,具有较高的成本效益,价格显著低于之前的前沿模型。
  • 性能表现: 在 MMLU 基准测试中,GPT-4o mini 得分 82%,优于 GPT-41。支持文本和视觉输入,并计划未来支持更多模式。
  • 应用场景: GPT-4o mini 适用于需要快速、实时文本响应的应用,如客户支持聊天机器人,或需要处理大量上下文的应用。
  • 多模态推理: 在 MMMU 多模态推理评估中,GPT-4o mini 得分 59.4%,显示出在涉及文本和视觉的推理任务中的强性能。
  • 安全性: GPT-4o mini 内置安全措施,通过预训练和后训练的过滤和调整,确保模型行为符合政策。
  • 可用性和定价: GPT-4o mini 现已在 Assistants API、Chat Completions API 和 Batch API 中提供,定价为每百万输入令牌 15 美分,每百万输出令牌 60 美分。
  • 未来展望: OpenAI 致力于继续降低成本并提高模型能力,使 AI 更加普及和可靠。

本文地址:https://www.163264.com/8809

(1)
上一篇 2024年7月18日 下午10:30
下一篇 2024年7月21日 下午7:31