扫码打开虎嗅APP
本文来自微信公众号:APPSO (ID:appsolution),作者:AI+,原文标题:《突然发布!ChatGPT 加量还打折,对手还怎么玩?》,头图来自:视觉中国
今天,ChatGPT 又一次让全世界为之兴奋。
OpenAI 正式宣布开放 ChatGPT 和 Whisper 两个模型的 API,API 版本的 ChatGPT 不仅功能更多、性能更强,而且还更便宜——相当于目前 GPT-3 模型价格打一折!
属于 AI 的潘多拉魔盒已经打开,可以预见未来会有越来越多应用建立在 ChatGPT 这个巨人的肩膀之上,请做好准备拥抱新的先进工具时代。
划重点:
OpenAI 正式开放 ChatGPT 和 Whisper 模型的 API,目前 SnapChat、Shopify 等公司已经推出了基于 ChatGPT api 的 AI 功能。
ChatGPT API 价格是 OpenAI 现有的 GPT-3 API 价格的十分之一。
ChatGPT 自发布以来成本降低了 90%,与此同时 OpenAI 还在不断改进,目前 ChatGPT 应用的是名为 GPT-3.5-turbo 模型,开发者们可以持续获得语言模型的稳定更新版本。
使用 API 的开发者们可以不与 OpenAI 分享数据信息,除非开发者们主动选择分享,通过 API 提交的信息将不会用来给 ChatGPT 做模型学习等服务改进等。
以下为 OpenAI 发布的更新博客全文,Enjoy it.
ChatGPT 和 Whisper 模型现在可以在我们的 API 上使用,让开发者可以使用最先进的语言模型(不仅仅是聊天!)和语音转文字功能。
通过一系列系统范围内的优化,自 12 月以来,ChatGPT 的成本降低了 90%;我们现在将这些节省的成本传递给 API 用户。开发人员现在可以在 API 中使用我们的开源 Whisper large-v2 模型,获得更快、更具成本效益的结果。
ChatGPT API 用户可以持续获得的模型改进,并可以选择专用的服务器容量以获得对模型更深入的控制权。我们也仔细听取了开发人员的反馈,并完善了我们的 API 服务条款,以更好地满足他们的需求。
ChatGPT 和 Whisper API 的先行应用案例
制作了 Snapchat 的 Snap Inc. 在本周推出了用于 Snapchat+ 的 My AI 功能,该实验功能正是基于 ChatGPT API 运行。
My AI 为用户提供了语气友好、个性化的聊天机器人,可以在用户用指尖输入之时提供建议,甚至可以在几秒钟之内为朋友写一个俳句。作为一个日常聊天通讯工具,Snapchat 每月有 7.5 亿个 Snapchat 用户。
Quizlet 是一个全球性的学习平台,有超过 6000 万学生使用它来学习、练习并掌握他们所学的东西。Quizlet 已经与 OpenAI 合作了三年,在业务中广泛应用了 GPT-3 模型,包括词汇学习和实践测试。
随着 ChatGPT API 的推出,Quizlet 引入了一个名为 Q-Chat 的个性化的人工智能导师,学生可以通过与它开展有趣的对话来针对性地学习知识。
Instacart 正在用 AI 为 Instacart 应用程序赋能,用户能够在这里询问与食品相关的问题,并获得灵感和购买建议。
Instacart 将 ChatGPT 与 Instacart 自己的人工智能以及来自 75000 多个零售合作商店的产品数据结合了起来,帮助客户找到购物的灵感,比如“我如何做出好吃的鱼肉玉米饼?”或者“什么可以作为我孩子的健康午餐?”Instacart 计划在今年晚些时候推出“Ask Instacart”。
Shopify 的消费者应用程序 Shop 被上亿的用户用来寻找他们喜爱的产品和品牌,而 ChatGPT API 的加入为 Shop 注入了全新的动力。
当顾客搜索商品时,购物助理会根据顾客的要求提供个性化的推荐。Shop 新推出的基于人工智能的购物助理将扫描数百万件商品,以快速找到买家想要的东西,或者帮助他们发现新的东西,从而简化 app 内的购物流程。
Speak 是由一个 AI 驱动的语言学习应用,专注于让人们的口语说得更流利。
Speak 是韩国增长最快的英语应用,目前正在用 Whisper API 来为一个新的 AI 口语伴侣产品提供动力,并会迅速将其推向全球其他地区。
Whisper 为各个级别的语言学习者都能提供与人类水平相当的准确性,带来真正的开放式对话练习和高度准确的对话反馈。
ChatGPT API
模型:我们今天发布的 ChatGPT 模型系列 gpt-3.5-turbo 与 ChatGPT 产品中使用的模型相同。
它的售价为每 1000 个 token 售 0.002 美元,是我们现有的 GPT-3.5 模型价格的十分之一。
对于许多非聊天用例来说,它也是我们最好的模型ーー我们已经看到早期的测试人员从 text-davinci-003 迁移到 gpt-3.5-turbo,只需要对提示进行少量调整。
API:传统意义上来说,GPT 模型使用的是非结构化文本,这些文本在模型中被表示为一连串的“token”。
而 ChatGPT 模型则是消耗一连串的消息和元数据。(说给好奇的人听:在模型里,输入仍然被呈现为模型所要消耗的“token”序列;模型所使用的原始格式是一种叫做“聊天标记语言”(ChatML)的新格式)。
ChatGPT 的升级
我们正在不断改进 ChatGPT 模型,并希望开发人员也可以用上这些增强的版本。使用 gpt-3.5-turbo 模型的开发人员将可以一直获得我们推荐的稳定模型更新,并且可以灵活地选择特定的模型版本。
例如,今天我们发布了 gpt-3.5-turbo-0301,它将至少支持到 6 月 1 日,我们将在 4 月份为 gpt-3.5-turbo 更新一个新的稳定版本,届时模型页面将提供切换更新版本的选项。
专用实例(Dedicated instances)
我们现在还为那些希望对特定模型版本和系统性能进行更深入控制的用户提供专用实例。
默认情况下,请求是在与其他用户共享的计算基础设施上运行,这些用户都是按请求付费。我们的 API 在 Azure 上运行,对于专用实例,开发者将按时间段支付为其请求服务而保留的计算基础设施的分配费用。
开发人员可以完全控制实例的负载(更高的负载可以提高吞吐量,但会降低每个请求的速度)、启用诸如更长上下文限制等特性的选项,以及固定模型快照的能力。
对于每天运行超过 4.5 亿“token”的开发人员来说,专用实例具有很高的经济意义。此外,它可以根据硬件性能直接优化开发人员的工作负载,和共享基础设施的做法相比,这可以显著降低成本。
Whisper API
Whisper 是我们在 2022 年 9 月开源的语音转文本模型,一经推出便得到了开发者社区的巨大支持,但要运行它并不是那么容易。我们现在已经通过 API 提供了 large-v2 模型,它提供了方便的按需访问入口,价格为每分钟 0.006 美元。此外,我们高度优化的服务堆栈确保了比其他服务更快的性能。
开发者关注
在过去的六个月中,我们一直在收集 API 客户的反馈,以了解如何更好地为他们服务。我们已经做出了具体的改变,例如:
通过 API 提交的数据不再用于服务改进(包括模型培训),除非组织主动选择。
为 API 用户提供默认的 30 天数据保留策略,并根据用户需要提供更严格的数据保留选项。
移除我们的发布前审查(通过改进自动监视来代替)。
改进开发人员文档。
简化我们的服务条款和使用策略,包括关于数据所有权的条款:用户在模型中的输入和输出信息归用户所有。
在过去的两个月中,我们的运行没有达到我们自己的期望,也没有达到我们的用户的期望。
我们的工程团队现在的首要任务是生产用例的稳定性——我们知道,要确保人工智能造福全人类,就需要成为一个可靠的服务提供商。我们将会为接下来数月的正常稳定运行而负责到底!
我们相信,AI 可以为每个人提供难以置信的机会和经济赋权,实现这一目标的最佳途径是允许每个人利用人工智能进行建设。
我们希望,我们今天宣布的变化将产生大量的应用程序,每个人都可以从中受益。让我们开始构建由 ChatGPT 和 Whisper 驱动的下一代应用程序吧。
本文来自微信公众号:APPSO (ID:appsolution),作者:AI+