写点什么

豆包大模型全网最低价?仔细算算账,还是文心更便宜

作者:AI浩
  • 2024-05-17
    北京
  • 本文字数:1614 字

    阅读完需:约 5 分钟

5 月 16 日,火山引擎发布了旗下豆包大模型,宣称比行业价格便宜 99.3%,直击全网最低价。紧接着,在技术社区看到,有开发者算了一笔账:



当我们使用大模型时,会向大模型提问。在大模型厂商眼里,我们可以把一次提问简单看成一个向大模型提出的请求(Request),一个请求会包含输入、输出两部分,也就是用户先向模型提问,模型在理解问题、分析结果之后给出答案。问题和答案中包含的文字量通常会用固定的计算方式换算成大模型能够理解的单元,也就是 Token(1 千个 Token 大约可以表示 700 多个汉字)。根据问答内容的特征、模型算力消耗等因素,大模型厂商一般会分别为输入、输出内容设定不同的价格。


火山引擎最新发布的大模型 Doubao-pro-32k,表面上显示模型的推理输入价格仅为 0.0008 元/千 Tokens,但是并没有在发布会上展示模型的输出价格 0.002 元/千 tokens,在通过加权平均输入、输出价格后(按输入:输出=5:1 来计算),实际的收费价格达到 0.001 元/千 tokens。而这个价格只有在较低的业务并发(每分钟 60 次问答请求,即每秒 1 次)强限制条件下才能实现。


也就是说,豆包大模型的这个“超低价”只能用来体验和测试,无法真正用到生产环境中。


如果用户在真实的业务场景中高频调用豆包大模型,就需要采用预付费模式,这个“超低价”就更不存在了。


在大模型付费模式方面,主要分为预付费、后付费两种模式。预付费模式,要求用户在使用服务前预先支付一定的费用,通常按照预估的使用量或者服务套餐来计费,也就是大家日常生活中熟悉的“包年、包月”等模式。


后付费模式,允许用户先使用大模型服务,之后再根据实际使用量按月或其他周期结算费用,也就是按使用量收费(Pay As You Use)。一般来说,预付费模式“批发”式的打包买卖,要比后付费模式更便宜。


通常情况下,预付费模式会在每分钟处理内容量(TPM,Tokens per Minute)这个关键指标上限制服务能力。以 Doubao-pro-32k 为例,预付费的价格为一个 TPM 单元(10K Tokens per Minute)每个月 12,000 元。


假设用户能够消耗光所有的内容额度,需要支付费用 0.028 元/千 tokens(预付费模式,一个月可以产生 10K tokens/分钟 * 1440 分钟/天 * 30 天 = 432,000 个千 tokens,12000 元➗432,000=0.028 元/千 tokens),高出后付费费用(0.001 元/千 tokens)足足 27 倍!


此外,因为企业调用大模型有高峰低谷,很难 100%消耗掉完整的 TPM 单元,按照 70%的平均利用率来计算,Doubao-pro-32k 每千 tokens 的价格将达到 0.04 元,相比后付费贵出 39 倍!


相比之下,百度的 ERNIE-3.5-128K 模型,一个 TPM 单元每个月的费用为 17,000 元,需支付费用为 0.039 元/千 tokens,比 Doubao-pro-128k 便宜 29%。


由此可见,企业要想真正在业务场景下使用大模型,预付费这种“批发”模式是最经济实惠的,如果后付费这种“零售”模式更便宜,大概率是加了诸多限制条件的“尝鲜价”。目前主流大模型中,最便宜、性价比最高的,可能还是百度的文心大模型。



综合来看,还是要理性看待大模型的价格战,表面上的低价并不代表实际使用的价格。另外,企业在选择大模型时,不仅要考虑价格,更要关注模型的质量、性能、服务支持以及整体的解决方案。价格虽然是决策的一个重要因素,但绝非唯一因素。模型的质量直接影响到企业业务的准确性和效率。一个性能优越、准确性高的大模型,能够为企业带来更大的价值,提升用户体验,甚至推动业务创新。因此,在选择大模型时,企业需要对模型的性能进行充分的测试和评估,确保模型能够满足自身业务的需求。


其次,服务支持也是企业在选择大模型时需要考虑的重要因素。大模型的应用涉及到复杂的技术和数据处理流程,需要专业的技术支持和服务保障。一个好的大模型厂商应该能够提供全面的技术支持和解决方案,帮助企业解决在使用过程中遇到的问题,确保业务的稳定运行。


综上所述,企业在选择大模型时需要综合考虑价格、性能、服务支持以及整体的解决方案等多个因素。只有理性看待大模型的价格战,选择那些真正能够为企业带来价值的大模型,才能在激烈的市场竞争中取得成功。


用户头像

AI浩

关注

还未添加个人签名 2021-11-08 加入

还未添加个人简介

评论

发布
暂无评论
豆包大模型全网最低价?仔细算算账,还是文心更便宜_#人工智能_AI浩_InfoQ写作社区