您的位置:首页 > 互联网

还要卷并发-科技博主阑夕,大模型不光卷价格_作者阑的小说

发布时间:2024-05-22 18:26:37  来源:互联网     背景:

豆包通用模型lite-4k/32k,千tokens推理输入售价0.3厘;通义千问qwen-long,千tokens推理输入售价0.5厘;百度文心ERNIE Speed、ERNIE Lite,宣布免费。

针对近期的大模型降价狂潮,科技博主阑夕发文称:行业里说千Tokens价格,光低价还不够,吞吐量太小的话,再便宜也用不了多少。如果只是把价格降下去,吞吐还是小水管,那真是降了个寂寞。

以下是阑夕微博主要观点:

哔哩哔哩周杰伦mv

豆包大模型打响价格战已经过了一个星期,山雨欲来的效果还是挺明显的,同行要么跟着一起降价,要么开始写小作文阴阳,特别热闹。

有比较急的,拿以前云雀模型的限流指标和模型单元价格来算,暗戳戳说豆包实际使用价格要高。等火山引擎官网把不同版本、不同规格的销售方案全部亮了出来,不管是预付费还是后付费都确实是击穿地板的底价标准,瞬间打脸回去。

豆包模型定价,最值得关注的是把TPM(每分钟token数)提到80万,比同行(一般是10万到30万tokens)高几倍。如果对话文本小,RPM(每分钟请求数)上限1万,能支持的并发量是同行(一般是60到120,轻量版是300到500)的几十倍。其他大模型要不要跟?

人有多少次生命

阑夕好听吗

行业里说千Tokens价格,光低价还不够,吞吐量太小的话,再便宜也用不了多少。如果只是把价格降下去,吞吐还是小水管,那真是降了个寂寞。

(关于免费)大模型的算力烧钱主要在训练端,推理端的成本其实是每年都有几十倍优化空间的。但再怎么优化,也不可能优化到0。

足够便宜,但依然能赚钱,由此促成应用/商用市场的规模增长,包括OpenAI在内的主流大模型开发商,都是这么一个思路,可以不讲武德,但是商业规律还是得敬畏的。

不管怎么说,大模型toB还在做大蛋糕的阶段,有更多公司一起解决企业入局的成本门槛,也都算是共赢吧。


返回网站首页

本文评论
三星 Galaxy S23 正式发布,先行者 5699 元起_三星s23最新消息
2023 年 2 月 2 日消息,三星 Galaxy S23 系列正式发布,我们一起来看一下三星 Galaxy S23 手机。芯片方面,三星 Galaxy S23 首发 3.36GHz 骁龙 8 Gen 2 移动平台,提供 LPDDR5X...
日期:02-02
37182亿元!苹果重回全球品牌价值500强榜首_苹果全球售价排行榜
快科技1月17日消息,据媒体报道,今天,国际著名第三方品牌价值评估咨询机构Brand Finance,发布了2024年全球品牌价值500强,苹果以5166亿美元(约合37182亿元人民币)位列全球第1位。iqo...
日期:01-18
蔚来发布Banyan·榕2.4.0智能系统_蔚来 系统
网易科技1月27日报道,日前,蔚来发布Banyan2.4.0版本更新,涵盖驾驶体验、娱乐、NOMI、主动安全、基础⽤⻋体验,超过50项功能新增及优化。记者获悉,在AI 底盘技术方面,蔚来打通了智...
日期:01-28
ios升级到15.02掉电好快「iOS 16.4千万别升级:手机容易崩溃 电池续航也缩水」
近日,iOS最新的正式版已更新至16.4,Beta版则已推进至16.5。然而,这次较为重大的正式版更新存在一些体验上的问题。除了已知的导致天气应用和Wi-Fi崩溃的问题,iAppleBytes还发现...
日期:04-06
中通快递可以发缅甸吗「中通快递将于10月1日起暂停中缅航空寄递业务」
9月28日消息,中通快递缅甸公司官微今日发布消息称,因受缅甸海关进出口管理限制影响,公司空运时效难以保证。经过慎重考虑,公司决定10月1日起暂停中缅航空寄递业务,请广大客户知悉...
日期:09-30
南航随心飞怎么卖多少钱「南航冲上微博热搜第一!随心飞兑换遭遇系统崩溃」
今日下午,南航冲上了微博热搜榜第一名。多位网友反映,自己此前买了南航的随心飞,今天兑换时却遭遇了系统崩溃,导致无法兑换机票出行。搜索相关词条发现,有关随心飞系统崩溃无法兑...
日期:03-29
追觅科技获“仿生机械臂”全球首创认证,引领智能清洁行业新风潮
近日,凭借全球首创的仿生机械臂技术,追觅科技荣获全球知名咨询公司弗若斯特沙利文颁发的“全球扫地机器人仿生机械臂首创者”认证。自追觅科技2023年4月全球首创仿生机械臂技...
日期:03-28
卢伟冰在小米个人能力怎么样「卢伟冰宣布Redmi后性能时代战略发布会:开启手机性能新格局」
快科技8月2日消息,小米集团卢伟冰宣布,Redmi将于明天下午2点举行Redmi x MediaTek x Pixelworks后性能时代战略发布会,开启手机性能新格局。从发布会海报不难看出,这场发布会的...
日期:08-02
继飞凡之后,蔚来汽车「换电不断电」功能也将面世「蔚来汽车换电痛苦经历」
IT之家 7 月 18 日消息,昨日,上汽飞凡汽车公布了旗下换电站的“最新科技成果”,并宣布行业内首发换电不断电技术。简单来说,飞凡 R7、F7 在换电过程中不会停止内部供电,空调可持...
日期:07-18
AI初创公司Anthropic与谷歌扩大合作,将使用谷歌芯片_google ai china center
划重点:- AI初创公司Anthropic将成为首批使用Alphabet Inc.旗下Google新芯片的公司,扩大了他们在最近云计算协议后的合作。- Anthropic将部署Google的Cloud TPU v5e芯片来支...
日期:11-10
摄影大咖齐聚海口「摄影大咖齐聚CHINA P&E:Lexar雷克沙展台成焦点,现场教学引爆摄影热情」
近日,备受瞩目的2024中国国际照相机械影像器材与技术博览会(简称“2024CHINA P&E”)在北京盛大开幕。在这场影像行业的年度盛会中,国际高端存储品牌Lexar雷克沙携多款新品亮相,为...
日期:05-13
信通院韦莎:打好未来制造与数字技术融合发展攻坚战
未来制造是发展壮大战略性新兴产业,加快形成现代产业体系的重要手段,能够有效提升国内大循环的效率,推动实现全球范围内的资源协同和优化,未来制造也是推进数字产业化和产业数字...
日期:12-07
网店“明码标价”1个名额1万多付费实习值不值?
正值暑假,不少准毕业生们计划利用这段时间到企业实习。北京青年报记者发现,原本积累工作经验的实习机会,却被“明码标价”。“实习内推”在电商平台也已成为一种商品。   发...
日期:08-03
苹果2020第四季财报「苹果明日凌晨发布第四财季财报 营收有望实现增长」
11月2日 消息:据外媒报道,苹果公司将于美国时间11月2日发布2023财年第四财季的财报。这一季度通常是苹果营收开始回升的时期,尤其在秋季新iPhone上市的推动下,营收预计将较上一...
日期:11-02
国网山东信通公司全面启动超特高压站可信WLAN建设工作_超高压输电公司地址
通信世界网消息(CWW)12月12日,国网山东信通公司顺利完成1000千伏高乡特无线控制器AC设备安装及AP设备网络部署勘察,这标志着全省超特高压站可信WLAN建设的全面启动。华为手机499...
日期:12-14
4岁女孩反复腹痛竟是吃进大团头发!医生:患了异食癖
快科技7月31日消息,近日福建厦门一位4岁女孩妍妍反复腹痛哭闹不止,医生竟在她肚子里发现一大团头发。据报道,医生在术中探查发现,妍妍十二指肠及空肠起始部共约50cm的肠管内有条...
日期:07-31
高通骁龙8的手机「消息称高通迎战苹果 骁龙8 Gen4回炉重造:目标频率4.26GHz!」
快科技5月13日消息,最新消息显示,为了应对苹果,高通正在重新设计骁龙8 Gen 4处理器。有关博主爆料称,为了迎战苹果M4系列和A18系列处理器,高通目前正在重新设计骁龙8 Gen 4 处理...
日期:05-13
人工智能能带给我们什么「人工智能把我们带到了它想要的地方」
我们观看、阅读和购买的许多东西都是通过YouTube、Twitter和亚马逊等网站的推荐系统进入我们的视野。算法进行了个性化处理,旨在获得广告浏览量、点击量或购买量。有时,AI的建...
日期:10-21
马斯克深夜发推特「高压逼走推特员工 马斯克服软紧急留人」
11月18日消息,据国外媒体报道,面对新老板马斯克的“极限施压”,数百名推特员工准备离职,马斯克对此不得不“服软”。11月16日,马斯克通过内部邮件告诉所有推特员工,他致力于打造一...
日期:11-20
百分之百砍掉年内不能盈利的业务-消息称58集团姚劲波发内部信_五八姚劲波
【】7月17日消息,有消息称近期58集团召开了一场季度管理沟通会,CEO姚劲波发布全员信称,58集团所有业务今年在城市维度实现盈利是最低要求,如果年内不能实现盈利,一定不留,百分之百...
日期:09-20