成本仅50美元,性能媲美Deepseek-R1,李飞飞带着S1来炸场了
zhonghua @ 2025年02月08日 财经风云
成本仅50美元,性能媲美Deepseek-R1,李飞飞带着S1来炸场了 黄雯雯 AI的推理效率被大幅提高,s1在数学和编码能力测试中与OpenAI的o1和DeepSeek的R1等模型的表现不相上下。在通往AGI的路上,更高效的新方法带来了更多的创新可能。 在DeepSeek火爆全球之际,一个更低成本的AI推理模型悄然登场... 近日,一项来自斯坦福大学和华盛顿大学等机构的研究成果引起了市场关注,李飞飞等人以不到50美元的云计算费用成功训练出了一个名为s1的AI推理模型。研究成果表明,s1在数学和编码能力测试中与OpenAI的o1和DeepSeek的R1等模型的表现不相上下。 s1论文作者Niklas Muennighoff表示: "DeepSeek r1令人兴奋,但缺少OpenAI的测试时间扩展图,并且需要大量数据。我们推出了s1,仅使用1K样本和简单的测试时间干预即可重现o1的预览扩展和性能。" 简单高效的训练方法,挑战传统AI研发模式 s1的研究团队表示,s1模型是以谷歌推理模型Gemini2.0 Flash Thinking Experimental为基础模型,通过蒸馏法提炼出来的。 他们采用了一种名为test-time scaling的方法。研究团队构建了一个小型数据集s1K,通过难度、多样性和质量三个标准来筛选,其中包括1000个经过精心挑选的问题以及相应答案,并附上了"推理"过程,仅使用了16台英伟达H100 GPU,耗时26分钟就完成了训练。 这种方法与传统的大规模强化学习方法(RL)形成鲜明对比,后者的成本通常较高,DeepSeek、OpenAI都采用了这种方法。而s1的研究通过较小的数据集和监督微调(SFT)蒸馏推理模型,大大降低了训练成本并提高了效率。 此外,为了提高答案的准确度,研究团队还运用了一种"预算强制"技术,可以控制测试时间计算,通过强制提前终止模型的思考过程,或在s1推理时多次追加"等待"指令以延长思考,从而优化性能。 研究显示,新模型s1-32B在使用该技术后,性能与测试时的计算资源成正相关。 性能媲美顶级模型,引发行业关注和担忧 根据研究团队的测试结果可知,在竞赛数学问题上,s1-32B的表现较o1-preview高27%(MATH和AIME24);且该模型在AIME24上的表现几乎与Gemini 2.0 Thinking API相当,显示其蒸馏过程是有效的。 而s1的出现也引发了行业的担忧。此前,OpenAI曾指控DeepSeek不当使用其API数据进行蒸馏。 有分析人士质疑,如果任何人都可以轻易复制和超越现有的顶级模型,那么大型AI公司多年的研发投入和技术积累可能会受到威胁。而且,尽管蒸馏技术在以较低成本复现AI模型方面表现出色,但其对新AI模型性能的提升效果并不显著。 风险提示及免责条款 市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。
|
推荐内容
- 商务部重拳制裁基因测序巨头,国产基因测序迎黄金..
- DeepSeek与AI烧钱大战--赢家的诅咒!
- 成本仅50美元,性能媲美Deepseek-R1,李飞飞带着..
- 中国主导身体,英伟达要做大脑,特斯拉“做整合”..
- 中国央行连续第三个月增持黄金,1月黄金储备环比..
- 亚马逊电话会:AI是“千载难逢”的商业机会,202..
- 特斯拉正式招聘工程师等岗位,为量产机器人做准备..
- 突发利空!特朗普:将压低油价,“接管”加沙!原..
- 做好金融“五篇大文章”,证监会发布资本市场实施..
- 鲍威尔下周赴国会作证,降息将成焦点..
- 美媒称美国下周公布结束俄乌冲突计划,俄方:正在..
- 今晚,“历史性修订”的非农,对市场意味着什么?..
- DeepSeek研究员在线爆料:R1训练仅用两到三周,春..
- 特朗普“政府瘦身”大计蔓延至情报机构 中情局提..
- 谷歌预计今年资本开支高达750亿美元,远超市场预..
热点阅读
- 注意!2月5日起国内航线燃油附加费全面上调,出行..
- 交易所春节休市安排公布:A股除夕休市,大年初八..
- 马斯克动手了!DOGE要全面控制美国政府?..
- 春节后A股将会如何演绎?以史为鉴这四大行业上涨..
- 科技股拖累美股涨势暂歇,中概、人民币大涨,特朗..
- 跌宕起伏的一周,尽管英伟达被重创,美股Mag 7整..
- AI巨变就在未来2,3年了,这位大佬说的很清楚了:..
- 开启全面贸易战?特朗普“新开战线”:最早于2月..
- 川普2.0最佳资产?金价迎来十年来最强的一月..
- 贸易战爆发!报复美国征税,加拿大将对1550亿加元..
- 加密货币市场惨遭血洗,比特币跌破10万美元,以太..
- 创造历史!DeepSeek超越ChatGPT登顶中美AppStore..
- 美俄官员已在讨论止战问题,美国希望乌克兰在今年..
- 一周展望:特朗普关税大棒加速挥舞!黄金创新高后..
- 美股芯片股大涨,台积电ADR涨近2.5%至新高,Arm控..