#
DeepSeek 爆火出圈,国产 AI 大模型如何突围?
发布时间:2025-02-14 15:49:09

2025年春节期间,DeepSeek爆火出圈,发布开源大模型,在数学、代码、自然语言推理等任务上表现追平OpenAI,在美国对我国AI产业链全方位打压遏制的(de)背(bèi)景(jǐng)下(xià),成(chéng)功(gōng)走(zǒu)出(chū)了(le)一(yī)条(tiáo)低(dī)成(chéng)本(běn)、高(gāo)性(xìng)能(néng)、国(guó)产(chǎn)化(huà)“突(tū)围(wéi)之(zhī)路”并(bìng)震(zhèn)惊(jīng)世(shì)界(jiè),为(wèi)加(jiā)速(sù)国(guó)产(chǎn)AI大(dà)模(mó)型(xíng)降(jiàng)本(běn)提(tí)效(xiào)、生(shēng)态(tài)繁(fán)荣(róng)注(zhù)入(rù)了(le)强(qiáng)大(dà)动(dòng)力(lì)。

DeepSeek 爆火出圈,国产 AI 大模型如何突围?

1、出(chū)圈情况

DeepSeek凭借“低成本+高性能”模型全球破圈。DeepSeek早前发布的V3模型每训练1万亿tokens仅需在2048块H800 GPU集群上耗时3.7天,总计278万 GPU小时、557.6万美元的训练成本,约为GPT-o1的1/20、Llama 3.1的1/10。

新发布的R1模型API服务价格为每百万输入tokens 1-4元、每百万输出tokens 16元,远低于同期 OpenAI o1 API定价水平,且在逻辑、数学及中文任务中表现优异。DeepSeek应用程序霸榜苹果应用商店第一名,获全球主流公有云公司平台接入。

2、成功原因

①DeepSeek通过较少算力实现高性能模型表现,主要通过算法创新和工程优化等方式大幅提升模型效率。

一是成功走通“纯”强化学习(RL)路径。DeepSeek-R1抛开以预设思维链模板和监督式微调等为特点的AI推理能力传统训练方法,仅依靠简单的奖惩信号来指导优化模型行为,不仅省去了SFT和复杂的奖惩模型对计算资源的需求,还促使模型以“顿悟”的形式学会思考。二是实现算法、框架和硬件的优化协同。为大幅减少内存占用和计算量,DeepSeek系列模型在算法层面引入专家混合模型、多头隐式注意力、多token预测,框架层面实现FP8混合精度训练(liàn),硬(yìng)件(jiàn)层(céng)面(miàn)采用(yòng)优(yōu)化(huà)的(de)流(liú)水(shuǐ)线(xiàn)并(bìng)行(xíng)策(cè)略(è),同(tóng)时(shí)高(gāo)效(xiào)配(pèi)置(zhì)专(zhuān)家(jiā)分(fēn)发(fā)与(yǔ)跨(kuà)节(jié)点(diǎn)通(tōng)信(xìn),实(shí)现(xiàn)最(zuì)优(yōu)效(xiào)率(lǜ)配(pèi)置(zhì)和(hé)资(zī)源(yuán)节(jié)约(yuē)。

②DeepSeek具(jù)有(yǒu)拥(yōng)抱(bào)AI的(de)创(chuàng)始(shǐ)基(jī)因(yīn)丰富的算力资(zī)源(yuán)储(chǔ)备(bèi)、极(jí)具(jù)天(tiān)赋(fù)的(de)本(běn)土(tǔ)人(rén)才(cái)团(tuán)队(duì)。

一(yī)是(shì)自(zì)带(dài)AI创(chuàng)始(shǐ)基(jī)因(yīn)。创(chuàng)始(shǐ)人(rén)梁(liáng)文锋(fēng)毕(bì)业(yè)于(yú)浙(zhè)江(jiāng)大(dà)学(xué)电(diàn)子(zi)信(xìn)息(xi)工(gōng)程(chéng)和(hé)计(jì)算(suàn)机(jī)科(kē)学(xué)专(zhuān)业(yè),早(zǎo)年(nián)创(chuàng)立(lì)对(duì)冲基金“幻方量化”,实现投资策略全面AI化,2023年5月成立深度求索,聚焦发展通用人工智能。二是丰富的算力资源储备。幻方量化曾投资超过10亿元,先后研发了AI超级计算机“萤火一号”和“萤火二号”。其中,“萤火二号”搭载了约1万张英伟达A100显卡。三是极具天赋的本土人才团队。DeepSeek团队工程师和研发人员几乎都来自清华大学、北京大学、中山大学、北京邮电大学等国内顶尖高校,鲜有“海归”,以走出校园不久的博士为主,也有部分成员有英伟达、微软等国外企业工作或实习(xí)经(jīng)历(lì)。

3、产业影响

一是DeepSeek打破大模型发展路径依赖,基本确立了符合中国实际的AI发展道路。DeepSeek 打破了 AI 大模型发展对算力和标注数据的高度依赖,展示了通过改进模(mó)型(xíng)架(jià)构(gòu)和训练方法,以较少的数据标注量和算力消耗提升模型推理能力的可行性,标志着我国在硬件上长期存在代际差距的情况下,可采取软硬协同方式实现对海外顶尖大模型的性能追赶和成本领先。

二是DeepSeek提升行业对模型的后训练和推理需求,长期提振算力需求。DeepSeek R1在 V3 的基础上进行了两次强化学习,明显提升了训练的探索时间(jiān)和(hé)推(tuī)理(lǐ)思(sī)考(kǎo)时(shí)间(jiān),将(jiāng)在(zài)后(hòu)训(xun)练(liàn)阶(jiē)段(duàn)延(yán)续(xù)Scaling Law法(fǎ)则(zé)。随(suí)着(zhe)高(gāo)性(xìng)能(néng)低(dī)成(chéng)本(běn)模(mó)型(xíng)的(de)出(chū)现(xiàn)将(jiāng)大(dà)幅(fú)降(jiàng)低(dī)国(guó)内(nèi)AI赋(fù)能(néng)千(qiān)行(xíng)百(bǎi)业(yè)的(de)应(yīng)用(yòng)开(kāi)发(fā)门(mén)槛(kǎn),推(tuī)动(dòng)AI产(chǎn)业(yè)链(liàn)从“训练驱动(dòng)”向(xiàng)“推(tuī)理(lǐ)驱(qū)动(dòng)”转(zhuǎn)变(biàn),带(dài)动(dòng)推(tuī)理(lǐ)算(suàn)力(lì)需(xū)求(qiú)加(jiā)速(sù)释(shì)放(fàng)。

三(sān)是(shì)DeepSeek以(yǐ)模(mó)型(xíng)开(kāi)源(yuán)推(tuī)动(dòng)AI平(píng)权(quán),开(kāi)源(yuán)路线(xiàn)有(yǒu)望(wàng)打(dǎ)造(zào)应(yīng)用(yòng)繁(fán)荣(róng)的(de)安(ān)卓(zhuō)时(shí)刻(kè)”。DeepSeek完(wán)全开(kāi)源(yuán)了模型权重(zhòng),允(yǔn)许(xǔ)其(qí)他(tā)开(kāi)发(fā)者(zhě)将(jiāng)模(mó)型(xíng)用(yòng)于(yú)商(shāng)业(yè)用(yòng)途(tú)并(bìng)进(jìn)行(xíng)模(mó)型(xíng)蒸(zhēng)馏(liú)。已(yǐ)发(fā)布(bù)了(le)基(jī)于(yú)R1蒸(zhēng)馏(liú)Llama与(yǔ)Qwen的(de)6个(gè)小(xiǎo)模(mó)型(xíng),在(zài)多(duō)项(xiàng)基(jī)础(chǔ)测(cè)试(shì)集中(zhōng)性(xìng)能(néng)对(duì)标(biāo) o1-mini,被(bèi)Facebook首(shǒu)席(xí)人工智能科学家杨立昆誉为“开源模型对闭源模型的胜利”。开源模型通过知识蒸馏快速打造高性能、轻量化小模型,将驱动端侧模型在手机、电脑、眼镜等智能硬件上的部署应用,形成AI应用百花齐放的格局。

作者:邓衢文

单位:中移湾区(广东)创新研究院有限公司

  • 上一篇
  • 新闻中心-
  • 下一篇

联系我们

请致电咨询

400 882 6599 400 686 5686