一体机喜迎上新潮,云联盟将发布应用侧配置需求

首页    联盟动态    一体机喜迎上新潮,云联盟将发布应用侧配置需求

    Deepseek的火爆,对ToB市场最大的拉动,就是AI私有化部署需求飙升,一体机迎来一场声势浩大的上新潮;动画电影《哪吒》全球票房更是狂飙近150亿,极大提震了文化投资者的信心。两大事件双重作用,必将推动科技创新与文化行业加速融合,催生出更多的市场需求与机遇。

中关村云计算产业联盟(简称“云联盟”)已邀请文化产业领导及专家、文化领域数字化应用专家、大模型应用专家、一体机企业及AI领域各赛道科技企业,拟订于2025年3月12日(周三)召开闭门会,共同研讨文化行业大模型训练一体机性能要求及软硬件配置参数加速行业大模型一体机在文化产业的应用落地,促进行业大模型一体机技术生态建设和行业应用场景的适配。
本次会议将发布文化行业大模型一体机应用侧配置需求,现面向人工智能算力及系统基础设施、人工智服务器、存储及网络设施、大模型一体机、大模型运营管理及运维、网络及数据安全等科技领域征集参会企业。
如需了解更多征集信息,敬请联系云联盟秘书处:冯老师(13001178200)、李老师(15797829701)


DeepSeek一体机彻底火爆

其实,2024年就有不少厂商推出了一体机,但销售不温不火,关键一点就是没有适用的可落地模型。如今,有了DeepSeek,开箱即用的一体机优势立马突显。据不完全统计,包括华为、联想等大企业在内,已有超过60家企业基于DeepSeek推出一体机。目前市面上的一体机分为推理一体机和训推一体机,内置DeepSeek-R1 32B、70B、满血版671B等不同尺寸模型。

在一体机密集发布的背后,是党政机关和关键行业客户引入DeepSeek的需求井喷。近期以来,北京、广州等多地政务系统宣布全面启用DeepSeek大模型,首批AI“公务员”正式上岗,覆盖文件处理、政策咨询等场景。与此同时,相关数据显示,有超20家央企已接入DeepSeek,涉及能源、通信、汽车、金融、建筑等多个领域。


一体机选型建议

于一体机的选择,我们建议以下几点,仅供参考:

一、尽量选择“原生”满血版一体机:虽然各种一体机都宣传支持满血版DeepSeek,但由于搭配的算力卡能力不同,“满血”也会打折扣。DeepSeek V3/R1官方推荐的推理精度是FP8和BF16,而官方只提供FP8权重的满血模型,BF16权重模型需要自行转换。

“满血一体机”的配置清单(仅供参考)
理论上讲,用原生支持FP8精度的GPU来执行推理任务,可以达到最佳满血效果。第二选择是转换为BF16精度,用支持该精度的GPU来推理,精度几乎无损,但系统开销会增大,推理效率会降低。
二、尽量选择有大模型开发能力的供应商:一体机买回来、DeepSeek跑起来,并非一劳永逸。所以,虽然一体机硬件很重要,但不建议选择“纯硬件供应商”的产品。
除了存、算、网、模,还需要一整套的AI工具链,让大模型支持AI应用开发、知识库建设、自有业务场景赋能,以及模型能力的持续迭代。
DeepSeek不是第一个也不是最后一个爆炸级的模型,相信未来业界还会有更多惊喜,我们也需要让一体机与时俱进。
三、满血一体机很贵,预算不够怎么办?从目前看,真·满血一体机都是百万级的,预算不够怎么办?如果不是有特别安全要求,选个性能不错的API也是可以的,先练练手,把智能体开发、知识库、业务整合先跑通,而且可以博采众长,多家API、多种模型接入。积极拥抱AI,但也不需要冒进,在DeepSeek这一波引领下,大模型一定会越来越普惠,练好内功才是关键!

未来市场空间广阔
除了低成本和安全性等主观需求以外,也不容忽视B端客户IT投资规模累年上升的客观趋势。以政务、金融IT领域AI+市场为例,据IDC数据,2024年我国数字政府IT投资规模达1583亿元,到2028年将达到2134亿元,CAGR达9.4%。其中基础架构层、平台层和应用解决方案领域投资占比最高。与此同时,2024上半年,我国金融整体基础设施市场规模为28.9亿美元,同比增速7.1%,市场环比增速初步回暖。
作为硬件,算力一体机可被视作集AI芯片、服务器硬件、算法框架、行业应用软件为一体的集成化计算设备。但另一方面,算力一体机更是一种AI的载体和入口,
从此意义上来看,一体机作为集成化方案同时将AI Agent产业链上游的模型、算法、硬件和中游的平台及下游的应用集合在一起,可以给客户提供针对垂类领域便捷高效的解决方案,符合当前主要需求方——政企、金融客户众多细分场景的部署要求。是当前AI Agent的理想实现载体。
未来,一体机或将迎来更为广阔的市场空间。据研报测算,预期DeepSeek快速部署需求有望带动一体机需求增长,2025年到2027年一体机需求量将分别将达到15、39、72万台,对应市场空间1236、2937、5208亿元。


2025年4月21日 14:28
浏览量:0
收藏