平台企业助力AI芯片项目上云

来源:互联网 时间:2023-07-14
科技日报记者操秀英 在近日举办的2023世界人工智能大会上,AI芯片企业亮点颇多,积极参与这波大模型淘金热。他们纷纷展示出大模型实力,以及在具体行业和场景落地的示范案例。其

科技日报记者 操秀英

在近日举办的2023世界人工智能大会上,AI芯片企业亮点颇多,积极参与这波大模型淘金热。他们纷纷展示出大模型实力,以及在具体行业和场景落地的示范案例。其中,上海燧原科技有限公司(简称燧原科技)打造的燧原曜图文生图MaaS平台服务产品让人眼前一亮。其底层算力由“邃思”系列芯片提供,还涵盖软硬件一体的全栈解决方案。

这家成立仅5年的公司,已成为AI芯片赛道的“黑马”。其背后,离不开腾讯的战略支持。

“业内没有,就自己搞一个”

2018年,燧原科技成立不久,腾讯就开始与其开展深度合作,加强人工智能领域云端算力平台产品和服务等核心业务发展。

复盘来看,腾讯对燧原科技最大的助力是助其商业化落地及让其芯片项目上云。近年来,腾讯与燧原科技在国内首次采用“存算分离”架构的芯片仿真混合云平台项目突围成功,成为燧原科技第一个上云的芯片项目。

燧原科技芯片上云的这一步并不容易。

腾讯云计算相关专家表示,芯片是一个相对传统的行业,很多企业部署了较重的线下IDC(互联网数据中心)资产,遵循着一套标准化的使用流程。但其实,芯片设计在不同阶段对算力的需求不同,波动明显且难以预测。为了突发的需求部署大量的冗余资源,很不划算。而且,芯片研发需要的是高性能先进计算资源,如果要一直更新机型,负担很重。

显然,云计算的弹性特点能很好满足芯片设计快速、灵活地获取海量高性能计算资源的需求。然而,核心知识代码和流程工艺等数据的安全是重中之重,是芯片企业的命门,上云是否安全?于是,燧原科技试探性地问:能否把所有的存储放在本地,在需要弹性算力的环节使用云?

通常来讲,数据中心会将存储和计算资源部署到一起,但燧原科技需要的是更加彻底的“存算分离”,云上仅包含计算,所有数据存储在本地,通过专线远程访问。相比起云上的存算分离,这种架构对网络时延、带宽吞吐率和效率的要求都更加严苛。

------分隔线----------------------------
栏目列表
推荐内容