GPU赛道日渐普及，AI芯片已进入落地阶段。
作者|ZeR0
编辑|莫英
芯希9月3日报道，今天，上海云端AI芯片公司汉博半导体在其人工智能大芯片产业落地论坛上预览了旗下首款7nm云端GPU芯片SG100，将图形渲染加入到其产品布局中。
同时，汉博推出了汉博统一计算架构、新型数据中心推理卡再天VA10、边缘AI推理加速卡再天VE1以及汉博软件平台VastStream扩展版。
汉博半导体于2018年12月在上海成立，专注于高性能通用加速芯片的开发。其融资状况也引人瞩目。其投资阵容包括快手和阿里巴巴两大互联网战略投资者。截至目前，瀚博已完成融资超过24亿元。
会后，汉博半导体创始人兼CEO钱军接受了新西东西部等媒体采访。钱军透露，今天新发布的两款加速卡已经进入客户级测试。
钱军表示，未来汉博将带来更多基于GPU和AI芯片的产品组合，更好地满足市场和客户的需求。
01.
兼具图形显示和AI功能的7nm云GPU预览
汉博半导体首款7nm云GPU芯片SG100拥有业界领先的图形渲染性能。具有超高吞吐量、超高质量、低延迟编码等能力。它集渲染、AI、视频于一体，可以提供云游戏和云服务。针对手机、云桌面、云计算等元界关键应用场景进行深度优化。
同时，SG100还提供SR-IOV虚拟化支持，端到端提升用户视觉体验，满足市场对智能视频视觉和图形图像处理的算力需求。
汉博半导体创始人兼CEO钱军，曾任美国GPU巨头AMD中国高管。他带领AMD中国团队设计并量产了业界首款7nm图形处理器和首款7nm云GPU架构AI芯片。据悉，汉博核心研发团队拥有超过18年的高端芯片设计和量产经验，拥有数十款GPU流片。
钱军表示，汉博的初衷是“为像素世界提供庞大的算力”。考虑到GPU研发技术门槛较高，汉博在成立之初就考虑到硬件、软件研发和工程能力都需要加强，因此选择首先瞄准“AI+视频”市场，开发基于GPU的AI芯片。特定领域架构 (DSA) 架构。利用研发团队在视频处理方面的经验。
“具有图形渲染能力的GPU的研发一直在我们的计划之中。”钱军表示，随着SG100的到来，汉博正式进军GPU市场。
由于汉博云GPU和专用AI芯片在目标市场上有重叠，当鑫熙问及两条产品线如何协同时，钱军表示，汉博的做法类似于“中台”的概念，汉博自主研发了很多核心技术和半导体 IP 可以内置到 GPU 中或在人工智能芯片上工作。
未来，瀚博计划带来更多基于GPU、AI和视频核心技术的产品组合。
钱军告诉芯希，汉博未来还会考虑开发集成GPU和AI能力的芯片，这将根据客户需求综合判断。
02.
统一计算架构全景揭开
推出两款AI推理加速卡
论坛上，汉博半导体创始人兼CEO钱军宣布推出汉博自主研发的Vastai统一计算架构。
该架构集成了多个高性能计算引擎，具有高效统一的存储管理、一致的接口和低链路延迟、完整的虚拟化功能、统一的底层软件设计以及模块化的上层计算算子库和功能模块。
汉博统一计算架构最大限度地为计算密集型AI、视频和渲染任务性能提供硬件加速，同时降低端到端延迟并集成支持云端实时图形渲染、AI增强处理、视频编解码等需求。 。
针对数据中心场景，汉博推出了数据中心推理卡再天VA10。该加速卡搭载汉博自主研发的超低延迟、超高吞吐量AI引擎，INT8峰值算力达到400TOPS，刷新行业纪录。
在天VA10的功耗为150瓦。整体最大推理性能是同等功耗主流GPU的2倍以上，时延低至后者6%。在低时延场景下（小于4毫秒的YoloV3检测算法场景），其推理性能可达到同功耗市场主流GPU的三倍以上。
据悉，宰天VA10适合部署多种实时性要求较高的云端AI应用，例如直播视频增强、智能流量管理、实时语义理解等场景。
针对边缘计算场景，汉博发布了首款面向大算力边缘计算场景的推理卡——载天VE1系列。
Zaitian VE1结合了低功耗、超低延迟和超高吞吐率。吞吐量是主流GPU的2倍，但延迟仅为主流GPU的1/5。在40~65瓦的功耗下，载天VE1的INT8峰值计算能力达到100TOPS。
该加速卡支持60路1080P视频实时解码，支持主流AI框架模型，并提供从模型编译到推理优化的全流程低代码开发框架VastPipe。它将软件和硬件相结合，为客户提供端到端的人工智能推理解决方案。
在天VE1可以在高速公路事件检测、“人、车、非机动车”视频结构化、大数据研判等超高数据量并发场景等诸多关键场景中发挥作用；例如道路实时动态信息交互、工业缺陷检测等低时延要求的场景。在天VE1非常适合智慧交通、车路协同、工业质检等边缘大算力场景。
要实现硬件的最佳性能，还需要软件的同步支持。
VastStream是VastStream的软件平台，它的出现加速了各种人工智能应用的部署，包括计算机视觉、视频处理、自然语言处理、搜索和推荐、运营商定制扩展等。
VastStream的新软件组件提供了包括系统管理在内的三大管理工具，以方便客户部署。同时，其基础软件栈功能更加丰富，包括统一接口、灵活调度、通用AI计算、多路高效视频转码+AI增强、轻松编程、快速迁移、完整工具链等。
目前，汉博已形成涵盖芯片、推理加速卡、一体机的硬件产品线和软件集成系统解决方案。
03.
产业落地屡获进展，宣布与上海交通大学人工智能研究院合作
在2022世界人工智能大会上，汉博半导体展出了包括新品在内的多款芯片相关产品，展示了其智能视频视觉、图形图像计算产品和算力解决方案。
此前，汉博已推出首款云端AI推理芯片SV102以及搭载该芯片的在天系列通用加速卡VA1。其芯片解决方案覆盖从云端到边缘的服务器和一体机市场，并多次加速相关应用的落地。有进步。
2022年以来，汉博先后与福建大数据集团、国宁瑞能、高新、超融合等行业龙头企业在智慧城市、智慧政务、智慧交通、智慧园区、和智慧能源。 ，为企业智能化、数字化提供国产AI算力解决方案。
今年7月，汉博半导体与高新兴签署战略合作协议。双方将在车联网、车路协同等智慧交通领域开展芯片解决方案、生态建设等方面的深入合作，推动智慧交通数字化、智能化转型升级。
汉博高性能通用智能加速芯片具有大算力、低时延的优势，能够满足车路协同多传感器融合数据处理的大算力和时延需求。同时，汉博的研发过程采用先进的生产工艺和创新的节能计算架构，实现更好的能耗比，从而帮助企业客户降低算力成本，降低计算能耗。
近期，汉博还与国内主流服务器厂商Super Fusion合作，共同解决企业在AI应用中面临的典型问题，致力于降低AI计算门槛。
此外，为了推动技术生态系统的发展，汉博还正在与全球顶尖技术、人才、机构和大学建立合作。
在今天的论坛上，汉博与上海交通大学人工智能研究院签约，开展校企合作。汉博希望通过产学研用联盟吸纳更多优秀人才和资源，推动技术进步、人才培养、科研成果转化，建立智能芯片生态圈。
04.
对元宇宙持乐观态度
国产芯片企业弯道超车的机会
元宇宙作为数字经济未来发展的重要领域，已经进入虚拟与现实融合的3D互联网时代，对算力的需求更加旺盛。 9月1日，瀚博创始人兼CEO钱军出席2022世界人工智能大会芯片主题论坛，并在圆桌会议上分享了他对芯片元宇宙应用的见解。
▲汉博半导体创始人兼CEO钱军
钱军认为，元宇宙是国内芯片企业弯道超车的机会。 “就像油车、电动车落后了一样，当我们有了颠覆性的方向时，我们就会在这个过程中获得各种超越的机会。 ”
在他看来，元宇宙本身并不是颠覆性技术，而是多种数字技术组成的综合应用，其中会产生AR/VR等各种交互和感知软件渲染和硬件渲染，并产生海量内容，需要实时性和强大的能力。视频处理计算能力、多种渲染引擎以及5G网络、大数据、人工智能、区块链等综合数字技术的支撑和管理。
因此，元宇宙可以看作是现象级的应用。同时，必须综合考虑多种类型的高复杂度计算，因此对未来计算能力的提升有巨大的需求。
以元界的数字孪生渲染为例，尤其是沉浸式渲染，对GPU性能提升有巨大的需求。
“GPU一定要上云，只有上云，才能把多个GPU全面连接起来，然后一体化地进行有效渲染，才能支撑元宇宙海量内容的生成。”钱军说。
他认为，现在的场景和需求更加多样化，渲染算法也在不断迭代。如果找到这些机会，GPU 有望在弯道中超越它们。但核心技术不是一朝一夕就能实现的，而是需要长期努力，脚踏实地打造芯片和技术。
05.
芯片如何为AI算力网络提供支持？
在9月2日举行的2022世界人工智能大会中国移动主题论坛上，钱军也谈到了他对“AI新基建”的理解。他认为算力网络是现象级基础设施，采用多种数字技术，需要多元化算力支撑。
芯片部署应重点关注能耗和算力密度。算力密度从两个维度考虑，即每平方毫米芯片提供的算力和每瓦功耗提供的算力。算力网络还要考虑算力的有效性，能否有效驱动应用。
整体来看，构建算力网络的思路与制造芯片类似。需要对计算能力单元、存储单元、数据交互等资源进行系统规划，使各模块的能力得到有效利用。
对于生态建设，钱军希望未来能够涌现出一些龙头企业，引导整个行业建立开放、规范的生态系统，这将更有利于行业内部的有效竞争和创新，从而更好地支撑行业的发展。人工智能等行业。
06.
结论：云GPU赛道正在流行
AI芯片进入落地阶段
工信部数据显示，我国已成为全球第二“算力国家”：2021年核心算力产业规模将达1.5万亿元，平均增速超过30 % 过去五年。未来，谁的算力更强，谁能在实施过程中率先获得客户认可，就有望抢占未来的制高点，赢得话语权。
本周美国政府突然要求英伟达和AMD限制向中国出口用于加速AI计算的高端GPU的事件再次给我们敲响了警钟。美方随时可能对我国高精尖技术产业挥出利刃。与其冒险，不如脚踏实地做事，未雨绸缪软件渲染和硬件渲染，把未来的主动权掌握在自己手中。
芯片创业充满风险，过程艰辛，前路难测。但我们看到，不少国内AI芯片企业仍在锐意进取，陆续在单卡性能、关键应用实测性能、商业落地等方面取得一系列新进展。面对纷至沓来的机遇和挑战，AI芯片企业仍需保持定力，苦练内功，坚持自主创新，了解客户需求，才能长远前行。
