韩国豪赌AI芯片

刘绪刚

[url=]半导体行业观察[/url]







提到韩国的半导体产业，一个三星一个SK海力士，近几十年都很难再找出另一家享誉国外的芯片行业的企业。尤其是在Fabless设计领域，韩国几乎是毫无存在感。据统计，全球前30名的Fabless公司大约占据了约90%的市场份额，而韩国Fabless企业合计市场份额仅为1%左右。
然而，ChatGPT的问世给韩国的Fabless产业打了一剂强心针。在全球半导体行业陷入AI芯片的激烈争夺之际，韩国AI芯片初创赛道也变得火热起来，一批从大型科技公司或半导体公司出来的人才自立门户，创立了许多AI芯片初创公司。与此同时，在投资遇冷的大环境下，韩国的AI芯片赛道却是不一样的景象。就连CHatGPT创始人Sam Altman在去年会见韩国总统时，也表示有兴趣投资韩国初创企业。
放眼整个AI芯片初创市场，据不完全统计，人工智能处理器领域大约有190多家公司。较为代表的有SambaNova、Cerebras Systems、Graphcore、Groq、Tenstorrent、Hailo、Mythic等等，这些AI芯片公司都难以撼动英伟达这样的行业巨擘。韩国的AI初创公司未来又该如何呢？
韩国AI芯片创业浪潮势不可挡
在过去的几年里，韩国AI芯片初创公司如雨后春笋般迅速成长。它们以创新的技术、颠覆性的产品和强大的团队吸引了投资者和市场的关注。
成立于2020年的Rebellions，该公司生产神经处理单元 (NPU)，名为ATOM芯片，瞄准生成式AI推理市场，直接叫板英伟达。据报道，ATOM AI芯片在Global Benchmark中的表现比英伟达和高通等竞争对手高出1.4~3倍，引起了广泛关注。
该公司首席执行官兼联合创始人Park Sung-hyun此前曾就职于三星的美国研究部门、英特尔和SpaceX等公司。Rebellions也被视为该国在AI推理领域英伟达最有希望的竞争者。据南华早报的报道，Rebellions在韩国LLM市场的推理任务份额已增长到30%，并在全球占据至少 3%到5%。
Rebellions获得了韩国科技行业几大巨头的支持，其中包括三星、KT 和 Kakao。Rebellions通过三星晶圆代工厂的 "多项目晶圆服务 "生产ATOM原型，采用三星5nm，据悉，该芯片还将采用三星的高端 HBM3E 存储芯片。ATOM将是韩国首款在量产水平上支持语言模型的国产芯片。而韩国第二大电信运营商和最大数据中心公司KT将成为Rebellions在ATOM量产后的第一个客户，该公司首席执行官兼联合创始人Park Sung-hyun认为电信公司是AI芯片最理想的客户。
Sapeon是韩国最大电信公司SK Telecom的子公司，于2022年4月从韩国顶级移动运营商SK Telecom Co.分拆出来，为数据中心设计AI芯片。SAPEON宣称，其X220是韩国首款用于数据中心的人工智能处理器。去年Sapeon又推出了专为大型语言模型 (LLM) 设计的X330芯片，采用台积电的7nm工艺，预计在今年上半年量产。
人工智能淘金热还催生了对DPU芯片的需求。2022年，首尔国立大学电气和计算机工程教授 Kim Jang-woo 在聘请了来自三星、Naver、英特尔和微软的顶尖工程师后，成立了人工智能芯片初创公司MangoBoost Inc.。MangoBoost是一家数据处理单元（DPU）和AI服务器基础设施公司。DPU也是AI市场蓬勃发展过程中的一个有利市场，AI的发展使得设备过载和数据瓶颈变得愈发严重，DPU在卸载、实现服务器加速方面具有很大的潜力。凭借十多年来在大学实验室取得的DPU 研究成果，该公司迅速获得了服务器和数据中心行业的认可。在去年11月的A轮投资中，MangoBoost筹集了5500万美元，他们计划利用新获得的资金来加速其多种DPU产品的开发。
HyperAccel成立于2023年1月，主要开发延迟处理单元 (LPU)，这是一款专门用于基于Transformer 的大语言模型 (LLM) 的AI芯片。顾名思义，LPU是专门设计用于降低系统的延迟，该公司开发了一个模型并行技术，可将LLM高效分配到多个LPU，并开发了自己的网络技术，用于LPU之间的数据同步。

                               
登录/注册后可看大图

HyperAccel LPU与GPU平台的效率分析（来自HyperAccel官网）

Mobilint是韩国首家开发智能半导体边缘型神经处理单元（NPU）的公司，成立于2019年4月。成立仅一年，Mobilint参加了全球AI半导体基准“MLPerf”，并在韩国取得了最好的成绩，让其技术被世界所知，并与三星电子、英特尔、谷歌、微软、NVIDIA等合作，共同成为MLCommons（MLPerf操作社区）的创始成员。2022年12月推出首个商用NPU“ARIES”，并开发了两种搭载ARIES的产品“MLA100”和“MLX-A1”。今年1月，该公司获得了200亿韩元的B轮融资，此次投资将用于Mobilint人工智能半导体ARIES的量产以及下一代芯片REGULUS的开发。ARIES即将量产，也将成为Mobilint正式进军全球AI半导体市场的筹码。
DEEPX也是一家韩国NPU芯片初创公司，由首席执行官Lokwon Kim于2018年创立，他曾在 Apple、Cisco Systems、IBM Thomas J. Watson 研究中心和Broadcom工作。该公司在5月初的C轮融资中刚筹集了8000万美元，较B轮1500 万美元的融资飙升了八倍多，目前估值达到5.29亿美元。这些融资将用于该公司首款产品 DX-V1、DX-V3、DX-M1和DX-H1的量产。不过目前，该初创公司尚未拥有客户，但正在与现代起亚汽车机器人实验室和韩国IT公司POSCO DX等100多家潜在客户和战略合作伙伴合作，测试DEEPX的 AI芯片功能。
FuriosaAI由来自三星、苹果、高通、AMD、谷歌和亚马逊的工程师于2017年创立，专注于生产AI推理加速器。截至目前，FuriosaAI已吸引超过1亿美元的投资。
2021年该司发布了用于计算机视觉的第一代芯片WARBOY（三星14nm）发布，同年也成为首家在MLPerf推理方面超越 Nvidia的AI芯片初创公司。他们的优势在于软硬件联合开发，该公司得到了重要客户的支持，其中包括韩国最大的互联网公司 Naver，华硕服务器也采用了该公司的WARBOY卡。2024年，该公司第二代用于大语言模型推理芯片产品RNGD也将发布，它采用台积电5nm，嵌入了 HBM3，性能是第一代AI芯片Warboy的八倍。
2022年7月，FuriosaAI任命英特尔前首席副总裁Bill Leszinske为高级顾问，Leszinske拥有30多年的产品规划和营销经验，其中包括他在推动英特尔 SSD 业务收入增长方面发挥的关键作用。Leszinske在离开英特尔后，还加入了AI芯片初创公司Groq。
可以看出，大部分的韩国的AI芯片初创公司都瞄准的是生成式AI这个市场。这些公司在不同的领域展开创新探索，从神经处理单元到延迟处理单元，从数据中心设计到智能半导体边缘型处理器，各自探索着AI芯片应用的新边界，意图在AI市场中占据一席之地。
机遇与挑战并存，
韩国AI芯片初创公司能否突围？
不得不说，这些AI芯片初创公司的成立有着很大的市场机遇。当下正值AI发展高峰期，客户不希望被一家AI芯片公司垄断，传统的芯片和初创企业都想来分一杯羹。德勤预测，2024年针对生成式人工智能进行优化的专用芯片市场规模将超过 500 亿美元，占当年所有人工智能芯片销售额的三分之二。德勤预测，2024 年人工智能芯片销售总额将占预计全球芯片市场规模5760亿美元的11%。而到2027年，与其他支持AI的芯片一起，可能占所有半导体销售价值的一半。
AI发展方兴未艾，目前所有训练和几乎所有生成式人工智能推理都是使用相同的数据中心生成式人工智能芯片完成的。但随着时间的推移，生成式人工智能推理的很大一部分可能将在边缘处理器上完成。这些可能是更小的GPU或CPU或新的专用集成电路，可能来自现有的生成式 AI 芯片公司，也可能来自新进入者，因此，这也为初创公司带来发展机遇。
政府的大力支持也是很重要的一方面，在AI、电气化的发展大势下，韩国政府开始重视Fabless企业，并努力发展本土产业链。在AI芯片层面，韩国的目标是到2030年，将韩国人工智能芯片在国内数据中心的市场份额从几乎为零提高到80%，实现本土化供应。
半导体是韩国出口导向型经济的重要支柱。3月份，芯片出口达到21个月新高，达到117亿美元，占该国出口总额的近五分之一。韩国的目标是超越存储芯片，在未来成为全球前三大AI国家之一，因此，韩国政府宣布到2027年的未来三年将在人工智能领域投资69.4亿美元。此外，韩国政府表示还将设立一个1.4万亿韩元（1 万亿美元）的基金，来帮助国内人工智能芯片制造商发展。可以看出，韩国在AI上下了大的赌注。
不仅是生成式AI领域，据韩国媒体BusinessKorea报道称，韩国政府正在积极推进新的研发项目，其中包括开发用于自动驾驶汽车的AI芯片，目标是超越美国半导体巨头英伟达。由研究机构、大学等代表组成的“第二次战略规划与投资委员会”批准了2025年62个新研发项目，包括超过 11 个领域的旗舰项目和路线图。韩国正在开发性能从数十到300 TOPS的自动驾驶芯片。
虽然韩国兴起了如此多的AI芯片初创公司，但前路仍然面临着不少的挑战：
首先，AI芯片研发需要大量的资金投入，这对于初创公司来说是一个很大的挑战。尽管这些AI芯片公司拿到了一些融资，但是芯片是个烧钱的行业，这点可以从目前业内几家著名的AI芯片公司窥得一斑。
其次，AI或者生成式AI芯片市场竞争激烈，产品研发出来到实际大规模商用还有很深的一条河。韩国AI芯片初创公司需要在技术、产品、成本等方面取得优势才能在竞争中脱颖而出。
最后，人才是重中之重，缺人是半导体行业的通病。目前韩国的这几家AI芯片初创公司无不在广揽人才。这些AI芯片初创公司的涌现，将有助于吸引韩国人才的回流。尽管韩国是存储芯片大国，但其实该国拥有相当数量的人工智能人才。根据斯坦福大学于4月15日发布的“2024年人工智能指数”报告，韩国以每10万人10.26项人工智能相关专利的数量领先于全球（图2），同时以0.79%的人工智能劳动力密度位居全球第三。尽管韩国在人工智能领域具有这些强大的竞争力指标，但该国正面临着人才外流日益加剧的挑战。据2023年数据显示，韩国每10万人中AI人才的净流出量为-0.30人（图3），意味着离开该地区的AI人才数量多于进入该地区的AI人才数量。

                               
登录/注册后可看大图

来源：2024 AI Index Report，stanford university

上图：2022年各国每10万居民人工智能专利授权情况。

                               
登录/注册后可看大图

（图表：2024年人工智能指数报告）

上图：2019-23年按地理区域划分的每万名LinkedIn会员的人工智能人才净迁移。
结语
韩国总统尹锡烈表示：“正如过去 30 年我们用存储芯片统治世界一样，未来30年我们将用 AI 芯片书写新的半导体神话。”韩国的野心能否实现不得而知，但是一个事实是，这些AI初创芯片公司的崛起，为韩国半导体产业这汪水注入了新的活力。

zrx166

小姐的心气，丫鬟的命。

hznetmask

还是体量不够大啊，动不动就是豪赌。都要他不香吗。

xfdjr

韩国这是举一国之力啊