新闻中心

EEPW首页 > 智能计算 > 业界动态 > 芯片推动人工智能热潮,韩国企业纷纷入局

芯片推动人工智能热潮,韩国企业纷纷入局

作者:koreajoongangdaily时间:2023-11-09来源:半导体产业纵横收藏

爆发式的热潮同样也在半导体行业引起轰动。英伟达是最大的赢家,其 GPU 对于训练高级系统变得至关重要。韩国企业也是看中了这一点,电子和 SK 海力士专为诸如英伟达的 GPU 等量身定制高端内存芯片。

本文引用地址:http://www.eepw.com.cn/article/202311/452656.htm

电子计划扩大其高带宽内存(HBM)芯片的生产,预估明年产量扩大至今年的两倍半。SK 海力士明年也将增加设备投资,扩大 HBM 芯片生产。SK 海力士将在其现有的清州工厂增加一条 HBM 芯片所必需的封装生产线。

HBM 是一种高端动态随机存取存储器(DRAM)芯片,采用堆叠技术,能够比普通芯片更快地处理数据,并具有更高的能源效率。随着大型科技公司热衷于升级迭代其生成式工具,这些工具需要低功耗高效处理大量数据,HBM 销售炙手可热。

电子和 SK 海力士控制着超过 90% 的高端 DRAM 芯片市场。两家公司表示,它们明年的 HBM 产能已被预订完毕。2025 年的谈判已经开始了。HBM 的价格平均比普通 DRAM 芯片高出五至六倍,过去它在 DRAM 市场中所占份额仅为个位数,但其份额可能会大幅增加。花旗集团的芯片分析师 Peter Lee 预计,HBM 的市场份额将增长 11%,并在 2027 年达到 30%。

内存芯片不再是一般商品

长期以来,内存芯片一直被视为一般商品,可以在各种应用中使用,无需进行复杂或定制化的加工。因此,生产商必须严格依赖规模经济来实现盈利,并且受市场波动的影响较大。然而,情况不再如此。随着 HBM 制造变得更加复杂,技术化差异开始显现,使得存储具有更多的定制化可能性。

SK 海力士的 HBM3E 芯片 来源:SK 海力士

目前,SK 海力士是 HBM 市场的头号玩家。根据集邦咨询(TrendForce)的数据显示,SK 海力士占据 HBM 市场 50% 份额。SK 海力士的 HBM 芯片通过 MR-MUF 技术脱颖而出,使用液化填料粘合和保护连接每个堆叠晶圆的电路。MR-MUF 技术以提高能效而闻名。与常见的 NCF 封装相比,NCF 封装使用晶圆隔离垫,随后必须被熔化,很难将热量均匀传递给每个晶圆,收益率低。

SK 海力士将利用 MR-MUF 技术生产最新的 HBM3E 芯片,目前这些芯片尚未进行大规模生产。从 8 月开始,SK 海力士将向包括英伟达在内的客户提供样品。

「直到现在,被视为大宗商品的内存芯片一直专注于谁能做得更小并且堆叠层数更多,」SK 海力士 CEO 说道,「随着人工智能时代的到来,客户的服务多样化,对内存芯片的需求也有了各种规格。因此,内存芯片在某些方面正在演变成在某些方面强大的定制产品。」

三星电子正在发展「处理内存」(process-in-memory)技术,即在内存芯片内部集成逻辑单元,使得数据处理可以在内存内部完成,从而减少了数据传输量和能耗,并提高了处理效率。三星电子是在 2021 年首个开发该项技术的公司。

在今年的 Hot Chips 论坛,三星透露了一项和 AMD 合作完成的研究结果,其技术将使普通 HBM 的能效和性能达到翻倍以上。具体来说,三星将其 HBM-PIM 与 AMD 的 MI-100 GPU 加速器进行了整合。

三星电子负责 DRAM 业务的执行副总裁 Hwang Sang-joon 表示:「HBM-PIM 通过在 DRAM 内部嵌入数据计算功能,解决了内存带宽瓶颈问题,性能提升了 12 倍。一些特定功能,例如如语音识别,能效提高了四倍。」

新的合作伙伴关系即将到来

三星电子的代工业务吸引了一些正在跟随人工智能热潮的新客户。其位于德克萨斯州泰勒的制造工厂目前正在建设中,今年早些时候确定了首位客户——硅谷人工智能初创公司 Groq。使用三星的 4 纳米技术制造的人工智能芯片将在该工厂于明年底前完成生产。

此外,三星最近与由半导体专家吉姆·凯勒领导的加拿大的新兴人工智能芯片设计公司 Tenstorrent 建立了额外的合作伙伴关系。

三星电子 HBM3E 芯片 来源:三星

加拿大人工智能芯片设计公司 Tenstorrent 正在与韩国的人工智能芯片制造商 Rebellions 和 DeepX 合作。三星正在充分利用其半导体实力,同时经营内存芯片和代工业务。

自今年初以来,三星一直在提供所谓的「Package Turn Key」服务。三星充当一站式服务站,既代工处理器又将其与自己的内存(包括 DRAM)封装在一起,以节省时间和金钱。这种产品是为吸引寻求高性能半导体来支持其人工智能工具的大型科技公司而做出的努力。目前,三星是唯一能够同时制造逻辑芯片和内存芯片并对它们进行封装的公司。

人工智能芯片已成为重要议题

考虑到人工智能及其所需的先进芯片需要巨额投资和基础设施支持,政府的态度至关重要。

韩国政府计划投资 8262 亿韩元(约合 6.31 亿美元),希望到 2030 年在韩国塑造一个以本土高端人工智能芯片为核心的人工智能生态系统。

「人工智能将对半导体、数据和平台服务乃至安全产生重大影响。」韩国总统在九月份的一次政府间会议上表示。他说:「政府支持应该起到催化作用,以促进企业投资和创新。」

政府的中心倡议项目命名为「K-Cloud」。参与者包括人工智能芯片设计公司、云计算公司、学术专家和科学技术部,将花费约 1000 亿韩元用于到 2025 年开发用于人工智能数据中心的神经处理单元(NPU)。

K-Cloud 项目旨在建立基于新的 NPU 的数据中心集群,提供 39.9 petaflops 的人工智能计算能力,其中公共部门和私营部门分别提供 19.95 petaflops。1 petaflop 每秒执行一千万亿(即一万亿亿,或 10 的 15 次方)次计算。

在第二阶段,该项目计划在 2028 年基于 DRAM 技术创建一种低功耗的内存内处理(PIM)芯片。PIM 芯片整合了存储和处理功能,以减少延迟并解决冯·诺伊曼瓶颈问题。

最后阶段将在 2030 年之前,升级基于非易失性存储器和超低能耗的 PIM 芯片。

根据市场跟踪机构 Gartner 的预测,全球人工智能芯片市场预计到 2026 年将达到 861 亿美元,每年增长 16%。

数据中心加入 AI 热潮

另一个预计从人工智能技术中获益的行业是数据中心。新冠疫情期间,数据中心和云计算的需求增加,生成式人工智能受到广泛关注。公司将需要计算资源来训练自己的大型语言模型,因此预计这一趋势将进一步扩大。

韩国三家移动运营商——SK Telecom、KT 和 LG Uplus——在全国范围内共拥有 31 个数据中心,其中 18 个位于首尔。根据元大证券(Yuanta Securities)的报告,这三家公司占据了总数据中心容量的 93%。

「从 2028 年开始,互联网数据中心市场将转向以供应商为导向的模式。」元大证券分析师 Lee Seung-woong 表示:「到 2030 年,数据中心的需求可能会增加 1088 亿韩元,而同期供应可能仅增加 609 亿韩元。由于在短期内供应很难超过需求,数据中心可能会在中长期内提升电信公司的盈利能力。」

在韩国国内扩大规模之后,SK Telecom 和 KT 计划将它们的数据中心基础设施出口海外,首选东南亚地区。

上个月,一场介绍其人工智能战略的新闻发布会上,SK Telecom 的 CEO Ryu Young-sang 表示,该公司计划将其数据中心的国内容量增加一倍以上(从 1 亿韩元增加到 2.07 亿韩元),并与外国云服务提供商合作,将其基础设施扩展到海外。

KT 旗下的云计算子公司 KT Cloud 于 5 月从当地私募股权公司 IMM Credit & Solutions 获得了 6000 亿韩元的资金,用于扩大其基础设施云和数据中心基础设施。预计到 2026 年,其年收入将达到 2 万亿韩元。



关键词: 人工智能 三星

评论


相关推荐

技术专区

关闭