韩国Atomax芯片正悄然打破英伟达在推理领域的垄断
一款韩国制造的空核处理器(NPU)正通过SK电信的服务,每天为日本处理1400万次推理请求。从英伟达GPU转向推理负载,标志着全球追求AI芯片自主化进程中的一个明确早期信号。
无人瞩目的推理之战
英伟达的统治力体现在训练集群和兆瓦级数据中心中。但更安静的一场战争正在推理领域发生——那是处理用户日常请求的过程,真正支撑着你的聊天机器人、语音助手和垃圾邮件过滤器运转的环节。而在这场战场中,一款韩国芯片已经在发挥作用。
Revellion公司专为推理而非训练设计的Atomax NPU,目前正在SK Telecom的AI服务中处理约每天1400万次请求。这一数据来自SK Telecom和Revellion本身,并已得到《东亚日报》的证实。这些工作负载包括Aidot AI助手的通话摘要、语音合成、AI客服台以及钓鱼信息检测工具ScamBanguard。该芯片每天在这些四项服务中处理超过40亿个token。日本的基础设施——通过SK Telecom的网络进行路由——占据了其中相当大的份额。
这不是一次研究演示。这是始于2023年12月的部署,此后不断扩大。这一点比原始数字更重要。
为何推理芯片是未被歌颂的筹码
GPU是全才,它们既训练模型也运行推理,但当你的需求只是回答用户一个问题时,它们昂贵又耗电。而像Atomax这样的NPU是专家,它们在推理上成本更低、速度更快、每个token的能耗更少。随着AI从实验室奇观转变为生产工具,推理的经济性正成为瓶颈。
Anthropic的首席执行官达里奥·阿莫迪(Dario Amodei)最近就AI安全和算力集中问题发出警告,同时敦促美国政府收紧对华先进芯片出口管制。讽刺意味显而易见:旨在限制对手的出口管制正在加速所有其他国家的自主芯片研发步伐。韩国是最显眼的案例之一。
Atomax已经接入SK Telecom的生产基础设施。该芯片的验证周期——从集成到上线的时间——在去年Aidot首次采用时还需要五到六个月,到了今年夏天已缩短至两到三个月。这种加速能力正是试点项目与完整平台之间的区别。
日本的请求,韩国的芯片
这一头条数字——来自日本的1400万次请求——值得 scrutinize。消息来源并未说明日本是直接接收Atomax硬件,还是请求通过SK Telecom的韩国基础设施来承载。但清晰的是,韩国制造的芯片正在国内电信运营商网络中承担日本的推理负载。这一区分不如结果重要:一款韩国NPU正在执行一年前本应由英伟达GPU完成的工作。
更广泛的信号涉及供应链多元化。据《东亚日报》援引的2024年新版美国安全中心(Center for a New American Security)分析报告显示,截至6月底,英伟达为全球117个政府支持的AI基础设施项目中的45%供应GPU。标榜AI主权各国仍在运行美国硬件。Atomax打破了这一模式,即便处于早期阶段。
下一步是什么
Revellion已在首尔麻谷区的一个数据中心测试其后续芯片Revell 100。三楼的服务器机房噪音达到77.5分贝——声音之大,工程师必须提高嗓门才能交流。该机框已安装八张Revell 100卡,并搭配HBM3E高带宽内存。目前正处于客户部署前的试用阶段。如果验证曲线继续陡峭化,这次试用或许会从几个月缩短为数周。
架构尚未定型。韩国科学技术院(KAIST)AI半导体研究生项目主任柳会俊(Yoo Hoejoon)称Atomax从实验室走向商业应用是韩国本土芯片生态系统的分水岭时刻。嘉泉大学半导体教授金镕锡(Kim Yongseok)进一步指出:韩国具备设计和原型制造能力,但后续环节——大规模生产和商业扩展——仍是薄弱环节。公共机构和大型企业需要充当锚定客户,构建能打开出口市场的参考组合。
这一评估直白而坦诚。一款能工作的NPU与一款具有竞争力的NPU之间的差距,在于规模化执行。
谁赢谁输
SK Telecom赢得推理工作负载的即时成本与延迟缓解,以及对外部出口管制风险的降低敞口。Revellion赢得信誉和可被其他运营商复制的参考部署案例。韩国基础设施规划者赢得了一个此前近乎垄断领域的第二供应商来源。
英伟达今天没有任何损失。Atomax并不竞争训练工作负载,该芯片的影响力仍然局限于SK Telecom的少数几项服务。但每一个从英伟达推理集群转移的百万token都是一个先例。AI成本结构的架构正在一块块专用芯片中被重新书写。
通过韩国这套基础设施路由推理请求的日本客户获得了产能并降低了单一供应商风险——其影响超越双边关系,延伸到半导体供应链更广泛的重构之中。
真正的启示
就全球芯片体量而言,Atomax的部署规模很小。但它也是少数几个经得起核实、实际运行着大规模流量的非英伟达推理芯片范例之一。验证时间线在缩短。下一代芯片正在试用。韩国本土的锚定客户已经在采购。
如果这一轨迹持续,下一个里程碑并非Atomax能否处理token——它已经能做到——而是它能否以足够的出货量和有竞争力的价格点,为美国以外的运营商提供英伟达推理产品之外真正的替代选择。那一刻,这个故事将不再只是关于韩国,而是关于一个定义了迄今为止AI时代的垄断格局出现的第一道真正裂痕。