近两年，从Groq、Cerebras等新一代AI芯片公司，到MatX等探索推理计较结构的新玩家，一批公司启动尝试跳出传统GPU旅途，再行想考推理期间的基础行为样式。越来越多的东谈主启动坚决到：AI需要的云开体育，粗略不单是更大的GPU，而是一种全新的计较姿首。

但与围绕AI推理后果伸开优化不同，上海中紫星时刻有限公司（简称“中紫星”）取舍将视力进一步蔓延至神经收罗本人的实践机制。

当Groq、Cerebras、MatX等外洋的非GPU架构启动被阛阓取舍，中紫星也在沿着这个标的试图走得更远。

中紫星设立于2025年。其创举团队来自多伦多“东谈主工智能之父”Geoffrey Hinton创办的Vector Institute，始终深耕东谈主工智能、EDA与芯片架构领域。在握续不雅察神经收罗演化趋势的历程中，他们冉冉变成了一个判断：AI的发展正在越来越接近神经系统本人，而传统GPU本色上仍然是为通用计较想象的架构。

基于这一想考，中紫星研发出了NEU（Neural Execution Unit，神经实践单元）架构。与传统计较体系将神经收罗视为需要实践的软件模子不同，NEU第一次尝试将其视为可奏凯在硬件中映射并实践的辘集结构。在他们看来，神经收罗不应再被翻译为请示序列，而应手脚计较机本人的实践结构存在。GPU是在运行神经收罗，而NEU试图让神经收罗成为计较机本人。

把握目下，中紫星已完成芯片的想象和仿真以及软件体系建造，并野心于2026年第四季度启动首颗芯片试流片。

站在AI产业从教练期间迈向推理期间的要害节点，中紫星正在尝试回报一个愈加根底的问题：

淌若GPU并不是AI期间的最终样式，那么下一代计较机究竟应该如何实践神经收罗？

近期，张通社独家对话中紫星创举东谈主翟四通。以下为访谈实录。

PART 01

为什么GPU不再是AI的结尾

张通社：听闻你们颠覆性地想象了NEU这套全新的AI计较架构，让咱们迫不足待地想要探究一番，但起始照旧从你的阅历启动谈起？

翟四通：我本科毕业于上海交通大学电子与计较机工程专科，之后在好意思国德州农工大学攻读计较机工程硕士。硕士期间，我启动研发EDA底层组件，也便是芯片想象历程中使用的工业软件。从其时启动，我的责任一直围绕芯片、EDA和计较系统伸开。毕业后，我参与了国内EDA用具的研发与产业化责任，随后加入海想，主导自主EDA体系建造。那段阅历让我对芯片想象、用具链和计较架构变成了比拟深化和系统的领略。

自后，我来到多伦多大学攻读博士，并加入了由“东谈主工智能之父”Geoffrey Hinton创办的Vector Institute。亦然在那里，我第一次启动矜重想考一个问题：

淌若神经收罗正在成为翌日计较的主体，那么咱们今天神用的计较机，的确是为神经收罗想象的吗？

张通社：为什么会产生这么的想法？

翟四通：因为咱们发现，AI的发展标的正在越来越接近神经系统本人。从CNN到Transformer，再到MoE和稀少激活，总共行业的发展轨迹皆在握住强化神经收罗里面的辘集联系、数据流动姿首以及协同机制。换句话说，AI的发展本色上是辘集主义的见效。

但与此同期，咱们发现承载这一切的底层计较平台却莫得发生根底变化。

今天扶植总共AI产业的GPU，本色上仍然是一种通用计较架构。它率先并不是为神经收罗想象的，而是因为具备盛大的并行计较本事，恰好成为了深度学习期间最合适的用具。

但随着大模子参加推理阶段，一些更深层的问题启动暴流露来。

张通社：比如哪些问题？

翟四通：许多东谈主认为AI的中枢问题是算力不足，但施行上，今天起初进的大模子面对的问题仍是不单是是算力。内存带宽、通讯支拨、功耗、尾延迟，以及数据在系统中的流动后果，正在成为新的中枢阻抑。尤其是在自动驾驶、机器东谈主等物默默能场景里，系统需要的不单是高性能，更需要踏实、低延迟和笃定性的实践本事。

这些挑战背后其实指向归并个问题：神经收罗正在快速演化，但计较机仍然停留在以前的实践逻辑之中。

张通社：是以你们认为GPU不再是AI的结尾？

翟四通：是的。

从其时启动，咱们想的就不再是如何优化GPU。而是一个更底层的问题：

更得当神经收罗的计较架构是什么？

NEU，便是咱们给出的谜底。

PART 02

NEU：让神经收罗成为计较机

张通社：许多AI芯片公司皆在谈性能栽种、算力优化，但你们所强调却是NEU在再行界说AI计较。它到底改变了什么？

翟四通：淌若用一句话综合：

GPU是在运行神经收罗，而NEU试图让神经收罗成为计较机本人。

以前几十年，不管是CPU照旧GPU，本色上皆属于归并种计较范式。要津员先把问题写成代码，编译成请示，然后硬件按照请示一步一步实践。总共计较机工业建立在这种“请示式计较”之上。

但神经收罗其实不是传统真谛上的要津，它更像一种辘集结构。一个大模子之是以具备本事，并不是因为它领有某段要津代码，而是因为数以万亿计的参数变成了特定的辘集联系。从某种真谛上说，神经收罗本人便是一种结构化存在。

淌若这么看待AI，那么一个新的问题就出现了：为什么咱们一定要先把神经收罗翻译成请示，再交给GPU实践？为什么弗成让神经收罗本人奏凯成为计较机的实践结构？

这恰是NEU出身的起点。

张通社：是以你们认为神经收罗和传统要津有本色区别？

翟四通：是的。

传统软件更像是一份讲明书，计较机需要逐条阅读和实践。

而神经收罗更像是一张复杂的辘集收罗，着实着急的不是某条请示，而是举座辘集联系。

在生物大脑里，智能并不是由某条请示产生的，而是来自神经元之间的大领域协同辘集。

咱们认为，神经收罗亦然如斯。因此NEU从想象之初，就莫得沿用传统CPU和GPU的想象想路。咱们不再把神经收罗视为需要实践的软件模子，而是把它视为一种不错奏凯映射到硬件中的实践结构。

模子本人，便是实践逻辑。

张通社：这种想路和GPU最大的区别是什么？

图1. GPU中的神经收罗请示体式 vs. NEU中的神经收罗数据流体式

图2. 基于空间数据流的NEU微架构阵列暗意图

翟四通：GPU本色上是一种通用计较平台。它需要先把神经收罗拆解成大宗计较任务，再通过分享内存、请示疗养和并行实践系统去完成计较。这个历程十分盛大，也十分纯真。但它并不是为神经收罗而生。从底层来看，本色上是在用通用计较模拟神经收罗。

NEU则澈底不同。咱们取舍神经拓扑驱动、漫衍式局部实践和空间伸开的实践姿首。神经收罗不再需要被翻译成海量请示。它会奏凯映射到硬件结构之中。计较历程不再依赖复杂的疗养系统，而是按照神经收罗自身的辘集联系自然流动。

换句话说，GPU关爱的是“下一条请示是什么”，而NEU关爱的是“下一个神经元辘集到那儿”。这是两种澈底不同的实践逻辑。

张通社：听起来NEU的想象想想和逻辑结构有着本色的不同，像是重构某种东西。

翟四通：也许是的。

咱们认为，AI的发展最终会鼓动计较机本人发生变化。

以前几十年，计较机的中枢任务是运行要津。

翌日，计较机的中枢任务可能是运行神经收罗。

当这个变化着实发生时，许多咱们今天习以为常的软件抽象层、硬件组织姿首，致使总共计较体系，皆有可能被再行界说。

而NEU所作念的，便是从底层启动探索这种新的可能性。

PART 03

推理期间，正在招呼新的计较架构

张通社：从时刻角度来看，NEU如实是一种澈底不同的实践姿首。但投资东谈主和客户最关爱的问题可能是：为什么是目下？为什么以前莫得出现这么的架构？

翟四通：以前AI产业的中枢任务是教练。

教练期间有一个十分明确的观点：把模子作念得更大。阿谁阶段最着急的是通用性和领域化本事。GPU恰好是最得当阿谁期间的居品。是以以前十几年，总共AI产业简直皆围绕GPU伸开。

但今天情况仍是发生变化。驱动总共产业发展的中枢力量，正在从教练转向推理。越来越多模子启动参加真实寰宇。用户每天皆在和AI交互，机器东谈主启动参加工场，自动驾驶启动参加谈路。AI第一次启动承担握续运行的任务。

这个时分，用户关爱的就不再只是峰值算力，而是总共系统的运行后果。

张通社：这种变化具体体目下哪些方面？

翟四通：最奏凯的变化，便是评价体系变了。以前寰球扣问的是TOPS和FLOPS，但今天着实部署大模子的东谈主，很少再关爱这些数字。

他们更关爱的是：每秒能够产生若干Token；每瓦能够产生若干Token；首字延迟是若干；部署老本是若干；最终每个Token要花若干钱。

这些方针背后响应的是一个事实：焦点正在从“计较问题”变成“经济问题”。寰球启动关爱推理经济学。

张通社：似乎模子厂商也越来越青睐这方面？

翟四通：没错。

淌若你去看DeepSeek公勾引布的时刻敷陈，会发现他们用了很大篇幅扣问推理经济学。他们指出，随着荆棘文越来越长，着实把握大模子发展的仍是不再是单纯的计较本事，而是内存系统、KV Cache、通讯和举座系统后果。为了冲突这些把握，总共行业正在出现各式新的探索。

举例Mooncake架构，把预填充息争码断绝；举例DualPipe活水线疗养；举例最近很受关注的Attention-FFN区别架构。

这些创新名义上看是软件优化，但它们其实皆在讲明归并件事情：

AI正在倒逼计较架构发生变化。

张通社：是以你认为MatX、Groq这些公司的出现，也属于这个趋势？

翟四通：我认为是的。

自然寰球取舍的蹊径不同，但本色上皆在回报归并个问题：当推理成为主角之后，GPU是否仍然是最优解？

Groq在追求笃定性和低延迟推理；MatX在再行想考推理基础行为；Cerebras则在探索全新的数据流组织姿首。

这些公司共同讲授了一件事情：GPU除外，正在出现新的计较样式。

咱们不仅关注如何栽种推理后果，咱们更关注神经收罗本人应该如何被实践。

张通社：那么NEU现实的运用场景是什么？

翟四通：大模子推理。

这是现时阛阓需求最明确、增长最快的场景。在主流Transformer模子里，FFN（前馈神经收罗）部分时时占据总共模子绝大多数计较责任量。但这正值亦然GPU后果并不睬想的部分。因为GPU本色上是通用架构，它需要在纯真性和后果之间作念均衡。

而NEU从想象之初便是围绕神经收罗实践伸开的，因此在这类高密度神经计较场景中，咱们具备自然上风。

图3. 面向AF区别的GPU-NEU异构协同LLM部署决策暗意图

图4. LLM在NEU同构集群下的活水线并行部署暗意图

张通社：这是否意味着你们想替代GPU？

翟四通：正值相背。

咱们从来莫得把我方界说成GPU替代者。事实上，咱们认为翌日AI基础行为一定是异构的，不同类型的计较节点负责不同类型的任务。翌日不是NEU与GPU的竞争，而是不同计较架构之间的协同。

NEU则负责那些最得当神经收罗实践的部分。客户不需要推翻现存生态，也不需要重建软件体系，他们只需要把最得当NEU实践的部分交给NEU，剩下部分继续运行在原有系统之上。这么总共集群的后果、老本和能耗皆会取得改善。

NEU会成为翌日AI基础行为中的一个中枢节点之一。

PART 04

着实的壁垒，不是一颗芯片

张通社：听下来，NEU的确十分创新，然则你们的生态体系如何建立呢？

翟四通：NEU不是一个落寞存在的芯片架构，它背后是一整套共同成长出来的系统，包括神经收罗生成器、实践语义、编译系统、数据流惩处、用具链、部署框架以及硬件本人。

这些并不是自后拼接起来的，而是从第一天启动就在共同想象。

因为淌若实践逻辑发生变化，那么软件栈、勾引姿首和硬件组织姿首也必须同期变化。

不然新的架构很难着实发达价值。

张通社：许多AI芯片公司皆是先作念芯片，再补软件生态。你们似乎反过来了。

翟四通：如实如斯。

咱们的旅途和许多公司不太一样，许多团队是先有芯片，然后围绕芯片建立软件体系。而咱们其实是软件先行。许多底层系统的积蓄，致使不错细腻到十几年前。

最启动的时分，咱们议论的并不是AI芯片。而是数字电路的辘集联系，以及如何让复杂系统结束自动化组织和实践。自后随着神经收罗的发展，咱们冉冉发现，两者在底层想想上存在高度一致性。神经收罗本色上亦然一种辘集系统。于是这些积蓄启动冉冉会通，临了才演化出今天的NEU。

是以NEU是一整套计较体系，是软硬件共同演化的收尾。

张通社：是以你们着实构建的是一种新的计较平台？

翟四通：是的。

淌若说以前几十年，计较机的基础单元是要津。那么在AI期间，咱们认为基础单元正在冉冉变成神经收罗。一朝基础单元发生变化，总共计较体系皆会随着变化。

模子如何生成，如何部署，如何实践，如何与硬件交互，这些问题皆需要再行想考。

因此咱们作念的不单是一个新的计较中枢，而是在探索一种新的计较平台。

PART 05

AI之后，计较机将走向何方？

张通社：你们认为支握翌日的AI计较基础会发生什么变化？

翟四通：许多东谈主认为翌日十年的中枢问题是模子会变得多强。但我认为还有一个雷同着急的问题：当AI越来越强之后，计较机本人会不会发生变化？

以前几十年，总共计较机产业皆是围绕“要津”构建的。CPU负责实践要津，操作系统负责惩处要津，软件工程师负责编写要津，这是以前计较机产业最底层的逻辑。

但AI的出现，正在改变这一切。因为神经收罗和传统要津并不是归并种东西，要津是东谈主想象出来的，而神经收罗更多是被教练出来的；要津依赖明确法例，而神经收罗依赖辘集联系。

当越来越多任务启动由神经收罗完成的时分，咱们可能正在参加一个新的期间。计较机将冉冉从“要津驱动”走向“模子驱动”。今天许多勾引者仍是不再奏凯编写大宗底层代码，而是在教练模子、组合模子、调用模子。

AI仍是启动从一种软件用具，变成一种新的计较基础行为。

张通社：临了，您会如何界说中紫星？

翟四通：淌若要用一句话综合，咱们是在探索AI期间的新计较机，成为“东谈主工智能的沉着者”。

因为咱们深信云开体育，着实的东谈主工智能转换，不单是模子本事的跳跃，更是计较基础行为的一次重构。而这场重构，才刚刚启动。