深网财经科技2026年08月19日 13:56消息，AMD锐龙AI Halo笔记本实测解析，CPU在智能体AI时代仍关键。
【ZOL原创技术解析】聊天式AI与智能体AI表面上都借助大模型能力来协助用户完成特定任务，但对底层硬件系统而言，实际上所面临的挑战是截然不同的。
聊天AI依赖于一次性响应来提供答案，这主要比拼的是GPU的性能和处理token的速度。而智能体AI则是一整套已经完成并经过验证的系统性成果，从读取数百份文件开始，到进行OCR识别、提取关键信息、生成报告，最后还要进行自我核查，以确保结果的准确性。因此，前者比的是“单点爆发力”，后者比的是“全流程贯通能力”，而这恰恰是仅靠GPU算力无法完全决定胜负的领域。这也是为什么目前芯片厂商普遍提到的智能体AI时代，CPU与GPU的配比重新回归到1:1的底层原因。
年初CES，AMD推出了锐龙AIHalo迷你主机，并在最近的AMD Advancing AI大会上发布了升级版本。随后，AMD发布了一份基于锐龙AIHalo平台的本地智能体基准测试（HEPA）报告，该报告充分说明了在智能体AI时代中CPU的关键作用。
根据测试结果，在实际的企业级智能体工作负载中，搭载AMD锐龙AIMax395处理器的锐龙AIHalo在多个关键性能指标上已超越拥有强大GPU能力的NVIDIADGXSpark（GB10）。这一现象反映出，本地AI硬件评估标准正在发生根本性的变化。
・智能体工作流大部分不是跑在GPU之上
与聊天AI在回答问题时先进行思考再生成答案的方式不同，智能体完成一项任务通常需要经历多个阶段，包括解析、OCR识别、文本切分、嵌入处理、信息检索、数据链整理、内容生成以及验证等。AMD的测试将这一流程拆解为8个具体环节，结果显示，其中7个阶段主要在CPU上运行，只有生成阶段，即模型输出token的过程，会使用GPU进行计算。具体可参见下表： 从技术角度来看，这种分工体现了当前硬件资源的优化配置。CPU在处理复杂逻辑和数据管理方面具有优势，而GPU则在并行计算和加速生成过程上表现突出。这种分工不仅提升了整体效率，也反映了AI任务中不同计算需求的差异化处理方式。随着AI应用的不断深入，如何更合理地分配计算资源，将成为提升系统性能的关键因素之一。
换句话说，GPU仅在任务的最后关键阶段发挥作用，而解析文档、识别扫描件、分割内容、生成向量、检索证据等需要大量系统资源的前期处理工作，几乎全部由CPU承担。这表明，一台设备上智能体的实际表现，很大程度上取决于CPU的调度与并行处理能力，而不仅仅是GPU的算力峰值。这与聊天AI时代的人工智能应用逻辑有着本质的不同。
・从token速度到全流程效率
聊天时代最常被讨论的两个指标是首token响应时间（TTFT）和每秒生成的token数量，它们用于衡量模型在流式输出单次回答时的速度。然而，对于智能体而言，这两个指标仅能体现“生成”环节的表现，无法全面反映整个任务执行的效率。
因此，在智能体时代，真正具有意义的指标变成了端到端完成时间，也就是从接收任务到交付经过验证成果所需的总时长，以及每个已完成工作流的成本。这也是AMD设计HEPA基准测试的初衷，即不再单独衡量推理速度，而是关注完成全部工作的总时间和所付出的成本。
・HEPA基准测试：贴近真实企业场景的极限压力测试
HEPA，全称HermesExecutivePresentationAgent，是AMD自主研发的基准测试工具，旨在模拟一个高度真实的企业知识工作场景。该测试要求智能体处理302份本地文件（相当于一个大型团队的共享网盘），文件中包含有效信息、冗余内容、过时资料以及相互矛盾的信息，同时还涉及需要实际进行OCR识别的扫描件和来自图像的素材。
智能体必须完整读取这批数据、对扫描件执行OCR、将内容切分为801个片段并生成嵌入向量、检索出有证据支撑的内容包、生成一份可提交董事会的高管演示文稿（配套备忘录、图表及带引用来源的附录），并最终通过一套确定性的质量验证流程。整个过程更像是老板扔给你一个几百GB的共享盘，要求“下午三点前给出一份能上会的PPT”，而不是简单地“回答某一个问题”。
这项测试在两台配置对等的设备上进行：一台是搭载AMD锐龙AI Max+ 395（16核32线程）的锐龙AI Halo开发者设备，另一台是搭载GB10（20核Arm 架构）的NVIDIA DGX Spark。两者均配备128GB统一内存，运行相同的语料库、相同的编排模型（Qwen3.6-35B-A3B混合专家模型）、相同的嵌入模型与真实TesseractOCR，并且都完成了5/5次有效运行与25/25项确定性质量检查，确保结果具备可比性。
在相同测试条件下，AMD锐龙AI Halo在端到端完成时间、CPU编排效率和每工作流成本三项关键指标上表现均优于NVIDIA DGX Spark，具体数据详见下表： 从当前行业趋势来看，硬件性能的提升直接关系到AI训练与推理的效率和成本控制。AMD锐龙AI Halo在多个核心指标上的优势，可能预示着其在AI计算领域的竞争力正在增强。随着更多实际应用场景的验证，这类性能差异或将影响企业对算力平台的选择倾向。
在CPU调度阶段，锐龙AIHalo表现出显著优势，领先幅度达到34%。测试数据显示，AMD完成CPU侧的准备工作仅耗时152.1秒，而DGXSpark则用了229.9秒。根据AMD官方提供的信息，两者差距最大的环节是嵌入与布线，AMD仅用时71.5秒，而DGXSpark耗时139.6秒，差距接近一倍。
在端到端工作流表现方面，锐龙AIHalo快15%。AMD完成经过验证的工作流耗时311.6秒，而DGXSpark则用了367.1秒，AMD提前55.5秒完成任务。在智能体场景中，这才是真正具有意义的核心KPI，即交付一份可用的成果，而非单纯比拼谁的token生成得更快。
在工作流成本方面，锐龙AI Halo相比DGX Spark低27%。按照三年硬件摊销计算（不包含能源成本），AMD每个完成的工作流成本约为0.0132美元，而DGX Spark则为0.0182美元。值得注意的是，尽管DGX Spark在单纯的GPU推理阶段具有一定优势，但在整体任务表现上仍处于下风。原因在于，如前所述，推理只是智能体AI流水线中的一个环节，CPU密集型的调度与管理同样对最终结果起到决定性作用。
・AMD为什么能赢？答案就藏在CPU里
那么为什么GPU性能更强的DGXSpark在智能体工作流中的表现反而不如锐龙AIHalo呢？其实原因就在于CPU。 在当前的计算架构中，CPU与GPU的协同效率往往决定了整体系统的实际表现。尽管DGXSpark搭载了更强大的GPU，但在某些智能体工作流场景下，锐龙AIHalo凭借其优化的CPU架构和更高效的任务调度机制，展现出更高的执行效率。这说明，在实际应用中，硬件的整体协同能力比单一部件的性能指标更为关键。 从技术角度来看，智能体工作流通常涉及复杂的任务调度和数据交互，这对CPU的处理能力和系统架构提出了更高要求。因此，即便GPU性能领先，若无法与CPU高效配合，也难以发挥出应有的优势。这也为未来硬件设计提供了新的思考方向：如何在提升算力的同时，优化软硬件协同，才是提升实际效率的关键。
AMD锐龙AI Max+ 395拥有16 个Zen 5核心以及32个有效工作线程，并集成了AVX-512/VNNI向量加速指令集，同时具备面向文档处理与检索技术栈高度优化的原生x86工具链。相比之下，DGX Spark的Grace Blackwell 平台虽然拥有20个Arm核心，但它不支持超线程，而且向量加速依赖的是SVE2而非效率更高的AVX-512。
而且解析、OCR、嵌入、路由这些阶段本质上都是高度数据并行的任务，会随着核心数、线程数的增加而近似线性地提速，也会随着数据集规模扩大而放大差距。更多的线程、更强的向量处理能力，意味着可以同时处理更多源文件的解析、嵌入与路由，这正是AMD在“嵌入与路由”这一决定性环节领先近一倍的根本原因。同时如果数据体量越大，这种架构优势就体现得越加明显。
・系统制胜，而非单一芯片的竞赛
AMD锐龙AI Halo的设计理念可以概括为“一个智能体、两个引擎、一个统一内存池”。其中，智能体负责整体的规划、工具调用以及结果验证；CPU承担解析、OCR识别、内容切分与嵌入、检索路由及数据整理等编排任务；GPU则专注于token的生成过程。此外，128GB的大容量统一内存池确保了编排模型与生成模型始终处于运行状态，避免了模型和数据在使用过程中的反复加载与搬运，提升了整体效率。 从技术角度来看，这种架构设计体现了对AI工作流的深度优化，尤其是在处理复杂任务时，能够有效提升系统的响应速度和资源利用率。随着AI应用的不断扩展，这种高效、灵活且具备强大计算能力的架构或将引领未来计算平台的发展方向。
这种大容量统一内存的存在，本身就是让在本地完整运行一整套模型组合成为可能的关键前提，如果没有它，模型甚至无法被完整加载进设备。而随着本地智能体逐步演化为完整的模型“全家桶”（编排模型、常驻小模型、嵌入模型、重排序模型、OCR模型、语音模型、图像模型协同运行），这种系统级的均衡设计所带来的优势，只会持续累积、不断放大。
・从“谁的GPU更强”到“谁的系统更快更省”
聊天AI时代，人们习惯问的问题是，“谁的GPU更强？”但到了智能体AI时代，真正值得追问的问题变成了，“谁的系统能够以更快的速度、更低的成本完成整个工作流？”
AMD的HEPA测试结果清晰地表明，一个系统即便在单纯的token生成速度上占据优势，也可能在实际的智能体AI工作流任务中表现不佳。这是因为智能体的工作流程本质上是一个涉及编排、检索与验证的系统性工程，而不仅仅是一次独立的矩阵运算。 从这一角度来看，单纯追求算力指标已无法全面反映AI系统的实际能力。真正的智能体应用需要综合考虑多个环节的协同效率与准确性，这要求技术评估标准也应随之升级，以更贴近真实应用场景的需求。
对于有意在本地部署智能体应用的企业和开发者来说，AMD的这项测试更具实际参考意义。它在评估本地AI硬件时，并不仅仅关注GPU的算力峰值，而是综合考量CPU的并行处理能力、内存架构的设计，以及系统在真实应用场景中的整体表现。而锐龙AI Halo所体现的，正是以均衡系统为核心设计理念的本地智能体计算平台。
如果说以前的聊天型AI讲述的是关于GPU的故事，那么现在智能体AI所讲述的，就是一个关于系统的故事。
