亚马逊AWS与晶圆级AI芯片企业Cerebras近日达成重要合作，双方宣布将在未来数月内于Amazon Bedrock平台部署一套创新的混合AI推理系统。该系统通过整合双方芯片技术优势，旨在实现前所未有的负载处理速度，为AI应用提供更高效的算力支持。
这一解决方案的核心在于将Cerebras的CS-3系统与亚马逊AWS的Trainium芯片深度结合，并辅以EFA弹性网络适配器实现高效互联。具体分工上，Trainium芯片负责处理推理过程中的预填充阶段（即提示处理），而CS-3系统则专注于解码阶段（输出生成任务）。这种分工模式充分利用了两种芯片的架构特性——Trainium在并行计算和内存带宽间的平衡优势，与CS-3在串行任务处理中的高带宽特性形成互补。
技术层面，推理预填充阶段需要处理大规模并行计算任务，对算力需求极高但内存带宽要求相对适中；而解码阶段作为串行流程，虽然算力需求较低，却对内存带宽极为敏感。通过EFA网络适配器构建的高速连接通道，两种芯片得以无缝协作，既避免了资源浪费，又确保了每个环节都能以最优效率运行。这种异构计算架构的设计，为AI推理任务提供了全新的性能优化路径。
据行业分析，这种软硬协同的创新模式有望突破传统单一芯片架构的性能瓶颈。特别是在处理复杂AI模型时，混合系统能够动态调配计算资源，使预填充阶段的快速响应与解码阶段的高精度输出形成完美配合。随着生成式AI等应用场景对实时性要求的不断提升，此类异构计算方案或将引发行业技术路线的重新思考。
