英伟达7月21日表示,AI云平台DeepInfra测试显示,Vera CPU相比其他CPU产品,在AI智能体工作负载下可实现最高2.2倍编排速度提升,并支持最高1.6倍更多智能体并发运行。

DeepInfra表示,其平台每周处理近5万亿Token,其中约30%来自智能体应用。

英伟达称,随着AI智能体承担更多推理、规划和工具调用任务,CPU在模型调用过程中的调度效率将成为AI基础设施性能的重要因素。

上一篇:贵州亮相2026世界人工智能大会,探索东西部AI产业协同新路径 下一篇:海智在线AI智造成果亮相2026世界人工智能大会,横跨三大展区

Copyright © 2024 九游体育创新科技有限公司 All Rights Reserved      粤ICP备2023064493号    网站地图