端侧 AI Infra:VLM 推理优化与软硬件协同
在机器人、自动驾驶和无人机系统中,多模态模型的价值不只取决于回答是否准确,还取决于它能否在规定时间内稳定地产生动作。一个模型即使离线评测很好,如果首 Token 延迟过高、设备持续运行后
2026-09-08