一台手掌大小、300克的AI主机，为什么能跑122B模型？

一款仅手掌大小、重300克的AI主机面世，凭借高效能芯片和优化算法，能够本地运行122B参数的大语言模型。该设备解决了大模型部署的功耗和体积瓶颈，使得边缘AI计算成为可能。这一突破对AI硬件设计、移动办公和隐私保护具有重大意义，预示AI应用将从云端向终端迁移。