"模型" 相关的问题

模型发展现状及应用展望分析

• 提问时间：2024/12/06
• 浏览量：254
• 提问者：匿名用户

[1个回答]端侧小模型发展加速。我们预测，小参数模型将拥有更广泛的应用场景发展。目前有许多应用场景面临端侧算力受限的情况，譬如在离线终端设备上运行大模型，此时我们只能使用参数量较小的小模型。在未来，除了AIPC与手机，小模型还可能部署在汽车、机器人等终端上，因此定性看，小模型的训练和推理需求依旧较高。当前，Google的GeminiNano模型是典型代表，其包含1.8B和3.25B两个版本，已经实现在Pixel8Pro手机上的部署；此外也有开源的Mixtral8*7B，在多项测评中表现甚至超过了GPT-3.5。另一个趋势是，厂商在尝试将性能较好的大模型通过“蒸馏“等训练方法进行参数...