联想公布AI内嵌智能终端三大“特质”:轻量化模型、场景化应用、类脑化能力快讯

TechWeb.com.cn 2023-12-26 23:04
分享到:
导读

内嵌AI的全终端核心具备内嵌轻量化模型、场景化应用、类脑化能力三大,(联想集团副总裁、中国区消费业务群总经理张华) 首先是内嵌轻量化模型,在终端平台运行的大模型需要通过混合AI框架进行模型的蒸馏、压缩及微调。

【TechWeb】12月26日,以“AI生态 共赢未来”为主题的2023联想天禧AI生态开发者大会在北京正式举行。联想集团副总裁、中国区消费业务群总经理张华在主题演讲中表示,AI时代浪潮之下,真正让AI应用落地的将是内嵌AI的全终端布局。张华同时强调,内嵌AI的全终端核心具备内嵌轻量化模型、场景化应用、类脑化能力三大“特质”。

(联想集团副总裁、中国区消费业务群总经理张华)

首先是内嵌轻量化模型。结合AI终端算力水平,在终端平台运行的大模型需要通过混合AI框架进行模型的蒸馏、压缩及微调。在保留AI核心能力的前提下,降低对终端的算力要求,让小设备也能跑得起大模型。以AI PC为例,以本地推理为主,边缘和云端推理为辅的混合模型架构,可合理调配任务,在充分满足用户需求的同时,实现终端的模型轻量化。

其次是场景化应用。要适应用户不同场景下的专业诉求,AI终端还需要与本地知识库相结合,并对本地个人大模型进行参数调优,为用户提供工作、学习、生活等通用场景下的个性化服务。

最后是类脑化能力。通过AI的多模态认知能力,这些AI设备不仅拥有强大的智能混合算力,而且能够进行类似人类大脑的思考和分析。终端设备在承担原有生产力工具和内容消费载体职能前提下,在功能上也由工具属性升级为助理属性,从而变成个人的“第二大脑”,成为与用户如同双胞胎般的个人AI助理。

AI 模型 终端 用户 能力
分享到:

1.TMT观察网遵循行业规范,任何转载的稿件都会明确标注作者和来源;
2.TMT观察网的原创文章,请转载时务必注明文章作者和"来源:TMT观察网",不尊重原创的行为TMT观察网或将追究责任;
3.作者投稿可能会经TMT观察网编辑修改或补充。