现场体验联想 AI PC :真端侧智能体,表现如何?

4月18日,联想一年一度的Tech World活动,在上海举行。

这是联想第十年举办类似的活动。在去年Tech World上,联想首次提出了AI PC的概念,而今年,发布会的亮点在于联想推出了中国用户可购买的一系列AI PC产品。

内置联想小天个人智能体,新的系列电脑被命名为“AI元启”系列。新的系列电脑中,最高端的是YOGA Book 9i系列,是全尺寸双OLED屏笔记本电脑,售价17999元,而最低端的联想小新Pro 16,只需要5999元。5月20日正式开售。

联想表示,此次发布的AI PC,满足五大特性,是“真正的AI PC。”

图片

作为五大特性之首,此次发布的AI PC,标志为配备了AI Agent智能体——联想小天。

联想小天可以使用本地模型和算力进行推理回答问题,也可以使用云端模型和算力进行回答问题。在使用本地算力时,用户可以将自己本地的文档进行向量化,变成个人知识库,让小天根据个人文档回答问题,而不涉及文档泄密的问题。

端侧AI是近期消费电子的重点。端侧AI有个性化、耗电量低、和隐私向的优势,但是由于算力和模型大小的限制,能力相对于云端大模型限制更多。PC上的端侧模型相对于手机端的端侧模型,发展更快,而联想在AI PC方面,也是进展最快的厂商之一。那么此次联想的AI PC的小天能力如何?

极客公园参与了此次发布会,也在现场测试了联想的本地AI的智能体效果。

“小天”智能体实测

极客公园在现场实测了联想AI PC的小天助手回答问题的能力。

目前联想的小天助手,可以直接在计算机的右下角一栏里找到。进入界面后,可以选择使用本地模型回答问题,也可以选择使用云端模型回答问题。

现场实测,本地模型基本上也能正确回答问题,但是相对于云端内容更简短,适合在网络环境不佳的场合使用。

回答模型内置知识库的知识时,时间和网络模型的延时差不多。

图片

图片

作为AI PC的重要功能之一,小天可以把敏感文件直接做成本地数据库,从而能够轻松总结文档信息,用自然语言查找回答本地文档中的信息。记者也现场测试了一下,回答是正确的,但涉及到本地文档,加载时间要更长一些。

对于在意隐私的用户,查找本地文件内部信息的功能还是很实用的。

图片

另外,作为内置在终端的AI,小天可以执行配置查找、简单的设备任务等语言命令。

 

联想的小天助手还可以生成图片、帮助制作PPT,不过这些功能需要云端才可以实现。在这点上,小天还有一个很巧妙的设计。利用YOGA Book 9i的双屏,用户可以在一个屏幕上画画,而在另一个屏幕上,根据画的画生成相关的图片。

图片

在联想的发布会上,联想现场让一个小朋友画了一幅抽象的企鹅滑雪草图,但是配上“企鹅滑雪”的文字prompt后,模型最后生成出了相对合理的图片,赢得了现场的掌声。

 

AI PC 进展很快

随着算力的逐步提升,AI PC这一产品目前进展很快。

在发布会后的访谈中,联想集团董事长兼CEO杨元庆讲到,目前的AI PC产品中,使用的是NPU、CPU、GPU的混合算力。人们通常使用TOPS作为算力单位,1 TOPS 代表处理器每秒钟可进行一万亿次(10^12)操作。而此次的产品中,综合AI算力可以达到200 TOPS,其中NPU 算力可以达到10 TOPS。

不过,AI PC领域整个进境很快。在专门为AI算力进行优化的NPU方向,下半年联想接触到的芯片厂商,都将纷纷推出40-50TOPS的NPU产品,相当于这方面的算力一下子就能翻四到五倍。

算力的提升自然会使未来的AI PC产品有更大的提升。杨元庆提到,目前,受限于算力,AI PC仍然会先在较高端的版本中推出。随着算力的发展,逐渐扩展到全产品线。不排除之后会推出一些面向消费者的服务,让购买之前的设备的消费者,能够升级到AI PC上。

从去年联想推出AI PC的概念,到今年推出可使用的AI PC产品,联想本身在AI PC上也动作频频。

联想公司本身不做大模型,核心竞争力在于大模型在终端的优化,“同样参数的大模型,在谁的平台上能够跑的好,谁家的开放应用最多,都是技术和本事。”杨元庆讲到。

联想目前端侧使用7B的模型。“我们对于模型的优化能力,超过很多芯片厂商本身。”杨元庆讲到。

6月,联想还将发布AI手机和AI平板,也会内嵌大模型和智能体助手。结合AI PC,就可以实现跨端的AI体验。

值得注意的是,联想此次的AI PC,首先的产品发布放在了中国。联想中国区解释道:“其实很多联想的业务,都是先在中国区成功后再进行推广的。”同时他还宣布了一个数字,接下来,联想中国将有50%的PC产品升级为AI PC,全年下来,百分之八十九十都将升级为AI PC。

不过目前看来,此次发布的AI PC,除了查找文档信息等,应用仍然相对单薄,发布会上重点展示的,还是用AI做PPT的场景。

目前看来,AI PC的主要优势在于PC本来就应用于办公场景,端侧AI能够调用本地隐私文件进行操作。在电脑上,除了网速不好等极端场景,人们使用云端AI相对方便,如何为AI PC拓展更多优势场景,似乎是厂商应该进一步思考的问题。