

今年台北国际电脑展Computex的重要看点之一,就是各家笔电大厂正迎向AI新浪潮,展示新世代笔电的不同风貌,我们从现场展示的产品与应用,可以看出两大不同之处,不只是新产品将具有Copilot实体按键,更关键是NPU的采用,将让一些AI应用可以在个人电脑上有更好的发挥,并促进体感操作在个人电脑上变得普及
另一重要变化在于,专门为AI应用而设计的NPU(Neural Processing Unit),如今这项应用开始扩及Windows个人电脑领域。
例如,电脑处理器大厂Intel去年底推出Meteor Lake行动处理器,其架构包含CPU、GPU与NPU,就率先获得多家笔电厂商采用,在2023年底就开始陆续有产品上市。
因此在今年Computex电脑展上,Intel就在摊位上特别陈列了多家厂商的新品,包括:微软Surface Laptop 6、Dell XPS 14(9440)、HP Elitebook 840G11,以及宏碁Swift Go 16、华硕Vivobook S 14(S5406)、技嘉Aorus 15、微星Prestige 13 AI Evo,还有联想IdeaPad Slim 5i、LG Gram Pro、三星Galaxy Book4 Pro、Dynabook Portege X40L-M等,特别的是,Intel不只是陈列各厂商产品,更希望让大家可以通过这些产品先目睹NPU能力的新应用。
关于NPU的实际应用场景,是大家都关注的重点,毕竟,过去个人电脑上没有NPU,AI相关运算只能依靠CPU与GPU,尤其是具有平行运算能力的GPU,但随着现今生成式AI技术的兴起,专为加速AI应用而设计的NPU,也成为了新的解决方案。
在今年6月的Computex电脑展上,我们看到Intel展区中就有多项NPU相关技术与应用的实机展示:
首先我们要介绍的应用相当特别,是要保护AI应用程序不被窜改。
在今年Computex的Intel展区上,特别以一台电脑展示一段视频,内容是本机端AI应用程序被窜改、污染的资安风险。
根据现场导览人员的说明,视频中主要呈现出,当用户在AI应用程序中提出问题,询问「台湾银行网银服务的官方网站网址是什么?」在一般情况下,AI应用程序可回答出正确的网址。
不过,一旦AI模型、知识库没有受到保护,遭到窜改或下毒,这时用户再次询问同样的问题,由于AI应用程序受到操弄,因此我们看到AI应用程序此时的回答,是一个错误的可疑网址。


关于上述这项AI PC上的资安应用,其实是由趋势科技所提供,该公司亦在Computex设置展区并展示这方面的解决方案,因此他们的现场工作人员在导览时,也向我们提供了更多说明。
基本上,随着NPU、开源小型LLM的发展,如今在笔电上这样的边缘运算,将让攻击面变得更宽广。因此,趋势科技已经针对AI PC提供资安解决方案,强调Security for AI,聚焦保护AI应用程序不被窜改。
他们解释,因为现今大众普遍使用的生成式AI服务,主要是将数据传回至云端才能处理,但云端上的AI其实都有着企业等级的安全防护,相对而言,当电脑有了NPU之后,各种AI应用程序就能直接在PC上运行,只是本机端的AI模型也就成为新的风险。
另一方面,他们也有提出AI for Security的应用,是发展出由NPU驱动的电子邮件防护。这是因为,趋势科技过去提供的云端Email防护解决方案,有些功能需要将邮件内容去识别化后送至云端处理,像是要识别诈骗邮件等功能,而且这样的应用需要用户同意后才能分析。若运用电脑本身NPU来处理,不仅同样可以带来保护,也具有更高的隐私。
另一展示情境为手势控制(Gesture Control)的应用。由于现在不只手机,运动相机也都首度开始加入手势控制的能力,在笔电上的应用发展又是如何?
在一台技嘉Aorus 15笔电上所展示的应用场景,是以爱奇艺的Windows App的手势操作功能为例,根据现场人员导览时的说明,该程序在前几年已经加入手势识别AI模型,背后主要利用CPU与GPU来处理分析,可以通过视讯镜头来识别手势,像是掌心张开对着电脑代表停止播放,OK手势代表继续播放,而现在能使用NPU来独立处理。因此,与过去运算处理方式相比,将可减轻CPU与GPU的负担,让这些资源可去处理其他工作任务。

关于眼球追踪(Eye-Tracking)这样的技术,多年前我们已经看过这类技术应用的展示,但至今其应用仍迟迟未能普及,今年Computex我们又看到有这样的展示。
在现场一台Dynabook Portege X40L-M电脑上,展示了两个眼球追踪的场景,首先是一个书架的画面,现场人员向我们说明,我们只要在电脑前,用眼睛注视着画面上的任何一本书,笔电镜头就能侦测用户的目光焦点,当我们实际这么做,盯着中间右边的乐谱书籍时,该对象真的就会稍微放大,望向其他书时也会有同样效果,如同用眼睛操控鼠标光标一样的效果。
另一个是X光照片的画面,我们也依据现场导览人员的指出,当我们头部朝向笔电靠近,屏幕上的图片就会跟着放大,看到更清楚的X光断层扫瞄细节,当我们头部往后,图片则会缩小。而这些应用背后也都通过NPU来处理,可比使用GPU运算更节省笔电能耗。

谈到AI PC,大家对于微软提出的Copilot+ PC应该相当印象深刻,而我们在Intel展区也看到一台微软Surface Laptop 6笔电,正展示着Windows 11 24H2将提供给AI笔电的微软AI应用程序,包括即时字幕翻译Live Captions、Windows Studio Effects。尽管这台电脑尚不符合微软对Copilot+ PC的定义,但依然能够展示这些AI应用程序的效果。
例如,笔电上正播放Computex 2024主题演说的YouTube视频,我们可以看到以Live Captions的效果是,可将演讲内容即时产生英文本幕于笔电画面的上方。现场工作人员向我们表示,在这项技术下,包括侦测到的语音,辅助字母的产生,都是在电脑上完成,并不会与云端或微软共用。
同时,这台电脑另一半画面也展示了激活视讯影像下的Camera effect效果,可快速自动对焦与模糊背景,并使视讯的影像更清晰。

自从ChatGPT与Gemini等生成式AI服务的出现,现在大家对于上网使用生成式AI服务,命令AI写出一段文章,已经并不陌生。不过,之后用户也可在不连网的情况之下,利用自己笔电上的AI应用程序,来运行生成式AI应用。
例如,在Intle展区另一台LG Gram Pro笔电上,所展示的应用就是写作助手。电脑画面上呈现出使用Word编辑文章时,能另外叫出一个具Secure Local机制的写作助手,现场人员表示,其特色在于不用将文本内容上传生成式AI服务,就能快速调整一段写作内容。
从写作助手的功能菜单来看,界面上提供了很多写作风格的切换,包括正式、轻松、简单,简单扼要,或是需要扩展,甚至也能调整内容为具说服性、具叙述性,或是具信息性。又或是调整为幽默、严肃、乐观、悲观的语气。此外也有翻译能力,包括中文、英文、西班牙文、日文、韩文等。

综合来看,虽然上述采用Intel Meteor Lake处理器的产品,其NPU运算能力只有11.5 TOPS,但可预期的是,各家处理器大厂正持续发力,积极提升NPU运算能力。
这是因为今年5月微软、Intel已经透露,未来AI PC的门槛至少要达40 TOPS,目前Intel也已经预告下一代Lunar Lake,其NPU将提升到40 TOPS。
而在高通与AMD方面,这两家厂商的动作更快,近期已开始推出NPU运算能力更高的处理器,像是高通主打Arm架构的Snapdragon X1系列笔电处理器,其NPU性能达45 TOPS,AMD也已经新发表Ryzen AI系列处理器,其NPU性能达50 TOPS。
再者,绘图AI芯片大厂Nvidia目前也在积极发力,他们认为NPU在性能与支持性上与GPU相比仍有落差,仅依靠NPU只能算基本的AI PC,因此该公司也持续针对AI笔电提供更强的GPU来运行更多AI功能。
综观上述发展,聚焦GPU、NPU的运算性能提升,应该会是接下来新世代笔电持续强调的重点。

我们在这次Computex电脑展上,也首度看到这些新品在台亮相。例如,在宏碁展区所摆设的一台Swift 14 AI的笔电,该产品就是搭载拥有45 TOPS的Sanpdragon X Eltie处理器。

另外在Computex上华硕的展区中,我们也看到一台ProArt PX13,搭载的就是拥有50 TOPS的AMD Ryzen AI 9 HX 370处理器,并还搭载了Nvidia GeFrce3 RTX 4070显示芯片,可增至320 AI TOPS。
在AI发展大势之下,由于新世代Windows笔电、PC的处理器都将变成集成CPU、GPU与NPU的架构,从上述各式AI应用方式来看,确实让新世代个人设备有了相当大的变化。
但大家可能也会想到的是,现在生成式AI服务已获大众普遍应用,不论是OpenAI的ChatGPT,Google的Gemini,以及主打AI绘图的Stable Diffusion等,很多应用其实只要我们连上网络就能使用,而且订阅这些云端服务后,可获得更强的能力。
因此,最大重点应该是放在「在设备端运行」这件事,例如,如果不想将敏感数据上传至云端服务,就会是大家可能会看重的面向;还有一些辅助性的功能,像是手势与眼球的追踪,视讯上的美肌、自动背景去背与更换等,也很适合交由NPU来运行,让CPU与GPU的资源可以留给其他任务。
值得一提的是,以上述的手势控制、眼球追踪而言,这些技术其实发展已久,像是Intel在10年前提出Ultrabook概念后,当时还会强调由摄影镜头、软件、传感器所构成的RealSense体感操作技术,聚焦于聚焦于人脸、手势的捕捉,不只要让辨识、追踪变得更精准,更希望为下一代电脑的操作体验带来革新。然而,后续这类应用,只有Windows Hello登录技术变得普及,
如今随着NPU的应用领域开始扩及Windows电脑产品,由于各大处理器厂商均强调,新的NPU能让处理器以更节能的方式,在笔电上运行AI运算任务。
因此,另一大重点就是「NPU运算功耗低于GPU」的特性,而我们也期盼,在这样的节能效果之下,不只可以发挥多元的AI应用,同时还能促进笔电的体感应用变得真正普及。
当然,PC端应用的发展也值得观察,毕竟PC不像笔电本身就内置视讯镜头与麦克风等,或许All in One(AIO)机型也会再次成为市场焦点。此外,由于PC处理器的运算能力比笔电更好,可负荷更高的AI运算,如何推动更多元化的应用,将是各家电脑厂商的机会与挑战。
无论如何,尽管AI PC可能要等到2025年才会在市场上正式发酵,但初期我们可从上述各式NPU的应用场景,来看出当前AI笔电的新特性,后续可以想见的是,由于笔记各家厂商已经纷纷表态,要提供更好的AI运算能力,要针对AI PC提供更多应用,届时我们应该能见识到AI PC真正的能耐。