從Computex 2024看AI筆電新樣貌,NPU應用成新關鍵
支付動態 · 2024-07-05

今年臺北國際電腦展Computex的重要看點之一,就是各家筆電大廠正迎向AI新浪潮,展示新世代筆電的不同風貌,我們從現場展示的產品與應用,可以看出兩大不同之處,不只是新產品將具有Copilot實體按鍵,更關鍵是NPU的採用,將讓一些AI應用可以在個人電腦上有更好的發揮,並促進體感操作在個人電腦上變得普及

另一重要變化在於,專門為AI應用而設計的NPU(Neural Processing Unit),如今這項應用開始擴及Windows個人電腦領域。

例如,電腦處理器大廠Intel去年底推出Meteor Lake行動處理器,其架構包含CPU、GPU與NPU,就率先獲得多家筆電廠商採用,在2023年底就開始陸續有產品上市。

因此在今年Computex電腦展上,Intel就在攤位上特別陳列了多家廠商的新品,包括:微軟Surface Laptop 6、Dell XPS 14(9440)、HP Elitebook 840G11,以及宏碁Swift Go 16、華碩Vivobook S 14(S5406)、技嘉Aorus 15、微星Prestige 13 AI Evo,還有聯想IdeaPad Slim 5i、LG Gram Pro、三星Galaxy Book4 Pro、Dynabook Portege X40L-M等,特別的是,Intel不只是陳列各廠商產品,更希望讓大家可以透過這些產品先目睹NPU能力的新應用。

新世代筆電可運用NPU幫助AI運算

關於NPU的實際應用場景,是大家都關注的重點,畢竟,過去個人電腦上沒有NPU,AI相關運算只能依靠CPU與GPU,尤其是具有平行運算能力的GPU,但隨著現今生成式AI技術的興起,專為加速AI應用而設計的NPU,也成為了新的解決方案。

在今年6月的Computex電腦展上,我們看到Intel展區中就有多項NPU相關技術與應用的實機展示:

(一)資安威脅與防護

首先我們要介紹的應用相當特別,是要保護AI應用程式不被竄改。

在今年Computex的Intel展區上,特別以一臺電腦展示一段影片,內容是本機端AI應用程式被竄改、污染的資安風險。

根據現場導覽人員的說明,影片中主要呈現出,當使用者在AI應用程式中提出問題,詢問「臺灣銀行網銀服務的官方網站網址是什麼?」在一般情況下,AI應用程式可回答出正確的網址。

不過,一旦AI模型、知識庫沒有受到保護,遭到竄改或下毒,這時使用者再次詢問同樣的問題,由於AI應用程式受到操弄,因此我們看到AI應用程式此時的回答,是一個錯誤的可疑網址。

關於上述這項AI PC上的資安應用,其實是由趨勢科技所提供,該公司亦在Computex設置展區並展示這方面的解決方案,因此他們的現場工作人員在導覽時,也向我們提供了更多說明。

基本上,隨著NPU、開源小型LLM的發展,如今在筆電上這樣的邊緣運算,將讓攻擊面變得更寬廣。因此,趨勢科技已經針對AI PC提供資安解決方案,強調Security for AI,聚焦保護AI應用程式不被竄改。

他們解釋,因為現今大眾普遍使用的生成式AI服務,主要是將資料傳回至雲端才能處理,但雲端上的AI其實都有著企業等級的安全防護,相對而言,當電腦有了NPU之後,各種AI應用程式就能直接在PC上執行,只是本機端的AI模型也就成為新的風險。

另一方面,他們也有提出AI for Security的應用,是發展出由NPU驅動的電子郵件防護。這是因為,趨勢科技過去提供的雲端Email防護解決方案,有些功能需要將郵件內容去識別化後送至雲端處理,像是要識別詐騙郵件等功能,而且這樣的應用需要使用者同意後才能分析。若運用電腦本身NPU來處理,不僅同樣可以帶來保護,也具有更高的隱私。

(二)手勢控制

另一展示情境為手勢控制(Gesture Control)的應用。由於現在不只手機,運動相機也都首度開始加入手勢控制的能力,在筆電上的應用發展又是如何?

在一臺技嘉Aorus 15筆電上所展示的應用場景,是以愛奇藝的Windows App的手勢操作功能為例,根據現場人員導覽時的說明,該程式在前幾年已經加入手勢識別AI模型,背後主要利用CPU與GPU來處理分析,可以透過視訊鏡頭來識別手勢,像是掌心張開對著電腦代表停止播放,OK手勢代表繼續播放,而現在能使用NPU來獨立處理。因此,與過去運算處理方式相比,將可減輕CPU與GPU的負擔,讓這些資源可去處理其他工作任務。

(三)眼球追蹤

關於眼球追蹤(Eye-Tracking)這樣的技術,多年前我們已經看過這類技術應用的展示,但至今其應用仍遲遲未能普及,今年Computex我們又看到有這樣的展示。

在現場一臺Dynabook Portege X40L-M電腦上,展示了兩個眼球追蹤的場景,首先是一個書架的畫面,現場人員向我們說明,我們只要在電腦前,用眼睛注視著畫面上的任何一本書,筆電鏡頭就能偵測使用者的目光焦點,當我們實際這麼做,盯著中間右邊的樂譜書籍時,該物件真的就會稍微放大,望向其他書時也會有同樣效果,如同用眼睛操控滑鼠游標一樣的效果。

另一個是X光照片的畫面,我們也依據現場導覽人員的指出,當我們頭部朝向筆電靠近,螢幕上的圖片就會跟著放大,看到更清楚的X光斷層掃瞄細節,當我們頭部往後,圖片則會縮小。而這些應用背後也都透過NPU來處理,可比使用GPU運算更節省筆電能耗。

(四)Windows AI應用程式

談到AI PC,大家對於微軟提出的Copilot+ PC應該相當印象深刻,而我們在Intel展區也看到一臺微軟Surface Laptop 6筆電,正展示著Windows 11 24H2將提供給AI筆電的微軟AI應用程式,包括即時字幕翻譯Live Captions、Windows Studio Effects。儘管這臺電腦尚不符合微軟對Copilot+ PC的定義,但依然能夠展示這些AI應用程式的效果。

例如,筆電上正播放Computex 2024主題演說的YouTube影片,我們可以看到以Live Captions的效果是,可將演講內容即時產生英文字幕於筆電畫面的上方。現場工作人員向我們表示,在這項技術下,包括偵測到的語音,輔助字母的產生,都是在電腦上完成,並不會與雲端或微軟共用。

同時,這臺電腦另一半畫面也展示了啟用視訊影像下的Camera effect效果,可快速自動對焦與模糊背景,並使視訊的影像更清晰。

(五)寫作助手

自從ChatGPT與Gemini等生成式AI服務的出現,現在大家對於上網使用生成式AI服務,命令AI寫出一段文章,已經並不陌生。不過,之後使用者也可在不連網的情況之下,利用自己筆電上的AI應用程式,來執行生成式AI應用。

例如,在Intle展區另一臺LG Gram Pro筆電上,所展示的應用就是寫作助手。電腦畫面上呈現出使用Word編輯文章時,能另外叫出一個具Secure Local機制的寫作助手,現場人員表示,其特色在於不用將文字內容上傳生成式AI服務,就能快速調整一段寫作內容。

從寫作助手的功能選單來看,介面上提供了很多寫作風格的切換,包括正式、輕鬆、簡單,簡單扼要,或是需要擴展,甚至也能調整內容為具說服性、具敘述性,或是具資訊性。又或是調整為幽默、嚴肅、樂觀、悲觀的語氣。此外也有翻譯能力,包括中文、英文、西班牙文、日文、韓文等。

隨著NPU運算效能提升,以及支援NPU的AI應用程式增加,AI筆電會更有看頭

綜合來看,雖然上述採用Intel Meteor Lake處理器的產品,其NPU運算能力只有11.5 TOPS,但可預期的是,各家處理器大廠正持續發力,積極提升NPU運算能力。

這是因為今年5月微軟、Intel已經透露,未來AI PC的門檻至少要達40 TOPS,目前Intel也已經預告下一代Lunar Lake,其NPU將提升到40 TOPS。

而在高通與AMD方面,這兩家廠商的動作更快,近期已開始推出NPU運算能力更高的處理器,像是高通主打Arm架構的Snapdragon X1系列筆電處理器,其NPU效能達45 TOPS,AMD也已經新發表Ryzen AI系列處理器,其NPU效能達50 TOPS。

再者,繪圖AI晶片大廠Nvidia目前也在積極發力,他們認為NPU在效能與支援性上與GPU相比仍有落差,僅依靠NPU只能算基本的AI PC,因此該公司也持續針對AI筆電提供更強的GPU來執行更多AI功能。

綜觀上述發展,聚焦GPU、NPU的運算效能提升,應該會是接下來新世代筆電持續強調的重點。

我們在這次Computex電腦展上,也首度看到這些新品在臺亮相。例如,在宏碁展區所擺設的一臺Swift 14 AI的筆電,該產品就是搭載擁有45 TOPS的Sanpdragon X Eltie處理器。

另外在Computex上華碩的展區中,我們也看到一臺ProArt PX13,搭載的就是擁有50 TOPS的AMD Ryzen AI 9 HX 370處理器,並還搭載了Nvidia GeFrce3 RTX 4070顯示晶片,可增至320 AI TOPS。

不僅能為筆電、PC提供多元的AI運算潛力,也盼能促進體感操作的普及

在AI發展大勢之下,由於新世代Windows筆電、PC的處理器都將變成整合CPU、GPU與NPU的架構,從上述各式AI應用方式來看,確實讓新世代個人裝置有了相當大的變化。

但大家可能也會想到的是,現在生成式AI服務已獲大眾普遍應用,不論是OpenAI的ChatGPT,Google的Gemini,以及主打AI繪圖的Stable Diffusion等,很多應用其實只要我們連上網路就能使用,而且訂閱這些雲端服務後,可獲得更強的能力。

因此,最大重點應該是放在「在裝置端執行」這件事,例如,如果不想將敏感資料上傳至雲端服務,就會是大家可能會看重的面向;還有一些輔助性的功能,像是手勢與眼球的追蹤,視訊上的美肌、自動背景去背與更換等,也很適合交由NPU來執行,讓CPU與GPU的資源可以留給其他任務。

值得一提的是,以上述的手勢控制、眼球追蹤而言,這些技術其實發展已久,像是Intel在10年前提出Ultrabook概念後,當時還會強調由攝影鏡頭、軟體、傳感器所構成的RealSense體感操作技術,聚焦於聚焦於人臉、手勢的捕捉,不只要讓辨識、追蹤變得更精準,更希望為下一代電腦的操作體驗帶來革新。然而,後續這類應用,只有Windows Hello登入技術變得普及,

如今隨著NPU的應用領域開始擴及Windows電腦產品,由於各大處理器廠商均強調,新的NPU能讓處理器以更節能的方式,在筆電上執行AI運算任務。

因此,另一大重點就是「NPU運算功耗低於GPU」的特性,而我們也期盼,在這樣的節能效果之下,不只可以發揮多元的AI應用,同時還能促進筆電的體感應用變得真正普及。

當然,PC端應用的發展也值得觀察,畢竟PC不像筆電本身就內建視訊鏡頭與麥克風等,或許All in One(AIO)機型也會再次成為市場焦點。此外,由於PC處理器的運算能力比筆電更好,可負荷更高的AI運算,如何推動更多元化的應用,將是各家電腦廠商的機會與挑戰。

無論如何,儘管AI PC可能要等到2025年才會在市場上正式發酵,但初期我們可從上述各式NPU的應用場景,來看出當前AI筆電的新特性,後續可以想見的是,由於筆記各家廠商已經紛紛表態,要提供更好的AI運算能力,要針對AI PC提供更多應用,屆時我們應該能見識到AI PC真正的能耐。

Popular articles
FDJ says it doesn’t foresee French gambling tax hike, as stock price hit
Sports Betting
New Partnership: 1spin4win Integrates Classic Slots into Pokerdom’s Gaming Library
Online Casino
ESPN Bet collects $3M handle in New York mobile debut
Sports Betting
People have a lot to say about Ontario’s Premier wanting to Las Vegas-ify Niagara Falls
Regulation
Swedish lawmaker proposes lowered gambling tax to fight black market
Sports Betting
‘A target on their back’: college athletes face wave of abuse amid gambling boom
Sports Betting
Denise Coates’ charity may have saved Bet365 more in tax than it has given to good causes
Sports Betting
Brazil’s president says he will ban sports bets if ‘addiction’ not regulated
Sports Betting
Major UK banks join new Gambling Harms Action Lab
Regulation
NFL player calls out NFL fans upset about bets: ‘We’re human too’
Sports Betting
UK Council Accountant Who Stole £1m to Fund Gambling Addiction Jailed for Five Years
Regulation
Italian regulator updates technical rules for gambling systems verification
Regulation
Bally’s job training program is a big deal at Community College of Rhode Island
Regulation
Colombia to hike online gambling tax rate
Regulation
Hotel-casino court rulings reveal flaws in AI price-fixing allegations
Regulation
Home
Game
Cooperation
Find
My