Walmart大舉應用生成式AI到企業內外部場景。圖為他們結合AR技術與生成式AI打造而成的室內設計購物助手實驗原型，根據自然語言輸入來為顧客房間模擬擺設適合的商品。這些技術背後使用的商品數據，也會靠生成式AI清洗和梳理。

Walmart應用生成式AI的4大挑戰

Walmart應用AI及生成式AI時，有4大挑戰：持續高速創新、數據及開發規模龐大、成本控制不易，以及需要執行複雜嚴謹的生成式AI治理政策。其中，持續高速創新是Walmart主任資料科學家Michael Pfaffenberger最為重視的。

Michael Pfaffenberger說明，零售科技競爭非常激烈，就算Walmart在這戰場中算是領先者，仍時刻不能慢下創新腳步。同時，Walmart還有一些限制，使他們接觸新科技時更需要快馬加鞭開發進度。

其中一個限制是，正式採用新技術的時機點較慢。就Walmart來說，財會部門需要控管和紀錄GenAI使用支出，且使用的服務需要具備更高服務水準，因此得等一般可用（Generally available）的商業級產品釋出才會啟用。新創或中小型企業，則沒有這麼重的包袱。

他舉例，Azure開放使用GPT4-Turbo的時間比OpenAI開放試用版的日期晚了9天，且企業還需要等待廠商協助設定和導入，進入Walmart自家正式開發環境。這就會讓Walmart於競爭激烈的環境中晚了數周才起步。「這聽起來不久，但上市時間在生成式AI軍備競賽中非常重要。」他強調。

第二個挑戰是數據及開發規模龐大。Walmart有近3億名會員、4億筆商品SKU、2百萬名員工、上萬家門市、月流量4億人次電商和無數家第一方及第三方供應商，產生驚人規模的數據。不只資料量日益增加，Walmart還不斷將生成式AI應用於更多、更大、更複雜的問題。這些因素，使Walmart必須在多雲端平臺及多地理區域增加開發資源，並確保系統有高可用性。

規模龐大便會帶來第三個挑戰，開發成本控制不易。尤其是，以不犧牲功能性和效能為前提來控制成本。如何提高IT資源利用率，成為極其複雜但不得不面對的議題。例如，如何減少資源閒置時間、自動調整機器用量、有效的IT硬體及開發資源共享、採購高效能運算硬體或採用適當IT基礎架構等。

第四是更強的AI治理需求，也就是如何避免生成式AI產出內容在倫理或法律上產生威脅，同時兼具應用的可用性和效能。這對Walmart來說不只是IT和數據部門的責任，更涉及了橫跨法務、公關、會計等部門。

打造生成式AI「遊樂場」，標準化開發環境更鼓勵企業上下探索應用

Walmart原本就有一套MLOps平臺Elements，可以同時管理和運作百萬個模型，來支援2萬5千名IT團隊和資料科學團隊的各種AI應用。現今，此平臺也加入了生成式AI應用所需的開發資源，加入更多工具、相關模型等，系統性因應生成式AI發展的四大挑戰。

不只大幅強化技術人員的AI軍火庫，Walmart更針對非IT人員開發了一個名為GenAI Playground的生成式AI沙盒工具。這個「遊樂場」提供各式開發工具及測試環境，也包含No-code開發工具，讓非IT或數據背景的員工，也能根據自己崗位需求和靈感，自行打造和試用生成式AI功能。

除了打造全公司人人都可用的生成式AI應用開發工具之外，Walmart還有各種蒐集員工關於生成式AI應用發展及使用回饋的機制。例如，他們會定期開研討會，將業務人員和工程師齊聚一堂，由第一線業務人員提出需求和想法，並由工程師說明技術細節，藉此尋找新應用可能。他們也會蒐集員工使用生成式AI工具的數據來分析使用情況，並於這些工具中提供使用者回饋功能，鼓勵員工主動回報使用心得。

藉由這些工具，Walmart已經開發出許多大規模生成式AI應用，囊擴對內和對外業務。這包括基礎資料梳理、生成式AI搜尋功能、電商購物助手機器人、總部員工生產力工具、門市營運輔助、員工學習及福利管理工具、語音客服與購物等。未來，還將進一步應用生成式AI於AR家具及服飾購物功能，以及第三方供應商的客服功能。

 相關報導