MoE     艾倫AI研究院     OLMoE  

艾倫AI研究所聯手打造更節能的MoE語言模型

日前，艾倫AI研究院、新創Contextual AI聯手打造一款混合專家（MoE）語言模型OLMoE並開源，不只表現好，所需的運算資源還更少。這款模型雖然有70億參數，但對於每個輸入值，只會啟用13億參數，因此與Llama 2-13B等更大的模型相比，其表現相當但所需的推論運算資源更少了。

也由於MoE架構特性、更好的訓練數據和超參數，這款模型比前一代模型OLMo 7B要有效率，省下了4倍訓練FLOPs運算資源、每次向前傳遞的使用參數量也少了5倍，在推論和訓練方面都更划算。這次，他們不只開源模型權重，還開源了訓練資料、程式碼和日誌，允許其他開發者在OLMoE的基礎上進行改良。（詳全文）

  AI生態圈     行政院     LLM  

行政院經發會首次顧問會議聚焦AI生態圈

9月3日行政院展開今年度首次經濟發展委員會顧問會議，鎖定創新經濟、均衡臺灣和包容成長等3大主題，其中，創新經濟又聚焦2大議題，包括「建構主權AI生態系」和「以市場需求帶動創新創業發展」。這次委員會顧問群由21位產官界重量級人士組成，如台新金董事長、玉山金董事長、臺哥大總經理、91App董事長、YouTube創辦人等人。

就建構主權AI生態系來說，又可分為2部分。首先是主權AI發展策略，顧問群針對臺灣如何發展繁中大語言模型、如何確保繁中資料庫多樣性和品質、如何帶動產業發展系統設計和創新應用服務等議題提出建議，比如針對發展本地模型，就建議政府，短期以開源LLM為基底，增加在地資料訓練，之後再發展完全自行開發和維護LLM的能力。另也建議政府與民間企業合作，包括跨部門協助磨合大規模企業，透過大攜小、老創+新創的方式，輔以政府基金來達到整併規模化。顧問群也建議，政府應優先處理基礎建設工作，擁有足夠的計算資源和穩定電力供應，才能支援AI技術發展。

在確保繁中資料庫部分，則建議由政府指定專責單位，建立主權共同資料庫，以及建立AI監督、問責和評估制度，來把關資料運用。至於帶動產業面向，則建議數發部整合資源，來從人才、產業（選定優先發展產業）、基礎設施（如資料中心、語料庫、LLM基礎設施等）和信任安全規範（如可信任AI發展準則、資料治理與交換）等面向設定戰略目標。

此外，建構主權AI生態系還有另一個重要議題：如何帶動百工百業／中小微企業AI轉型。在這部分，顧問群建議，由於百工百業範圍廣泛，政府應選擇數位化程度較高的重點產業，優先提供深入課程和AI導入。他們也建議，政府應鼓勵產業共組聯盟，像是半導體與電子製造、傳統製造、醫療保健、智慧城市與交通、金融業等先來實行。此外，他們也建議政府打造沙盒和友善環境，提供業者、主管機關容錯空間，另也應在各行業選出具參考價值的企業轉型典範，作為產業界示範，好進一步推廣。（詳全文）

  行政院    AI      AI治理  

行政院提五大信賴方案，要提高特定產業AI應用普及率達50%

9月5日，國發會在行政院院會中揭露五大信賴產業推動方案，鎖定半導體、AI、軍工、安控、次世代通訊等五大產業。在半導體方面，該方案要協助廠商發展先進製程與封裝、材料及設備，目標是2028年要新增產值新臺幣2.6兆元。

在AI方面瞄準5大面向，包括應用發展、人才、政府投資、研發創新和鞏固基盤。就應用來說，要透過補助、採購、租稅誘因和建立產業專家資料庫等方法來促進各行業導入AI，包括政府機關在內。特別的是，他們設定KPI要提升數位經濟產業導入AI應用普及率達50%，製造業導入AI應用普及率則要達30%。

人才部分，則要在4年內培育20萬名AI數位相關人才，另也鎖定產學研合作，來培育碩博士高階人才和企業即戰力人才。政府投資是指數發部整合行政院國家發展基金100億元，要投資AI數位產業，而在創新部分，是要吸引國際半導體和AI大廠來臺設立研發中心，最後的鞏固基盤，則要新建智慧節能資料中心、擴大算力和引進低耗能方案，也要精進繁中語言模型、開發多元產業落地應用。不只如此，他們也將發布AI基本法和產業AI指引，並推動AI評測、完善AI治理。

至於其他產業，軍工業方面將持續推動國機國造、國艦國造、打造無人機供應鏈，預計至2028年無人機產值要成長10倍。安控產業則要協助國內安控產業發展可信賴的安控產品與解決方案、積極發展資安。至於次世代通訊產業，除將布局6G關鍵自主技術，也將整合地面與衛星網路，發展各項應用場域與解決方案。（詳全文）

  數發部     AI培訓     公務員  

數發部預計12月提出公務機關AI應用指引

在數位政府高峰會中，數發部數位政府司長王誠明揭露，數發部計畫在2026年到2030年推動政府轉型，並在2026年前推出配套措施，指導政府機關導入AI。數發部預計在今年12月發布AI應用指引，來幫助機關達成轉型目標。

王誠明指出，數發部正由專家協助研擬AI應用指引，未來AI應用指引的內容將涵蓋AI概念介紹、AI服務評估、AI服務導入、AI營運管理4大章節，共23個子章節。其中，AI服務評估是指，協助機關評估AI是否為適合的解決方案，包含機關面臨的問題如何定義、資料狀態是否準備妥當、政府公開的AI實證等；AI服務導入則包含導入模式、AI專案過程、AI專案驗收標準等。AI營運管理涵蓋風險管理、倫理議題、資安、AI治理等面向。

數發部透露，應用指引將AI專案生命周期分為5階段，包括AI場景評估、建置AI專案、資料準備及模型開發、測試迭代、風險控制和專案追蹤，每個階段有其對應的目標及任務。為因應最困難的驗收部分，AI應用指引將提供4個驗收指標，包括模型性能標準、系統穩定性、使用者體驗標準、公平性指標等，但因為AI仍在發展中，指標也會隨之變動。（詳全文）

  Anthropic     Claude Enterprise     GitHub  

Anthropic推出企業版AI方案

AI新創公司Anthropic日前揭露企業級Claude AI助理方案：Claude Enterprise，鎖定500人以上的大型企業，強調更周全的安全控管功能，也不會使用企業資料來訓練AI模型。這個最新方案，可讓企業安心用Claude和公司內部資料，來執行專案或協同工作，該方案也提供更大的Claude AI脈絡長度、管理功能、安全性和開發便利性等，包括提供Claude 500K脈絡長度，大約是數百個業務謄本、數十份上百頁的文件或中型程式碼庫，足夠讓Claude提供更專業、更符合部門功能需求的回應和指引。

再來，企業版方案提供更進階的安全和控制功能，像是單一簽入與網域獲取，可管理用戶存取並將使用控制集中化。他們還預告，接下來幾周會推出2項管理功能，如能追蹤系統活動使用的稽核紀錄、跨網域身份管理系統（SCIM）等。此外，企業版還加入和GitHub的原生整合功能，工程團隊可將Claude與GitHub儲存庫同步，配合codebase開發新功能、除錯或為新工程師提供入職訓練。（詳全文）

  Visual Studio     Copilot     語境理解  

Visual Studio 2022深度整合GitHub Copilot

微軟Visual Studio 2022 17.11針對GitHub Copilot更新，提升在開發流程中整合Copilot，首次讓開發者能引用整個解決方。此外，Copilot還在Visual Studio 2022中新增多項功能，像是強化語境理解，以及對除錯和命名上的理解，進一步提高開發者生產力和開發效率。

過去Copilot可應用的範圍較小，是因為其能引用的上下文較為限縮，但在Visual Studio 2022 17.11中，Copilot增加@workspace和@GitHub新指令功能，可將整個解決方案，甚至是儲存庫納入參照的上下文中。除了指令功能，Copilot的程式開發輔助功能也有改善，比如添加命名建議和AI生成的中斷點表示式功能，以及迭代程式碼建議的方法，不需要像過去一樣先接受建議、避免接受後還要再修改的麻煩。（詳全文）

  軟體開發     AI工具     程式碼  

GitHub：生成式AI正改變軟體開發

GitHub針對AI在軟體開發中的使用狀況進行調查，發現AI正在改變軟體開發產業，幾乎所有開發者都已使用AI工具輔助程式開發，並享有AI工具帶來的優點，包括改善程式碼品質、更快速編寫測試程式碼，以及更容易理解程式碼庫和開始使用新語言。

在GitHub調查的2,000位受訪者中，超過97％的受訪者在軟體開發使用過AI程式碼開發工具，無論工作內外，但他們的使用並不一定經過公司允許。調查顯示，企業雖正逐漸擁抱AI，但仍有許多成長空間，且不同市場差異極大，較保守的德國僅有59％的企業鼓勵或允許員工使用AI工具，在美國則有88％。也因此，對比97％的受訪者已將AI工具用於工作內外的軟體開發，企業態度與這個現象有所差距，顯示企業應該要完善策略與政策面，來消弭差異。（詳全文）

／Google DeepMind、艾倫AI研究院、行政院、Anthropic、GitHub

  AI近期新聞 

1. Google Gemini新增可客製化的個人助理Gem、全面部署Imagen 3圖片生成模型

2. Anthropic公布旗下3款模型系統提示，可先定義模型行為、語氣和個性

3. 國科會揭5年智慧科技大南方方案，要提高國家算力至480 PFLOPS

：iThome整理，2024年9月