AFS     台智雲     LLM  

台智雲揭企業級LLM服務新進展，新添繁中優化的Llama 2模型

繼今年5月發表企業級大型語言模型服務AFS後，華碩子公司台智雲日前再揭新進展，在AFS中納入更多模型，包括以繁中資料強化的FFM-Llama 2，預計9月底上線。進一步來說，AFS全名為AI Foundry Service，主要有2種大型語言模型的部署和推論服務，即AFS Cloud和AFS Appliance。其中，AFS Cloud為雲端託管服務，企業可透過API來使用訓練好的LLM，AFS Appliance則是私有雲／地端部署服務，企業可下載大型模型到地端使用。

這次，台智雲在AFS的預訓練模型庫中，新添以繁中語料優化的FFM-Llama 2模型，包含70億參數、130億參數和700億參數三種版本，以及Meta原本的Llama 2、Code Llama等開源模型，此外還有先前發布的FFM-1（含7B、176B版本）、BLOOMZ（含7B與176B版本）以及Embedding等模型來供用戶選擇。

另外，台智雲在AFS中還新添新功能，比如能提高訓練效率的LoRA（Low-Rank Adaptation），特別適合資料量不多的企業使用者，預計10月上線FFM-Llama 2、Meta Llama 2和FFM-BLOOM系列支援LoRA。另一個新功能則是BitsAndBytes，結合了LoRA和模型縮小技術，有利於模型部署於運算資源有限的裝置。（詳全文）

  蛋白質     EvoDiff     序列空間  

可設計自然界所有蛋白質！微軟開源AI新框架EvoDiff

微軟開源通用擴散模型框架EvoDiff，兼具處理大量、多元資料的特性和擴散模型的控制能力，在序列空間中能以可控制的方法生成蛋白質。用EvoDiff訓練的模型，能生成多樣化且結構合理的蛋白質，甚至能生成以結構為基礎的模型無法生成的模型，具通用性。

這個EvoDiff框架，結合進化與擴散兩個方法，用進化規模的蛋白質資料，來建立擴散模型。所謂進化規模，是指涵蓋大規模進化歷史，足以反映蛋白質長時間進化的資料，可讓模型在探索和設計新蛋白質時表現更好。使用EvoDiff框架訓練的模型，能生成符合現實且多樣化的新蛋白質，包括在序列空間生成，在生物學和疾病中都有非常重要作用的無序蛋白質（Disordered Protein）。（詳全文）

  創作     YouTube Create     編輯  

YouTube推出AI內容編輯器

影音平臺YouTube日前推出一款AI編輯工具YouTube Create App，能用來精準編輯和剪輯、自動配音、上字幕和過場。特別的是，YouTube Create 還將測試一個新功能Dream Screen，使用者只需輸入一個想法，就能新添AI製作的短片或圖片至自己的影片。舉例來說，使用者可輸入「我想現在就在巴黎」，App就會合成包含使用者在巴黎的影片或圖片。

這個App還會有個生成式AI功能，來根據發燒主題和觀眾偏好，來產生主題點子和影片大綱給使用者。此外，App也有個AI驅動的音樂推薦功能，能根據使用者輸入的影片描述，來推薦合適的背景音樂。另一方面，使用者也能開啟外語自動配音功能。YouTube表示，這個功能是要讓使用者更容易創作，特別是對第一次發片的使用者而言。（詳全文）

／Google、微軟、YouTube

  AI近期新聞 

1. DALL·E 3文字轉圖像模型將於10月登場，可利用ChatGPT協助描述

2. 發展腦機介面裝置的Neuralink，開始接受人類大腦植入臨床試驗申請

3. 甲骨文整合臨床數位助理與EHR，擴大醫療AI應用場景

：iThome整理，2023年9月