Rechercher dans ce blog

Wednesday, June 21, 2023

AI當副機師 為企業開源節流- 香港經濟日報- 報章- 評論 - 香港經濟日報 - 報章

上次談到人工智能生成內容(Artificial Intelligence Generated Content,AIGC)已對人類社會形成極大影響,但主要是討論「文生圖」或「圖生圖」類模型。這次筆者打算探討自然語言處理(natural language processing,NLP),一個在人工智能中十分重要的分支,會對商業社會帶來甚麼衝擊,以及潛在有哪些公司受惠。

減溝通成本 促進跨部門協作

NLP最為人熟知的例子,就是ChatGPT類的聊天型助手。OpenAI透過對預訓練模型(pre-trained model,PTM)進行監督微調(supervised fine tuning,SFT),令ChatGPT這類模型學會模仿人類,以問答形式解決用戶問題。在過程中,人類專家會先模仿ChatGPT的用戶,向AI進行提問,然後人類專家會自問自答,寫出針對此問題的相對應回覆,為問題提供高質量答案;重複這個過程很多次,AI便慢慢學懂如何回答人類問題。

回到應用層面,SFT對企業有何重要性?一大方向是利用NLP作文件總結,大幅度減省溝通成本。一間企業的效率低下,很多時在於有大量不必要的會議。會議的重點,在於令各部門就同一項目交流工作進度,以掌握項目進展,而由於部門間不理解其他部門的工作內容,變相有大量時間用於重複解釋事實性/資料性的事情,相當低效;應用NLP後,可以先把企業的資料庫連接大型語言模型(large language model,LLM)的應用程式介面(Application Processing Interface,API),令AI可以調閱企業內部文件。

同時,透過應用SFT,企業可指示不同部門,以問答形式解釋不同文件的意思,令AI學懂如何解讀全公司的文件,如此一來,在跨部門協作前,不同部門可以先向AI請教事實及資料性的疑惑,開會時便可直達重點,討論更深入問題。

建獨立數據庫 確保資料保密

當然,要做到以上效果絕非易事。首先,最大疑慮在於敏感資料外流,例如早前三星便疑似有員工把機密的晶圓設備數據,上傳到ChatGPT提問。事實上,有很多技術手段可以解決這個問題,其中之一是建立獨立的數據庫,確保企業上傳的資料,只會在私人雲端伺服器流通,OpenAI亦宣布正在開發ChatGPT Business,或許會採用類似方法;再加上如端到端加密(end to end encryption)等方式,令網絡/服務供應商亦很難得知員工與AI系統交流的內容。

其次,成本上開發費用其實不大,但後續維護開支可能很高。開發主要是指進行SFT的過程,根據OpenAI共同創辦人之一Andrej Karpathy的說法,進行SFT只需幾百張顯示卡及少於一個月時間,遠比由零開始訓練預訓練模型動輒幾百、上千萬美元的費用少。

正如大型模型的主要開支在於推論(inference)而非訓練(training),對SFT模型而言亦同樣如此,如果公司有大量用戶不斷調用SFT模型作查詢,亦會令推論開支急升,或許企業就要購買大量加速卡或使用雲端加速卡,令Nvidia、AMD、Intel、Google(TPU)等加速卡晶片企業受惠,亦直接刺激先進晶圓代工企業(如台積電、三星等)及先進晶圓生產設備公司(應用材料、科林研究、ASML等)的營收。

說完節流,亦應談談開源的部分。筆者認為NLP的特色之一,在於大部分企業都可以用AI減省成本,但只有相對有限的企業可以很容易地使用NLP開源。當中原因之一,在於AI缺乏物理肢體--現階段的AI大多只是從網絡虛擬地幫助人類,很少可以通過與現實物件互動來協助我們,而開源往往涉及大量即時反應、情感互動及面對面交流,是目前AI的弱項。

正因如此,微軟對當前AI的描述相當準確:微軟的AI助手都被稱作「Copilot」,人類作為主機師,負責更複雜及宏觀的指揮及處理,而AI作為副機師,則處理大量細節上的執行。上文提到的文件總結AI,亦是採用類似模式。

回到開源的部分,我認為部分類型的遊戲,以及其相對應的開發公司,會是特別受惠的群體。之前提到大部分遊戲都可以用「文生圖」或「圖生圖」AI,輔助完成美術創作的工作,例如人類畫家先畫出遊戲角色的黑白草稿,再由AI上色及增添細節,減省工時成本。然而,遊戲內有大量由電腦操縱的角色(non player character,NPC),以及豐富劇情的遊戲,會特別適合使用NLP技術,例如大型多人綫上角色扮演遊戲(MMORPG),以及開放世界類作品等。

革新遊戲體驗 為產業注入生機

以開發商Take Two Interactive開發的《Red Dead Redemption 2》為例,玩家扮演美國西部牛仔時代的幫派成員,在廣闊的遊戲地圖中探險及完成主綫劇情任務,並與大量NPC互動交流。在目前的玩法中,雖然玩家與NPC的互動有一定自由度,但為了維持劇情完整性,大部分選項均不會對故事劇情綫有重大影響。

然而,在AI加持下,同樣可以運用上述的SFT形式,把遊戲劇本及對答例子「餵」給AI學習,令不同遊戲角色根據其設定,與玩家對話。在中國,基本上大型的遊戲公司如騰訊、網易及金山等,都有MMORPG遊戲儲備,而歐美的Ubisoft、Take Two、Activision Blizzard等,亦是這類型遊戲的領軍業者。

當然,不同公司把AI融入遊戲的速度亦大有差異,主因在於在遊戲作SFT也有不同問題解決。問題之一在於令NPC在自由發揮對話內容之餘,又能交代主綫劇情需要其提供的綫索予玩家,避免劇情無法正常發展。不同類型的護欄技術,如Nvidia的NeMo Guardrails,就可以避免AI說出不應說的話語。舉例而言,安全性護欄令AI在任何時候都不會提及危險的內容(如在現實中製作爆炸品的方法),而主題護欄則確保AI不會偏離其主題(如NPC只會提及其角色背景相關資訊),令NPC可在正確範圍內工作。

若以上場景真的可以在短期內於遊戲中實現,必定會帶來前所未見的新鮮遊戲體驗,為多年來主要在玩法及畫質上作小修小補的產業注入生機,再次引爆玩家乃至整個社會對遊戲的熱情。

企業應用AI的自然語言處理,可令AI學懂如何解讀全公司文件,在跨部門協作前,不同部門可以先向AI請教事實及資料性的疑惑,開會時便可直達重點,討論更深入問題。(路透社資料圖片)

撰文 : 王逸研 易方資本助理基金經理

欄名 : 評論

Adblock test (Why?)


AI當「副機師」 為企業開源節流- 香港經濟日報- 報章- 評論 - 香港經濟日報 - 報章
Read More

No comments:

Post a Comment

天文研究者在銀河系發現“老煙民”和“新生兒”恆星--經濟·科技--人民網 - 滾動--經濟·科技--人民網

人民日報報系 旗下網站 創新服務平台 小字號 新華社倫敦1月31日電(記者郭爽)刊發在最新一期英國《皇家天文學會月刊》的研究顯示,一個天文研究團隊首次發現了一批過去難以見到的恆星,其中包括靠近銀河系中心、綽號為“老煙民”的新型巨大老年恆星,以及數...