
算力是發展AI的關鍵力量,不過算力相當昂貴,中小企業難以自行建置。數發部指出,若新創企業或中小企業有了AI相關的研發成果,需要算力做驗證,就可來跟數發部申請;今年規劃三梯次的算力申請,第一梯次已截止,第二、三梯次將於5月及8月開始。
數發部政務次長林宜敬指出,觀察台灣GPU算力池,公部門以國科會國網中心及數發部數位產業署為主,國網中心算力池名稱為晶創方案及智慧科技大南方產業生態系方案;前者算力為16PFlops,後者還在規劃中。而數產署的部分,名稱為公建計劃AI算力池,算力為1.58PFlops。
林宜敬指出,由於算力相當貴,不是一般中小企業或新創公司負擔得起,一片輝達H100就要100多萬元,數發部的部分至少會有32片Nvidia H100和8片AMD的MI300X晶片可用;若新創企業或中小企業有了AI相關的研發成果,需要算力做驗證,就可來跟數發部申請。
不過,林宜敬也說,民間企業不可能仰賴政府提供算力,來發展如LLM這類大型AI產品;他認為政府提供算力池,目的是引導民間建立起一種生態系,由民間公司開放算力租賃,賺到錢而繼續投入建置,如此能創造更大規模和效益。他說:『(原音)我們希望建立一個生態,讓供應方也能賺到錢,那他就會提供更多的算力,然後在使用方的話他有足夠的算力,做出良好的商業模式,他能賺到錢他也會再向這個供應方買更多。』
林宜敬也舉例,目前像是睿傳數據就發展「AI 胸腔X光影像病灶偵測系統」,利用8萬筆已標註對應疾病的資料來訓練,透過AI檢測X光影像,偵測胸腔10種病灶,有效解決放射科醫師不足問題。還有視旅科技研發的「保險產業專業領域語言模型系統」,他們收集500萬條語料庫,幫保險業務專員回答客戶的一些問題,變成這些保險業務專員的助手。