算力達每秒千兆次浮點運算 陽交大啟用AI高速運算平台
陽明交通大學今天正式啟用AI高速運算平台,成為國內首座搭載最新Nvidia DGX H200伺服器的大學,平台包括2台H100和3台H200伺服器,擁有40片GPU運算卡,算力達每秒千兆次浮點運算。未來將可支援校內研究團隊GPU算力需求,並推動數位轉型、培育更多AI領域人才,提升陽明交大在AI研究領域的國際競爭力。
陽明交大資訊技術服務中心主任施仁忠指出,現有的AI高速運算平台,已配備2台DGX H100伺服器,未來半年內將陸續整合3台DGX H200伺服器,並引入AI高速平行檔案系統加入陣列,搭配無線頻寬交換機,使總共40片H100/H200 GPU運算卡可叢集使用。現有平台也已搭配資源排程與管理軟體,將可有效率且彈性地提供AI運算資源給各校內研究團隊使用。
主要研究AI模型訓練的電機系教授簡仁宗指出,過去需要跑一天的實驗結果,在使用了校方最新建置的AI高速運算平台後,只需花2個多小時,且在4倍多記憶體擴充下,訓練出效能更強、預測更準的AI模型。研究影像辨識系統設計的博士生冉達恩,使用平台1個月後已得到足夠資料,已將結果撰寫成論文,投到國際會議及國際期刊中發表。
陽明交大校長林奇宏表示,為強化在AI研究領域的實力,學校建置AI高速運算平台,今天啟用典禮除了感謝尊博科技執行董事許順宗捐贈1千萬,用於母校購置GPU伺服器,同時也邀請到輝達全球副總裁暨台灣區總經理邱麗孟見證儀式,共同宣示藉由提升學校在GPU高速運算資源的建置,迎向未來AI時代的挑戰,厚植AI研究技術與能量。
陽明交大表示,AI高速運算平台目標在整合和提供校內所需的GPU運算資源,提升全校運算資源建置的效率,並搭配校內綠能機房,電力使用效率可達1.58,有效節省能耗、減少碳排。
此外,在現今資安至關重要的時代,保護運算資源亦是一項重要任務,團隊將延續資訊中心既有的完善資安防護機制,包含安全遠端存取、防火牆和異常監控等,對AI高速運算平台進行資安防護。