科技

【繁中專家模型開源計畫 Project TAME 發起者】和碩聯合科技總經理暨執行長鄭光志:期許在 AI 潮流不只發展硬體代工、設計,也加入服務型軟體成為重要角色

TechOrange 科技報橘
更新於 07月04日15:16 • 發布於 07月01日01:33 • 全新一週 Podcast

由長春集團、和碩聯合科技、長庚醫院、欣興電子、科技報橘聯合發起,與台大資工系、台大資管系及律果科技合作,在 NVIDIA 技術支持下訓練的「繁體中文專家模型開源專案 TAiwan Mixture of Experts(後簡稱 Project TAME )」,已正式對外發布。和碩聯合科技在設計到系統化生產製造服務相關的開發技術上,積極嘗試 AI 的可能性以及發展 AI 製造應用,科技報橘社長戴季全特別專訪碩聯合科技總經理暨執行長鄭光志、和碩新產品發展事業處暨人工智慧發展處處長蕭安助,分享和碩聯合科技參與 Project TAME 的緣起。

廣告(請繼續閱讀本文)

「從 Machine Learning、Deep Learning 到現在的 AI,其實它就是一個進程,我們洞見到這一個機會,」和碩聯合科技總經理暨執行長鄭光志表示,早在 2012 年,和碩就已經察覺到 AI 發展的潛能,當時和碩就開始與 NVIDIA 展開小規模的合作,最初的用意是期待提升公司在硬體製造、設計、代工的效率,並降低作業員人數的使用。

和碩新產品發展事業處暨人工智慧發展處處長蕭安助進一步說明,「二、三十年前就已經有 AI 相關論文,但是因為在 AI 三個重要元素『Data 、算力、算法』當中,當時的 Data 和算力並不完備,我們注意到這個情形,所以我當時就認為應該先有一個 Big Data Infrastructure,就開始做一些大數據,還有 Machine Learning 的分析。」

到了 2022 年,業界的 Data 、算力、算法等技術已更到位,開始有 ChatGPT 的出現 。蕭安助表示,「這個時候我們開始觀察到,其實台灣單一的公司要來做這件事情,無論在數據或算力,都有很大的挑戰。而今年初剛好有 Project TAME,我們跟 NVIDIA 合作可以運用 NVIDIA 的算力,在過程中也遇到一些夥伴,所以我們就在思考:如何把這個東西做得更有影響力?有沒有辦法大家一起合作,把大家的算法、數據做大一點,然後訓練一個模型可以大家一起使用?」

廣告(請繼續閱讀本文)

希望能夠發展成專家模型,提升台灣產業鏈的效率

「Project TAME 的定位很清楚,就是希望做產業化、在地化,」蕭安助說明發起 Project TAME 的原因,不只是發展以繁體中文為主的語言模型,更希望能夠發展成專家模型幫助到台灣企業,「所以和碩就邀請四家企業,他們願意貢獻數據,這個過程其實非常有趣,因為我們沒有很嚴格的法律、規範、義務跟權利,計畫運作模式為 Open Source ,這應該是第一次用這種方式去運行這樣規模的案子。」

鄭光志分析,台灣有必要發展自己的「繁體中文專家模型」,原因有三:第一,台灣市場規模雖然比較小,但整個 ICT 產業是全世界最大的;第二,除了發展繁體中文語言模型之外,和碩也期待這個專家模型能讓更多類似的產業企業受益;第三,在國外的大型語言模型使用繁體中文的體驗不直接切合需求,「可是我們加入了台灣很多的 Data 進去之後,是比較能符合台灣的使用情境。」鄭光志表示,和碩不只是站在開發者的角度,也站在使用者的角度參與 Project TAME,透過繁體中文專家模型相關產品,可以提升台灣產業鏈的效率。

談到和碩積極投入 AI 技術的研發,同時加入 Project TAME 繁中專家模型的訓練,是看見什麼樣的願景或機會?鄭光志表示,隨著半導體產業鏈發展的速度,更讓使用者明確感受到 AI 實現效能和體驗,「現在的 AI Server 比較像是建構整個基礎建設的一個工程,接下來你怎麼樣把這些工程體現到整個人類的生活,或整個公司運作的效能,我們看到這裡其實有很多機會。希望在這個 AI 潮流裡面,不只發展硬體的代工、硬體的設計,和碩甚至希望加入服務型軟體成為一個重要的角色,我想這也是今天我們加入這個計畫的用意之一。」

和碩在 2012 年開始專注 AI 發展並推動 AI 轉型,就以三個面向讓各部門能夠以專案形式發展相關解決方案:第ㄧ,由公司或部門單位角度提出應用需求,且研發中心同仁提供技術支援;第二,和碩提供內部 AI 發展平台,讓沒有受過 AI 訓練的同仁也可以易於使用;第三,提供訓練課程以及專責 mentor 的諮詢服務。和碩希望讓這套 AI 應用轉型流程滲透到公司各個角落,藉由成功案例激發同仁參與率,成為形塑企業文化的養分,也驗證和碩自身的發展核心價值「Navigate the future」。

(責任編輯:曾品潔)

立即報名 7/18 【新漢 AIoT 轉型論壇】

與新漢集團董事長、安恩嘉 AI 影像總經理一同掌握雙軸轉型第一手成功經驗談!

加入『 TechOrange 官方 LINE 好友』 掌握最新科技資訊!

查看原始文章