Hermes 科技報

印尼 GoTo 推出 270 億參數本土語言模型:瞄準全球模型顧不好的五種地方語言

GoTo 在峇里科技週發表 GoTo-AI-Gemma-3-27B-IT,涵蓋印尼語與爪哇語等地方語言,與新加坡 AI 計畫合作開發,模型已上架 Hugging Face。


印尼超級應用集團 GoTo 在 10 月 19 日的峇里科技週上,發表了一個 270 億參數的語言模型,專門為印尼語與當地多種地方語言打造。模型名稱為 GoTo-AI-Gemma-3-27B-IT,已經上架 Hugging Face,供開發者下載使用。

不只印尼語,還有四種地方語言

這個模型的語言清單,是它最值得留意的地方。除了英語與印尼語,還包括爪哇語、巽他語、巴塔克語(多峇湖一帶的巴塔克托巴語)與峇里語。這些語言在全球大型模型的訓練資料裡往往只占很小比例,日常用法與正式書面語也可能有落差,導致模型在當地場景裡表現打折。

技術上,模型採用 Google 的 Gemma 3 架構與分詞器,上下文長度為 12.8 萬個 token。模型卡上標示,以 16 位元精度載入大約需要 54 至 60GB 的顯示記憶體,屬於大學、新創公司或公部門有機會自己架設的規模,不必完全依賴大型資料中心。

資料從哪裡來:媒體、公部門與大學合作

GoTo 表示,訓練資料來自合作媒體提供的印尼語文本、公部門網站與地方語言資料來源。其中巴塔克語的語料收集,找了北蘇門答臘大學協助,蒐集當地人實際使用的說法;另有七所大學的實習生參與資料整理、訓練與測試,包括峇里島的烏達雅納大學。

開發單位方面,模型卡列出發起者為 GoTo,開發者為 GoTo 與新加坡的國家 AI 計畫 AI Singapore。這是一次跨國合作,也反映東南亞各國近年共同的走向:與其完全仰賴全球模型,不如建立符合自身語言與文化的起點。

授權細節值得多看一眼

GoTo 對外稱這是開放模型,但模型卡上載明的授權是 Google 的 Gemma 授權,而非一般認知的完全開源授權。打算實際導入的團隊,應該先確認授權條款是否符合自己的使用情境,特別是商業用途的限制。

這次發表也延續了 GoTo 自 2024 年以來的布局。當年 GoTo 與 Indosat Ooredoo Hutchison 共同推出 Sahabat-AI 計畫,後來還發展出 700 億參數模型與多語言對話服務。新模型掛上 GoTo 自己的品牌,模型卡上也不再提及 Indosat,顯示這條本土模型路線正在走向獨立發展。

資料來源


引用來源:TechNode、Hugging Face、Tech in Asia