IC 设计大厂联发科 9 日举行生成式 AI 论坛,推出生成式 AI 服务平台「MediaTek DaVinci」,亦称「联发科技达哥」,并由联发创新基地发表平台最新的强大繁体中文大型语言模型 MediaTek Research BreeXe(简称 MR BreeXe)。现场也邀请加入 MediaTek DaVinci 平台测试开发各类生成式 AI 服务应用的企业夥伴及高科技、金融等企业先进,齐聚一堂交流分享。
基於联发科生成式 AI 服务框架(GAI Service Framework,GAISF)开发的 MediaTek DaVinci,最初是为集团内部打造具资料安全性、提高生产力的生成式 AI 工具,获各部门广泛使用,并发展成可供外部企业导入的生成式 AI 服务平台与丰富的生态系,目前已有数十家来自高科技、金融、电信、法律、制造、销售、服务、系统整合、云端服务等行业的企业,以及教育机构、新创公司等加入 MediaTek Davinci 生态系。MediaTek Davinci 提供一个高整合度、高扩展性的开放平台,让开发者可为各行业开发客制化生成式 AI 扩充外挂、助理等应用;对企业来说,能够在资料安全的环境下,善用平台的丰富工具提高生产力与竞争力。
MediaTek Davinci 支援各类大语言模型,含联发创新基地最新繁体中文大语言模型「MR BreeXe」。MR BreeXe 以 Mixtral 8x7B 模型为基础开发,继承 Mixtral 多专家模型特有的节省运算资源、提升速度优势,加上联发创新基地的预训练(pre-training),不但繁体中文测试(TMMLU+、MT Bench TW)超越 GPT-3.5,并对台湾常见地端应用特别最佳化,提升产业界使用生成式 AI 与检索增强生成(RAG)体验。MR BreeXe 於辉达(NVIDIA)Taipei -1 GPU 超级电脑 DGX GH200 训练,透过 MediaTek Davinci,支援全地端与部分地端的布设场景,并可依需求多样本学习(few-shot learning)甚至微调(fine-tuning)客制化。
联发科人工智慧暨数据工程处协理叶家顺表示,MediaTek DaVinci 解决许多企业在采用生成式 AI 的痛点,让各行各业在确保资讯安全的环境下,可善用已有强大基础的平台开发专属的生成式 AI 应用。随着更多企业与开发者加入 MediaTek Davinci 生态系,我们相信 MediaTek DaVinci 的能力将会持续爆发性成长,成为企业的得力助手。
联发创新基地负责人许大山博士也指出,MediaTek Research BreeXe 繁体中文大型语言模型是联发创新基地在大模型发展上最新的里程碑,提供优异语文理解能力和云、地两端的弹性,为现今繁体中文能力最强的语言模型, 加上与 MediaTek Davinci 的搭配,相信能更贴近在地需求,激发更多在地的生成式 AI 应用。
联发科生成式 AI 论坛以发展与应用为重点,策略合作夥伴赛微科技说明 MediaTek Davinci 平台的导入与系统整合、API 媒合平台群鼎团队谈应用程式介面生态系整合、AI 智慧数据公司意蓝资讯谈即将在 MediaTek DaVinci 平台上架的 AI 舆情助理、群联电子介绍其「aiDAPTIV+」服务方案如何赋能 AI 模型及伺服器厂商。
(首图来源:联发科)