11 月 19 日,2024 年寰宇互联网大会最初科技奖在乌镇发布,腾讯 Angel 机器学习平台凭借其不凡的手艺积存、翻新的关节手艺和平庸的附近场景开云kaiyun,荣获今年度最初科技奖。 腾讯 Angel 机器学习平台,冲破了万亿级模子散布式闇练和推理以及大领域附近部署等穷苦,率先杀青大模子手艺从底层硬件到关节软件手艺的自主研发,在业务场景平庸附近,显耀推进实体产业和数字经济发展,擢升社会效用。 寰宇互联网大会最初科技奖由寰宇互联网大会主理,旨在奖励人人年度最具最初性的互联网科技恶果,主张互联网手艺海酬酢流诱惑。今年度共有 20 个具有海外代表性的模样获奖,合座入选率仅为 7.4%,涵盖类脑缠绵、具身智能、6G、大数据、高性能芯片、AI 机器学习平台等前沿领域。 腾讯公司副总裁蒋杰 腾讯公司副总裁蒋杰现场默示,取得本次寰宇互联网大会最初科技奖,是对腾讯在大模子探究自研手艺的招供。在大模子期间,模子参数超越万亿,闇练数据超越十万亿,如斯盛大的领域,给模子闇练和推理带来巨大挑战,腾讯全链路自研的 Angel 机器学习平台有用应付这些挑战,杀青多个方面的性能效用擢升。将来,腾讯也将赓续插足底层手艺自主研发,并通过开源分享,推入手艺翻新升级,让智能手艺走入千行百业。 腾讯 Angel 机器学习平台针对万亿领域大模子散布式闇练和推理、附近部署难的挑战,在汇集互联、框架效用、平台领域三方面杀青了冲破。 在通讯方面,从网卡到交换机,再到路由条约,腾讯自研的 RDMA 汇集杀青了集群高速互联,单节点带宽达到 3.2T,比较于同类最初居品,性能擢升 30%,资本镌汰 70%。 在效用方面,自研了闇练 / 推理框架,提倡显存加主存的一体化机制,杀青多维并行和算子优化,比较开源框架,闇练性能擢升 2.6 倍,推理速率擢升 2.3 倍。 在领域方面, 杀青了单任务万卡的线性膨大,GPU 集群加快比从 50% 擢升到 99%。 行为智能期间的基础门径,凭借塌实的手艺积存,腾讯 Angel 机器学习平台模样手艺恶果此前也屡次登顶海外巨擘领域榜单,取得 20 余项海外竞赛冠军。Angel 平台照旧中国首个从 Linux Foundation 毕业的顶级 AI 开源模样,被评为 2019 年度最受接待中国开源软件,平台招引了重大外部建设者和企业用户,促进了手艺的平庸附近和产业的协同发展。2024 年 3 月,腾讯 Angel 机器学习平台还取得了 2023 中国电子学会科技逾越一等奖。 腾讯基于 Angel 机器学习平台全链路自研的混元大模子,在中国重大头部 AI 研发企业中率先袭取搀杂人人模子 ( MoE ) 结构,模子领域冲破万亿,处于中国大模子第一梯队。11 月初,腾讯推出业界最大参数领域的开源 MoE 模子混元 Large,总参数目 389B,激活参数目 52B ,落魄文长度高达 256K,其闇练和推理均基于腾讯 Angel 机器学习平台。 当今,基于腾讯 Angel 机器学习平台,腾讯混元大模子还是构建了从 0.5B 到 70B 不同尺寸的通用模子和领域模子,涵盖了话语模子、多模态相识模子和多模态生成模子等。这些模子已被附近在超越 700 个腾讯业务场景,展现了其刚烈的附近后劲和价值。对外,Angel 平台通过腾讯云输出,平庸附近在大模子、告白、推选、社交、金融等领域,做事 30 万行业客户,助力实体行业进行数智化升级。 雷峰网开云kaiyun |