北电数智前进·AI异构计算平台,为大模型提供算力最优解

2024-12-10 09:52:42

现如今,以大模型为代表的生成式人工智能技术正如一股强劲的东风,吹动着新质生产力的帆船破浪前行。这股技术浪潮不仅重塑了各行各业的面貌,也对算力供给提出了前所未有的挑战与需求。实现“国产算力自主可控”,确保信息安全和经济持续健康发展,已成为当下亟待解决的关键课题。

北电数智“前进·AI异构计算平台”支持对英伟达集群及多款国产芯片的广泛纳管,帮助用户实现对不同品牌和类型AI加速卡的统一管理,以确保各类AI芯片的无缝集成和优化利用。广泛的纳管能力也让用户能够根据具体需求,灵活地调整资源配置,优化算力供给满足各类训练推理任务。

“前进·AI异构计算平台”具有卓越的算力调度能力,可为不同场景提供多样化的调度策略,以精准匹配各类计算任务的不同需求。“潮汐调度”是该平台的一大特色亮点,其可根据计算任务的特性和资源需求的变化动态地分配和回收计算资源,尤其适用于渲染应用等场景,以最大化资源的利用率并减少执行时间;此外,“前进·AI异构计算平台”提供的“训推混布”策略可帮助大模型使用方实现同一算力集群既支持在线推理服务部署任务,又支持离线训练任务,从而显著提高算力资源的利用率,减少资源浪费,大幅降低运营成本。

作为全国首个在生产环境下可实现规模化测试的全栈迭代验证平台,北电数智基于“前进·AI异构计算平台”打造的国产算力PoC平台落地北京数字经济算力中心。目前,国产算力PoC平台已完成十余款芯片的评测支持和二十多款主流模型的适配。为更好推进国产芯片对模型的支持力度,北电数智自主构建了完备的融合算子库,算子能自动调优,在分钟级时间内可完成对各种平台的算子适配和优化,可将延迟水平降低3倍以上。

针对具体行业,北电数智也正面向影视、金融、政务、工业等多个垂类场景开展测试验证服务,为不同行业的垂类模型落地树立标杆案例,持续探寻国产算力和行业、模型、应用的最佳适配组合,推动模型落地。

未来,「前进·AI异构计算平台」能继续发挥其独特的优势和作用,推动国产算力从“可用”向“好用”迈进。同时,北电数智也将继续加大研发投入、加强人才培养、构建创新生态,为国产算力的自主可控和人工智能技术的持续健康发展贡献更多的智慧和力量。


标签:

关闭
新闻速递