手机版    二维码   标签云  厨具企业大全

首批!昆仑芯全面适配智源ai硬件一体化评测引擎flagperf

2024-05-22 07:45 来源: 作者/编辑: 浏览次数:6539 手机访问 使用手机“扫一扫”以下二维码,即可分享本文到“朋友圈”中。

近日,昆仑芯与北京智源人工智能研究院(以下简称“智源”)面向多种ai硬件的一体化评测引擎flagperf完成阶段性适配。昆仑芯是flagperf首批生态伙伴,双方将强强联合,共同推进ai软硬件评测体系建设,赋能大模型技术创新能力提升,加速我国ai生态繁荣发展。

flagperf是智源联合各大ai软硬件厂商建立的开源、开放、灵活、公正、客观的面向多种ai硬件的一体化评测引擎,可快速高效地对ai软硬件进行适配和评测,解决当前ai软硬件所面临的兼容性差、技术栈异构程度高、应用场景复杂多变等挑战。目前flagperf已经适配了涵盖cv、nlp、语音、大模型等领域的近20个经典模型,支持评测ai硬件的训练和推理能力,未来还将持续拓展支持模型数量和评测领域,包括不限于ai服务器、图计算各个场景,期望全面、立体地刻画厂商的软硬件实力,并通过不断迭代评测体系,紧跟ai产业发展浪潮。

作为ai加速领域的领军企业,昆仑芯持续推进软硬协同技术创新,在短时间内高效完成了十数个模型的适配和调优工作,并在flagperf项目中全面开源。这批模型能非常高效地完成适配并发布,充分展现了昆仑芯优秀的泛化能力和软硬件兼容性,这主要得益于100%自研的昆仑芯xacc ai编译器(xpu ai compiler collection)。

昆仑芯xacc ai编译器

● 可自动帮助用户完成开源模型到xpu设备的迁移工作,并实现全自动性能优化,将xpu硬件算法发挥到极致;

● 具有零代码侵入、零环境侵入的特点,用户无需修改模型代码,无需修改部署环境,即可将模型迁移到xpu设备;

● 已全面支持megatron、deepspeed等大模型训练框架,用户可以零成本适配最流行的llm技术与模型。

智源研究院是国际知名的人工智能前沿研究机构,在中国最早引领开展大模型研究,并率先倡导建设大模型开源生态。「悟道」人工智能大模型项目,连创“中国首个+世界最大”纪录,“悟道3.0”进入全面开源阶段。flagopen大模型技术开源体系,由智源联合多家企业、高校和科研机构共建,旨在共建共享大模型时代的“新linux”开源开放生态。面向多种ai硬件的一体化评测引擎flagperf是flagopen的重要组成部分。

针对智源大模型,昆仑芯已在悟道·天鹰(aquila)语言大模型上完成了大规模推理性能验证,在悟道·视界eva-clip视觉大模型上也实现了适配。

此前,昆仑芯已正式加入智源flagopen(飞智)大模型技术开源体系,携手多家顶尖硬件企业与高校科研团队共建“北京国家新一代人工智能创新发展试验区ai开放生态实验室”,加速完善芯片软件生态建设。

此次昆仑芯与智源flagperf完成适配是双方生态共建的又一重要里程碑。智源和昆仑芯将充分发挥各自优势,共同携手产业链上下游合作伙伴,促进技术、资源、场景等多方主体的合作,助力企业更好应对大模型应用时面临的算力不足、场景不够开放等问题,进一步推动我国大模型的技术研发和应用落地。

(昆仑芯)

以上是网络信息转载,信息真实性自行斟酌。

 
本文标题:首批!昆仑芯全面适配智源ai硬件一体化评测引擎flagperf
本文网址:
版权/免责声明:
一、本文图片及内容来自网络,不代表本站的观点和立场,如涉及各类版权问题请联系及时删除。
二、凡注明稿件来源的内容均为转载稿或由企业用户注册发布,本网转载出于传递更多信息的目的;如转载稿涉及版权问题,请作者联系我们,同时对于用户评论等信息,本网并不意味着赞同其观点或证实其内容的真实性。
三、转载本站原创文章请注明来源:中华厨具网

文本助手 资讯搜索 分享好友 打印本文 关闭窗口
  • 手机浏览本文

    手机应用中扫描本文二维码,即可浏览本文或分享到您的社交网络中。

  • 微信公众号

    扫描二维码,关注中华厨具网微信公众号,实时了解行业最新动态。

今日热点文章更多
品牌聚焦更多
推荐品牌更多
热门频道
关闭广告
合作伙伴:
中华厨具网 鲁ICP备2021046805号         鲁公网安备 37162502000363号 (c)2018-2026SYSTEM All Rights Reserved 投资有风险 加盟需谨慎
关闭广告
关闭广告