更多 选择语言
黑色透明图 背景

TF2

TF2是浪潮基于FPGA开发的高效AI计算框架,采用全球首创的DNN移位计算技术,结合多项优化技术,可实现通用深度学习模型基于FPGA芯片的高性能低延迟部署。TF2也是全球首个包含从模型裁剪、压缩、量化到通用模型实现等优化算法的完整方案的FPGA上AI开源框架。TF2开源项目网址为:github.com/TF2-Engine/TF2

黑色透明图
黑色透明图
黑色透明图
黑色透明图
功能特性

开发背景

FPGA技术具有可定制性、低延迟和高性能功耗比等优势,已成为诸多AI用户部署推理应用的选择。但FPGA技术进入到大规模AI业务部署仍旧存在软件编写门槛高、性能优化受限、功耗难以控制等诸多挑战。

TF2简介

TF2是全球首个完整方案的FPGA高效AI计算开源框架,可对模型进行压缩、裁剪、量化等优化转换以减少模型计算量,将模型文件自动转化为FPGA目标运行文件,降低FPGA的AI软件实现门槛,通过创新的DNN移位计算技术大幅提升FPGA做推理计算的性能,并有效降低其实际运行功耗,帮助用户快速实现FPGA线上推理。在浪潮F10A FPGA卡上采用FaceNet模型对TF2进行的测试(BatchSize=1)表明,运行TF2后单张图片的计算耗时为0.612ms,提速12.8倍。

TF2开源社区

TF2开源社区已吸引第四范式、快手、南开大学、上海大学、华大智造、远鉴科技、睿视智觉、华展汇元等多家领先公司或机构加入。为推动TF2社区建设,浪潮推出了可重构AI计算发展计划,为参与者提供F10A、F37X等最新FPGA加速卡支持,鼓励参与者将创新性成果反馈至社区,共同促进FPGA技术的开源开放合作发展,降低高性能AI计算技术门槛,加速AI应用落地。

  logo

  参与该计划的高校将FPGA开源AI框架TF2应用于AI科研或应用并取得创新成果,并承诺将优化后代码反馈回TF2开源社区,即可获赠FPGA加速卡。同时,参与该计划的商业用户也可获得较大程度的FPGA加速卡购买优惠。该计划可在TF2开源社区(网址:https://github.com/TF2-Engine/TF2)进行申请。目前南开大学等知名高校已加入该计划。

技术规格
相关资料
相关产品

线




×
联系我们
服务器、存储、网络产品购买热线
400-860-6708
ERP、管理软件购买热线
400-018-7700
云服务产品销售热线
400-607-6657
浪潮网络售后热线
400-691-1766