開源項目介紹 ｜TNN-跨平臺AI推理框架
2021騰訊犀牛鳥開源人才培養計劃
開源項目介紹
滑至文末報名參與開源人才培養計劃
提交項目Proposal
TNN項目介紹
? ? ? ? 標簽：人工智能
? ? ? ? 技術棧：C++，Python
TNN-跨平臺AI推理框架，?跨平臺AI推理框架，同時擁有跨平臺、高性能、模型壓縮、代碼裁剪等眾多突出優勢。同時也借鑒了業界主流開源框架高性能和良好拓展性的優點。目前TNN已經在騰訊業務手Q、微視、P圖等廣泛落地應用，歡迎大家參與協同共建，促進TNN推理框架進一步完善。
TNN項目導師介紹
姚達、田恒鋒、王星晨
姚達，TNN框架技術負責人
田恒鋒，TNN框架CPU側架構師
王星晨，TNN框架CPU側架構師
導師寄語：
“AI推理優化是一套系統工程，希望通過TNN相關輔導，能夠幫助學員在硬件架構、應用框架等方向提升發現問題、解決問題的能力”——姚達
“TNN專注于深度學習推理部署，其中GPU在整個深度學習框架中占據了重要位置。希望通過相關輔導以及開源實踐，幫助學員熟悉和提升GPU編程和性能調優經驗，提升在整個開源社區和行業影響力。”——田恒鋒
“TNN是一個跨平臺高性能的推理框架，通過相關實踐你將了解到AI算法落地的詳細過程，以及如何在兼容性、性能以及效果之間做到平衡，為日后工作打下堅實基礎”——王星晨
TNN拓展資料
?TNN Readme
https://github.com/Tencent/TNN/blob/master/README_CH.md
?ARMhttps://developer.arm.com/documentation/den0018/latest
https://developer.arm.com/documentation/den0024/a
?X86https://software.intel.com/content/www/us/en/develop/articles/intel-sdm.html
https://software.intel.com/sites/landingpage/IntrinsicsGuide/
?software optimize?
https://www.agner.org/optimize/
?MILRhttps://mlir.llvm.org/
?GPUhttps://docs.nvidia.com/cuda/cuda-c-programming-guide/index.html
https://docs.nvidia.com/cuda/cuda-c-best-practices-guide/index.html
?模型量化https://intellabs.github.io/distiller/algo_quantization.html
https://arxiv.org/pdf/1806.08342.pdf
TNN實戰任務
（最終具體任務以實戰階段導師布置為準）
編程任務
1.量化模型支持，打通訓練和推理，支持非對稱、按channel量化
預期結果：
- 打通量化訓練到推理的流程，并針對arm或x86平臺對量化實現進行優化
- 文檔和測試
2.AI芯片適配，完成騰訊自研芯片或業界最新芯片的適配，完成模型遷移
預期結果：
- 打通服務端AI芯片的軟件棧接入到TNN的流程
- 完成部分常用模型的適配
- 文檔和測試
3.云或端側個性功能實現高性能部署，如人像分割、3D物體檢測等
預期結果：
- 完成最新的趣味模型的云端Demo實現，并進行Demo性能優化達到可用狀態
- 文檔和測試
掃碼填寫問卷報名，提交項目proposal
加入開發實戰
與導師一起成長這一夏
TNN開源項目交流群
歡迎對本項目感興趣的同學一起交流
更多開源項目信息，
盡在“騰訊犀牛鳥開源人才社區”
掃碼加入，解鎖所有學習資料
關于騰訊犀牛鳥開源人才培養計劃：為響應國家十四五規劃的開源戰略，騰訊于2021年5月發布“首屆騰訊犀牛鳥開源人才培養計劃”，希望企業界和教育界形成合力，打造面向高校學生的開源課程和開源實踐培養方案，培育開源人才，普及開源文化，助力開源人才生態的發展。
首屆項目由教育部計算機教學指導委員會、教育部軟件工程教學指導委員會、中國信息通信研究院作為聯合指導單位，包括開源基礎培訓、開源進階研學、開源項目實戰三個環節，項目涉及云原生、微服務、容器、AI、大數據、前端、物聯網/邊緣計算等多項技術熱點。
各位同學報名即可參加線上開源系列課程，學習開源知識，對話學界及產業界大咖。其中入選開源項目實戰的學生將在導師的一對一指導下，利用暑假開展編程實戰，并有機會獲得騰訊開源貢獻者證書（目前全球只發出了10+張）。
?學生指南Q&A：https://github.com/Tencent/OpenSourceTalent/issues/14
?官方QQ群：859260607 （加群請備注學校+專業）
【其他項目介紹】
開源項目介紹 ｜OMI-前端【跨框架】框架
開源項目介紹 ｜APIJSON- 后端零代碼接口和文檔ORM 庫
開源項目介紹 ｜TARS-高性能微服務治理框架
開源項目介紹｜Apache InLong-分布式消息中間件系統
開源項目介紹｜Tencent KonaJDK
開源項目介紹 ｜SuperEdge-云原生邊緣計算平臺
開源項目介紹 ｜Hippy-跨平臺動態化框架
開源項目介紹 ｜ Angel-高性能分布式機器學習平臺
騰訊犀牛鳥開源人才培養計劃官網
https://opensource.tencent.com/summer-of-code
（點擊文末閱讀原文直接訪問）
合作或疑問歡迎聯系：tencentopen@tencent.com
相關推薦
