資料介紹
軟件簡介
OpenPPL 是基于自研高性能算子庫的推理引擎,擁有極致調(diào)優(yōu)的性能;提供云原生環(huán)境下 的 AI 模型多后端部署能力,支持 OpenMMLab 等深度學(xué)習(xí)模型的高效部署。
架構(gòu)如下:
高性能
設(shè)計微架構(gòu)友好的任務(wù)/數(shù)據(jù)/指令等多級并行策略,自研 NV GPU、 x86 CPU 計算庫,滿足部署場景對神經(jīng)網(wǎng)絡(luò)推理、常用圖像處理的性能需求
- 支持 GPU T4 平臺 FP16 推理
- 支持 CPU x86 平臺 FP32 推理
- 核心算子優(yōu)化,平均性能領(lǐng)先業(yè)界
OpenMMLab 部署
支持 OpenMMLab 檢測、分類、分割、超分等系列前沿模型,同時提供模型前后處理所需圖像處理算子
- 遵循 ONNX 開放標(biāo)準(zhǔn),提供 ONNX 轉(zhuǎn)換支持
- 支持網(wǎng)絡(luò)動態(tài)特性
- 提供 MMCV 算子高性能實現(xiàn)
云上多后端部署
面向云端異構(gòu)推理場景,支持多平臺部署
- 支持 x86 FMA & AVX512、NV Turing 架構(gòu)
- 支持異構(gòu)設(shè)備并行推理
- 基于AdderNet的深度學(xué)習(xí)推理加速器
- 基于深度學(xué)習(xí)的神經(jīng)協(xié)同過濾推薦系統(tǒng) 5次下載
- 基于預(yù)訓(xùn)練模型和長短期記憶網(wǎng)絡(luò)的深度學(xué)習(xí)模型 19次下載
- 3小時學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)課件下載 0次下載
- 基于計算機(jī)視覺和NLP的跨媒體問答與推理 8次下載
- 基于深度學(xué)習(xí)的圖像修復(fù)模型及實驗對比 20次下載
- 深度模型中的優(yōu)化與學(xué)習(xí)課件下載 3次下載
- 一種基于機(jī)器學(xué)習(xí)的流簇大小推理模型 34次下載
- 深度學(xué)習(xí)模型的對抗攻擊及防御措施 75次下載
- 深度學(xué)習(xí)入門:基于Python的理論與實現(xiàn)電子書 32次下載
- MXNet深度學(xué)習(xí)計算平臺中文學(xué)習(xí)筆記免費下載 3次下載
- python機(jī)器學(xué)習(xí)和深度學(xué)習(xí)的學(xué)習(xí)書籍資料免費下載 95次下載
- 深度學(xué)習(xí)基礎(chǔ)教程之DLBook深度學(xué)習(xí)中文版電子教材免費下載 0次下載
- 深度學(xué)習(xí)是什么?了解深度學(xué)習(xí)難嗎?讓你快速了解深度學(xué)習(xí)的視頻講解 16次下載
- 最基本的深度學(xué)習(xí)系統(tǒng)的硬件指南 1次下載
- 澎峰科技高性能大模型推理引擎PerfXLM解析 522次閱讀
- 深度學(xué)習(xí)中的無監(jiān)督學(xué)習(xí)方法綜述 854次閱讀
- 基于深度學(xué)習(xí)的小目標(biāo)檢測 994次閱讀
- Torch TensorRT是一個優(yōu)化PyTorch模型推理性能的工具 1871次閱讀
- 視覺深度學(xué)習(xí)遷移學(xué)習(xí)訓(xùn)練框架Torchvision介紹 934次閱讀
- 當(dāng)深度學(xué)習(xí)遇上TDA4 1349次閱讀
- NADP加Triton搭建穩(wěn)定高效的推理平臺 964次閱讀
- 機(jī)器學(xué)習(xí)的第二階段:推理 6040次閱讀
- Xavier的硬件架構(gòu)特性!Xavier推理性能評測 1.8w次閱讀
- 多智體深度強化學(xué)習(xí)研究中首次將概率遞歸推理引入AI的學(xué)習(xí)過程 4925次閱讀
- 一種基于FPGA的高性能DNN加速器自動生成方案 5569次閱讀
- 深度學(xué)習(xí)和機(jī)器學(xué)習(xí)深度的不同之處 淺談深度學(xué)習(xí)的訓(xùn)練和調(diào)參 4342次閱讀
- 對比深度學(xué)習(xí)和經(jīng)典機(jī)器學(xué)習(xí),分別介紹這兩種技術(shù)的優(yōu)缺點 2.6w次閱讀
- 如何區(qū)分深度學(xué)習(xí)與機(jī)器學(xué)習(xí) 1965次閱讀
- 深度學(xué)習(xí)開源框架,AI從業(yè)者的選擇之路 2414次閱讀
下載排行
本周
- 1DD3118電路圖紙資料
- 0.08 MB | 1次下載 | 免費
- 2AD庫封裝庫安裝教程
- 0.49 MB | 1次下載 | 免費
- 3PC6206 300mA低功耗低壓差線性穩(wěn)壓器中文資料
- 1.12 MB | 1次下載 | 免費
- 4網(wǎng)絡(luò)安全從業(yè)者入門指南
- 2.91 MB | 1次下載 | 免費
- 5DS-CS3A P00-CN-V3
- 618.05 KB | 1次下載 | 免費
- 6海川SM5701規(guī)格書
- 1.48 MB | 次下載 | 免費
- 7H20PR5電磁爐IGBT功率管規(guī)格書
- 1.68 MB | 次下載 | 1 積分
- 8IP防護(hù)等級說明
- 0.08 MB | 次下載 | 免費
本月
- 1貼片三極管上的印字與真實名稱的對照表詳細(xì)說明
- 0.50 MB | 103次下載 | 1 積分
- 2涂鴉各WiFi模塊原理圖加PCB封裝
- 11.75 MB | 89次下載 | 1 積分
- 3錦銳科技CA51F2 SDK開發(fā)包
- 24.06 MB | 43次下載 | 1 積分
- 4錦銳CA51F005 SDK開發(fā)包
- 19.47 MB | 19次下載 | 1 積分
- 5PCB的EMC設(shè)計指南
- 2.47 MB | 16次下載 | 1 積分
- 6HC05藍(lán)牙原理圖加PCB
- 15.76 MB | 13次下載 | 1 積分
- 7802.11_Wireless_Networks
- 4.17 MB | 12次下載 | 免費
- 8蘋果iphone 11電路原理圖
- 4.98 MB | 6次下載 | 2 積分
總榜
- 1matlab軟件下載入口
- 未知 | 935127次下載 | 10 積分
- 2開源硬件-PMP21529.1-4 開關(guān)降壓/升壓雙向直流/直流轉(zhuǎn)換器 PCB layout 設(shè)計
- 1.48MB | 420064次下載 | 10 積分
- 3Altium DXP2002下載入口
- 未知 | 233089次下載 | 10 積分
- 4電路仿真軟件multisim 10.0免費下載
- 340992 | 191390次下載 | 10 積分
- 5十天學(xué)會AVR單片機(jī)與C語言視頻教程 下載
- 158M | 183342次下載 | 10 積分
- 6labview8.5下載
- 未知 | 81588次下載 | 10 積分
- 7Keil工具M(jìn)DK-Arm免費下載
- 0.02 MB | 73815次下載 | 10 積分
- 8LabVIEW 8.6下載
- 未知 | 65989次下載 | 10 積分
評論