資料介紹
軟件簡(jiǎn)介
LightSeq 是一個(gè)高性能的訓(xùn)練和推理庫(kù),用于在 CUDA 中實(shí)現(xiàn)序列處理和生成。它可以高效計(jì)算現(xiàn)代 NLP 模型,例如BERT、GPT、?Transformer等。因此,它最適用于機(jī)器翻譯、文本生成、對(duì)話、語(yǔ)言建模、情感分析和其他具有序列數(shù)據(jù)的相關(guān)任務(wù)。
該庫(kù)建立在 CUDA 官方庫(kù)(cuBLAS、Thrust、CUB)和自定義內(nèi)核函數(shù)之上,?這些函數(shù)專門(mén)為 Transformer 模型系列融合和優(yōu)化。除了模型組件,推理庫(kù)還提供了基于?TensorRT 推理服務(wù)器的易于部署的模型管理和服務(wù)后端?。使用 LightSeq,只需少量額外代碼即可輕松開(kāi)發(fā)修改后的 Transformer 架構(gòu)。
特征
以下是 LightSeq?訓(xùn)練庫(kù)支持的矩陣與?DeepSpeed?對(duì)比。
以下是 LightSeq 推理庫(kù)支持矩陣與?TurboTransformers?和?FasterTransformer?的對(duì)比。
- 面向動(dòng)態(tài)三維重建的地圖序列快速生成方法 9次下載
- 基于MapReduce的時(shí)間序列索引及數(shù)據(jù)查詢 7次下載
- 基于語(yǔ)義感知的中文短文本摘要生成技術(shù) 2次下載
- 高性能嵌入式堆棧Azure PTOS USBX概述 10次下載
- Holtek觸摸開(kāi)發(fā)庫(kù)生成使用說(shuō)明 8次下載
- 高性能低成本的藍(lán)牙模塊CSR6576原理圖 16次下載
- 基于雙序列函數(shù)的web服務(wù)端防御方案 3次下載
- keil4等可使用的序列號(hào)生成器工具下載 91次下載
- dsPIC DSC DTMF 生成庫(kù)的詳細(xì)中文資料概述
- 用于寬帶無(wú)線語(yǔ)音鏈路的高性能、低延遲、低功率音頻處理系統(tǒng)
- 支持COC的低層高性能通信庫(kù)
- 基于混沌序列的種子密鑰表生成方法
- Galileo系統(tǒng)偽隨機(jī)序列生成及其FPGA實(shí)現(xiàn)
- 生成de Bruijn序列的升級(jí)算法
- 生成de Bruijn序列的消元算法
- 澎峰科技高性能計(jì)算庫(kù)PerfIPP介紹 391次閱讀
- 帶你了解什么是高性能計(jì)算(HPC) 642次閱讀
- 高性能芯片有哪些特征? 1108次閱讀
- 如何使用Serde進(jìn)行序列化和反序列化 1328次閱讀
- Prost的最佳實(shí)踐經(jīng)驗(yàn) 1396次閱讀
- 螞蟻集團(tuán)開(kāi)源高性能多語(yǔ)言序列化框架Fury解讀 1225次閱讀
- 高性能數(shù)學(xué)計(jì)算庫(kù)的現(xiàn)狀 1793次閱讀
- 關(guān)于HPC的高性能計(jì)算測(cè)試方法 2497次閱讀
- 一個(gè)高性能異步計(jì)算框架介紹 827次閱讀
- 基于OpenAI的GPT-2的語(yǔ)言模型ProtGPT2可生成新的蛋白質(zhì)序列 1994次閱讀
- 適用于高性能系統(tǒng)設(shè)計(jì)的ADS5294的性能特性及應(yīng)用 2308次閱讀
- UVM序列的創(chuàng)建和運(yùn)行及中斷服務(wù)程序?qū)崿F(xiàn)方案 4330次閱讀
- 高性能紙幣處理系統(tǒng)設(shè)計(jì)的仿真優(yōu)化資料說(shuō)明 3442次閱讀
- 如何滿足高性能時(shí)鐘IC需求 4628次閱讀
- 高性能的視頻采集電路圖 4814次閱讀
下載排行
本周
- 1DD3118電路圖紙資料
- 0.08 MB | 1次下載 | 免費(fèi)
- 2AD庫(kù)封裝庫(kù)安裝教程
- 0.49 MB | 1次下載 | 免費(fèi)
- 3PC6206 300mA低功耗低壓差線性穩(wěn)壓器中文資料
- 1.12 MB | 1次下載 | 免費(fèi)
- 4網(wǎng)絡(luò)安全從業(yè)者入門(mén)指南
- 2.91 MB | 1次下載 | 免費(fèi)
- 5DS-CS3A P00-CN-V3
- 618.05 KB | 1次下載 | 免費(fèi)
- 6海川SM5701規(guī)格書(shū)
- 1.48 MB | 次下載 | 免費(fèi)
- 7H20PR5電磁爐IGBT功率管規(guī)格書(shū)
- 1.68 MB | 次下載 | 1 積分
- 8IP防護(hù)等級(jí)說(shuō)明
- 0.08 MB | 次下載 | 免費(fèi)
本月
- 1貼片三極管上的印字與真實(shí)名稱的對(duì)照表詳細(xì)說(shuō)明
- 0.50 MB | 103次下載 | 1 積分
- 2涂鴉各WiFi模塊原理圖加PCB封裝
- 11.75 MB | 89次下載 | 1 積分
- 3錦銳科技CA51F2 SDK開(kāi)發(fā)包
- 24.06 MB | 43次下載 | 1 積分
- 4錦銳CA51F005 SDK開(kāi)發(fā)包
- 19.47 MB | 19次下載 | 1 積分
- 5PCB的EMC設(shè)計(jì)指南
- 2.47 MB | 16次下載 | 1 積分
- 6HC05藍(lán)牙原理圖加PCB
- 15.76 MB | 13次下載 | 1 積分
- 7802.11_Wireless_Networks
- 4.17 MB | 12次下載 | 免費(fèi)
- 8蘋(píng)果iphone 11電路原理圖
- 4.98 MB | 6次下載 | 2 積分
總榜
- 1matlab軟件下載入口
- 未知 | 935127次下載 | 10 積分
- 2開(kāi)源硬件-PMP21529.1-4 開(kāi)關(guān)降壓/升壓雙向直流/直流轉(zhuǎn)換器 PCB layout 設(shè)計(jì)
- 1.48MB | 420064次下載 | 10 積分
- 3Altium DXP2002下載入口
- 未知 | 233089次下載 | 10 積分
- 4電路仿真軟件multisim 10.0免費(fèi)下載
- 340992 | 191390次下載 | 10 積分
- 5十天學(xué)會(huì)AVR單片機(jī)與C語(yǔ)言視頻教程 下載
- 158M | 183342次下載 | 10 積分
- 6labview8.5下載
- 未知 | 81588次下載 | 10 積分
- 7Keil工具M(jìn)DK-Arm免費(fèi)下載
- 0.02 MB | 73815次下載 | 10 積分
- 8LabVIEW 8.6下載
- 未知 | 65989次下載 | 10 積分
評(píng)論