完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>
標(biāo)簽 > openvino
OpenVINO是英特爾推出的一款全面的工具套件,用于快速部署應(yīng)用和解決方案,支持計算機視覺的CNN網(wǎng)絡(luò)結(jié)構(gòu)超過150余種。
OpenVINO是一個Pipeline工具集,同時可以兼容各種開源框架訓(xùn)練好的模型,擁有算法模型上線部署的各種能力,可以輕松的將預(yù)訓(xùn)練模型在Intel的CPU上快速部署起來。
文章:111個 瀏覽:479次 帖子:174個
使用OpenVINO Model Server在哪吒開發(fā)板上部署模型
OpenVINO Model Server(OVMS)是一個高性能的模型部署系統(tǒng),使用C++實現(xiàn),并在Intel架構(gòu)上的部署進行了優(yōu)化,使用OpenVI...
智能體 AI Agent 作為大模型的衍生應(yīng)用,具有對任務(wù)的理解、規(guī)劃與行動能力。它可以通過將一個復(fù)雜的用戶請求拆分成不同的子任務(wù),并依次調(diào)用外部工具來...
多模態(tài)大模型的核心思想是將不同媒體數(shù)據(jù)(如文本、圖像、音頻和視頻等)進行融合,通過學(xué)習(xí)不同模態(tài)之間的關(guān)聯(lián),實現(xiàn)更加智能化的信息處理。簡單來說,多模態(tài)大模...
在現(xiàn)代網(wǎng)絡(luò)環(huán)境中,網(wǎng)絡(luò)安全面臨著日益復(fù)雜的挑戰(zhàn),包括新興的勒索軟件、多變的木馬病毒以及其他先進的持續(xù)威脅。這些威脅不斷演變,要求安全解決方案不僅要快速反...
使用OpenVINO和LlamaIndex構(gòu)建Agentic-RAG系統(tǒng)
RAG 系統(tǒng)的全稱是 Retrieval-augmented Generation,本質(zhì)上是 Prompt Engineering,通過在 Prompt...
使用OpenVINO C++在哪吒開發(fā)板上推理Transformer模型
OpenVINO 是一個開源工具套件,用于對深度學(xué)習(xí)模型進行優(yōu)化并在云端、邊緣進行部署。它能在諸如生成式人工智能、視頻、音頻以及語言等各類應(yīng)用場景中加快...
OpenVINO 2024.4持續(xù)提升GPU上LLM性能
本次新版本在整個 OpenVINO 產(chǎn)品系列中引入了重要的功能和性能變化,使大語言模型 (LLM) 的優(yōu)化和部署在所有支持的場景中更容易、性能更高,包括...
使用OpenVINO 2024.4在算力魔方上部署Llama-3.2-1B-Instruct模型
前面我們分享了《三步完成Llama3在算力魔方的本地量化和部署》。2024年9月25日,Meta又發(fā)布了Llama3.2:一個多語言大型語言模型(LLM...
使用OpenVINO GenAI API在C++中構(gòu)建AI應(yīng)用程序
許多桌面應(yīng)用程序是使用 C++ 開發(fā)的,而將生成式AI(GenAI)功能集成到這些應(yīng)用程序中可能會很具有挑戰(zhàn)性,尤其是因為使用像 Hugging Fac...
LangChain是一個強大的框架,旨在幫助開發(fā)人員使用語言模型構(gòu)建端到端的應(yīng)用程序。它提供了一套工具、組件和接口,可簡化創(chuàng)建由大型語言模型 (LLM)...
2024-08-30 標(biāo)簽:應(yīng)用程序語言模型LLM 1177 0
使用OpenVINO C# API部署YOLO-World實現(xiàn)實時開放詞匯對象檢測
YOLO-World是一個融合了實時目標(biāo)檢測與增強現(xiàn)實(AR)技術(shù)的創(chuàng)新平臺,旨在將現(xiàn)實世界與數(shù)字世界無縫對接。該平臺以YOLO(You Only Lo...
2024-08-30 標(biāo)簽:英特爾API目標(biāo)檢測 1689 0
生成式 AI 正在被應(yīng)用程序設(shè)計人員快速地使用著。這不僅體現(xiàn)在使用來自商業(yè)云服務(wù)模型的傳統(tǒng)REST API形式上,而且還發(fā)生在客戶端和邊緣。越來越多的數(shù)...
基于Qwen-Agent與OpenVINO構(gòu)建本地AI智能體
Qwen2 是阿里巴巴集團 Qwen 團隊研發(fā)的大語言模型和大型多模態(tài)模型系列。Qwen2 具備自然語言理解、文本生成、視覺理解、音頻理解、工具使用、角...
很多人都使用OpenVINO新版的C++ 或者Python的SDK,都覺得非常好用,OpenVINO2022之后的版本C++ SDK做了大量的優(yōu)化與整理...
隨著 ChatGPT 等聊天機器人的風(fēng)暴席卷全球,生成式預(yù)訓(xùn)練 Transformers (GPT) 在開發(fā)者中正在成為家喻戶曉的新名字。生成式 AI(...
用OpenVINO C# API在intel平臺部署YOLOv10目標(biāo)檢測模型
最近YOLO家族又添新成員:YOLOv10,YOLOv10提出了一種一致的雙任務(wù)方法,用于無nms訓(xùn)練的YOLOs,它同時帶來了具有競爭力的性能和較低的...
Optimum Intel三步完成Llama3在算力魔方的本地量化和部署
Llama3 是Meta最新發(fā)布的開源大語言模型(LLM), 當(dāng)前已開源8B和70B參數(shù)量的預(yù)訓(xùn)練模型權(quán)重,并支持指令微調(diào)。
使用OpenVINO?在你的本地設(shè)備上離線運行Llama3之快手指南
在人工智能領(lǐng)域,大型語言模型(LLMs)的發(fā)展速度令人震驚。2024年4月18日,Meta正式開源了LLama系列的新一代大模型Llama3,在這一領(lǐng)域...
簡單兩步使用OpenVINO?搞定Qwen2的量化與部署任務(wù)
英特爾 OpenVINO? 工具套件是一款開源 AI 推理優(yōu)化部署的工具套件,可幫助開發(fā)人員和企業(yè)加速生成式人工智能 (AIGC)、大語言模型、計算機視...
編輯推薦廠商產(chǎn)品技術(shù)軟件/工具OS/語言教程專題
電機控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動駕駛 | TI | 瑞薩電子 |
BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
無刷電機 | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
直流電機 | PID | MOSFET | 傳感器 | 人工智能 | 物聯(lián)網(wǎng) | NXP | 賽靈思 |
步進電機 | SPWM | 充電樁 | IPM | 機器視覺 | 無人機 | 三菱電機 | ST |
伺服電機 | SVPWM | 光伏發(fā)電 | UPS | AR | 智能電網(wǎng) | 國民技術(shù) | Microchip |
Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
DuerOS | Brillo | Windows11 | HarmonyOS |