完善資料讓更多小伙伴認(rèn)識(shí)你，還能領(lǐng)取20積分哦，立即完善>
標(biāo)簽 > 大模型
以大模型作為基礎(chǔ)模型支撐AI產(chǎn)業(yè)應(yīng)用邏輯已經(jīng)被證明實(shí)用性，AI大模型為AI落地應(yīng)用提供了一種通用化的解決方案；各自各樣參數(shù)不一、面向不同行業(yè)、面向不同任務(wù)的“大模型”也陸續(xù)發(fā)布，大模型已經(jīng)成為整個(gè)AI 界追逐的寵兒，AI大模型有效果好、泛化性強(qiáng)、研發(fā)流程標(biāo)準(zhǔn)化程度高等特點(diǎn)。
文章：3093個(gè) 瀏覽：4050次 帖子：20個(gè)
深度學(xué)習(xí)（DL）與自動(dòng)駕駛（AD）的融合標(biāo)志著該領(lǐng)域的重大飛躍，吸引了學(xué)術(shù)界和工業(yè)界的關(guān)注。配備了攝像頭和激光雷達(dá)的AD系統(tǒng)模擬了類(lèi)似人類(lèi)的決策過(guò)程。
2024-02-26 標(biāo)簽：攝像頭激光雷達(dá)自動(dòng)駕駛 647 0
谷歌大型模型終于開(kāi)放源代碼，遲到但重要的開(kāi)源戰(zhàn)略
在人工智能領(lǐng)域，谷歌可以算是開(kāi)源的鼻祖。今天幾乎所有的大語(yǔ)言模型，都基于谷歌在 2017 年發(fā)布的 Transformer 論文；谷歌的發(fā)布的 BERT...
利用知識(shí)圖譜與Llama-Index技術(shù)構(gòu)建大模型驅(qū)動(dòng)的RAG系統(tǒng)（下）
對(duì)于語(yǔ)言模型（LLM）幻覺(jué)，知識(shí)圖譜被證明優(yōu)于向量數(shù)據(jù)庫(kù)。知識(shí)圖譜提供更準(zhǔn)確、多樣化、有趣、邏輯和一致的信息，減少了LLM中出現(xiàn)幻覺(jué)的可能性。
2024-02-22 標(biāo)簽：數(shù)據(jù)庫(kù)語(yǔ)言模型知識(shí)圖譜 1667 0
利用知識(shí)圖譜與Llama-Index技術(shù)構(gòu)建大模型驅(qū)動(dòng)的RAG系統(tǒng)（上）
向量數(shù)據(jù)庫(kù)是一組高維向量的集合，用于表示實(shí)體或概念，例如單詞、短語(yǔ)或文檔。向量數(shù)據(jù)庫(kù)可以根據(jù)實(shí)體或概念的向量表示來(lái)度量它們之間的相似性或關(guān)聯(lián)性。
2024-02-22 標(biāo)簽：數(shù)據(jù)庫(kù)大模型 1607 0
那關(guān)于LLM的長(zhǎng)文本能力，目前業(yè)界通常都是怎么做的？有哪些技術(shù)點(diǎn)或者方向？今天我們就來(lái)總結(jié)一波，供大家快速全面了解。
應(yīng)用大模型提升研發(fā)效率的實(shí)踐與探索
對(duì)于模型訓(xùn)練，我們可以采用 3D 并行訓(xùn)練的方式來(lái)實(shí)現(xiàn)。將模型參數(shù)和梯度張量劃分為多個(gè)分區(qū)，分配到不同 GPU 卡上進(jìn)行計(jì)算。每張卡負(fù)責(zé)自己分區(qū)的梯度和...
什么是混合專家模型？混合專家模型 (MoEs)優(yōu)劣勢(shì)分析
門(mén)控網(wǎng)絡(luò)或路由: 這個(gè)部分用于決定哪些令牌 (token) 被發(fā)送到哪個(gè)專家。例如，在下圖中，“More”這個(gè)令牌可能被發(fā)送到第二個(gè)專家，而“Param...
2024-02-22 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)AITransformer 5689 0
大模型:即基礎(chǔ)模型，在海量數(shù)據(jù)和計(jì)算資源的基礎(chǔ)上通過(guò)預(yù)先訓(xùn)練出來(lái)的，具有大參數(shù)規(guī)模的深度學(xué)習(xí)模型 >狹義多指大語(yǔ)言模型，廣義還包括CV、多模態(tài)等...
2024-02-22 標(biāo)簽：AI人工智能大數(shù)據(jù) 518 0
大模型系列：Flash Attention V2整體運(yùn)作流程
基于1.1中的思想，我們?cè)赩2中將原本的內(nèi)外循環(huán)置換了位置（示意圖就不畫(huà)了，基本可以對(duì)比V1示意圖想象出來(lái)）。我們直接來(lái)看V2的偽代碼（如果對(duì)以下偽代碼...
大語(yǔ)言模型中的語(yǔ)言與知識(shí)：一種神秘的分離現(xiàn)象
自然語(yǔ)言處理領(lǐng)域存在著一個(gè)非常有趣的現(xiàn)象：在多語(yǔ)言模型中，不同的語(yǔ)言之間似乎存在著一種隱含的對(duì)齊關(guān)系。
2024-02-20 標(biāo)簽：機(jī)器學(xué)習(xí)自然語(yǔ)言處理大模型 840 0
Dimitar Panayotov 在 2023 年 QA Challenge Accepted 大會(huì) 上分享了他如何在測(cè)試中使用 ChatGPT。
AI新基建引領(lǐng)“三浪變革”，驅(qū)動(dòng)產(chǎn)業(yè)升級(jí)與創(chuàng)新
2023年迎來(lái)“知識(shí)生產(chǎn)力變革”第一浪，以大語(yǔ)言模型為核心，實(shí)現(xiàn)知識(shí)工程的生產(chǎn)力變革，類(lèi)似于中世紀(jì)的印刷革命。大語(yǔ)言模型具有超高速學(xué)習(xí)能力，可在人機(jī)協(xié)同...
小紅書(shū)搜索團(tuán)隊(duì)研究新框架：負(fù)樣本在大模型蒸餾中的重要性
在思維鏈（CoT）提示的幫助下，大語(yǔ)言模型（LLMs）展現(xiàn)出強(qiáng)大的推理能力。然而，思維鏈已被證明是千億級(jí)參數(shù)模型才具有的涌現(xiàn)能力。
還有一個(gè)與批次大小有關(guān)的數(shù)量，它們?cè)谝粋€(gè)有趣的點(diǎn)上相交。這個(gè)點(diǎn)不取決于硬件之外的任何因素。舉例來(lái)說(shuō)，在 A10G 和 A100 上，硬件可以實(shí)現(xiàn)的總浮點(diǎn)...
2024-01-29 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)gpuAI 631 0
在當(dāng)今的智能制造業(yè)中，智能化和數(shù)字化的發(fā)展已經(jīng)成為制造業(yè)的主要趨勢(shì)。隨著人工智能（AI）技術(shù)的不斷發(fā)展和進(jìn)步，智能制造的智慧工廠已經(jīng)成為制造業(yè)的一個(gè)重要...
2024-01-26 標(biāo)簽：物聯(lián)網(wǎng)AI智能制造 1551 0
探索ICLR‘24 Spotlight中的首個(gè)十億級(jí)別3D通用大模型
Uni3D在少樣本點(diǎn)云部件分割任務(wù)上也展示出了卓越的性能。下表結(jié)果顯示，在各種實(shí)驗(yàn)條件下，Uni3D的性能都明顯優(yōu)于Point-BERT等基線方法。
大模型Reward Model的trick應(yīng)用技巧
借助對(duì)比學(xué)習(xí)和元學(xué)習(xí)的方法。增加對(duì)比學(xué)習(xí)的loss，對(duì)比學(xué)習(xí)通過(guò)增強(qiáng)模型區(qū)分能力，來(lái)增強(qiáng)RM的對(duì)好壞的區(qū)分水平。元學(xué)習(xí)則使獎(jiǎng)勵(lì)模型能夠維持區(qū)分分布外樣本...
字節(jié)發(fā)布機(jī)器人領(lǐng)域首個(gè)開(kāi)源視覺(jué)-語(yǔ)言操作大模型，激發(fā)開(kāi)源VLMs更大潛能
對(duì)此，ByteDance Research 基于開(kāi)源的多模態(tài)語(yǔ)言視覺(jué)大模型 OpenFlamingo 開(kāi)發(fā)了開(kāi)源、易用的 RoboFlamingo 機(jī)器...
Continous Batching大模型推理關(guān)鍵技術(shù)
TurboTransformers算是比較早期指出輸入變長(zhǎng)需要新的Batching方法的論文。在2020年上半年，我開(kāi)始思考如何把變長(zhǎng)輸入Batchin...
計(jì)算機(jī)系統(tǒng)如何應(yīng)對(duì)大模型時(shí)代的挑戰(zhàn)與機(jī)遇
“操作系統(tǒng)管理著計(jì)算機(jī)的資源和進(jìn)程，以及所有的硬件和軟件。計(jì)算機(jī)的操作系統(tǒng)讓用戶在不需要了解計(jì)算機(jī)語(yǔ)言的情況下與計(jì)算機(jī)進(jìn)行交互。”這是我們對(duì)計(jì)算機(jī)系統(tǒng)的...
2024-01-23 標(biāo)簽：云計(jì)算計(jì)算機(jī)系統(tǒng)數(shù)據(jù)庫(kù) 970 0
換一批
編輯推薦廠商產(chǎn)品技術(shù)軟件/工具OS/語(yǔ)言教程專題
| 電機(jī)控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動(dòng)駕駛 | TI | 瑞薩電子 |
| BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
| 無(wú)刷電機(jī) | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
| 直流電機(jī) | PID | MOSFET | 傳感器 | 人工智能 | 物聯(lián)網(wǎng) | NXP | 賽靈思 |
| 步進(jìn)電機(jī) | SPWM | 充電樁 | IPM | 機(jī)器視覺(jué) | 無(wú)人機(jī) | 三菱電機(jī) | ST |
| 伺服電機(jī) | SVPWM | 光伏發(fā)電 | UPS | AR | 智能電網(wǎng) | 國(guó)民技術(shù) | Microchip |
| Arduino | BeagleBone | 樹(shù)莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
| 示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
| OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
| C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
| Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
| DuerOS | Brillo | Windows11 | HarmonyOS |
關(guān)注我們的微信
下載發(fā)燒友APP
電子發(fā)燒友觀察
版權(quán)所有 ? 湖南華秋數(shù)字科技有限公司
長(zhǎng)沙市望城經(jīng)濟(jì)技術(shù)開(kāi)發(fā)區(qū)航空路6號(hào)手機(jī)智能終端產(chǎn)業(yè)園2號(hào)廠房3層（0731-88081133）
電子發(fā)燒友 （電路圖） 湘公網(wǎng)安備43011202000918
工商網(wǎng)監(jiān)
湘ICP備2023018690號(hào)-1
