一文理解多模態(tài)大語言模型——上

作者：Sebastian Raschka 博士， 翻譯：張晶，Linux Fundation APAC Open Source Evangelist 編...

2024-12-02 標簽：語言模型 1161 0

行人摔倒檢測-在英特爾開發(fā)套件上基于OpenVINO? C# API部署PP-Human

OpenVINO 2023.1 于 2023 年 9 月 18 日發(fā)布，該工具包帶來了挖掘生成人工智能全部潛力的新功能。生成人工智能的覆蓋范圍得到了擴展...

2023-10-13 標簽：英特爾視頻監(jiān)控語言模型 1136 0

華為提出Sorted LLaMA：SoFT代替SFT，訓練多合一大語言模型

而這一切的背后，是一項名為Sorted Fine-Tuning（SoFT）的新訓練技術。SoFT讓我們可以在一個訓練周期內(nèi)產(chǎn)出多個子模型，無需任何額外的...

2023-09-26 標簽：華為模型語言模型 1135 0

Scaling Law大模型設計實操案例

縱軸是"Bits for words", 這也是交叉熵的一個單位。在計算交叉熵時，如果使用以 2 為底的對數(shù)，交叉熵的單位就是 &q...

2023-11-22 標簽：語言模型GPTOpenAI 1114 0

計算機視覺迎來GPT時刻！UC伯克利三巨頭祭出首個純CV大模型！

在損失函數(shù)上，研究者從自然語言社區(qū)汲取靈感，即掩碼 token 建模已經(jīng)「讓位給了」序列自回歸預測方法。一旦圖像、視頻、標注圖像都可以表示為序列，則訓練...

2023-12-05 標簽：圖像計算機視覺語言模型 1114 0

時下改變AI的6大NLP語言模型

消除早期語言模型的局限性，特別是在預訓練中表現(xiàn)出的單向性。這些限制了可用于預訓練的架構(gòu)選擇，以及微調(diào)的方法。例如，OpenAI的GPT v1使用從左到右...

2023-05-26 標簽：語言模型nlp 1113 0

一個通用的自適應prompt方法，突破了零樣本學習的瓶頸

為了解決這個問題，這篇研究提出了一種Universal Self-adaptive Prompting (USP)方法，對LLMs的零樣本學習進行了優(yōu)化...

2023-06-01 標簽：語言模型數(shù)據(jù)集自然語言 1108 0

DreamLLM：多功能多模態(tài)大型語言模型，你的DreamLLM~

由于固有的模態(tài)缺口，如CLIP語義主要關注模態(tài)共享信息，往往忽略了可以增強多模態(tài)理解的模態(tài)特定知識。因此，這些研究并沒有充分認識到多模式創(chuàng)造和理解之間潛...

2023-09-25 標簽：框架語言模型機器智能 1107 0

開源LLEMMA發(fā)布：超越未公開的頂尖模型，可直接應用于工具和定理證明

但LLEMMA的出現(xiàn)改變了這一局面。它不僅在MATH基準測試上創(chuàng)下了新高，甚至超越了某些還未對外公開的頂尖模型，如Minerva。更讓人欣喜的是，LLE...

2023-10-22 標簽：模型語言模型python 1098 0

使用NVIDIA NeMo定制LLM的過程

如何創(chuàng)建自定義語言模型

2023-07-05 標簽：NVIDIAAI語言模型 1085 0

基于檢索的大語言模型簡介

簡介章節(jié)講的是比較基礎的，主要介紹了本次要介紹的概念，即檢索（Retrieval）和大語言模型（LLM）

2023-11-15 標簽：語言模型LLM 1079 0

深入理解語言模型的突顯能力

最近，人們對大型語言模型所展示的強大能力（例如思維鏈 ^[2]^ 、便簽本 ^[3]^ ）產(chǎn)生了極大的興趣，并開展了許多工作。我們將之統(tǒng)稱為大模型的突現(xiàn)...

2023-02-22 標簽：語言模型nlpChatGPT 1062 0

大語言模型推斷中的批處理效應

隨著開源預訓練大型語言模型（Large Language Model, LLM ）變得更加強大和開放，越來越多的開發(fā)者將大語言模型納入到他們的項目中。其...

2024-01-04 標簽：語言模型機器學習LoRa 1053 0

多模態(tài)上下文指令調(diào)優(yōu)數(shù)據(jù)集MIMIC-IT

然而，一個理想的 AI 對話助手應該能夠解決涉及多種模態(tài)的任務。這需要獲得一個多樣化和高質(zhì)量的多模式指令跟隨數(shù)據(jù)集。比如，LLaVAInstruct-1...

2023-06-12 標簽：AI語言模型數(shù)據(jù)集 1048 0

探索ChatGPT模型的人工智能語言模型

最大的區(qū)別ChatGPT是通過對話數(shù)據(jù)進行預訓練，而不僅僅是通過單一的句子進行預訓練，這使得ChatGPT能夠更好地理解對話的上下文，并進行連貫的回復。

2024-04-24 標簽：編碼器人工智能語言模型 1029 0

邱錫鵬團隊提出具有內(nèi)生跨模態(tài)能力的SpeechGPT，為多模態(tài)LLM指明方向

大型語言模型（LLM）在各種自然語言處理任務上表現(xiàn)出驚人的能力。與此同時，多模態(tài)大型語言模型，如 GPT-4、PALM-E 和 LLaVA，已經(jīng)探索了 ...

2023-05-22 標簽：編碼器生成器語言模型 1006 0

大型語言模型與知識圖譜：機遇與挑戰(zhàn)

這對知識表示領域來說是一個巨大的步驟。長時間以來，人們關注的是明確的知識，例如嵌入在文本中的知識，有時也被稱為非結(jié)構(gòu)化數(shù)據(jù)，以及以結(jié)構(gòu)化形式存在的知識，...

2023-08-24 標簽：語言模型自然語言知識圖譜 1002 0

邱錫鵬團隊提出SpeechGPT：具有內(nèi)生跨模態(tài)能力的大語言模型

雖然現(xiàn)有的級聯(lián)方法或口語語言模型能夠感知和生成語音，但仍存在一些限制。首先，在級聯(lián)模型中，LLM 僅充當內(nèi)容生成器。由于語音和文本的表示沒有對齊，LLM...

2023-05-22 標簽：模態(tài)語言模型數(shù)據(jù)集 994 0