以太坊交易所 以太坊交易所
Ctrl+D 以太坊交易所
ads
首頁 > Coinw > Info

BuidlerDAO:大型語言模型LLMs使用經驗_PROM:comp幣歷史最高價格

Author:

Time:1900/1/1 0:00:00

文章速覽01/LLM02/ChatGPTPrompt03/組合Agent04/Prompt微調05/總結06/參考文獻LLM

大型語言模型是利用海量的文本數據進行訓練海量的模型參數。大語言模型的使用,大體可以分為兩個方向:

A.僅使用

B.微調后使用

僅使用又稱Zero-shot,因為大語言模型具備大量通用的語料信息,量變可以產生質變。即使Zero-shot也許沒得到用戶想要的結果,但加上合適的prompt則可以進一步獲取想要的知識。該基礎目前被總結為promptlearning。

大語言模型,比較流行的就是BERT和GPT。從生態上講BERT與GPT最大的區別就是前者模型開源,后者只開源了調用API,也就是目前的ChatGPT。

兩個模型均是由若干層的Transformer組成,參數數量等信息如下表所示。

目前生態上講,BERT多用于微調場景。因為微調必須在開源模型的基礎上,GPT僅開源到GPT2的系列。且相同模型參數量下BERT在特定場景的效果往往高于GPT,微調需要調整全部的模型參數,所以從性價比而言,BERT比GPT更適合微調。

而GPT目前擁有ChatGPT這種面向廣大人民群眾的應用,使用簡單。API的調用也尤其方便。所以若是僅使用LLM,則ChatGPT顯然更有優勢。

Threads用戶下載量主要由印度和巴西推動,而非美國:金色財經報道,據Sensor Tower披露數據,Threads推出五天就突破1億用戶,超過了ChatGPT、TikTok和Instagram,后者分別用了2個月、9個月和2.5年才達到1億用戶,分析顯示Threads下載量主要由印度和巴西用戶推動,其中印度下載量超過2000萬次,占到約20%,巴西、美國、墨西哥和英國下載量分別為1800萬、1500、500萬和400萬。[2023/7/14 10:55:28]

ChatGPTPrompt

下圖是OpenAI官方提出對于ChatGPT的prompt用法大類。

Figure1.PromptCategoriesbyOpenAI?

每種類別有很多具體的范例。如下圖所示:

Figure2.PromptCategoriesExamplesbyOpenAI

除此以外,我們在此提出一些略微高級的用法。

高級分類

這是一個意圖識別的例子,本質上也是分類任務,我們指定了類別,讓ChatGPT判斷用戶的意圖在這

模塊化區塊鏈項目Avail推出數據證明橋:金色財經報道,模塊化區塊鏈項目Avail已推出“數據證明橋”(data attestation bridge),這是旨在降低以太坊Layer2與Layer3鏈成本的新產品,有助于保護鏈下數據安全。“數據證明橋”連接到以太坊,可以被使用以太坊作為基礎層的ZK Rollup與Optimistic Rollup。該數據證明橋通過Avail的鏈下數據可用性層在L2 Rollup數據和L1之間建立連接。[2023/7/7 22:24:05]

Figure3.PromptExamples

實體識別與關系抽取

利用ChatGPT做實體識別與關系抽取輕而易舉,例如給定一篇文本后,這么像它提問。

Figure4.ExampleTextGiventoChatGPT

這是部分結果截圖:

Figure5.PartialOutputfromgivenTextonChatGPT

之后可以追問給他們的關系,例如:

比特幣全網未確認交易數量為7221筆:金色財經報道,據BTC.com數據顯示,目前比特幣全網未確認交易數量為7221筆,全網算力為339.94 EH/s,24小時交易速率為2.83交易/s,目前全網難度為47.89 T,預測下次難度上調0.61%至48.18 T,距離調整還剩3天23小時。[2023/4/17 14:07:06]

Figure6.AskingrelationshiponChatGPT

這樣,一個大型的知識圖譜便可輕松建立。

分析任務

如下圖所示,我對ChatGPT提出了分析我目前需求的問題。

Figure7.ResultforneedsrequestonChatGPT

甚至還能讓它給定分數。

Figure8.Scoringtoevaluatetheidentifiedneeds

除此以外還有數不勝數的方式,在此不一一列舉。

組合Agent

另外,我們在使用ChatGPT的API時,可以將不同的prompt模板產生多次調用產生組合使用的效果。我愿稱這種使用方式叫做,組合Agent。例如Figure1展示的是一個大概的思路。

元宇宙公司Everyrealm CEO和多名高管因涉嫌性騷擾和種族歧視遭起訴:金色財經報道,元宇宙公司Everyrealm首席執行官Janine Yorio和聯合創始人Julia Schwartz因涉嫌性騷擾和種族歧視遭到該公司前戰略合作伙伴總監Teyo Johnson的起訴。Teyo Johnson表示在Everyrealm工作期間經歷了包括種族主義和露骨言論在內的“無情性騷擾”,還披露了Janine Yorio和Everyrealm 一名員工之間的短信截圖,這些截圖顯示Janine Yorio用侮辱性詞匯指稱其他員工。Everyrealm曾在今年二月完成了一筆高達6000萬美元的A輪融資,a16z領投,多家加密投資機構參投。(TechCrunch)[2022/10/15 14:28:43]

Figure9.?TheParadigmoftheCombinationAgent

具體說來,例如是一個輔助創作文章的產品。則可以這么設計,如Figure10所示。

Figure10.Agentcombinationforassistingincreation

假設用戶輸入一個請求,說“幫我寫一篇倫敦游記”,那么IntentRecognitionAgent首先做一個意圖識別,意圖識別也就是利用ChatGPT做一次分類任務。假設識別出用戶的意圖是文章生成,則接著調用ArticleGenerateAgent。

數據:OFAC制裁后Tornado Cash轉出ETH價值已超4000萬美元:8月10日消息,據Dune Analytics數據顯示,自8月8日美國財政部海外資產控制辦公室(OFAC)針對Tornado Cash的禁令公布后,已有價值42,950,895美元的ETH從Tornado Cash轉出,目前這些ETH被轉入到了614個獨立接收者和69個獨立ENS地址。[2022/8/10 12:15:16]

另一方面,用戶當前的輸入與歷史的輸入可以組成一個上下文,輸入給ChatContextAnalyzeAgent。當前例子中,這個agent分析出的結果傳入后面的AIReplyAgent和PhaseControlAgent的。

AIReplyAgent就是用來生成AI回復用戶的語句,假設我們的產品前端并不只有一個文章,另一個敵方還有一個框用來顯示AI引導用戶創作文章的語句,則這個AIReplyAgent就是用來干這個事情。將上下文的分析與文章一同提交給ChatGPT,讓其根據分析結果結合文章生成一個合適的回復。例如通過分析發現用戶只是在通過聊天調整文章內容,而不知道AI還能控制文章的藝術意境,則可以回復用戶你可以嘗試著對我說“調整文章的藝術意境為非現實主義風格”。

PhaseControlAgent則是用來管理用戶的階段,對于ChatGPT而言也可以是一個分類任務,例如階段分為等等。例如AI判斷可以進行文章模板的制作了,前端可以產生幾個模板選擇的按鈕。

使用不同的Agent來處理用戶輸入的不同任務,包括意圖識別、ChatContext分析、AI回復生成和階段控制,從而協同工作,為用戶生成一篇倫敦游記的文章,提供不同方面的幫助和引導,例如調整文章的藝術意境、選擇文章模板等。這樣可以通過多個Agent的協作,使用戶獲得更加個性化和滿意的文章生成體驗。?

Prompt微調

LLM雖然很厲害,但離統治人類的AI還相差甚遠。眼下有個最直觀的痛點就是LLM的模型參數太多,基于LLM的模型微調變得成本巨大。例如GPT-3模型的參數量級達到了175Billion,只有行業大頭才有這種財力可以微調LLM模型,對于小而精的公司而言該怎么辦呢。無需擔心,算法科學家們為我們創新了一個叫做prompttuning的概念。

Prompttuning簡單理解就是針對prompt進行微調操作,區別于傳統的fine-tuning,優勢在于更快捷,prompttuning僅需微調prompt相關的參數從而去逼近fine-tuning的效果。

Figure11.Promptlearning

什么是prompt相關的參數,如圖所示,prompttuning是將prompt從一些的自然語言文本設定成了由數字組成的序列向量。本身AI也會將文本從預訓練模型中提取向量從而進行后續的計算,只是在模型迭代過程中,這些向量并不會跟著迭代,因為這些向量于文本綁定住了。但是后來發現這些向量即便跟著迭代也無妨,雖然對于人類而言這些向量迭代更新后在物理世界已經找不到對應的自然語言文本可以表述出意思。但對于AI來講,文本反而無意義,prompt向量隨著訓練會將prompt變得越來越符合業務場景。

假設一句prompt由20個單詞組成,按照GPT3的設定每個單詞映射的向量維度是12288,20個單詞便是245760,理論上需要訓練的參數只有245760個,相比175billion的量級,245760這個數字可以忽略不計,當然也會增加一些額外的輔助參數,但同樣其數量也可忽略不計。

問題來了,這么少的參數真的能逼近?finetuning的效果嗎,當然還是有一定的局限性。如下圖所示,藍色部分代表初版的prompttuning,可以發現prompttuning僅有在模型參數量級達到一定程度是才有效果。雖然這可以解決大多數的場景,但在某些具體垂直領域的應用場景下則未必有用。因為垂直領域的微調往往不需要綜合的LLM預訓練模型,僅需垂直領域的LLM模型即可,但是相對的,模型參數不會那么大。所以隨著發展,改版后的prompttuning效果可以完全取代fine-tuning。下圖中的黃色部分展示的就是prompttuningv2也就是第二版本的prompttuning的效果。

Figure12.Promptlearningparameters

V2的改進是將原本僅在最初層輸入的連續prompt向量,改為在模型傳遞時每一個神經網絡層前均輸入連續prompt向量,如下圖所示。

Figure13.Promptlearningv2

還是以GPT3模型為例,GPT3總從有96層網絡,假設prompt由20個單詞組成,每個單詞映射的向量維度是12288,則所需要訓練的參數量=96*20*12288=23592960。是175billion的萬分之1.35。這個數字雖不足以忽略不計,但相對而言也非常小。

未來可能會有prompttuningv3,v4等問世,甚至我們可以自己加一些創新改進prompttuning,例如加入長短期記憶網絡的設定。(因為原版的prompttuningv2就像是一個大型的RNN,我們可以像改進RNN一般去改進prompttuningv2)。總之就目前而言,prompttuning使得微調LLM變得可行,未來一定會有很多垂直領域的優秀模型誕生。

總結

LargeLanguageModels(LLMs)和Web3技術的整合為去中心化金融領域帶來了巨大的創新和發展機遇。通過利用LLMs的能力,應用程序可以對大量不同數據源進行全面分析,生成實時的投資機會警報,并根據用戶輸入和先前的交互提供定制建議。LLMs與區塊鏈技術的結合還使得智能合約的創建成為可能,這些合約可以自主地執行交易并理解自然語言輸入,從而促進無縫和高效的用戶體驗。

這種先進技術的融合有能力徹底改變DeFi領域,并開辟出一條為投資者、交易者和參與去中心化生態系統的個體提供新型解決方案的道路。隨著Web3技術的日益普及,LLMs創造復雜且可靠解決方案的潛力也在擴大,這些解決方案提高了去中心化應用程序的功能和可用性。總之,LLMs與Web3技術的整合為DeFi領域提供了強大的工具集,提供了有深度的分析、個性化的建議和自動化的交易執行,為該領域的創新和改革提供了廣泛的可能性。

Tags:ROMOMPPROMMPTchromia幣開發去中心化交易所comp幣歷史最高價格prom幣k線圖前面數據哪去了IMPT幣

Coinw
項目調研丨StarkWare研究報告_ARK:STARK

目錄 一、簡介及愿景 二、特色和優勢 三、發展歷史 四、團隊背景 五、融資信息 六、發展成果 七、經濟模型 八、基本面分析 九、行業分析 十、風險與機會 一、項目簡介及愿景 StarkWare是.

1900/1/1 0:00:00
長推:大盤走勢深陷迷霧,投資者如何應對混沌行情?_BTC:SBF價格

注:原文來自@Laughingx7發布長推,MarsBit整理如下:目前$BTC的走勢仿佛陷入了迷霧之中,說強不強,說弱不弱,就是讓持倉的人和空倉的人都很痛苦.

1900/1/1 0:00:00
Galxe 和 Linea 推出的 Linea Voyage,11個任務領取測試代幣并跨越測試網_GOE:tesrasupernet

Galxe和Linea推出的LineaVoyageLinea簡介:Linea是一種zk-rollup,由ConsenSysR&D設計并由ConsenSys運營.

1900/1/1 0:00:00
OpenAI 創始人的 Web3 愿景:Worldcoin 打造 AI 數字通行證_ORL:OIN

本文節選自國盛證券研究所于2023年5月10日發布的報告《OpenAI創始人的Web3愿景:Worldcoin打造AI數字通行證》,具體內容請詳見相關報告.

1900/1/1 0:00:00
專訪UniSat:估值傳聞10億美元,10人小團隊的比特幣賽道新龍頭_UNI:SAT

Ordinals問世后,其實經歷了兩個月的蟄伏期,除了YugaLabs親自造勢的Twelvefold外,并沒有太多討論.

1900/1/1 0:00:00
長推:Blur不為人知的五個點,你還敢刷Blur嗎?_LEND:lend幣最新消息

注:本文來自@nftbanker推特,其來自@pigfeetrice豬腳飯資本,原推文內容由MarsBit整理如下:內卷:關于blur不為人知的五個點看完之后.

1900/1/1 0:00:00
ads