或許每一次歷史潮流的開場,總是這么熙熙攘攘,年初被ChatGPT引爆的AI大型語言模型(LLM),又迎來一位重磅入局者——StabilityAI。
4月19日,推出火爆AI繪畫賽道StableDiffusion的開源模型的公司StabilityAI,宣布“加入戰局,叫板ChatGPT”,推出開源大語言模型StableLM。
在StabilityAI公告大語言模型的網頁上,一只體現了StableDiffusionXL作畫特點的綠鸚鵡先于語言大模型的介紹出現了,大語言模型的"StableDiffusion”時刻或許就這樣不期而至。
對于大語言模型StableLM,網站介紹道:
目前StableLM的Alpha版本中擁有30億和70億參數。
已經可以從GitHub等開源平臺上下載:https://github.com/stability-AI/stableLM/
LBank Labs宣布投資基金管理公司Collab+Currency:據官方消息,LBank Labs 完成了對基金管理公司Collab+Currency的投資。Collab+Currency是一家專注于支持建立下一代文化和消費技術的早期項目的加密貨幣基金。在過去的5年里,該基金支持了近100個項目,涉及加密貨幣領域的幾乎每個垂直領域,包括基礎設施、基礎層區塊鏈、服務提供商和NFT。Collab+Currency此前投資了一些最具影響力的web3消費者項目,如Blur, SuperRare, Art Blocks, Sky Mavis等其他知名項目。
Collab+Currency是LBank Labs FOF戰略投資里的第八個基金,并計劃在未來幾個月繼續擴張FOF投資,以加強投資組合之間的配合和網絡效應。[2023/6/8 21:23:50]
StabilityAI后續還將推出150億至650億參數的版本。
與StableDiffusion類似,開發者可以在遵守協議的情況下,將這個模型用于商業或研究活動。
抨擊OpenAI不夠“open”的StabilityAI,能穩定發揮,推出超越ChatGPT的大語言模型嗎?
Polygon zkEVM主網Beta版將于6月8日更新:6月7日消息,Polygon 宣布其 zkEVM 主網 Beta 版將于北京時間 6 月 8 日 18:00 進行更新,更新需要重啟 Sequencer,這可能會導致用戶在提交交易時遇到問題。[2023/6/7 21:21:07]
大語言模型的“安卓時刻”
StabilityAI成立于2019年,是生成式AI領域最知名的公司之一。
在ChatGPT“占領”的大語言模型市場上,不少人期待著類似StableDiffusion的開源模型能盡快出現。
大語言模型的"StableDiffusion”時刻可能在十幾個小時前到來了。
AI軍備競賽的開啟可以追溯到去年7月,在OpenAI的繪畫模型DALL-E2之后,StabilityAI發布的模型圖像生成模型StableDiffusion,因其源代碼開源,且對公眾開放使用,在當時吸引了更多的注意力。
StabilityAI把StableLM的發布比作了StableDiffusion,這讓AI可以繼續服務所有人:
數據:某巨鯨地址花費30枚比特幣購入5萬枚ordi代幣:5月9日消息,據鏈上數據顯示,某巨鯨地址花費30枚比特幣購入5萬枚ordi代幣。[2023/5/9 14:52:20]
2022年,StabilityAI推動了StableDiffusion的公開發布,這是一款革命性的圖像模型,代表了透明、開放、可擴展的AI。
這次我們發布開源StableLM模型,想繼續讓所有人都能使用AI。
我們的StableLM模型可以生成文本和代碼,并將支持一系列下游應用。
正如StabilityAI的CEOEmadMostaque所說,他們最新發布的LLM代表著StabilityAI的初心“開源”:
現在每個人都可以在HuggingFace上測試驅動這個7B版本的聊天機器人。
EmadMostaque認為,LLM不應在大公司內部進行訓練,社區系統的開放性也至關重要,需要更多監督,巨頭控制流量算法的游戲規則——是對人們的操縱。
以太坊客戶端Prysm發布v4.0.2版本,修復與mev-boost交互時的嚴重漏洞:4月13日消息,據官方推特,以太坊客戶端Prysm已發布v4.0.2版本,該版本包括修復驗證器與mev-boost交互時的嚴重漏洞。如果用戶正在運行mev-boost,則必須升級。V4.0.2還包含其他雜項優化和修復。[2023/4/13 14:01:11]
EmadMostaque來源:StabilityAI
因此,StabilityAI在今年年初與HuggingFace等幾個初創公司一起資助了研究中心EleutherAI,而StableLM便建立在EleutherAI的開源模型上:
StableLM建立在我們與非營利性研究中心EleutherAI一起開源的早期語言模型基礎上,這些語言模型包括GPT-J、GPT-NeoX和Pythia等等。
此次大模型也是在ThePile開源的數據集上進行的訓練,該數據集結合了PubMed、StackExchange和維基百科等網站的的文本樣本,其規模是ThePile的三倍,包含1.5萬億個內容標記。
StabilityAI表示,正式因為這個豐富的數據集,盡管參數規模和GPT-3沒有可比性,但StableLM在交流和編程方面都展現了“驚人的高性能”:
Compass Mining與Aspen Creek Digital簽署27兆瓦托管協議:金色財經報道,Compass Mining與數據中心開發商Aspen Creek Digital Corporation簽署了一項托管協議,以容納大約9,000臺比特幣采礦機。該公司將從位于電表后面的 Aspen Creek 的 30 兆瓦站點獲得 27 兆瓦的電力容量,從德克薩斯州的一個太陽能農場獲取電力。Compass Mining 在美國和加拿大的設施中托管來自個人客戶的機器。該公司表示,將從 2022 年第四季度開始在該站點部署機器,包括 S19 XPs 和 S19j Pros。[2022/10/26 11:45:42]
盡管StableLM參數規模只有30億至70億,但性能非常好,下面是例子:
在這個例子里,StableLM回到了有關“對于從高中畢業的朋友你回說些什么?”以及“寫一封郵件”的請求。
在這個例子里要求該模型寫一個“計算生命意義的C語言程序”,但該模型表示無法完成此項任務,但寫了一個計算生命長度的程序。
Mostaque在Twitter上表示,他相信StableLM及其訓練數據會隨著時間而變得更好,沒有人知道這個模型可以被優化到什么程度:
我知道現在還有很長的路要走,這只是一個開始。我認為我們可以在接下來的3-6個月內讓該模型變得和StableDiffusion一樣有用,而在接下來的幾年里,發展將是驚人的。
OpenAI不夠Open,StabilityAI夠穩嗎
前不久,馬斯克批評OpenAI背離了開源、非盈利的初衷,這是OpenAI一直以來面臨的爭議,也是StabilityAI“暗戳戳”的諷刺OpenAI的要點。
盡管OpenAI不夠開放,但GPT-4無疑是當下最好用的大語言模型。而夠開放的StabilityAI,其語言模型StableLM夠穩嗎。
要知道,目前StableLM的Alpha版本擁有30億和70億參數,而GPT-3.5模型的參數量為2000億。
有網友稱,StabilityAI并沒有在公告上說明StableLM當前的局限性。
該模型是否存在與其他模型一樣傾向于編造事實?是否會經常答非所問?
媒體分析認為,該模型基于ThePile訓練,而ThePile數據集內存在大量不雅用語,因此對話過程可能會讓用戶不適。
還有網友表示,他嘗試在HuggingFace上測試這些模型,但每次都遇到“滿負荷”的問題,無法成功在前端上運行,這很可能與模型的大小及受歡迎的程度有關。
“大語言模型是否應該開源”也成了近期爭論的焦點。有研究人員認為,類似StableLM等開源模型的發布,很可能被用于,發送釣魚信息或協助惡意軟件攻擊等不良目的。
但StabilityAI認為,開源模型的出現可以協助研究人員識別潛在風險,并制定一些列保護措施。
StabilityAI的營收困境
更嚴重的問題是,StabilityAI或許正面臨營收困境。
最近有媒體報道稱,StabilityAI正在以驚人的速度燒錢,但卻沒有明確的盈利途徑。而且在競爭激烈的AI賽道,還面臨著一眾初創企業和科技巨頭的“圍剿”。
Meta此前發布開源大語言模型LLaMA,使得越來越多的公司有望在開源模型基礎上定制自己的大模型,人工智能也正在迎來“安卓時刻”。
StabilityAI現在正在尋找新的高管人才,希望他能在惡劣的條件下給公司帶來收入,以解決當前“瘋狂燒錢、營收可憐”的窘況。
去年底,StabilityAI宣布融資1.01億美元,并稱StableDiffusion已成為當前可用性最高的開源模型。
據《福布斯》的數據,每天約有有1000萬人使用?StableDiffusion——比使用OpenAI的DALL-E2的人數還要多。同時,StabilityAI還提供面向消費者的產品——DreamStudio,目前擁有來100萬名注冊用戶。
但訓練模型所需的計算資源和成本讓StabilityAI不得不探索新商業模式。Mostaque曾在Twitter上回復一位用戶時說:
“實際上,我們模型使用了256個A100顯卡,總共15萬小時,所以按市場價格計算為60萬美元。”
StabilityAI去年融到的1億美元至今已經“燒”掉大半。
還有一個不可忽略的事實是,其競爭對手Midjourney已經成為互聯網上事實上的圖像生成模型的領跑者,甚至一定程度上擊敗了OpenAI的DALL-E。
當前,有消息稱,StabilityAI正在謀求新一輪融資,希望能將公司的估值漲至40億美元。StabilityAI能否扭轉局面,籌集到足夠的資金來維持局面,還有待觀察。
?來源:元宇宙之心
Tags:STATABTABILITCoinbase Wrapped Staked ETHStableFund USDStabilizeonekeylite官網
作者?|?nobody 編輯?|?ColinWu在“明星公鏈”Aptos發行Token半年之后,被社區稱為“MOVE雙子星之一”的Sui也即將邁入主網階段.
1900/1/1 0:00:00DeFi數據 1、DeFi代幣總市值:494.94億美元 DeFi總市值及前十代幣數據來源:coingecko2、過去24小時去中心化交易所的交易量31.
1900/1/1 0:00:00安全是錢包的底線。而是否好用,則是Web2用戶能否大量進入到Web3世界的關鍵。在過去一年中,錢包的底層技術方面也實現了跨越式的發展,MPC錢包、AA錢包、智能合約錢包都讓“無私鑰”成為可能.
1900/1/1 0:00:004月13日-16日,ETHGlobal黑客松在東京拉開帷幕,將會帶來哪些新發現?4月13日,ETHGlobalTokyo黑客松在東京開幕.
1900/1/1 0:00:00原文作者:Cookie,律動BlockBeats當Blur這臺NFT市場的流動性發動機也逐漸熄火: Blur自身乃至各NFT市場的ETH交易總量都在不斷下滑當Doodles、CloneX、Moo.
1900/1/1 0:00:00作者:ChiaJengYang,PanteraCapit首席投資人;翻譯:金色財經xiaozouCoinbase推出了一款名為BASE的新產品.
1900/1/1 0:00:00