改名 Meta 之后,Facebook 的元宇宙愿景正在一點點實現。這一次,Facebook 把目光投在了元宇宙社交上。
Meta 發布語音處理模型 XLS-R
近日,Meta 正式發布 XLS-R——一套用于各類語音任務的新型自監督模型。據悉,XLS-R 由海量公共數據訓練而成(數據量是過去的十倍),能夠將傳統多語言模型的語言支持量增加兩倍以上。目前,XLS-R 共支持 128 種語言。
Meta 認為,語音交流是人們最自然的一種交互形式。“隨著語音技術的發展,我們已經能夠通過對話同自己的設備及未來的虛擬世界直接互動,由此將虛擬體驗與現實世界融為一體。”
Roblox計劃允許品牌合作方在元宇宙中投放廣告:9月11日消息,由于多家游戲巨頭停止或削減在俄羅斯的業務,Roblox Corporation因此受益,在俄羅斯擁有超過200萬活躍玩家。Roblox現在希望擴大其元宇宙產品。一些新產品將包括來自Gucci、Ralph Lauren、Chipotle等合作伙伴的元宇宙廣告。開發者可以通過交互式廣告牌、出租車車頂、海報或其他區域加入廣告,并從廣告收入中分一杯羹。還將推出游戲內3D門戶,為游戲玩家提供新的品牌體驗,例如Gucci Town或Chipotle一家虛擬餐廳。(Beincrypto)[2022/9/11 13:22:21]
這與扎克伯格此前宣稱的“公司業務將以元宇宙優先”不謀而合。此前,扎克伯格曾概述了他建立“元世界”的計劃:一個建立在我們自己的數字世界之上的數字世界,包括虛擬現實和增強現實。“我們相信元宇宙將會接替移動互聯網”。
西班牙桑坦德銀行將在元宇宙舉行數字頒獎典禮:7月8日消息,西班牙桑坦德銀行將于7月14日在元宇宙為其“桑坦德X全球挑戰賽|區塊鏈”舉行頒獎儀式。該比賽總共有大約400個參賽項目。申請的截止日期是2022年6月9日,之后由國際專家組成的評審團選出20名決賽選手。7月7日,決賽選手向桑坦德銀行的開放式創新團隊Fintech Station展示了其參賽方案。(Finbold)[2022/7/9 2:01:29]
而 XLS-R 作為元宇宙社交中必不可少的一環,可以幫助母語不同的人在元宇宙無障礙對話。
值得一提的是,為了通過單一模型實現對多種語言的廣泛語音理解能力,Meta 對 XLS-R 進行了微調,使其獲得語音識別、語音翻譯及語言識別等功能。據介紹,XLS-R 在 BABEL、CommonVoice 以及 VoxPopuli 語音識別基準測試,CoVoST-2 的外語到英文翻譯基準測試,以及 VoxLingua107 語言識別基準測試中都取得了不錯的成績。
快時尚消費公司 H&M 否認會在元宇宙內開店:金色財經報道,本周一(1月3日)有消息稱快時尚消費公司 H&M 已經在元宇宙開設了一家 3D 商店,但據H&M 的一位發言人澄清說:“我們確認,目前H&M不會在元宇宙內開設商店。”根據相關報道,H&M將允許消費者在Ceek City Universe元宇宙中購物,但H&M發言人進一步澄清,該公司沒有與 Ceek 有任何合作。Ceek官推隨后也發文表示,Ceek元宇宙中的 H&M 商店只是一個概念,還不是真正的虛擬商店。[2022/1/4 8:24:00]
為了盡可能降低功能訪問門檻,目前,Meta 與 Hugging Face 聯手發布了模型本體,并通過 fairseq GitHub repo 全面開放。
試用地址:https://huggingface.co/spaces/facebook/XLS-R-2B-22-16
涂子沛:在元宇宙里每個人都不會死:12月6日消息,由南方日報社主辦的“數據新價值”2021南方智享會主題沙龍在廣州舉行,大數據專家、科技作家涂子沛現場作《數據價值的歷史、未來和想象》的主題分享。涂子沛表示,\"盡管這個世界已經沒有新的大陸空間可以被發掘,但人類正在打造一個新的空間,即數據空間,甚至可以稱之為“元宇宙”。在元宇宙里每個人都不會死,你的孫子的孫子也可以跟你對話,因為你留下了數據,甚至可以請教問題。元宇宙就變得有生命,它是基于數據孿生之上的一個空間。\"(南方日報)[2021/12/6 12:52:53]
XLS-R 工作原理
據介紹,XLS-R 在 wav2vec 2.0 訓練集上接受了超過 43 萬 6 千小時的公開語音錄音訓練,從而實現了對語音表達的自監督學習方法。這樣的訓練量已經達到去年發布的當時最強的模型 XLSR-53 的 10 倍。利用從會議記錄到有聲讀物的多種語音數據來源,XLS-R 的語言支持范圍擴展到 128 種,涵蓋的語種量達到前代模型的近 2.5 倍。
作為 Meta 打造的有史以來最大模型,XLS-R 中包含超過 20 億個參數,性能遠高于其他同類模型。Meta 表示,事實證明,更多參數能夠更充分地體現、數據集中的各類語種。此外,Meta 還發現,規模更大的模型在單一語言預訓練方面的性能也同樣優于其他較小模型。
Meta 在四種主要多語言語音識別測試中對 XLS-R 做出評估,發現它在 37 種語言上獲得了超越以往模型的效能。具體測試場景為:BABEL 中選取 5 種語言,CommonVoice 中選取 10 種語言,MLS 中選取 8 種語言,以及 VoxPopuli 上選取 14 種語言。
BABEL 上的單詞錯誤率基準測試結果。XLS-R 較前代模型實現了顯著改進。
此外,Meta 還評估了語音翻譯模型,即將錄音資料直接翻譯成另一種語言。為了打造一套能夠執行多種任務的模型, Meta 同時在 CoVoST-2 基準測試的數個不同翻譯方向上對 XLS-R 進行了微調,使其能夠在英語與多達 21 種語言之間實現內容互譯。
在使用 XLS-R 對英語以外的其他語言進行編碼時,獲得了顯著的效能提升,這也是多語言語音表達領域的一次重大突破。據 Meta 介紹,XLS-R 在低資源語言學習中實現了顯著改進,例如印尼語到英語的翻譯,其中 BLEU 準確率平均翻了一番。BLEU 指標的提升是指模型給出的自動翻譯結果與處理同一內容的人工翻譯結果間重合度更高,代表著模型在改進口語翻譯能力方面邁出了一大步。
以 BLEU 指標衡量的自動語音翻譯準確率,其中較高值表示 XLS-R 從高資源語言(例如法語、德語)、中資源語言(例如俄語、葡萄牙語)或低資源語言(例如泰米爾語、土耳其語)語音記錄翻譯至英語時的準確率。
Meta 認為,XLS-R 證明擴大跨語言預訓練規模可以進一步提高低資源語言的理解性能。它不僅提高了語音識別率,同時也將由外語到英語的語音翻譯準確率提高了一倍以上。
“XLS-R 是我們朝著以單一模型理解多種不同語言(語音)目標邁出的重要一步,也代表著我們在利用公共數據推進多語言預訓練方面做出的最大努力。我們堅信這是一條正確的探索方向,將讓機器學習應用更好地理解所有人類語音、并促進后續研究,大大降低語音技術在全球范圍內、特別是服務匱乏社群中的使用門檻。我們將不斷開發新方法,通過低監督學習拓展模型的語言理解能力、逐步使其覆蓋全球 7000 多種語言,實現算法的持續更新。”Meta 提到。
https://ai.facebook.com/blog/xls-r-self-supervised-speech-processing-for-128-languages/
頭條 ▌中國銀聯發布“中國文化”主題系列數字藏品金色財經報道,1月18日,銀聯云閃付上線“數字藏品”小程序并推出首批“中國文化”主題系列數字藏品.
1900/1/1 0:00:00幾天前有個消息,并沒有被行業內廣泛關注:芯片傳統巨頭英特爾(Intel)要發布自己的比特幣挖礦芯片。這其實是一篇演講稿泄露后被發現的.
1900/1/1 0:00:00魔獸世界的一個特點是玩家的第二天性,但在游戲圈之外大多沒有討論,那就是靈魂綁定物品的概念,靈魂綁定物品一旦被拾取,就不能轉讓或出售給其他玩家.
1900/1/1 0:00:001月18日,微軟發布聲明稱,將以全現金方式斥資687億美元收購游戲巨頭動視暴雪,這將成為微軟有史以來規模最大的一筆收購,同時也將改寫游戲行業的收購紀錄.
1900/1/1 0:00:002021 年對于加密市場和風險投資來說都是歷史性的一年。受機構資金流入的推動,比特幣在年初飆升至新高,整個市場也在 11 月接近創紀錄的 3? 萬億美元市值.
1900/1/1 0:00:00遇到熊時,想要幸存下來,你不需要跑過熊,你只需要跑過你身后的人,隱私幣或許正在稱為那個“跑在最后的人”。隱私幣是一類獨特的加密貨幣,允許用戶在進行區塊鏈交易時完全匿名,即無法溯源.
1900/1/1 0:00:00