在之前的文章中我們討論了當紅風頭正盛的ChatGPT,分析了它的技術本質、應用場景和法律風險初探。而在近期的《流浪地球》系列電影中,“虛擬數字人”的概念博人眼球。這不禁讓我想起另一個紅極一時的概念,“深度偽造”、“AI換臉”。
深度合成技術
事實上,“虛擬數字人”的構建離不開包括偽造技術在內的深度合成技術,而ChatGPT是深度合成領域下的一類模型。數據深度合成(DeepSynthesis)本身是一個中性概念,泛指借助深度學習算法模型等智能化方案自動生成文本、圖像、語音、視頻等數據內容的一系列處理技術。其中文本因為其較強的字符特征,只需滿足空間序上的合理性,與視頻、音頻類型數據的處理思路略有不同。
在ChatGPT一類的大型語言模型中,包含預訓練和下游任務訓練兩個部分。在預訓練階段,模型從大量的數據中學習復雜的上下文聯系,并將這種聯系向量化。Next-token-prediction和masked-language-modeling是用于預訓練語言模型的核心技術。在第一種方法中,模型被給定一個詞序列作為輸入,并被要求預測序列中的下一個詞,而在第二種方法中,其輸入句子中的一些詞被替換為特殊token,例如,模型被要求預測應該插入到位置的正確的詞。同時,在下游任務訓練中,In-contentLearning被提出以提升模型在各個場景任務下的表現能力。譬如標注者會給模型一個提示性的輸入,讓模型更加清楚的感知到應該輸出的范式。
媒體:中國企業開始試水“數字藏品”一級交易市場:金色財經報道,據新華網轉發《解放日報》文章消息,中國企業已開始試水“數字藏品”一級交易市場。文章提到,B站,騰訊、阿里和京東等互聯網巨頭均已開始布局NFT,并推出了相關平臺,阿里的鯨探、騰訊的幻核,其平臺上都不再提及NFT,而是使用了“數字藏品”這一稱呼。并且也都聲明,不鼓勵任何形式的數字藏品炒作行為。國外的NFT,大都依托以太坊之類的區塊鏈公鏈發行,可以在公鏈上進行交易。換言之,更利于炒作。而國內的NFT,只是依托各家公司自己旗下的聯盟鏈來發售,理論上無法在以太坊等公鏈上進行交易。目前這些國內平臺上,都沒開放互相交易的功能。從國內范圍來看,現階段我國企業基本依托自身聯盟鏈,開始試水數字藏品的一級交易市場,但似乎并沒有想好“怎么用”。[2022/1/10 8:37:17]
歷史上的今天丨瑞典央行“試水”數字貨幣,開始測試計劃:2020年2月20日,瑞典央行已將開始對其數字貨幣“電子克朗(e-krona)”的測試。據悉瑞典央行早在2017年就開始致力于開展“電子克朗”的試點計劃,以應對近些年來現金使用率快速下降的情況。在測試環境中,參與用戶可以將數字貨幣存放在電子錢包中,通過手機應用軟件進行支付、存款和取款等操作。該試點計劃將持續到2021年2月。目前瑞典央行并沒有打算大范圍推廣。[2021/2/20 17:35:04]
在圖像、音頻類深度偽造模型中,生成網絡”或“生成器”負責制作復制原始數據集特征的合成數據如圖片、音頻記錄、視頻等,并制作“深度合成物”;鑒別網絡或者說鑒別器則負責識別合成的數據,檢測該視頻是否為偽造。通過反復的“無監督學習”過程,“生成網絡”制作并修改“深度合成物”,直到“鑒別網絡”無法再檢測出該合成物系經“深度合成”,最終形成高保真的信息內容。
聲音 | 中科院金融科技中心主任:國內一些企業和金融機構已開始積極試水區塊鏈應用:據中國新聞網消息,在中國國際電子商務中心主辦的數字經濟新引擎暨區塊鏈技術創新應用峰會上,中科院金融科技中心主任劉世平表示,區塊鏈技術大幅提高了金融交易和結算效率,降低了金融監管成本,并且實現了信用創造機制的重構和個人信息保護制度的完善。他指出,現在國內一些企業和金融機構已經開始積極試水區塊鏈應用,比如資產證券化、數字票據、銀行征信等。[2019/4/13]
總體而言,基于深度學習的數據合成技術隨著算力的發展逐漸從研究型走向應用型,主要應用在文本合成、視覺合成、聽覺合成等三大領域,因循數據收集、模型訓練、偽造內容等核心步驟,創造虛擬數字人及其所處的生態環境。
泉州海關試水能源貿易區塊鏈應用項目:據泉州日報消息,近日,在中化集團下屬中化能源科技有限公司針對一船從中國泉州到新加坡的汽油出口業務中,泉州海關駐肖厝辦事處成功參與了區塊鏈應用的出口交易試點。除泉州海關外,試點參與方還包括中化集團旗下的泉州石化與石油公司、中檢集團、匯豐及船東、貨代公司等。據悉,此次試點經歷的流程復雜,包含了大宗商品交易過程中的所有關鍵參與主體的區塊鏈應用項目。利用區塊鏈技術不可竄改、不可偽造的特點,將跨境貿易各個關鍵環節的核心單據進行數字化,對貿易流程中的合同簽訂、貨款匯兌、提單流轉、海關監管等環節信息進行全程記錄,大大提高了各個環節效率,降低了交易風險。相比傳統方式,區塊鏈的應用能整體提高流程時間效率50%以上。泉州海關將繼續參與各類區塊鏈業務的驗證性測試,對該技術在各領域的應用模式進行探索,實現海關監管和優化服務的有機統一。[2018/4/4]
相關戲仿性應用產品迅速迭代,一方面,數據深度合成的正向應用將創建的文本段落、虛擬角色、聲音模擬、視頻渲染等廣泛應用到社交通訊、娛樂文化等眾多場景之中,提升信息處理效率,增進臨場體驗。另一方面,深度合成內容難以精準及時地予以鑒識,部分主體傳播虛假信息,操控受眾反應,嚴重威脅整個社會的安全體系與保障機制,因此亟待構建和完善規模化的規制體系。
《互聯網信息服務深度合成管理規定》解析
我國國家互聯網信息辦公室、中華人民共和國工業和信息化部、中華人民共和國部在2022年11月3日通過了《互聯網信息服務深度合成管理規定》,該規定基于深度合成應用的定性和風險的評估,從而提出包括內容標志、主體報備、用戶實名制、內容審核機制、救濟機制、個人信息保護和數據安全等方面的規制措施。
內容標志
深度合成服務提供者對使用其服務生成或者編輯的信息內容,應當采取技術措施添加不影響用戶使用的顯著標識,從而防止公眾混淆誤認。
主體報備和用戶實名制
具有輿論屬性或者社會動員能力的服務提供者和技術支持者應當按照《互聯網信息服務算法推薦管理規定》履行備案手續,并在網站、應用程序公示,同時按照國家有關規定開展安全評估;服務提供商需要對深度合成服務使用者進行真實身份信息認證。颯姐團隊認為之后會出臺針對深度合成內容專門的備案手續。
內容審核機制和救濟機制
服務提供者應當加強深度合成內容管理。采取技術或者人工方式對輸入數據和合成結果進行審核,建立健全用于識別違法和不良信息的特征庫,完善入庫標準、規則和程序,記錄并留存相關網絡日志。
服務提供者應當建立健全辟謠機制。發現利用深度合成服務制作、復制、發布、傳播虛假信息的,應當及時采取辟謠措施,保存有關記錄,并向網信部門和有關主管部門報告。
個人信息保護和數據安全
服務提供者和技術支持者應當加強訓練數據管理,采取必要措施保障訓練數據安全,若數據集中包含個人信息,則需遵循個保法相關規定和配套標準。
算法安全評估
規定要求合成服務提供者和技術支持者應當加強技術管理,定期審核、評估、驗證生成合成類算法機制機理,強調了處理具有生物識別信息、可能涉及國家信息的模型、模板需要進行安全評估,相關審核、評估機制尚未明確要求。颯姐團隊認為該類評估由于企業對核心技術披露的限制以及當前評估技術的局限性,困難重重。
寫在最后
深度合成歸根結底是人工智能技術,尤其是算力發展的產物,其獨特的創造性注定會逐漸走入生產生活,因此監管體系和合規體系的構建是必然路徑。
深度合成技術上的特殊性要求我們一方面做好深度合成配套法律法規、標準的制定和完善,企業逐步摸索出一條合規路徑,另一方面投入到深度合成檢測追蹤技術的開發與應用,法律、技術雙管齊下,為做優產業發展環境提供重要基石,最終促進整個行業的健康發展。
Tags:區塊鏈NFT數字人CHA區塊鏈存證平臺NFTALLBI價格數字人民幣怎么把錢轉到銀行卡blockchain.infoapi
撰文:ThorHartvigsen編譯:aididiaojp.eth,ForesightNews自去年年中以來,Arbitrum一直是我投入精力和資金最多的生態.
1900/1/1 0:00:00一旦新技術在發展過程中發生意外,受到最大傷害的往往會是邊緣化的群體。打個比方,自動決定內容訪問權限和圖像闡釋方式的算法實際上受到了種族主義和性別歧視的影響.
1900/1/1 0:00:00撰文:nanfengpo,Opside聯合創始人關于PoS&PoW的混合共識NativeRollup是一個基于zk的Layer3擴容解決方案.
1900/1/1 0:00:00作者:veDAO 一個新晉NFT市場再次掀起加密市場的波瀾。2月5日,據DuneAnalytics數據顯示,Blur近三個月成交量突破2億美元,遠超同類NFT聚合器.
1900/1/1 0:00:00據英國《金融時報》1月27日報道,美國華爾街多家投資銀行日前警告稱,美國政府正走向2011年以來風險最高的債務危機,國會兩黨日益激烈的對抗和經濟環境的變化可能導致美國發生債務違約.
1900/1/1 0:00:00誰控制了過去,誰就控制了未來;誰控制了現在,誰就控制過去。—《一九八四》2007年,加拿大皇家銀行的交易員勝山發現了一件令他感到困惑的事情,當他在交易終端按下買入鍵的一瞬間,所有的訂單消失了.
1900/1/1 0:00:00