以太坊交易所 以太坊交易所
Ctrl+D 以太坊交易所
ads

美國對 AI 的恐懼 來源于社交媒體的失控_CHA:人工智能

Author:

Time:1900/1/1 0:00:00

美國時間 5 月 16 日,參議院審議 AI 監管議題的聽證會上,氣氛一派祥和。

這是以 ChatGPT 為代表的生成式 AI 科技爆炸性進步后,美國國會舉辦的第一場聽證會,可能奠定未來美國如何監管生成式AI的基調,因此尤其引人關注。

而引人關注的另一點,是因為提供 ChatGPT 的 OpenAI CEO 山姆·奧特曼(Sam Altman),正是聽證會的三位證人之一。另兩位則是長期對 AI 技術持質疑態度的紐約大學榮休教授加里·馬庫斯(Gary Marcus)和 IBM 的首席隱私和信任官克里斯蒂娜·蒙哥馬利(Christina Montgomery)。

歐美互聯網大佬參加的國會舉行的聽證會,一向以劍拔弩張的緊張氛圍,和不懂科技還一定要管科技的國會議員聞名。然而這場聽證會,氛圍卻出乎預料的輕松。

不少議員在發言中表示自己試用過 Open AI 的產品,并據此提問。對 AI 已經產生的問題和未來的風險,也更多地表現出一種溝通,而非問責的態度,與此前扎克伯格、周受資的待遇形成了鮮明對比。部分原因或許來自奧特曼在聽證會前已經與參議員們進行了多次私下溝通,且對 AI 監管表現出非常積極的態度。

聽證會內容橫跨了生成式 AI 帶來的諸多影響,包括不實信息問題、信息操縱人心問題、失業問題、隱私問題、版權問題、壟斷問題等。

對此,三位證人對參議員們的擔憂都表示了不同程度的認同,并認可政府應該對 AI 行業進行監管。

「此次聽證會是歷史性的。我不記得之前在任何情況下,有大企業和私營組織代表來參加聽證會,請求我們去監管他們。」已經當選參議員二十幾年的迪克·德賓(Dick Durbin)在聽證會中感嘆道。

檢察官:美國對SBF的刑事指控是有效的:金色財經報道,檢察官在一份法庭文件指出,對 FTX 創始人 Sam Bankman-Fried(SBF)的刑事指控是有效的,包括 SBF 被引渡回美國和競選財務違規的技術細節,都是有效的。其中,關于違反競選財務法的指控 ,檢察官表示,SBF 的論點站不住腳,因為起訴書詳細說明了他如何努力掩蓋捐款資金來源。[2023/5/30 11:48:26]

多方共識下,問題進一步成為,對生成式 AI 的監管,究竟要怎么管。

無法承受像管社媒

一樣慢管 AI 的后果

雖然聽證會以 AI 監管為主要內容,但「社交媒體」一詞卻不斷出現,在不到三小時的會議中,出現了 32 次之多。

參議員們仿佛在對社交媒體管控「失敗」反思,并想在 AI 領域重新來過。「我們無法承擔像我們曾經管控社交媒體一樣慢地去管控生成式 AI 的后果,因為其影響,不管正面的還是負面的,都會遠遠超出社交媒體帶來的影響。」參議員克里斯·庫恩斯(Chris Coons)表示。

會議雖然討論了多個 AI 相關的問題,但議員們最關注的,還是生成式AI 發布不實消息和操縱人心的問題,而對于尚未到來的通用人工智能的監管則幾乎沒有探討。

整場聽證會以主席理查德·布盧門撒爾(Richard Blumenthal)的一段以 AI 生成的虛擬錄音開場,AI 以相當接近布盧門撒爾的說話方式模擬了一段他可能發表的意見,布盧門撒爾也對 AI 的能力表示認可,但很快他的落點落到了本場聽證會的中心——不實信息。如果 AI 提供的信息是與他本人立場相反的呢?聽眾是不是也會覺得這是他本人的立場?

Ripple CEO:美國對加密貨幣的監管缺乏明確性:Ripple首席執行官Brad Garlinghouse表示,美國對加密貨幣的監管缺乏明確性,這令人沮喪。Brad Garlinghouse對新加坡乃至韓國的市場表示贊賞,在這些市場中,政府確實進行了努力,圍繞加密貨幣進行定義并制定了清晰的監管框架。(CNBC)[2021/4/30 21:13:43]

參議員喬什·霍利(Josh Hawley)引用了一篇 4 月的學術論文,提出 AI 可以通過建模,成功預測出公眾對于一件尚未發生的事情的反應。那是不是意味著如果利用 AI,去做一些策略調整,能成功操縱民意?

對此,奧特曼的回應是,這也是他最擔心的事情之一,「一對一的,互動式的不實信息(傳播)。」他認為需要監管、公司努力和公眾教育結合才能解決。

其中一個可能有效的解決方案是,公眾永遠應當知道自己在和 AI 說話,而不能出現以為自己在和人類對話,實際上在和 AI 對話的情況。

但他總體對人類的適應能力表示樂觀。「在 Photoshop 出來的時候,其中有一段時間人們都很容易被 Photoshop 編輯過的照片欺騙。然而很快,人們有了照片可能是被 Photoshop 編輯過的意識。」

他也進一步強調了,這也是為什么 Open AI 公司要開放 ChatGPT 使用的原因。這樣大家能從一個發展中的產品中,盡早地建立對于這種科技的認知,而避免直接放出一個非常成熟的產品,使大家在尚未建立對生成式 AI 的認知之時就受到科技的沖擊。

前Consensys高管:美國對BITMEX的執法行動或放慢全球創新步伐:前Consensys金融科技和監管科技負責人、咨詢公司Juan Llanos創始人兼董事總經理Juan Llanos在CoinDesk發文稱,BITMEX已完成的所有一切都是在不合規的情況下進行的,而不以任何方式破壞市場。為此,它將付出巨大的代價。一些人認為,通過擊落利用尖端技術在新技術范式下提供投資產品的開拓創新者,政府將保護美國市場作為優先事項。但Llanos認為這樣的執法行動可能會帶來意想不到的結果,即放慢美國乃至全球創新的步伐。[2020/10/7]

使用 Midjourney 生成的一張圖片

聽證會還提到了更強大的 AI,會不會更容易針對我們每個人,提供出最符合我們偏好的信息,更容易引走我們的注意力,和相關的 Open AI 如何處理這類的個人向的數據。

「我們不使用廣告作為營收,所以我們沒有在建立用戶畫像。」奧特曼表示,「我們也沒有在努力讓用戶更多地使用我們。事實上,我們希望用戶更少地使用我們的產品,因為我們 GPU 不足。」

但是他同時認為這絕對是值得擔憂的問題。他非常確定有公司已經在研究相關的事情。Open AI 也無法保證永遠不采取廣告模式盈利。

同時奧特曼也在宣誓過的狀態下再次明確,Open AI 會利用公開網絡上的資料來訓練,但不會用從 API 獲取的用戶數據中訓練,且如果在 ChatGPT 中進行設置,用戶在 ChatGPT 上的數據也可選不成為公司的訓練材料。

支持 AI 研發牌照,

奧特曼有沒有私心?

對 AI,政府該不該進行管理,在此次聽證會上幾乎沒有爭議。在政府監管上利益相關的兩位證人奧特曼和蒙哥馬利都十分認同政府監管。

伊朗表示,使用加密貨幣可以規避美國對美元的影響:在伊朗央行于2018年5月17日發表的一份官方聲明中,該國正在與有關當局進行高級談判,以開發利用加密貨幣進行日常交易的手段。此外,伊朗議會經濟事務委員會認為,使用加密貨幣作為美元和SWIFT的銀行間支付系統的替代品。[2018/5/21]

但到底政府該怎么管,則成為了一個激烈探討的話題。

其中討論最多的一個方向,是是否應該專門建立一個管理生成式 AI 的監管機構。這個監管機構可以在發布前和發布后,聯合獨立專家,全面地檢查一個 AI 模型的安全性,并擁有對犯錯的公司執行吊銷做 AI 模型的權力。實際上,相當于為公司發放 AI 牌照。

「你不能沒有牌照就建一個核反應堆,你不能沒有一個獨立檢測的牌照就建一個 AI 模型。我認為這是很好的類比。」一位議員這樣說道。

奧特曼對此十分認同。「超過一定門檻的任何嘗試都應該得到政府的牌照,而且牌照應當可以收回,以確保其能夠遵守安全標準。」

在一位議員提問政府應當禁止做了某些事情的 AI,還是應當禁止有能力做某些事的 AI 時,他直接回答,兩者皆應被監管。

至于門檻具體是什么,在參議員的要求下,他提供了一個方向,最簡單的可以是以訓練數據量為衡量來進行判斷,更復雜的可以是模型具有了能夠說服人類,改變人類想法的能力,或者能夠創建新的生物制劑后,應該被監管。

說到這,你可能會想,為什么許多行業在面對監管時,都十分抗拒,而奧特曼作為 AI 行業的領導者卻支持一個如此強力的監管方式,希望政府擁有能夠吊銷 AI 牌照的權力?

一種解釋是他的確非常關心 AI 帶來的安全問題。這點得到了曾與他私下會面過的參議員,以及同場的證人馬庫斯教授的認可。

華爾街知名律師:美國對比特幣的全面監管將很快到來:Rodgin Cohen認為,美國對比特幣采取“全面措施”只是時間問題,財政部金融穩定監管委員會(FSOC)將是合適的牽頭機構。美國財長姆努欽近期也提到,FSOC已成立工作組評估比特幣的風險。詳見華爾街見聞網站和APP ?[2018/1/15]

奧特曼在國會回答提問 圖片來源:聽證會截圖

另一種解釋則沒那么無私。在一篇福布斯的文章中,長期關注 AI 發展的資深作者 Jeremy Kahn 提出了另一種解釋:「AI 公司們面臨的最大的挑戰之一來自開源 AI 軟件... 開源社區已經被證明極其具有創新力,能夠敏捷地匹配上大公司專利模型的表現和能力,使用的模型更小,更簡單,可免費下載且訓練起來更廉價。如果出現牌照政策,這些開源公司都將舉步維艱。它們很難為模型裝備穩健的限制,也很難控制人們如何使用它們創造的模型——開源,從本質上來說,就不能避免人們修改代碼和把安全性限制的代碼去掉。」

如果認同后一種解釋的話,似乎也可以解釋為什么奧特曼雖然大力贊成通過牌照政策確保 AI 安全,但是在檢查模型訓練數據方面,則沒有那么積極。

作為 AI 研究者和批評者的證人馬庫斯教授,在認同牌照政策和新建政府機構來監管 AI 的同時,一直極其強調 AI 的透明性,強調獨立專家應該能夠審計大模型訓練的語料。

「我對 GPT-4 最擔憂的一點是我們不知道它訓練的數據是什么... 它訓練依賴的數據對 AI 系統的偏見會有影響。」馬庫斯教授表示,訓練數據可能包含紐約時報,也包含 Reddit,但是「我們不知道它們的比例。」

而奧特曼則雖然原則上認同過應該對「原料」進行審查(但主語并沒有說是政府),更多提及支持「外部審計,紅隊演練,提出一個模型在訓練前需要達到的標準」這類的政府監管,更偏向于以標準和測試的方式讓政府進行檢查。

「我們過去有建立一項測試,可以檢測一個模型是否能自我復制和自己逃脫進入外界。我們可以為政府提供一個長名單,列出一個模型在被正式投放之前我們認為非常重要的一系列檢測。」奧特曼講道。

Open AI 是生成式 AI 領域里無可爭議的領軍企業,如果真的按照這個建議施行,Open AI 顯然有機會極大影響政府設計的 AI 安全標準和發放召回牌照的標準,似乎完全符合福布斯這篇文章的標題《Open AI CEO 山姆·奧特曼想要 AI 牌照監管。這或許對我們是好事。但對 Open AI 絕對是好事》。

除了對開源公司產生威脅,達到一定 AI 能力就需要牌照的政策對于不面向公眾的公司也并不友好。

代表 IBM 的證人蒙哥馬利就反對這項政策。IBM 本身并不面向普通公眾,而是面向商業客戶,許多前述提到的風險,比如操縱選舉的風險對于 IBM 來講并不存在。

蒙哥馬利更偏向于基于風險管理的手段。歐盟 AI 法案目前采取的就是這樣的方式。法案圍繞四類人工智能系統構建,分別是:不可接受的風險、高風險、有限風險以及最低風險。其中前三類將受到法案的監管。針對不同風險,采取不同的監管手段。

「比如選舉信息的例子。當然任何在這個場景下的算法都應該被要求披露訓練所用的數據,模型的表現,任何相關的信息都非常重要。」蒙哥馬利表示。

她同時也認為現有的機構如 FTC 已經足以能夠完成這一任務,無需新建新的機構。

參議員們本身,也并不都支持創建一個新的政府機構。

參議員喬什·霍利(Josh Hawley)語出驚人,「政府機構通常會被他們本來要監管的人所腐蝕,被他們要監管的機構所控制... 為什么我們不直接讓公民告你們?」他提議直接對 1996 年《通信規范法》中的第 230 條款(Section 230)進行明確,使其確認不保護生成式 AI 公司。「我們就打開訴訟的大門。允許人們上法庭。允許他們來提供證據。比如說他們可以說,他們因為得到了錯誤的醫療不實信息而受害,或者錯誤的選舉信息而受害,就可以起訴。為什么不這么做?」

盡管三位證人都認同第 230 條款不應該應用于生成式 AI 的公司,奧特曼和馬庫斯教授都立刻指出,目前法律在生成式 AI 方面很不清晰。馬庫斯教授表示,「我們現有的法律是在人工智能出現很多年前制訂的... 法律官司可能會持續十年甚至更久。」

無解的議題——

壟斷、就業與國際合作

在聽證會上,AI 大模型集中于少數公司之手的議題也被不止一次的提起。奧特曼本人也承認這一點:「開源社區現在有很多奇妙的事情發生,但未來將只有一小部分供應商能夠提供最尖端的模型。」

他認為這樣自然有其風險,但是好處是監管難度也會變小。雖然與會者也都指出這種集中模式有其風險,整個聽證會并沒有人能夠提出一個好的方法解決這一問題。

人工智能帶來的就業問題也是無解。盡管與會人員有提到新科技通常能帶來新就業,馬庫斯教授警告說「歷史不一定會重現... 我認為這次將可能不同。真正的問題是在多大的時間范疇來看?我認為長期來看,通用人工智能真的會取代一大部分的人類工作。」奧特曼盡管發表了較為樂觀的預測,認為人工智能只是工具,未來的工作將會更好,但也承認終究很難預測未來的發展。

在游戲底特律變人中,仿生人取代了人類的許多底層工作 | 圖片來源:底特律變人游戲截圖

另一個無解的議題是國際合作。馬庫斯教授提出,可以建立一個歐洲核子研究中心一樣的國際組織,絕對中立且關注 AI 安全。這一觀點受到不少認可,但是參與聽證會的成員也無法就這個方向繼續深入探討。

人工智能生成的作品的版權,對原創作者和新聞出版業的保護也是一個關注重點。在此次聽證會上,只是略有涉及,參議員們表示,六月和七月還要舉辦多次聽證會,專門針對知識產權問題。美國時間 5 月 17 日,美國眾議院司法委員會下設的法院、知識產權和互聯網小組委員會也舉辦了生成式 AI 知識產權的聽證會。

資本實驗室

企業專欄

閱讀更多

金色薦讀

金色財經 善歐巴

迪新財訊

Chainlink預言機

區塊律動BlockBeats

白話區塊鏈

金色早8點

Odaily星球日報

歐科云鏈

MarsBit

Tags:PENOPENCHA人工智能ethylpentaOPENAIERCUnited Credit Chain人工智能幣ali

比特幣價格
NFT歷史的黑暗面:盤點5大藍籌的至暗時刻_GHT:NFTA

撰文:Lamboland 編譯:Luffy,Foresight NewsNFT 失去了它的輝煌,回顧 NFT 歷史.

1900/1/1 0:00:00
因流動性擔憂加劇 比特幣價格一度跌破2.7萬美元_AIN:blockchain平臺靠譜嗎

最大的加密貨幣比特幣在兩周多以來首次短暫跌破2.7萬美元,人們擔心機構做市商的參與度下降將引發更劇烈的價格波動.

1900/1/1 0:00:00
BRC-20導致比特幣網絡又堵又貴?別忘了它還有這個大殺招_SAT:比特幣虧了幾十萬想死

作者:Wheatstones ;編譯:火火 ;出品:白話區塊鏈近日,由于比特幣生態NFT、BRC-20等陸續火爆導致比特幣網絡越來越擁堵,頭部平臺陸續開始支持閃電網絡提款.

1900/1/1 0:00:00
BTC價格看到25000還是31000?關注黃金坑帶來的布局機會_比特幣:十幾年前用QQ買過比特幣

摘要: BTC已在$27,000-$30,000區間內震蕩多日,我們認為短期內利好出盡,沒有新的驅動因素促使市場上漲,BTC可能在120日均線$25,000附近獲得支撐.

1900/1/1 0:00:00
只保護美國儲戶 硅谷銀行“亞洲客戶”實慘 存款一夜歸零_cardano:SCARY價格

在硅谷銀行倒閉之初,美國聯邦存款保險公司(FDIC)等監管機構信誓旦旦地承諾“保護所有儲戶的存款”,“美國銀行系統非常強大”。 但FDIC食言了。 華爾街日報近日報道稱.

1900/1/1 0:00:00
警惕加密騙局 盤點六大加密資產安全工具_BSP:BSPT幣

原文作者:Emperor Osmo  原文編譯:Felix, PANewsCrypto 領域通常被描述為“狂野的西部”.

1900/1/1 0:00:00
ads