馬斯克資助的ChatGPT與AIGC 對內容生態的挑戰_GPT:BKchain

創作者：DAOctor

Elon Musk創立的OpenAI基金會的最新聊天機器人ChatGPT以其強大寫作、對話能力席卷了網絡世界。ChatGPT 是一種由人工智能驅動的聊天機器人，它以一種令人信服的對話方式與用戶互動。ChatGPT對問題深思熟慮和全面的回答（即使不準確）令用戶震驚，包括學術界和科技行業。

該工具迅速走紅。周一，Open AI 的聯合創始人、著名的硅谷投資者Sam Altman在 Twitter 上表示，ChatGPT 的用戶已突破 100 萬。 

知名的科技投資人Box 首席執行官 Aaron Levie也表示：“當一項新技術調整了你對計算的想法時，會有一種特定的感覺。谷歌、 火狐、 AWS 、iPhone 都做到了。OpenAI 正在通過 ChatGPT 做到這一點”。

馬斯克宣布成立X.AI的人工智能公司后相關加密代幣上漲3%:金色財經報道，馬斯克推出一家名為xAI的新人工智能公司，與人工智能(AI)相關的加密代幣上漲了3%以上。SingularityNET(AGIX)等代幣上漲了6%以上，而Fetch.ai(FET)則上漲了約3%。據該公司網站稱，該團隊將由馬斯克領導，成員包括曾在DeepMind、OpenAI、谷歌研究院、微軟研究院、特斯拉和多倫多大學工作過的成員。[2023/7/13 10:51:54]

與其他人工智能工具一樣，ChatGPT 也可能擾亂創意產業、延續偏見和傳播錯誤信息。如Stack Overflow暫時禁止用戶分享ChatGPT生成的回復。因為ChatGPT很容易與用戶互動，且可以快速生成大量回答，這讓網站充斥著許多第一眼看起來是正確的答案，但在仔細檢查后就能發現其中的錯誤。

馬斯克呼吁暫停至少六個月時間比GPT-4更強大的AI:金色財經報道，馬斯克和1000多名人工智能專家及行業高管簽署聯名信，呼吁暫停至少六個月時間訓練比 GPT-4 更強大的人工智能系統，這種暫停應該是公開的、可核查的，并包括所有的關鍵參與者。如果這種暫停不能迅速頒布，政府應該介入并制定一個暫停令。

信中寫道：只有在我們確信它們的效果是積極的，風險是可控的情況下，才應該開發強大的人工智能系統。（utureoflife.org）[2023/3/29 13:32:41]

因此，本文，我們將討論最近流行的AIGC工具ChatGPT及此類工具對內容生態審核制度的挑戰。

Generative Pre-trained Transformer （GPT），是一種基于互聯網可用數據訓練的文本生成深度學習模型。它用于問答、文本摘要生成、機器翻譯、分類、代碼生成和對話 AI。

2018 年，NLP（自然語言處理）的預訓練模型元年，GPT-1 誕生，此時的GPT-1 僅是一個語言理解工具而非對話式 AI。2019年GPT-2采用更多的網絡參數與更大的數據集進行訓練，此時的GPT-2展現出普世且較強的能力，并在多個特定的語言建模任務上實現了彼時的最佳性能。隨后，GPT-3 出現，作為一個無監督模型（自監督模型），幾乎可以完成自然語言處理的絕大部分任務，例如面向問題的搜索、閱讀理解、語義推斷、機器翻譯、文章生成和自動問答等等。GPT-3的出現使人們看到了通用人工智能的希望。

消息人士：馬斯克將控制推特員工的薪酬水平:金色財經報道，據消息人士稱，馬斯克告訴為其收購推特(TWTR.N)提供支持的銀行，他將控制該社交媒體平臺員工的薪酬水平。馬斯克還概述了將嵌入式推文貨幣化的計劃。馬斯克在本月早些時候的一條推文中建議對這家社交媒體巨頭的Twitter Blue高級訂閱服務進行一系列改革，包括降低價格、禁止廣告和提供加密貨幣dogecoin的支付選項。（路透社）[2022/4/29 2:39:11]

今天，ChatGPT 的到來，也被視為文本生成器 GPT-3 的下一個迭代，為GPT-4到來拉開序幕。

ChatGPT 是一種大型語言模型，通過大量在線信息進行訓練并創建其響應。注冊 ChatGPT 后，用戶可以要求人工智能系統回答一系列問題，這些問題包括開放性問題：例“生命的意義是什么？” 加密貨幣值得投資“？” “什么是Hacker Movement”等。

推特CEO：埃隆·馬斯克決定不加入我們的董事會:4月11日消息，推特CEO表示：埃隆·馬斯克決定不加入我們的董事會。馬斯克是我們最大的股東，我們將繼續接受他的意見。 （金十）[2022/4/11 14:17:05]

02.ChatGPT 如何工作的？

談到ChatGPT的算法模型， 其前身InstructGPT仍值得關注。

2022 年初，OpenAI 發布了 InstructGPT。開發人員通過結合監督學習+人類反饋強化學習，提高 GPT-3 的輸出質量。在這種學習中，人類對模型的潛在輸出進行排序，強化學習算法則對產生類似于高級輸出材料的模型進行獎勵。

加密交易者創建機器人以在馬斯克發布相關推文時自動購買BTC:金色財經報道，由于特斯拉CEO埃隆·馬斯克（Elon Musk）對加密貨幣市場產生了巨大的影響。對此，倫敦加密貨幣交易者Andrei Badoiu創建了一個機器人。當馬斯克發出有關比特幣的推文時，該機器人會自動購買比特幣，并且交易可以在推文發出的幾秒鐘內進行。[2021/3/31 19:31:08]

訓練數據集以創建提示開始，其中一些提示是基于 GPT-3 用戶的輸入，比如“解釋什么是Hacker Movement”或“給一個小學生解釋Hacker”。

開發人員將提示分為三個部分，并以不同的方式為每個部分創建響應：

人類作家會對第一組提示做出響應。開發人員微調了一個經過訓練的 GPT-3 ，將它變成 InstructGPT 以生成每個提示的現有響應。

下一步是訓練一個模型，使其對更好的響應做出更高的獎勵。對于第二組提示，經過優化的模型會生成多個響應。人工評分者會對每個回復進行排名。在給出一個提示和兩個響應后，一個獎勵模型（另一個預先訓練的 GPT-3）學會了為評分高的響應計算更高的獎勵，為評分低的回答計算更低的獎勵。

開發人員使用第三組提示和強化學習方法近端策略優化（Proximal Policy Optimization， PPO）進一步微調了語言模型。給出提示后，語言模型會生成響應，而獎勵模型會給予相應獎勵。PPO 使用獎勵來更新語言模型。

ChatGPT 和 InstructGPT 算法模型基本一樣。不同之處在于數據如何被收集和訓練。

 InstructGPT ：給一個輸入就給一個輸出，再跟訓練數據對比，對了有獎勵，不對有懲罰；

 ChatGPT： 給一個輸入，模型給出多個輸出，然后人（AI訓練師）對輸出結果排序，讓模型使得這些結果從“更像人話”到“沒有邏輯”排序。

與其他 AI 聊天機器人不同，本著構建更加負責任的強人工智能原則， ChatGPT可以回答后續問題、承認錯誤、挑戰不正確的問題并拒絕不適當的請求。

寫在這里記起，科幻小說家艾薩克·阿西莫夫（Isaac Asimov）為機器人設定的行為準則—機器人三定律：

第一法則：機器人不得傷害人類，或坐視人類受到傷害；

第二法則：機器人必須服從人類命令，除非命令與第一法則發生沖突；

第三法則：在不違背第一或第二法則之下，機器人可以保護自己。

不可置疑的是AIGC對很多領域產生了積極的影響。如，文本創作、音樂創作、游戲文本生成等。隨著AIGC工具的成熟，其甚至可自主編程、拼接生成新的協議。

但，此類工具向內容生態提出一個全新的問題即：如何應對AIGC的真實性。以ChatGPT為例：

a） 在訓練的強化學習 （RL） 階段，對于問題，并沒有真相和問題標準答案的具體來源；

b） 訓練模型更加謹慎，可能會拒絕回答（以避免提示的誤報）；

c） 監督訓練可能會誤導/偏向模型傾向于知道理想的答案，而不是模型生成一組隨機的響應并且只有人類評論者選擇好的/排名靠前的響應。

人工智能生成的答案有數千個，而這些答案通常需要具有專業知識的人詳細閱讀，才能確定答案實際上是錯誤的，這些錯誤信息很容易破壞以志愿者為基礎的高質量問答社區。

紙質新聞時代，每個事實都必須包含權威的一手或二手資料來源，但現在已經很少有出版物有事實核查員，這就把責任推給了記者和編輯。信息爆炸時代，以人為媒介傳播的虛假信息尚且讓審核機制“頭疼”，很難想象當人工智能開始傳播虛假信息，所帶來的挑戰。尤其是在這個輿論時常反轉的時代，只要一個消息聽起來合理，許多人就會認為這是正確的。

金色早8點

金色財經

去中心化金融社區

CertiK中文社區

虎嗅科技

區塊律動BlockBeats

念青

深潮TechFlow

Odaily星球日報

騰訊研究院

Tags：GPTCHACHATHATBGPT價格BKchainchat幣行情chat幣下架

以太坊價格今日行情