人類生成 or 機器生成？ChatGPT 引發了一場真假辯論_FILE:ECOIN

原文：英國《金融時報》

像 ChatGPT 這樣的大型語言模型是合理性的提供者。 許多聊天機器人基于所謂的生成式人工智能，經過訓練可以通過在互聯網上搜索相關信息并收集連貫的答案來回答用戶的問題，從而生成令人信服的學生論文、權威的法律文件和可信的新聞報道。

但是，由于公開可用的數據包含錯誤信息和虛假信息，一些機器生成的文本可能不準確或不真實。 這引發了人們爭相開發工具來識別文本是由人還是機器起草的。 科學也在努力適應這個新時代，現場討論是否應該允許聊天機器人撰寫科學論文，甚至產生新的假說。

區分人工智能和人類智能的重要性與日俱增。 本月，瑞銀分析師透露，ChatGPT 是歷史上增長最快的網絡應用程序，1 月份每月活躍用戶達到 1 億。 一些部門已經決定沒有必要鎖住穩定的大門：周一，國際文憑組織表示，學生將被允許使用 ChatGPT 撰寫論文，前提是他們注明引用了它。

金色相對論 | 楚航：Filecoin作為服務人類的分布式存儲網絡有著巨大的應用前景:在今日舉行的金色相對論中，針對“Filecoin會不會遇到監管問題？然后影響Filecoin的落地應用”的問題，IPFS中國社區創始人楚航表示，Filecoin涉及到真實的內容存儲，在涉及防暴防恐、非法交易、侵犯兒童等，特別在涉及到國家安全方面，必然會遇到監管的問題。Filecoin作為服務全球人類社會的分布式存儲網絡，有著巨大的應用前景，作為這個網絡生態的建設者，我們希望把Filecoin引導到更加健康、更加符合國家利益、全人類利益的發展方向上來。但，Filecoin畢竟是公鏈項目，Filecoin技術不是完美的，肯定還有很多缺陷，比如TPS是有限的，路漫漫其修遠兮，Filecoin是否能成為全球化的分布式存儲網絡基礎設施，能否為全人類老百姓提供更加安全高效低成本的服務，讓我們一起努力并拭目以待。[2020/5/20]

平心而論，這項技術的創造者坦率地指出了它的局限性。 OpenAI 首席執行官薩姆奧特曼 (Sam Altman) 去年 12 月警告說，ChatGPT“在某些方面足夠出色，足以給人一種偉大的誤導印象”。 我們在穩健性和真實性方面還有很多工作要做。” 該公司正在為其內容輸出開發加密水印，這是一種機器可讀的秘密標點符號、拼寫和詞序序列； 并且正在磨練一個“分類器”來區分合成文本和人工生成的文本，使用兩者的例子來訓練它。

聲音 | 梁捷揚：以區塊鏈為代表的金融科技革命是人類進步的社會運動:金色財經報道，今日，香港區塊鏈協會主席梁捷揚發表2020年新年致辭。他在致辭中表示，信任是一切金融服務的基礎，在資訊時代尚未到來之前，人類必須通過疊床架屋的專業中介環節，才能確保信任基礎與金融服務同步發展，因此也導致了金融服務成本高，效率低的弊端，甚至成為經濟發展的障礙。以Intranet和Internet技術為代表的第一代和第二代網絡科技，促使金融服務行業開始走向“去中介化”的道路，減少包括支付轉賬、證券交易和上市融資在內的金融交易過程中多層中介環節。削弱壟斷組織的市場地位，讓交易終端受益匪淺。而以分散帳本或區塊鏈技術為核心的新一代網絡科技的到來，則更進一步利用演算法及智能合約強化信任基礎，并將價值交換過程的中介功能全面自動化，大幅降低了時間，金錢和人力成本及人為失誤。

以區塊鏈技術為基礎的當代金融科技，正逐步推進端到端“去中介化”運動，并能更好地協助政府對金融活動進行監管重組。無論是銀行業還是資本市場，勢必將更加透明，開放，流程簡化，降低成本，讓金融資產更容易流轉，分享，更高效地推動經濟發展，創新創業，并逐步推動金融資產共有，共治，共享的新型生產關系。全面到來的金融科技革命，因此也正是一場人類進步的社會運動。

香港獨特的一國兩制制度，大灣區在經濟領域的進一步整合，中國大陸廣大市場和應用場景，以及區塊鏈作為國家科技發展戰略的新政策，都將成為香港再次領軍數字經濟新金融的巨大助力。[2019/12/31]

斯坦福大學的研究生 Eric Mitchell 認為分類器需要大量的訓練數據。 他與同事一起提出了 DetectGPT，這是一種發現差異的“零樣本”方法，這意味著該方法不需要事先學習。 相反，該方法會自行啟動聊天機器人，以嗅探出自己的輸出。

聲音 | 習近平：當前數字經濟發展日新月異 深刻重塑世界經濟和人類社會面貌:據人民日報報道，國家主席習近平出席了G20大阪峰會中的數字經濟會議并應日本首相安倍晉三的邀請第一位講話。習近平指出，當前數字經濟發展日新月異，深刻重塑世界經濟和人類社會面貌。我們要營造公平、公正、非歧視的市場環境，不能關起門來搞發展，更不能人為干擾市場；要共同完善數據治理規則，確保數據的安全有序利用；要促進數字經濟和實體經濟融合發展，加強數字基礎設施建設，促進互聯互通；要提升數字經濟包容性，彌合數字鴻溝。習近平表示，作為數字經濟大國，中國愿積極參與國際合作，保持市場開放，實現互利共贏。[2019/6/29]

它是這樣工作的：DetectGPT 詢問聊天機器人它對示例文本的“喜歡”程度，“喜歡”是示例與其自己的創作有多相似的簡寫。 DetectGPT 然后更進一步——它“擾亂”了文本，稍微改變了措辭。 假設是聊天機器人在“喜歡”更改后的人工生成文本方面比更改后的機器文本更具可變性。 研究人員聲稱，在早期測試中，該方法在 95% 的時間內正確地區分了人類和機器作者。

聲音 | John McAfee：不研究區塊鏈只買幣將錯過人類的最大機遇:John McAfee剛剛在社交媒體表示，如果我們不把加密技術和區塊鏈作為改進世界的一種方式來研究，而只是大量購入加密貨幣坐等牛市，那么人類會在貪欲中喪失迄今為止最大的一次機遇。[2018/11/14]

需要注意的是：這些結果尚未經過同行評審； 該方法雖然優于隨機猜測，但在所有生成式 AI 模型中的工作可靠性并不相同。 對合成文本進行人為調整可能會愚弄 DetectGPT。

這一切對科學意味著什么？ 科學出版是研究的命脈，將想法、假設、論據和證據注入全球科學經典。 一些人很快就將 ChatGPT 作為研究助理，一些有爭議的論文將 AI 列為合著者。

Meta 甚至推出了一款名為 Galactica 的科學專用文本生成器。 三天后它被撤回了。 在它被使用的這段時間，構建了一段熊在太空旅行的虛構歷史。

Tübingen 的馬克斯普朗克智能系統研究所的邁克爾·布萊克教授當時在推特上表示，他對 Galactica 對有關他自己研究領域的多項詢問的回答感到“困擾”，包括將虛假論文歸咎于真正的研究人員。 “在所有情況下，[Galactica] 都是錯誤的或有偏見的，但聽起來是正確和權威的。 我認為這很危險。”

危險來自于看似合理的文本滑入真正的科學提交，用虛假引用充斥文獻并永遠歪曲經典。 《科學》雜志現在完全禁止生成文本； 《自然》雜志則允許使用它，前提是必須對使用進行了聲明，但禁止將其列為共同作者。

話又說回來，大多數人不會查閱高端期刊來指導他們的科學思維。 如果狡猾的人如此傾向，這些聊天機器人可以按需噴出大量引用偽科學，解釋為什么疫苗不起作用，或者為什么全球變暖是個騙局。 在線發布的誤導性材料可能會被未來的生成人工智能吞噬，產生新的謊言迭代，進一步污染公共話語。

販賣懷疑的商人肯定已經摩拳擦掌，迫不及待了。

DeFi之道

個人專欄

閱讀更多

金色財經 善歐巴

金色早8點

Odaily星球日報

歐科云鏈

Arcane Labs

深潮TechFlow

MarsBit

BTCStudy

澎湃新聞

Tags：OINFILEECOINFILFlexacoinfile幣價ecoin幣充值換算fil幣價格今日行情幣界網

XLM