OpenAI官方解讀ChatGPT插件：語言模型的“眼睛和耳朵”_PTP:API幣PTP價格

根據我們的迭代部署理念，我們正在逐步推出ChatGPT插件，以便我們可以研究它們在現實世界中的使用、影響以及安全和協調方面的挑戰——所有這些我們都必須做好，才能實現我們的使命.

自從我們推出ChatGPT以來，用戶一直要求插件，因為它們可以解鎖大量可能的用例。我們從一小部分用戶開始，并計劃隨著我們了解更多逐步推出更大規模的訪問。我們很高興能夠建立一個塑造人機交互范式未來的社區。

被邀請的插件開發人員可以使用我們的文檔為ChatGPT構建插件，然后在向語言模型顯示的提示中列出已啟用的插件以及指導模型如何使用每個插件的文檔。第一批插件由Expedia、FiscalNote、Instacart、KAYAK、Klarna、Milo、OpenTable、Shopify、Slack、Speak、Wolfram和Zapier創建。

我們自己也開發了兩個插件，一個網絡瀏覽器和代碼解釋器。我們還開源了知識庫檢索插件的代碼，任何開發人員都可以自行托管他們想要用來增強ChatGPT的信息。

今天，我們將開始將插件alpha訪問權限擴展到候補名單中的用戶和開發人員。雖然我們最初會優先考慮少數開發人員和ChatGPTPlus用戶，但我們計劃隨著時間的推移推出更大規模的訪問。

如何使用ChatGPT插件的示例

概述

今天的語言模型雖然對各種任務有用，但仍然有限。他們可以從中學習的唯一信息是他們的訓練數據。此信息可能已過時，并且適用于所有應用程序。此外，語言模型唯一可以開箱即用的就是發出文本。此文本可能包含有用的說明，但要真正遵循這些說明，需要另一個過程。

OpenSea疑似存在版稅漏洞，NFT項目無法設置或更改版稅:5月16日消息，NFT交易所EZswap聯合創始人兼首席執行官alexpf.eth發推文稱：“OpenSea疑似存在版稅漏洞，最近OpenSea似乎更改所有者的識別標準，這意味著NFT項目不能設置或更改版稅。這個錯誤非常嚴重，它已存在了2天。”[2023/5/16 15:05:43]

雖然不是一個完美的類比，但插件可以成為語言模型的“眼睛和耳朵”，使它們能夠訪問太新、太私人或太具體而無法包含在訓練數據中的信息。為了響應用戶的明確請求，插件還可以使語言模型代表他們執行安全、受限的操作，從而提高整個系統的實用性。

我們預計開放標準將會出現，以統一應用程序接入AI界面的方式。我們正在對這樣一個標準的外觀進行早期嘗試，我們正在尋找有興趣與我們一起構建的開發人員的反饋。

今天，我們開始逐步為ChatGPT用戶啟用早期合作者的現有插件，首先是ChatGPTPlus訂閱者。我們還開始推出開發人員為ChatGPT創建自己的插件的能力。

在接下來的幾個月里，隨著我們從部署中學習并繼續改進我們的安全系統，我們將迭代這個協議，我們計劃讓使用OpenAI模型的開發人員能夠將插件集成到他們自己的應用程序中，而不是ChatGPT。

安全性和更廣泛的影響

將語言模型連接到外部工具會帶來新的機會，同時也會帶來重大的新風險。

插件提供了解決與大型語言模型相關的各種挑戰的潛力，包括“幻覺”，跟上最近的事件，以及訪問專有信息源。通過集成對外部數據的顯式訪問——例如在線最新信息、基于代碼的計算或自定義插件檢索信息——語言模型可以通過基于證據的參考來加強它們的響應。

Jack Dorsey向非營利組織OpenSats捐贈1000萬美元:5月5日消息，據官方博客，專注于比特幣等項目的非營利組織OpenSats宣布從Jack Dorsey的慈善計劃那里收到了1000萬美元的捐款，該捐款將用于支持以比特幣、去中心化社交協議Nostr和相關技術為重點的免費開源軟件和項目的開發。

所有捐贈的資金將全部分配給OpenSats董事會審查的項目。startsmall的捐贈包括為OpenSats的運營預算提供資金，此外，捐贈金額的一半（500萬美元）將用于推進不斷發展的新Nostr生態系統。OpenSats表示其已建立了一個由Nostr開發者組成的委員會，包括fiatjaf和NVK，他們將幫助OpenSats評估項目和協議的貢獻。[2023/5/5 14:43:40]

這些參考資料不僅增強了模型的實用性，還使用戶能夠評估模型輸出的可信度并仔細檢查其準確性，從而有可能減輕與我們最近的GPT-4系統卡片中討論的過度依賴相關的風險。最后，插件的價值可能遠遠超出通過幫助用戶處理各種新用例的現有限制。

與此同時，插件可能會采取有害或無意的行動，增加不法分子欺詐、誤導或虐待他人的能力，從而增加安全挑戰。通過增加可能的應用范圍，插件可能會增加因模型在新領域中采取的錯誤或錯誤協調操作而產生負面后果的風險。從第一天起，這些因素就指導了我們插件平臺的開發，我們實施了多項保障措施。

從第一天起，這些因素就指導了我們插件平臺的開發，我們實施了多項保障措施。

我們已經在內部和與外部合作者進行了紅隊演練，揭示了許多可能的相關場景。例如，我們的紅隊發現了插件的方法——如果在沒有安全措施的情況下發布——執行復雜的提示注入、發送欺詐和垃圾郵件、繞過安全限制或濫用發送到插件的信息。我們正在使用這些發現來通知安全設計緩解措施，這些緩解措施限制了有風險的插件行為，并提高了它們作為用戶體驗的一部分運行的方式和時間的透明度。我們還使用這些發現來告知我們逐步部署對插件的訪問的決定。

區塊鏈公司OpenZeppelin為元宇宙項目推出安全服務:金色財經報道，區塊鏈公司OpenZeppelin宣布為元宇宙項目推出安全服務，為基于元宇宙的應用程序提供全面的安全分析，該公司計劃通過應用實時監控來持續檢測此類協議中的潛在威脅和異常。Animoca Brands子公司The Sandbox為該服務的第一個注冊客戶。

OpenZeppelin的元宇宙安全服務有多個組件。首先是The Sandbox使用的現有日志、密鑰管理系統和基于API的系統將通過一個名為Defender的安全工具與一個單一的安全儀表板集成。其次，該服務將OpenZeppelin的專業知識與Forta結合起來，在發現The Sandbox上的任何風險或異常情況時發送通知。[2022/12/16 21:48:00]

如果你是一名研究人員，有興趣研究該領域的安全風險或緩解措施，我們鼓勵你使用我們的研究人員訪問計劃。我們還邀請開發人員和研究人員提交與插件相關的安全和功能評估，作為我們最近開源的Evals框架的一部分。

插件可能會產生廣泛的社會影響。例如，我們最近發布了一份工作論文，其中發現能夠使用工具的語言模型可能比沒有工具的語言模型產生更大的經濟影響，更普遍地說，根據其他研究人員的發現，我們預計當前的人工智能技術浪潮將對工作轉變、替代和創造的速度有很大影響。我們渴望與外部研究人員和我們的客戶合作研究這些影響。

瀏覽Alpha

一個知道何時以及如何瀏覽互聯網的實驗模型

受過去工作的啟發，允許語言模型從互聯網上讀取信息嚴格擴展了他們可以討論的內容量，超越了訓練語料庫的新鮮信息。

OpenSea以違規進行金融活動為由將DAO Turtles項目退市:金色財經報道，10月11日，NFT交易市場OpenSea已經暫停了一個DAO Turtles項目的交易，聲稱它違反了開展金融活動的相關規則。

該公司的一名員工寫道，DAO Turtles違反了其服務條款，包括但不限于創建、上市或購買證券、商品、期權、房地產或債務工具\"，或通過包括首次代幣發行在內的一系列方法為企業或協議籌集資金。（theblock）[2021/10/11 20:20:55]

這是向ChatGPT用戶開放瀏覽體驗的一個例子，以前會讓模型禮貌地指出它的訓練數據沒有包含足夠的信息來讓它回答。在這個示例中，ChatGPT檢索有關最新奧斯卡頒獎典禮的最新信息，然后執行現在熟悉的ChatGPT操作，這是瀏覽可以成為一種附加體驗的一種方式。

ChatGPT瀏覽插件演示

除了為最終用戶提供明顯的實用性之外，我們認為使語言和聊天模型能夠進行徹底和可解釋的研究具有可擴展對齊的令人興奮的前景。

瀏覽最新信息

安全考慮

我們已經創建了一個網絡瀏覽插件，它可以讓語言模型訪問網絡瀏覽器，其設計將安全性和作為網絡良好公民的操作放在首位。該插件的基于文本的Web瀏覽器僅限于發出GET請求，這減少某些類別的安全風險。這將瀏覽插件的范圍限定為可用于檢索信息，但不包括“事務性”操作，例如表單提交，這些操作具有更大的安全性和安全性問題。

Opera瀏覽器將發布“反惡意挖比特幣”功能:加密貨幣惡意挖掘軟件最近已經成為網絡安全領域的熱門話題，目前一些流行的互聯網瀏覽器已經開始針對這一問題提供防護。Opera瀏覽器的開發者已經宣布，他們軟件的下一個版本將提供一個內置的“反比特幣挖礦”功能，簡稱為Nocoin。這個新的保護功能有望阻止任何可能濫用設備計算能力的加密貨幣挖掘腳本。Opera軟件團隊成員Kornelia Mielczarczyk向用戶解釋說，如果你的電腦突然變得很熱，CPU使用率突然變成了100%，電腦風扇瘋狂的轉，電池很快要被耗盡了，這一切看似毫無理由，但卻表明很有可能有人利用你的計算機在挖掘比特幣。[2017/12/27]

瀏覽插件使用bing搜索API從Web檢索內容。因此，我們繼承了Microsoft在(1)信息來源可靠性和真實性以及(2)防止檢索有問題內容的“安全模式”方面的大量工作。該插件在一個獨立的服務中運行，因此ChatGPT的瀏覽活動與我們基礎設施的其余部分是分開的。

為了尊重內容創作者并遵守網絡規范，我們的瀏覽器插件的用戶代理令牌是ChatGPT-User，并配置為尊重網站的robots.txt文件。這可能偶爾會導致“點擊失敗”消息，這表明該插件正在遵守網站的指示以避免對其進行抓取。此用戶代理將僅用于代表ChatGPT用戶采取直接操作，而不用于以任何自動方式抓取網絡。我們還發布了IP出口范圍。此外，已實施限速措施以避免向網站發送過多流量。

點擊失敗

您可以使用robots.txt文件阻止ChatGPT抓取你的網站，當發生這種情況時，ChatGPT將顯示此錯誤消息。

我們的瀏覽插件顯示訪問過的網站，并在ChatGPT的回復中引用其來源。這種增加的透明度層有助于用戶驗證模型響應的準確性，并回饋內容創建者。我們贊賞這是一種與網絡交互的新方法，并歡迎就其他方法將流量拉回來源并增加生態系統的整體健康狀況提供反饋。

代碼解釋器

一個可以使用Python處理上傳和下載的實驗性ChatGPT模型

我們為我們的模型提供了一個在沙盒、防火墻執行環境中工作的Python解釋器，以及一些臨時磁盤空間。由我們的解釋器插件運行的代碼在一個持久會話中進行評估，該會話在聊天對話期間一直有效，后續調用可以相互構建。我們支持將文件上傳到當前對話工作區并下載您的工作結果。

執行邏輯計算的代碼解釋器插件

我們希望我們的模型能夠使用它們的編程技能為我們計算機的最基本功能提供更自然的接口。接觸到以指尖的速度工作的非常熱心的初級程序員可以使全新的工作流程變得輕松高效，并向新的受眾開放編程的好處。

從我們最初的用戶研究中，我們確定了使用代碼解釋器特別有用的用例：

解決定量和定性的數學問題

進行數據分析和可視化

在格式之間轉換文件

我們邀請用戶嘗試代碼解釋器集成并發現其他有用的任務。

ChatGPT解釋器插件演示

安全考慮

將我們的模型連接到編程語言解釋器的主要考慮因素是對執行進行適當的沙盒處理，以便AI生成的代碼不會在現實世界中產生意外的副作用。我們在安全環境中執行代碼，并使用嚴格的網絡控制來防止外部互聯網訪問執行代碼。此外，我們對每個會話都設置了資源限制。禁用互聯網訪問限制了我們代碼沙箱的功能，但我們相信這是正確的初始權衡。第三方插件被設計為將我們的模型連接到外部世界的安全第一方法。

檢索

開源檢索插件使ChatGPT能夠訪問個人或組織信息源。它允許用戶通過提問或用自然語言表達需求，從他們的數據源中獲取最相關的文檔片段，例如文件、筆記、電子郵件或公共文檔。

作為一個開源和自托管的解決方案，開發人員可以部署他們自己的插件版本并在ChatGPT上注冊。該插件利用OpenAI嵌入并允許開發人員選擇矢量數據庫來索引和搜索文檔。信息源可以使用webhooks與數據庫同步。

首先，訪問檢索插件存儲庫。

ChatGPT檢索插件演示

安全考慮

檢索插件允許ChatGPT搜索內容矢量數據庫，并將最佳結果添加到ChatGPT會話中。這意味著它沒有任何外部影響，主要風險是數據授權和隱私。開發人員應該只將他們有權使用的內容添加到他們的檢索插件中，并且可以在用戶的ChatGPT會話中共享。

第三方插件

一個知道何時以及如何使用插件的實驗模型

ChatGPT中的第三方插件

第三方插件由清單文件描述，其中包括插件功能的機器可讀描述以及如何調用它們，以及面向用戶的文檔。

示例：用于管理todo事項的插件的清單文件

創建插件的步驟是：

使用您希望語言模型調用的端點構建API。

創建一個記錄您的API的OpenAPI規范，以及一個鏈接到OpenAPI規范并包含一些特定于插件的元數據的清單文件。

在chat.openai.com上開始對話時，用戶可以選擇他們想要啟用的第三方插件。有關已啟用插件的文檔作為對話上下文的一部分顯示給語言模型，使模型能夠根據需要調用適當的插件API來實現用戶意圖。目前，插件是為調用后端API而設計的，但我們正在探索也可以調用客戶端API的插件。

ChatGPT第三方插件演示

ChatGPT插件開發者體驗

未來

我們正在努力開發插件并將它們帶給更廣泛的受眾。我們有很多東西要學，在大家的幫助下，我們希望構建一些既有用又安全的東西。

Tags：GPTAPIPTPGPT價格GPT幣API價格API幣PTP價格PTP幣

SOL