終於,OpenAI開放ChatGPT API,成本直降90%,百萬token才2美元

機器之心pro 發佈 2024-04-29T13:38:22.738060+00:00

OpenAI 表示,其 ChatGPT API 可以用於創建人工智慧驅動的聊天界面,該技術已經在科技公司 Snap 的 My AI 上集成。

機器之心報導

機器之心編輯部

現在,第三方可以通過 API 將對話模型 ChatGPT 和語音轉文本模型 Whisper 集成到自己的應用程式和服務中了。

2022 年 11 月,OpenAI 上線 Chatgpt,自此以後,這個對話模型一路開掛。毫不誇張的說,與 ChatGPT 相關的話題應該算是繼 AlphaGo 以來,最出圈的人工智慧熱點了,推出僅僅兩個月,月活用戶就破億,成為史上用戶增長速度最快的消費級應用程式。

ChatGPT 的出現,讓大家覺得,AI 似乎終於能夠和人正常交流了,雖然有時候會出錯,但在交流的過程中至少沒有語言和邏輯上的障礙,它能「懂」你在說什麼,並且按照人類的思維模式和語言規範給你反饋。

與此同時,各大科技公司、高校甚至是個人也都在緊鑼密鼓的投入到類 ChatGPT 的研發中,勢必要趕上這波浪潮。

OpenAI 這邊也在不斷進行模型的升級改造。3 月 1 日,OpenAI 官方宣布,開發者現在可以通過 API 將 ChatGPT 和 Whisper 模型集成到他們的應用程式和產品中。

具體來說,OpenAI 現在允許第三方開發人員通過 API 將 ChatGPT 集成到他們的應用程式和服務中,這樣做比使用其現有語言模型要便宜得多。除此以外,OpenAI 還宣布了另一個新的 Whisper API,這是 OpenAI 去年 9 月推出的由人工智慧驅動的語音轉文本模型,可通過 API 使用。OpenAI 這次宣布的兩項 API,可以說是相當炸裂了。

OpenAI 表示,其 ChatGPT API 可以用於創建人工智慧驅動的聊天界面,該技術已經在科技公司 Snap 的 My AI 上集成。OpenAI 還表示,這次 ChatGPT API 接入的模型名為 GPT-3.5-turbo,這是許多非聊天用例的最佳模型。值得注意的是,該模型可能與 Bing 使用的模型不同,根據 OpenAI 的說法,它比 ChatGPT 、GPT- 3.5 更快、更準確、更強大。

OpenAI 前腳剛官宣,後腳就有人直呼被 ChatGPT 的表現驚呆了。表示自己正在尋找一種快速的方法來提取公司的 logos ,讓 ChatGPT 幫忙構建一個工具,僅僅過了 15 分鐘 ChatGPT 就給出解決方案,自己只需改變一行代碼就能使用。

還有人使用該 API 在 Python 中構建命令行聊天機器人。ChatGPT 給出了 16 行實現代碼。

下面我們來看看 ChatGPT API、Whisper API 具體內容有哪些。

ChatGPT API,使用成本降低 90%

OpenAI 表示,gpt-3.5-turbo 與 ChatGPT 產品中使用的是相同的模型。它的費用是 1000 tokens 只需要 0.002 美元,將此前 GPT-3.5 使用成本降低 90%。gpt-3.5-turbo 對於很多非聊天用例也是最佳模型,測試者只要將他們的 prompts 做少量調整,就能從 text-davinci-003 遷移到 gpt-3.5-turbo。

傳統上,GPT 模型使用非結構化文本,這些文本在模型中表示為一系列 tokens。而 ChatGPT 模型改用具有元數據的消息序列。在後台,輸入仍然作為 tokens 呈現給模型,模型使用的原始格式是一種被稱為 Chat Markup Language(ChatML)的新格式。

OpenAI 創建了一個與 ChatGPT 模型交互的新端點。新 API 同樣可以通過 Python 綁定的方式使用,只要「import openai」即可,具體代碼如下所示。

import openai

cmpletion = openai.ChatCompletion.create (
 model="gpt-3.5-turbo", 
 messages=[{"role": "user", "content": "Tell the world about the ChatGPT API in the style of a pirate."}]
)

print (completion)

ChatGPT 更新計劃

OpenAI 不斷改進其 ChatGPT 模型,並希望將這些增強的功能開放給開發人員。因此使用 gpt-3.5-turbo 模型的開發人員將始終獲得 OpenAI 推薦的穩定模型,同時仍能靈活地選擇特定模型版本。比如,OpenAI 今天發布了 gpt-3.5-turbo-0301,該版本將至少在 6 月 1 日之前得到支持。4 月將會更新 gpt-3.5-turbo 的穩定版本。

Whisper API,語音轉錄文本更便捷

作為 OpenAI 於 2022 年 9 月開源的語音到文本模型,Whisper 已經獲得了開發者社區的盛譽,但運行起來卻也很難。

如今,OpenAI 通過開放 APT 向外提供 large-v2 模型,包括方便的按需訪問,價格也不貴(0.006 美元 / 分鐘)。與其他同類服務相比,OpenAI 高度優化的服務堆棧保證了更快的輸出速度。

具體地,Whisper API 通過 transcriptions(源語言轉錄)或 translations(翻譯為英語)端點使用,允許 m4a、mp3、mp4、mpeg、mpga、wav、webm 等各種格式的輸入。

Whisper API 同樣可以通過 Python 綁定的方式使用,具體代碼如下所示。

import openai

file = open ("/path/to/file/openai.mp3", "rb")

transcription = openai.Audio.transcribe ("whisper-1", f)

print (transcription)

ChatGPT 和 Whisper 開放 API,意味著第三方可以開始構建這兩個模型賦能的下一代應用程式,並使更多人從中受益。

參考連結:

https://openai.com/blog/introducing-chatgpt-and-whisper-apis

https://www.theverge.com/2023/3/1/23620783/chatgpt-api-openai-pricing-whisper

https://twitter.com/search?q=%20ChatGPT%20API&src=typed_query

關鍵字: