亞馬遜雲科技Matt Wood:Amazon Bedrock可顯著減少大模型幻覺

雲體驗師 發佈 2023-11-15T15:10:12.820487+00:00

當用戶輸入一張草圖,AI模型就能在提示詞的幫助生成圖片,或是一張張裝飾效果圖,或是一堆精美的遊戲道具圖標,或是可以啟發設計靈感的參考圖。這是Stable Diffusion愛好者都非常熟悉的,類似的Midjourney也是可落地的生產力。

當用戶輸入一張草圖,AI模型就能在提示詞的幫助生成圖片,或是一張張裝飾效果圖,或是一堆精美的遊戲道具圖標,或是可以啟發設計靈感的參考圖。這是Stable Diffusion愛好者都非常熟悉的,類似的Midjourney也是可落地的生產力。

不可否認,基於大語言模型的AIGC已經可以作為生產力了,但大模型的幻覺問題阻礙企業在生產環境中落地AIGC,生產力距離真正落地仍差一步。

ChatGPT憑藉超強的理解輸入文本的能力,還有超強的推理能力,順理成章成了AIGC界的頂流。它可以回答很多知識性的問題,可用在教育領域,它能做翻譯,能寫代碼,能創作各種文字相關內容,可以替代或者輔助很多人類的智力勞動。

以前,當有什麼不懂的問題時,總會優先考慮求助搜尋引擎,而現在,很多人,包括我的第一反應都是求助ChatGPT。當我想初探某個領域時,會聽聽ChatGPT的介紹,當我對某領域有較多認知時,也會看看ChatGPT是怎麼說的。

顯而易見,AIGC已經表現出了生產力,然而,這距離企業需要的生產力還有一點距離。

首先,以GPT-4為代表的大模型本身,由於缺少對企業業務相關數據進行訓練,所以,很可能無法幫助企業解決很多具體問題。

同時,大語言模型的「幻覺」問題會自信地杜撰很多不存在的東西或者根本是錯誤的信息,其根本原因是,模型並不真正理解它們正在處理的語言,它們只是在模仿訓練數據中的模式。

當然,除了這兩大類問題,企業在使用大語言模型時候,還應該注意數據的隱私和安全問題,要遵守相關的數據保護和隱私法規。

在2023年的亞馬遜雲科技中國峰會上,亞馬遜雲科技全球產品副總裁Matt Wood博士表示,如果用戶使用Amazon Bedrock的話,這種自信滿滿回答全錯的情況發生的概率會被大大降低,因為用戶可以使用自定義數據。

Amazon Bedrock是一項託管大語言模型的Serverless服務,用戶通過API來使用這些模型,用戶可以自己選擇要使用的模型,也可以使用用自定義數據微調過的模型。此外,亞馬遜雲科技的用戶可以配合原來就有的Amazon SageMaker相關功能。

Amazon Bedrock是2023年4月宣布的新服務,它有選擇地支持AI21 Labs、Anthropic、Stability以及亞馬遜自己的Amazon Titan模型,這幾個都是支持負責任的運行,都可用於微調的底模型,企業在使用時候灌入自定義數據。

當企業使用自己自定義的數據時,用於訓練的數據會相對更充足一些,企業可以提高數據質量、提高數據的多樣性來提高輸出質量,多樣性和代表性的訓練數據可以幫助模型更準確地學習和預測,都有助於減少大模型的「幻覺」。

從Matt Wood博士的介紹中了解到,亞馬遜雲科技非常注重負責任地運行這些人工智慧模型,以確保它給出的答案和解決方案不會對用戶產生傷害。既會對輸入的內容進行篩查和過濾,也會認真地核對模型產生出的答案,以確保給出的回覆是健康無害的。

為了實現安全和私密的模型微調(Fine-tune),亞馬遜雲科技發布了自己的大語言模型Amazon Titan,Amazon Titan包含一系列不同的模型,可實現文本歸納總結、搜索結果嵌入、有害內容刪減等,用戶可以非常安全、隱私地對這些模型做優化和微調。

在亞馬遜雲科技的客戶群中,大語言模型已經落地成了生產力。某國際智能營銷服務商在廣告內容分發服務中使用了Amazon Bedrock,使用後,該企業在電商視覺產品成本方面節約了50%的成本,廣告點擊率提高了45%,實現了明顯提升。

2023年前後爆發的大語言模型技術潮流,讓科技網際網路領域的廠商爭相進入大模型備戰模式,國內外的大型科技網際網路公司都推出了大模型或者基於大模型的應用。

對於亞馬遜雲科技來說,作為雲服務提供商,它想在大模型上取得的成功,終究還是要落在公有雲業務的成功,換句話說,就是要讓用戶更便捷地用上AI和大模型技術,這就要提到一個個具體的服務。

除了剛才提到的大模型託管服務Amazon Bedrock、大語言模型Amazon Titan,亞馬遜雲科技還有Amazon SageMaker在線機器學習訓練平台,還有為提高機器學習模型訓練和推理效率的定製晶片,以及多種基於英偉達、英特爾等AI晶片的Amazon EC2實例。

在Matt Wood博士看來,將亞馬遜雲科技的多種服務聯合在一起,亞馬遜雲科技提供的便是「從未有過如此簡單、低成本的,藉助機器學習進行代碼構建的方式」。

亞馬遜雲科技技術部門的一位產品經理,利用Amazon Bedrock在很短的時間裡就開發了一個個人理財的APP,開發過程中完全不需要寫代碼。

這款APP有很強的歸納總結能力,在獲知用戶收入和支出情況的前提下,用戶可以直接向APP提問,它可以基於上下文進行對話並返回一些結果。比如,可以找出交易中的異常,能向用戶提供財務狀況和趨勢的信息,預測某項支出的趨勢,給出理財建議等。

在幫助企業落地生成式AI方面,亞馬遜雲科技還有一個備受關注的AI編碼服務Amazon CodeWhisperer,它支持以寫自然語言的方式寫出注釋,基於注釋內容操控機器學習模型生成對應的代碼。

Amazon CodeWhisperer支持15種程式語言,支持檢查軟體的許可信息,支持做代碼安全檢查,可以幫助節省開發時間並提高代碼質量,而且,這一切對個人用戶而言都是免費的。

關鍵字: