真害怕還是拖時間?眾多大佬聯名呼籲Ai發展「減速」!

太平洋電腦網 發佈 2024-02-27T15:17:33.875011+00:00

就在Ai技術正以迅雷之勢席捲世界的當下,不少人也對其的「安全性」產生了質疑,其中就包括了指出「Ai技術將導致80%以上的崗位消失」「人工智慧代替人類之日將被提前」,更有甚者將Ai已經化作是自身職業未來的最大敵人,進行瘋狂抵制。人工智慧是天使還是魔鬼?

就在Ai技術正以迅雷之勢席捲世界的當下,不少人也對其的「安全性」產生了質疑,其中就包括了指出「Ai技術將導致80%以上的崗位消失」「人工智慧代替人類之日將被提前」,更有甚者將Ai已經化作是自身職業未來的最大敵人,進行瘋狂抵制。

人工智慧是天使還是魔鬼?—Ai繪畫

近日,一家名為「futureoflife」的網站公布了一份聯合簽名書,其內容劍指當前飛速發展的「Ai」技術,提出:「我們呼籲所有人工智慧實驗室立即暫停比gpt-4更強大的人工智慧系統的訓練至少6個月。如果不能迅速實施這種暫停,政府應該介入並實行暫停令。」

公開信得到了企業大佬,人工智慧學者,大學的前沿研究者,一大串赫赫有名的大人物們的簽名,其中包括了馬斯克、沃茲尼亞克、約書亞·本吉奧(圖靈獎得主)等。

來自「futureoflife」官網

聯名信強調,具有人類競爭力的Ai系統可能給社會和人類帶來巨大風險。然而,儘管存在這樣的風險,AI實驗室仍在激烈競爭中,不斷研發和應用更強大的Ai系統,而這些智Ai的創造者們也無法完全理解、預測或控制。因此,呼籲所有Ai實驗室立即暫停研發比GPT-4更強大的Ai系統,至少暫停6個月。實驗室和獨立專家應利用此暫停期共同制定並執行一套共享的Ai設計和開發安全協議,由獨立的外部專家進行嚴格審計和監督。

來自「futureoflife」官網

在GPT-4的發布日誌中,OpenAi就強調過,他們花了6個月的時間利用對抗網絡來糾正、扭轉GPT-4的可控性與安全性,如此漫長的調教時間足以證明了GPT-4在誕生之初有著較為令OpenAi害怕的一面,這有可能源自其在信息整合輸出上的不安全性(比如介紹非法行為、傳播危險信息等),也有可能是其真的在龐大算力和先進模型的影響下,產生了「自我意識」。

而聯名信的發布就更加讓這個疑問蓋上了神秘的面紗,有不少Ai博主都表示,「據說gpt在訓練過程中已經有自己的意識雛形了,預計在7-8代能形成比較完整的自我意識。」屆時人類將無法有效地對其進行合理控制,所以必須在研發層面進行剎車,在「Ai」失速之前徹底打消其失控的可能。

然而也有觀點強調,當下的聯名信實際上是陰謀論者的行為,因為在簽名欄只需要填寫姓名、工作崗位、聯繫方式就可以進行簽署,不排除有部分別有用心的人假冒名人進行簽名,好擴大聯名信的影響力。當前,並沒有已經簽署該聯名信的名人在社交平台上發聲呼籲,所以聯名信的真實性存在較大的疑問,截至3月30日,聯名信的簽名功能已經關閉。

筆者試用蘋果創始人「賈伯斯」的名字簽署,結果也是通過

https://futureoflife.org/open-letter/pause-giant-ai-experiments/

如果聯名信真的受到了政府監管機構的相關重視,而真的出台了相關的「Ai監控」法律法規,這無疑是對Ai進行最大限度地熄火降溫,一方面以ChatGPT為首的「劃時代」Ai技術將暫停開發,而部分「尚未成型」的Ai將會利用這半年時間進行快速增長與升級,從而實現在對ChatGPT一家獨大的衝擊。這背後的利益矩陣,我們就不必深挖。

2023年3月,Ai領域獨角獸公司估值;OpenAi已經超過了剩下全部公司的綜合

文字語言,作為我們人類理解這個世界的最重要抽象符號,如今在網際網路上已經有著密如星海的內容,而以GPT技術為代表的大規模語言學習模型,就是從海量文本數據中學習複雜的語言模式和知識。其原理主要基於「Transformer」架構,一種深度學習模型,在訓練過程中,大規模語言模型學習了一個條件概率分布,用於預測給定上下文的下一個詞。通過在海量文本數據上進行訓練,這些模型可以學到豐富的語言知識、語法規則和一定程度的常識。

正在飽覽群書的小機器人—Ai繪畫

不論該聯名信是否真實,都足以給我們當前處於「Ai狂歡」中敲響一記警鐘,過度依賴Ai無疑是將人類的命運懸掛在達摩克利斯之劍下,將我們的文明與歷史全權地向Ai脫出,讓其成為我們唯一的科技領袖,是否真的安全與理性?這個問題還有待我們去思考。

ChatGPT-4對於該觀點的回答

關鍵字: