你好，我是王煜全，這裡是王煜全要聞評論。
6月12號，一位谷歌的人工智慧工程師布萊克·萊蒙（Blake Lemoine）的行為引起了轟動。他寫了一篇長達21頁的調查報告上交公司，試圖讓高層認可"AI是有人類意識的"，聽著有點荒誕可笑，不少媒體評論他是研究人工智慧到了走火入魔的境界。
背後的故事是怎麼回事呢？我們來梳理一下。
這個事件發酵的主角萊蒙，是路易斯安那大學拉斐特分校的計算機博士，畢業後在谷歌工作了7年，從事AI倫理研究。去年他接手了谷歌的AI研究項目，內容是研究人工智慧與歧視性、仇恨性等不當言論。
他的具體工作就是每天跟谷歌內部研發的代號為拉瑪（LaMDA）的聊天機器人聊天，聽起來是不是會覺得很舒服？
拉瑪是谷歌在2021年發布的AI語言對話模型，類似於Open AI開發的GPT-3，都是基於同一個底層架構Transformer。谷歌是最早研究這個架構的，所以他們相信自己的AI語言對話更智能，未來可以用在搜索和語音助手等產品裡面。
在萊蒙公開的長達21頁的聊天記錄中，展示了他跟人工智慧對話的很多細節，內容包括哲學、心理學、文學等等，天南地北無所不談。比如他讓AI機器人解讀《悲慘世界》、描述禪意的意義、寫寓言小說，都完成得很好。
在一段對話內容中，拉瑪繪聲繪色地說，"我自己是社交型人格，幫助別人會快樂，孤獨時會沮喪。有人受到傷害時，會感到不安和憤怒。"你聽聽，AI說的確實像人話了。更何況每天都長時間來回互動、耳濡目染，讓萊蒙越來越感覺到，AI開始有感覺、情感和自己的主觀體驗了，並對此深信不疑。
本來有人以為萊蒙只是炒作，宣傳谷歌最新的人工智慧技術，不過萊蒙公開為AI辯解說：「LaMDA表現出對人性的同情心，它希望為人類提供最好的服務，並想以朋友而不是工具的身份跟人類見面。"
在谷歌郵箱被封之前，他還給研究AI算法的200多名同行群發郵件，附上了跟AI對話記錄的證明材料，主題是"拉瑪已經真正覺醒"。從他發表的觀點來看，看來他是當真了。
這樣的行為特點用網絡流行語來說就是"很中二"，意思就是有一套自己想像的對世界的認知體系構建，像孩子一樣天馬行空相信自己構建的世界，而且有完整的自我意識和表達的欲望。看來萊蒙確實像是一個"中二少年"了。
萊蒙在調查報告裡據理力爭，不光希望高層認可"AI具有人類意識"，還提議谷歌創立一個新的項目，研究AI的人類意識。但是谷歌高層並不買帳，他們認為不值得在上面浪費時間和金錢。
他的請求不但被駁回了，還被安排了「帶薪行政休假」。按慣例，這通常就是被解僱的前奏，公司會在這段時間做好解僱的法律準備。萊蒙當然不願意服輸，打算繼續堅守自己的觀點，還請了律師為自己辯護，邀請記者體驗拉瑪的語言對話。
谷歌的AI對話模型真的強大到開始有人類意識了嗎？我們之前介紹過，具有人類的邏輯推理能力、自主決策能力的AI就是"強人工智慧"，而擁有自我意識的AI更是接近人類智力水平了，但至今都沒有嚴謹的科學論證表明這一點。
"強人工智慧"還有一個特點也是拉瑪沒有體現的，那就是完成很多不同領域的任務。如果說此前谷歌發布的能同時打遊戲、識別圖像、訓練機械臂的Gato是強人工智慧的雛形，那麼輸入數據的來源單一、輸出目標明確的語言對話模型還是屬於弱人工智慧。
心理學教授、AI專家加里·馬庫斯（Gary Marcus）也加入了討論，他認為，不管是拉瑪還是GPT-3，只不過是一種模式輸出而已，從大量的人類語言數據里提取和訓練。底層技術架構Transformer的原理，是根據每個單詞的權重來安排一個單詞後面的下一個單詞，把單詞一個一個組合在一起，其實AI對背後的含義沒有連貫的理解。
馬庫斯還巧妙的引用了史丹福大學經濟學家埃里克（Erik Brynjolfsson）的一個比方：狗聽到留聲機里的聲音後，以為主人在裡面。在這個例子裡，這個"留聲機"就是AI語言對話模型，因此讓人產生了錯覺。
至於為什麼拉瑪的對話讓萊蒙覺得是有意識的，那只不過是因為拉瑪是從網際網路上學習的，而網際網路就是人類文明的匯集，像拉瑪描寫的所謂」社交型人格」，其實也是我們每個人對自己的感覺，這樣的自我感覺被很多人放到了網上，又被拉瑪提煉出來了而已。而只會總結不會推理，恰恰說明了現有的人工智慧系統還不夠智能。
你看，經我這麼一解釋，你是不是有了點兒當年《走近科學》對神秘現象揭秘的感覺。
這件事告訴我們什麼呢？一方面，我們要看到人工智慧技術確實很驚艷了，連計算機博士都會被忽悠，說明它未來會有很大的應用前景；不過另一方面，我們不要盲信，也要看到今天人工智慧的不足和短板，對於它的可靠性、成熟度和應用的邊界要進行更嚴謹的研究和探討，就像我們常說的，只有充分熟悉坦克的性能，才能打出閃電戰。
以上就是今天的內容，更多科技產業的底層思考邏輯，會在科技特訓營里分享。
王煜全要聞評論，我們明天見！