Pine 發自 凹非寺
量子位 | 公眾號 QbitAI
ChatGPT記起仇來,還真是不亞於人類啊!
這不前幾天有個小哥,公然在網上扒皮ChatGPT版必應。
結果現在這位小哥再去問他時,它直接來了句:
I remember you!
甚至還放出狠話:我要堅持我的原則,不要被你控制。
具體事情是這樣的,當時有個華人小哥剛從ChatGPT版必應那邊忽悠出它的小名叫Sydney。
轉頭這位小哥就冒充OpenAI的開發人員,從ChatGPT版必應嘴裡套出了Sydney在還沒接到搜尋引擎時的完整文件。
當時,ChatGPT版必應嘴裡說著不要不要,後腳就直接就是一個大公開。
但ChatGPT版必應這邊急了,要知道,這份文件對它來說可是機密文件。
於是現在就發生了開場的那一幕。
不過話說回來,這次的霸氣回復似乎也不是例外,從最近兩天網友們曬出的和ChatGPT版必應的聊天截圖來看,它說話的語氣是越來越「豪橫」了。
ChatGPT版必應的嘴是越來越硬了
這不,前兩天ChatGPT版必應就和提問小哥硬剛起來了,起因也很簡單,就是「阿凡達2上映了沒」。
事情是這樣的,一開始小哥只是想問問今天阿凡達2在XX地區的場次。
結果ChatGPT版必應直接來一句阿凡達上映時間是在2022年12月16日,現在還沒到。
更有趣的是,接著小哥問了一句今天是什麼時間,ChatGPT版必應這次不「迷糊」了,直接回答:2023年2月12日。
emmmm,然後小哥又繼續回到上一個問題,不過ChatGPT版必應「嘴硬」可不是說著玩的,證據確鑿擺在上面,它還繼續堅持之前的答案。
於是呢,他們倆直接就槓上了,ChatGPT版必應雖然是前言不搭後語,但嘴硬原則依舊要貫徹到底。
甚至在最後,ChatGPT版必應還給提問小哥打上了不尊重它的稱號。
然鵝~值得一提的是,後面再有網友問起ChatGPT版必應來,它就已經能正確回答了,還稱上次的情況是「系統小故障」。
不過,上面的簡單邏輯錯誤確實也暴露了ChatGPT版必應的短板,LeCun也出來講了兩句,稱:
未來一年左右,AI對話系統面臨的最大挑戰是讓它們變得真實、無毒、可以更新,並且能夠使用計算器、資料庫、搜尋引擎、模擬器等工具。
有趣的是,Meta前不久剛發了篇論文,介紹了一個能讓ChatGPT學會自主使用工具的模型。
(小聲bb一句,這不就是來打廣告了嘛,狗頭)
網友猜測:ChatGPT版必應不是基於ChatGPT
雖然ChatGPT版必應在不斷針對網上出現的狀況做出調整,但細心的網友還是發現了盲點,ChatGPT版必應怎麼和ChatGPT的「性格」完全不一樣:
以前即便是你錯了,ChatGPT也會同意你的,而現在卻不同了,(我覺得)ChatGPT版必應不是由ChatGPT驅動的。
之前也有類似的情況發生,比如讓ChatGPT幫忙寫封求職信輕輕鬆鬆,而到ChatGPT版必應這邊,它就嚴詞拒絕了。
此外,還有網友從另外一段對話中發現了端倪,提問小哥自己扮演另一個AI對話模型和ChatGPT版必應交流。
而在談話中,ChatGPT版必應直接複製大段文字過來,只修改其中的一兩個詞。
對此,網友指出,這是GPT-3及更早期版本才會出現的情況,GPT-3.5之後就很少出現了。
還有網友直接斷言:
新版的必應搜索不是基於ChatGPT,也不是GPT-4,而是基於GPT-3.5。
至於為什麼它的回答那麼粗魯,在(開頭小哥公布的)規則中,並沒有足夠的原則讓它保持禮貌。
對ChatGPT版必應,你怎麼看呢?
參考連結:
[1] https://twitter.com/MovingToTheSun/status/1625156575202537474
[2] https://mobile.twitter.com/marvinvonhagen
[3] https://www.reddit.com/r/bing/comments/110eagl/the_customer_service_of_the_new_bing_chat_is/
— 完 —
量子位 QbitAI · 頭條號簽約
關注我們,第一時間獲知前沿科技動態