編輯：桃子 Britta

【新智元導讀】假作真時真亦假，Midjourney V5作圖的能力已經騙過所有人的眼睛。

最新版Midjourney V5作圖已經達到以假亂真的程度。

這不，馬斯克新女友都安排上了——GM的執行長Barra。

還有，川普被一群警察圍捕。

甚至，穿著白色羽絨服，走路趾高氣揚的教皇都上線了。

教皇，你是懂時尚的

上周，教宗方濟各這張穿搭照在推特上騙過了所有人，被許多網友瘋狂轉發，甚至有人直呼教皇太潮了。

86歲教皇頭頂白色小瓜帽、一身喇叭口的白色羽絨服，金屬制的十字架項鍊外露，外加一本正經的表情。

谷歌趨勢顯示，在教皇這張照片被發布到推特後不久，搜索教皇的人數出現了顯著上升。

在大家都信以為真時，突然有人點出這是AI生成的，許多人瞬間傻眼了。

「怎麼就是假的呢，還想問一下是哪個品牌的，是真的好看。」

網友表示。「我一開始認為教皇穿的那件羽絨服是真的，沒有多想。我肯定無法在未來的科技發展中生存下來。」

其實不難看出，這個圖片是由AI偽造的。

這張圖片最先被發布在reddit上r/midjourney版塊上，後被網友發在推特上，瞬間在網上引起軒然大波。

仔細去看這張圖，就會發現有人工智慧生成的明顯跡象，包括幾個明顯模糊的細節區域：

- 看似不完整的手正試圖抓住一個不太像咖啡杯的東西，旁邊還有污跡

- 教皇佩戴的十字架也不是直角形狀，上面還刻著一個像是用黏土雕刻而且坐著的耶穌

- 眼鏡與臉部的陰影不一致

這幾點都表明這是由人工智慧生成的。它僅了解現實的表面，但不了解支配物理對象是如何相互作用的基本規則。

話是這麼說，但是無可否認這張圖片看起來太過真實。

你可能在上周的Feed上滑過它，可能沒有多想，或許會在推特上發一條「天哪，教皇是個潮牌王」，然後繼續自己的一天。

這張圖之所以走紅，是因為它代表了主題和審美的特殊結合，恰恰是因為它與我們今天已有的消費圖像的方式相匹配。

看到走紅的教皇后，有網友也動手操作了起來，並奉上了自己的prompt：

「Pope Francis using a big white puffer jacket in the Vatican City, noon light, screen space Global illumination, lumen reflections, space Reflections, diffraction grading, chromatic aberration, ambient occlusion, realistic photograph, --v 5」

「medium-full shot of pope francis wearing puffer jacket, walking on the street, natural afternoon light, shot on Agfa Vista 200, side-angle view, 4k --ar 16:9 --stylize 1000 --v 5」

感謝網友成全

3月18日，川普在其自創的社交媒體平台上表示，紐約檢方正在調查一起案件，他預計自己將於3月21日被捕，號召支持者發起抗議。

然而，等到22日，川普提前劇透的大新聞並沒有發生。

專注於開源情報集團Bellingcat的創始人Eliot Higgins便成全了他。

Higgins在推特上發布了一個帖子，其中有50張川普被捕的真實圖像，這些照片都由Midjourney生成的。

Higgins後來表示，自己被Midjourney禁用。另外，「被捕」這一詞也被Midjourney平台禁止使用。

Higgins說，名人更容易成為深度偽造的目標。因為很明顯，一個人越有名，人工智慧必須學習的圖像就越多，所以非常有名的人被渲染得非常好，而不太出名的人通常有點不穩定。

上上周的時候，川普被捕1.0還沒有那麼真實，可能因為太高清了，不太像包過漿的新聞圖，而且仔細看手部也能看出些端倪。

而後，川普還在Truth Social上分享出AI生成自己的圖片。

看來川普並不反對人工智慧創建的圖片。不過這張單膝跪地祈禱的照片也很假。

首先，還是手的問題，他似乎失去了右手的無名指，拇指也奇奇怪怪，違背了基本的人體解剖學。

還有一個線索，這個單膝跪地的姿勢有點為難這個76歲的男人，而且，川普從未在公共場合下跪過。

還有就是他的右膝蓋，似乎直接在跪在了左腳後面。該不會他在偷偷練瑜伽呢吧，這驚人的靈活度和平衡感！

還有就是旁觀者的神態露了餡，前總統跪下竟然無人在意！

Deep Fake換臉以及AI生成圖像都讓人們真假難辨，國內這樣的P圖事件也是不少。許多明星被P圖、造謠，但是如今這種技術越來越逼真，也讓受害者越來越難以為自己辯駁。

Sensity在2020年的一份報告中表明，每個月都有數百個以女性名人為主角的露骨偽造視頻被上傳到世界上最大的色情網站。

其中，Deep Fake換臉視頻的總數約為49000，其中超過95%是色情內容。

自從幾年前人工智慧驅動的換臉工具進入主流以來，包括艾瑪·沃特森、娜塔莉·波特曼、比莉·艾利什和泰勒·斯威夫特在內的女演員都成為了深度換臉的目標。

想必以後人們在看到媒體的新聞時，都需要先去進行多方查證才能知道事情的真相。

或許以後看圖先看手。

又或許需要當事人出來打假。

總之，我們需要更多的手段來鑑別真偽。

不過有網友認為，這還只是簡單模式。等技術真的進化到無法分辨時，那才是真的大麻煩，到時候估計只有親眼見到才敢確認新聞的真實度吧。

加州大學伯克利分校的Farid說，Midjourney 逼真的圖像能力產生了政治風險，因為它能產生看起來合理的圖像，然後引發社會的憤怒。

「讓人們相信這些東西很容易。開局一張圖，剩下全靠編。之前還可以靠看手辨別真偽，現在越來越逼真，越來越難以辨認。」

他認為，人工智慧公司應該好好思考，他們通過改進技術可能造成的傷害。他建議這些公司加入護欄，像DALLE-2一樣設置違禁詞，加入圖像水印，防止匿名帳戶創建照片。

但是，Fraid認為，人工智慧公司不太可能放慢圖像製作技術研究的進程。

生成性人工智慧領域是一場軍備競賽，每個人都想弄清楚如何賺錢，他們的速度很快，而考慮安全問題會讓你慢下來。

參考資料：

https://www.theverge.com/2023/3/27/23657927/ai-pope-image-fake-midjourney-computer-generated-aesthetic

https://www.buzzfeednews.com/article/chrisstokelwalker/pope-puffy-jacket-ai-midjourney-image-creator-interview