AI 換臉只是小兒科，這家公司用 AI 造了 4 個(gè)工程師

商業(yè)社會(huì)，弄虛作假屢見不鮮。而近日一家西班牙創(chuàng)業(yè)公司身上發(fā)生的一次利用 AI 造假事件，讓那些融資、業(yè)績(jī)、財(cái)務(wù)數(shù)據(jù)造假在創(chuàng)新性上都黯然失色。

互聯(lián)網(wǎng)國(guó)際象棋棋盤制造商 REGIUM 疑似使用 GAN 合成了四個(gè)虛擬工程師，以下六人圖中，只有 Delgado 和 Balcells 兩人確有其人。 

除了制造“人造人”，這家公司的主打產(chǎn)品——自動(dòng)國(guó)際象棋棋盤，也被多個(gè)網(wǎng)絡(luò)知名國(guó)際象棋社區(qū)產(chǎn)品扒出產(chǎn)品、視頻造假，目前公司在眾籌網(wǎng)站 Kickstarter 的項(xiàng)目已被暫停。

REGIUM 是一個(gè)騙局嗎？

REGIUM 是一家位于西班牙的互聯(lián)網(wǎng)國(guó)際象棋棋盤制造商，2019 年 12 月，他們?cè)?YouTube 上發(fā)布了一款叫作 REGIUM 的棋盤演示視頻，開始獲得象棋圈子的關(guān)注。

 

按照同類硬件創(chuàng)業(yè)公司的套路，REGIUM 一邊上眾籌網(wǎng)站 Kickstarter 眾籌，另一邊也在網(wǎng)絡(luò)知名國(guó)際象棋社區(qū) Chess.com、Chess24.com 打廣告，宣傳產(chǎn)品。

雷鋒網(wǎng)注意到不少論壇用戶對(duì)此表示期待，從它 2 月底在 Kickstarter 開展眾籌，截至 3 月 2 日被叫停，不到 10 天，獲得 58 位支持者，33111 美元籌款。

但也就是上月開始，該團(tuán)隊(duì)逐漸被產(chǎn)品造假、視頻造假等議論包圍。YouTube 上播放量超 4 萬(wàn)的產(chǎn)品介紹視頻，率先引發(fā)了象棋玩家對(duì)這家公司的質(zhì)疑。

REGIUM 稱，他們的自動(dòng)棋盤是高科技棋盤，用到了 AI、自動(dòng)跟蹤技術(shù)等，用戶移動(dòng)棋子是快速、無(wú)聲的，可以將棋盤狀態(tài)與各種在線象棋 APP 同步，與人遠(yuǎn)程下棋，還能實(shí)時(shí)載入更多棋類游戲。

據(jù)雷鋒網(wǎng)了解，它的原理是棋盤每個(gè)坐標(biāo)點(diǎn)裝上固定電磁鐵，連接著 APP，用戶可以通過手機(jī)操縱對(duì)應(yīng)的棋子。事實(shí)上，這也不是第一個(gè)電子棋盤。在此之前還有過一款名叫  Square Off 的類似產(chǎn)品。

在線象棋平臺(tái) Lichess 的開發(fā)者率先對(duì)視頻提出質(zhì)疑：棋子在棋盤上自動(dòng)移動(dòng)的鏡頭很可能是使用定格動(dòng)畫制作軟件 stop motion 做的。破綻出在騎士這個(gè)棋子在視頻不同處總是發(fā)生變化，其實(shí)就是背景在騎士被挪動(dòng)后出現(xiàn)的空缺。另外，整個(gè)視頻中完全沒有真人玩家入鏡，對(duì)方分析是一旦有人入鏡，那么下一幀很難與上一幀保持一致。

REGIUM 對(duì)此的回應(yīng)是，公司根本不擅長(zhǎng)制作視頻，拍攝視頻時(shí)出現(xiàn)了一些問題，于是才后期編輯處理了下。據(jù)稱，他們給一些質(zhì)疑者用手機(jī)錄了一段完整的未經(jīng)處理的視頻。

而隨后，Chess.com 表示，可能不僅是視頻，產(chǎn)品也是虛假的。商業(yè)發(fā)展部主任 Nick Barton 調(diào)查后表示，展示視頻中的棋盤是由西班牙一家有 50 多年歷史的棋盤制造商 Rechapados Ferrer 制作的，該公司一位負(fù)責(zé)人表示，視頻中的棋盤看得出并未再加工，而當(dāng)前的組件并不支持視頻所展示的技術(shù)。

目前 Chess.com 和 Chess24.com 都已發(fā)帖宣布終止與 REGIUM 的商務(wù)合作。

人造工程師

視頻、產(chǎn)品存疑，還趕上眾籌，象棋網(wǎng)友繼續(xù)挖，然后發(fā)現(xiàn)這個(gè)公司的開發(fā)團(tuán)隊(duì)成員的臉都是假的！

雷鋒網(wǎng)了解到，官網(wǎng)“About US”菜單列出了 6 位工程師的照片、名字和頭像，Chess.com、Chess24.com、Lichess.org 三家考證表示，其中大概只有兩個(gè)是真人，其余 4 位很有可能是用 GAN 生成的人造人，用的就是 this person does not exist.com 這個(gè)網(wǎng)站的功能。一個(gè)側(cè)面印證是，圖片信息都是 1024x1024，96dpi，24 位，jif 格式，缺少任何標(biāo)題信息。

 

this person does not exist.com

Chess.com 采訪了網(wǎng)站的創(chuàng)始人 Phil Wang，他認(rèn)為那四個(gè)人的照片存在失真，具有 GAN 生成的人造人照片的特點(diǎn)?！案鶕?jù)我的經(jīng)驗(yàn)，眼鏡周圍扭曲失真，背景也有點(diǎn)假，我還看出來(lái)他們似乎用了英偉達(dá)的模型?！绷硗?，他還指出，這些人的照片在互聯(lián)網(wǎng)其它任何地方都搜索不到。

在被曝光后，REGIUM 官網(wǎng)已刪除 6 位工程師照片（ 查看存檔的副本 https://web.archive.org/web/20200223191142/https://regiumchess.com/about.html），似乎更印證了他們的心虛。

而 REGIUM 在發(fā)給外媒 Motherboard 的電子郵件中否認(rèn)了這些說(shuō)法，他們辯解稱是因?yàn)槭艿礁鞣N非議，成員擔(dān)心職業(yè)生涯受到影響才撤下照片。但除此之外，并未提供任何證據(jù)能證明其開發(fā)人員是真實(shí)存在的人。

this person does not exist.com 是海內(nèi)外小有名氣的造臉網(wǎng)站，使用也非常簡(jiǎn)單，點(diǎn)擊進(jìn)入，每次刷新都會(huì)生成一張可能路人甲也可能漂亮的臉蛋，但是他/她根本不存在于世界上。

有網(wǎng)友形容該網(wǎng)站是，“很有趣，但沒有什么用”。大多數(shù)人打開它確實(shí)也就是圖個(gè)新鮮，但沒想到有公司竟然想出如此“創(chuàng)意”的想法。

現(xiàn)在，我們一起從互聯(lián)網(wǎng)的記憶中檢索一下。2015 年，教皇方濟(jì)各訪美期間，一個(gè)絕妙的“抽桌布”戲法視頻迅速火遍全美乃至全球，只見他在向圣壇禮拜后，抬手將桌布一抽，桌上物品一點(diǎn)沒亂。這應(yīng)該是網(wǎng)上第一例引發(fā)廣泛關(guān)注的 AI 合成“人造人”事件。沒錯(cuò)，這個(gè)視頻就是假造的，據(jù)說(shuō)教皇本人后來(lái)看后并不是很高興。

教皇視頻和 this person does not exist.com 背后的技術(shù)就是基于生成對(duì)抗網(wǎng)絡(luò)（GAN），這是機(jī)器學(xué)習(xí)中相對(duì)較新的概念，第一次出現(xiàn)是在 2014 年，Ian Goodfellow 等人發(fā)表了論文《對(duì)抗式生成網(wǎng)絡(luò)》。GAN 通過收集名人面部數(shù)據(jù)集，學(xué)習(xí)生成人造面部圖像。

2017 年，“潘多拉的盒子”打開。Reddit 一位用戶 Deepfakes 把《神奇女俠》女主角 Cal Gadot 的臉嫁接到一個(gè)成人電影女星身上，Reddit 官方將其封號(hào)。作為報(bào)復(fù)，Deepfakes 將換臉代碼開源。2019 年初，“楊冪換臉朱茵黃蓉”的視頻火爆中文網(wǎng)絡(luò)，同年陌陌推出了一款“ZAO”換臉視頻，一時(shí)之間，刷屏與質(zhì)疑齊飛。

技術(shù)本是無(wú)知無(wú)覺的工具，有人陷入色情視頻 AI 換臉黑產(chǎn)狂歡，也有人拿 AI 應(yīng)用于醫(yī)療診斷、公益救助，是造福還是造假，全賴使用者的本心。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。