近年來(lái)，隨著(zhù)人工智能技術(shù)的進(jìn)步，一些不法分子開(kāi)始利用AI技術(shù)融合他人面孔和聲音，制造非常逼真的合成圖像來(lái)實(shí)施新型網(wǎng)絡(luò )詐騙，這類(lèi)騙局常常會(huì )在短時(shí)間內給被害人造成較大損失。我們應該如何看清這類(lèi)AI“深度造假”？辨別“AI換臉”有沒(méi)有什么好方法？我們先來(lái)看看近期發(fā)生在陜西西安的一起“AI換臉”詐騙案例。

　　陜西西安財務(wù)人員張女士與老板視頻通話(huà)，老板要求她轉賬186萬(wàn)元到一個(gè)指定賬號。

　　被害人 張女士：老板讓把這個(gè)款趕緊轉過(guò)去，這個(gè)款非常著(zhù)急，因為他聲音還有視頻圖像都跟他人長(cháng)得一樣的，所以就更確信這筆款是他說(shuō)的了，然后我直接就把這筆款轉了。

　　轉賬之后，張女士按照規定將電子憑證發(fā)到了公司財務(wù)內部群里，然而出乎意料的是，群里的老板看到信息后，向她詢(xún)問(wèn)這筆資金的來(lái)由？

　　被害人 張女士：然后我們就打電話(huà)再跟老板去核實(shí)，老板說(shuō)他沒(méi)有給我發(fā)過(guò)視頻，然后也沒(méi)有說(shuō)過(guò)這筆轉賬。

　　意識到被騙的張女士連忙報警求助，警方立刻對接反詐中心、聯(lián)系相關(guān)銀行進(jìn)行緊急止付，最終保住了大部分被騙資金156萬(wàn)元。

　　AI“多人換臉”詐騙案 騙走2億港元

　　一百多萬(wàn)的現金，對大部分人來(lái)說(shuō)都算是一筆巨款了，好在警方處理及時(shí)，挽回了大部分損失，下面我們再來(lái)看另一起案例，這起案例的“換臉”技術(shù)難度更高，涉案金額也更大。近期， 香港警方也披露了一起AI"多人換臉"詐騙案，涉案金額高達2億港元。

　　在該起案件中，一家跨國公司香港分部的職員，受邀參加總部首席財務(wù)官發(fā)起的多人的視頻會(huì )議。并按照要求，前后轉賬多次，將2億港元轉賬到5個(gè)本地銀行賬戶(hù)內，其后向總部查詢(xún)方知受騙。警方調查得知，這起案件中，所謂的視頻會(huì )議中，只受害者一人為“真人”，其余所謂參會(huì )人員，全部是經(jīng)過(guò)AI換臉后的詐騙人員。

　　看完這兩起案例，您一定有些好奇，AI換臉背后的技術(shù)原理到底是什么？在技術(shù)層面，它是如何實(shí)現人臉的精確識別與替換，創(chuàng )造出逼真效果？我們來(lái)聽(tīng)聽(tīng)專(zhuān)家的講解。

　　技術(shù)上如何實(shí)現人臉精確識別與替換

　　中國網(wǎng)絡(luò )空間安全協(xié)會(huì )人工智能安全治理專(zhuān)委會(huì )專(zhuān)家 薛智慧：AI換臉過(guò)程主要包括人臉識別追蹤、面部特征提取、人臉變換融合、背景環(huán)境渲染、圖像與音頻合成等幾個(gè)關(guān)鍵步驟。其背后最核心的包括為三個(gè)部分，首先，利用深度學(xué)習算法精準地識別視頻中的人臉圖像，并提取出如眼睛、鼻子、嘴巴等關(guān)鍵面部特征。其次，將這些特征與目標人臉圖像進(jìn)行匹配、替換、融合。最后，通過(guò)背景環(huán)境渲染并添加合成后的聲音，生成逼真度較高的虛假換臉視頻。

　　快速AI“換臉”僅通過(guò)一張照片就可完成

　　為了了解AI換臉到底能有多么逼真，記者經(jīng)過(guò)與專(zhuān)業(yè)技術(shù)人員合作，深度體驗了AI換臉技術(shù)。

　　技術(shù)人員首先用手機給記者拍了一張臉部照片，導入到AI人工智能軟件后，讓記者驚訝的是，雖然電腦攝像頭前的是技術(shù)人員，但是輸出的確是記者的照片，幾乎可以說(shuō)是“一鍵換臉”，不需要復雜的環(huán)境和解壓操作。

　　更令人驚訝的是，隨著(zhù)技術(shù)人員面部表情變化，照片上記者的臉也跟著(zhù)一起發(fā)生了相應變化。

　　記者：為什么技術(shù)人員這張臉動(dòng)，我的照片會(huì )跟著(zhù)動(dòng)呢？

　　中國網(wǎng)絡(luò )空間安全協(xié)會(huì )人工智能安全治理專(zhuān)委會(huì )專(zhuān)家 薛智慧：首先通過(guò)視頻的采集，能夠把圖片里這個(gè)人臉的面部追蹤定位到，定位到以后第二步他能夠做一個(gè)人臉的面部特征點(diǎn)的采集和提取，主要就是包括嘴、鼻子跟眼睛相關(guān)的這些明顯的面部特征。采集到以后， 第三步就跟把這張原始的照片，做一個(gè)變換跟融合跟整形。

　　記者：通過(guò)這張照片還可以做到什么？

　　中國網(wǎng)絡(luò )空間安全協(xié)會(huì )人工智能安全治理專(zhuān)委會(huì )專(zhuān)家 薛智慧：當前通過(guò)這張照片技術(shù)人員已經(jīng)讓這張照片能夠動(dòng)起來(lái)，活起來(lái)了，而如果更進(jìn)一步的將這張照片存下來(lái)，能夠存儲大量的照片的話(huà)。后期可以把這張照片合成一段簡(jiǎn)短的視頻發(fā)布出來(lái)。

　　人工智能人臉檢測技術(shù)主要通過(guò)深度學(xué)習算法實(shí)現，這種技術(shù)能夠識別出面部特征并對其進(jìn)行精準的分析。可以將一個(gè)人的面部表情從一張照片或視頻中提取出來(lái)，并將其與另一個(gè)人的面部特征進(jìn)行匹配。專(zhuān)家告訴記者，如果想要實(shí)現視頻實(shí)時(shí)通話(huà)時(shí)采用人工智能AI換臉技術(shù)，一張照片是遠遠不夠的，那就需要不同角度的近千張照片的采集。

　　中國網(wǎng)絡(luò )空間安全協(xié)會(huì )人工智能安全治理專(zhuān)委會(huì )專(zhuān)家 薛智慧：如果要實(shí)時(shí)點(diǎn)對點(diǎn)交流的話(huà)，需要再采集更多的照片，完了進(jìn)行深度學(xué)習算法模型的訓練，訓練出來(lái)這個(gè)模型以后灌到咱們這個(gè)視頻里去，就可以做實(shí)時(shí)的變化跟轉換了。這種情況下，就可以做到實(shí)時(shí)的變臉。聲音的交流也可以，需要預先采集一些咱們目標人群當中的聲音，然后進(jìn)行模型的訓練，能夠把目標人群的聲音還原出來(lái)。

　　AI生成仿真度極高視頻 難度高投入大

　　專(zhuān)家介紹，以詐騙為目的，實(shí)施點(diǎn)對點(diǎn)視頻通話(huà)，需要AI人工智能生成仿真度極高的視頻。想要達到以假亂真效果用于詐騙，難度不小。

　　中國計算機學(xué)會(huì )安全專(zhuān)業(yè)委員會(huì )數字經(jīng)濟與安全工作組成員 方宇：針對詐騙，其實(shí)主要是通過(guò)點(diǎn)對點(diǎn)的視頻通話(huà)，這時(shí)候如果采用換臉技術(shù)和聲音合成做實(shí)時(shí)的換臉詐騙的話(huà)，想要完成這些技術(shù)操作，就需要投入很強的技術(shù)支持。

　　中國網(wǎng)絡(luò )空間安全協(xié)會(huì )人工智能安全治理專(zhuān)委會(huì )專(zhuān)家 薛智慧：背后需要有大量的資金的投入，包括圖片的采集，包括專(zhuān)業(yè)算法的人員等等，需要很長(cháng)的一個(gè)周期，包括一些算力算法。各方面的投入，需要長(cháng)時(shí)間不斷地迭代，進(jìn)行操作，才能達到一個(gè)相當逼真的效果，才有可能實(shí)現到詐騙的實(shí)際效果。

　　目前AI“換臉”更多應用于娛樂(lè )視頻錄制

　　除了一些不法分子企圖利用AI技術(shù)實(shí)施詐騙，事實(shí)上，近年來(lái)，AI技術(shù)更多地被應用于短視頻的二次創(chuàng )作，屬于娛樂(lè )性質(zhì)，越來(lái)越多的名人AI換臉視頻出現在網(wǎng)絡(luò )上，不少網(wǎng)友感嘆，這類(lèi)視頻“嘴型、手勢都對得上，太自然了，差點(diǎn)兒以為是真的。”

　　比如這款軟件，拍下記者面部照片后，就能錄制生成出一段記者秒變賽車(chē)手的視頻。

　　？？△網(wǎng)友發(fā)布的女士系絲巾原版視頻

　　？？△需要變換的臉的照片

　　？？△生成視頻

　　中國計算機學(xué)會(huì )安全專(zhuān)業(yè)委員會(huì )數字經(jīng)濟與安全工作組成員 方宇：AI技術(shù)目前我們常看到的主要是短視頻換臉，通過(guò)做一些特定的動(dòng)作，跳舞啊等等。這些視頻其實(shí)看起來(lái)是有一些不自然的，本身也是純屬于娛樂(lè )性質(zhì)的換臉。

　　記者發(fā)現在手機應用商城中，有數十款換臉軟件，都可以做到換臉的目的。

　　中國網(wǎng)絡(luò )空間安全協(xié)會(huì )人工智能安全治理專(zhuān)委會(huì )專(zhuān)家 薛智慧：如果從娛樂(lè )大眾的角度來(lái)說(shuō)的話(huà)，現在市面上也有很多的這些軟件和工具，能夠達到AI換臉的效果，但是仿真度只有六七分的樣子，大眾直接就能看出來(lái)。但是如果要生成一個(gè)詐騙視頻來(lái)說(shuō)話(huà)，就要生成咱們仿真度極高的這種點(diǎn)對點(diǎn)視頻。

　　AI技術(shù)“換臉換聲”可能存在法律風(fēng)險

　　不過(guò)，AI技術(shù)也是把“雙刃劍”，即使是出于娛樂(lè )使用AI換臉、AI換聲，也是存在法律風(fēng)險的。法律專(zhuān)家表示，用AI技術(shù)為他人換臉換聲甚至翻譯成其他語(yǔ)言并發(fā)布視頻，可能涉嫌侵權，主要有三個(gè)方面：

　　一是涉嫌侵犯著(zhù)作權，例如相聲、小品等都屬于《中華人民共和國著(zhù)作權法》保護的“作品”。例如網(wǎng)友用AI軟件將相聲、小品等“翻譯”成其他語(yǔ)言，需經(jīng)過(guò)著(zhù)作權人授權，否則就存在侵權問(wèn)題。

　　二是涉嫌侵犯肖像權，根據《中華人民共和國民法典》，任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權。未經(jīng)肖像權人同意，不得制作、使用、公開(kāi)肖像權人的肖像，但是法律另有規定的除外。

　　三是涉嫌侵犯聲音權，根據《中華人民共和國民法典》規定，對自然人聲音的保護，參照適用肖像權保護的有關(guān)規定。也就是說(shuō)，需要取得聲音權人的同意，才能夠使用他人的聲音。

　　學(xué)會(huì )幾招 輕易識別AI“換臉換聲”

　　AI換臉這一技術(shù)的出現，導致耳聽(tīng)為虛、眼見(jiàn)也不一定為實(shí)了。那我們該如何防范呢？專(zhuān)家表示，其實(shí)AI人工換臉無(wú)論做得多么逼真， 想要識別視頻真假還是有一些方法的。

　　中國計算機學(xué)會(huì )安全專(zhuān)業(yè)委員會(huì )數字經(jīng)濟與安全工作組成員 方宇：實(shí)際上從我目前看到的深度偽造的實(shí)時(shí)視頻上來(lái)看，其實(shí)還是可以通過(guò)一些方式，去進(jìn)行一些驗證。

　　那比如說(shuō)我們可以要求對方在視頻對話(huà)的時(shí)候呢，在臉部的面前通過(guò)揮手的方式，去進(jìn)行一個(gè)識別，實(shí)時(shí)偽造的視頻，因為它要對這個(gè)視頻進(jìn)行實(shí)時(shí)的生成和處理和AI的換臉。

　　那么在揮手的過(guò)程中，就會(huì )造成這種面部的數據的干擾，最終產(chǎn)生的效果就是我們看到的這樣，揮手的過(guò)程中，他所偽造的這個(gè)人臉會(huì )產(chǎn)生一定的抖動(dòng)或者是一些閃現，或者是一些異常的情況。

　　第二個(gè)就是點(diǎn)對點(diǎn)的溝通中可以問(wèn)一些只有對方知道的問(wèn)題，驗證對方的真實(shí)性。

　　提高防范意識 避免個(gè)人生物信息泄露

　　專(zhuān)家表示，除了一些辨別AI換臉詐騙的小訣竅，我們每一個(gè)人都應該提高防范意識，在日常生活中也要做好相關(guān)防范措施，養成良好的上網(wǎng)習慣。首先應該是做好日常的信息安全的保護，加強對人臉、聲紋、指紋等生物特征數據的安全防護：另外做好個(gè)人的手機、電腦等終端設備的軟硬件的安全管理。第二，不要登錄來(lái)路不明的網(wǎng)站，以免被病毒侵入。第三，對可能進(jìn)行聲音、圖像甚至視頻和定位采集的應用，做好授權管理。不給他人收集自己信息的機會(huì )，也能在一定程度上讓AI換臉詐騙遠離自己。

　　伴隨AI技術(shù)發(fā)展 需要多層面監管規范

　　除了要提高自我防范意識，如何對AI技術(shù)加強監管，也成了越來(lái)越多人關(guān)注的問(wèn)題。AI技術(shù)本身不是問(wèn)題，關(guān)鍵是我們要怎么用它？如何形成有效監管？專(zhuān)家介紹，AI技術(shù)發(fā)展，需要多層面監管規范。

　　一是在源頭端，需要進(jìn)一步加強公民個(gè)人信息保護，尤其是加強對生物特征等隱私信息的技術(shù)、司法保護力度。二是在技術(shù)層面可以加強管理。例如可以讓視頻傳播網(wǎng)站或者社交軟件，使用專(zhuān)業(yè)的鑒別軟件來(lái)鑒定，對AI生成視頻，打上不可消除的“AI生成”水印字樣。目前，這種數字水印鑒偽技術(shù)有待進(jìn)一步普及。三是在法律制度層面，要進(jìn)一步完善人工智能等領(lǐng)域相關(guān)法律法規。2023年8月15日，我國正式施行《生成式人工智能服務(wù)管理暫行辦法》。《辦法》從多個(gè)方面“劃下紅線(xiàn)”，旨在促進(jìn)生成式人工智能健康發(fā)展和規范應用。 （記者 崔世杰）