今年以來(lái)，ChatGPT和GPT-4等技術(shù)的應用成為信息科技領(lǐng)域的熱點(diǎn)，引起公眾對AI技術(shù)的廣泛關(guān)注和熱情。昨日，中國互聯(lián)網(wǎng)協(xié)會(huì )發(fā)文稱(chēng)，伴隨著(zhù)深度合成技術(shù)的開(kāi)放開(kāi)源，深度合成產(chǎn)品和服務(wù)逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻進(jìn)行詐騙、誹謗的違法行為屢見(jiàn)不鮮。北京青年報記者查詢(xún)發(fā)現，國內多地警方已經(jīng)發(fā)布了相關(guān)案例。

　　利用“AI換臉”虛假視頻詐騙已發(fā)生多起

　　據內蒙古包頭警方消息，近日，福建省一知名企業(yè)家被境外詐騙團伙騙走430萬(wàn)元。在得知涉案的一張銀行卡在包頭市一銀行后，包頭警方立即介入，僅用10分鐘便將錢(qián)款及時(shí)控制住，為受害人止損336萬(wàn)余元。

　　據當事人郭先生介紹，4月20日當天，騙子冒充他的至交好友，通過(guò)微信聯(lián)系到他，視頻中謊稱(chēng)一個(gè)朋友在外地招標，需要430萬(wàn)元，且需要公對公賬戶(hù)過(guò)賬，想要借用郭先生公司的賬戶(hù)走一下賬。“從頭至尾都沒(méi)有和我提借錢(qián)的事情，就說(shuō)會(huì )先把錢(qián)給我打過(guò)來(lái)，再讓我給他朋友賬戶(hù)轉過(guò)去。因為在視頻中也確認了面孔和聲音，所以我放松了戒備。當時(shí)已經(jīng)臨近中午，對方又說(shuō)招標款12點(diǎn)前必須到賬，基于對好友的信任，還沒(méi)等錢(qián)到我的賬戶(hù)，我就先把這430萬(wàn)元給對方打了過(guò)去。”郭先生說(shuō)。

　　錢(qián)款打過(guò)去后，郭先生給好友發(fā)了一條微信，稱(chēng)事情已經(jīng)辦妥。到對方回過(guò)來(lái)是一個(gè)問(wèn)號，一問(wèn)才知道自己竟遇上了AI換臉的騙局。

　　多地警方密集提醒 涉及轉賬交易要格外留意

　　北京青年報記者注意到，針對AI換臉詐騙的案件，近期國內各地警方密集進(jìn)行了提醒。

　　溫州警方表示，不法分子通常會(huì )先盜取QQ或微信號，從QQ相冊或微信朋友圈內找到號主照片、視頻、聲音等，大面積找好友聊天，看到有回復的，使用“AI換臉”技術(shù)與之進(jìn)行視頻聊天，再找各種理由騙錢(qián)，受害人往往看到視頻聊天界面后，以為是好友本人，便相信轉賬。

　　武漢警方提醒，在涉及轉賬交易等行為時(shí)，個(gè)人要格外留意。

　　對自稱(chēng)“領(lǐng)導”“朋友”的轉賬要求務(wù)必提高警惕

　　中國互聯(lián)網(wǎng)協(xié)會(huì )則表示，如果有人自稱(chēng)“家人”“朋友”“老師”“領(lǐng)導”，通過(guò)社交軟件、短信、電子郵件等，以各種方式和理由誘導你轉賬匯款，務(wù)必第一時(shí)間提高警惕。在A(yíng)I時(shí)代，文字、聲音、圖像和視頻都有可能是深度合成的。在轉賬匯款、資金往來(lái)這樣的典型場(chǎng)景，要通過(guò)回撥對方手機號等額外通信方式核實(shí)確認，不要僅憑單一溝通渠道，未經(jīng)核實(shí)就直接轉賬匯款，無(wú)論對方是誰(shuí)。

　　案例

　　AI除了換臉換聲扮好友還能合成不雅視頻敲詐

　　浙江溫州市公安局也通報過(guò)一起利用AI換臉技術(shù)進(jìn)行詐騙的案件。在這起案件中，陳先生收到了身處國外的好友“阿誠”發(fā)來(lái)的私信，在添加了對方的新微信后，對方表示自己最近準備回國，但購買(mǎi)機票的過(guò)程中遇到了難題，回國的機票已付了8000元定金，受到國際漫游限制，聯(lián)系不上國內航空公司的經(jīng)理，希望將剩余的錢(qián)轉給陳先生，請他幫忙聯(lián)系經(jīng)理進(jìn)行付款。

　　對于此人的身份，陳先生有所懷疑，但對方隨后打來(lái)視頻電話(huà)，視頻中“阿誠”和陳先生揮著(zhù)手打招呼很是親切，沒(méi)過(guò)一會(huì )兒，對方就掛斷了視頻電話(huà)，稱(chēng)國外網(wǎng)絡(luò )很卡。陳先生漸漸打消了心中的顧慮，并在“阿誠”一步步的“指導”下添加了“航空公司經(jīng)理”的微信替“阿誠”支付了4.9萬(wàn)元。經(jīng)過(guò)警方核實(shí)，騙子用AI換臉技術(shù)，利用阿誠社交平臺上先前發(fā)布的視頻，截取了面部視頻畫(huà)面并進(jìn)行了“換臉”，從而對陳先生進(jìn)行了詐騙。

　　此外，江蘇常州警方也通報了一起類(lèi)似案例。小劉的初中同學(xué)“小韓”通過(guò)QQ聯(lián)系小劉，準備借6000元錢(qián)， “小韓”先發(fā)來(lái)一條語(yǔ)音，聲音很像本人，后來(lái)又給小劉打了一通視頻電話(huà)。小劉轉完錢(qián)后越想越不對勁，覺(jué)得“小韓”表情僵硬，于是撥打小韓的電話(huà)，沒(méi)想到小韓的QQ賬號被盜了

　　北青報記者注意到，除了通過(guò)AI換臉，然后視頻通話(huà)的手段直接詐騙錢(qián)財，還有詐騙分子通過(guò)AI不雅視頻的方式進(jìn)行詐騙，詐騙分子用AI技術(shù)合成詐騙對象的個(gè)人不雅照，然后以舉報、散播等手段威脅當事人，要求詐騙對象匯款。

　　在溫州警方通報的一起案件中，溫州的陳先生遭遇“AI換臉”敲詐，他收到一封“私家偵探”的敲詐信，同時(shí)附帶了他與一名女子的所謂的不雅視頻，信件中對方要求陳先生收件后速與其聯(lián)系，不要心存僥幸，并威脅將視頻散播到互聯(lián)網(wǎng)。因為知道這是一段合成視頻，但不知如何處理，陳先生向警方求助。目前此案件正在調查中。

　　本組文/本報記者 李鐵柱 (來(lái)源：北京青年報)