警惕AI換臉擬聲技術(shù)詐騙

前不久，“AI孫燕姿”“AI王菲”們爆火出圈，成為短視頻平臺(tái)新一輪的流量密碼。與此同時(shí)，能以假亂真、掩人耳目的AI技術(shù)也在頻頻觸及法律紅線(xiàn)。近日，北京市通州區(qū)人民法院調(diào)研發(fā)現(xiàn)，平臺(tái)流量背后有人正在利用AI換臉擬聲實(shí)施不法行為，如偽造不雅視頻、換臉詐騙等。

AI違法行為防不勝防，民事方面易引發(fā)肖像權(quán)等侵權(quán)行為，刑事方面易引發(fā)詐騙罪、侵犯公民個(gè)人信息罪等犯罪行為。據(jù)此，通州法院法官通過(guò)兩起典型案例揭示AI技術(shù)亂象背后的法律問(wèn)題，以能動(dòng)司法擊敗“AI魔法”，提醒公眾提高維權(quán)和反詐意識(shí)?！?/p>

案例1

利用AI技術(shù)使用他人形象視頻

涉事公司構(gòu)成肖像侵權(quán)被判賠

陳某在某網(wǎng)絡(luò)平臺(tái)注冊(cè)賬號(hào)，發(fā)表諸多唯美造型視頻，有粉絲上萬(wàn)人。某公司利用AI技術(shù)運(yùn)營(yíng)某款A(yù)PP，該APP向用戶(hù)提供拍攝視頻時(shí)的提詞功能以及提供面部替換的視頻模板。某公司未經(jīng)陳某許可在該APP中使用陳某發(fā)布在其賬號(hào)中的多個(gè)唯美視頻作為視頻模板，供軟件用戶(hù)進(jìn)行面部替換。陳某發(fā)現(xiàn)后提起訴訟，某公司刪除相關(guān)視頻。

法院經(jīng)審理認(rèn)為，某公司運(yùn)營(yíng)的該款A(yù)PP具有明顯的商業(yè)屬性，其未經(jīng)陳某許可使用陳某個(gè)人形象視頻進(jìn)行運(yùn)營(yíng)，并非法律規(guī)定的合理使用，對(duì)陳某構(gòu)成肖像侵權(quán)，應(yīng)承擔(dān)相應(yīng)的侵權(quán)責(zé)任。判令被告某公司在該APP首頁(yè)置頂處刊登道歉聲明向原告陳某賠禮道歉，并賠償陳某1000元。

法院調(diào)研發(fā)現(xiàn)，AI換臉擬聲技術(shù)用于商業(yè)盈利時(shí)極易引發(fā)肖像權(quán)、姓名權(quán)等人格權(quán)糾紛，一些營(yíng)銷(xiāo)短視頻、音頻的商家經(jīng)常在未經(jīng)當(dāng)事人許可和同意的情況下進(jìn)行換臉、換聲操作，以此獲利。這種行為屬于侵權(quán)行為。

法官介紹，人格權(quán)是民事主體享有的生命權(quán)、身體權(quán)、健康權(quán)、姓名權(quán)、名稱(chēng)權(quán)、肖像權(quán)、名譽(yù)權(quán)、榮譽(yù)權(quán)、隱私權(quán)等權(quán)利。自然人享有肖像權(quán)，有權(quán)依法制作、使用、公開(kāi)或者許可他人使用自己的肖像。肖像是通過(guò)影像、雕塑、繪畫(huà)等方式，在一定載體上所反映的特定自然人可以被識(shí)別的外部形象。任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意，不得制作、使用、公開(kāi)肖像權(quán)人的肖像，但是法律另有規(guī)定的除外。未經(jīng)肖像權(quán)人同意，肖像作品權(quán)利人不得以發(fā)表、復(fù)制、發(fā)行、出租、展覽等方式使用或者公開(kāi)肖像權(quán)人的肖像。

法官提示

如遭遇被換臉、換聲的民事侵權(quán)行為，要有主動(dòng)維權(quán)意識(shí)，要關(guān)注侵權(quán)方相關(guān)作品發(fā)布時(shí)間、數(shù)量、范圍，主動(dòng)搜集網(wǎng)站/APP截圖、音頻、視頻等作為證據(jù)，向侵權(quán)方提出嚴(yán)正交涉，積極運(yùn)用法律途徑維護(hù)自身合法權(quán)益。如在本案中，法院經(jīng)審理查明某公司的行為構(gòu)成肖像侵權(quán)，不僅判令某公司公開(kāi)賠禮道歉，并且要求某公司賠償損失。擊敗“AI魔法”，交出公正答卷，人民法院隨時(shí)嚴(yán)陣以待。

案例2

用AI智能軟件詐騙近百萬(wàn)四被告人獲刑

2022年2月，被告人郭某在A省某區(qū)成立未經(jīng)審批登記的“公司”，并雇用被告人黃某、江某、田某等人通過(guò)某AI智能軟件篩選有意向炒股的股民“資源”（被害人），用于出售給下游公司獲利。郭某負(fù)責(zé)將其員工篩選、添加好的股民微信提供給其他同伙的“公司”進(jìn)行電信網(wǎng)絡(luò)詐騙活動(dòng)；其他同伙負(fù)責(zé)用微信小號(hào)進(jìn)行角色扮演，對(duì)所謂的炒股資深專(zhuān)家“王某”進(jìn)行吹捧以取得被害人信任，誘導(dǎo)添加了微信的被害人在虛假投資平臺(tái)上投資，以此騙取被害人的投資款。至2022年7月，郭某等人共騙取投資款人民幣近百萬(wàn)元。法院經(jīng)審理認(rèn)為，被告人郭某構(gòu)成詐騙罪、侵犯公民個(gè)人信息罪；黃某、江某、田某等人構(gòu)成非法利用信息網(wǎng)絡(luò)罪。

法官指出，AI犯罪手段越發(fā)高明，犯罪分子通常會(huì)通過(guò)AI技術(shù)進(jìn)行聲音合成和換臉，并用AI程序篩選受害人，再用盜號(hào)或角色扮演等方式騙取信任，甚至生產(chǎn)出定制化的犯罪腳本，進(jìn)一步實(shí)施不法行為，受害人往往難以在第一時(shí)間分辨出真?zhèn)?，落入違法者圈套。這種違法犯罪形式往往構(gòu)成多種罪名，最終被數(shù)罪并罰。

法官表示，違反國(guó)家有關(guān)規(guī)定，向他人出售或者提供公民個(gè)人信息，情節(jié)嚴(yán)重的，處三年以下有期徒刑或者拘役，并處或者單處罰金；情節(jié)特別嚴(yán)重的，處三年以上七年以下有期徒刑，并處罰金。詐騙公私財(cái)物，數(shù)額較大的，處三年以下有期徒刑、拘役或者管制，并處或者單處罰金；數(shù)額巨大或者有其他嚴(yán)重情節(jié)的，處三年以上十年以下有期徒刑，并處罰金；數(shù)額特別巨大或者有其他特別嚴(yán)重情節(jié)的，處十年以上有期徒刑或者無(wú)期徒刑，并處罰金或者沒(méi)收財(cái)產(chǎn)。

法官提示

警惕此類(lèi)AI犯罪行為，如遇“微信好友通過(guò)視頻借款”情形，切記多渠道核實(shí)“好友”身份，勿輕易轉(zhuǎn)賬，如您已經(jīng)轉(zhuǎn)賬，及時(shí)報(bào)警或撥打反詐中心電話(huà)96110；如遇“低風(fēng)險(xiǎn)高回報(bào)的投資理財(cái)”情形，莫存在僥幸和投機(jī)心理，為了所謂高回報(bào)的收益，輕易將錢(qián)款轉(zhuǎn)賬至不明來(lái)路的“投資平臺(tái)”。理財(cái)要通過(guò)正當(dāng)合法手段進(jìn)行；如遇“×××邀請(qǐng)您進(jìn)入群聊/視頻會(huì)議/直播間”情形，不要輕易加入全是陌生人的微信群聊、視頻會(huì)議，容易陷入犯罪分子提前制作好的角色扮演和犯罪劇本之中，成為待宰羔羊。