"AI換臉"被濫用 科技莫成"黑產(chǎn)"幫兇

AI“換臉”技術(shù)被應(yīng)用于色情視頻，本身就是對(duì)科技的侮辱，借此形成“黑色產(chǎn)業(yè)鏈”，造成的社會(huì)危害更是不可低估。

科技的發(fā)展推動(dòng)了社會(huì)進(jìn)步，同時(shí)也帶來很多風(fēng)險(xiǎn)和隱患。從前，很多人只知道運(yùn)用軟件Photoshop（PS）能夠修改圖片，如今，AI（人工智能）直接將“修圖”技術(shù)進(jìn)化成“換臉”。近日，新京報(bào)記者在調(diào)查時(shí)發(fā)現(xiàn)，互聯(lián)網(wǎng)上大量出現(xiàn)通過“AI換臉”實(shí)現(xiàn)的由知名女藝人“主演”的淫穢視頻，在百度貼吧、閑魚等主要網(wǎng)絡(luò)平臺(tái)均有出售。

如果有人覺得，明星藝人被美化也好、丑化也罷，都不關(guān)自己的事，那就大錯(cuò)而特錯(cuò)了。因?yàn)椋�在現(xiàn)實(shí)中，“AI換臉”已經(jīng)不僅僅是一門技術(shù)，一條依附于“AI換臉”的“黑色產(chǎn)業(yè)鏈”已經(jīng)形成。據(jù)新京報(bào)記者的調(diào)查報(bào)道稱，有的商家不僅提供成品的視頻，還接受買家的訂制，只要買家提供20張照片，就可以搞出任何人的“小電影”。還有的商家“授人以漁”，售賣教學(xué)視頻供人學(xué)習(xí)，出示學(xué)生證還能打七折。

互聯(lián)網(wǎng)不是法外之地。“AI換臉”技術(shù)被應(yīng)用于淫穢視頻，本身就是對(duì)科技的侮辱，借此形成“黑色產(chǎn)業(yè)鏈”，造成的社會(huì)危害更是不可低估。

首先，“AI換臉”為淫穢視頻的傳播提供了新的興奮點(diǎn)，讓那些本來未必會(huì)接觸淫穢視頻的未成年人群體，因?yàn)椤白沸恰鼻榻Y(jié)而增加了“看一看”的興趣，最終誤入其中，難以自拔。

其次，在“AI換臉”技術(shù)下，每個(gè)人都可能成為受害者。尤其是普通人，一旦被“AI換臉”成為“小電影”的主角，由于身邊人的鑒別能力較弱，大多數(shù)人在轉(zhuǎn)發(fā)信息時(shí)更注重內(nèi)容的轟動(dòng)性和刺激性，而非可靠性，就算是一個(gè)做工粗糙的視頻，也可能會(huì)在“以訛傳訛”中給無辜的當(dāng)事人帶來極大的精神傷害。

第三，“AI換臉”的應(yīng)用場(chǎng)景不僅是色情視頻，還可能被用于電信詐騙。如果有人通過“換臉”向“被換臉者”的親友索要錢財(cái)，就算詐騙不成功，也可以造成損害當(dāng)事人名譽(yù)的影響。

第四，“AI換臉”技術(shù)具有一定的趣味性和挑戰(zhàn)性，會(huì)吸引更多人嘗試其訓(xùn)練模型的樂趣，從接受者變成參與者。特別是青少年對(duì)新事物的接受能力強(qiáng)，計(jì)算機(jī)技術(shù)水平往往較高，其中一些法制觀念或道德意識(shí)較弱的人在“小試身手”后很容易踩過界，變成“黑色產(chǎn)業(yè)鏈”的一環(huán)。

盡管“AI換臉”技術(shù)的主要危害在于使用者的濫用，但因“AI換臉”自帶“混淆人格”的功能屬性，因此，相關(guān)部門對(duì)“AI換臉”行為的法律限制和行為規(guī)范也應(yīng)更具針對(duì)性。首先，公安部門、網(wǎng)絡(luò)監(jiān)管者、網(wǎng)絡(luò)貼吧和電子商務(wù)平臺(tái)的經(jīng)營(yíng)者，都有義務(wù)清除違法售賣的包含“AI換臉”技術(shù)的違法色情視頻。對(duì)于面向公眾銷售的或代為制作換臉視頻的營(yíng)利性行為，應(yīng)堅(jiān)決予以禁止。

其次，讓“AI換臉”技術(shù)的愛好者意識(shí)到，不管是否使用“AI換臉”技術(shù)，在中國(guó)境內(nèi)，凡是傳播具有性行為、性器官、裸體的圖像或視頻都是具有法律風(fēng)險(xiǎn)的，“換臉”技術(shù)并不能消除原始素材的違法性，將之作為“技術(shù)成果”與大家分享是有風(fēng)險(xiǎn)的。

第三，制作者應(yīng)防范自己的“換臉”視頻被人利用，用于各類欺詐和侵權(quán)活動(dòng)。不要因?yàn)橛X得“好玩”，就隨便幫人制作“爸爸媽媽我要錢啊”之類的視頻。

第四，未經(jīng)當(dāng)事人授權(quán)的“換臉”行為，是對(duì)公民人格權(quán)和肖像權(quán)的侵犯。掌握“AI換臉”技術(shù)的人，應(yīng)該對(duì)他人多懷尊重之意，不可輕易“戲之”，更不可沒有底線地將“換臉”技術(shù)用于非法牟利，否則難免會(huì)遭到法律的嚴(yán)懲。

□繆因知（法律學(xué)者）