近日,AI換臉技術(shù)受到廣泛關(guān)注。繼主打視頻換臉功能的“ZAO”APP一夜爆紅并引發(fā)爭(zhēng)議后,又有媒體發(fā)現(xiàn)“AI換臉灰色產(chǎn)業(yè)鏈”:售賣明星換臉的不雅視頻、提供視頻定制換臉服務(wù)、教授換臉技術(shù)等已經(jīng)在網(wǎng)絡(luò)上成為一門生意;在某二手交易平臺(tái)上,花75元就能買到40多位女星上百部的AI換臉視頻。
可以說(shuō),此次的AI換臉風(fēng)波給所有人上了一堂生動(dòng)的技術(shù)安全課,同時(shí)也將一個(gè)問題擺在所有人面前:技術(shù)的進(jìn)步是不可遏制的潮流,然而當(dāng)技術(shù)跑偏了方向,甚至成為“脫韁的野馬”橫沖直撞、給社會(huì)帶來(lái)危害時(shí),我們?cè)撛趺崔k?我們?nèi)ツ睦飳ふ易屍洹皯已吕振R”的“繩”?
也許答案也依然藏于此次AI換臉風(fēng)波之中。從一夜刷屏,到一朝約談,“ZAO”APP只走過了4天。9月3日,工信部約談“ZAO”背后的公司陌陌,要求對(duì)“ZAO”存在的用戶隱私協(xié)議不規(guī)范等問題,組織開展自查整改——這是監(jiān)管之“繩”。對(duì)于有賣家在平臺(tái)上售賣女星換臉不雅視頻,有二手交易平臺(tái)表示,對(duì)違反公序良俗的商品一貫“零容忍”,將從嚴(yán)從重處罰違規(guī)行為,同時(shí),還將向執(zhí)法機(jī)關(guān)舉報(bào)涉嫌發(fā)布違規(guī)信息的賬號(hào),協(xié)助開展線下溯源打擊,追蹤背后的黑灰產(chǎn)業(yè)鏈團(tuán)伙——這是商家自律之“繩”。有法律界人士指出,對(duì)于AI換臉技術(shù)下被侵犯肖像權(quán)和名譽(yù)權(quán)的明星,可采取相應(yīng)法律措施進(jìn)行維權(quán),另外,售賣明星換臉不雅視頻的行為,還涉嫌構(gòu)成刑事犯罪,一旦認(rèn)定構(gòu)成傳播淫穢物品牟利罪,情節(jié)嚴(yán)重者可判無(wú)期徒刑——這是正義的法律之“繩”。當(dāng)然,在此次風(fēng)波中,我們還看到了媒體的輿論監(jiān)督之“繩”,用戶的自我保護(hù)、自我約束之“繩”……
是的,“繩”就在與技術(shù)相關(guān)的每一個(gè)環(huán)節(jié)、每一個(gè)人的手中。我們需要做的是,給技術(shù)一片廣闊的天地,任其自由馳騁,與此同時(shí),讓我們手中的“繩”變得更加牢固,并且當(dāng)技術(shù)出現(xiàn)“脫韁”之時(shí)能夠“一觸即發(fā)”“多繩齊發(fā)”,讓技術(shù)及時(shí)“懸崖勒馬”!