使用AI技術(shù)，用戶只需提供一張正面人臉照片上傳到該軟件，就可以把選定視頻中的明星面部替換掉，生成以自己為主角的視頻片段——一款新推出的AI換臉軟件迅速火爆社交網(wǎng)絡(luò)，但同時也引發(fā)關(guān)于用戶隱私的爭議。雖然目前該軟件已被叫停，但搜索“換臉”仍可看到其他眾多相似的商品信息。有媒體報道，目前在網(wǎng)絡(luò)平臺上，售賣明星換臉的淫穢視頻、提供視頻定制換臉服務(wù)、教授換臉技術(shù)等已經(jīng)成為一門生意。
眼下，刷臉支付已成為各大科技公司未來爭奪的戰(zhàn)場，這一事件也再次把外界普遍關(guān)注的用戶隱私問題拋了出來。當換臉算法更加高明，現(xiàn)有的刷臉支付能否確保萬無一失?
支付寶生物識別技術(shù)負責(zé)人留招表示，現(xiàn)在生物識別與支付已經(jīng)成為了社會主流方式，為用戶的生活提供了便利，但用戶的隱私與信息安全是生命線。
也就是說，無論技術(shù)如何發(fā)展，用戶安全底線不能突破。
該換臉軟件規(guī)定，用戶上傳發(fā)布內(nèi)容后，意味著同意授予某些相關(guān)方在“全球范圍內(nèi)完全免費、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利”，一些網(wǎng)友和法律人士認為其涉嫌非法收集信息。
在數(shù)字經(jīng)濟形態(tài)下，數(shù)據(jù)已經(jīng)成為新的生產(chǎn)要素，數(shù)據(jù)優(yōu)勢是競爭優(yōu)勢也是商業(yè)優(yōu)勢，未來以數(shù)據(jù)為基礎(chǔ)的人工智能將是商業(yè)藍海，但如果相關(guān)監(jiān)管沒有跟上，數(shù)據(jù)濫用就會出大問題。
在這個過程中，隨著AI等技術(shù)的進步，人臉作為數(shù)據(jù)不但是有價值的，而且還會帶來新的風(fēng)險。因此，“有技術(shù)也不能濫用，有技術(shù)也不能任性”應(yīng)該成為各大企業(yè)必須遵守的準則。
從這個角度看，AI換臉軟件所引發(fā)的爭議表面上是圍繞隱私保護，但在本質(zhì)上卻反映了一個永恒的命題，即技術(shù)飛速進步帶來便利的同時也會產(chǎn)生破壞，這對人類現(xiàn)有制度體系、運行機制、法律規(guī)則和社會秩序等都造成前所未有的挑戰(zhàn)。尤其是在大數(shù)據(jù)和算法之下，所有人都是“裸露”的，個人隱私無處逃遁，普通人也無力抵抗。
北京市安理律師事務(wù)所高級合伙人王新銳曾表示，這類利用深度學(xué)習(xí)技術(shù)換臉的軟件，最大的問題是大規(guī)模收集生物識別信息和“真假難辨”的呈現(xiàn)方式給社會帶來的安全風(fēng)險，而這種風(fēng)險目前被公眾廣泛低估，但已經(jīng)帶來嚴重的后果。
人工智能不僅是一個技術(shù)問題，也是一道治理考題，這意味著有必要正視、 預(yù)判和直面技術(shù)倫理與法律風(fēng)險，盡快在技術(shù)、 市場和規(guī)則間尋找可大可久的平衡點，而一種理想的狀態(tài)是人工智能技術(shù)與相關(guān)立法齊頭并進，科技企業(yè)更要自發(fā)地承擔倫理責(zé)任，保持敬畏之心，堅持科技向善，維護人類價值。
