通過編輯照片中的人臉製作消遣娛樂短視頻,類似的應用您使用過嗎?好玩的背後可能存在著安全風險。近期,針對部分語音社交軟體和涉“深度偽造”技術的應用未履行安全評估程序,國家互聯網信息辦公室、公安部指導各地網信部門、公安機關依法約談了11家企業。
被約談的11家企業為映客、小米、快手、字節跳動、鯨準數服、雲賬戶、喜馬拉雅、阿裏巴巴、網易雲音樂、騰訊、去演等,網信部門、公安機關督促其按照法律法規及政策要求認真開展安全評估,完善風險防控機制和措施,並對安全評估中發現的隱患及時採取有效整改,切實履行企業信息內容安全主體責任。
被約談企業部分涉及“深度偽造”技術的應用,什麼是深度偽造技術呢?
中國信通院雲大所人工智慧部副主任 石霖: 深度偽造技術以編輯或者替換視頻、圖像中人臉為目的,用於消遣娛樂的一類軟體。目前比較常見的主要是國外的一些軟體,像螞蟻呀嘿(搞笑短視頻)就是其中一種。
“深度偽造”技術能倣人臉,能模倣聲音嗎?
中國信通院雲大所人工智慧部副主任 石霖: 除了視覺的模倣外,確實可以用於語音和聽覺的模倣,但是這些技術不能被稱作“深度偽造”,可以稱作“合成”,也有很多正向積極的應用,比如我們常見的一些語音導航、新聞播報等。
相關軟體安全評估不完善 可能有怎樣的危害?
中國信通院雲大所人工智慧部副主任 石霖: 一方面這些軟體是使用的我們個人的人臉、聲音等個人信息,如果保存不當,會造成我們個人隱私數據洩露;另一方面這些軟體可以被用於“惡搞”他人,造成他人名譽和心理上的損傷。對此,我們國家已經出臺了相關政策法規,要求禁止用於虛假新聞信息傳播和製作,同時對非真類音視頻要求進行明確標識,要求相應平臺進行開展安全評估,部署相應檢測和鑒別技術。