“AI換臉”損害公共利益，檢察院出手了！

　　近日

　　“AI詐騙”“AI換臉”等話題

　　頻頻登上熱搜

　　大眾對于人工智能技術的討論和關注

　　也在持續(xù)升級

　　6月9日

　　浙江省杭州市蕭山區(qū)檢察院

　　對一起利用“AI換臉”技術

　　侵犯公民個人信息的案件

　　依法向杭州互聯(lián)網(wǎng)法院

　　提起民事公益訴訟

　　2020年左右，虞某某從互聯(lián)網(wǎng)上接觸到“AI換臉”軟件及技術，并通過學習掌握了該軟件的使用方法。2021年左右開始，虞某某以牟利為目的，在未取得被編輯人同意的情況下，利用上述“AI換臉”軟件，將從互聯(lián)網(wǎng)等渠道收集到的他人人臉信息與部分淫穢視頻中的人臉信息進行替換合成，制作生成虛假的換臉淫穢視頻，在網(wǎng)絡社交軟件上進行傳播并獲利。截至案發(fā)，公安機關共在虞某某所組建的公開群內查獲淫穢視頻1200余部、圖片1600余張。

　　2022年11月30日，公安機關以涉嫌傳播淫穢物品牟利罪將虞某某移送蕭山區(qū)檢察院審查起訴。該院在審查時發(fā)現(xiàn)，虞某某不僅涉嫌刑事犯罪（目前已對虞某某以制作、傳播淫穢物品牟利罪提起公訴），同時還存在損害社會公共利益的行為。

　　經(jīng)查，虞某某在使用“AI換臉”技術制作淫穢視頻的同時，還為他人提供換臉視頻定制服務，即根據(jù)客戶提供的視頻或照片，制作換臉視頻。此外，虞某某還在網(wǎng)絡社交軟件上銷售“AI換臉”軟件、提供換臉素材并傳授使用教程。

　　檢察機關認為：人臉信息作為敏感個人信息，對于保障公民人身財產(chǎn)安全具有重要意義，應當依法受到嚴格保護。本案中，虞某某從互聯(lián)網(wǎng)公共空間非法獲取眾多人臉信息，利用“AI換臉”等深度合成技術非法處理、制作淫穢視頻后，在超過2000人的網(wǎng)絡社交軟件群組傳播，同時提供換臉視頻定制服務，使不特定群體成為潛在的被侵害對象，違反了法律法規(guī)和社會公德，混淆社會公眾認知，污染社會風氣，侵害了承載在不特定多數(shù)社會主體個人信息之上的公共信息安全，破壞社會公共秩序，構成對公共信息安全領域的社會公共利益侵害；除此之外，虞某某在明知他人可能將“AI換臉”軟件用于侵犯個人信息等不正當目的的情況下，仍向他人銷售“AI換臉”軟件、提供換臉素材并傳授使用教程，使得更多不特定主體個人信息被侵害的社會危險性進一步擴大。

　　虞某某向買家推介“換臉”軟件

　　虞某某的行為違反了《中華人民共和國民法典》《中華人民共和國個人信息保護法》等相關法律規(guī)定，應當承擔相應的民事責任。

　　在依法履行訴前公告程序、無適格主體提起訴訟請求后，蕭山區(qū)檢察院于6月9日向杭州互聯(lián)網(wǎng)法院提起民事公益訴訟，請求判令被告停止侵權，刪除持有的所有涉案個人信息，不得再違法使用深度合成技術侵害社會公益；支付公益損害賠償金6萬元，專門用于個人信息保護、人臉深度合成技術應用的治理等公益事項；在國家級媒體上向社會公眾公開賠禮道歉。

　　“人臉信息與個人的隱私權、名譽權、財產(chǎn)權等多種權益關系緊密，屬于敏感個人信息，從司法實踐來看，人臉信息的不正當使用將對社會公眾的人身和財產(chǎn)安全帶來重大風險，一旦造成侵害往往是長久的、持續(xù)的、難以彌補的?！背修k該案的檢察官說，近年來，利用“AI換臉”技術制作換臉視頻，繞過人臉識別系統(tǒng)監(jiān)管從而實施詐騙、盜竊等犯罪的情形時有發(fā)生?？梢哉f，“AI換臉”技術在灰色領域甚至違法犯罪領域的濫用，給社會公眾帶來了極大危害?！拔覀兿Ｍㄟ^該案的辦理，能夠進一步震懾犯罪分子，也提醒廣大群眾，在使用新興技術時，不能忘記法律的規(guī)制、道德倫理的約束，這是所有技術發(fā)展應有的邊界?！?/p>

　　（來源：檢察日報正義網(wǎng)微信公眾號）