在一款熱門記賬軟件中，用戶除了記錄日常開支，還能創(chuàng)建AI虛擬陪伴者。這些AI角色可以根據(jù)用戶設(shè)定的關(guān)系(如親友、戀人)，在記賬后自動發(fā)送表情包、留言互動，這一功能獲得了眾多用戶青睞。當(dāng)公眾人物何某發(fā)現(xiàn)自己的姓名、肖像被這款軟件推薦為AI陪伴者，不僅用戶可隨意設(shè)置親密關(guān)系，AI還能模仿其神態(tài)語氣生成互動內(nèi)容后，他認(rèn)為自身人格權(quán)益遭受侵害，最終將軟件運(yùn)營方上海某人工智能科技公司訴至法院。

北京互聯(lián)網(wǎng)法院經(jīng)審理認(rèn)定，被告并未獲得何某的許可，使用了何某的姓名、肖像，構(gòu)成對何某姓名權(quán)、肖像權(quán)的侵害。此外，AI陪伴者還系統(tǒng)地使用了何某的整體形象，也侵犯了何某的一般人格權(quán)。上海某人工智能科技公司被判向何某公開賠禮道歉并賠償20.3萬元人民幣，該案件也入選了最高人民法院“民法典頒布后人格權(quán)司法保護(hù)典型民事案例”。

“雖然網(wǎng)絡(luò)上的虛擬形象并不是真實(shí)的主體，但發(fā)布相關(guān)言論和使用其形象時，可能會涉及對他人人格尊嚴(yán)的貶損。”本案承辦法官，北京互聯(lián)網(wǎng)法院審委會專職委員孫銘溪表示，“企業(yè)創(chuàng)新發(fā)展過程中要時刻注意法律的邊界。網(wǎng)絡(luò)用戶利用新的技術(shù)去滿足個人情感和文化需求的同時，也要充分尊重他人的人格權(quán)益。”

隨著深度偽造(Deepfake)技術(shù)的使用門檻不斷降低，AI換臉、虛擬主播等應(yīng)用呈爆發(fā)式增長。國家網(wǎng)信辦2024年4月最新監(jiān)測數(shù)據(jù)顯示，短視頻平臺AI換臉視頻日均新增量已突破72萬條，其中除明星形象濫用外，普通人形象盜用比例亦呈上升趨勢。技術(shù)狂歡背后，暗藏肖像權(quán)侵害、虛假信息傳播、情感詐騙等系列隱患。2024年4月26日最高人民法院發(fā)布的《全國互聯(lián)網(wǎng)法院受案情況通報(bào)(2024Q1)》顯示，人工智能相關(guān)侵權(quán)案件收案量較去年同期增長317%，其中涉及人格權(quán)糾紛案件占比79.2%。

面對技術(shù)濫用風(fēng)險(xiǎn)，大家如何才能筑牢防線？

孫銘溪提出了三個建議：第一要強(qiáng)化個人信息保護(hù)，避免在公開平臺上傳高清正臉照片、原聲錄音；謹(jǐn)慎授權(quán)APP調(diào)用攝像頭、麥克風(fēng)權(quán)限，關(guān)閉非必要的人臉識別功能。第二要提升內(nèi)容鑒別能力，AI合成的視頻有人物邊緣模糊、表情僵硬、口型不匹配等細(xì)節(jié)特點(diǎn)，同時要利用官方工具(如網(wǎng)信辦“辟謠平臺”)或第三方檢測軟件驗(yàn)證真?zhèn)巍５谌鲃泳S權(quán)與舉報(bào)，發(fā)現(xiàn)侵權(quán)內(nèi)容后，應(yīng)立即通過平臺投訴渠道要求刪除，并保存截圖、鏈接等證據(jù)；向當(dāng)?shù)鼐W(wǎng)信部門舉報(bào)違法AI合成服務(wù)，或向法院提起訴訟。

“當(dāng)你在屏幕前驚嘆‘換臉’特效時，請謹(jǐn)記：每一次點(diǎn)擊，都可能成為技術(shù)濫用或詐騙的‘突破口’。”孫銘溪說，“AI換臉技術(shù)的狂奔，呼喚法律與倫理的‘韁繩’。從開發(fā)者的合規(guī)責(zé)任到公眾的風(fēng)險(xiǎn)意識，唯有在法治框架內(nèi)探索技術(shù)邊界，才能讓創(chuàng)新真正造福社會。”