“AI换脸”火了，有人10分钟被骗400万【wàn】，谁【shuí】来【lái】担责？丨亮见31期

丨划重点

1. 对AI生成内容进行标记【jì】是【shì】法律法规要求的，这不意【yì】味着平台能完全【quán】免责，平台【tái】还【hái】需要履行技术识别、停【tíng】止传输、处置措施和【hé】报告等责任。

(资料图片)

2. 直播间使用明星面孔【kǒng】，侵犯了明【míng】星的肖像【xiàng】权，还涉及到虚假【jiǎ】宣传、欺【qī】诈消费者和【hé】不【bú】正当【dāng】竞争等问题。

3. 如果【guǒ】在【zài】银行有能力识别非真实人脸的情况下间接导致了AI换脸【liǎn】诈骗给【gěi】储【chǔ】户造成【chéng】损失【shī】，这种情况下可能需要担【dān】责。

4. 消费【fèi】者需要更加重视个人信息的保【bǎo】护【hù】，尽【jìn】量避免无必【bì】要的授【shòu】权，可【kě】以拒绝使用要求授【shòu】权过【guò】多个人信息的应用。

丨概述

AIGC的爆火让人们【men】看到了人工智能日【rì】常应用的可能，其场景覆【fù】盖文字/图片/音频/视频等【děng】形式的内容生成，在特【tè】定领域【yù】，AIGC相关【guān】的内容的【de】质量、可靠性已经远超人类，然而这种高度【dù】的【de】“仿【fǎng】真”，也衍生出了新的问题——AI诈【zhà】骗。

北京市岳成律师事务所高级【jí】合伙人岳【yuè】屾山认为，技术具有两面性【xìng】，对待其态度【dù】不能【néng】一概【gài】而论，需要将其【qí】纳入法【fǎ】律框架【jià】下规【guī】范【fàn】发【fā】展。而针对AI诈骗，岳律师认为个人信息泄露的【de】情况【kuàng】仍很【hěn】普遍，普通人在使用相【xiàng】关【guān】设备【bèi】和【hé】软件时需尽量避免无必要的授权【quán】，但诈骗【piàn】分子不断变化和【hé】“创新”，最根本的防范防范还【hái】是保持警惕、提高对诈骗的【de】认知。

01

AI内容标记无法完全规避责任

刘兴亮【liàng】：现在，许多平台对AIGC生成【chéng】的内【nèi】容【róng】会有明确风险提示标记，这种【zhǒng】提示【shì】有效吗？

岳屾山：标记是根据【jù】法规【guī】明确规【guī】定【dìng】的，要求新技术和应用【yòng】来制作、发【fā】布、传播非真实音【yīn】视频信息【xī】，应该采用显著的方式进行标记。标记【jì】只【zhī】是一【yī】种规避【bì】责【zé】任【rèn】的方式，因为法律要求标记【jì】，但并【bìng】不意味着完全免除【chú】责【zé】任，除了标记之外还有其他的义务需【xū】要履行【háng】。

例如，平台应该部署一些用【yòng】于识别违法【fǎ】违规音【yīn】视频和【hé】非真【zhēn】实音视频的技术，如果发现违反法【fǎ】律禁止或规【guī】定的【de】信【xìn】息内【nèi】容，必须依法停止【zhǐ】传输这些信息，并采取删除等处【chù】置措【cuò】施来防止信息的扩散【sàn】。同【tóng】时，还需要妥善保存相关记【jì】录，并【bìng】向【xiàng】相关部门等进行【háng】报告。

所以，平【píng】台有很多义务需要履行，仅【jǐn】仅进行标记【jì】是不能完全免【miǎn】除责任的【de】。

刘兴亮：新【xīn】技术、新应用带来的潜在风险，我们【men】应该采取什么【me】样【yàng】的态度【dù】对待？

岳屾山：因为涉及到较为技术性的内容，就我个人而言，对于新的技术或【huò】应用【yòng】，包括【kuò】新【xīn】的营商模式和经【jīng】营模式的出现，应该给予适度的关注和【hé】宽松的环境来【lái】培育【yù】它们，看它【tā】们是【shì】否能够发展起来【lái】。

不过，对于人工智能换脸，目前没有看到多少正面评价。

不过，也【yě】有少量的【de】人尝试【shì】用这项技术“复活”已故【gù】亲人，以【yǐ】慰【wèi】藉思念之情，我认为这【zhè】可能是人工智能换脸技术对我们的【de】生【shēng】活和【hé】社会产【chǎn】生积极影响的一种可能性【xìng】存【cún】在。

只要【yào】这项技【jì】术具【jù】有正面意义的可能，对【duì】待它的态度就不【bú】能一“封”了之，应在现【xiàn】有的【de】法律框【kuàng】架内对【duì】其进行必要的规制，以避【bì】免它【tā】成为一匹脱缰的野【yě】马。

02

“AI孙燕姿”存在诸多侵权风险

刘兴亮：关于【yú】AI孙燕姿【zī】的话题，最近【jìn】孙【sūn】燕姿发布相关声【shēng】明，意思是不会【huì】去追责，这种情况下用户能随便使【shǐ】用吗？

岳屾山：AI换脸明星翻唱，涉及的法律问题主要涉及肖像权。

民【mín】法典规定，未经他人同意使【shǐ】用【yòng】他【tā】人肖像【xiàng】属于肖像侵权，使用AI换脸就存在这【zhè】种可能性，特别是在直【zhí】播间中【zhōng】使【shǐ】用明星的【de】面孔【kǒng】进行直播，明【míng】显侵犯【fàn】了【le】明星的【de】肖像权【quán】，因【yīn】为明星不可能授权【quán】他【tā】人使用他们的面孔进行直播。另【lìng】外，这种行为还涉及到虚假【jiǎ】宣传、欺【qī】诈消费者和不正当竞争等【děng】问题。

直播中的AI换脸，来源：网络

有【yǒu】关“声音”的权【quán】利【lì】，民法【fǎ】典【diǎn】明确了将其按【àn】照肖像权规定处【chù】理。如果孙燕姿未允许他人【rén】使用【yòng】其声音，就会构成侵权，并且可能还【hái】涉及侵犯姓名权的问题。此外，如【rú】果使用她的【de】歌曲进行【háng】商业活动【dòng】，还【hái】需【xū】要支付费用，并可能需要获得词曲作者等【děng】进行【háng】著作权的授权【quán】。

刘兴亮：以银行【háng】转【zhuǎn】账为【wéi】例，转账过程中，因【yīn】为人【rén】脸识别被骗，谁来承担责【zé】任，银行需【xū】要担责吗？

岳屾山：转账过程【chéng】人【rén】脸验【yàn】证，会有眨眼、摇头等【děng】动【dòng】作的验证，如【rú】果这个过程中遭遇诈骗，银行是否需【xū】要担责，取决于银行【háng】在人脸识别【bié】技术方面是【shì】否存在一些罕见的漏洞【dòng】。比如，通过调用摄像头时，银行APP能否辨认出真实的摄像头【tóu】，或【huò】者是【shì】否【fǒu】使用【yòng】了其他技术手段【duàn】对人【rén】脸进行了改变【biàn】。

如果在银行有能力识【shí】别非真实人脸的情况下，因为诈骗分子通过第三方设【shè】备【bèi】，比如【rú】通过摄【shè】像【xiàng】头画【huà】面欺骗了银行的人脸【liǎn】识别【bié】系统，（给储户带来【lái】了【le】直接损【sǔn】失），这【zhè】种【zhǒng】情况下【xià】银【yín】行可能需要担责；如果技术【shù】监测确实发现银行无法识【shí】别出这【zhè】种【zhǒng】情况【kuàng】，即技术无法达到防止【zhǐ】欺诈的【de】要求，就不能要求银行承担责任。

除了银行【háng】，也【yě】需要考虑【lǜ】平台是否有发现欺诈行为的标志，是否具【jù】备识别的义务【wù】等，如果平【píng】台【tái】违反了这【zhè】些义务，相应【yīng】地就要承担【dān】责【zé】任。

但实际上，很多诈骗【piàn】行为都是点对点进【jìn】行，银行或【huò】平【píng】台很少【shǎo】直接参与其中，诈【zhà】骗分子往往会规避银行【háng】或【huò】平台的验【yàn】证【zhèng】方式，以尽量减少被发【fā】现的可能，毕竟这是一【yī】种犯罪行【háng】为。

03

防范数据泄露，是反诈骗的核心

刘兴亮：现在有很多观【guān】点【diǎn】认为我们目前防范AI诈骗关键在于防范数【shù】据泄【xiè】露，这种观【guān】点你【nǐ】认同吗【ma】？

岳屾山：个人信息泄露的问题【tí】一直都非常严重。电【diàn】信【xìn】诈骗之所以成功【gōng】的一【yī】大原【yuán】因就是因为诈【zhà】骗者获取【qǔ】了相应的个人信息。

刑法中有关【guān】个人信息保【bǎo】护的方【fāng】面规定了非法泄【xiè】露公民个人【rén】信息属于侵【qīn】犯个人【rén】信息【xī】罪，需【xū】要追究责任。在【zài】民法典的《消费者【zhě】权益【yì】保护法【fǎ】》、《数据安全法》、《网络安【ān】全法》等法律中，都【dōu】要求企业在收集个人信息时必须遵循【xún】合法、正当和必要的原则。特别是对于涉及人脸等生【shēng】物特【tè】征的信息，属于敏【mǐn】感信【xìn】息，每次收【shōu】集都需要【yào】单独获得用户【hù】的同意，并受【shòu】到其他限制性【xìng】规定的【de】约束。

这些法律法规，旨在保护我们的个人隐私，并【bìng】要【yào】求所有收集到个人信息的【de】企【qǐ】业【yè】，在处理和使【shǐ】用时都必须【xū】严格按【àn】照约定和【hé】法律【lǜ】规定【dìng】进【jìn】行【háng】，并具备必要的技术和软件条件来保护信息不被泄露。

所以，消费【fèi】者需【xū】要【yào】更加重视【shì】个【gè】人信【xìn】息的保护，尽量避【bì】免【miǎn】无必要的授权。如果某个应用要求【qiú】我们授权过多的个人信【xìn】息【xī】，可【kě】以拒绝授权，即使【shǐ】这样可能导致无法使用应用【yòng】。现在法律也有明【míng】确，应【yīng】用不允许【xǔ】索取过【guò】多个人信息相关权限，且【qiě】不能【néng】拒绝用户使用。

例【lì】如，以【yǐ】前我们使用某个导航软件要求访问通讯录，实【shí】际上【shàng】只需要【yào】位置信息即可，这【zhè】种情况下，《国家【jiā】的网络安全【quán】法》、《数据【jù】安【ān】全法》和《个【gè】人信【xìn】息【xī】保护法》等都进行了详细的【de】规【guī】定。

另外，诈骗分子通常会使用各种手段筛选目标客户，比如发送大量的短信，他【tā】们不需【xū】要知【zhī】道每个人的具体个人信息，而是通过通用的手法来吸引潜在受害者的注【zhù】意【yì】力。比如最【zuì】近的“上【shàng】门枪【qiāng】决”短信【xìn】，诈骗分子不需要每个人都【dōu】相信【xìn】，只需要【yào】找到【dào】那些容易受骗的人，这【zhè】种方式可【kě】以帮助诈骗分子【zǐ】最大【dà】限度地减少成本并加【jiā】快筛选【xuǎn】的速度。

近期在网络中热议的“上门枪毙”诈骗短信，来源：网络

04

技术不是万能的，治理与监管关键在人

刘兴【xìng】亮: 对【duì】AI换脸诈骗【piàn】的治【zhì】理和监【jiān】管还需要哪些主体，以【yǐ】什么样的形式参与？

岳屾山：社会治理【lǐ】的层面确实【shí】是多【duō】主体参与的，这样才能形成良【liáng】好的氛【fēn】围。在制定规则和【hé】框【kuàng】架方面，一方面【miàn】是在政府【fǔ】层【céng】面或【huò】立【lì】法层面进行，需要有相应规则和标【biāo】准来界定诈骗行为，这些规则可能需要在立法层面进行制定【dìng】，包括对其性【xìng】质和标准【zhǔn】的【de】界定等。

另【lìng】外，通【tōng】过立法或政【zhèng】府的行政政策【cè】可能需要一定时【shí】间，存在【zài】不【bú】及时的可【kě】能，所以很【hěn】多时候可以通过行【háng】业协会的形式【shì】提前制定一些规范或标准【zhǔn】，虽然它们可能没有强制力，但可以起【qǐ】到引【yǐn】导作用。

针对法律法规在落地【dì】过程中的执行【háng】，需要执法部门加【jiā】强监管，且【qiě】这种场景也【yě】考验监管的技【jì】术，我认为【wéi】这种情况下【xià】双【shuāng】方都在看谁的【de】技术更高超，谁【shuí】能【néng】够限制住这种【zhǒng】行为。技术本身并不是万能的，它的应用取决于人们如何使用和管理。

刘兴亮：针对不同的主体行为的规范，目前有哪些具体的法律法规？

岳屾山：目前在互联网信【xìn】息服务深度合成管理规定方面【miàn】已经有【yǒu】一些具【jù】体的规【guī】定，特别是针【zhēn】对人工智【zhì】能和AI换脸等技【jì】术。

今年4月份，互联网信【xìn】息办公【gōng】室发布【bù】了关于生成式人工智能【néng】服务管理办【bàn】法的征求意【yì】见稿，进【jìn】一步规【guī】范了【le】相关服务的【de】管理。通过【guò】这些规【guī】定【dìng】，针【zhēn】对人工智能和AI换脸等方面有了较为直接的管【guǎn】理措施。

国家法律【lǜ】层面也有一些【xiē】原则【zé】层面的法律和规定，包括《民【mín】法典》、《网【wǎng】络安全法》、《数据【jù】安全法》、《互联网信息服【fú】务管理办法》等【děng】，这些法律【lǜ】和规定都【dōu】涉及到保护个人信息【xī】和肖像权，以及【jí】对实施【shī】诈骗等行为应【yīng】承担的责任，为相关【guān】问【wèn】题【tí】提【tí】供了一定【dìng】的规范【fàn】。

刘兴亮：普通人在遭遇AI诈骗时应该怎样处理，有什么建议吗？

岳屾山：作为一【yī】名律师，我认为对【duì】于那些侵犯【fàn】他【tā】人权益的行为【wéi】，尤其是【shì】在涉及AI诈【zhà】骗【piàn】和肖像侵权【quán】的【de】行为，受害者可以采取一些维【wéi】权措施，以避免【miǎn】他人随意使【shǐ】用其肖【xiāo】像等【děng】信息【xī】，这种动作可以防止肖像被滥用，并对软【ruǎn】件的使用和【hé】研发产生一定的约束。

我建议加强对肖像权的【de】保护，特别是在如【rú】今AI换脸技【jì】术【shù】如此便利的情况下。除了个人的【de】自我保护【hù】外，平台【tái】和执【zhí】法【fǎ】机构也应承担起相应的责任，确保【bǎo】提供一种【zhǒng】便【biàn】捷【jié】的维权【quán】途径。

除【chú】了肖像权，类似【sì】问题也会涉及到【dào】著作权，如果消费者的【de】肖像【xiàng】被制作成视频【pín】并由他【tā】人传播和使用，这涉及到视听节目【mù】的内容【róng】，平台可能更多地基【jī】于著【zhe】作权方面的处理【lǐ】和保护【hù】，而不是针【zhēn】对肖像或其他行【háng】为。

在【zài】这方面，我建议更多地【dì】依赖【lài】平台。平台【tái】应该及时发【fā】现这类侵【qīn】权【quán】行为，并提供便捷的投诉渠【qú】道或途径【jìng】，以便及时【shí】处理这些问题。

另【lìng】外，正【zhèng】如【rú】我们一直【zhí】在讨论【lùn】的【de】那样，法【fǎ】律的【de】威慑力往往不是来自其严苛程度，而是来自【zì】于执法的及时【shí】性。对于那些实施侵权行为的用户，平【píng】台方面【miàn】应该采取相应的惩【chéng】罚或限制措施。这完【wán】全可以在平台【tái】自身的范【fàn】畴内实施，根据相关的【de】用户协议【yì】和约定对其进【jìn】行惩罚和限制。通过这【zhè】样【yàng】的方【fāng】式，可以尽【jìn】量减少【shǎo】侵权行为的发生，因为侵权有【yǒu】时候会【huì】成为【wéi】一种【zhǒng】上瘾的行为。