新华视点：“AI诈骗潮”真的要来了？ 环球快讯

通过AI换脸和拟声技【jì】术，10分钟【zhōng】骗【piàn】430万【wàn】元；AI虚【xū】拟人在聊天中筛选出受害者，人工接力实施【shī】诈【zhà】骗……近期，多起宣【xuān】称利【lì】用AI技术实施诈骗的【de】案件引发关注。

“新华【huá】视点”记者近日与公安部【bù】门核实【shí】确认【rèn】，“AI诈骗【piàn】全国爆发”的消息不实【shí】，目前此类【lèi】诈骗发案占比【bǐ】很低。但公【gōng】安机关已注意到此犯罪新【xīn】手【shǒu】法，将加大力度【dù】会【huì】同有关【guān】部【bù】门【mén】开展技术反制和宣传防范。

(资料图片仅供参考)

专家表示，随着AI技术加【jiā】速【sù】迭【dié】代，由于使用边界【jiè】不清晰，涉【shè】诈风险正在【zài】积聚，需要【yào】高度警惕。

“换脸”式诈骗引发焦虑：你会被亲友的脸骗到吗？

近日，内蒙古【gǔ】包头警方通【tōng】报一起【qǐ】利用AI实施诈骗的案件，福【fú】州市某公司【sī】法人代表郭先生10分钟【zhōng】内被骗430万元。据【jù】通报，骗子【zǐ】通过【guò】AI换脸和【hé】拟声技术，佯装熟人实施诈【zhà】骗。

该案披露【lù】后，不少报道称需警惕“AI诈骗【piàn】潮”到来【lái】，并曝【pù】光【guāng】多起类似案件。如【rú】江苏常【cháng】州的小刘被骗子冒充其同学发语音【yīn】、打视频电【diàn】话，小刘【liú】看到“真【zhēn】人”后信以为真，“借”了6000元给骗子。

那么，“AI诈骗潮”是否真的到来了？

记者调查了解【jiě】到，AI在技术上确【què】实能做【zuò】到换脸、拟音，但被用来进行【háng】“广撒网”式诈骗需【xū】要具备很【hěn】多条件【jiàn】。

一位被列入公安部专家【jiā】库的【de】民警告诉记【jì】者，这类诈骗如果得手必须【xū】做到：收集到【dào】被换脸【liǎn】对象的个【gè】人身份信息、大量人脸图片、语音素材【cái】，通过AI生成【chéng】以假乱真的【de】音视频【pín】；窃取被换脸对象的微信号；充【chōng】分掌握诈骗对象【xiàng】个人身份信【xìn】息【xī】，熟悉其与被【bèi】换脸对象【xiàng】的社【shè】会关【guān】系，综【zōng】合作案【àn】成本很高。

他认为：“相关【guān】报道对一些案件的典【diǎn】型细节描述不【bú】够准确。AI涉诈案件仍属零【líng】星【xīng】发案状态。”他说，成熟的类型【xíng】化诈骗犯罪往【wǎng】往具有在【zài】全国多地集【jí】中爆发的【de】特点，但当前没有成规模的AI诈【zhà】骗类【lèi】案【àn】件【jiàn】发【fā】生。

公安机关研判，近期【qī】网上“AI换脸换声【shēng】诈骗在【zài】全【quán】国爆发”传言不实，全国此类案件【jiàn】发【fā】生不到10起，但该动向【xiàng】值得高【gāo】度关注。网【wǎng】上一键换脸【liǎn】功能的App、小【xiǎo】程序有技术滥用风险，需【xū】要加强技术防范【fàn】反制等【děng】工作。

AI进入快速迭代期，涉诈犯罪风险正在积聚

“当前AI技【jì】术发展【zhǎn】来到螺旋式上升的拐【guǎi】点，未来几年技【jì】术迭代将会按月【yuè】计【jì】算。”香港科技【jì】大学（广州【zhōu】）协【xié】理副校长、人工智能学域【yù】主任熊辉说。

工信部【bù】信【xìn】息显示【shì】，伴随AI技术快速【sù】发展，合成技【jì】术门槛持【chí】续降低【dī】，逐渐【jiàn】向低算力【lì】、小样本学习方向演进，利用手机终【zhōng】端即可完成，对算【suàn】力和【hé】数据【jù】的要求下【xià】降明【míng】显。同时，随着AI大模型【xíng】的技术加持，正逐步由面【miàn】部合成向全身、3D合成发展，效果更【gèng】加逼真。

国家【jiā】开发投资集团特【tè】级专家、厦门美亚柏【bǎi】科AI研发中心总【zǒng】经理赵建强表示，AI技【jì】术【shù】正加速向【xiàng】网络【luò】诈骗、虚假信【xìn】息、色【sè】情【qíng】等领域渗透。如【rú】在一【yī】些【xiē】网络平台上假冒【mào】明星、公众人物生成视频【pín】图【tú】像，吸引【yǐn】网民。此外，AI技术也可【kě】能被【bèi】用【yòng】来规【guī】模化地实施违法犯罪，如【rú】批【pī】量、自动维护网络账号，发送虚【xū】假信息，模拟【nǐ】人工在线聊天等。

值【zhí】得关注的是，当前AI技术不【bú】再是实验室的半【bàn】成【chéng】品，引发热【rè】议的“换脸”“拟音”技术已【yǐ】有较【jiào】成熟【shú】的开源软件，使用门槛低。

记者注意到，网络上不乏AI换【huàn】脸教程。在国内某知名App上输入【rù】“换【huàn】脸【liǎn】”，弹出的【de】高频检索记录显示有“换【huàn】脸软件”“换脸App免费”“换脸【liǎn】视频怎么做【zuò】”“换脸算法”等。一条名为“史【shǐ】上最强【qiáng】AI换脸软件正【zhèng】式上线了【le】！技【jì】术门槛大大【dà】降低”的链接，介绍了【le】一款【kuǎn】换脸【liǎn】软件，通过视频演示教程【chéng】，手把【bǎ】手【shǒu】教授【shòu】如【rú】何使用。

“老【lǎo】话说‘眼见为实’，但今后【hòu】眼睛看到【dào】的也不一定是【shì】真实【shí】的。”北京市天元律师事务所合伙【huǒ】人杨【yáng】虎城表示，未来【lái】涉及AI合【hé】成技术的诈骗、敲诈勒【lè】索等违法犯【fàn】罪【zuì】和肖像【xiàng】、名【míng】誉【yù】等民事侵权问题可能逐步显现【xiàn】。

“从现有【yǒu】案例看，这【zhè】些【xiē】技术已被不【bú】法分子利用。如假【jiǎ】冒明星换脸直播、一键脱【tuō】衣、造谣、制作色情【qíng】视频等。虽然AI诈骗【piàn】案件未成气候，但这一【yī】趋【qū】势【shì】值得关注，必须【xū】提【tí】早防【fáng】范【fàn】。”一位反诈民警说。

工信【xìn】部相关负责【zé】人表示，随着AI技术【shù】的不【bú】断【duàn】发【fā】展，通过少量图片、音频信【xìn】息【xī】合成特【tè】定视频，利用人工智能模型【xíng】批量设计诈【zhà】骗脚本等成为【wéi】可【kě】能，客【kè】观上降低了电信网络诈骗【piàn】的实施难【nán】度，AI类【lèi】新型犯罪爆发可能性进一步【bù】提升。

尽快完善相关法规制度，为AI技术发展立规划线

中国移【yí】动【dòng】信息安全中心品质管理处副处长【zhǎng】周晶告诉记者，近年来，国际【jì】国内【nèi】各【gè】界在积【jī】极探索深度合成技【jì】术【shù】的有效治理路【lù】径【jìng】，研判AI技【jì】术给社会带来【lái】的风险和潜在威【wēi】胁，正设法将AI技术【shù】发展纳入一定规则中，做到安全可控【kòng】。

业内人士【shì】建议，要加强AI反制技术研究，“以AI制AI”。一些科【kē】技公司正加强【qiáng】对图像、声音【yīn】伪造【zào】技【jì】术的反制研究【jiū】，在【zài】公安【ān】、金融的视频认证【zhèng】场景已有【yǒu】应用【yòng】。有一【yī】线民警【jǐng】建【jiàn】议，要加【jiā】强AI安全技术应用研发，将AI技术应用于犯罪识别、预警、对抗中，实现【xiàn】以“白”AI对抗“黑【hēi】”AI。

其次，加【jiā】强源【yuán】头治理和行业引导，及时更新、完善【shàn】相关法律、标【biāo】准、规则，为AI技【jì】术发展保驾护【hù】航。

“数据是【shì】AI犯【fàn】罪的【de】源头【tóu】，保护好公民的个人隐私数据安全，就能【néng】在最【zuì】大程【chéng】度上降低AI违法犯【fàn】罪的能力。”熊辉【huī】说。

中【zhōng】国互【hù】联网【wǎng】协会监管支撑【chēng】部主任郝智超建议，AI技术发展【zhǎn】还要有相关法【fǎ】律法【fǎ】规来划红【hóng】线、踩刹车。需进一步加强对个【gè】人隐私数据泄露问题的关注，明确信息【xī】监管红线，对AI技术【shù】的研发【fā】、传【chuán】播、使用做到有规【guī】可循，并根【gēn】据技术发展【zhǎn】实际情况，及时完善对技术服【fú】务商【shāng】行【háng】为的【de】规【guī】范引导。

此外，还【hái】要有针对性地加强反诈宣传。熊辉表示，未来【lái】AI可根据【jù】大数【shù】据创造出【chū】无比接近真实的“真【zhēn】实”。“要通过不断的教育改变大【dà】众观念【niàn】，让人知道眼见不一【yī】定为实，有【yǒu】图不一定有真【zhēn】相，提升【shēng】对【duì】网络信息的辨识力。”他说。

公安部有关负责人表示，当【dāng】前，诈骗【piàn】集团【tuán】利用区块链、虚拟货币【bì】、远程操控、共享屏幕等新【xīn】技术新业【yè】态，不断更新【xīn】升级犯罪工具【jù】，与【yǔ】公安机关在通讯网【wǎng】络和【hé】转账洗钱等方【fāng】面的攻防对【duì】抗【kàng】不断加剧升级【jí】。公安机关【guān】会同【tóng】相关部门与诈骗分子斗智斗勇，不断研【yán】究调整打击防范措【cuò】施，确【què】保【bǎo】始终保持主动【dòng】权。

工信部【bù】表示，下【xià】一步，将强【qiáng】化【huà】监管执法，积极会同网【wǎng】信【xìn】、公安等部【bù】门，督促企业健全完善深度合成信息管理及【jí】技术保障措施【shī】；鼓励技【jì】术攻【gōng】关，凝聚产学【xué】研【yán】用【yòng】各方力量，提【tí】升深度【dù】合成【chéng】风【fēng】险技术防范能力；加【jiā】强行业自律，建【jiàn】立【lì】健全深度合成技术【shù】相【xiàng】关行业【yè】标准、行业准则和自律管理制度，督促指导深度合成服务提供者和技术【shù】支【zhī】持者制定完善业务规范【fàn】、依法开展业务和接【jiē】受社会【huì】监督。

来源：新华社

流程编辑：TF016