央视3 15晚会曝光换脸骗局，AI套路远远不止这些 腾讯新闻

建立国际技术合作平台或联盟等机制，共同应对跨国AI造假行为等挑战，宜早不宜迟。 同时，应通过加强信息共享、联合执法等方式，建立国际追诉机制，形成对跨国AI造假犯罪的有效遏制和打击。 又如，可由政府部门牵头，利用深度学习等先进技术，建立完善的监测系统，对网络上传播的内容进行实时监测和分析，更好实现及时发现、处置虚假和编造类信息，避免其进一步发酵、变形和升级。 这些"洗"出来文章，又会再度撒入互联网信息的汪洋大海之中，被其他AI洗稿工具、账号当成原创内容重新抓取、洗稿、发布……于是，以讹传讹，谬以千里。 漫山遍野的"AI洗稿"，令垃圾稿件大量充斥于某些知名搜索引擎和社交媒体，让普通人似乎置身"内容黑市"，亦让人们的选择和甄别变得愈发困难。
有的犯罪分子利用AI技术伪造各大知名企业、平台或社交媒体官方账户进行诈骗。 互联网上的"V"字认证往往是官方认证的标识，可当官方认证也能被AI深度伪造技术造假，一模一样的头像主页和认证标识，会让公众无法分辨"真假美猴王"。 近期，职场社交平台领英发现，其平台上有1000多个用AI生成的虚假"V"字认证账户，发送大量推销信息及钓鱼邮件，甚至形成了相关产业链。 此次的"标识办法"界定，所谓"人工智能生成合成内容"，是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。 办法要求，平台在服务提供者的内容上架或上线时，有责任进行审核，核验生成合成内容标识。 一旦发现未标识或疑似生成内容，则须添加风险提示，从而在传播端阻断虚假信息扩散。
而随着AI合成技术的发展，一旦人脸等生物信息被广泛泄露，将造成不可估量的后果。 "这个诈骗案还有许多细节尚未披露，仅仅通过一次短暂而逼真的AI视频聊天，就能骗走几百万元，不太现实，中间一定还有很多复杂的过程。 "奇安信安全专家裴智勇对记者表示，以现有的技术发展来看，虽然完成相关诈骗过程不是完全没有可能，但因为成本高，在现实中被使用的概率较低。 中国计算机学会计算机安全专业委员会委员 吕延辉：AI侵权问题需要从法律、平台和公众多个层面综合施策。 法律层面，要进一步完善相关立法，细化AI克隆技术的法律条款，明确侵权行为的定义和责任，同时加强执法力度。
对外经贸大学数字经济与法律创新研究中心主任 许可：在大量AI深度伪造技术的诈骗中，最大的问题是被骗的人以为视频是真的。 《人工智能生成合成内容标识办法（征求意见稿）》要求，通过人工智能生成的视频、音频、图片都必须加以明确的标识。 这种通过信息披露实现的治理，在我们现在来看是非常有效的措施。 今年2月，有网友为博取眼球，利用AI合成刘德华声音发布到社交媒体上，引发网友关注，为此，刘德华电影公司还发布声明提醒网民，不要被AI合成技术下的名人声音所骗。 名人深受其害，普通百姓也难逃AI骗局，北青报记者看到，不少违法分子利用AI手段，假冒被害人亲友身份，以"被害人亲属出事急需用钱"等方式骗取钱财。
这一巨额罚款不仅让他本人瞠目结舌，也给了其他创作者一个沉重的教训。 在这个数字空间充斥着虚假信息的时代，深度伪造技术一直备受关注。 但是，近日却传来了一个令人震惊的消息：知名深度伪造先生的网站永久关闭。 该公司的软件主要被客户用于人力资源和培训视频，不需要精致的后期编辑，制作品质就已经能满足大部分需求。 这款软件的成本低至每月30美元，可以在几分钟内制作出视频。
"对掌握和运营大量人脸信息、语音数据的机构，包括政府和企业，应当要求其不断提升网络安全建设水平，避免公民相关信息被窃取和泄露。 "裴智勇说，对于人脸和语音采集、识别的场景也应加以限制和规范，避免信息泄露的风险。 多名专业人士指出，AI视频换脸、合成声音等技术被滥用，"已呈现不可阻挡之势"。 BUY VALIUM ONLINE 而在技术应用领域缺乏约束，也致使违法犯罪分子能以较低成本将新技术用于电信网络诈骗等犯罪活动。 2022年2月，陈先生到浙江温州市公安局瓯海分局仙岩派出所报案称，自己被"好友"诈骗了近5万元。 经警方核实，诈骗分子利用陈先生好友"阿诚"在社交平台发布的视频，截取其面部视频画面后再利用"AI换脸"技术合成，制造陈先生与"好友"视频聊天的假象骗取其信任，从而实施诈骗。 今年9月1日即将实施的《人工智能生成合成内容标识办法》也提出，对AI生成合成内容要进行标识，以便公众识别和区分，防止误导性信息传播。
在另外一起案件中，上海的刘先生在短视频平台结识"焦女士"，发展为网恋后以各种名义被骗取20万元，警方调查发现该团伙使用AI生成虚假照片实施婚恋诈骗，涉案金额超200万元。 凤凰网科技在咨询相关领域律师后发现，尽管现行法律与管理规定已明确禁止利用信息技术伪造肖像，且动态影像也已经受保护。 但在责任边界的某些方面以及赔偿计算标准上缺乏量化细则。 且目前由于立法还不完全，所受的惩罚与牟利并不成正比，这就让犯罪之人有了更大动机。 2025年1月，银川某建材公司经理张先生接到"领导"视频电话，要求紧急转账。 《法制日报》日前报道，天津李先生被AI合成的"领导"视频诱导转账95万元，警方与银行联动冻结83万元。
犯罪嫌疑人的主要手段是通过使用深度伪造（DeepFake）技术将受害人的面部特征替换到色情视频主人公脸上，以此生成不雅照，并对受害人进行敲诈勒索。 在掌握大量线索之后，警方进行了收网行动，抓获了十余名犯罪嫌疑人。 并在犯罪嫌疑人的电脑中，查获了大量通过使用深度伪造技术生成的不雅视频。 "30秒的音频就可以帮你克隆声音"，从雷军被AI换声吐槽假期，到普通人被10秒AI视频诈骗，本是科技进步璀璨结晶的AI技术，如今却成为诈骗分子作恶的手段。
吴先生从没有过这类经历，判断是被人"换脸"修了图，于是向市公安局坪山分局碧岭派出所报警。 刘羿：当我们跟王先生一同看这张照片的时候，我们发现虽然脸部有相似的地方，但是他的脸型以及身形完全不是他本人。 白某某发布的广告帖，上面写着"电脑AI去衣，白菜价""身边人、网红、明星皆可"。