資訊安全網: 深度偽造

将Deepfakes技术比喻为一位高超的画家和他的挑剔评审，可以形象地解释这项技术背后的专业术语和原理。 在这个比喻中，深度学习的复杂世界被简化为艺术创作的过程，旨在创造出足以欺骗观众眼睛的作品。 从在线论坛上的新奇事物发展成为一种有潜力改变我们消费和信任视听内容方式的工具。 2016 年欧洲刑警组织出台的《网络有组织犯罪威胁评估报告》就指出， 利用深度伪造技术进行犯罪将成为一大趋势。 因此，治理深度伪造本质上是对人工智能恶意使用的防范和规制，推动人工智能全球治理的过程中，要把深度伪造这一问题作为重点纳入考量范围。 而未来，深度伪造技术可以制作关于企业高层负责人丑闻的假视频，作为证据起诉公司负责人或引发舆论关注，就可能使当事人百口难辩。 例如，这类技术被第三方行为体用于制作国家首脑或代表人物的假视频，宣布一些本不存在的外交政策，就可能会破坏涉事国领导人之间的互信和两国关系。
深度学习作为机器学习的一个具有前景的重要分支，在计算机视觉方面取得了重大突破。 深度伪造（Deepfake）通常指的是使用深度学习（deep Buy Tramadol Online learning）进行涉及人脸和人声的多媒体伪造技术，如果被恶意滥用会给社会带来灾难。 深度伪造不仅限于面部的替换，还有修改面部特征、修改表情、唇形同步、姿势变换、完整脸生成、篡改音频到视频以及文本到视频等方式。 人类面部在社会、政治、经济等方面的敏感性，使得深度伪造技术威胁着社会和个人的安全。 对深度伪造产物进行检测也成为数字取证领域的一个重要研究课题。 为了提供对Deepfake检测研究工作的最新概述，本文描述了各种针对解决Deepfake相关问题的处理方法。
该党拍摄了其领导人马诺吉-蒂瓦里（Manoj Tiwari）用英语发言的视频，并使用深度仿真唇语制作了一个哈里扬维（Haryanvi）方言版本。 AI技术的快速发展，相信你也有看过AI主播，进行新闻报导、节目主持等工作，不过AI主播是否会取代真正的主播？ 本篇会带你来探讨AI主播与是否会取代真正主播，如果你对AI主播制作有兴趣的，本篇也会教你制作。 由於深度偽造越來越逼真和令人相信，人們難以在真實視像內將虛假的部分分辨出來。 由於深度偽造看起來十分真實，促使觀眾相信，並在社交媒體上分享，加速虛假訊息的傳播。 罪犯制作冒充名人、政要、官員等的深度偽造影片來傳遞虛假或誤導資訊，例如假投資建議、假分享或言論等，誤導受害人的決策行為，甚至製造社會矛盾。 2024年2月，一位烏克蘭YouTuber發現她的聲音和臉部被盜用，罪犯同樣利用了深度偽造技術將她冒充爲一位虛假網路名人在中國社交媒體上進行商品推廣。 2024年2月，香港警方指出，一家跨國公司的財務員在視訊會議中被騙。
例如，这类技术可以用在领导人选举上，一方候选人或敌对国家制作虚假视频来对候选人进行政治原则、生活作风等方面的抹黑，无疑会破坏被选举人形象和选举制度的公正性，从而威胁国内政治制度的合法性。 但是，随着深度伪造技术的日益精进，这些假视频会变得越来越逼真，普通人通过肉眼想要区分真假将变得越来越困难，那时候对于政治人物形象和名誉的破坏将会愈加严重。 由于政治人物需要经常出现在公众的视野，其公开的照片和视频很容易被获取并用来制作假视频。 例如，一段由特朗普总统在脸谱网上分享的关于美国众议院议长南希•佩洛西（Nancy Pelosi）的视频就获得了250 万次点击量。 视频中，佩洛西如同喝醉了一般，神志不清，说话磕巴，举止怪异。 此外，美国前总统奥巴马的脸也被用来制作假视频，攻击特朗普是个"十足的笨蛋"。 诚然，深度伪造技术存在着一些正面使用的前景，例如为商业发展、艺术创作、医疗行业等领域提供了新的发展空间。
从最初的简单面部替换，到如今可以生成高品质的影片 ，这项技术的发展无疑是迅速且显著的。 深度伪造是AI生成内容和学习算法的结合，呈现出双刃剑的特性。 虽然它们在创意领域具有巨大潜力，但在隐私、安全和真实性领域也带来了重大风险。 理解和规范深度伪造技术至关重要，因为我们正步入一个眼见未必为实的未来。 目前有一种方法是利用AI分析常用发送者和接收者的习惯和特性，为每一位企业组织员工绘制通信模型。 在一项测试中，研究人员给ChatGPT提供了五个量身定制的问题，引导人工智能开发针对特定行业的网络钓鱼电子邮件，结果显示，生成式人工智能模型只需要五分钟就能够制作出令人信服的欺骗性网络钓鱼电子邮件。 相比之下，作为人类社会专家的工程师们完成同样的任务则需要花费大概16个小时。 随着人工智能继续改进其生成更准确内容的能力，深度伪造可能非常难以与真实图像、视频和录音区分开来。
这些风险凸显了制定健全的人工智能伦理原则和负责任的人工智能开发的重要性。 深度伪造是一种由人工智能 (AI) 生成的媒体形式（如照片或视频），以描绘真实或不存在的人执行他们从未做过的行动。 GAN是由两部分组成的深度学习模型：一个生成器（Generator）和一个鉴别器（Discriminator）。 在Deepfakes中，生成器的任务是创建尽可能真实的假图像或视频帧，而鉴别器的任务则是区分生成的图像与真实图像之间的差异。 这两个网络在训练过程中相互竞争，生成器不断学习如何改进其生成的图像，以使其更难被鉴别器识别，而鉴别器则不断提高其识别真伪的能力。 在全球范围内，AI伪造技术的快速演进正在推动产业格局的深刻变革。 据行业报告显示，2025年，全球"深度伪造"市场规模已突破50亿美元，预计未来五年内将以年复合增长率超过35%的速度持续扩大。
一旦基于深度伪造技术制作的假视频、假音频等大规模传开，就可能会深刻威胁到国民在生命、财产和名誉方面的安全。 尤其是当人工智能技术越来越多地用于法院时，如果正向的检测技术跟不上深度伪造的技术步伐，而人眼又无法区分这些材料的真伪性，那么就可能造成案件的误判，严重影响司法公正和受害人利益。 鉴于深度伪造的成本和门槛呈现出越来越低的趋势，日后的这类风险值得警惕。 近年来，社交媒体上流传的假消息已经引起了诸多政治争议和风波②。
克里斯蒂安-佩里（Christian Perry）是 Undetectable AI 公司的创始人兼首席执行官，该公司被《福布斯》评为全球最佳人工智能探测器，并负责开发市场上最先进的人性化技术。 他致力于推动人工智能创新，重点是创造能帮助人们在专业和学术环境中脱颖而出的工具。 他曾在《商业内幕》、《福布斯》、NBC、福克斯等知名媒体和众多其他出版物上分享他在人工智能和机器学习技术领域的专业知识。 深度伪造一词 2017 年首次出现在 Reddit 上当时，一个网名相同的用户开始分享使用人工智能换脸的篡改视频，最初是成人内容。 然而法律的制定并非易事， deepfake的快速发展使得现有法律经常无法跟上技术的变化。
在这个数字化的艺术世界中，他的作品可能被用于创造误导性的内容，影响公众意见或损害个人声誉。 因此，虽然这项技术展示了深度学习的巨大潜力，但同时也提醒我们需要谨慎地考虑其应用的界限和后果。 综上所述，AI深度伪造技术的突破标志着行业进入了一个全新的发展阶段。 面对"技术革新"带来的巨大变革，企业、政府和学术界需要共同努力，推动"内容安全"、"伦理规范"与"技术创新"同步发展，确保AI技术在推动社会进步的同时，减少潜在的风险和负面影响。