校园春色 韩国 N 号房卷土重来：这一次是 Deepfake，触及超 200 所学校
Deepfake（深度伪造）校园春色，再度深陷公论的风云。
这一次，用这项 AI 技艺坐法的严重进程被网友直呼是“韩国 N 号房 2.0”，魔爪致使伸向了广宽未成年东说念主！
事件影响之大，平直冲上了各大热搜、热榜。
早在本年 5 月，《韩联社》便通报过一则音问，本体是：
首尔大学毕业生朴某和姜某，从 2021 年 7 月至 2024 年 4 月，涉嫌哄骗 Deepfake 换脸合成色情相片和视频，并在通讯软件 Telegram 上高明传播，受害女性多达 61 东说念主，包括 12 名首尔大学学生。
仅是这位朴某便用 Deepfake 合成了能够 400 个色情视频和相片，并与同伙整个分发了 1700 个露骨的本体。
然而，这件事情照旧 Deepfake 在韩国泛滥的冰山一角。
就在最近，与之策动的更多细念念极恐的内幕被持续扒了出来。
举例韩国妇女东说念主权讨论所公布了一组数据：
从本年 1 月 1 日到上周日，共有 781 名 Deepfake 受害者在线求援，其中 288 名（36.9%）是未成年东说念主。
而这个“N 号房 2.0”也诟谇常恐怖的存在。
据《阿里郎》进一步的报说念：
一个与 Deepfake 策动的 Telegram 聊天室，竟劝诱了 220000 东说念主，他们通过点窜妇女和女孩的相片来创建和共享伪造的图像，受害者包括大学生、纯熟，致使是军东说念主。
不仅是受害者有未成年东说念主，致使加害者也有无数的青少年。
不仅如斯，此次公论的兴起历程也诟谇常的 drama。
艳母在线观看因为闹事的韩国男性们（以下简称韩男）不错说诟谇常的放浪，有公论苗头的时候，他们就会略微“克制”一下：
有些韩男对这件事的作风亦然较为恶劣，致使有初中男生开公开写到“无须追到，你不够漂亮，不至于被 Deepfake”这种话。
于是乎，韩国女性们（以下简称韩女）的反击启动了。
她们将“阵脚”转向韩国除外的应酬媒体，举例在 X 上，有东说念主发布了制作 Deepfake 学校的舆图：
还有韩女在微博中发布“求救贴”：
跟着公论在各大应酬媒体上发酵，韩国政府也露面作念出了表态：
面前依然有跨越 200 个学校收到 Deepfake 影响；筹备将 Deepfake 坐法的刑期从 5 年升迁到 7 年。
据了解，韩国警方已竖立绝顶责任组，故意应酬深度伪造性坐法等作假视频案件，该责任组将运行到来岁 3 月 31 日。
Deepfake 已迟缓进化事实上，最新 Deepfake 技艺依然进化到了“恐怖”阶段！
生图 AI Flux 以一组真假难分的 TED 演讲相片，引千万𝕏（前推特）网友在线打假。（左边由 AI 生成）
半夜直播的“马斯克”，也劝诱了上万寰宇围不雅打赏，致使搞起了网友连麦。
要知说念，整场直播仅用一张图片就能收尾及时换脸。
这一切果真如网友所言，Deepfake 已将科幻照进执行。
其实，Deepfake 一词最早发祥于 2017 年，其时又名 Reddit 用户“Deepfakes”将色情女演员的面部替换成了一些好意思国驰名演员，引起一派争议。
而这项技艺不错纪念到 2014 年，Goodfellow 与共事发表了全球首篇先容 GAN 的科学论文。
其时就有迹象标明，GAN 有望生成仿真度极高的东说念主脸。
自后跟着深度学习技艺的发展，自动编码器、生成叛逆相聚等技艺迟缓被应用到 Deepfake 中。
通俗先容下 Deepfake 背后的技艺旨趣。
比如伪造一个视频。
其中枢旨趣是哄骗深度学习算法将打算对象的面部“嫁接”到被效法对象上。
由于视频是连气儿的图片组成，因此只需要把每一张图片中的脸替换，就能获得变脸的新视频。
这里要用到自动编码器，在应用于 Deepfake 的情况下输入视频帧，并编码。
△ 图源：维基百科
它们由编码器息争码器组成，编码器将图像减少到较低维的潜空间，解码器从潜表征中重建图像。
通俗说，编码器将一些要津特征信息（如面部特征、体格姿势）调度成低维的潜在空间暗示，而解码器将图像从潜在暗示中复原出来，用于给相聚学习。
再比如伪造图像。
这里主要用到生成叛逆相聚（Gan），它诟谇监督式学习的一种花式，通过让两个神经相聚相互博弈的方式进行学习。（此花式也不错用于伪造视频）
第一个算法称为生成器，输入立时噪声并将其调度为图像。
然后，该合成图像被添加到真正图像流（举例名东说念主图像）中，这些图像被输入到第二个算法（称为判别器）中。
判别器试图远隔样正本源于真正照旧合成，每次在意到二者之间的互异时，生成器齐会随之协调，直至最终再现真正图像，使判别器无法再远隔。
然而，除了让外不雅上看起来无法远隔，面前的 Deepfake 正在融会“组合拳”。
声息克隆也升级了。当今，放浪找一个 AI 器具，只需提供几秒原音，就能立马 copy 你的声息。
用合成声息伪造名东说念主的事件也雨后春笋。
此外，1 张图生成视频已不再新奇，而且面前的责任要点在于后续打磨，比如让颜料、姿势看起来更天然。
其中就有一项唇形同步技艺（Lip syncing），比如让小李子启齿话语。
天然 Deepfake 当今依然很传神了，但底下照旧给巨匠先容一些识别技能。
面前相聚上巨匠讨论的多样花式，归纳起来等于:
不寻常或窘态的面部姿势
不天然的体格畅通（肢体畸变）
着色不天然
音频不一致
不眨眼的东说念主
皮肤的软弱与头发和眼睛的软弱并不相符
眼镜要么莫得眩光，要么有太多眩光，况兼不管东说念主怎样挪动，眩光角度齐保持不变。
放大后看起来很奇怪的视频
得，列灯谜克看了直呼内行，不外单凭肉眼不雅察果然有点费东说念主了！
更高效的花式还得是，用魔法击败魔法 —— 用 AI 检测 AI。
国表里驰名科技企业均有策动手脚，比如微软就斥地了一种身份考证器具，不错分析相片或视频，并对其是否被主宰给出评分。
OpenAI 此前也文告推出一款器具，用于检测由 AI 图像生成器 DALL-E 3 创建的图像。
在里面测试中，该器具在 98% 的时间内正确识别了 DALL-E 3 生成的图像，况兼能以最小的影响处置常见修改，如压缩、编订和饱胀度变化。
芯片制造商英特尔的 FakeCatcher 则使用算法分析图像像素来详情真假。
而在国内，商汤数字水印技艺可将特定信息镶嵌到多模态的数字载体中，搭救图像、视频、音频、文本等多模态数字载体。官方称这种技艺能保证跨越 99% 的水印索求精度，且不会赔本画质精度。
天然了，量子位此前也先容过一种很火的识别 AI 生图的花式 —— 协调饱胀度查验东说念主物牙齿。
饱胀度拉满下，AI 东说念主像的牙齿就会变得相配诡异，鸿沟暗昧不清。
就在昨天，Science 也发表了一篇著述对 Deepfake 进行了议论。
这篇著述认为，Deepfake 所带来的挑战是科学讨论的竣工性 —— 科学需要信任。
具体而言，等于由于 Deepfake 传神的作秀、以及难以检测等原因，进一步要挟到对科学的信任。
而面临这一挑战，Science 认为应当“两手持”，一是使用 Deepfake 的技艺说念德措施，二是斥地精确的检测器具。
在谈及 Deepfake 与解说发展的关连时，著述认为：
尽管 Deepfake 对科学讨论和疏导的竣工性组成紧要风险，但它们也为解说提供了契机。
Deepfake 的将来影响将取决于科学息争说界怎样应酬这些挑战并哄骗这些契机。
灵验的无理信息检测器具、健全的说念德措施和基于讨论的解说花式，不错匡助确保 Deepfake 在科学中获得增强，而不是受到 Deepfake 的挫折。
一言以蔽之，科技说念路千万条，安全第一条。
One More Thing当咱们让 ChatGPT 翻译策动事件的本体时，它的反馈是这么：
嗯，AI 看了齐认为不当。
参考聚拢：
[1]https://en.yna.co.kr/view/AEN20240826009600315
[2]https://en.yna.co.kr/view/AEN20240828003100315?input=2106m
[3]https://en.yna.co.kr/view/AEN20240829002853315?input=2106m
[4]https://www.arirang.com/news/view?id=275393&lang=en
[5]https://www.science.org/doi/10.1126/science.adr8354
[6]https://weibo.com/7865529830/OupjZgcxF
[7]https://weibo.com/7929939511/Out1p5HOQ
本文来自微信公众号：量子位（ID：QbitAI），作家：金磊一水
告白声明：文内含有的对外跳转聚拢（包括不限于超聚拢、二维码、口令等花式），用于传递更多信息，勤俭甄选时间校园春色，恶果仅供参考，IT之家总计著述均包含本声明。
上一篇：【LADS-063】本気レズ ストーリー 3 オンナだけの秘密の癒し編 欣忭的骑行者——鲁大葱 下一篇：我想炫耀 【財經荒谬谭】英偉達財報亮眼 為何股價大跌
