近来，AI生成的图片和视频频繁出现在我们的视野中。
许多曾经需要专业设计师和摄影师才能完成的工作，如今通过几行代码和强大的模型就能实现。从广告创意到影视制作，AI生成的图片为我们带来了极大的便利。然而，技术的迅速发展也带来了一些不可忽视的问题。
比如，假视频和假图片的出现频率大大增加。
正如曾引发巨大社会轰动的N号房事件“2.0”，其中涉及的虚假视频让警方难以追踪。
通过AI技术，哪怕是一张再平常不过的生活照，不法分子都能将其变成换脸之后的淫秽视频。可怕的是，这其中甚至绝大部分犯罪嫌疑人都是未成年。AI技术上手门槛大大降低，以至于心智不成熟的未成年人以此为乐，丝毫没有注意到因此带来的危害，从而造就了这场轩然大波。
还有人换脸成马斯克进行直播，挂名Elon，摆弄摆弄小火箭，捏捏脸蛋“自证身份”，真假难辨。这同样也是使用了AI换脸技术DeepFake。
对特朗普、黄仁勋等业界名人的换脸/生图恶搞，也早已不是什么稀奇事。
那么，面对这些真假难辨的视觉内容，你能分辨出哪些是AI生成的吗？
经过我的测试，我发现了一些好用的 AI 图片检测工具，今天分享给大家。
我们先说肉眼如何分辨，再介绍一些 AI 图片检测工具。
一、肉眼如何鉴别AI生图/视频？
事实上，随着越来越多的图片、视频诞生，我们似乎已经能从中发现一些关于AI生成的规律。
对于图像，我们能从以下几个方面入手：
不自然的细节：手指数量错误、不对称的眼睛、耳朵形状怪异等细节可以反应图像是生成的。比如，之前某模型与“沙滩”有关的生成乌龙。
光影不合理：多个光源导致的光线和阴影不一致，或者阴影方向不符合物理规律。
边缘模糊或锐化过度：AI生成图像在复杂物体或背景的边缘区域，常常表现出模糊或者过度锐化的现象，特别是在人物头发、物体轮廓处。
画风突变：某些区域的风格与整体图像不匹配，比如写实风格的场景中，可能某个物体突然显得非常卡通化或抽象化。
水印或生成工具标志：部分生成工具会在图像中嵌入水印或标志，例如DALL-E会嵌入隐形水印，可以通过检测工具识别。
对于视频，我们同样能找到一些规律：
不自然的动作或表情：AI生成的视频在角色动作、面部表情上可能出现卡顿、扭曲，或帧与帧之间的运动衔接不流畅。
奇怪的剧情：AI生成视频可能在前后一致性上存在缺陷，可能经常会出现“牛头不对马嘴”的情况，当然，很多网友也利用这个无厘头的特性进行恶搞。
重复性动作或背景：AI生成的视频中，有时会出现重复的动作或背景元素，尤其是在大场景或连续运动的背景中，可能会有显得机械化的重复。
逻辑性和物理规律缺失：AI生成的视频可能在动作连贯性、物理运动（如重力、速度）上出现偏差，场景中物体的行为不符合常见的物理规律，显得不自然。
二、用AI工具检测AI生成
除开用肉眼判断，我们是否有一些工具可以辅助我们判断AI生成呢？
答案是有的。这里我找到了很多可以用于检测的工具或网站，经过实际测试，部分网站的检测效果不佳，比如illuminarty，连很明显的AI生成图片都只检测出了2%的概率..意思是，这玩意大概率是人工出图。
仅仅是对于艺术风格比较明显的图片，illuminarty 才能给出比较保守的47%概率。
很显然 illuminarty 不太行。
经过测试，以下两个网站是检测成功率比较高的，可以使用。
1、AI or Not
这个网站需要登陆，不知道是不是我的网络环境问题，进入检测页面的过程比较曲折。
不过实际检测出来的正确率还是蛮高的，检测的速度也很快。
除了这张“质检员”照片，AI or Not 给出了Unkown的未知分析。其余情况下，在 civitai 站找的AI生成图片，工具基本上都能识别出AI生成。
网址：
https://www.aiornot.com/dashboard/home
2、Advanced AI Image Detector
这是一个可以直接上传图片进行检测的项目。无需登录，直接把本地的图片或是URL上传即可。
我们上传一些看起来就是AI生成的图片让项目帮助我们检测：
结果不错，工具判断这幅图片有81%的可能性是AI生成的。终于有一个网站通过质检了！
这种画风清奇，实在是很难联想到真实存在的图片，检测工具也是丝毫不手软，直接锁定了72%的AI生成可能性。
不过对于这种非常逼真的换脸，工具便有些捉摸不定了。图上的细节较少，模仿的也仅仅是表情。工具很保守的给出了 38% 的概率。说实话，如果不说这是换脸模仿表情，你能分辨出来这是 AI 生成的吗？
网址：
https://brandwell.ai/ai-image-detector/
AI 生成的图片和视频技术为内容创作带来了无限可能，但同时也引发了真实性与道德问题。掌握辨别 AI 生成内容的方法，尤其是在信息爆炸的时代至关重要。
整体来说，对于直接 SD 或者 MJ 生成的图片，这类内容检测准确率还不错，但是对于 AI 换脸的效果，AI 检测准确率比较低。