“假作真时真亦假”。
不得不承认，随着人工智能（AI）技术的发展，人们对虚假照片的警惕性越来越高。然而，“假作真时真亦假”。
据新华社报道，参加巴黎奥运会冲浪项目的巴西运动员加布里埃尔·梅迪纳的一张比赛照片就因为太过超现实而一度被质疑是假的。
显然，识别一张照片、一段视频是真是假，人类也会犯错。而“用魔法打败魔法”，依赖技术手段识别技术“创作”出来的虚假照片或视频，人类也依旧有很长的路要走。
真的假不了？
随着技术的日新月异，“AI换脸”“AI伪造图片”的例子屡见不鲜，甚至人工智能生成的照片变得越来越逼真，“有图有真相”、“眼见为实”的时代早已成为历史。现如今，遇到看起来超现实的图片，人们不免提高警惕。这不，巴西冲浪项目运动员梅迪纳的真实照片就险些被“错杀”，打上“AI生成”的标签。
梅迪纳的这张悬浮照在网上走红。图源：GJ
7月29日巴黎奥运会冲浪项目男子第三轮比赛，梅迪纳在自己的社交媒体上秀出一张照片。照片中的他伸出右手指向空中，和他的冲浪板一道，摆脱地球引力般直立着悬在空中。
这张酷炫十足的照片很快走红，但也因为梅迪纳超出人类物理学常识的姿势，一度被质疑经过了PS，甚至由AI生成，直到拍摄这张照片的摄影师杰罗姆·布鲁伊莱特露面。
“当时的天气条件非常完美，海浪比我们预想的要高。”布鲁伊莱特说，自己当时在比赛现场附近的一艘船上拍摄了这张照片。
简单点说，布鲁伊莱特能够拍摄出如此“违背”常识、“超现实”的照片，是因为他在正确的时间出现在了正确的地点。“梅迪纳在海浪后面，我看不见他。”但布鲁伊莱特知道，梅迪纳经常会在冲浪结束时做出类似的庆祝动作。于是，他预测并等候拍摄时机，“后来他突然冒了出来，我拍了四张照片，这是其中的一张。”
假的真不了？
真实照片险些被当成虚假图像，而虚假的人工智能生成图片和视频却通过“拿捏”人们的“吃瓜”心理和情绪，得以在社交媒体上获得病毒式的传播。
去年5月，美国五角大楼附近发生爆炸的图片一度在网络疯传。尽管很快有人分析指出了这张图片的漏洞，识别出这是一张AI生成的照片，但也还是有一些媒体不幸“中招”，引发股市短暂下跌。
如何及时鉴别和处理人工智能生成图片视频，已经成为国内外社交媒体平台面临的一个主要挑战。
今年早些时候，拥有“脸书”和“照片墙”两大社交媒体平台的元宇宙公司表示，将利用自己的AI检测工具对上传至平台的图像进行检测与标记，并要求用户对其分享的人工智能生成图像进行标记。5月7日，OpenAI也推出专用的AI检测工具，能够识别图片是否由DALL_E3模型生成。有信息显示，OpenAI的这一检测工具在内部测试中识别正确率高达98%。
OpenAI推出检测工具，识别图片是否由DALL_E3模型生成。图源：GJ
但在越发逼真的虚假图片和超现实的真实图片面前，人类都会犯错，用技术化解技术、识别人工智能的痕迹，AI检测工具真的能降低“打假”的误判率吗？
有数据显示，目前约有40家初创企业提供涉及人工智能的“鉴伪”服务，甚至标榜准确率高达99%。但钻研人工智能生成图片与深度伪造视频的克莱姆森大学教授阿尔马吉德直言：“这在科学上行不通。”
有分析指出，目前AI检测工具依然存在不少局限。由于软件开发本身的限制，某一款AI检测工具或许可以识别由某一AI生成工具生成、加工的图像，但会“放过”其他AI生成工具的“作品”。想要“欺骗”AI检测工具也并不难，剪裁画面、降低像素，使得图片视频的原始编码信息丢失，便可以在AI检测工具面前以假乱真。甚至，有研究人员用AI生成工具将真实照片中的汽车替换为坦克，新图片便“瞒过”了AI检测工具，被判定为“不太可能是人工智能生成的”。
如今，生成式AI治理正成为全球治理的一项重要议题。8月1日，被称作AI治理领域“世界首个”“全球最严”的《人工智能法案》在欧盟范围内生效，并在未来三年内逐步实施。法案针对当下流行的生成式AI系统作出了严格的要求限制。中国也在努力完善生成式人工智能发展和管理机制。在扎紧人工智能的“护栏”、去伪存真的路上，人类显然还有很长的路要走。
出品 深海区工作室
撰稿 齐旭
编辑 深海盐
友情提示
本站部分转载文章，皆来自互联网，仅供参考及分享，并不用于任何商业用途；版权归原作者所有，如涉及作品内容、版权和其他问题，请与本网联系，我们将在第一时间删除内容！
联系邮箱：1042463605@qq.com