下载全现在App

解锁更多精彩

又一个潜在危险:AI学会了伪造卫星地图

4-29

扫码下载APP

“如果我们不对深度伪造地理的问题有所警惕,那么我们将进入到‘假地理’反乌托邦的危险之中。”

深度伪造(Deepfake)有了一条新“赛道”——伪造卫星地图。

 

深度伪造特指人工智能技术在经过深度学习后,制作出虚假图像,例如给明星和政客的视频“换脸”、生产带着女明星脸的色情视频。上周刊载于期刊《制图学和地理信息科学》的一篇论文则指出,深度伪造技术已经能够制造难以辨别的虚假卫星地图,它或许会给人们带来不少麻烦。

 

上述论文的第一作者赵博(Bo Zhao)是美国华盛顿大学地理专业的助理教授,他在接受《The Verge》采访时表示:“当很多地理信息系统的从业者在赞赏人工智能技术,看到它在解决地理问题上的优势时,很少人会承认或公开批评人工智能的深度伪造是一个潜在危险。”

 

在研究中,赵博和团队用实证证明深度伪造卫星图片在技术上是可行的。他们选取了三个城市的卫星地图,分别是美国的西雅图市和塔科马市,以及中国的北京市,三个城市卫星图像在绿地面积、街道宽度等均有所差异。人工智能系统会学习西雅图和北京的城市景观特征,以塔科马市为基础数据集,进而生成一张假地图。

 

人工智能深度伪造的流程。图片来源:https://www.washington.edu/
人工智能深度伪造的流程。图片来源:https://www.washington.edu/

结果显示,经过200个周期的训练后,人工智能系统能成功生成一张在地球上不存在的塔科马市卫星地图。虽然这张假卫星地图不算完美,它的色彩指数要少于真实地图,纹理更加复杂和不均衡,但看起来依然很真实,且肉眼难以识别。

 

研究人员认为,与一般的图片和视频相比,深度伪造的卫星地图更具迷惑性,因为观看者很容易把地图上不自然的地方归因于图片质量不高,且一般卫星地图不需要高清,便足以具有说服力。“由于大多数卫星图像是由专业人士或政府产生的,所以公众通常更愿意相信它们是真实的。”研究者赵博说。

 

a:塔科马市的基本数据图;b:塔科马市的真实卫星地图;c和d分别是基于西雅图和北京景观伪造出的塔科马市地图。图片来源:https://www.washington.edu/
a:塔科马市的基本数据图;b:塔科马市的真实卫星地图;c和d分别是基于西雅图和北京景观伪造出的塔科马市地图。图片来源:https://www.washington.edu/

当人工智能学会了深度伪造卫星地图后,它们能被用来做什么?

 

研究人员认为,恶意伪造地图的情形能有很多,例如可以伪造山火或洪水的场景,同时伪造卫星地图的存在,也使得真实卫星地图的可信性变弱——当有人指称地图是伪造的时候,普通人难以用肉眼作分辨,也难以判断该相信谁。2019年时,美国政府下属的国家地理空间情报局分析师还指出,深度伪造的卫星地图可能会误导军方的战略部署,例如军事训练会被虚构出的不存在的地标误导。

 

“随着技术的不断发展,这项研究旨在鼓励人们对地理数据和信息有更全面的理解,揭开卫星图像绝对可靠的表象。”赵博表示,他的研究目标是提高公众对深度伪造地图的认识,人们需要先意识到这个风险的存在,才能更好地应对这个新问题。

 

一张卫星地图。图片来源:《The Verge》
一张卫星地图。图片来源:《The Verge》

面对深度伪造地图的问题,最关键是要有检验地图真伪的应对技术。论文中也指出,现时技术上对虚假地图的分析是“二进制结果”,即完全真实或完全虚假,针对真假糅合的地图,技术上无法挑出地图中虚假的地方。如果想训练出能在地图上“挑假”的系统,则需要建立一个更全面的卫星图像数据库,再针对性地训练一个包含各种真实和虚假卫星图像场景的数据集。

 

此外,由于现实世界中景观特征的复杂性和深度伪造方法的多样性,几乎不可能存在一个通用的地图真伪鉴别系统。

 

赵博认为,地理学研究者应该着手开发能提供给公众使用的鉴别系统,这种系统类似于现时的网络信息事实核查工具。对公众来说,如同媒介素养一样,地理空间数据的素养也非常重要,人们应了解虚假地理信息对社会的影响。

 

“如果我们不对深度伪造地理的问题有所警惕,那么我们将进入到‘假地理’反乌托邦的危险之中。”研究团队警告道。

 

参考资料:

https://www.washington.edu/news/2021/04/21/a-growing-problem-of-deepfake-geography-how-ai-falsifies-satellite-images/

https://www.tandfonline.com/doi/full/10.1080/15230406.2021.1910075?journalCode=tcag20

 

————

请微信搜索关注公众号“全现在”,朋友圈的世界也会不一样。

姚家怡

64 篇文章

那就说点什么吧

个人主页