有图未必有真相!警惕你我身边的AI谣言 | 数字素养
审核专家:刘相权
北京信息科技大学副教授,机器人工程系主任
近年来,以大数据、人工智能(AI)为代表的信息技术日新月异。这些技术的发展为我们的工作生活提供越来越多的便利,但与此同时也产生了一定的负面影响。利用AI工具合成技术编造的谣言逐渐在互联网出现。
AI谣言不但能够针对抓人眼球、争议较大的话题加以编排,甚至还可以生成逼近真实的图片、音视频,颠覆了“有图就有真相”的常规认知,让人难辨真假。今天,让我们一起来了解AI造谣。AI造谣指的是利用人工智能技术生成虚假信息,包括文字、图片、音视频等,以此来制造网络谣言。在近几年的时间中,已经产生过多起通过AI造谣引起负面影响的案例。
“广州限制外卖配送”“河南信阳市中心体育馆惊险崩塌”“甘肃红十字会收取160万元暖手袋管理费”……这些所谓“有图有视有真相”的重磅“消息”,曾在网上广泛传播,引起大量网民关注。
图为利用AI软件编造的“喜德县地震”网络谣言
以上这些案例都是通过AI软件合成的不实信息。有些不法分子为了赚取平台奖励或吸引流量,借助AI软件自动生成文章,并通过与实际图片相嫁接,合成虚假图片和视频,发布在网络平台上。
这种行为会对社会造成不良影响,严重扰乱社会公共秩序。尽管警方紧急辟谣、澄清事实,可谣言已经领跑真相一大截,让很多人信以为真,给当事方带来极大困扰。
根据新华社的报道,一份近期审结案件的材料显示,不法分子利用AI技术,以热点新闻和随机网络视频为素材,短时间内就制作出约1万条虚假视频新闻,其中发布出去的20多条视频,涉及多个省份,浏览量超过百万。
当谣言披上AI的外衣时,谣言和真相更难辨认,造谣的门槛和成本极大降低,传播的效率和产生的影响成倍增加。
AI谣言已经成为亟需治理的一道网络新课题,作为一个个传播节点,个人的力量在制止谣言的过程中也十分重要。那么在日常生活中,我们怎样擦亮眼睛,识别并抵制AI谣言呢?
一
如何辨别AI谣言?
01观察图片细节
仔细观察图片中的细节,如颜色、光影、清晰度等,是否与现实生活中的实际情况相符。如果发现异常,应保持警惕。
02验证信息来源
在看到网络上的信息时,要查看信息来源是否可靠。对于来源不明的信息,应保持谨慎态度。
03
借助技术手段
利用技术手段检测图片、视频等是否被篡改。例如,使用专业的图像识别软件、视频分析工具等。
二
如何抵制AI谣言?
提高防范意识
在上网浏览信息时,我们要保持对信息来源的警惕性,尽量选择权威、可信赖的媒体或机构作为信息来源。平时要注意网络新闻信息的逻辑性,如果发现一条新闻信息在逻辑上存在明显的漏洞或矛盾,它很可能是经过篡改或杜撰的。
不要盲目行动
切记不要盲目相信和传播未经证实的信息。在社交媒体或网络上看到可疑信息时,可以先进行核实或者等待官方消息发布后再作判断。不人云亦云,不偏听偏信。
自觉维护网络生态
我们应该做到自觉远离虚假信息,不当假新闻的跟随者和助推者。如果发现虚假信息,要及时通过举报电话、互联网举报中心等多种途径对其进行举报,共同维护风清气正的网络生态。
再先进的机器也难以超越人类的智慧,AI生成的内容难免存在漏洞,今后,在上网“冲浪”时,我们应当提高意识、擦亮眼睛,积极行动,共同筑起防范AI谣言传播的铜墙铁壁。