“地(dì)震被压在(zài)废墟下(xià)的(de)小男孩”居然是( shì)AI生(nián)成的(de) 记者调查
一月七日九时(shí)许,西藏日喀则市定日县发生(nián)的(de)六.八级地(dì)震,牵动着大(dà)家(jiā)的(de)心。但与此同时(shí),一些网友为(wéi / wèi)了博取流量制造关于(yú)震区的(de)不(bù)实信息,在(zài)网络上(shàng)公然传播,对(duì)公众造成误导。
其中(zhōng),有(yǒu)一张“被压在(zài)废墟下(xià)的(de)小男孩”的(de)图片在(zài)网上(shàng)引发了广泛关注。图片中(zhōng),一名戴帽子(zǐ)的(de)小男孩被压在(zài)倒塌的(de)废墟之(zhī)下(xià),全身铺满尘埃。不(bù)少网友被图片视频误导,纷纷在(zài)留言区关注男孩的(de)生(nián)命安全。而(ér)实际上(shàng)这(zhè)张照片是( shì)由AI生(nián)成的(de)。究竟怎么一回事(shì)?来(lái)看记者的(de)调查。
记者采访AI图片创作者还原事(shì)情真相
图片中(zhōng),一名戴帽子(zǐ)的(de)小男孩被压在(zài)倒塌的(de)废墟下(xià),全身铺满尘埃。但记者注意到(),有(yǒu)不(bù)少网友被图片视频造成误导,并在(zài)留言区关注男孩的(de)生(nián)命安全。
有(yǒu)网友留言称,“有(yǒu)小孩被压还不(bù)赶紧抢救”,有(yǒu)人(rén)表示“心都碎了”……
而(ér)实际上(shàng),这(zhè)张图片是( shì)由AI生(nián)成,图中(zhōng)孩子(zǐ)的(de)左手显示为(wéi / wèi)六根手指。记者联系到()该AI图片的(de)创作者何先生(nián),对(duì)方给记者提供了原始版的(de)AI生(nián)成视频,短视频截图显示,这(zhè)段视频在(zài)去(qù)年(nián)一一月发布,并非本次西藏地(dì)震期间发布。
当事(shì)人(rén):有(yǒu)自(zì)媒体涉嫌盗用AI生(nián)成素材
何先生(nián)告诉记者,自(zì)己创作这(zhè)段AI图片和(hé)视频的(de)起因,是( shì)看到()加沙战争地(dì)区的(de)孩子(zǐ)家(jiā)园遭到()破坏、流离失所,希望通过(guò)视频传递和(hé)平愿望。但他(tā)没有(yǒu)想到(),自(zì)己发布在(zài)短视频平台上(shàng)的(de)素材遭到()他(tā)人(rén)盗用,并和(hé)西藏地(dì)震进行(xíng)了关联。
“被压废墟下(xià)的(de)小男孩”AI视频创作者 何先生(nián):创作的(de)原因是( shì)看到()国(guó)外有(yǒu)战争,为(wéi / wèi)了反映战争废墟下(xià)孩子(zǐ)们(men)的(de)生(nián)存环境。我(wǒ)不(bù)是( shì)为(wéi / wèi)了拿它来(lái)宣传、造谣,但这(zhè)个(gè)网络搬运内容的(de)事(shì)情很恶劣。现在(zài)我(wǒ)在(zài)所有(yǒu)平台把作品的(de)下(xià)载功能(néng)都关闭了,就(jiù)是( shì)为(wéi / wèi)了防止别人(rén)盗走视频。
“假图”关联真实事(shì)件 违背社会(huì)公序良俗
地(dì)震救援现场牵动着全社会(huì),而(ér)没承想,何先生(nián)去(qù)年(nián)一一月发布的(de)视频被人(rén)移花接木,将此次地(dì)震相关的(de)信息肆意拼凑,这(zhè)种用灾难博取流量的(de)行(xíng)为(wéi / wèi),令人(rén)愤慨。有(yǒu)法律人(rén)士表示,用“假图”关联真实事(shì)件的(de)行(xíng)为(wéi / wèi)违背了社会(huì)公序良俗,有(yǒu)扰乱社会(huì)秩序之(zhī)嫌,将面临法律处罚。
中(zhōng)国(guó)慈善联合会(huì)法律顾问 张凌霄:自(zì)媒体是( shì)盗用了别人(rén)的(de)AI制品,在(zài)抗震救灾突发事(shì)件当中(zhōng)来(lái)博取眼球,吸引流量,构成治安管理处罚,严重的(de)会(huì)构成犯罪。同时(shí)因为(wéi / wèi)它利用了救灾的(de)心理,是( shì)违反社会(huì)的(de)公序良俗和(hé)道(dào)德最基本的(de)要(yào)求。
律师 张晓玲:根据相关法律法规,编造虚假的(de)险情、疫情、灾情、警情,在(zài)信息网络或者其他(tā)媒体上(shàng)传播,或者明知是( shì)上(shàng)述虚假信息,故意在(zài)信息网络或者其他(tā)媒体上(shàng)传播,严重扰乱社会(huì)秩序的(de),处三年(nián)以(yǐ)下(xià)有(yǒu)期徒刑、拘役或者管制;造成严重后(hòu)果的(de),处三年(nián)以(yǐ)上(shàng)七年(nián)以(yǐ)下(xià)有(yǒu)期徒刑。
软件三0秒“编造”地(dì)震报道(dào) 未标注AI生(nián)成
记者也(yě)试着用了一款剪辑软件,只用三0秒就(jiù)生(nián)成了一则所谓的(de)“地(dì)震报道(dào)”。
记者在(zài)一款用户量庞大(dà)的(de)剪辑软件中(zhōng),使用其提供的(de)AI视频生(nián)成功能(néng),输入一句关于(yú)小女孩在(zài)地(dì)震中(zhōng)被救出(chū)的(de)文字描述,不(bù)到()三0秒钟,软件就(jiù)生(nián)成了一段二0秒左右的(de)视频,并提供画外音解说(shuō)。视频中(zhōng)并未标注“AI生(nián)成”字样,软件也(yě)没有(yǒu)要(yào)求用户添加这(zhè)样的(de)标识。
而(ér)在(zài)引发大(dà)量关注的(de)“被压废墟下(xià)的(de)小男孩”图片和(hé)视频中(zhōng),创作者何先生(nián)也(yě)告诉记者,AI软件没有(yǒu)强制要(yào)求标注“AI生(nián)成”字样,是( shì)自(zì)己在(zài)视频上(shàng)方添加了水印,但后(hòu)来(lái)被盗用者删掉了水印。
有(yǒu)人(rén)工智能(néng)研究者表示,目前亟须建立统一的(de)规范要(yào)求,避免AI以(yǐ)假乱真。
吉林大(dà)学人(rén)工智能(néng)学院院长 宋轩:无论是( shì)我(wǒ)们(men)个(gè)人(rén)上(shàng)传的(de)相关的(de)由AI生(nián)成的(de)视频或者图像,还是( shì)由软件包括平台发布的(de)等等相关的(de)AI生(nián)成的(de)内容,我(wǒ)觉得必须遵守披露和(hé)声明原则。所有(yǒu)的(de)内容如果是( shì)由AI生(nián)成的(de),无论是( shì)在(zài)生(nián)成的(de)过(guò)程中(zhōng),还是( shì)上(shàng)传的(de)过(guò)程中(zhōng),需要(yào)进行(xíng)声明和(hé)披露,就(jiù)是( shì)要(yào)明确标注出(chū)来(lái),说(shuō)这(zhè)个(gè)内容是( shì)由AI生(nián)成的(de)。我(wǒ)觉得对(duì)于(yú)个(gè)人(rén)用户,这(zhè)也(yě)是( shì)我(wǒ)们(men)在(zài)使用AI的(de)过(guò)程中(zhōng)应该遵守的(de)一个(gè)基本原则,一个(gè)道(dào)德准则。
AI软件生(nián)成的(de)内容是( shì)否需要(yào)主动标注?
那(nà)么,由AI软件生(nián)成的(de)图片和(hé)视频,究竟该不(bù)该主动标注由AI生(nián)成?
去(qù)年(nián)九月,国(guó)家(jiā)互联网信息办公室发布关于(yú)《人(rén)工智能(néng)生(nián)成合成内容标识办法(征求意见稿)》,其中(zhōng)提到():
在(zài)图片的(de)适当位置添加显著的(de)提示标识;
在(zài)视频起始画面和(hé)视频播放周边的(de)适当位置添加显著的(de)提示标识,可(kě)在(zài)视频末尾和(hé)中(zhōng)间适当位置添加显著的(de)提示标识。
而(ér)在(zài)此次新闻事(shì)件中(zhōng)记者发现,原本AI视频的(de)发布者标注了AI生(nián)成,而(ér)在(zài)他(tā)人(rén)盗用过(guò)程中(zhōng),却对(duì)AI生(nián)成的(de)标注信息进行(xíng)了模糊,从而(ér)误导了受众。
平台加强监管 AI时(shí)代守好(hao)信息真实底线
除了AI生(nián)成软件和(hé)生(nián)成者要(yào)肩负起自(zì)己的(de)责任,专家(jiā)指出(chū),还要(yào)在(zài)监管方面,发展AI技术来(lái)破解、识别AI造谣;相关的(de)立法、执法也(yě)需要(yào)加强,并在(zài)全社会(huì)要(yào)加强相关人(rén)员的(de)教育和(hé)科普工作,让公众的(de)辨别力更高。
中(zhōng)国(guó)人(rén)民大(dà)学新闻与社会(huì)发展中(zhōng)心研究员 曾持:“生(nián)成式AI”的(de)拼接本质和(hé)谣言有(yǒu)很强的(de)亲近性,二者都属于(yú)“无中(zhōng)生(nián)有(yǒu)”——创造看起来(lái)真实合理的(de)信息。AI让造谣更加简单和(hé)“科学”了,因为(wéi / wèi)AI会(huì)根据热点事(shì)件总结规律、拼接情节,很快就(jiù)能(néng)制作出(chū)符合人(rén)们(men)“期待”的(de)谣言,让传播更加迅速。
专家(jiā)也(yě)指出(chū),目前,平台审核机制存在(zài)一定滞后(hòu)性,未能(néng)及时(shí)有(yǒu)效识别AI虚构图片,对(duì)自(zì)媒体账号发布内容监管不(bù)力,特别是( shì)在(zài)涉及灾害等敏感话题时(shí),更应加强审核力度。未来(lái)需要(yào)利用技术手段、人(rén)工审核等多方式加强对(duì)地(dì)震等突发信息的(de)管控。
律师 张晓玲:平台应该改进审核机制,提高审核效率,并使用更加直观有(yǒu)效的(de)提示方式,避免虚假信息的(de)传播。
中(zhōng)国(guó)人(rén)民大(dà)学新闻与社会(huì)发展中(zhōng)心研究员 曾持:在(zài)现在(zài)的(de)技术情况下(xià),平台只能(néng)事(shì)后(hòu)惩罚。但是( shì)现代社会(huì)的(de)传播速度又太快了,造成的(de)影响太迅速,所以(yǐ)很难在(zài)源头上(shàng)根治AI造谣的(de)影响。我(wǒ)觉得将来(lái)监管要(yào)从两个(gè)方向努力:
第一是( shì)要(yào)让人(rén)们(men)认识到(),不(bù)管是( shì)通过(guò)AI,还是( shì)通过(guò)其他(tā)工具手段技术,造谣宣传假新闻都是( shì)违法犯罪的(de)行(xíng)为(wéi / wèi);
第二是( shì)将来(lái)AI技术要(yào)跟平台更紧密地(dì)联系在(zài)一起,平台要(yào)能(néng)根据AI新工具,来(lái)反向识别由AI拼造的(de)假图片和(hé)假新闻。
发表评论:
◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。