肖飒团队 ChatGPT第一刑案触发哪些警报

飒姐团队一直以来都提示大家,ChatGPT等人工智能大模型是一个高效的生产力工具,但如果滥用,则可能产生法律风险甚至刑事风险。近日,我国甘肃省平凉市公安局网安大队侦破一起利用ChatGPT故意炮制虚假信息,博取眼球吸引流量的案件。这可能是我国史上利用ChatGPT涉嫌犯罪的第一案。同时,飒姐团队注意到,这也是将今年才开始实施的《互联网信息服务深度合成管理规定》(以下简称《深度合成规定》)作为明确定责依据的第一案。

 

一、 ChatGPT刑事犯罪第一案

2023年4月25日,甘肃省平凉市公安局崆峒分局的网安大队在日常网络巡查中发现,某大厂百家号平台上,出现了一篇题为《今晨甘肃一火车撞上修路工人致9人死亡》的文章,网安工作人员初步判断该新闻为虚假消息。民警随即开展侦查工作,发现共计有21个某大厂百家号在同一时间段发布了一模一样的文章。

在这篇虚假文章中,“事故”发生的地点除平凉市崆峒区外还涉及兰州、陇南、定西、庆阳等地,所有文章累计点击量已达1.5万余次。根据备案登记信息发现,涉案媒体账号均为广东深圳某自媒体公司所有。

2023年5月5日,民警在东莞嫌疑人洪某住处对其使用的电脑及百家号进行取证。初步查明,犯罪嫌疑人洪某通过微信好友获知网络赚取流量变现方法后,购买了大量某媒体平台的“百家号”。再使用第三方信息搜集工具在全网搜索近几年社会热点新闻重新编纂外发,博取眼球。但由于自媒体平台具有查重功能,直接复制粘贴行不通,因此洪某通过ChatGPT将搜集到的新闻“洗稿”后,上传至其购买的某大厂的自媒体平台“百家号”上非法获利。

根据《互联网信息服务深度合成管理规定》第六条第二款:深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。转载基于深度合成服务制作发布的新闻信息的,应当依法转载互联网新闻信息稿源单位发布的新闻信息。

目前,工具公开渠道消息可知,犯罪嫌疑人洪某因涉嫌寻衅滋事罪,被采取了刑事强制措施。

二、 利用GPT捏造假新闻构成何种犯罪?

信息网络具有公开性、公共性和社会性。如今,网络社会已经与现实社会融为一体,成为社会完整生态的一个非常重要的组成部分,而网络信息会对现实社会产生直接的影响。GPT作为一种强大的文字生产工具,只要为其提供一个新闻要素,就可以轻易地编造出足以以假乱真的大量虚假新闻信息。

以洪某的行为为例,飒姐团队在公开渠道检索发现,两年前确有一次造成9人死亡的重大铁路交通安全事故:2021年6月4日,甘肃省金昌市境内兰新线K596次旅客列车运行至玉石至金昌站间与跨越线路的作业人员发生相撞,造成9人死亡。由于洪某会先使用第三方软件抓取能博眼球的旧新闻,再使用GPT进行加工,我们可以初步判断此次假新闻的来源应当就是这起两年前的重大事故。

洪某捏造虚假信息,并在信息网络上散布的行为可能造成公共秩序严重混乱,该行为具有现实的社会危害性,应当追究刑事责任。

01 寻衅滋事罪

根据两高发布的《关于办理利用信息网络实施诽谤等刑事案件适用法律若干问题的解释》第五条第二款:编造虚假信息,或者明知是编造的虚假信息,在信息网络上散布,或者组织、指使人员在信息网络上散布,起哄,造成公共秩序严重混乱的,依照刑法第二百九十三条第一款第(四)项的规定,以寻衅滋事罪定罪处罚。

但是,飒姐团队认为,若要以寻衅滋事罪对利用GPT捏造虚假新闻的行为进行定罪处罚,必须满足两个要件:

(1)行为人必须捏造、编造了不针对特定主体的“虚假信息”

首先,该虚假信息必须是不针对特定主体,如果针对特定的自然人或单位而编造的虚假信息,视其目的,有可能构成侮辱罪、诽谤罪而非寻衅滋事罪。其次,信息必须是“捏造”“编造”的“虚假信息”。编造,是指无中生有,凭空捏造、杜撰、篡改部分或者全部为虚假的、不可靠的、无客观根据的或未经证实的险情、疫情、灾情或警情等四类事实,欺骗、误导社会大众。“虚假信息”,则是指具有误导性、严重紧迫性、容易引发人民群众焦虑感、紧张感或恐慌感的虚假信息。

(2)行为必须“造成公共秩序严重混乱”

“造成公共秩序严重混乱”主要是指导致现实社会公共秩序严重混乱的结果。飒姐团队认为,该起事件中的虚假信息虽然可能引发民众的焦虑感、紧张感或恐慌感,但是是否真的出现了“造成公共秩序严重混乱”的结果存在争议。

虽然根据《关于办理利用信息网络实施诽谤等刑事案件适用法律若干问题的解释》第二条之规定,利用信息网络诽谤他人,具有下列情形之一的,应当认定为刑法第二百四十六条第一款规定的“情节严重”:(一)同一诽谤信息实际被点击、浏览次数达到五千次以上,或者被转发次数达到五百次以上的……

嫌疑人利用GPT“洗稿”的文章累计点击量已达1.5万余次,确实造成了范围较广泛的传播,但刑事案件禁止类推,在没有明确的法律、行政法规或司法解释等规范性文件规定“点击量”达到某一量级,就可视为“造成公共秩序严重混乱”结果的情况下,不得类推适用。

因此,洪某是否构成寻衅滋事罪存在较大争议。

02 编造、故意传播虚假信息罪

根据我国《刑法》第二百九十一条之一第二款【编造、故意传播虚假信息罪】指的是:“编造虚假的险情、疫情、灾情、警情,在信息网络或者其他媒体上传播,或者明知是上述虚假信息,故意在信息网络或者其他媒体上传播”的行为。

一家之言,飒姐团队认为与寻衅滋事罪相比,以编造、故意传播虚假信息罪对本案犯罪嫌疑人洪某进行评价更加适宜。首先洪某利用GPT编造了虚假的重大交通事故;其次,洪某明知自己所发布、散布的信息为虚假信息,却通过自媒体平台向不特定人群扩散,令他人知晓、点击、浏览、转发、评论、讨论等等。

虽然根据最高院2013年《关于审理编造、故意传播虚假恐怖信息刑事案件适用法律若干问题的解释》,利用GPT捏造虚假信息并广为传播的行为同样不属于“严重扰乱社会秩序的情形”,但该解释还规定了“其他严重扰乱社会秩序的情形”作为兜底条款。在捏造“留守儿童被两教师”的郭某、张某等编造、故意传播虚假信息案【(2018)豫16刑终330号】中,虚假信息在网上被转发12374次,评论3630次,被法院认定为了属于“其他严重扰乱社会秩序”的情形。

写在最后

飒姐团队提示,ChatGPT和Midjurney等AI工具虽然给我们带来了工作和生活上的极大便利,但任意的滥用不可取。无论是之前的利用人脸合成技术实施、侮辱诽谤他人,还是今天的利用GPT捏造并发布虚假新闻的事件,都可能导致严重的危害。科技永远是一把双刃剑,我们应当永远对其保持警醒的头脑和审慎的态度,才能做到对新兴科技的正确适用。