【环时深度】韩国反思:深伪性犯罪让女性“陷入恐慌”

【环球时报驻韩国特派记者 莽九晨 环球时报特约记者 韩雯】编者的话:震惊全球的韩国“N号房”案件主犯赵主彬仍在服刑,加大针对数字性犯罪处罚力度的“N号房预防法”实施也已近3年,但当下韩国又被借助深度伪造技术实施的性犯罪带来的恐惧所笼罩。在社交媒体上,特别是“电报”(Telegram)聊天室中,针对女性的深伪色情内容被广泛传播,波及到大量未成年人、女大学生、女教师、女兵等。《韩民族日报》报道称,深度伪造性犯罪已让韩国女性“陷入恐慌”。韩国女性民友会日前发表声明称,女性失去日常生活的安全感,“仿佛生活在没有国家的状态中”。近日,韩国媒体和专家纷纷就造成深度伪造性犯罪潮的复杂原因展开反思,这背后既有人工智能技术发展带来的新风险,也有韩国青少年性教育的缺失和法律意识的淡薄,还有惩罚力度弱、国家机关人手短缺以及结构性性别歧视等一系列问题。

深度伪造+机器人分发+加密交易

《韩国时报》今年4月报道称,随着数字技术在人们的日常生活中发挥越来越大的作用,韩国超过1/4的性犯罪都是借助数字设备实施并在网络上发生的。韩国统计厅的报告显示,韩国数字性犯罪数量已连续两年增加一倍以上。《韩国先驱报》报道称,当下,一些不法分子开始以恶劣的方式利用网络平台的新功能,数字性犯罪正呈现出新形式,更难预防和打击。

深度伪造是在生成式人工智能(AI)近两年迅猛发展后被最新运用到数字性犯罪中的技术。韩国《亚洲日报》分析称,韩国“Z世代”对生成式AI接受能力强,普遍对其持积极态度。三星近日面向韩国、美国、英国、法国、德国的“Z世代”上班族进行调查发现,在业务上需要帮助时,韩国受访者最优先选择AI的占比高达80%,显著高于其他国家。专家认为,这一方面说明AI在韩国赋能范围广、影响程度深,另一方面也提醒人们,AI的潜在风险更不容忽视。

据韩国《时事》杂志8月31日报道,目前在很多海外网站上都能用深度伪造技术制作色情内容。有些网站只要输入合成对象的社交媒体链接,就能制作色情内容,甚至还有调节对象身材等功能,整个生成过程只需要不到两分钟。韩国女性人权振兴院自2018年设立数字性犯罪受害者支援中心以来,截至今年8月25日,共向2154名深度伪造性犯罪案件受害者提供帮助,仅今年就有781人求助。照此趋势,今年全年受害者恐超1000人。美国一家网络安全企业的研究显示,全世界一半以上深伪性剥削内容受害者都是韩国人。

韩国梨花女子大学媒体融合专业教授刘承哲(音)表示,除了内容生产,网络空间中非法内容的分发和传播方式也已发生变化,这就是为什么数字性犯罪在呈指数级增长的同时却一直处于“隐藏状态”。《时事》杂志报道称,“电报”具有加密聊天功能,这也是其避开调查机关追踪、成为数字性犯罪巢穴的原因。加害者制作完深度伪造色情内容后,便通过简单编程利用机器人进行内容分发。截至8月28日,首尔警方已确认8个相关机器人并展开调查。据悉,这些机器人最多可同时服务40万人。

在深度伪造性犯罪潮的背后,是一条涉及加密货币的利益链条。据韩国《今日亚洲》报道,“电报”聊天群运营者们初期会免费制作并传播深度伪造色情视频,后期便开始培养会员并收钱敛财。用户一开始可以免费制作深度伪造色情内容,之后需要支付电报上的虚拟货币才能合成。而如果没有虚拟货币,可以通过邀请新用户获得货币。今年4月,“电报”开始向拥有1000名以上订阅者的聊天群群主支付广告收益,该收益只能通过加密货币支付,对用户的匿名性有很彻底的保障。目前,“电报”上的一个非法深度伪造内容制作频道的订阅者数量已经超过27万。

韩国《世界日报》报道称,事件曝光后,聊天室运营者们仍在有组织地继续开展活动。一些聊天室被关闭后,会以“避难所”等其他形式重新开放。用户们通过邀请链接加入,一个聊天室可能瞬间超过2000人。甚至在某聊天室里,有用户煽动道:“即使新闻报道出来,也不要害怕,让我们凌辱熟人,凌辱写报道的记者。”

《韩民族日报》报道称,大部分深度伪造性犯罪受害者都要经历面对自己的脸被合成到色情图像视频中的痛苦。但是在韩国社会中,深度伪造性犯罪的严重性被大大低估,即使这种性犯罪广泛发生的事实被曝光后,也有不少韩国网民表示“不知道这种犯罪为什么会造成很大的伤害”“如果是几个人自己制作的,伤害应该很小吧”。首尔大学媒体信息学教授金秀雅(音)表示:“数字性犯罪法规体系以受害者是否感受到性羞耻为中心,但人们会以合成图里的身体不是真实存在的为由,将深度伪造性犯罪视为比非法拍摄严重程度更低的犯罪。”她强调:“但无论这种影像是否是真实的,只要有这样的影像存在或有这样的传闻,受害者就会经历痛苦。”

七成加害者为10至19岁青少年

值得关注的是,在近期的深伪性犯罪浪潮中,未成年人的涉案之广。韩国总统尹锡悦8月27日表示,此次曝光的事件中,不少受害者是未成年人,加害者也大多是十多岁的青少年。据韩联社8月30日报道,韩国近3年深度伪造性犯罪案件受害者中未成年人占比近六成,而涉嫌制作虚假色情视频被立案的加害者中,10-19岁人群的占比去年达到75.8%,今年1至7月为73.6%。

“这不是突然在青少年中爆发的,而是一直存在。”首尔青少年文化中心主任李明和(音)表示,“深度伪造正像一种游戏文化一样传播开来。”《韩国时报》报道称,尽管教育部已作出努力,但校园暴力事件仍在激增。从校园暴力的类型来看,身体暴力和辱骂最常见,而性暴力和网络暴力紧随其后。

目前,一些深度伪造案件加害者的父母开始为了保护自己的孩子展开行动。韩国纽西斯通讯社8月28日报道称,继深伪性犯罪受害地区和学校等信息被曝光后,加害者名单也开始在社交媒体上流传,其中一些据推测是十多岁男学生的父母正在委托相关公司删除社交媒体上关于自家孩子的信息及其使用深伪技术制作的非法图像。

《韩国先驱报》报道称,未成年人性观念的扭曲和法律意识的淡薄,助长了此类内容的泛滥。汉沽岭南大学社会学教授许昌德(音)表示,在韩国社会,谈论性仍是一个禁忌,人们在家庭和课堂上都避免讨论性问题,导致韩国年轻一代对性缺乏充分了解。许多年轻人只能通过互联网和色情作品了解性,这往往导致他们对性的看法扭曲、态度不健康。根据教育部的指导方针,目前韩国小学、初中和高中每年的性教育时间为15个小时。教育部对地方层面的性教育没有标准化指导,性教育课程也常由韩语、英语、体育等科目的老师代为教授。此外,韩国官方媒体和学校也没有对性犯罪进行足够的普法教育,所以网络上的案件曝光只会激起学生的猎奇心理,使得他们更容易模仿或参与数字性犯罪。

近日,韩国专家呼吁学校用更系统的方式开展性教育,并强调需要更新课程内容以反映当前的社会问题。韩国翰林大学社会学教授申庆雅(音)建议,将性别平等教育纳入正规学校课程,并更频繁地教授此类课程,例如每月一次。她说:“学生从小就开始接触数码设备,因此应尽早开始这种教育,确保他们从小学低年级开始接受统一指导。”

“说到底,预防深度伪造性犯罪的根本措施不就是通过教育让人们不要成为犯罪者吗?”韩国未来技术文化研究院院长河敏会(音)9月2日刊文称,如此多未成年人参与深伪性犯罪表明,韩国的数字公民教育和媒体素养教育没有得到落实。在她看来,对“技术该用来做什么、不该用来做什么”的正确认知比掌握技术更重要。相比较之下,越来越多的美国大学要求新生接受媒体素养培训,包括如何理智地使用媒体、如何适当地撰写评论等,但这些在韩国并没有被教授。

“大多数参与者都没受到惩罚”

据韩国《亚洲经济》报道,政府宣布对深伪性犯罪采取强有力回应后,一个讨论如何应对调查的在线社区随之出现,不少加害者或其父母在社区中表达担忧。一位用户发帖问:“我的儿子在一个深伪聊天室中,这样可以吗?”该社区一名管理层用户扬言:“4年前发生过类似的事情,除了主犯和几名共犯外,大多数参与者都没受到惩罚……聊天室里的孩子们可以放心。”

“在英国和美国,制作深伪内容就会受罚。在韩国,只有分发才会。”韩国《朝鲜日报》报道称,根据韩国《性暴力犯罪处罚等相关特例法》第十四条第二款,任何人对他人的面部、身体、声音或视频进行淫秽编辑、合成或传播,将被处以最高5年监禁或最高5000万韩元的罚款。但如果无法充分证明加害者想分发该内容,只是制作和观看是不会受到惩罚的。相较之下,英国司法部今年4月宣布,利用深度伪造制作色情内容的人将被定罪,无论是否共享或分发。今年7月,美国参议院也通过法案,对深度伪造内容受害者进行赔偿。9月1日,美国加州立法机构批准打击深度伪造相关提案的做法也受到韩媒的关注。

事实上,“N号房”事件被曝光后,韩国国会也通过了被称为“N号房预防法”的《信息通信网法》修订案,并于2021年12月生效。修正案已实施近3年,但关于其效果有限的讨论一直存在。8月28日,用大学校友等数十名女性的照片非法合成色情内容的案件,即“首尔大学非法合成物性犯罪案”的共犯在一审中被判处5年有期徒刑,这是该案涉案人员首次被判刑,但也有批评声音称处罚过轻。8月29日,韩国执政党国民力量党和政府决定,将制定加强深度伪造性犯罪处罚力度的立法,包括考虑将传播深度伪造色情视频的刑期上限由5年提高至7年,以及降低“触法少年”(10岁以上未满14岁不受刑事处罚)最低年龄标准。韩国教育部近日还成立“应对校园深度伪造事件紧急工作组”,并宣布违规学生可能会被开除。

据《亚洲日报》报道,深度伪造性犯罪事态严重,但数字性犯罪受害者支援中心的预算预计明年将进一步被削减。韩联社9月2日报道称,尽管韩国数字性犯罪加害者可能达数十万人,但在某些地区,侦查人员的数量反而有所减少。截至今年6月,韩国18个市道网络性暴力调查组总人数仅为131人。

《韩民族日报》援引韩国女性人权专家金秀晶(音)的话报道称,女性成为深伪色情内容的目标,“是因为不仅在日常生活中,在公共领域也不把女性视为平等存在的性别歧视观念在起作用”。韩国女性民友会批评称,这次集体犯罪是性别歧视的延长线,“政府此前还试图废除女性家族部,漠视女性的社会痛苦”。该组织呼吁:“政府应设立性别平等部门,制定跨部门、综合性的长短期对策,以解决结构性性别歧视问题。”