澳大利亚近期发生多起青少年利用人工智能(AI)合成在校师生裸照的丑闻,引发当地社会广泛担忧。据《澳大利亚人报》12日报道,位于维多利亚州墨尔本的私立高中巴克斯·马什文法学校约50名女生的裸照在多个社交媒体上疯传,而这些裸照均是在AI辅助下合成的。

案件发生在位于维多利亚州墨尔本的私立高中巴克斯·马什文法学校。图源:澳大利亚广播公司(ABC)


调查仍在进行中
澳大利亚广播公司(ABC)报道称,维多利亚州警方在事发后将一名涉嫌“在网上流传这些裸照”的男性青少年逮捕。目前,该男子已获释,但警方表示将展开进一步调查。
巴克斯·马什文法学校校长安德鲁·尼尔向ABC表示,受“裸照”传播影响的主要为9年级至12年级(约15至18岁)的学生,她们的照片可能是被人从社交媒体上截取后再AI合成的。学校在12日的一份声明中表示将严肃对待此事,同时将向受影响的学生及其家庭提供支持。
在接受ABC采访时,该校家长描述利用AI合成色情图像的行为是“令人难以置信”和“非常可怕”的。一位名叫艾米丽的家长表示,合成图像让她的女儿非常不安。她在接女儿回家的路上,不得不在车上提前准备一个水桶,“这些图像过于逼真,令人作呕”。艾米丽指责AI的发展可能已经失控,这次事件让人不禁发问,类似情况是否会再次发生?ABC证实,作为调查的一部分,警方对受影响的女生进行了询问。
维多利亚州州长杰辛塔·艾伦对发生在该州首府的丑闻表示严厉批评。《澳大利亚人报》报道称,艾伦表示,她的想法同涉事学校的学生及家长一样,“维多利亚州不允许这种可耻和厌恶女性的行为”,“女性在课堂、网络和社区其他任何地方都应该受到尊重”。在她看来,这就是制定反对“性犯罪”法律的原因,以便在暴力开始之前将其阻止。
不是第一次发生
这不是澳大利亚首次出现利用AI合成女性裸照的案例。澳大利亚《先驱太阳报》报道称,就在几天前,墨尔本东南区一天主教男子学校的一名15岁学生因使用AI制作合成女教师的露骨图片而被开除。此外,墨尔本的雅拉河谷文法学校5月还有两名男生制作了一份“残酷且对女性充满歧视”的表格来评价他们的女同学,表格中包含“妻子”“目标”“不可强奸”等评价词汇。
网络安全专家苏珊·麦克莱恩表示,使用AI技术在线操纵图像变得越来越容易。她批评一些年轻人利用AI技术生成色情图像的行为“厚颜无耻”。她认为,AI生成的图像通常肉眼无法辨别,而且即便人们得知图像并不是真实的,其造成的伤害也难以消除。她呼吁学校加强有关网络安全的教育,同时提醒家长需要对孩子的网络行为加强监督。
科技“加剧”男孩不良行为
英国《卫报》报道称,澳国家党参议员马特·卡纳万对媒体表示,他担心此类事件背后更深层次的文化原因尚未解决,即“行为标准没有被教授给年轻的男生”。他强调“我们都必须努力确保男孩了解如何成长为一个男人,并按照社会期望的标准生活”。同时,他承认科技“加剧”了男孩的不良行为。
报道指出,澳大利亚将禁止制作和传播深度伪造色情内容,对未经同意分享色情内容的人处以严厉的刑事处罚,以此作为打击针对妇女的暴力行为的措施之一。
据ABC报道,2022年,维多利亚州政府建立了针对“性犯罪”(包括基于图像的“性犯罪”)的法律,以应对日益严重的AI深度伪造色情内容问题。法律规定,创造违反相关标准的亲密图像是一种犯罪行为,而发布或威胁发布亲密图像也是一种犯罪行为。
《环球时报》特约记者注意到,澳大利亚建立了独立的网络安全监管机构,即网络安全专员(eSafety)组织。其官网显示,该机构2015年起开始作为儿童网络安全专员运营,如今致力于保护全澳大利亚的网民。团队成员涵盖多个领域的专家,包括教育工作者、律师、政策分析师、技术专家等。