彩票棋牌,捕鱼平台,腾讯棋牌,开元棋牌官网,开元棋牌试玩,开元棋牌APP,在线棋牌游戏,棋牌游戏下载
一张普普通通的高中女子排球队合影,被一位家长拍下来后骄傲地发布在学校的网站上。
结果转头就被人用AI“一键脱衣”,一群17、18岁的姑娘全被扒光了,照片在学生群里传疯了。
对Rangiora高中的校长Bruce Kearney来说,这是他几十年教育生涯中经历过的“最糟糕的事件之一”。
而远在怀卡托,Ōtaua学校的校长Anna Voyce也遭遇了类似的事情,她的照片被人做成了TikTok视频,看起来就像她本人在说学生的坏话、讲学校的负面言论。
奥克兰Sacred Heart College的校长Patrick Walsh说,他听说的案例中,有老师被做成了“没穿衣服、摆出色情姿势”的图片。
多位老师因为学生使用AI或深度伪造技术制作他们的色情图片而受到创伤,甚至无法正常上班。
Netsafe首席安全官Sean Lyons说,这个问题已经存在多年,但技术的复杂程度让风险急剧升高。
Anna Voyce所在的Ōtaua学校只有1到8年级的学生,她成为目标让她非常意外。
我认为这就是孩子过早接触社交媒体的危险——他们当时通常还不够成熟,无法时时刻刻做出正确的选择。只需要一两次判断失误,就能在短时间内造成严重的负面影响。
当AI深度伪造入侵校园时,学校发现自己站在前线,却几乎没有武器可以反击。
作为应对,Ōtaua学校的Anna Voyce已经删除了学校新网站上所有员工的照片,担心再次发生类似事件。
“我们也停止在Facebook页面上使用孩子的照片了,我们以前很喜欢这样做……因为我也担心我们的孩子可能被放到未经他们同意的AI视频里。”
这让人想起上个月《卫报》报道的案例:专家建议英国的学校从网站和社交媒体上移除学生面部照片,以防范基于图像的。
此前有一个案例,犯罪分子使用AI深度伪造工具将高中网站上的图片转换成儿童材料,然后威胁学校要发布这些图片,以此进行勒索。
中学教师协会的Steve McCracken说,现在AI被学生们玩出“新花样”了——跟老师吵架、跟学校有矛盾,他们不找家长不找校长,直接威胁说“我拿AI做个你的不雅视频发出去”,这是校长们非常担心的问题。
从法律层面看,制作和分享深度裸照在新西兰《有害数字通信法》下属于犯罪,前提是能够找到肇事者并证明其有伤害意图。
另一项正在议会通过的《深度伪造数字伤害与剥削法案》将把未经同意制作、分享或出售露骨的深度伪造色情内容定为犯罪。
坎特伯雷大学高级法学教授Cassandra Mudgway博士说,有太多方法可以保持匿名。
Voyce向TikTok举报了视频,视频在网上挂了大约12小时后被她发现,花了大约48小时才被删除。
在Rangiora高中的案例中,因为找不到真正的肇事者,学校里很多人开始指认两三个学生——尽管没有任何证据。
那些被冤枉的学生因此受到骚扰,差点被迫退学。一个恶行,引发了更多的伤害。
“公众和家长看不到社交媒体阴暗面对青少年心理和情感健康的极度破坏性。禁令不是万能药,但会是打击这个问题的重要工具。”