人工智能生成的视频在网上传播仇恨和种族主义：“没有安全规则”

起初，它似乎是一段由人工智能生成的古怪视频片段，目的是让人们发笑。

在视频中，一个毛茸茸的大脚怪头戴牛仔帽，身穿印有美国国旗的背心，坐在一辆皮卡车的方向盘后面。

“我们今天要去参加LGBT游行，”这只类人猿笑着说。“你会喜欢的。”

然后，事情发生了一个暴力和令人不安的转折，“大脚怪”开车穿过一群尖叫的人，其中一些人举着彩虹旗。

这段6月份发布在美国大脚TikTok页面上的视频已经获得了超过36万次的观看和数百条评论，其中大多数都对这段视频表示赞赏。

最近几个月，类似的人工智能生成的内容充斥着社交媒体平台，公开宣扬暴力，传播对LGBTQ+、犹太人、穆斯林和其他少数群体的仇恨。

下面的故事继续

虽然大多数视频的来源尚不清楚，但它们在社交媒体上的传播引发了专家和倡导者的愤怒和担忧，他们表示，加拿大的法规无法跟上可恶的人工智能生成内容的步伐，也无法充分解决它对公共安全构成的风险。

[00:33]萨斯喀彻温省省长将追查人工智能“深度伪造”他和卡尼的创造者

LGBTQ+倡导组织“平等加拿大”（Egale Canada）表示，社区对社交媒体上越来越多的反变性和反同性恋错误信息内容感到担忧。

执行董事海伦·肯尼迪在一份声明中说：“这些人工智能工具被用作武器，使跨性别者和性别多样化的人失去人性和信誉，现有的数字安全法未能解决这种新威胁的规模和速度。”

肯尼迪说，快速发展的技术为坏人提供了传播错误信息和仇恨的强大工具，跨性别者成为攻击目标的比例过高。

下面的故事继续

“从深度假视频到算法驱动的仇恨放大，这些伤害不是人为的——它们是真实的。”

“从深度假视频到算法驱动的仇恨放大，这些伤害不是人为的——它们是真实的。”

加拿大反仇恨网络（Canadian Anti-Hate Network）的执行董事埃文·巴尔戈德（Evan Balgord）说，LGBTQ+社区并不是唯一的目标。他说，用生成式人工智能工具制作的伊斯兰恐惧症、反犹主义和反南亚内容也在社交媒体上广泛传播。

巴尔戈尔德在电话采访中警告说：“当他们创造了一种环境，让很多人庆祝对这些群体的暴力行为，这确实使针对这些群体的暴力更有可能发生在个人或街头。”

[00:40]研究发现，ChatGPT在一半以上的时间里对寻求建议的用户做出了危险的回应

他说，加拿大的数字安全法已经落后了，人工智能的进步使事情变得更加复杂。

获取每日全国新闻获取当天的头条新闻，政治，经济和时事头条，每天发送到您的收件箱一次。通过提供您的电子邮件地址，您已阅读并同意环球新闻的条款和条件以及隐私政策。

“在社交媒体公司方面，我们根本没有任何安全规定，我们没有办法让它们承担任何责任。”

推特：“对于社交媒体公司，我们根本没有任何安全规定，我们没有办法让他们承担任何责任。”下面的故事继续

安大略省理工大学（Ontario Tech University）的法律研究教授安德里亚·斯莱恩（Andrea Slane）对网络安全进行了广泛的研究，他说，旨在解决有害在线内容和建立监管人工智能框架的法案在今年1月议会休会时夭折了。

斯莱恩说，政府需要重新审视网络危害立法，并“紧急”重新提出该法案。

她说：“我认为加拿大现在的情况是，他们真的需要搬家了。”

司法部长肖恩·弗雷泽在6月告诉加拿大新闻社，联邦政府将“重新”审视《网络危害法案》，但尚未决定是重写还是重新引入。除其他事项外，该法案旨在让社交媒体平台对减少有害内容的曝光负责。

新成立的人工智能和数字创新部的一位发言人表示，政府正在认真对待人工智能产生的仇恨内容问题，特别是当它针对弱势少数群体时。

[02:04]阿尔伯塔女孩足球教练被指控用人工智能制作儿童色情内容

索菲亚·奥斯利斯表示，现有法律确实提供了“重要的保护”，但她承认，这些法律在设计时并没有旨在解决生成式人工智能的威胁。

下面的故事继续

她在一份声明中表示：“我们确实需要了解人工智能工具是如何被使用和滥用的，以及我们如何加强防范。”“这项工作正在进行中。”

奥斯利斯说，这项工作包括审查现有框架，监督法院判决，“并密切听取法律和技术专家的意见”。她补充说，英国首相马克·卡尼（Mark Carney）的政府还承诺，将传播未经双方同意的深度性行为定为刑事犯罪。

现在的趋势

她说：“在这个快速发展的领域，我们认为，最好是制定正确的监管，而不是行动太快而出错。”她指出，渥太华正在寻求向欧盟和英国学习。

斯莱恩表示，欧盟在监管人工智能和确保数字安全方面一直领先于其他国家，但尽管处于“最前沿”，但人们感觉还有更多工作要做。

专家表示，监管社交媒体巨头发布的内容尤其困难，因为这些公司不是加拿大人。

16 ‘ 白领大屠杀”:AI会摧毁入门级办公室工作吗?

斯莱恩说，另一个复杂因素是目前边境以南的政治气候，美国科技公司看到监管和限制减少，这使它们“更强大，感觉责任更少”。

下面的故事继续

加拿大可信赖人工智能研究主席彼得·刘易斯表示，尽管生成式人工智能已经存在了几年，但最近几个月出现了一项“突破”，使得使用大多免费或价格非常低的工具更容易制作高质量的视频。

他说：“我不得不说，现在几乎任何人只要有一点技术知识和合适的工具，都可以使用它。”

刘易斯同时也是安大略理工大学的助理教授，他说像ChatGPT这样的大型语言模型已经实施了保护措施，以过滤掉有害或非法的内容。

但他说，要在视频领域建立这样的护栏，还需要做更多的工作。

他说：“你和我看了视频后可能会被吓坏，”他还说，“目前还不清楚人工智能系统是否有能力反思它所创造的东西。”

0:42中国滑翔伞的视频可能被人工智能篡改了

刘易斯说，虽然他不是法律专家，但他相信现有的法律可以用来打击网上在美国大脚怪视频中美化仇恨和暴力的行为。

下面的故事继续

但他补充说，生成式人工智能的快速发展和新工具的广泛使用“确实需要新的技术解决方案”，并需要政府、消费者、倡导者、社交平台和人工智能应用程序开发商之间的合作来解决这个问题。

“如果这些东西被上传……我们需要真正强大的响应标记机制，以便能够尽快将这些东西从互联网上删除，”他说。

刘易斯说，使用人工智能工具来检测和标记这类视频是有帮助的，但这并不能解决问题。

“由于这些人工智能系统工作方式的本质，它们是概率性的，所以它们不会捕捉到所有的东西。”

推特上的引用：“由于这些人工智能系统工作方式的本质，它们是概率性的，所以它们不会捕捉到一切。”