图片源于：https://www.mondaq.com/australia/crime/1585644/the-legal-battle-against-ai-generated-abuse-the-case-of-hannah-grundy
来自悉尼的汉娜·格伦迪（Hannah Grundy）因遭到人工智能生成的淫秽图像攻击，强调了亟需加强对技术促进的虐待行为的法律保护。
最近，BBC报道了她痛苦的经历：一位前朋友安德鲁·海勒（Andrew “Andy” Hayler）利用人工智能创造了她的深度伪造图像，并在未经她同意的情况下在网上分享。
这次背叛令汉娜感到无比痛苦，因为海勒曾是她信任超过十年的朋友。
汉娜的案例突显了受害者在试图删除淫秽深度伪造内容和寻求正义时面临的情感和法律挑战。
尽管一开始在执法方面遇到了一些挫折，但在我们的刑事律师西德尼·萨朗（Sidnie Sarang）的法律代表下，她对追求问责的坚持，使得这一案件最终获得成功。
海勒因在两年内对26名女性犯下的罪行，被判处九年监禁。
**人工智能生成的虐待行为的法律影响**
汉娜的案例引发了关于人工智能滥用的更广泛讨论，呼唤对个人进行图像基础虐待的法律改革。
针对人工智能生成的淫秽内容日益增加的威胁，澳大利亚立法者已经加强了现有的刑法，以打击这些罪行。
《刑法修正案（深度伪造色情材料）法案2024》引入了新的条款，专门针对传播未经同意的深度伪造材料。
根据该法，任何人通过传输服务（如社交媒体或消息应用程序），传播包含成人人物的色情材料且未获得其同意的，最高可面临六年监禁。
该法律适用于任何通过人工智能处理或未经编辑的内容。
该立法旨在为受害者提供更强有力的法律保护，并确保犯罪者面临严厉后果。
该法案的通过代表了在应对技术促进的虐待方面的关键进展，并使澳大利亚与全球日益加强对人工智能滥用的监管努力保持一致。
**汉娜·格伦迪案后的法律职业人工智能监管**
除了刑法，法律职业本身也在适应人工智能带来的挑战。
新南威尔士州最高法院最近发布了一项人工智能实践说明，限制了法律程序中人工智能的使用。
该说明特别限制了在以下内容中使用人工智能生成的内容：
– 宣誓书，
– 证人陈述，
– 专家报告。
法律专业人员现在必须确保客户、证人和专家在准备案件材料时遵守这些指导方针。
此类限制的目标是保护法律文件的完整性，并防止不准确或人工智能生成的错误信息对法院判决产生影响。
**全球人工智能监管努力**
汉娜·格伦迪的案件是一个更广泛国际讨论人工智能监管的重要组成部分。
在2023年，欧盟通过了《人工智能法案》，这是首个全面的法律框架，旨在管控高风险的人工智能应用，包括深度伪造生成的应用。
该法律侧重于：
– 人工智能生成内容的透明度，
– 使公司和个人对使用人工智能的行为负责，
– 限制对基本权利构成风险的人工智能工具。
在紧邻的地方，新南威尔士州引入了人工智能评估框架（NSW AIAF），旨在指导政府使用人工智能技术。
虽然该框架仍处于早期阶段，但它反映了越来越多的人认识到，必须对人工智能进行监控和监管，以防止伤害。
**汉娜·格伦迪案后的未来之路**
汉娜的经历并不是个案，而是一个更大社会问题的一部分，亟需法律改革。
人工智能技术的快速发展，加上其潜在的滥用可能性，要求更强有力的监管、更加完善的执行和增加意识，以保护个人免受基础图像虐待。
随着新刑法、法院指南和人工智能治理框架的出现，澳大利亚朝着正确的方向迈进。
然而，仍需采取更多措施，以防止人工智能驱动的伤害发生。在奥布赖恩刑事与民事律师事务所，我们将继续致力于为在线虐待受害者抗争，确保施害者承担责任。
