开源AI图像生成的黑暗面
开源工具使任何人都能创造出AI生成的艺术作品它们也被用于制作非自愿的深度伪造色情作品
“`html
关于开源 AI 图像生成器的担忧
图片来源：Reuven Cohen
无论是黑猩猩的愁容高清面孔还是迷幻、粉红和红色调的自我分身，Reuven Cohen 都懂得如何利用 AI 生成的图像吸引人们的注意。但在迷人视觉效果背后隐藏着许多人并不了解的技术黑暗面。
开源图像生成技术释放了一股自由轮回的实验和创造力浪潮。然而，它也为明显和未经许可的图像创建和分发提供了一个途径，尤其是针对女性。这项技术可以被训练成既可怕又不良，已经成为深度伪造色情的基石，促进了淫秽和骚扰应用的发展。
开源社区已经努力阻止 AI 的滥用，但要控制开源软件的自由特性几乎是不可能的。伪造图像的滥用和未经同意的色情图片因此蓬勃发展，这是一个不能掩饰或淡化的问题。
专注于生成式人工智能有害用途研究的研究人员 Henry Ajder 断言，开源图像生成软件已经赋予了明显和未经许可图像的创造和传播之力。开源模型的普遍可用性和缺乏防护措施使防止其滥用变得具有挑战性。
虽然一些 AI 模型专门用于淫秽和骚扰用途，但许多工具既可以为合法用途服务，也可以为恶意用途服务。例如，一款流行的开源换脸程序被娱乐行业专业人士使用，但也是制作未经同意深度伪造的“首选工具”。
像 Stability AI 这样的创业公司已经开发了具有防范措施的高分辨率图像生成器，以防止明显图像的生成和恶意使用。然而，即使设置了防护措施，开源软件的开放性可能使这些限制可以被绕过。更小的 AI 模型，如 LoRAs，进一步促使图像输出的定制和风格化，包括性行为和名人肖像。
在像 4chan 这样以无序内容臭名昭著的论坛上，问题变得更加严重。存在致力于未经同意深度伪造色情的专页，展示了公开可用程序和专门设计用于性图像的 AI 模型。成人图像板塊被 AI 生成的真实女性未经同意的裸体图片淹没，从色情表演者到著名女演员如Cate Blanchett。
AI 图像制作领域的一些社区已经开始抵制色情和恶意内容的传播。创作者们自己担心他们的软件在 NSFW 图像方面声名狼藉，并敦促其他人举报明显图像和未成年人的图像。
为了使问题更加复杂，新的方法如 InstantID 使制作深度伪造变得更加容易。InstantID 是北京大学和小红书研究人员开发的一种技术，允许在图像中进行换脸，只需一个例子，减少了处理和准备的要求。尽管研究人员对模型可能引起的冒犯性或文化不当的图像表达担忧，但其他人则将其宣传为“未经审查的开源人脸复制”技术。
使用这些方法制作深度伪造变得更加容易引发了重大关切。Cohen 指出，任何人都可以制作某人处于尴尬境地的伪造视频，使其变得简单且可供所有人使用。滥用的潜力令人担忧。
尽管一些工具和软件的创建者反对恶意使用，他们往往感到无力阻止。其他人正在积极制造障碍以阻止不受欢迎的用例，推广用于保护图像免受生成式人工智能编辑和控制上传模型访问的道德工具，如图像保护。
像释放门、开源软件许可、商业平台的合同义务等技术解决方案可能无法完全消除滥用，但它们可以作为威慑手段。基层努力和社区规范和标准的建立也能够影响行为，塑造什么被认为是可以接受的。
为了解决非同意 AI 色情的问题，AI 初创公司、开源开发者、企业家、政府、妇女组织、学术界和公民社会之间的合作至关重要。更协调的方法可以帮助抑制滥用，并使个人更加负责。这是关于创建一个积极反对明显和未经同意内容传播的在线社区。
基于图像的滥用后果往往是灾难性的，而且影响女性比例较大。研究表明，深度伪造主要是非同意的色情，主要针对女性。任何随机个人都有能力针对别人进行定位和利用，这令人恐惧，也是一个需要关注和行动的问题。
在我们不断适应人工智能和技术不断发展的环境中，我们必须保持警惕，解决伦理问题和滥用潜力。保持创新和负责任使用之间的平衡至关重要，以创造一个对所有人都安全的世界。
“““html
问与答
问: 是否可以控制开源图像生成软件？
答: 由于开源图像生成软件的去中心化性质，控制它是具有挑战性的。尽管会努力阻止滥用，但开源的无拘束使得完全掌控技术如何被利用几乎不可能。然而，引入技术修复和建立社区规范可以帮助缓解一些问题。
问: 是否有措施防止制作和传播明确且未经同意的图像？
答: 一些初创企业和在线社区正在积极阻止恶意使用并创建工具来打击人工智能图像生成的非预期应用。伦理工具，如图像“守护”，正在开发以保护图像免受生成式人工智能编辑。然而，这些措施的有效性取决于用户遵守指南的意愿以及实施合规性的能力。
问: 如何解决非同意性AI色情问题？
解决非同意性AI色情问题需要各方合作，包括人工智能初创企业、开源开发人员、政府、妇女组织、学者和公民社会。通过促进对话和建立伙伴关系，可以探索可能的威慑措施，而不影响对开源模型的可访问性。合作是创建安全在线社区的关键。
问: 非同意性AI色情可能导致哪些后果？
非同意性AI色情可能导致毁灭性后果，尤其是针对的个人。心理和情绪影响可能很严重，导致长期创伤和伤害。必须认识到这些有害影响，并实施措施以防止进一步伤害。
🔗参考资料: 1. 请停止将AI拟人化，将其视为自治生命形式 2. 快速访问最近查看的文件和文件夹在macOS中 3. OpenAI的政策悄悄更新，取消了对军事战争应用的禁令 4. 谷歌的AI图像生成器终于面向公众推出。这里是如何尝试它 5. Substack承诺主动删除纳粹内容，确保TechCrunch受到影响 6. 百度否认与报道的中国军方培训GenAI聊天机器人有关 7. 去中心化社交网络Farcaster正尝试用Web 2.0技术实现大规模采用 8. 三星主席李在公司合并中获无罪，被免于财务犯罪 9. 解码Reddit的“训练”人工智能模型计划 10. 立法者修改儿童在线安全法案以解决LGBTQ倡导者的关切
“`
