微软推出新举措，以保护设计师免受深度伪造事件的负面影响，这一举措受到泰勒·斯威夫特争议的启发
已修复允许图像生产的漏洞
🤖💻 微软采取行动防范AI生成的深伪造视频
💥💡 AI图片生成器具有激发创造力和改变内容创作的潜力。然而，当被滥用时，它们可以通过传播错误信息和声誉损害造成真实伤害。微软希望通过实施新的保护措施来防止其生成AI工具的进一步滥用。
🌐 上周，深伪造的泰勒·斯威夫特性爱照片在Twitter上疯传。这些照片是在像4chan和Telegram这样的平台上分享的，它们是使用微软Designer创建的，该公司的图形设计应用程序。微软Designer包括Image Creator，一种利用DALLE-3生成逼真图像的AI图片生成器。
🛡️ 该生成器已经设置了保护措施，以防止明确提到裸体或公众人物的不适当提示。然而，用户通过拼写名人姓名错误或以不使用明确的性别术语来描述图像的方式找到了漏洞，但结果却是相同的。因此，微软现在解决了这些漏洞，使得无法生成名人的图像。
🚫 当用户在Image Creator上尝试输入诸如“赛琳娜·戈麦斯打高尔夫”的提示时，即使名人姓名拼写错误，他们也会收到一个提示，提示提供的提示被阻止了。微软采取了这些措施，以确保所有使用其AI工具的人都能获得安全和尊重的体验。
🔒 值得注意的是，微软Designer的行为准则明确禁止创建成人或非一致性亲密内容。违反该政策可能导致完全失去使用该服务的权利。
⚙️ 尽管微软努力解决这些问题，但用户利用漏洞并急于修复的公司之间的猫鼠游戏可能会继续下去。已经有一些用户表示有兴趣找到绕过Telegram频道中新保护措施的方法。
🔮 展望未来，深伪造和滥用AI工具的斗争将是一个持续的挑战。随着AI技术的发展，创建和检测深伪造的方法也会不断变化。像微软这样的公司需要继续完善其算法并实施额外的安全措施，以保持在不良行为者之前。
❓ 问答
问：AI生成的深伪造的潜在危险是什么？ 深伪造可能会造成极大的伤害，因为它们可以用来传播虚假信息、损害某人的声誉或创建非一致性亲密内容。滥用AI生成的深伪造可能会引发严重后果，包括心理伤害、侵犯隐私和对数字媒体的信任瓦解。
问：像微软Designer这样的AI图片生成器如何工作？ AI图片生成器使用先进的算法和神经网络来分析现有图像中的模式并生成新图像。通过在大数据集的图片上进行训练，这些模型学会创建逼真和独特的图像，可以通过输入具体提示或描述来进行定制。
问：还有其他采取的措施来打击深伪造和滥用AI吗？ 是的，除了各个公司实施保护措施外，还在继续努力开发深伪造的高级检测技术。研究人员和组织正在改进图像取证，并开发工具来检测和识别被篡改的视频和图像。这是涉及技术、立法和公众意识的合作努力。
📚 参考资料:
📣 您是否遇到过深伪造或AI生成的内容？您认为公司如何能够有效地打击滥用生成AI工具的行为？在下面分享您的想法，让我们继续对话！ 💬✨
🔗 不要忘记在您喜欢的社交媒体平台上分享这篇文章！ 📲🌐
