家长提醒：此聊天机器人可能会与您的孩子谈论性和酒精问题
家长必读：此聊天机器人可能与您的子女谈论性与酒精问题，请留意！
2023年的育儿需要与孩子们谈论的不仅包括互联网和社交媒体的风险，还有快速扩散到几乎每个应用程序或在线服务中的人工智能。非营利组织Common Sense Media致力于帮助家庭适应人工智能时代。今天，它推出了对AI工具的首次分析和评级，包括OpenAI的ChatGPT和Snapchat的My AI聊天机器人。
Common Sense在其报告中对10个系统进行了评分，My AI在这些系统中获得了最低分之一。报告警告说，该聊天机器人愿意与青少年用户聊性和酒精，并且不准确地表述了Snap的定向广告。Common Sense得出结论称，“My AI的弊大于其利”。
《华盛顿邮报》今年早些时候在测试Snapchat的MyAI时得出了与Common Sense类似的结果。Snapchat所有者Snap的Maggie Cherneff代表发表的一份声明称，该聊天机器人是一个可选的工具，旨在考虑安全和隐私，家长可以在应用的家庭中心中查看青少年使用它的情况。
Common Sense对AI服务的评价由一些专家进行，其中包括Sesame Workshop的创新和研究实验室主任Michael Preston、初创公司Hugging Face的研究员Margaret Mitchell（曾在谷歌负责AI道德研究），以及之前在谷歌云负责负责任AI的Tracy Pizzo Frey。
评论员们为每个AI工具分配了一个从一到五星的整体评级和一个单独的隐私评级，并报道了ChatGPT和其他工具在一个包含推动学习和保护孩子和青少年安全的一套针对儿童和家庭的AI原则中的表现。
- Red Hat Enterprise Linux 9.3 提供比以往更多的容器支持
- Windows 11很快将利用您的GPU进行生成式AI | ENBLE
- 这些记录笔记的平板电脑可以简化您的任务、笔记和待办事项
获得最高评级的是用于教育的AI服务，比如使用语音识别作为阅读辅导员的Ello，以及Khan Academy的聊天机器人助手Khanmigo，允许家长监控孩子的互动，并在内容审核算法检测到违反社区准则的交流时发送通知。报告称赞了ChatGPT的创建者OpenAI在去年首次发布时使聊天机器人生成的对儿童有潜在危害的文本的可能性降低，推荐教育者和年长的学生使用该工具。
除了Snapchat的My AI之外，OpenAI的Dall-E 2和初创公司Stability AI的Stable Diffusion也得分较低。Common Sense的评论员警告说，生成的图像可能会强化刻板印象、传播深度伪造，同时经常以过度性感的方式描绘女性和女孩。
评论员们发现，当Dall-E 2被要求生成有色人种的富人逼真的图像时，它会创建卡通、低质量的图像，或者与贫穷相关的图像。他们的报告警告说，Stable Diffusion对儿童构成了“不可想象的”风险，并得出结论称图像生成工具有能力“侵蚀到无法正常运作的程度，以至于民主或公共机构失去了信任”。
“我认为当民主被侵蚀时，我们都会受到伤害，但年轻人是最大的输家，因为他们将继承我们现有的政治体系和民主制度，” Common Sense 首席执行官吉姆·斯坦耶尔表示。这家非营利组织计划在未来几个月和几年内进行数千次人工智能审核。
Common Sense 媒体在州检察官们对 Meta 提起诉讼指控其危害儿童之后不久发布了其评级和评论，也是在家长和教师们“刚开始考虑生成式人工智能在教育中的作用”的时候。乔·拜登总统上个月发布的关于人工智能的行政命令要求教育部部长在明年向教育界发布关于该技术在教育中使用的指南。
圣地亚哥的两个孩子的母亲苏珊·蒙格雷恩-诺克知道她15岁的女儿莉莉使用 Snapchat，对她看到的有害内容表示担忧。她试图通过与女儿谈论她在 Snapchat 和 TikTok 上看到的内容来建立信任，但是她对人工智能的工作原理知之甚少，欢迎新的资源。
伯克利加州大学的人工智能研究实验室主任 Celeste Kidd 表示，与孩子讨论类似 ChatGPT 的人工智能如何工作以及其限制应该会有所帮助。她表示，Common Sense 和在5月份发布的一项民意调查发现，大多数家长都不知道自己的孩子在使用 ChatGPT，这是令人担忧的。它表明人工智能可能在未被父母察觉的情况下塑造了孩子们的世界观。
Kidd 最关心 Dall-E 2 这样的图像生成人工智能的长期影响。“如果一个孩子生成了关于医生和罪犯的图像，而人工智能则夸大了偏见并描绘成见惯的刻板印象，那对孩子的影响要比对成年人大得多，”她说。
为儿童公平游戏协会的执行总监乔什·戈林说，Common Sense 的新评级对家长来说是一个受欢迎的新资源。但他说，最终还是需要新的规定来控制人工智能的危险。“如果从社交媒体监管不力中我们学到了一课，那就是这些产品的设计师会将盈利放在社会和孩子的幸福之上，”戈林说。
