“人工智能聊天机器人正在侵入你的地方政府——让每个人都感到紧张不安”
AI chatbots invading local governments – causing widespread unease
美国环境保护署阻止其员工访问ChatGPT，而几内亚的美国国务院工作人员则使用它起草演讲稿和社交媒体帖子。
缅因州禁止其行政部门员工在今年余下时间内使用生成式人工智能，出于对州政府网络安全的担忧。在附近的佛蒙特州，政府工作人员正在使用它学习新的编程语言并编写面向内部的代码，该州人工智能主任乔赛亚·雷什表示。
加利福尼亚州圣何塞市对生成式人工智能制定了23页的指南，并要求市政府员工每次使用ChatGPT、Bard或Midjourney等工具时填写一份表格。不到一小时的车程北方，阿拉米达县政府举办了一系列培训会议，向员工介绍生成式人工智能的风险，如其倾向于产生令人信服但不准确的信息，但目前还没有制定正式政策的必要性。
“我们更关注你能做什么，而不是你不能做什么，”阿拉米达县助理首席信息官西比尔·格尼说道。格尼补充说，县政府员工“在很大程度上使用ChatGPT进行书面工作”，并使用Salesforce的Einstein GPT模拟用户进行IT系统测试。
在各个层级上，政府都在寻找利用生成式人工智能的方法。州和市官员告诉ENBLE，他们相信这项技术可以通过简化例行文件工作和提高公众对复杂政府材料的理解能力来改善一些官僚主义的最烦人之处。但政府面临与私营部门不同的一套挑战，受到严格的透明法律、选举和公民责任感的限制。
西雅图市临时首席技术官吉姆·洛特表示：“每个人都关心问责制，但当你真正是政府时，这种关注程度就不同了。”西雅图市在4月份为员工发布了初步的生成式人工智能指南。“政府所做的决策可能以非常深远的方式影响人们……我们对公众负有平等和负责任的责任，并且对决策方法要公开透明。”
上个月，爱荷华州梅森城一位助理教务长因使用ChatGPT作为确定该地区图书馆应该移除哪些含有性行为描述的书籍的初始步骤而引起了全国关注。根据最近颁布的州法律，这些图书必须被移除。
政府官员受到的审查程度可能会持续下去。在有关生成式人工智能的政策中，圣何塞市、西雅图市和华盛顿州都警告员工，任何输入生成式人工智能工具的提示信息都会自动受到公开记录法的披露。
这些信息也会自动被纳入用于训练生成式人工智能工具的企业数据库中，并有可能在使用相同数据集训练的模型的另一人手中被重新输出。事实上，斯坦福人机中心人工智能研究所去年11月发表的一项大规模研究表明，语言模型越准确，其倾向于从其训练集中整块地复制内容。
这对医疗保健和刑事司法机构来说是一个特殊的挑战。
洛特表示，西雅图的员工考虑使用生成式人工智能来概述该市警察问责办公室的冗长调查报告。这些报告可能包含公开但仍属敏感的信息。
亚利桑那州马里科帕县高级法院的工作人员使用生成式人工智能工具编写内部代码和生成文档模板。他们尚未将其用于面向公众的通信，但他们认为它有潜力使法律文件对非法律人士更易读，该法院的创新和人工智能主管亚伦·朱迪表示。工作人员可以理论上将关于法庭案件的公共信息输入生成式人工智能工具中，以创建一份新闻稿，而不违反任何法院政策，但她表示，“他们可能会感到紧张。”
“你正在使用公民的输入来训练一个私营实体的盈利引擎，以便他们可以赚更多的钱，”朱迪说。“我并不是说这是一件坏事，但我们最终都必须对我们所做的事情感到舒适。”
根据圣何塞的指南，使用生成式人工智能来创建公众可见的文件并非绝对禁止，但由于该技术引入错误信息的潜力以及该市在沟通方式上的精确性，被认为是“高风险”的。例如，如果要求一个大型语言模型撰写一份新闻稿，它可能会使用“公民”一词来描述居住在圣何塞的人，但该市在其沟通中只使用“居民”一词，因为并不是每个在该市居住的人都是美国公民。
像Zencity这样的公民技术公司已经将生成式人工智能工具用于撰写政府新闻稿，并将其纳入产品线，而科技巨头和主要咨询公司，包括微软、谷歌、德勤和安永，也在联邦层面推出了各种生成式人工智能产品。
关于生成式人工智能的最早政府政策来自城市和州级机构，这些政策的几位作者告诉ENBLE，他们渴望向其他机构学习并提高标准。民主与技术中心的总裁兼首席执行官亚历山德拉·里夫·吉文斯表示，目前形势适合“明确领导力”和“来自联邦政府的具体、详细指导”。
联邦管理和预算办公室将在今年夏天发布联邦政府使用人工智能的指导草案。
由城市和州级机构发布的第一波生成式人工智能政策是临时措施，官员们表示将在未来几个月对其进行评估并加以扩展。所有政策都禁止员工在提示中使用敏感和非公开信息，并要求对生成式人工智能产生的工作进行一定程度的人工事实核查和审查，但也存在明显的差异。
例如，圣何塞、西雅图、波士顿和华盛顿州的指导方针要求员工在工作成果中披露他们使用生成式人工智能的情况，而堪萨斯州的指导方针则没有这个要求。
圣何塞的隐私官员阿尔伯特·格哈米表示，他所在的城市和其他城市的规则将在未来几个月中发生重大变化，因为使用案例将变得更加清晰，公务员们将发现生成式人工智能与已经普遍存在的技术有所不同。
“当你与谷歌合作时，你输入一些内容，然后得到一堵不同观点的墙，我们已经经历了20年的试错，基本上学会了如何使用这种责任，”格哈米说。“20年后，我们可能已经弄清楚如何使用生成式人工智能了，但我不希望我们为了弄清楚这一点而在未来20年里摸索。”
