联邦政府在利用生成式人工智能工作时需要小心

美国人事管理办公室(Office of Personnel Management)表示，在某些情况下，生成式人工智能可以帮助联邦雇员更好地完成工作，但也存在需要警惕的风险。

今天，联邦人力资源部门发布了关于负责任地使用生成式人工智能的指导意见，指出了在联邦工作中使用新兴技术的一些关键缺陷——以及好处，比如文件起草、编码、翻译、数据分析等等。

首先，重要的是要确保你的机构已经批准员工在工作场所使用GenAI应用程序。各机构对协助写作、计算机编码和图像生成的入职工具有不同的政策。虽然这些工具通常在开放的互联网上免费提供，但这取决于机构授权访问。一些机构可能有自己的企业GenAI工具。无论如何，人事管理局指出，联邦政府应该“预料到你对GenAI技术的使用可能会被记录和监控。”

即使是经过批准的工具，也可能产生不适合面向公众甚至内部使用的输出，因为这些大型语言模型使用的培训材料中可能存在版权侵权和抄袭，以及个人信息的泄露。此外，人事管理局指出，“如果内容不准确、不可靠或具有歧视性”，将对机构的可信度构成风险。

人事管理局敦促联邦政府在出版或传播任何书面材料或人工智能生成的图像之前，对人工智能的输出进行人工检查。该指南指出，“审查人工智能生成的材料是否存在潜在的偏见、有害、刻板印象或其他冒犯性的语言或图像”尤为重要。此外，一些机构可能需要一些免责声明或水印来标识人工智能生成的材料。

该指导意见是在拜登政府发布人工智能行政命令180天后发布的。白宫单独指出，所有联邦机构都按时完成了命令中规定的180天可交付成果。其中包括，在政府运营方面，劳工部联邦合同合规计划办公室关于在工作场所部署人工智能的指导，以及关于在公共福利计划中负责任和公平使用GenAI的多机构指导。