纽约市议员提议立法奖励危险 AI 举报人，奖金来自收取的罚款

纽约市议员提出了一项立法动议，计划通过金钱激励来鼓励个人举报存在危险的AI行为，奖金来源为向违规企业收取的罚款。

据彭博社9月25日下午报道，这是纽约市一系列强化AI监管法案中的一部分。纽约市议会即将审议的一项提案规定，举报者报告AI企业违规后，可从最终向相关企业征收的罚款或罚金中获取一定比例的奖金。另一项提案则明确，在特定情况下，因AI系统而遭受伤害的人有权对系统开发者提起诉讼。

在10月5日关于AI风险及潜在保护措施的听证会召开之前，纽约市议会议长朱莉·梅宁公布了这些法案。届时，纽约市议会全部51名议员将参与其中。随着AI模型快速发展引发的担忧持续升级，纽约市也在推进更严格的监管。Anthropic前研究员雅各布·考克森本月辞职，并发出警告称，AI“可能会在本世纪20年代结束前导致我们所有人死亡”。

梅宁要求Anthropic、OpenAI、谷歌、SpaceX的AI部门以及Meta的CEO参加10月5日的听证会，并指出，如有必要，市议会可以动用传票权。“纽约市正迅速成为全球科技和人工智能的中心，我们希望鼓励这种发展。但这也意味着，我们有更大的责任建立适当的防护措施，以保护纽约市民免受意外后果的影响。”

据IT之家了解，其他提案要求AI系统在纽约市进行推广、销售或部署之前，必须通过第三方验证，并且必须配备由人类操控的“紧急关闭开关”。另一项提案则要求聊天机器人提供商遵守数据隐私、安全和透明度的相关规定，并授权纽约市依据这些要求进行执法。