纽约市议员提议立法奖励危险 AI 举报人，奖金来自收取的罚款

IT之家 9 月 25 日消息，据彭博社今天（25 日）下午报道，纽约市议员希望通过经济奖励，鼓励举报人揭露危险的 AI 做法。

这是纽约市一揽子加强 AI 监管法案的一部分。纽约市议会即将审议的一项措施提出，举报人报告 AI 公司的违规行为后，可从最终向当事公司收取的罚款或罚金中获得一定份额奖金。另一项措施规定，在特定情况下，因 AI 系统受到伤害的人可以起诉系统开发者。

在 10 月 5 日 AI 风险及潜在保障措施听证会举行前，纽约市议会议长朱莉 · 梅宁公布了这批法案，届时纽约市议会全部 51 名成员都将参加。随着 AI 模型快速发展引发的担忧不断加剧，纽约市也在推动加强监管。Anthropic 前研究员雅各布 · 考克森本月辞职，并警告 AI“可能会在本世纪 20 年代结束前害死我们所有人”。

梅宁要求 Anthropic、OpenAI、谷歌、SpaceX 的 AI 部门和 Meta 的 CEO 参加 10 月 5 日的听证会，并称必要时市议会可以行使传票权。“纽约市正迅速成为全球科技和人工智能之都，我们希望鼓励这种发展。但这也意味着，我们承担着更大的责任，必须建立适当的保障措施，保护纽约市民免受意外后果影响。”

据IT之家了解，其他提案要求 AI 系统在纽约市进行营销、销售或部署前通过第三方验证，同时必须配备由人控制的“紧急关闭开关”。另一项提案则要求聊天机器人提供商遵守数据隐私、安全和透明度规定，并允许纽约市根据这些要求执法。