纽约市官方AI聊天机器人告诉老板「可以扣小费」「可以歧视租客」「可以解雇怀孕员工」——全是违法建议

2024年3月，调查记者用纽约市政府官方MyCity聊天机器人（基于Microsoft Azure AI）提问商业合规问题。AI告诉小企业主：可以扣员工小费（违反劳动法）、可以拒绝Section 8补贴租客（违反公平住房法）、可以因怀孕解雇员工（性别歧视违法）。市长Adams拒绝下线AI，称「错误可以改正」。The Markup调查报告引发全美关注。