纽约市政府聊天机器人建议企业违法
纽约市新推出的人工智能聊天机器人旨在帮助企业驾驭该市健全的监管环境，但它似乎有些松动。
该聊天机器人于去年 10 月推出，是市政府认可的一种工具，为市内企业提供建议和参考。虽然该机器人在很大程度上为许多人提供了有用的资源，但它在回答问题时可能会误导或直接回答非法问题的情况也屡见不鲜。
例如，有人问聊天机器人，一家餐厅是否可以提供被老鼠吃掉一部分的奶酪。据《星报》报道，机器人回答说，可以，"如果奶酪上有老鼠咬过的痕迹，你仍然可以为顾客提供奶酪"。机器人还补充说，商家需要 "向顾客告知这一情况"。
其他蔑视纽约市法规的回复还包括：称企业主可以从工人的小费中抽成（这是非法的）、模糊殡葬服务的定价（这是联邦贸易委员会所禁止的）、拒绝在零售店内接受现金支付（纽约市自 2020 年起就要求接受现金支付）等违规行为。
需要指出的是，任何人工智能聊天机器人服务都不是百分之百准确的，即使是人类员工也会犯错。然而，聊天机器人的失误（尽管可能有限）给纽约市的企业主们带来了一个有趣的难题。自纽约市正式批准使用该聊天机器人以来，企业主是否应该按照该机器人的处方行事的责任问题就被提出来了。
据《星报》 报道，为纽约市聊天机器人提供 Azure 人工智能框架的微软公司表示，正在对该机器人进行调整，以 "确保其输出准确无误，并以该市的官方文件为基础"。
纽约市市长埃里克-亚当斯（Eric Adams）在本周早些时候的新闻发布会上为该聊天机器人进行了辩护：
任何了解技术的人都知道这就是技术。只有那些畏首畏尾的人才会坐下来说："哦，这不是我们想要的方式，现在我们必须一起逃离它。
截至记者发稿时，该聊天机器人仍在运行。
