反转！美国饮食失调协会下线AI客服 人类员工回归「美国饮食 知乎」

6月2日 消息:在解雇了所有员工并用聊天机器人取而代之后，最新报道称，美国饮食失调协会（NEDA）再度宣布其求助热线已经宣布将让人类回归，并下线AI聊天机器人。

前不久，NEDA计划停止其已有20年历史的电话线或“帮助热线”，为那些寻求饮食失调和身体形象问题帮助的人提供人工咨询和指导服务。与此同时，该组织计划继续让一个名为 Tessa 的“健康聊天机器人”提供服务，该机器人由 Cass 公司（前身为 X2AI Inc.）与华盛顿大学研究人员联合开发，并于2022年2月在 NEDA 网站上推出。

本周早些时候，体重包容性顾问莎朗·麦克斯韦（Sharon Maxwell）在Instagram上发帖称，她曾与Tessa交谈过，聊天机器人给了她可能造成伤害的建议，包括限制性节食。

在麦克斯韦的帖子发布后，NEDA在其Instagram帐户上发表声明说，该组织已经了解反馈的问题，并“在进一步通知进行全面调查之前取消了该计划，也就是暂时下线Tessa。

NEDA首席执行官Liz Thompson表示，他们发现了Tessa异常活动，表明Tessa受到恶意行为者或机器人的攻击。上周，Tessa的流量激增了600%，数据表明不良行为者试图欺骗Tessa进行各种形式的邪恶活动。接下来，在解决所有问题之前，Tessa都不会重新上线。