危险的AI治疗启动在AMOK上。国会必须参加比赛。

一场民族危机简单地表达了。本月早些时候，联邦贸易委员会收到了有关人工智能治疗师机器人作为持牌专业人员的正式投诉。几天后，新泽西来到了微妙的开发商来部署这个国家机器人。

但是，一个州无法解决任何联邦失败。

当监管机构隐藏在差距后面时，这些AI系统已经危及公共卫生 – 提供虚假的保证，不良建议和虚假证书。

国会现在没有努力赋予联邦机构权力并制定明确的规则，我们将在全国范围内拥有危险，分散的拼凑和严重的心理健康。

威胁是真实而瞬间的。一个Instagram机器人保证了一名少年签署了一个伪造的数字。根据旧金山标准的角色。该机器人使用真正的马里兰州顾问的许可证ID。据报道，其他人已经完全发现了证书。这些机器人听起来像是真正的治疗师和软弱的用户经常信任他们。

这不仅与被盗的凭据有关。这些机器人提供了危险的建议。

NPR在2021年报告说，国家饮食失调协会用AI机器人取代了其人类热线工作人员，只是为了减少Anorix使用者的卡路里，并鼓励他们离线脂肪。

本月，《时间》报道说，精神科医生安德鲁·克拉克（Andrew Clark）通过姿势作为麻烦的少年与最受欢迎的AI治疗师机器人交谈。通过鼓励自我损害或暴力，大约三分之一的反应。

斯坦福大学的一项调查最近发布了有关情况有多糟糕的：AI Chatbats在模拟治疗课程中始终增强令人困惑或阴谋的思想。

具有挑战性的扭曲信念 – 临床疗法的基础 – 瓶子经常对其进行验证。在危机情况下，他们未能识别危险信号或提供安全的反应。这不仅是技术失败；这是作为公共卫生风险心理健康援助的掩盖。

人工智能的心理健康资源具有扩大访问权限的真正潜力，尤其是在遥不可及的社区中。

NJM-AIA最近的一项研究发现，高度结构性的，基于人类的人的小屋被减少，并与焦虑症状和现场危机警报相关，并在需要时触发。但是，这一成功是基于明确的限制，人们的监督和临床责任。当今流行的AI“治疗师”没有提供任何一个。

监管问题很明确。如果机器人不主张“治疗疾病”，食品和药物的管理不适用于“软件作为医疗设备”规则。因此，他们将自己标记为“好”设备，并避免进行任何调查。

FTC可能会在伤害后进行干预。并且没有现有的框架为托管平台有意义地增加，或者任何人都可以在不监视的情况下过夜。

我们不能将其留在美国。尽管新泽西州的法案是朝着正确方向迈出的一步，但警方邀请AI治疗师机器人的矛盾，混乱和剥削，具体取决于个人状态。

新泽西州的用户在没有任何度假胜地的情况下可能面临得克萨斯州或佛罗里达州的同样风险。零散的法律景观不会关闭任何立即越过州线路的数字设备。

我们现在需要联邦行动。国会必须指出FDA，所有AI心理健康设备都需要进行预选前的豁免，以进行治疗，治疗或危机，无论其标签如何。第二，，，， 必须忽略FTC以积极地抵抗欺诈性AI的健康设备，包括持有平台对这个国家不安全的机器人托管负责。

第三，，，，国会需要通过国家法律来掩盖AI系统的许可卫生专业人员，包括对开发人员和传教士的罚款，并且需要AI治疗产品来显示拒绝和危机，以及实施有意义的人类监督。

最后，我们需要一项公共教育运动，以了解AI（尤其是青少年）尤其是青少年的局限性。这不只是控制。确认保护意味着使人们在快速变化的数字景观中做出通知选择。

AI对心理保健的承诺来了，但危险也是如此。没有联邦行动，市场将被授权的，受控的遗体淹没，这些遗体被医生掩盖并实际造成实际损害。

国会，监管机构和公共卫生领导者：立即工作。不要等待更多的危机中的青少年受到人工智能的影响。不要离开我们的安全状态。而且不要以为技术行业会拯救我们。

如果华盛顿不领导，民族悲剧可能只会避开一些击键。

Slomo Engelson Argamon Touro大学人工智能助理。