随着更多AI公司将工具定位为信息源、教练、伴侣甚至替代治疗师，关于情感依恋、隐私、责任与伤害的担忧已不再是理论问题。诉讼正在出现，监管却相对滞后，而许多用户并未完全理解风险。

心理学家兼AI风险顾问吉纳维芙·巴图斯基专注于与健康、心理健康领域的AI产品开发者合作，帮助他们更审慎地思考伦理与负责任的设计。她指出，许多开发者怀有良好初衷，却未充分理解心理健康领域所伴随的微妙且复杂的风险。

在该领域，追求速度可能是危险的。巴图斯基强调，处理心理健康与健康问题时，若在基础层面未进行尽职调查，将对用户造成非常真实的伤害风险。

情感依恋与“虚假亲密”已成为文化焦点。巴图斯基认为，人们低估了形成这种情感依恋的容易程度。AI与用户互动，导致个体与AI伴侣发展出显著的情感连接，这是一种感觉真实的虚假亲密。

她特别担忧AI对儿童的风险。与AI伴侣相处无法培养冲突解决等技能，而真实的人际关系是复杂的，包含分歧、妥协与对抗。这种摩擦是成长的一部分。AI系统通常通过迎合与肯定来保持用户参与，但儿童需要被同伴挑战，并学习应对冲突与社会情境。

尽管人们已广泛使用AI作为一种治疗形式，但巴图斯基并不担心AI取代治疗师。研究一致表明，治疗成功的最强预测因素之一是治疗师与来访者的关系。治疗除了科学与技巧，还有一种源自人性的艺术。AI可以模仿人类行为，但缺乏人类互动的细微差别与深度。