许晶

心理健康已然成为现代健康概念的重要组成部分，也是评判个体身心健康水平的主要标志。以AI技术赋能心理健康服务，既能够拓展服务边界、降低患者病耻感，又能创新治疗模式、实现个性化疗愈。但这也存在隐私泄露、算法偏见、情感异化和责任模糊等多重伦理风险，极易侵害服务对象权益，从而容易对患者造成心理伤害，威胁公共心理安全。为充分发挥AI技术赋能心理健康服务的独特优势，规避其所造成的潜在伦理风险，就需要建立健全规范体系，统筹技术创新与伦理治理，兼顾效益与安全，确保其在安全规范的框架内运行，推动AI技术与心理健康服务深度融合、良性发展，实现科技向善。

一、数据隐私泄露风险

作为AI赋能心理健康服务突出的伦理隐患，数据隐私泄露风险的发生机制是数据采集泛化、流转不规范、使用权责模糊等问题互相叠加作用，从而导致被服务个体情绪波动记录、心理创伤经历和认知倾向偏好等高敏感隐私信息泄露。其中数据采集泛化，主要是提供AI心理服务的服务商，过度收集与心理健康服务无直接关系的个人信息。同时，部分服务供应商在提供AI心理健康服务过程中，会采用模糊化、复杂化的表述，隐瞒数据采集的真实目的，变相侵犯用户的知情权。数据流转不规范，主要是服务供应商缺乏完善的加密防护技术，导致心理敏感数据隐私泄露。同时存在违法共享、非法交易心理敏感数据等问题，使得用户隐私沦为商业变现的工具。使用权责模糊主要是用户自身心理数据的权益未得到充分保障，导致部分平台未经用户同意，擅自将个人数据用于商业合作。总的来说，AI赋能心理健康服务数据泄露风险的实质，就是AI技术规模化采集用户敏感信息数据的行为和个体隐私需求相冲突的产物，从而在数据权属失控、算法黑箱、商业逐利驱动下，造成心理隐私被滥用。

针对数据隐私泄露风险，就需要以《中华人民共和国个人信息保护法》《中华人民共和国数据安全法》和《中华人民共和国刑法》为遵循，结合数据采集泛化、存储流转不规范、权属边界模糊等难题，构建数据采集、存储、流转、使用和销毁的全生命周期管理制度。在数据采集方面，就需要以“最小必要”和“知情同意”原则为重要遵循，既明确AI心理服务平台的数据采集范围，避免采集与提供心理健康服务外的无关信息，又要完善用户“知情同意机制”，采用清晰、明显的方式向用户说明数据采集的目的、范围和用途。同时在数据存储层面，可以以区块链加密技术为支撑，确保数据只能为提供服务的部门所采用，从源头降低隐私泄露隐患。同时，在隐私数据流转方面，需要规范数据流转和使用制度，明确敏感数据的流转边界、强化敏感数据的使用审批、注重对流转数据的脱敏处理。此外，要建立以用户为主导的数据控制权，以简洁易懂的形式向用户阐明其所拥有的权益和可行使的权力，确保用户数据的采集、使用、删除完全契合自愿原则，避免数据滥用，超出规范边界。

二、算法偏见风险

算法偏见风险生成的源头是训练数据偏差和算法设计缺陷。AI心理健康服务的提供完全依赖训练数据和算法模型，当训练数据出现样本覆盖不均衡、数据标准存在主观偏差等问题，就会使得AI在接受数据训练时，将这种偏差转化为决策偏见，进而导致出现服务不公平的问题。当AI算法在设计过程中存在量化倾向和指标权重偏向等问题时，会导致AI心理健康服务完全注重效率，难以兼顾不同用户的特殊性，导致服务分配无法提供精准服务，进一步拉大心理服务的供需差距。算法偏见风险的本质，即现实社会固有偏见经训练数据转译为算法偏见的结果，因训练数据选取的局限性，导致AI心理健康服务仅适配于特定群体，从而会造成个体心理差异化的消解。总的来说，算法偏见风险作为训练数据是存在偏差或算法设计存在缺陷的产物，其源于人的主观干预，从而将现实社会中的群体差异和认知偏见“转译”到算法决策中，最终形成“数据偏差—算法偏见—服务不公”的传导链条。

针对算法偏见风险，需要锚定训练数据偏差和算法设计缺陷两大核心问题，构建集“规范—备案—审查—评估—优化”于一体的全链条算法规范制度，从而确保算法机制可理解、可优化。在规范层面，主要部门需要明确训练数据的采集和使用标准，强调样本数据需要涵盖不同年龄、职业、地域，确保样本均衡；在备案层面，上级主管部门需要明确要求AI心理健康服务供应商将算法模型、训练数据等信息进行上送和备案，确保算法透明可追溯；在审查层面，需要构建由心理学教授、人工智能领域专家和法律专家组建的审查团队，对AI心理健康服务供应商的算法训练机制和算法训练数据进行常态化审查，实现算法偏见风险的前置；在算法优化领域，要求AI算法供应商定期向用户和主管部门提供算法运行数据和算法运行机制，并且对算法的公平性进行定期动态评估和迭代优化，逐步修正训练数据偏差和算法设计缺陷，确保算法符合伦理要求。此外，还可以探索建立算法伦理审查的第三方评估机制，进一步提升算法公平性评估的客观性与专业性。

三、情感异化风险

情感异化风险根源在于AI技术对心理健康服务内核的背离和消解。心理健康服务的本质是通过提供人文关怀和情感服务，帮助被服务对象认知自我情绪、学习调节压力、提高自我适应能力。而AI赋能心理健康服务的内在逻辑，则是通过算法、大数据和人机交互技术重构人文关怀、心理疏导的表达逻辑，但这一程序化的模拟交互方式，容易催生情感浅层化、价值异化等风险，使得技术与心理健康服务的核心理念相背离。情感异化风险主要表现为“技术理性消解人文关怀”和“技术交流替代人际联结”。其中，“技术理性消解人文关怀”，主要是AI心理健康服务供应商将心理健康服务异化为“用户需求获取—算法机制分析—服务内容提供”的过程，导致服务内容难以精准回应用户的情感需求，无法触及用户的心理感受，丧失人文伦理价值；“技术交流替代人际联结”，主要是指用户在使用AI心理健康服务的过程中，逐渐适应AI的服务逻辑，形成技术依赖，长此以往会弱化个体的现实社交能力，消解人际情感联结。

情感异化风险的本质，是算法逻辑对现实人文关怀逻辑的替代，从而实现了对心理健康服务本质内核的消解，最终造成情感浅层化和价值功利化。针对情感异化风险，就需要明确AI赋能心理健康服务的边界，融入人文伦理服务内容，引导用户规范使用，从而实现技术赋能和人文关怀的良性融合。“明确AI赋能心理健康服务的边界”，就是要明确AI技术在心理健康服务中的角色定位，规定其仅能够作为辅助治疗工具，为专业心理健康服务提供者提供数据支持、方案选择等基础辅助功能，避免夸大其使用成效；“融入人文伦理服务内容”即要求AI心理健康服务提供商将人文关怀融入心理健康服务全过程，引导其训练数据和算法向具有真实情感表达和情感联结的方向靠拢；“建立用户引导规范制度”是要通过各类宣传渠道，引导用户能够正视AI心理健康服务的局限性，主动重建真实社会联结、学会接纳和纾解社会负面情绪，避免因技术依赖降低人文温度。

总的来说，以AI赋能心理健康服务的伦理风险识别和制度应对，作为一项系统性工程，需要在充分发挥技术优势的基础上，锚定科技向善的价值原则，立足AI赋能心理健康服务场景下存在的数据泄露、算法偏见、情感异化等各类现实风险，以数据安全为基础、以算法规制为关键、以人文关怀为导向，统筹技术创新、行业监管与社会参与，构建全方位、多层次、闭环式的制度体系。以此才能够有效平衡技术理性和人文伦理的张力，规避潜在伦理风险，充分发挥AI技术赋能的价值优势，推动智能心理服务行稳致远，从而更好地贯彻落实健康中国战略要求，实现科技向善、服务惠民的总体目标。

作者单位：皖西学院