蚂蚁集团分享医疗AI治理实践：蚂蚁阿福背后的四层治理体系

　　11月4日，在2026年乌镇峰会全球治理倡议网络空间合作论坛上，蚂蚁集团资深副总裁周志峰以《探索高效能治理，促进高水平创新》为题，分享了AI进入专业场景后的治理实践。他提到，大模型正从聊天交互走向医疗、金融等专业领域，从提供通用建议走向满足个体需求。围绕以蚂蚁阿福为核心载体的医疗健康业务，蚂蚁已初步建立四层治理体系。

　　“医疗健康是事关生命的严谨行业，治理体系是行稳致远的基石。”周志峰表示，四层体系中，均衡普惠、生命至上和尊重用户自主是统领性的价值原则；医学专业性、安全性和医学伦理构成专业能力与规则；模型与智能体治理、数据治理构成通用底座；组织保障则确保这些机制在业务中落实。

　　阿福此前公开推出健康问答、健康陪伴和健康服务功能。用户可以咨询日常健康问题、解读检查报告，也可以连接在线问诊、预约挂号等服务。AI回答仅供健康参考，不能替代医生诊断。从回答一个健康问题，到帮助用户找到后续服务，医疗AI需要处理的已不只是内容生成，还包括医学质量、信息保护和人机分工。

　　在模型与智能体治理方面，模型输出要准确、安全；智能体执行任务，还需做到行为可控、权限可管、运行环境可信。为此，安全防范从模型训练阶段开始，运行中通过持续评测识别风险，并按风险类别和等级采取相应措施。蚂蚁此前公开披露，科技伦理与安全机制已嵌入研发、测试和部署全流程。

　　专业能力同样需要持续把关。医疗模型在训练中融入医学知识、临床指南和诊疗规范，并借助医生的专业经验提升临床推理能力；医学巡检、质量控制和专家合作机制则用于发现疑难问题，推动模型改进。

　　这些治理要求最终要落到用户可感知的服务中。阿福已落地“AI回复+医生把关”模式：用户得到阿福回复后，可以申请医生复核；医生能够认可、修正或补充AI建议。这为AI健康咨询与专业医疗判断之间增加了一道由人把关的环节。

　　随着智能体能力增强，人机协作方式也可能演化。在任务范围明确、有限授权、风险可控且责任清晰的低风险场景，未来可以分类探索由医生监督AI运行，医生始终保留及时干预和接管的权限。

　　医疗健康AI仍处于起步阶段，医学伦理、标准规范和临床应用需要更多行业共识。蚂蚁已成立医疗健康专家咨询委员会，参与医疗人工智能中试基地共建，并与医院合作探索AI在临床专科场景中的应用。（张伟）