AI工具不应当被利益驱使，将利润置于患者获益之上

医疗专家提出医疗级AI的临床应用，不应当带有“生物标记”，医院系统中的AI辅助工具必须是基于患者疾病和健康需求，而非利益驱使，AI辅助工具不能被医院操纵来优化收入，而且确保AI数据的公正性、监管透明度。关注详情。

医学AI技术观点

随着AI技术的成熟发展，越来越多的医院、甚至社区基层医疗机构也成为AI公司'猎取'的对象。公司希望把AI软件系统嵌入到所有诊疗流程中，包括小毛小病的诊疗也要用AI'牛刀'斩一刀。从一方面看，可以理解是提高初级或基层医生的诊疗服务水平和质量，然而，其背后则是商业利益驱使。哪儿有无利不起早的鸟儿呢？AI技术虽好，但仍然没有解决谁买单的问题——'转嫁'给患者是合情合理吗？

阅读文摘

波士顿儿童医院AI医生专家认为，医疗级AI技术或辅助工具使用，不应当带有“生物标记”，指商业利益影响医疗指标的创建和解释。越来越多的临床医生关注AI技术和辅助工具在诊疗流程中的应用，担心商业利益操纵AI工具的普及应用，让AI技术应用更有利可图，而非是最佳临床实践。

AI医学专家认为，AI决策支持工具可能被用于优化医院或科室的收入，而非关注患者的健康和诊疗效果。例如，基于AI算法的糖尿病视网膜病变筛查辅助工具，可能因设定不同的阳性检测阈值而影响转诊数量，进而影响医院或科室的收入。

业界人士强调，医院系统中的AI辅助工具应当基于患者疾病疗效结果，而非利益驱使。

此外，直接面向消费者的AI软件应用可能更快创新，但缺乏医疗系统的监管保护，更容易忽视病人用户的最佳获益。为了确保AI工具的公正性，业界人士建议，医疗机构应当联合共享数据源，确保高质量、无偏见的数据集，并进行独立验证和偏见审计。

最后，医疗机构应当加强互操作性规则，减少供应商的技术锁定，确保AI工具与循证实践一致。

在监管不同医疗环境中的AI应用中，定价和费用机制的透明度是至关重要的，特别是在HIPAA监管范围之外的诊疗数据使用。医院系统之外的创新可能会迅速涌现，但需要确保其优化患者疾病的疗效，而非企业和医院的获益。