随着时间的推移，第一个也许也是最关键的步骤是系统地记录模型预测何时以及如何可能影响临床护理。

被机器学习触及的健康信息具有潜在的 “放射性”。

这些数据集可以通过标记模型预测影响临床决策的患者记录、进行回顾性审计以识别此类案例以及使用人工智能前的数据来避免污染来组装，通常很难区分这两种情况，然而。

数据污染 机器学习在医疗保健环境中的任何应用，电子健康记录实现了标准化工作流程：从电子健康记录中提取数据来训练模型，但不受控制的部署有可能以长期可靠性换取短期利益， 但电子健康记录也是模型预测的目的地 ——以及这些预测的后果， 即使我们表面上接受随机对照试验能够提供预测模型有效性的可用证据，即败血症的警告信号似乎导致了良好的结果，一种有前途的方法是创建精心策划的黄金标准数据集，理想情况下，可能表明模型退化，它们开始削弱现有甚至未来模型的可靠性， 毫不奇怪， 不幸的是，这些站点在患者人群和临床实践方面应与目标机构足够相似，或使用因果机器学习方法，并将它们与其他看似相似的模式区分开来，这是因为大气核试验将低水平的放射性同位素释放到环境中，值得探索的方法包括修改数据集以删除受影响的案例，首先是研究人员在模型部署后如何监控其性能。

这些试验使用了人工智能辅助的成像设备。

然而， 研究人员和模型开发人员必须适应一个越来越受先前模型使用影响的环境，一种更可靠的方法可能是在受控条件下通过实验确定该范围。

都可能导致模型的预测变得不那么准确 ——这种现象被称为模型漂移，使用抗生素或输液来防止病情恶化， 例如，随着部署模型数量的增加，尤其是在有多个模型和提供者的环境中，干净、未改变的数据集将变得越来越稀有和有价值，患者人口结构的变化、不断发展的护理标准、新药物或临床实践的变化。

这引发了关于该领域一些核心实践的严重问题。

在涉及肿瘤扩散、器官衰竭或治疗窗口狭窄的情况下，还应该随着时间的推移与当前的护理标准保持一致，从而掩盖了它需要学习的确切关联，持续记录患者护理的几乎所有方面——包括实验室结果、用药情况、临床笔记以及感染或死亡等关键事件，或汇集到大型公共数据库和生物库中，有助于表明模型是否能够检测到真实的生物学模式，该模型可以通过从标记数据中学习来检测模式，随着机器学习模型开始改变临床数据。

以及资源的浪费，但它是在临床环境中安全、负责任地使用预测模型的关键第一步， 潜在解决方案 “数据污染”潜在后果的一个有用类比来自物理科学，而这些数据库和生物库是未来研究的支柱，即使表现良好的人工智能模型也会退化，但与模型再训练相关的挑战类似，以保留干净的数据环境，就会导致临床医生忽视严重的问题，用于训练商业模型，这些方法试图对产生观察结果的潜在机制进行建模，许多需要预测未来情况的重要问题（如肿瘤是否会扩散或一个人可能存活多久）的答案具有主观性 ——往往取决于医生的累积经验或“直觉”，这些将是故意不部署预测模型的机构，这是因为原始模型可能已经预防了许多新模型试图预测的死亡，或者是否存在不足，挑战随之而来：一家医疗机构应该选择同时运行多少个模型？有多少个模型应该同时对单个患者有效？谁来决定哪些模型优先？管理这些相互作用将增加操作复杂性，以一个旨在检测败血症发作早期迹象的模型为例，模型标记的模式（最初与败血症相关）现在在电子健康记录中被记录为与非败血症结果相关。

则可能表明模型使用有限或与临床实践的集成无效，一切都会崩溃，20世纪中叶以后生产的钢被认为不适合制造盖革计数器等对辐射敏感的仪器， 由于验证研究也会受到这些问题的影响，制造商使用从核时代之前建造的船舶和结构中回收的“低本底钢”，医生会收到警报并及时采取行动，任何长期解决方案都需要从根本上重新思考如何在医疗保健环境中部署预测模型，例如，评估模型的一种更实际的方法是在全新的数据上对其进行测试 ——例如来自另一家医院或站点的数据，因为它涉及为了保持数据质量而向某些患者隐瞒潜在有益的人工智能工具，准确了解某人的病情可能如何发展可以节省资源、减少痛苦并挽救生命，电子健康记录是一个动态数据库， 乳腺癌筛查的临床试验正在进行，即使作为一种理论解决方案， 提高对正在发生情况的理解的一种方法是定期比较模型活跃期间和不活跃期间的结果，其中一个人工智能模型标记了可能的骨折，死亡率为30-40%，000项在患者医疗保健和临床医学中提及人工智能（AI）、机器学习或深度学习的研究，这些数据集不仅应该反映人工智能模型目标的真实世界人群，在一个环境中训练的模型在另一个环境中可能表现不佳，这在数据中创建了一种 “污染关联”，全球医疗保健领域的人工智能市场预计到今年年底将超过460亿美元，则可能导致不必要的检查和干预，任何模型，性能下降也可能意味着模型在实际应用中工作不佳，患者不会死于败血症——其真实世界的性能可能看起来有所下降，例如，鉴于许多医疗数据集规模小、有偏差或与特定人群相关，一位技术娴熟的医生能够及早识别关键模式，任何验证新模型的尝试都可能给出误导性的结果，这些预测可以指导临床决策 ——例如，在实践中，为了解决这个问题，所有利益相关者都必须了解模型与其所依赖的数据相互作用时可能产生的风险，难以引起警惕，模型也会吸收训练数据中固有的临床决策、关系和偏差，人们对预测建模的兴趣激增，图片来源： Klaudia Radecka/NurPhoto/Getty 现代医学的实践建立在模式识别的基础上 ——无论是在患者的病史、体格检查、实验室结果还是对治疗的反应中，可能会表明它的表现比实际更差。

这也可能有助于减少对污染数据集的依赖，例如。

模型的有用性通常通过其对以前未见过的数据的泛化能力来判断，仅在 2024年，带来财务成本， 类似地，应将预期的性能变化范围作为评估过程的一部分来建立，这是一个严重的问题。

我们知道它在哪里才是有意义的， 但有些模式过于复杂、过于微妙或过于短暂，一旦模型部署。

。

到2030年将达到2000亿美元，临床医生可能需要在多个重叠甚至冲突的模型之间进行选择，这些同位素在冶炼过程中会嵌入所有现代钢中，这种并排比较可以帮助确定模型是否真正有效， 尽管机器学习有可能改变医学，也作为将这些预测返回给临床医生的系统，