为什么机器学习在制药业的潜力取决于其透明度

为什么机器学习在制药业

的潜力取决于其透明度

尽管机器学习的创新非常快速，但是必须要考虑通过准确无误的协议去确保其合规性和可靠性。

机器学习（ML）具有变革药物开发流程和协助医护人员治疗护理病人的潜力

机器学习（ML）具有变革药物开发流程和协助医护人员治疗护理病人的潜力，尤其是可以加速药物开发过程中 的临床研究环节和支持医生合理用药。

机器学习方面经常会被误解

由于机器学习方面的知识是相对来说较新的、较复杂的，并且经常会被误解， 因而机器学习通常让人们觉得有点神秘，很多时候觉得它就像一个“黑盒子”。人们只能看到一个“黑匣子”吐出结论， 而无法看到用于产生结论的数据是如何在里面被运作的。

机器学习是一种高度逻辑化、数据驱动型的技术

事实上，机器学习既不神奇也不抽象，而是一种高度逻辑化、数据驱动型的技术。虽然这个神秘的元素让机器学习如此迷人和强大，但它也可能成为机器学习的致命弱点，让不信任在医药行业的用户中滋生开来，医药行业的用户通常习惯于在高度监管的环境中工作，同时在这个环境里强有力的 证据往往显得非常重要。

良好机器学习实践（GMLP）指导原则

为了增强信心并使机器学习技术的安全发展和道德发展标准化，美国食品药品管理局、加拿大卫生部和美国药品  与医疗产品监督机构最近推出了一套被称为良好机器学习实践（GMLP）的指导原则。虽然这是富有希望的确保机器   学习创新进步和采用率提高的第一步，但我们需要的不仅仅是一套应该做什么的一般性建议。我们需要揭开算法内部   运作的帷幕，以证明在其发展的每个阶段都遵循了这些指导方针。

01

将数据科学和物理诊断的标准同步化

鉴于这些技术的快速发展，确保机器学习算法以一种安全和合乎道德的方式开发比以往任何时候都更加重要，并且这使我们能够在整个产品生命周期中对期望的利益和潜在的风险有一个清晰的理解。

例如，数据安全性和多样性是影响人们对机器学习信任的诸多因素之一。这包括个人数据的获取、存储和如何合规使用，以及算法提供的数据是否   代表预期的患者人数。

如果临床医生不相信这项技术是安全的，或者不能充分满足病人的需要，那么他们就极不可能   相信这项技术并在实践中使用它。

开发人员操控机器学习

正如制药公司需要为预期患者群体提供药物有效的和谨慎的证据一样，机器学习开发人员也应该遵循类似的标准。需要广泛地跟踪和记录算法是如何构建的、它的影响以及它的特定用例。只有这样，我们才能帮助人们增强信心，相信这些工具是安全而准确地被制造出来的。

02

通过将机器学习标准化来建立信任

迄今为止，围绕机器学习开发的监管在很大程度上依赖于开发人员良好的诚信，开发人员将遵循“良好科学”原则 并确保他们的算法开发过程是合乎道德和安全标准的。

01

GMLP的引入是重要的第一步

它提供了强有力的建议，从开发独立于训练数据集的验证数据集到应用可以在“现实世界”中被监控的模型的应用，这两者都是关乎到算法准确性的重要因素。

02

开发人员并不需要遵守这些指导原则

然而，开发人员并不需要遵守这些指导原则。它们纯属咨询性质，目的是为今后的发展 提供一个框架，以努力提高用户的信心和提升产品性能。也就是说当预测结果可能影响到病人的治疗或医疗的未来时，仅仅有好的计划是不够的。

03

需要更多的证据和对模型的谨慎跟踪

我们需要更多的证据和对模型的谨慎跟踪，以使它在制药赞助商和临床医生的眼中值得信赖。

03

通过使机器学习具有可追溯性来创造价值

建立对模型架构的信任的有效方法是实施可操作的监管标准，以确保可追溯性。

01

需要明确地定义机器学习的哪些方面应该是透明的

这就需要明确地定义机器学习的哪些方面应该是透明的。与其公布一个模型的专有代码，它周围的系统更能说明它的质量和准确性。

02

系统的工作流程

这个系统的工作流程包括我们如何收集数据，如何训练算法，如何生成特定的输出内容等，都让我们了解每个组件如何根据其用途、设计和性能组合在一起的。

03

机器学习的发展和进步

随着时间的推移机器学习将继续发展和进步，密切和持续的监察模型的性能，并在必要时对其进行改进，是其成长、安全及有关道德发展的关键部分。

04

创新是有意义的、安全的，并且不违背其发展的初心

尽管我们不想放慢这种快速创新的步伐，但我们还是希望确保这种创新是有意义的、安全的，并且不违背其发展的初心。鼓励开发人员实现可追溯性协议并记录算法的开发，不仅可以让医疗保健领域的终端用户安心，还可以提高  整个行业对强大的机器学习技术最佳实践方式的理解，从而使这个新兴领域继续进步。