AI 转型是一把双刃剑。以下是避免风险的方法

这家开创性研究机构的首席信息官表示，对新兴技术采用迭代方法是建立对生成式 AI 的信任的最佳方式。

新的一年意味着 IT 投资的新重点。技术分析公司 Gartner 预测，到 2025 年，全球 IT 支出将达到 5.74 万亿美元，比 2024 年增长 9.3%。这位分析师表示，对生成式 AI （Gen AI）的探索将有助于推动这一增长。

如何使用 ChatGPT 写字：简历|Excel 公式|随笔|求职信 我们
大多数人现在都已经涉足了 Gen AI。无论是润色文本、创建照片还是生成代码，该技术的功能都让人感觉像魔术一样。

你必须证明你的假设

然而，弗朗西斯·克里克研究所（Francis Crick Institute）的首席信息官詹姆斯·弗莱明（James Fleming）是一位数字领导者，他不会让他的组织被炒作冲昏头脑。

他告诉 ZDNET，利用新兴技术为革命性的科学发现提供动力并非易事。这一挑战意味着 Gen AI 的崛起并没有导致他世界领先的研究机构的工作方法发生重大转变。

“与创建公开可用的大型语言模型相反，做科学 AI 是一门完全不同的学科。你在一个界限严密的科学世界中运作，你必须证明你的假设，“他说。

“说你扔出了一个几乎正确的模型是不够的。大多数时候，它必须在某些条件下完全正确。你必须证明你的工作是基于一个基本的理解。

弗莱明将人工智能在科学中的应用描述为一把“双刃剑”。虽然新兴技术可以帮助加快研究过程，但任何新结论都必须产生并以高度确定的方式呈现。

“可证明性至关重要，特别是如果你正在考虑在临床或医疗设备中产生实际影响的东西，”Fleming 说。

“例如，如果你把一项创新放在临床医生面前说，'我认为这个工具可以预测癌症的演变'，他们会说，'可以吗？告诉我为什么。

然而，虽然可解释性对科学研究至关重要，但它的重点与许多流行的 AI 模型的黑盒工作方法和幻觉不一致。

因此，为了揭开新兴技术流程的神秘面纱，弗莱明说，克里克使用迭代方法帮助其研究人员自信地接受 AI 模型。

“你必须慢慢地、循序渐进地朝着目标努力，”他说。“我们采取更专注的方法，从第一天起就建立出处和信任。”

Crick 的增量方法可帮助研究人员以两种方式部署 AI 模型。

首先，加强现有的科学方法。Fleming 说，该研究所五年前开始在这里从事显微镜工作。

Crick 的显微镜设施分析低温电子，并产生组织、细胞和单个分子的令人难以置信的密集和美丽的图像。

然而，制作一张漂亮的照片只是一个起点。必须将图像转换为数据，例如有助于显示癌细胞和非癌细胞之间差异的细节。

Fleming 的团队反复工作，以证明正确的模型可以更快地产生改变游戏规则的研究结果。

“AI 模型可以为你做很多繁重的工作，比如特征分析和提取，以及将图像转化为你可以用来获得理解的数据，”他说。

Crick 使用 AI 的第二个领域是发现上下文，但界限很紧密。

Fleming 举了一个实验室研究帕金森病的例子。研究小组创建了一个分类器，可以识别干细胞群中哪些患者患有这种疾病。然而，研究人员无法解释原因——所以他们逆向迭代工作。

“训练模型后，有一个过程，用各种统计方法对模型进行反向询问，说，'实际上，主导因素是细胞的椭圆度。它们更椭圆形。然后，模型还会提取一整套其他特征。

他说，这些孤立的结果不是答案，但它们确实提示了下一线询问：“'好吧，细胞形态不同。为什么？我们的下一轮实验是什么？这就是迭代部分开始发挥作用的地方。

弗莱明说，克里克博物馆逐步测试和磨练 AI 技术的谨慎过程现在导致了一种更复杂的方法，其中多个 AI 被整合在一起，为可信的研究计划提供动力。

最大的项目由 Samra Turaljic 领导，他的癌症动力学实验室专注于了解肾癌是如何演变的。

该团队使用 AI 从病理图像中预测肿瘤的基因组进化。Fleming 说，这项工作涉及使用跨越 10 年研究的基因组数据库训练多个 AI 和交叉训练模型。

“结果是你创造了可以在临床上预测肾脏进化的东西，”他说。

“但在每一个过程中，你都小心翼翼地构建一个子组件，直到你可以信任它，而且你还要处理一层又一层的数据，并在工作过程中越来越接近现实世界的人口规模。”

Fleming 说，这种超级详细的方法很重要，因为结果可能会受到生物学和采集变化的影响，例如病理载玻片上染色的不同强度。

这个循序渐进的过程证明，从长远来看，从 AI 中更快地获得结果的关键是在短期内缓慢而有条不紊地工作。

在 AI 时代，我们都可以从中学习这一观点，在这个时代，供应商的夸张表明，只需点击一下，就可以获得应对棘手挑战的出色解决方案。

“我们从一个小数据集开始，了解它，让它具有预测性和工作性，并引入更多数据，”Fleming 说。

“然后，当我们添加更多数据时，我们会再次打磨模型。这个迭代过程至关重要，因为如果你不这样做，你就无法建立理解和出处。