人工智能越来越擅长给出答案
但当它进入医学与生命科学领域
有时更重要的能力
或许是知道什么时候不能下结论
一个仍在不断完善、需要持续验证的学习系统
如何以审慎、可靠的方式参与医疗决策？
人工智能能否帮助我们理解不同生命尺度之间的联系？
当自动化学科走进医学领域
又能够带来哪些独特的思维和方法？
本期“紫冬学者”，邀请清华大学自动化系副研究员闾海荣与自动化系大二在读的两位同学周波、刘沁熙面对面交流，从产业经历、科研选择到医学人工智能的未来，共同探讨人工智能如何理解生命、服务医疗。
01 学者简介
闾海荣，清华大学自动化系副研究员、 产学研责任教授，信息处理研究所副所长，生命基础模型实验室主任助理。
长期从事人工智能、机器学习与医疗健康领域的交叉研究，主要聚焦跨尺度多模态生命基础模型、人工智能虚拟细胞和高可信医学系统的构建，在《Nature Machine Intelligence》、IEEE TPAMI等人工智能期刊和会议发表数十篇论文，著有《人工智能与区块链》等教材，并作为项目负责人承担多项国家自然科学基金及国家重点研发计划项目、课题。
回到清华任教前，闾海荣曾担任IBM研究院研究员、上市公司高管以及DDE国际大科学计划大数据体系负责人，具有长期的人工智能产业研究与应用经验。
02 选择｜从实际问题出发
Q：您在产业界工作十年后，于2017年回到清华任教。当时作出这一选择，最主要的考虑是什么？产业经历又对您后来的科研选择产生了怎样的影响？
A：直接的契机，是在与张学工老师（自动化系教授）、江瑞老师（自动化系教授）交流合作的过程中，我对团队开展的数基生命研究产生了浓厚的兴趣。那些交流让我开始认真思考：人工智能能不能成为研究生命的一种基本方法，帮助我们发现和理解过去难以认识的生命规律？
这个问题需要长期投入。回到清华，让我有机会把人工智能、生命科学和医学的问题放在一起，持续深入地研究。
产业经历对我仍然很重要。它让我知道，技术从“做出来”到“真正有用”，中间往往还有很长的距离。所以，我并没有把回学校理解为离开产业，而是希望把长期研究与现实需求结合起来：
从实际问题出发，但不止步于满足眼前的需求。
03 探索｜人工智能能否理解生命
Q：在您目前开展的研究中，现阶段最希望重点推进的是哪一个方向？
A：我最希望推进的是跨尺度多模态生命基础模型，以及在这个基础上构建人工智能虚拟细胞。
我们想回答的一个核心问题是：分子和细胞层面的变化，怎样影响组织、器官乃至一个人的疾病进程？如果施加一种干预，又能不能提前预测这个过程会怎样改变？
我自己的切入点是病理。我们与临床团队合作、发表在《Nature Machine Intelligence》上的ROAM，把病理图像中细胞形态和组织结构等不同尺度的信息结合起来，支持胶质瘤诊断，并研究形态与分子特征之间的联系。
以此为起点，我希望把病理研究继续向两端延伸：向下连接分子活动和细胞状态，向上连接器官功能与患者病程。
这里真正困难的，不是把几种数据放在一起，而是找到不同层次之间可以相互解释、经得起验证的关系。
Q：在推动这项研究的过程中，目前遇到的主要困难是什么？
A：最大的困难，是缺少能够把不同生命层次真正联系起来的数据。
我们需要的不只是大量病理图像、大量分子数据，还需要知道它们如何对应：是否来自同一个患者、同一个组织区域、同一个时间点，以及在什么干预条件下获得。
比如，病理图像取自肿瘤边缘，分子检测取自肿瘤中心。虽然来自同一位患者，也不能直接当成同一个组织区域的对应观测。
这提醒我们，模型性能的上限，有时取决于我们是否正确理解了数据的产生过程。一批对应关系清楚、能够检验关键假设的数据，可能比简单增加数据量更有价值。
我们的思路是，充分利用公开数据研究共性规律，用可靠的配对数据约束跨尺度关系，再围绕关键的不确定性设计验证。进一步，还希望模型能够帮助我们判断：下一步做哪一个实验，最有可能区分不同解释、增加新的认识。
04 可信｜AI什么时候不能下结论
Q：在大模型快速发展的今天，您认为医学人工智能当前最迫切需要解决的实际问题是什么？
A:这个正好是我关注的另一个方向，高可信医疗系统的构建。
我们需要要回答一个根本问题：一个会出错的学习系统，怎样才能可靠地参与医疗决策？
我们不能要求一个模型天然掌握所有知识、永远不犯错，但必须研究如何识别它的能力边界、如何核验它的判断，以及如何限制错误可能造成的影响。
比如，模型找到了一篇相关文献，并不意味着这篇文献一定支持它对眼前这位患者的建议。我们还需要检查研究对象是否适用、前提条件是否满足、以及有没有重要的相反证据。
可信不能只看模型有没有给出引用，而要看证据是否真正支持结论。
在医疗领域，一个有价值的系统，应当能够在证据不足时指出缺少什么信息，而不是无论什么情况都生成一个完整答案。
知道什么时候不能下结论，本身就是重要的能力。
Q：如果医学人工智能真正进入医院和临床，首先需要解决什么问题？
A:首先要设计好人和人工智能共同工作的闭环：系统可以做什么，什么时候必须由人判断，出现问题以后怎样发现和纠正。
我特别在意“医生在环”。医生在环不能只是最后设置一个确认按钮。医生需要看到关键证据和模型的不确定性，也要有条件质疑、修改或接管。
相关责任也需要落实在系统研发、部署和使用的全过程，不能全部推给最后使用系统的医生。
医学人工智能真正进入临床，需要证明的是：在明确的任务和条件下，人和系统共同工作能够获得更好的结果，而且风险可以被持续监测和控制。
Q：展望未来5—10年，您认为人工智能最有可能率先改变医疗服务中的哪一个环节？又有哪些工作不能完全交给人工智能？
A：我比较看好人工智能对个体化诊疗决策的支持，尤其是在需要长期观察、持续调整方案的疾病管理中。
我期待的变化是，人工智能能够帮助医生从“这类疾病通常怎样处理”，进一步走向“对眼前这个患者，什么时候采取什么措施更合适”。
例如，一位患者接受治疗以后，新的检查结果和病情变化不断出现。系统能否把这些变化与既往病史、组织和分子特征联系起来，帮助医生判断目前的方案是否仍然适合、哪些变化需要关注，以及还缺少什么信息？
这是一个长期过程。更现实的路径，是先做好证据整理、变化识别和风险提示，再在特定病种、特定任务中，逐步取得可靠的预测和决策支持能力。
但是，治疗目标和重大选择仍然需要医生与患者共同决定。人工智能可以帮助比较证据和可能的后果，但不能替患者决定什么样的生活对自己更重要。
无论人工智能的能力怎样发展，人的自主选择和各方应承担的责任，都不能被一句“系统推荐如此”所替代。
05 对话紫冬青年｜自动化带来了什么？
Q：许多同学都想了解，当自动化学科介入医学人工智能研究时，我们带去的最核心的学科特色究竟是什么?在具体项目中，又怎样将这些特色转化成优势?
A:我认为，自动化一个很重要的特点，是习惯把对象看作一个会变化、可以受到干预、并需要通过反馈来认识的系统。
面对一组数据，我们不仅会问“它属于哪一类”，还会继续追问：系统当前处于什么状态？还有哪些状态没有被直接观测到？采取一个行动后，它将怎样变化？新的观测能不能帮助我们修正判断？
这就是我所理解的控制与智能相结合。机器学习帮助我们从复杂数据中建立表征，系统与控制的思维则让我们进一步关注动态变化、干预效果以及不确定条件下的行为。
以人工智能虚拟细胞为例，我们需要从有限观测中推断细胞的关键状态、预测干预后的变化，并选择下一次实验检验模型。这些问题就把人工智能、系统建模和实验设计联系在了一起。
我也希望这种交叉是双向的：我们使用自动化的方法研究生命，生命系统本身的复杂性也应该反过来推动人工智能和系统理论的发展。
06 对话紫冬青年｜不要让工具替你决定问题
Q：面对不断出现的新方向和新热点，学生应当怎样判断什么是真正值得长期研究的问题？
A：我建议先把题目中的热门名词拿掉，看看自己还能不能把真正的问题讲清楚。
“我要做一个虚拟细胞大模型”是一个方向，但还不是一个足够清楚的研究问题。我们需要继续追问：究竟想预测什么变化？现有方法为什么做不到？提出的方法增加了什么新的认识？什么样的结果可能证明原来的判断是错误的？
还可以再问一句：如果两年以后模型变得更强，这个问题还重要吗？如果问题仍然重要，它可能就更值得进一步研究。
当然，我们不必一开始就选定一生的研究方向。可以从一个具体、能够验证的问题做起，再逐步发现更深层的问题。
重要的是，不要让工具替你决定研究问题，也不要因为题目看起来很宏大，就放松对证据和具体工作的要求。
Q：最后，如果用一句话送给正在寻找科研方向的青年学生，您最想说什么？
A：我想说：对重要的问题有耐心，对自己的结论要严格。
研究中，方法可能要换，假设也可能被推翻，这些都很正常。真正值得坚持的是把问题弄清楚，而不是证明自己最初一定是对的。
我希望同学们多年以后回看自己的工作，能够说清楚：别人因为你的研究，多理解了一点这个世界，或者多了一种解决问题的方法。能留下这样的贡献，是一件很值得投入的事情。
写在最后
从产业实践中寻找真实问题，在生命科学研究中探索不同尺度之间的联系，再到思考一个可能出错的人工智能系统如何可靠地参与医疗决策——这些看似不同的问题，都指向同一种研究态度：
既关注技术能够抵达怎样的远方，也始终保持对证据、边界与责任的审慎。
答案或许会改变，方法也可能被更新，但把真正重要的问题弄清楚，始终值得耐心投入。
