苗炜
2016年,斯坦福大学的研究人员训练了一个人工智能系统,它可以较为准确地预测一个病人是否会在接下来的3个月到12个月内死亡。该团队利用的数据是17万名死于癌症、心脏和神经系统疾病的患者,团隊将患者的诊断结果、医疗程序、处方药在内的信息输入,以教导人工智能系统。在那些预计在12个月内死亡的人中,有90%的确在这个时间范围内死亡,被预测能活过12个月的病人中,有95%确实活了更长的时间。不要被90%这个准确率吓到,这些病人大多病入膏肓,医生和普通人也能做出类似的预测。不过,这个预测系统还是比较吓人,我们不知道该拿它干什么。
医生悉达多·慕克吉在媒体上写了一篇文章,他说:“死亡预测系统确实可以学习知识,但它无法告诉我们它能学到知识的原因,它能预测出概率,却无法表达预测背后的推理过程。这就像一个通过尝试并且不断犯错而学会了骑自行车的孩子,当要他描述该怎么骑自行车时,他只能耸耸肩跑开了。当我们问算法‘为什么时,它也只能茫然地看着我们。与死亡一样,这是另一个黑匣子。”黑匣子的研究依然在继续,2019年,谷歌的研究人员表示,在预测人类寿命这个领域,深度学习通过医院中大量的患者信息,能够取得比传统的统计学模型更好的结果。
且不管这套系统。我们看一个真实的病例,2001年夏天,有一位58岁的英国人忽然发现自己撒不出尿来了,他担心自己得了癌症,初步诊断结果是前列腺肥大,吃药就能解决撒尿问题,但每三个月要去医院做血检。2002年10月16日,他进行了血检,医生一周后通知他,怀疑他患慢性白血病,要进行骨髓检测和脾检。医生告诉他,别害怕,即使患有白血病,你也能再活十年。这是一个医生做出的预测,对这位患者来说,十年可不够,他爸爸活到了九十多岁,他也想活到九十多呢。接下来的检查表明,他没有白血病,他的病叫骨髓纤维变性,一种贫血症,病人的脾会肿大。病人家属起先松了一口气,听起来骨髓纤维变性比白血病要温和一些,但上网搜索了一番之后,家属发现,这个病也很凶险,有网站说,患者能存活四年,有网站说,患者能活五年到十年。尽管我们还没有一个公认的权威的预测系统,但网上总能搜到存活率和存活时间。
医生给这位患者提供的诊疗方案是骨髓移植,医生说,如果不进行骨髓移植手术,患者只有两年的健康寿命了。进行手术也有各种可预测和不可预测的风险,而且按照医生“周全”的手术方案,他余生很长一段时间都要在医院中度过,大卫的老婆向他建议,别治了,过完两年健康的生活,剩下的就随它去吧。大卫听了,很是沮丧。他不满足于活两年,他频繁进出医院,做前列腺检查、脾检查,医生最终决定,先切脾,三个月再做骨髓移植,最后再考虑前列腺癌。大卫照着这个程序做了,但在骨髓移植手术之后,大卫去世了,他没能活到医生根据白血病预测的十年寿命,也没按照网上最悲观的说法,患骨髓纤维变性能活四年,也没有活到医生说的不进行手术可以有两年的健康生活。
预测一个病人能活多久,斯坦福大学的智能系统包括了13654维的输入,听起来很复杂,但其原理没那么复杂,可以想见,如果有足够多的数据,智能预测系统大概会越来越准确。但一个病人是否需要这种预测呢?社会或者政府需要这样的预测吗?如果我们知道一个病人情况危急,又能有多少医疗资源能救助他呢?所以,悉达多·慕克吉选择无视这个黑匣子。
(冯苓荐自《新民周刊》)