10 似易实难

“这……比我预期的时间要长很多。我是说,发计算机科学论文通常只需要几个月。”

他说的都是显而易见的事情,但他是对的。我没有太多可以补充的。

“李教授,我还有最后一个问题。”他双手抱臂,开始提问,“我知道你花了多长时间构建imagenet,也清楚它对计算机视觉的重要性。对于这个,呃,环境智能的想法,我们会有类似的数据集作为支撑吗?”

我叹了口气,可能声音有点儿太大了。

答案是否定的。又一个“没有”。没有数据集。没有已知文献作为我们观点的基础。没有研究类似问题的实验室可以合作。最后,这位候选人的回复虽然礼貌,但也是否定的。

几个月过去了,我们连一个合作者都没找到,我夜不能寐。我正站在职业生涯最有意义的一个篇章边缘,有机会接受母亲的启示,真正利用人工智能为社会做些贡献。但如果没有帮助,我们将一无所获。我想起了imagenet早期的孤独岁月。与现在相比,连那样的日子都显得云淡风轻了许多。

然而,今天我有了分心的奢侈机会。也许是觉察到我需要一些外力来保持头脑清醒,阿尼派我去参加一项实地考察。

“你确定这样没问题吗?”我一边调整口罩,一边问道。我一生中大部分时间都被穿着手术服的人包围着,今天是第一次自己穿上了手术服。

“当然没问题,我们经常这么干。护士、医学院的学生、实习毕业生,什么人都有。别担心,你很快就会融入。”

阿尼安排我跟随露西尔·帕卡德儿童医院的儿科医生特里·普拉切克(terryplatchek),这样我就能观察到医生在医院轮班期间保持手部卫生的实际情况。但我想看到一切:病人、护士,所有的一切,他们的全部经历。我知道他们的世界是混乱的,我想以他们的视角来看待这一切。

我不知道自己即将面对什么。

普通病房充满了圣诞节的气氛,我简直不敢相信这里有这么多孩子。每个孩子都有自己的经历,每个都令人心碎。有些获得好消息,有些则碰上坏消息,而大多数都只是漫长而又让人麻木的治疗旅程中的又一步。有些家长问我是谁,为什么会在那里。但大多数人似乎都没有多想,因为他们只想知道自己所爱的人正在经历什么,他们已经习惯了不同的医护人员像走马灯一样地变换。

我本该记录一些机械且容易量化的东西,但我无法将视线从医护人员身上挪开;我很快就意识到,这些人才真实地展示了什么是人性化护理行为。一个好医生是信息的总汇、力量的源泉,有时甚至是病人及其家属在痛苦时刻的精神支柱。多年照顾母亲的经历让我自信对医疗领域了如指掌,但与普拉切克医生的相处彻底颠覆了这种观点。我开始确信,无论多么先进的技术,都无法取代我那天所看到的一切。

尽管如此,我认识到在某些决定性时刻,我们也非常需要新的辅助工具。我遇到了一位资深护士,她的一个病人最近摔倒了。这是她职业生涯中第一次出现这种情况,她惊讶地发现,这件事对她的影响极大。从统计学层面看,对她来说,在自己的监护下有病人受伤是不可避免的,毕竟她已经做了几十年护士。但当这一时刻终于到来时,她整个职业生涯的杰出表现并没有能帮助她缓解情绪。她的情绪非常崩溃,就像第一天上班的护士一样。无论是她,还是那位病人,都受到了严重的伤害。如果人工智能能帮助避免这种情况,那么一切努力都是值得的。

这一天对体力要求很高,轮班结束时,我已经筋疲力尽,但更疲惫的是我的精神。仿佛我重温了和母亲共同面对的每一刻,只是这一次以小时为单位不断循环播放。我茫然地与普拉切克医生握手寒暄,准备离开。但在往外走的时候,我突然想到了什么。

“特里,我很好奇,是什么让你如此愿意让我进入你的世界?老实说,我算是个局外人。”

他沉思片刻才给出答案:“你知道,最近有很多关于人工智能的新闻,老实说,大部分我都不喜欢。”

我笑了,也许带着一丝嘲讽。我知道他接下来要说什么。

“当然,如果我每天有更多工作可以被自动化,那就太好了。我明白。”他继续说,“但我有点儿厌倦科技高管们成天说的都是让我这样的人失业。只有你和阿尼似乎真正想帮助我,而不是取代我。”

我稍作思考,然后回答道:“我知道我们聊过我的母亲,还有这么多年照顾她的健康问题对我产生的影响,但这个故事还有另一面。在医院度过了那么多时间,对我而言是有好处的。”

“有什么好处呢?”

“有一种特别的东西……我不知道,也许可以叫作‘关怀之举’,无论是护士帮助我母亲坐起来,还是专家制定治疗策略,都感觉很特别,充满了人文关怀。这也许是我们所能做的最人性化的事情。我无法想象人工智能来取代它,我甚至不希望人工智能取代这一点。今天,科技在维持我们的生命方面发挥着重要的作用,我很感激,但毫不夸张地说,我和母亲能熬过这一切,真正的原因是人,是像你们这样的人。”

轮班还没结束,太阳已经落山。从医院出来,傍晚时分清新的空气迎面而来。相对宁静的环境让我的思绪得以舒展,全天的记忆带着沉闷的刺痛感重现。虽然我目睹了病人和家属的悲惨境遇,感到心绪不佳,但阿尼是对的,这正是我所需要的。这是计算机科学学位无法提供的教育场景:病房里的喧嚣、不确定的恳求眼神、对任何形式安慰的迫切渴望,酸痛的脚和破旧的网球鞋,休息室里冷冰冰的比萨,一小时又一小时的煎熬。

阿尼知道,虽然我在母亲身边照顾了多年,但我仍然无法真正理解临床医生的感受,所以他邀请我亲自去体验一下。

在回家的路上,我突然有了一个奇怪的想法:我很庆幸我们还没有招收任何学生助手,否则,我早已用计算机科学家的阅读清单把他们淹没,使他们习惯于从数据、神经网络和最新架构进展的角度来思考。这当然很重要——在这样的项目中,科学问题是无法回避的。但我现在明白,科学并不是正确的起点。如果想让人工智能帮助人类,那么我们必须从人类自身开始思考。

我随即做出决定。从那天起,任何要加入我们团队的学生,都必须先拥有我刚刚拥有的体验,否则一行代码都不可以写。跟班学习将成为每位新成员的入门仪式,没有商量的余地。

幸运之神的眷顾加上我在医院的经历所产生的激励作用,使得工作进展迅速,我们的愿景得以延续。我和阿尼花了近两年时间,付出了比以往更多的耐心,终于组建了一支规模适宜的团队,开始了我们的工作。很明显,环境智能在一段时间内仍将是一个小众的研究领域,因为对人工智能专业知识的需求太旺盛了,竞争机会也非常诱人。但我们招募的人员素质表明,我们正在从事一项有意义的事业。毫无疑问,这是我参加过的专业能力最多元化的团队。

在我们的第一批新成员中,有计算机科学的一年级研究生、电子工程的博士生,还有研究机器人对人类活动和社交导航感知的博士后。随后,针对我招募的团队,阿尼也挑选了一批年轻医生,有医院的儿科医生、老年病医学专家,还有重症监护专家。最重要的是,我们从一开始就达成了共识,主导权不属于团队中的任何一方;阿尼和他的同事需要我们的经验来构建技术,而我们也需要他们的经验来确保技术的正确性,以确保技术不仅有效,而且尊重使用者、体现人道主义精神。

阿尼将他最令人叹服的壮举留到了最后:说服医疗机构让我们在他们的场所进行实际的技术演示。我们首先选择了两家不同的医院,一家位于帕洛阿尔托,另一家位于犹他州。我们的目标是发现手部卫生方面的疏忽,确保不会因为手部卫生而造成患者感染。接下来,我们选择了湾区的一家养老院,目标是通过跟踪老人们全天的身体活动来协助护理人员。最后,我们在斯坦福医院的重症监护室部署了一套系统,当康复患者长时间不动时,系统就会向护理人员发出警报。

然而挑战依然存在,就连阿尼的锦囊里也没有妙计了,那就是数据问题。我在这个项目之前的几年深刻认识到,若要有效地训练像我们这样的模型,数据绝对是必需品,这是毫无疑问的。我们需要大量真实、有机且尽可能多样化的数据。

但在医疗领域,我们所需的数据在本质上就是稀缺的。出于法律责任和基本隐私等显而易见的原因,患者和临床医生的行为很少被影像记录下来,而对于我们希望检测的事件(其中许多事件从一开始就是异常情况,比如跌倒),相关的清晰影像更是少之又少。这使得我们的工作比我最初想象的还要复杂。在训练模型之前,我们必须亲自收集必要的数据。

尽管如此,我们的研究势头依然如日方升。新的实验,新的假设。我们撸起袖子,使用新硬件和新软件。正如我所料,这是我的实验室尝试过的对科学技术要求最高的项目。但真正让我们豪情满怀的,却是任务本身。我们所做的一切都充满了意义,它让我成年后一直从事的职业变得如同一个全新的世界。我一直努力将私人生活与科学家的职业生涯区分开来,但现在的一切冲破了堤坝,冲刷着沿途的一切。早该如此了。

“快叫护士,”母亲恳求道,她发出微弱的呻吟声,声音小得几乎听不到,“点滴……又痒了。他们扎针的那个地方。”我们又回到了医院,这次是做心脏成像。这么多年来,母亲已经做了很多次心脏成像,每次就医的紧张感都比上一次更加强烈。我赶紧按铃求助。

今晚的护理人员是来自加利福尼亚中部的旅行护士曼迪。她年轻、乐观,还在努力考资格证书,争取更加稳定的职位。从她进入房间的那一刻起,我就知道我会喜欢她。

“不好意思,”我说,“我知道还没几个小时,我们都叫你三次了。”

“没关系的。”她坚持说,虽然眼神疲惫,但依然笑容满面。她有一种难以伪装的温暖。“哎哟,真是可怜!”她说着,把注意力转向母亲,全身散发着善意,“看来我们又得冲管了。我知道今晚不好过。”

这一幕我已经见过无数次了,但今天,我有了一种特别的感触。也许是因为我从曼迪的举止中看到了一丝纯真,也许是因为最近的研究让我们都成了日常护理专家。我感到喉咙有些发紧,这是我在病房里待了这么多年从未感受过的。同情、敬畏、感激,还有其他一些难以形容的复杂情绪。曼迪的出现,她这种改变他人生活的简单而真挚的关怀之举,让我感到格外温暖。我的泪水在眼眶里打转。

在以往的这种时刻,我的注意力通常都集中在母亲身上,但我们在做的研究彻底改变了我的想法。护士平均每班要走6000~8000米,需要完成180多项不同的任务,虽然疲劳的隐患有据可查,但轮班时长却在不断增加,目前平均长达12小时。我知道曼迪在来我们病房之前去过哪里,也知道她见过多少其他面孔,我知道她可能已经疲惫不堪,但她还是毫不吝啬地传递善意,微笑着完成了所有任务。

如果我的研究确实能帮到别人,那么像曼迪这样的护士就是我的首选。我无法想象还有什么人比她们更值得帮助。

第二天,上早班的是一位新护士苏珊。“你在这里工作吗?”她问道。

我低头看了看自己佩戴的斯坦福医学院徽章。我跟阿尼一起工作时,经常佩戴着它,这会儿忘了摘下来。

“哦,这个?”我笑着说,“不是,实际上我正在参与一个研究项目。”

“什么样的研究?”她问。

“我是计算机科学系的,我和我的学生正在合作开展利用人工智能追踪手部卫生的项目。”

她的笑容淡了一些,看起来礼貌多于友好。“那么,是有摄像头在监视我们吗?”

“不,不,不!当然不是!”这已经不是我第一次被问到这个问题了,但我每次还是会感到一阵尴尬,“更像是一个传感器,不是摄像头。没有录像。它为我们的算法分析提供了图像。算法正在学习观察不同的洗手模式。我们还在起步阶段,就是想搞清楚算法是不是能够胜任这项任务。但我保证,没人在监视你!”

我尽力保持轻松的口吻。我说的一切当然都是真的,但我也不能怪她把事情往最坏的方向想。

“好吧,那听起来还可以。”她松了口气。“你知道,”她压低声音继续说,“你们这些不叫摄像头的东西应该盯紧医生。”苏珊和曼迪一样善良,但她身上有一种犀利的感觉,她的脸上掠过一丝苦笑,“他们的卫生习惯是最糟糕的。但管理层不管他们,只会对我们护士大吼大叫。”

“老板监视器”。

更委婉的说法是“员工监控系统”。这种新型软件如雨后春笋般涌现,被广泛用于仓库和办公室等场所。许多人认为这种审查会侵犯人的隐私,甚至是不人道的。虽然软件的市场定位是提高工作效率和保护职业行为,但几乎立即遭到了劳动者的反感,也很快成为科技媒体反复报道的话题。现在,我们甚至还没有机会证明自己,研究工作就有可能被反乌托邦的联想所吞噬。我们的技术是为了病人的安全,而不是为了绩效考核,把我们的软件与监视器混为一谈起初让人觉得不公平。然而,这种担忧是可以理解的,而且事后看来,审查和监视之间的关联确实显而易见。这是我第一次接触到人工智能会在公众想象中引发恐慌的一种能力:监控能力。

回想往事,我们很容易忘记变化有多么突然。那是2015年,人工智能对隐私的影响仍是大多数人关注的焦点,毕竟就在短短几年前,图像分类的准确性才开始接近实用的阈值。现在,像我们这样的研究人员眨眼间就掌握了如此强大的能力,技术挑战已经让位于伦理挑战。我们在医疗领域的探索则将这一切带回了我们的实验室。

“没有人想安装老板监视器。”一位学生抱怨道。

团队刚从露西尔·帕卡德儿童医院悻悻而归,他们本想在那里完成推进试点研究的最后工作,却出乎意料地遭遇了失败。

我们的计划是安装一批传感器原型,但我们请来参与实验的各科室护士都无一例外地拒绝配合。项目严重受挫,但在与苏珊交谈之后,我早已有了心理准备。

这件事提醒我们,即使是一个明确的多学科团队,也可能存在盲点。虽然我们的临床医生知识渊博,但他们更像研究人员,而不是一线的护理人员,这种区别产生了决定性影响。简而言之,我们积累了深厚的医疗专业知识,但我们都不是护士。我和阿尼召开紧急会议,讨论我们的选择。

“我认为只有一条路可走,”一位医生建议道,“护士需要跟你们的研究人员见面。她们需要真正的沟通。”

“是的,当然。要让尽可能多的人参与进来。”另一位医生说,“需要倾听。了解他们的想法。”

第三个人附和道:“开个公开会怎么样?我可以帮忙组织。”

我心中感慨万分,感谢上帝,感谢你们每一个人。我无法想象如果没有阿尼和他的同事们,我们的研究该如何继续下去。

“我们在irb相关的陈述上必须严谨。”阿尼严厉地说,“我们的合作伙伴需要得到保证,任何人的隐私都不会被泄露。一次也不行。大家都清楚了吗?”

irb即机构审查委员会(institutionalreviewboard),是对类似我们的临床研究进行监管的机构。要达到他们的期望,确保研究获得批准,需要技巧和外交智慧,更不用说丰富的临床经验了。从我和克里斯托夫在加州理工学院进行的心理物理学研究开始,我对合规要求就已经习以为常,但对我大多数计算机科学的学生来说,这是一个全新的概念。这是真正的医学研究,涉及真实的个体,需要遵循一套全新的专业规范。

然而,我们都没预料到的是,我们的研究可能会超出irb的范围。在听取学生们关于他们在医院访问的更多情况后,我们欣慰地得知,护士们并没有特别担心我们的研究本身;他们中的许多人已经了解我们,并且相信我们的动机,对我们的工作并没有异议。他们担心的是这项工作可能会导致的后果:这项技术将如何发展、供谁使用,以及它的影响范围将会如何扩大。他们的疑虑是敏锐的,同时也强调了一个事实:我们面临的挑战是如何评估人工智能的未来,而不仅仅是它的现在——即使是irb也没有考虑到这一点。

为了确保设备无可非议,我们规定,任何采集到的数据都不得传输到远程数据中心,或者上传到“云端”(这个术语刚刚开始被主流接受)。“云”已经成为热门词汇,几乎在任何情况下都能吸引媒体关注和风投资金,但对我们来说,它却是一种诅咒。相反,我们不得不追求另一种新兴趋势:边缘计算(edgecomputing),即把所有必要的计算资源都整合到设备中。这是我们的研究所需要的范式,但边缘计算本身就是独立的领域,我们对它的理解和把握还不够深入。

尽管面临巨大的工作挑战,但我们知道复杂性是不可避免的。相比之下,从互联网上批量下载图片像是一段无忧无虑的时光。我们现在需要搜集的可能是能想象到的最敏感的数据:以视频的形式捕捉人类群体真正的脆弱时刻。视频的保真度足以训练机器进行可靠的识别。而且,我们必须确保——必须绝对确保——从第一步开始就保护研究对象的安全和匿名,同时遵守irb准则的高标准(这是我们从事相关研究工作所必备的常识和道德)以及《健康保险携带和责任法案》等法律框架。

我们的团队不断壮大。团队建立之初就很多元化,包括工程师、研究人员和医疗政策专家,很快又加入了临床医生、生物伦理学家和斯坦福大学法学院的法学博士。我们的技术合作伙伴也越来越多样化,包括传感器专家、网络安全专家等等,当然还有边缘计算专家。我们雄心勃勃,愿景宏大,尤其可喜的是,在我自己的实验室与阿尼的临床卓越研究中心(中心总部位于斯坦福大学,旨在提高医疗质量和可负担性)的通力合作和资助下,我们的项目落地了。

研究的前沿依然广阔无垠。虽然我们只回答了研究中的一小部分问题,但我们正在取得进展。最重要的是,我第一次认识到,如果将人工智能视为一门独立的学科,就会错失其最大的潜力。我们的研究表明,如果人工智能与其他领域相结合,并借助其他形式的专业知识进行推动,可能性就是无限的。

“妈妈,求你了。”

母亲最近又做了一次手术,手术结果虽好,但康复之路格外漫长。康复的关键是进行肺部锻炼,需要每天多次使用一种叫作诱导性肺量计的手持设备进行呼吸训练。她刚刚做完手术,很容易出现肺部感染,而且可能是致命的,而使用肺量计是简单有效的预防手段。

对经历过多次心脏衰竭和脑出血,又刚接受了开胸手术的人来说,这本该是一项简单的任务。然而,她拒绝了。当医生向她展示肺量计时,她假装按要求呼吸,但医生离开后,她就把肺量计放在一边。当护士来检查时,她又重复着这个戏码。当然,这一切我都看在眼里,但无论我怎么恳求,她都不愿意配合。

这根本就说不通。一连几天,我的焦虑与日俱增。我晓之以理,动之以情,但就是劝不动她。护士警告她时,她就点点头;医生责备她时,她就假装服从。但她的表演并没有改变现实:液体正在她的左肺中积聚,她必须再接受痛苦的肺积水引流手术。

最后,在重症监护室又住了几周后,她从第二次完全不必要的手术中恢复过来,这场折磨终于结束了,我们把她接回了家。疲惫不堪的我们回到后院,享受了很久以来第一个安静的下午。她不在的时候,我父亲一直忽略了花园的打理;她回来后,他如释重负,重新开始了自己的日常生活。

“妈妈,我想问你点儿事。”我不想破坏这份宁静,但内心的困惑让我无法释怀,“还记得医生们想让你用的那个小工具吗?那个肺量计?”

母亲纹丝不动,默不作声,但她的身体语言告诉我,她显然不想谈这件事——人在静止状态下却能传达这么多信息,真是让人惊讶。

“妈妈,我就是想知道为什么。求你了,跟我说吧。”

过了一会儿,她终于开口说话了,但依然没有看我:“我不记得了,当时药劲很大,一切都很模糊。”

我知道这不是真的,但我没办法强迫她解释。我没有继续追问,只是享受和她在一起的时光。天气晴朗,栀子花盛开。

最后,她打破了沉默。

“你知道吗,飞飞,”她轻声说,终于看向了我,“当病人……太可怕了……太可怕了。不光是疼痛,还有失控。在那个房间里,我的身体,甚至我的思想都不属于我。房间里有那么多陌生人,我知道他们是医生和护士,但他们对我来说都是陌生人,而我却要听从他们的每一个命令……我受不了。”

我继续听着。

“就连你也命令我!”

我俩都笑了起来,气氛一下子轻松了许多。

“我知道你是想帮忙,”她补充道,“我知道你们都想帮我,我知道这些东西对我的健康很重要,但到了某一个临界点,我就没有办法再满足这些要求了。”

然后,她又想了一会儿,找到了背后的原因。“我一点儿尊严都没有了。彻底丧失了。在那样的时刻……”她似乎有些语无伦次。我正想鼓励她继续说下去,她就接着说完了:“甚至健康都不重要了。”

自从这个项目开展以来,我学到了很多东西。这些经验和教训缓慢地展开,常常伴随着痛苦。我开始从另一个角度看待母亲在健康方面的抗争,并对我们多年来依赖的护理人员产生了新的同理心。我对医院中人类脆弱的程度感到震惊,也为有机会为此做出一些贡献而备受鼓舞。但我学到的最深刻的一课是,个体的尊严是至高无上的——这是任何数据集都无法解释、任何算法都无法优化的变量。面前这个人是我最熟悉、最在乎的人;在她脸上饱经风霜的纹路和疲惫的眼神之后,那种我长期以来熟悉的挣扎和脆弱,向我伸出手来。

两年多前,母亲只问了一句“人工智能还能做哪些事来帮助别人”,便让我的职业生涯走上了全新的道路。通过她的眼睛来看待我的领域,我的动力一下就增加了。这么多年来,推动我前进的一直是强烈的好奇心,而现在,我第一次将人工智能视为行善的工具,可以纾解像我这样的家庭每天所面临的困难。我第一次接触到了人工智能的伦理问题:对我们中的许多人来说,“人工智能伦理”是全新的议题,也会很快成为不可避免的现实。在熟悉的领域中度过职业生涯的一部分之后,我发现自己又进入了全新的世界,这个世界如此陌生,如果没有合作伙伴,我将束手无策、无所适从。与阿尼的合作给了我两个重要的启示:人工智能最伟大的胜利不仅是科学上的,也是人文上的;伟大的胜利,没有他人的帮助是不可能实现的。