前篇:疯狂实验:亲身试一次「电车难题」,他们会如何抉择?—讲座补遗(上) 难道电影中Tom Hanks是彻头彻尾的效益主义者?
不如,我们暂且放下那个曾经苦恼千万人,又令一些人捉错用神的「电车难题」,改谈一齣电影,今年适逢电影《雷霆救兵》(Saving Private Ryan)20周年,如果细心留意的话,汤汉斯(Tom Hanks)饰演主角Captain John H. Miller有一段对白简直是经典道德教材:
Do you know how many men I’ve lost under my command?
……Ninety-four.
But that means I’ve saved the lives of 10 times that many, doesn’t it?
Maybe even 20, right? 20 times as many?
And that’s how simple it is.
That’s how you rationalize making the choice between the mission and the men.
This Ryan (had) better be worth it.
He’d better go home, cure some disease, or invent a longer-lasting light bulb or something.
我们很容易理解,Captain Miller之所以满脑子计较死了多少部下、杀了多少敌人、救回多少国民,一个人能为社会带来多大福祉(拯救Ryan的价值),并不是因为他是个麻木不仁的效益主义者,事无大小都在「计算」生命数量,而是他的「处境」——战争,这个处境迫使他如此思考,受部下的怨言影响,同时思考付出的牺牲,军事任务的价值,众多念头在脑海盘旋交战,对于身陷战地的人来说,可谓合情合理(还有一幕,狙击手Jackson表示欲亲手杀掉希特拉一人,终结这场牺牲无数性命的战争)。
一如邱吉尔带领英国抗击纳粹德军时,为了应付侵略者,经常盘算如何减少人命伤亡、撃溃敌人,早日结束战事,几乎没有人在战争情境中,斥责这类想法,或看相关电影后厉声批评。
然而,在日常讨论之中,若话题牵涉一些道德理论或原则时,有些人经常不重视「情境」,不重视考虑在「甚么情况之下」运用哪些原则「比较合适」,更惯常的思维,是先站在认为铁定正确的某个原则、某个主义,誓死捍卫,犹如手执一把「光明神圣之尺」,量度尘世间的一切,不分任何情况皆可应用,不会区分到底是「危急状况、战争状态、极地高峯」等特殊情况,抑或是一般情况,总之,凡有言论或做法违反那套价值标準,即视之人渣,斥之做事残忍。
如何平衡理论与实践,最考验人的理性和智慧神经科学家格林(Joshua Greene)曾参与一项研究,他发现从事公共卫生领域的专业人士,他们回答道德抉择时,说法大多围绕制度、社会整体福祉(倾向效益主义);至于前线医生,他们的说法则大多围绕病人自身的权益(倾向义务论)。
我们可以设想,假如有人身兼两职,不但在政府处理重大公共卫生政策,同时是私家诊所医生为人们诊症;那么,我们认为此人最负责任、最符合道德的做事方式,应该是按照「义论务」抑或「益效主义」?
相信任何理性又通达事理的人,立即察觉这问法十分不妥,为甚么硬要二择其一?为甚么要无分任何情况,必须一以贯之?不是由做甚么事去判断那套原则比较合适吗?有必要烦恼吗?
当聪明人以为道理太过平常,实在无须多谈的时候,现实却告诉我们,并不难碰上「僵化、死硬」看待各类原则、理论的人,偶尔叫人心寒,更可能「好心做坏事」却不自知。或者换个角度,我们想一想以下问题:
(假设)一旦全球再次重演第二次世界大战,纳粹德军步步进逼,你身处英国,眼前有两位政治人物可担任领袖,一位宣称不管是和平日子或是面对战事,他都会绝对贯彻「义务论」的价值原则处事;另一位跟邱吉尔的处事作风完全相同,你会选择哪一位作为领袖?你相信哪一位的决策会比较「理性」?
谈论无人驾驶车难题,不再能视为思想小游戏现在,我们回到与「车」相关的讨论,这次不谈虚拟的电车难题,改谈「无人驾驶车难题」。
2012年,认知科学家盖瑞.马库斯(GaryMarcus)在《纽约客》(The New Yorker)提出了以下情境:
一辆载满了乘客的自动驾驶车,高速行驶在高架桥上。突然一辆载了很多孩子的校车(失控)从对向车道开过来。如果自动驾驶车不改变行进路线,就会迎头撞上校车,使许多孩子失去生命。
如果自动驾驶车紧急转向,校车上的孩子就能得救。但是,自动驾驶车就会从高架桥上摔下去,车上乘客就此死亡。我想知道,自动驾驶车在这种状况下该怎么选择?
即使你向来把「电车难题」看作是思想小游戏,无须认真,连回答的气力也可省掉,可是,上述问题不再一样,至今苦恼着全球许多专家、车商。
因为当有朝一日无人驾驶科技发展非常成熟,已达「第五级」(level 5)的层次,再无须车上任何人接管驾驶,那么,主宰车辆反应的演算法承担了一切责任,变相代替人类进行「道德抉择」。
这样的问题或一时难有铁定答案,或难有广泛共识,不过,目前社会大众如何取态,倒有其参考意义。去年底,科技博客David Silver谈论USA Today的相关报导,加州大学心理学助理教授Azim Shariff扼要交代一项调查,受访者一般会认同若无可避免发生交通意外,无人驾驶车应当以减少人命伤亡为依归,儘管这样极可能牺牲车内的少数人(有如此想法很正常);然而,弔诡的是,人们又不欲购买倾向牺牲车上的乘客,务求拯救多数人的无人驾驶车(挣扎出现了)。
甚至有人提出一系列更头痛的问题,如果将来技术先进到一个地步,可以判辨车内不同座位承受的风险程度,一旦意外发生,应该摆哪位置的人承受更高风险?又,不管任何情况儿童的生存权益应该优先吗?还有,90岁老人与在职专业人士应如何取捨呢?另外,牵涉其他动物又如何?
道德抉择的背后,同时是「生命何价」的问题在笔者眼中,这些科技伦理难题,同时是「生命何价」的问题。至少,当人们站在公共安全角度思考问题时,抽离个人安危不谈,一般人都会同意所有车子应以「拯救最多生命」为依归,「这情况」之下按效益主义抉择,并无不妥,一如普遍人回答「转辙器难题」(switch dilemma)的判断。
另一方面,又如经过改版的电车难题般,假如抉择的範畴能够控制和收窄,能掌握一个人的年龄、职业或家庭背景时,你难以声称抉择的情况丝毫没有改变,譬如,你可以设想将来加拿大政府立例,上至下至一般乘客,全城共享同一型号、同一系统的无人驾驶车,那么,是否一旦发生意外,身处座位所承受的风险,相关演算法真的无须作出特殊考虑?(虽然感觉荒谬,但的确可以这样设想不同情境)
也许,我们虽然对这些问题未必能下定论,不过,思考过程往往更加重要。
不管怎样,诚如笔者在半年前的文章总结,自哲学家菲莉帕.芙特(Philippa Foot)在1967年《牛津评论》(Oxford Review)首次提出了「转辙器难题」初版,至今数十年,全球仍有人认真参与思考难题,执着箇中反映的是非对错,希望了解自己如何判断这类道德抉择,却可能困在一些抽象理论之中,未觉察令人困惑之处,是「魔鬼在情境中」。
最后,且撇开各类难题,归于人生智慧。我们必须紧记前篇《国王的新衣》可供我们提炼的反思,尤其,独立思考其中一个重要态度,是务求先了解更多,再尝试作出判断,面对任何难题或处境时,先追问更多具体细节,逐一细问摆在眼前的是甚么,可以的话,甚至追溯一切从何而来,为何演变成当下的样子,再问最重要的部分是甚么。
当社会愈多人容忍自己退一步、停一停,遇有问题,脑海即浮现一张清单,追问如果要在清单写上自己「目前所知」的东西到底是甚么,再去判断或回答一个问题,那么,这个社会的骗子可能要考虑移民了,他们不再能佔便宜,因为受人蒙蔽、自以为是的国王愈来愈少,而心眼明透的小孩,不管骗子口中说出的理论再多、再妙、东拉西扯、顾左右而言他,这位小孩总会摸索出事情真相;至少,小孩会追问诡辩者,一件看不见的透明神奇衣服,此说尚且可忍,但连保暖的质料也完全触碰不到,实在「是可忍,孰不可忍」,讲多无谓,怕冷啊!
在上星期讲座开始之前,赵子明博士问我为何很少谈论自己的事,大意是指数年来累计的作品篇章这么多,却鲜有交代我的思想世界与心路历程。确实,这数年来是悲喜交集的岁月,世界观似有翻天覆地的改变,在寻求真知的路途上有过很大牺牲,或许,合适的时候会为此分享更多,也谈谈我有意对「统合力」三字赋予新的思想意义。
这次讲题才让我连带记起,数年前跟Michael Sandel谈论社会道德、科学与人性议题,在离开酒店之前还触发个小话题,他好奇我对「电车难题」的想法是怎样,可惜没时间多谈下去,而当日我心中的思想框架,再经过时间沉澱之后,大致如此。
延伸阅读:
前篇:疯狂实验:亲身试一次「电车难题」,他们会如何抉择?—讲座补遗(上)
法学教授提出闻名奇案:被困山洞为免饿死,随机吃掉一人可以吗? 「是你见死不救」(上)——极端情境下食人、杀婴未必有错? 「是你见死不救」(下)——极端情境下食人、杀婴未必有错? 是谁残忍?这位法官在判案之前,参考了着名的「电车难题」 恶搞「电车难题」facebook专页火速走红:一个玩烂后的启示 惹火的道德心理学(上)︰科学可以研究道德? 惹火的道德心理学(下)︰你未够善良核稿编辑:周雪君