“军方没有用德裔或意裔美国籍志愿者,是吗?”
“没有,至少我没听过。我跟你讲这些,不是让你无视这工作本身存在问题的一面,而是告诉你,现在你面临的问题并非史无前例。战争的重点就在于它偏护某一人群的生命,而不那么在乎另一群人。既然无法读取人的思想,那就必须另辟蹊径,摸索出方法来分辨需要保护的人和该杀的人。”
凯拉陷入沉思。施托伯博士的逻辑无懈可击。毕竟,这么多年来,她一直心痛父亲的过世,却从未为她父亲所杀的上千人流过一滴泪,哪怕当中不少人可能是含冤而死的。对她而言,父亲的生命远比他们所有人加在一起还要珍贵,他的遭遇也更令人同情。这也是促使她站在这里的原因。
“我们的机器比人类更胜任这份工作。诸如外貌、语言、面部表情等属性,只是输入数据的一个方面。我们还有遍布全城的上千个监视摄像头拍摄的视频,有来自电话、社交访问的元数据,有根据个人无法掌控的庞大数据定位的个别嫌疑目标,你的算法可以将这些通通整合。一旦程序设计完成,机器人便能始终如一地做出决断,没有任何偏见,只有让人信服的证据。”
凯拉点点头。与机器人并肩作战,即意味着没人再需要为杀戮背负良心债。
凯拉的算法需要进行详细说明后,才能递交给政府批准。有时提案会被退回,上面标注着疑问与改动。
她脑海中浮现出某个将军(也许还有几个军方律师提供咨询)逐字逐行阅读她的虚拟代码的情景:
目标的特征将被评估并赋值。目标是男人?嫌疑值增加三十分。目标是孩子?嫌疑值降二十五分。目标面部与任何一个暴力分子嫌疑人的匹配程度不低于百分之五十?嫌疑值增加五百分。
接下来,给目标周围可能受到附带损伤的人赋上数值。被确认为美国人或极可能是美国人的数值最高。然后是与美军结盟的当地民兵或团体,以及当地精英人士。那些看上去一贫如洗、走投无路的人数值最低。算法必须将媒体报道与政治可能带来的负面影响考虑在内。
在计划说明来来回回几次之后,凯拉已经熟悉了这套流程,她的任务似乎并不太难。
凯拉盯着支票上的数字,很大一笔。
“这只是公司对你所做贡献的小小心意。”施托伯博士说,“我知道你一直兢兢业业。今天我们从政府那里得到了关于试用结果的正式通知。他们很高兴,自从使用‘守护者’以来,附带损伤减少超过百分之八十,而且没有一起目标确认失误。”
凯拉点点头。她不知道这百分之八十的比例是基于已经死亡的人数,还是分配给个人的数值,也不清楚自己是否想深究此事。决定已成事实。
“下班后,我们团队应该庆祝一下。”
数月来,凯拉第一次与团队其他人出去聚会。他们大吃大喝了一顿,还唱了卡拉OK。亚历克斯还说起了他在战争游戏里的赫赫功绩,凯拉听得开怀大笑。
“是对我的惩罚吗?”凯拉问。
“不,不,当然不是。”施托伯博士说话时眼神闪躲,“只是行政休假而已……直至调查结束。工资仍会两星期发一次,当然医保也不会中断。我不想让你觉得在背黑锅,只是‘道德监管者’的大部分工作都是你完成的。参议院武装部队委员会催促我们报告设计方法,我被告知第一轮传讯将在下周进行。你不用参加,但是我们很可能会提及你。”
凯拉只看过一次那个视频,但一次就够了。视频是有人在市场里用手机拍摄的,画面摇晃模糊。来自“守护者”的视频无疑会清楚不少,但她看不到了,那属于机密资料。
市场里人头攒动,熙攘的人群趁着清晨凉爽的空气出来逛逛。若定睛细看,那里很像凯拉采购杂货的农贸市场。一名年轻美国人,身着显眼的防弹背心——在那里只有外籍重建顾问和技术人员才会这样穿,正和一个商人说着什么,也许是在为想买的水果讲价。
记者不久后采访了他,他的话一直在凯拉脑中回响:“突然,我听见在市场上空巡逻的‘守护者’发出的声音起了变化,它们停下来悬在我的头顶,我意识到情况不妙。”
视频中,他周围的人群突然向四面散去,互相推搡着逃开。视频拍摄者也跑了,屏幕变得一片混乱模糊。
画面稳定下来后,已经离事发地点很远。两个小型卡车大小的黑色机器人悬浮在摊棚上空,看起来就像食肉猛禽、钢铁怪物。