第 20 部分(2 / 7)

和太多了，循循善诱道：“你还记得为什么要建立情感系统吗？”

    吕默换了口气，声音粗哑道：“担心大系统抹杀个体存在。”

    “对。”杨凌点点头，“程序化计算精准可靠，不受情感因素干扰，所以先天弊端也在这儿。”

    一旁没怎么说过话的老郑嗫嚅了下嘴唇，问：“大系统不出错，怎个有弊端？”

    杨凌问：“你们听说过电车难题吗？”

    星琪摇摇头，那边老郑眼光一闪。

    “电车难题是伦理学知名的思想试验之一。”杨凌介绍道，“大意是有五个贪玩的孩子爬上了一条正常使用的轨道，他们不知道一辆失控的列车轰隆隆驶来，很快就会撞上他们。很幸运，你面前有一个控制按钮，按下去能让列车开到另一条废弃的轨道上，但问题在于，废弃的轨道上有个听力有障碍的小孩。那么，在这种情况下，你认为是否应该按下按钮？”

    老郑毫不犹豫地说：“牺牲小我拯救大我，该按。”

    “可是听力有障碍的小孩是在废弃轨道，”星琪嘟囔道，“他/她不应该为其他人的过错承受代价啊。”

    “这种难题可能因为答题者的个人倾向而犹疑不决，在没有绝对前提下，我们不能说哪种选择错，也不能说哪种选择是正确的。”

    小范围采样得到两种答案，杨凌并不意外，接着道

    “但在设计系统逻辑上，只要‘利益最大化’的优先等级大于‘秩序最大化’，不用怀疑，系统肯定会选择牺牲那条废弃轨道上的小孩，以挽救更多的生命。反过来就像小尚说的……”

    吕默打断她：“这跟我的设计思路有什么关系？”

    杨凌回答：“审查组反复评审了很多次你们的设计样本。你们很少去考虑女方的意见，始终把女性的健康放在匹配要素的第一位，小默，这是不合理的。”

    吕默又是不解又是好笑的样子，“哪儿不合理了？这不就是无为项目立项的初衷？”

    听到这里，夏礼白插话问道，“初衷是什么？”

    报告上写前期目标是实现智能化城市管理，亦即，由人工智能系统主导整座城市的运作。

    这目标看起来冠冕堂皇，适合拿出去拉投资做展览，实际上可行性极低，经不起推敲。

    “说来话长，”杨凌叹了口气，“二十多年前，我们理论研究的前辈已经注意到单靠一代一代的计
    本章未完，点击下一页继续阅读