自动驾驶：新算法公平分配风险

在允许自动驾驶车辆大规模上路之前，技术实现并不是唯一需要克服的障碍。道德问题在相应算法的开发中起着重要作用：软件必须能够处理不可预见的情况，并在即将发生的事故时做出必要的决定。TUM 的研究人员现在已经开发了第一个道德算法来公平分配风险水平，而不是根据非此即彼的原则进行作。

测试了大约 2,000 个涉及危急情况的场景，分布在欧洲、美国和中国等各种类型的街道和地区。发表在《自然机器智能》杂志上的研究工作是 TUM 汽车技术教席和 TUM 人工智能伦理研究所 （IEAI） 商业道德教席合作的共同成果。

TUM 汽车技术教席的科学家 Maximilian Geisslinger 解释了这种方法：“到目前为止，自动驾驶汽车在遇到道德决定时总是面临非此即彼的选择。但街道交通不一定能分为明确的、非黑即白的情况;更重要的是，还必须考虑介于两者之间的无数灰色阴影。我们的算法权衡各种风险，并从数千种可能的行为中做出合乎道德的选择——而且在几分之一秒内就完成了。

危急情况下的更多选择

2020 年，专家小组代表欧盟委员会确定了软件风险评估所依据的基本道德参数作为书面建议。该建议包括基本原则，例如优先考虑最差的人以及在所有道路使用者之间公平分配风险。为了将这些规则转化为数学计算，研究小组根据它们在街道交通中移动的车辆和人员对它们对他人构成的风险以及各自承担风险的意愿进行分类。

例如，卡车可能会对其他交通参与者造成严重损害，而在许多情况下，卡车本身只会受到轻微损坏。自行车的情况正好相反。在下一步中，算法被告知在各种相应的街道情况下不要超过最大可接受风险。此外，研究小组在计算中添加了变量，这些变量说明了交通参与者的责任，例如遵守交通规则的责任。

以前的方法只用少量可能的机动来处理街道上的危急情况;在不清楚的情况下，车辆只是停了下来。现在集成到研究人员代码中的风险评估带来了更多可能的自由度，同时降低了所有人的风险。一个例子将说明该方法：一辆自动驾驶汽车想要超车一辆自行车，而一辆卡车正在迎面驶来。现在，有关周围环境和各个参与者的所有现有数据都已得到利用。

是否可以在不在迎面而来的车道上行驶，同时与自行车保持安全距离的情况下超车？每辆车都面临什么风险，这些车辆对自动驾驶汽车本身构成什么风险？在不清楚的情况下，配备新软件的自动驾驶汽车总是会等待，直到所有参与者的风险都可以接受。避免了激进的机动，同时自动驾驶汽车不会简单地冻结并突然卡住刹车。Yes 和 No 无关紧要，取而代之的是包含大量选项的评估。

“仅仅考虑传统伦理理论导致了一条死胡同”

“到目前为止，人们经常考虑使用传统的伦理理论来推导出自动驾驶汽车做出的道德上允许的决定。这最终导致了一条死胡同，因为在许多交通情况下，除了违反一项道德原则之外别无选择，“TUM 商业道德主席科学家 Franziska Poszler 说。“相比之下，我们的框架将风险道德置于中心。这使我们能够考虑概率，做出更具差异化的评估。

研究人员强调，即使是基于风险道德的算法——尽管它们可以在每一种可能的交通情况下根据基本道德原则做出决策——但它们仍然无法保证街道交通无事故。将来，还需要考虑进一步的差异化，例如道德决策中的文化差异。

软件现在将在街道交通中进行测试

到目前为止，TUM 开发的算法已在仿真中得到验证。未来，该软件将使用研究车辆 EDGAR 在街道上进行测试。包含研究活动结果的代码以开源软件的形式提供。因此，TUM 正在为开发可行且安全的自动驾驶汽车做出贡献。