人工智能体“有意不为”的伦理意蕴

人工智能的发展使得人们期待人工智能体具有明辨道德是非的部分能力, 特别是要求人工智能体能够主动地不做违背道德的行动。基于道德能动性的功能主义, 说明人工道德主体在何种意义上是可能的。与人类有意不做某事类似, 人工智能体在有意抑制或忽略做某事的时候, 也应该出于道德理由考量。由此, 人工智能体在“有意不为”上应当具备两种道德特性, 即对可能伤害的强敏感性和对道德决策的弱自主性。最后, 从控制论的角度设想如何将这两种特性嵌入到人工智能体中去, 并论证对于自主人工智能体的伦理控制来说, “有意忽略”是更为困难的问题。