首页文章阅读微信小程序高质量微信号古诗词大全

微信扫一扫
分享到朋友圈

BDSM机器人是否违反机器人第一法则？

作者：利维坦来源：利维坦公众号

分享到：

11-21

利维坦按：与现有的性爱机器人不同，如果未来的机器人技术可以在BDSM关系中扮演施虐方，由此而产生的安全问题会备受关注。毕竟前者充其量只是机械状态的充气娃娃抑或人形震动棒，而后者却承担起“伤害输出”的职能。

也许在若干年后，关于施虐性爱机器人伤害人类的新闻便会出现在各大科技与媒体版块头条位置，正如近几年关于无人驾驶汽车测试发生意外的新闻一样出现，甚至可能催生出赛博朋克风格的性取向，这些都是可以预见且可能发生的。但在此之前，还是希望诸位能够将更多的机会交诸我们的同类。

（文末有福利）

文/Daniel Kolitz

译/苦山

校对/乔琦

原文/gizmodo.com/would-a-bdsm-sex-robot-violate-asimovs-first-law-of-rob-1829595067

本文基于创作共同协议（BY-NC），由苦山在利维坦发布

今年10月，性爱机器人团体——也就是性爱机器人的制造者和潜在用户——遭受了沉重打击：休斯敦市议会投票通过了一项禁令，禁止全美第一家“性爱机器人妓院”开张营业。这一举措先发制人，但这些议员们心里多半清楚，自己的行为是徒劳的。很快，这件事就会被抛到脑后，沃尔玛超市里会摆上60种不同特色的性爱机器人任君挑选。毫无疑问，这意味着在将来的某天，你几乎一定能买到BDSM机器人。【校者注：BDSM指绑缚与调教（bondage & discipline）、支配与臣服（dominance & submission）、施虐与受虐（sadism & masochism）。】

科幻作家艾萨克·阿西莫夫（1920-1992）。图源：Observer

正如推特上一条热门推文所指出的那样，在你能被一个大型机器于性爱过程中捆缚、鞭打或弄到窒息前，从人类文化的角度，我们需要仔细考虑艾萨克·阿西莫夫（Isaac Asimov）的机器人三定律在其中扮演的角色（当然还要考虑许多其他问题）。三定律中的第一法则明明白白地写着：“机器人不得伤害人类”。如果从原旨主义（译者注：originalism，美国宪法的一种解释学说，亦即按照宪法制定者初衷解释宪法）来阐释这条定律，或许会得出阿西莫夫并不支持BDSM性爱机器人的结论，但在起草这几条定律时，他很可能压根没想到会有这种东西。

阿西莫夫逝世已有1/4个世纪多了，因此我们采访了数位律师、伦理学家、计算机科学家和哲学家，询问他们BDSM机器人是否会违法阿西莫夫的三定律第一法则。现今阶段，机器人还远没有精巧智能到足以满足人类心灵中那点细微的恋物癖好，但随着科技发展，这一问题将愈发复杂——而科技总是在发展。

图源：Conscious Life News

朱莉·卡朋特（Julie Carpenter）
加州理工州立大学（California Polytechnic State University）伦理与新兴科学研究小组研究员，研究领域为人与新兴技术的交互反应

我的工作内容是预测人类将如何与一项给定技术互动，在本例中也就是专为性爱目的设计的机器人。对于被设计成可与人类进行BDSM互动的机器人，我要问的第一个问题是，机器人对于损伤和伤害的定义是什么？以及，它将如何准确识别人类正处于这两种情形下？这两个词都有多重含义，每种含义所指向的生理和心理后果各不相同，彼此的区别十分细微复杂。

机器人需要理解人类的情感，而在性体验中，人类表达情感不仅通过脸上不同部位的血管反应、肢体语言，说话的语调、节奏、音量，副语言使用，还会使用语言之外的许多手段。但哪怕人工智能学会了这一切，仍然不等同于掌握了人类的认知过程，因为人类能够理解如何在不同文化中定位人类情感，或是广泛而各不相同的性倾向这些内容。

健康、快乐、满足和愉快的性经历，基础是信任与有效沟通，当然还包括参与者的一致同意（consent）。在任何情况下，“同意”都是为了确保生理和心理安全。与此同时，人类的性行为中有许多内容取决于当事人的精神生活，不同的行为会让不同的人感到刺激，对于一些人来说，这包括了角色扮演和其他创造性的互动，有时他们会与信赖的伴侣（们）测试身体的生理和心理极限，并在边缘来回试探，或实践一些社会可能会视作禁忌的行为。然而，我们现在正在讨论的情景是发生在一个（假设无知觉的）机器人和一个人类（或多个人类）之间的，所以就像机器人三定律一样，此处的“同意”应以人类方为重点。

此外，在BDSM性爱中，机器人或人类可能需要扮演特定角色，这些角色会要求他们做出可能伤害到自己或对方的行为——重申一次，这些行为的风险和可能后果对人类和机器人来说是不一样的，因此人工智能也需要将这些概念区分开来，明晰机器人自我和人类他者之间的界限。

图源：Forbes

机器人如何与人类建立信任？如果它破坏了这种信任关系，该如何进行改善，使它意识到自己的失败，并朝着重建信任的目标努力？如果它误解了人类的状态（损伤/伤害或安全），该如何纠正错误并改进？机器人如何识别人类的应允、做戏，或扮演行为？这一人工智能在理解损伤和伤害时，是否会偏好以健康强壮者作为标准？它将如何评判个体的脆弱度？比如说，它是会对18-35岁的成年人和老年人使用不同的损伤/伤害评估标准，还是说它能在个体病史的基础上学会预估特定行为的潜在后果？这些概念都与一个中心思想息息相关，那就是人类和机器人之间的准确沟通，而对于现有的人工智能而言，这还是要求太高了。

如果机器人能像人类一样，对伤害和损伤这两个概念理解得灵活而细致入微，将以上列出的这些相关问题都考虑进去，那么我的回答是“不”，从人类的角度来看，在参与方同意的安全情形下，BDSM机器人不会违反机器人三定律。但如果机器人缺乏这种能力，不能深刻理解与其互动的人类，那它就有可能违反第一法则，因为它无法准确评估情况。

图源：LA Weekly

詹苏·詹贾博士（Cansu Canca, Ph.D.）
人工智能伦理实验室（AI Ethics Lab）创始人兼主任

除非我们持以下两种看法，否则BDSM性爱机器人并不违背阿西莫夫的机器人三定律第一法则：第一，我们认为人类间BDSM性爱的参与者会伤害自己或对方；第二，机器人与人之间的BDSM性爱和人与人之间的BDSM性爱有着不同的效果。

BDSM这种性爱形式本身就意味着，其所包含的行为可能导致生理和/或心理限制与不适。然而，将这些等同于普遍意义上的伤害是一种十分片面的理解。看牙医或做耐力运动也经常会带来生理/心理不适，但对人们的整体身心健康有益。在参与方都同意的前提下，BDSM性爱通过生理疼痛达到欢愉、满足和快乐。因此，在缺少反面证据时，我们认为BDSM性爱的参与者并不伤害彼此、自身，或社会中的其他人。

同理，BDSM机器人也不会伤害任何人，但有些方面确实可能因机器人的参与而变得不同。其中之一是机器人BDSM性爱的本质与后果。尽管机器人与单人之间的BDSM性爱多半比人与人之间的BDSM更安全、更自由，但它同时也消解了性行为中的社会性、互动性和人际信任，这可能会在心理层面产生负面后果。另一点是机器人的“同意”。假使机器人与人之间的BDSM性爱无法确保机器人能够给出类似人类“同意”的反应，那么这种互动就可能由BDSM沦为人类对机器人的强奸，这会将我们引向一系列完全不同的伦理问题。最后，我们要记住机器人有收集、储存、共享私密数据的机会，在建立人与机器人亲密互动的体系时，保证隐私是至关重要的。

图源：Pajiba

鲁思·艾利特（Ruth Aylett）
赫瑞瓦特大学（Heriot-Watt University）教授，虚拟现实与人工智能方向

我们应该记得，机器人三定律本身就有些模糊与矛盾之处，而阿西莫夫的不少故事正是围绕它们而展开的。对第一法则中“伤害”一词的哲学讨论绵延了许多个世纪，因此这里这个问题的答案也取决于我们对该词汇的定义。

有人这样定义人工智能：“计算机完成特定任务的能力，这些任务由人类完成时，需要使用智能。”同理可得，伤害的定义应是“机器人做出的特定行为，这些行为由人类做出会被认为具有伤害性”。根据这一定义，如果人与人之间的BDSM不具有伤害性，那么人与机器人之间的也一样。BDSM性爱中，参与者会约定一个安全词，以便伴侣确定自己是出于受虐心态说出“停下”（这种情况下对方可以无视）还是真的要求停止。原则上，这一方式同样适用于人与机器人之间。

然而，这种定义方式忽略了机器人是一部机器而非真人这一事实。普遍而言，在性行为过程中将人视作机器，确实会对社会和个人造成伤害，因为这会导致部分群体（尤其是女性）被非人化，同时强化自我中心的、自私的性满足观点。从这个角度来看，BDSM性爱机器人和其他种类的性爱机器人没有本质区别。归根结底，性爱机器人不过是机械版本的充气娃娃。

最后，假如这项科技成为现实、触手可及，我觉得没有人会真的乐于把脆弱的隐私部位暴露在这种局限性很大的机器前。和电影里的科幻场面相比，现实中的机器人不堪大用，人们不见得想把自己的身体安全置于并不那么精确的语音识别系统控制之下。

图源：Objet connecté

贝萨妮·莫纳汉·威尔逊（Bethany Monaghan Wilson）
伯明翰大学（University of Birmingham）法学研究生，研究论文主题为性爱机器人与法律

你可以说“疼痛”不同于“伤害”，而BDSM追求的是前者。这样的话，BDSM机器人就不违反三定律第一法则，因为该法则强调的是“伤害”。

但现有的性爱机器人技术尚不能实现这点，这类机器人还无法区分疼痛和伤害。最先进的人工智能性爱机器人也只能记住使用者的基本信息。可以说，这些机器人不懂界限在哪里，因此确实会违反阿西莫夫的三定律第一法则。

要等到人工智能技术有了长足的发展后，BDSM机器人才可能适当运作。如今的性爱机器人只能移动关节和头部，和他们相比，人类要强大得多（至少眼下如此），所以性爱机器人没法从生理上损伤人类，哪怕损伤也是出于人类自己的意愿。假如性爱机器人升级到比人类更强大的程度，它们就有可能违反第一法则了——但到了那时候，它们同样也会升级到能够区分疼痛和伤害的地步，这就能防止它们违法第一法则。

但从心理层面而言，BDSM机器人确有可能破坏第一法则，因为使用者或许会变得与“现实世界”隔绝，过于依赖性爱机器人，乃至于阻碍了自身的社会发展。另一方面，BDSM机器人确实能够让使用者享受到无法从其他人类那里得到的愉悦。不过，有些反对性爱机器人的学者，如反对性爱机器人运动组织（Campaign Against Sex Robots）会指出，BDSM机器人从根本上就违反了第一法则。

图源：The Mac Observer

莱恩·卡洛（Ryan Calo）
华盛顿大学（University of Washington）法学院副教授兼华盛顿大学技术政策实验室联合主任

就我所知，阿西莫夫没有受过专业的法律训练。如果他学过法律，或许就会将对机器人三定律的表面违反（prima facie）和最终需要法律补偿的实际违反加以区分。你所描述的例子可能属于前者而非后者。

图源：Imgur

让我们来考虑这样一个问题：拳击手是否在比赛中对他的对手犯下了殴打罪（battery）？法律对殴打的定义是“无正当理由、未经他人同意或故意的伤害性或冒犯性的肢体接触”。拳击赛中，双方选手都不想被打，而且被打当然会很痛。但没有哪个法官会认为他们犯下了殴打罪，因为尽管击打对方选手这一行为从表面上来看是殴打，但被告立刻就会指出，当他的对手踏上拳击台时，就意味着同意被打，对此已有所准备。

类似地，尽管机器人可能会违反“不得损伤人类”这一告诫、让人感到疼痛，但说到底，它是遵从了人类的命令才这样做的，这一行为的最终目的是带来愉悦。【至于机器人参与BDSM性爱是否违反第零法则（即“机器人不得伤害整体人类，或坐视整体人类受到伤害”），我暂且保留意见。】

同时，我们需要注意区分表面违反和实际违反的重要性：若不区分，机器人就无法将伤者拖拽出起火的建筑物，因为移动会使伤者感到疼痛。这肯定不对——至少，我们不能这样向机器人下指令。

汤姆·索雷尔（Tom Sorrell）
华威大学（University of Warwick）政治与哲学教授

发生在成年人间、两厢情愿的施虐-受虐（SM）性爱会涉及肉体伤害，而参与者享受这种伤害。更重要的是，肉体伤害并不只是偶尔发生于施虐-受虐性爱中，更是将这种性爱形式和其他温和的性爱形式区分开的特征。BDSM机器人在喜好施虐-受虐性爱的使用者命令下使其受伤，而该命令者会享受这一过程，这是完全可以想象的。有些哲学家（如霍布斯）认为，在某人同意下对其进行的行为不能被称作伤害。但这一观点会令施虐-受虐性爱的区别性特征变得难以描述。更自然的说法是，施虐-受虐性爱通常包括伤害行为，而被命令参与其中的机器人不可能同时遵守阿西莫夫的机器人三定律。

图源：Objet connecté

帕特里克·林（Patrick Lin）
加州理工州立大学哲学教授兼伦理与新兴科学研究小组主任

技术层面而言，是的，机器人所做的一切伤害人类的事情（或因没做成而导致人类受伤害的事情）都违反了阿西莫夫的机器人三定律第一法则。但这样的话，我们对“伤害”的理解就过于天真、过分简单化了。有时，这个词更重要的含义是净伤害（net-harm）。例如，小孩子在牙医给蛀牙钻洞或服下苦得要命的药剂时可能会很痛苦，但我们明白这是为了她自己好：长期来看，好处远远超过了起初付出的代价。实际上，我们是在使她免受更严重的伤害。

这点很容易理解，但有些看似明白易懂的概念要想简单定义却难于登天。比如说，如何确定伤害值？我们可能需要考虑很多方面的未来参考才能算出净值。这是结果主义（consequentialism）道德理论中的一个著名难题，它将伦理视作数学问题来对待。

BDSM机器人施加的任何伤害多半都是受欢迎的，因为当事人所体会到的愉悦感远甚于它。BDSM机器人看起来是在伤害你，但如果这是你自己要求的，它就没有做错。如果机器人做得太过火，无视你的抗议，也没有说得通的理由，那么它就是在错误地伤害你，因为这侵犯了你的自主权和主观意愿。实际上，它这时犯下了双重错误，因为它同时也违反了三定律的第二法则。

但假设机器人的确是在按你的意愿行事，你所感受到的疼痛只是技术层面的暂时性伤害，而非阿西莫夫定律中人们所普遍理解的伤害。计算机自然无法通过读心来搞懂我们的真实意图——它只能遵从自己的设定程序。但道德规范往往过于捉摸不定，尤其是考虑到每个特定行动或意图都有无数的变量和变体，它便无法当作精确的决策程序使用。正是这一点产生了阿西莫夫故事中的戏剧冲突。

图源：The Mac Observer

诺琳·赫茨菲尔德（Noreen Herzfeld）
圣本尼迪克与圣约翰大学学院（St. John’s University and the College of St. Benedict）科学与宗教学教授

首先，我猜合格的BDSM机器人制作起来十分有难度。目前的性爱机器人都很被动。我得说，现有的男性性爱机器人本质上都不过是根高级震动棒。要造出在性交过程中占据支配地位的BDSM机器人——唔，我觉得还有很长一段路要走。出色的施虐狂拥有丰富的创造力，对于服从方的反应和欲求也较为敏感。

对你提出的问题，我的回答是：既然发生的一切都有参与者的同意作为前提，那么机器人就没有伤害服从方，但这样讲也有点过分简单化了。绝大多数BDSM关系中都有一个安全词（比如“茄子”），服从方可以随时用它结束正在进行的一切（因为“不”或“请停下”常常是角色扮演的一部分）。这很容易编进程序里。但凡事总有意外，服从方可能会无法说出安全词，此时只能相信支配方会理解自己的意愿。但若换成机器人，情况就会变得危险。或许会有人提议此类机器人只能在监控下使用（比如在妓院里），但谁想在进行非寻常性爱的时候被人盯着看啊？

话又说回来了，我可不迷信机器人三定律。它们根本不实用嘛。

——别走，此处有赠书——

《电幻国度》（The Electric State）

瑞典视觉概念设计师西蒙·斯托伦哈格（Simon Stalenhag）所著图像小说。谜底隐藏在对白与插画的所有细节中，小女孩、机器人，末日后的朝圣之旅，关于人工智能与人类命运的预言之书。

本文留言点赞数最高的前10名读者（截至明天中午12点前）

请后台留下自己的联系方式：用户名+地址+手机号

我们将送出《电幻国度》给到10位

没赶上的

只能点下方小程序自己掏腰包了：

往期文章：

“利维坦”（微信号liweitan2014）

微博：利维坦行星