微信扫一扫
分享到朋友圈

“外包”人生

作者:虎嗅网 来源:虎嗅网 公众号
分享到:

04-26


本文来自微信公众号:经济观察报观察家(ID:eeoobserver),作者:朱悦,标题图来自Unsplash


当前,隐私问题在各国均是热门题目。不过,各国话语中,对“隐私保护”的愿景的描绘未必相同。比如,在欧美,隐私常与“个人自主”密切相关,在部分纲领性文件中,欧盟还反复提及诸如“人类中心的立场”等概念。所谓“个人自主”“人类中心”,此类概念的定义究竟是什么?保护隐私又如何促进以上目标的实现?技术进步面前,这些问题的答案关乎个人福祉。在各国隐私法规政策交汇日益频繁的今天,探讨这些问题,自有其现实意义。


对此最为鞭辟入里的回答之一,来自2018年剑桥大学出版社发行的新书《重塑人性》(Re-Engineering Humanity)。在这本荣获2018年《卫报》“最佳图书”的作品中,法学家Frischmann和哲学家Sellinger联袂,探讨了以下两个问题:首先,在一个已然如此复杂、分工如此精密,以致我们需要“外包”诸多日常事务的世界中,我们如何保证承接“外包”者不会反过来伤害我们的利益?其次,如果我们将太多事务假手他人,我们会不会因此越过了一个特别危险的界限?


Brett Frischmann/Evan Selinger/著

Cambridge University Press/出版

2018年4月


以上两点例子并非理论家的空想。以第一个问题为例,原书援引了这样一则报道:伴随导航技术的日益进步及设备的快速推广,无论是初至陌生地域,还是驾行相对熟悉的路途,大家都习惯开着导航、顺着推荐的线路开行。然而,“设计最短路线”“避开交通拥堵”之外,部分提供导航服务的企业,在安排线路时还掺入了其他考量,比如他们会让用户绕行一些企业暂时缺乏数据的路线,以协助收集信息。如此安排,对用户是否公平呢?


第二个问题则更加微妙。比如,根据原书的叙述,许多人开始依赖记录生理周期的软件来管理情绪,当亲近之人的情绪因周期来临而“波澜起伏”时,他们可以据此反应,安慰她或者干脆少和她说话,技术因而愈发深刻地塑造情感的表达。另一个例子是“站在代码之中呼唤爱”,有人利用自行编写的聊天脚本,在速配平台搭讪、聊天、索要进一步联系方式,当允诺约见一方,发现之前相谈甚欢的不过一段代码时,又该如何反应呢?


两个抽象的问题对应的并非两座“空中楼阁”,而是生活中确实可能遇见的困扰。《重塑人生》作者写作的主旨,即是在类似实例与深入思辨间“往返顾盼”,希求最终为“人类自主”等概念给出一个清晰的解答。本文接下来将述评原书中最为精彩的部分:探讨“外包”的可能影响;深究“外包”的界限;探究“人类自主”的内涵。


反思“技术中立”


从稍微严肃的作品到略显轻松的讨论,以下“原则”近年来愈发常见:技术是中立的。类似的说法还包括“刀不杀人,人杀人”,更进一步的说法,还包括“技术无罪,有罪的是人心”……尽管这一“原则”常用于为新技术辩护,“原则”本身的可靠性却还要打一个大大的问号。即使我们可以假设我们很清楚地了解什么属于“技术”,“中立”的含义也需要仔细检视。


《重塑人性》提供的以下视角,对“捋顺”以上命题当有帮助。首先,少有人质疑以下命题:人类思考,思考亦是“人之所以为人”的重要标志之一。其次,许多情境中,毋须外物,人也可以思考。然而,受制于问题的复杂程度、人的认知能力、外界的期待及压力等因素,人常常需要借助工具来思考。比如,慢悠悠地算简单的式子,结果自然可以在脑海里倒腾出来,面临速度及准确性要求的场合,心算难以胜任,便需要借助工具。


技术常充任“思考之桥梁”。比如,同样是近来相当常见的说法,互联网时代“储存”知识的能力重要性愈发下降,搜寻、整合知识的重要性相应上升。这一说法隐含了以下相应前提,尽管人力的记忆有限,但互联网技术可以补足这一方面,个体无需再花那么多时间做抄记工作,可以将更多时间投入创新。此时,技术扩展了我们的认知,之前提到的导航发挥了类似的功效,花费在记路及寻路之上的精力,现在完全可以投诸其他更重要的任务。


这便是本文开头提到的“外包”。确实,如果单纯只是充任一项扩展的工具,称其为“中立”,认可其“无罪”,看起来并无不妥。然而,这一看似“顺滑”的推理过程,其中蕴含了诸多陷阱。《重塑人生》前半部分对这一看法提出了诸多批评,这些批评大致可以整理为以下几个方面:首先,“承包”这部分认知过程的人,行事方式未必合乎我们的利益其次,“外包”哪些、“外包”多少,可能并不由我们说了算;最后,“外包”繁重任务的过程,亦是能力退化的过程。


强求技术所有者的目的与用户的利益完全一致,可能已超出合理的限度。不过,要求前者在决策时将后者利益纳入考量,这是应有之义。然而,许多手握技术者有意无意忽略这一点。为写作本书,作者曾与许多书写隐私协议或设计隐私界面的专业人士交流,询问他们书写或设计时的指导原则。结果,“让用户知情”或“保护用户权益”的排序是靠前,而实际操作时最为靠前的,多数情况下都是提高用户在网站中的留存率、延长他们的浏览时间。


第一点与第二点彼此交织,放大了可能带来的隐忧。或许人总比自己想象的更易偷懒、更常轻信。如近年来火热的“助推”思想所主张,通过简单地更易设计或叙述等方面的细节,政府或企业很容易将大众“牵着走”。比如,在界面加把锁,大家会因此相信这个界面很安全,或将默认选项调成“分享数据”,保护隐私的比例会因此下降很多。此时,对技术所有者而言,牵动用户向不合用户自身利益的方向走,并不那么费力。


以上“歧路”可能出于所有者的有意引导,也可能是出于所有者的疏失。仍以前面提到的锁为例,阐释这一点最佳的例子,来自Hartzog的《隐私蓝图》,“阅后即焚”的社交软件在页面加锁,给用户留下“这软件很安全”的印象,实际并非如此,容易获取的第三方软件可以轻易抓取保存其中内容。


当我们将思考“外包”给别人时,我们也部分放弃了锻炼这项能力的机会。比如,曾经的农村社会,钓鱼可能是人人皆会的手艺,捕鱼技艺发展、渔业分工细化以后,个体没有必要自己钓鱼补充伙食,钓鱼也因此成了一项越来越稀少的技艺,甚至有变成小众娱乐的趋势。类似的、更加贴近思考的例子是口算以及珠算等辅助的技巧,便携计算器推广之后,保留这些能力已无必要。这些与思考隐约相关的部分,或以爱好、传统之名得以保留,或就消失。


这衍生出以下两个问题:第一依赖工具愈多,则个体在失去工具时显得愈脆弱。对此类问题,通常有两类解答:一是开发更加稳健可靠的技术,二是要求个体保留相关的能力。尽管《重塑人生》的两位作者偏向第二种解答,但提供的根据似乎不够多。不过,更为有趣的则是第二个问题,我们会不会因“外包”而失去一些至关重要的能力?思考,或者说思考中蕴含的某些关键,是人区分于其他存在的重要特征。我们或许无法容忍将其彻底外包的代价。


人之何以为人


作为人,我们无法容忍失去部分至关重要的能力,那么,这些能力究竟是什么?有没有比较一般的方法来界定,我们是不是已经越过了那条至关重要的界限呢?这是本书后半部分的主要内容,亦是其中法学、哲学与技术碰撞最为激烈的部分。这一部分的结论可能看似颇为新奇,亦注定将充满争议,然而不解答这些问题,我们可能很难为开头的疑惑:“个人自主”“人类中心”究竟是什么?给出一个令人满意的回答。


仍从前面已提到的、记录生理周期的软件说起,这也是两位作者颇为重视、反复提到的例子。此类软件初始的用途并非用来管理“情感”,用其中记录管控沟通频率及方式或许只是少数人信手为之。然而,无论是学者还是从业者,都在努力丰富此类技术的类型、扩大其适用范围。比如,在《美国国家科学院院刊》(常简称PNAS)2018年刊出的一篇研究中,来自心理学及计算机等多个学科的学者,以社交媒体内容准确预测了个体的焦虑状况。


《重塑人性》启发我们进一步想象以下思想实验,用想象进行。不妨假定,技术已发达到通过检测特定的生理指标的程度,一只可随身携带的手环,即足以较高准确率测定佩戴者当时的情绪状况。如此,对一家人而言,只需安装一个共享以上所有数据的应用,即可了解所有家庭成员近来的情绪状况。根据这些数据,家人之间的互动及沟通将变得更有针对性,或更“有效率”。这虽然是一项思想实验,但现有技术距离做到这一步并不遥远。


我们该如何看待这项技术呢?初看之下,这不是什么坏事。起码,对饱受沟通欠缺之苦的父母子女夫妻,能了解到对方的情绪大致如何,不失为一个打开话题的契机。或许,还有部分人会庆幸,终于不用再费尽心思,猜测对方如“海底针”般的心理想法了,对方高兴就上去多聊几句,对方生气自己正好避开,对方有点“丧”正是送上体贴的好时机。如果将人际中的摩擦看作效率的损耗,如此发明无疑是相当“划算”的。


然而,细想之下,如此软件的存在,似乎显得有些“怪怪的”。如果这些“摩擦”“磨合”的过程逐渐“干涸”,亲密的人之间的交往逐渐指向“最大化”特定的情绪指标,这还是我们期待中的情感交往吗?人之所以为人,情之所以至深,至少部分依赖于猜测、试探、改变这一过程,以及其中伴随的更为微妙的心绪游曳,许多时候我们并不期待结果本身,而是期待对方开启这一过程。以技术来“偷懒”,则打一开始就失却了“情”的意义。


当然,更加值得警惕的,是“外包情感”之时,我们是否也因此失却了体验及表达情感的能力?同理,当导航“外包”时,熟识路途的能力将类似神迹;当知识颇便利于查阅检索时,积累及调动“常识”或许也变得十分奢侈。伴随技术的进步,我们在突破许多可能的同时,亦因此失落了许多能耐。其中一些和钓鱼一样,失去这些并不会导致我们因此忧虑“人”的边界。然而,如果失去的是共情呢?如果失去的是常识呢?


自汤普森所称的“时间”诞生而起,由泰勒制等旨在规训的技术而加速,再到以上“失能”趋势越发明显的今天,确定一条不可容忍逾越、或逾越需要十分谨慎的边界,因此变得十分重要。当越过这条线之后,人与器具的界限不再分明,开篇所称的“自主”也已受到了显著的侵害。越过这条线,不仅意味着我们无比依赖于一些自己无法掌控的力量,也意味着我们部分失去了那些作为“人”而言至关重要的属性。


或许,我们需要一种改进版的图灵测试。图灵测试是人工智能的标杆,如果机器可以在远程交流中“瞒天过海”,使对面的聊天者无法区别机器与人,这便意味着机器达到了图灵的“智能”标准。当然,以“交流”作为是否智能的标杆,本身就在强调“人”的独特性中的某个侧面。比如,原版的图灵测试并不强调机器与人外表上相似,也没有选择下棋、打砖块等作为智能的标准。变动标准,可以构造不同版本的测试。


这一测试自然可以反过来用。“人”的行为会不会因技术而日趋简单,以至无法与机器相区分?如果在某些情境中,以上问题的答案是肯定的。那么,这就越过了两位作者主张的“红线”。当然,这一测试的有效性同样随测试的内容而变。如果以生成随机数、口算大数字等作如此“反图灵测试”的准绳,那人很可能永远也比不上机器。如果人事先知晓以上测试,这一预期及接踵预期而来的策略行为可能扭曲结果。因此,测试的具体细节很重要。


是滑坡,但不是谬误


《重塑人生》的后半部分是针对各候选指标的“无穷无尽”的思辨讨论,情感、理性、创造力、意志力、理解语言、使用语言,规划未来,等等。两位作者的落脚点主要放在“理性”与“常识”之上。对前者,人类似乎总有“行为不理性”的趋势,人仅在极贫乏时理性,却常在丰裕时“沉溺于无用之物”;对后者,作者强调人能够“娴熟地运用常识”。尽管始终没有下定论,但“理性”方面的不确定性及对“常识”的信手拈来,似乎是原书相信的、能够为“人”立下界碑的位置。


两位作者所取的思路注定充满争议。当分析链条过于冗长、从现实一步步上升至哲学思辨时,所谓的“滑坡谬误”很难避免,仅仅是其中少数几个链条的不甚可信,便足以将整个推理的强度削至谷底。实际上,这也是许多反思互联网、技术、隐私等领域的书籍面临的共同批评,许多批判或者需要类似“极端情况”的假设,或者需要诸多前提的共同作用。如此思考手法,可能忽略了个体实际具备的“弹性”与“韧性”,有“杞人忧天”之感。


两位作者对此相应的回答颇为有趣:确实,“滑坡谬误”颇为频繁。然而,如果作者能够指明,“人从坡上滑下”的具体路径,并且说明为何踏上这些路径确有可能,那即使链条漫长、远景宏大,相应的推论仍有迹可循、并非谬误。纵观全书,他们的心愿,确实也大体上实现了,技术的趋势确实蕴含着危险,我们用以扩展认知的工具,可能因循多种路径,反导向我们不乐意看到的结果。为避免这些结果,我们需要一条边界。借助已有众多先行探究的图灵测试,他们为这条边界,描绘了一幅可能稍显模糊、但依稀可认的剪影。


结语与简评


反思互联网变革的书籍很多,但既熟稔企业状况,又了解稍微抽象的法律,还通高度抽象的哲学的作者组合并不多。如此“跨界”,赋予了《重塑人生》别致而难以替代的魅力。即使最后得出的更多是哲学层面的结论,本书也不无实际意义。一方面,两位作者的理论,确实是解读“个体自主”“人类中心”等大词时一条可行的进路;另一方面,如果我们承认,技术正以超越大多数人想象的速度及限度塑造人,部分植根于“意思自治”的合同法,或许需因此修订。为争议所萦绕的隐私协议,即是一个典例。


尽管如此,原书仍有许多可讨论之处。


首先,就论说本身而言,对“理性”及“常识”的解读,都有意犹未尽之感。如何定义“不理性”?这确实是长期以来众说纷纭的问题,要求答案尽善尽美,未免有些强人所难。然而,如果缺乏明确标准,这一点恐怕很难胜任所谓标准的作用。此外,原文还列举了许多可能性,比如情感、创造力等。以这些为界限,是否可以让作者主张的测试更加清晰?抑或,这些指标中存在难以克服的缺点,导致其不是最优的选择?如此权衡似可进一步精炼。


其次,技术如何改变人,既是一个思辨层面的问题,也是一个实证层面的问题。两位作者举出青少年过度分享隐私方面的文献,以此强调人的被动一面,以及采取行动的紧迫性。然而,这一点可能低估了新世代。来自加州伯克利大学的Hoofnagle等学者,以及来自牛津大学的Blank等学者,都曾分别做过类似题目上的实证。青少年并没有因为浸泡在社交媒体中而对隐私“漠不关心”,他们反而更加频繁、灵活地运用软件的隐私设置,且清晰地知晓隐私管理的意义。面对新的文化及偏好,许多结论似乎下得略有些早。


当然,以上讨论,都不会减损一本思辨如此深厚的著作的价值。实际上,在技术及商业协同迅速演进、相关研究如泉喷涌的当下,任何在这一领域写作的学人,都难以摒尽以上诘问。社会的风潮可能转向,实证的结果可能修订,理论思辨的结晶,却极少会因风尚的流转而失却其光芒。技术仍将是“双刃剑”,对“人如何自处”的疑惑及迷茫仍将存在。


*文章为作者独立观点,不代表虎嗅网立场


End


虎Cares Your Job


夏天都来了,你还没一件像样的百搭纯白T恤?

基于特殊纳米科技的全棉面料,舒适透气

更重要的是:版型喜人,远离激凸

点击小程序即刻穿上身

阅读8509
举报0
关注虎嗅网微信号:huxiu_com

用微信扫描二维码即可关注
声明

1、头条易读遵循行业规范,任何转载的稿件都会明确标注作者和来源;
2、本文内容来自“虎嗅网”微信公众号,文章版权归虎嗅网公众号所有。

评论
更多

文章来自于公众号:

虎嗅网

微信号:huxiu_com

www.weixinyidu.com免责声明    商务合作1758059460
版权声明:本站收录微信公众号和微信文章内容全部来自于网络,仅供个人学习、研究或者欣赏使用。版权归原作者所有。禁止一切商业用途。其中内容并不代表本站赞同其观点和对其真实性负责,也不构成任何其他建议。如果您发现头条易读网站上有侵犯您的知识产权的内容,请与我们联系,我们会及时修改或删除。
本站声明:本站与腾讯微信、微信公众平台无任何关联,非腾讯微信官方网站。
粤ICP备16075700号-1