位置:科技资讯 > 业界 > 你以为你在用AI 其实AI一直在利用你

你以为你在用AI 其实AI一直在利用你

科技资讯  2018年5月25日 05:17  来源:新浪科技
摘要:2030年新年来临,又胖又穷的你拿出手机,给自己定下新年目标:“我要减肥,还要攒更多的钱1——你把这些目标输入了手机上的谷歌Tasks。

  被机器支配的未来生活

  2030年新年来临,又胖又穷的你拿出手机,给自己定下新年目标:“我要减肥,还要攒更多的钱!”——你把这些目标输入了手机上的谷歌 Tasks。

  你出门打车,去超市买吃的。你叫了一辆Uber,你的Google手机自动推荐了最便宜的Uber Pool拼车。你到了超市,手机自动为你推荐了更健康的本地水果。

  当你在超市购物时,你的Google软件并没有闲着,它不停运转,整理着它拥有的你几乎所有行为数据,但在一阵疯狂搜寻后,它发现你的体重数据缺失了。

  机器很烦躁,它必须解决这个问题。

  于是它开始分析你的各类数据来猜测你的品味、美学倾向,然后据此设计出了一台体重仪。再然后,它连接到家中的3D打印机,把它打了出来。

  你坐着Uber拼车回到家,开门就看到了这个体重仪,这不正是你想要的吗?你开心的站了上去。

  Weight Data 1/1

  夜晚降临,你躺在床上,睡着了,生活从来应该如此方便。不远处,你的电脑发出满足的滴滴声。

  你认为自己是人。Google把你看做账本。一本写满了数据的账本。

  气氛诡异的影片

  上述这些东西并不是我们瞎想出来的,而是来自Google2016年的一个内部视频,名叫谷歌 Ledger(账本)。

  从下面截图的文字里你可以看到,这部视频“仅供内部使用”。

  科技媒体The Verge最近几天曝光了这份“内部影片”,在片中Google提出了名为“自私的账本”的理论。

  原属于Google旗下,现在归母公司Alphabet管理的“X”部门,是这部影片的制作者。部门的设计负责人尼克·福斯特给这部影片做了旁白,缓缓道来的声音配上略显诡异的音乐和画风,让整个影片像是一本爱伦·坡的小说,令观者不安。

  影片提及了拉马克的表观遗传学,并且借用这个概念,将互联网时代人们的用户行为数据的总和称作一本数据的“账本”。

  但其实它更像一个基因组。因为基因决定了我们从外貌到性格的各个方面,你的数据解释和记录了你在互联网上,甚至在现实生活中的所有行为习惯,将其比作基因组并不夸张。

  是不是细思极恐?之后,影片又搬出了几位生物方面的大家,并介绍了进化论和基因学领域一个“自私的基因”概念,此处不再详述,有兴趣的读者可以去看这部视频。

  事实上,影片引出这个概念,意图在于告知用户:当大量的数据汇成一本账本,然而账本和它的保管者并不是为了数据的来源——为了用户好,而是为了自己好。

  接下来,福斯特在影片里提出了“自私的账本”概念。

“过去数十年,以用户为核心的设计原则统治了计算机领域,但是,如果我们换个角度看问题,会怎么样呢?”

  福斯特认为,用户数据也可能像“自私的基因”一样,不受限于个体。

“如果我们引入更多的数据,形成一个更丰富的Ledger。如果我们不把我们自己看作是这些信息的所有者,而是托管方、短暂的携带者或是保管者,会怎样?”

  基于此,福斯特提出了新的产品设计思路:

第一阶段,“可能”是用户驱动,由用户自我设定目标,计算机分析大量数据来给出建议;

第二阶段,则直接由计算机来接管,它们会竭尽全力去弥补任何数据空缺,直到可以保证用户的行为得到更正;

第三阶段,福斯特认为,这些数据构成的账本可以是多代传承的,下一代用户可以从上一代账本数据中受益。新的用户开始产生数据后,可以将新数据与大量的历史账本数据对比,从而尽早对这个新用户的未来作出预测,从而避免疾病、贫穷等。

  视频的配乐和画面让人感觉不到一丝温暖。影片中提出的对人类和行为数据的关系的看法,让人背后发冷。

  更吊诡的是,Google还给每一个阶段起了充满隐喻的名字:

  “第一集:会说话的蟋蟀”。典故来自皮诺曹,一只会说话的蟋蟀不断告诫皮诺曹人生经验,但皮诺曹不听,并且最后一棒子打死了这只蟋蟀。

  “第二集:康耐利-福吉的羽毛笔”。典故来自哈利波特,福吉是里面软弱且易于被操控的魔法部长,他的办公桌上有一只施了魔法的笔,会自动把对话记下来。

  “第三集:我为人人,人人为我。”来自一句拉丁文格言(或许暗指一开始计算机软件服务人类,后来所有人类变成计算机的数据……甚至能量来源?)此外福斯特还以基因测序为对比,认为未来当拥有足够多的人类行为数据后,我们的账本也可以通过改变数据排序的方式来指导人类的行为。

  只字未提用户数据隐私问题

  这部影片中有许多没有讨论的但却十分重要的问题,例如用户隐私、例如谁来控制和调整这些账本。

  根据影片的设想,Google必然需要拥有更多的用户数据,这样它打造的账本才可能成为一个人的行为基因库。而账本作出推荐、改变账本里的数据排序等等功能,最终自然还是通过Google的算法来实现。

  从两年前的视频中就可以明显看出,这些年硅谷的科技巨头已经不满足于利用收集到的数据做些个性推荐、广告优化,他们希望可以做更多的事情,可以更加直接地影响用户的行为,进入日常生活中。而这也让我们更好地理解用户数据隐私的问题为何今天会集中爆发。

  如果说Cambridge Analytica利用Facebook数据所做的行为是操控的话,Google这个影片中对用户的直接或潜在的指引干预,是否也是一种操控呢?

  这个视频在现在的时间点曝光,显然不是什么好时机。Google也在视频曝光后第一时间对此做出解释,澄清这个视频是谷歌 X团队的一次思想实验,没有任何与此有关的实际的产品。

“我们明白,如果这个视频让人不舒服——它就是这么设计的。这是设计团队几年前的一个思想实验,他们配备了一种叫做‘思辨设计’(speculative design)的技巧,来探索令人不舒服的点子和概念,从而激发讨论和辩论。它和任何现有或未来的产品都无关。”

  所以,原来Google都是这样激发员工讨论热情的……

  随着对人工智能的不断发力,越来越多《黑镜》里的剧情可能会成真,不断挑战人类的想象力。但是,人们在享受Google,以及大型科技公司带来的便利同时,是否应该清楚,自己究竟付出了哪些代价?这部影片的曝光则让我们看到:即便对于Google,在这些产品的设计和开发过程中,究竟应该如何看待“人”,也将会是一个棘手的问题。