监视资本主义:智能陷阱

HD中字

主演:杰伦·拉尼尔,罗杰·麦克纳米,斯凯勒·吉桑多,卡拉·海沃德,文森特·卡塞瑟,马蒂·林赛,Ena Henderson,Chase Penny

类型:电影地区:美国语言:英语年份:2020

 量子

缺集或无法播,更换其他线路.

 红牛

缺集或无法播,更换其他线路.

 非凡

缺集或无法播,更换其他线路.

 剧照

监视资本主义:智能陷阱 剧照 NO.1监视资本主义:智能陷阱 剧照 NO.2监视资本主义:智能陷阱 剧照 NO.3监视资本主义:智能陷阱 剧照 NO.4监视资本主义:智能陷阱 剧照 NO.5监视资本主义:智能陷阱 剧照 NO.6监视资本主义:智能陷阱 剧照 NO.13监视资本主义:智能陷阱 剧照 NO.14监视资本主义:智能陷阱 剧照 NO.15监视资本主义:智能陷阱 剧照 NO.16监视资本主义:智能陷阱 剧照 NO.17监视资本主义:智能陷阱 剧照 NO.18监视资本主义:智能陷阱 剧照 NO.19监视资本主义:智能陷阱 剧照 NO.20

 长篇影评

 1 ) “算法是内嵌在代码中的观点...”

1.参与度目标:

“理解这部纪录片需要一定“智力门槛”,我认为看完它是对我有益的,我可以从中获得精神上愉悦感和快感。于是在这100分钟里我不刷手机专心致志将尽可能多的注意力集中在它身上。”

2.增长目标:

“我认为这部纪录片是好的,有益的,通过思考领悟它我可以学到新的知识增加未有过的见识扩宽观察社会观察社交网络的角度。于是我将它分享,我邀请好友观看,我期待好友从中获取新知识,或者单纯地,我希望通过分享它彰显自己的观影品味与思维深度,博得朋友们的好印象。”

3.广告目标:

“编剧好牛,导演好牛,奈飞好牛!”

 2 ) 你被抖音、微博等社交媒体卖掉的30个真相

无法放下手机是意志力薄弱吗?谷歌、脸书和自行车一样只是我们使用的工具吗?算法和技术是中立的吗?假新闻为什么无往而不胜?这个假期看完的第一个片子是奈飞新出的纪录片《监视资本主义:智能陷阱》,触目惊心,假期的末尾希望有空的话你也可以看看。

影片其中一条叙事线由谷歌、脸书的前员工、ins早期员工、推特高级副总工程师等一票国际互联网大厂的从业者面对镜头讲述,这里面不乏社交媒体上点赞功能的设计者,甚至还有帮助脸书建立商业模式的负责人,他们出于对行业道德伦理的担心纷纷离开,现在他们重新站出来讲出他们看到的真相并发出警告。下面我将摘选30条我觉得重要的观点,方便你快速了解。

1.进入凡人生活的一切强大之物,无不具有弊端——索福克勒斯

2.主角之一的特里斯坦·哈里斯是前谷歌员工,曾在谷歌邮箱团队工作,他觉得很疲惫,因为他们一直在讨论邮箱应该长什么样,用什么颜色,他坦承自己对邮件上瘾,但更有趣的是团队里每一个人都想让用户上瘾。但是大家有反思过这个现象吗?他认为谷歌有解决这个问题的道德责任。但讨论在谷歌内部却不了了之。

3.脸书商业化负责人说,他负责帮助脸书想出如何盈利,而彼时他认为广告模式可能是最优雅的模式。以前我们为硬件和软件付费,但现在这些互联网产品都是免费的,但其实并不真是免费,背后是广告商在付费,广告商是这些互联网产品的客户,而使用者其实是被销售的商品。经典的说法是,如果你没有花钱买产品,那你就是被卖的产品。

4.谷歌并不只是一个搜索工具,脸书并不只是一个你和朋友联系的社交工具,其实种种互联网产品,他们都是在抢夺我们的注意力。仔细想一下这些互联网公司是怎样运作的。用户免费,广告商付费,广告商为什么付费?他要花钱交换你看广告,我们的关注就是卖给广告商的产品。这样说可能过于简单了,产品其实是我们的行为和认知的逐渐的一点点未察觉的改变。这才是他们拿来赚钱的唯一的东西:改变你做的事,你的思维方式,改变你这个人。

5.每种商业都有个梦想:投放一个广告,有成功的保障,这就是广告平台的生意,出售确定性。为了这个商业成功,必须有预判的能力,而优秀的预判能力始于一个必要的条件那就是数据。

6.我们使用互联网社交产品的一切行为数据都被监控和记录,具体到你在某张图片停留多久,我们的孤独、抑郁时刻,我们爱看前任的信息,我们深夜做什么,这些系统统统知道。这些我们不经意流露出的数据,都被喂养给系统,而这几乎不需要人看管,系统会不断做出越来越好的预判,判断出我们是什么样的人,我们要做什么。

7.很多人有一个误解,认为被卖掉的是我们的数据,脸书的兴趣肯定不是卖掉数据,而是用数据建立一个可以预测我们行为的模型,拥有最优秀模型的公司就是最后的赢家。我们用互联网技术创造了全球一整代人,他们成长的背景中,彼此之间的交流,文化中都渗透着操纵的鬼影。

8.任何足够先进的技术都极其类似于魔术。

9.魔术师几乎是最早的神经学家和心理学家,他们是最先明白人们思想工作原理的人。魔术师懂得你思想中你自己都没有意识到的某一部分,这是让幻觉起作用的关键。

10. 特里斯坦·哈里斯在斯坦福大学的劝服技术实验室研究如何用心理学知识劝服人们,以及如何把这个运用到互联网技术中。很多硅谷的互联网公司的人都学过这样的知识。他们想修改一个人的行为,让人们按照他们的意愿去做,譬如不停的用手指滑动屏幕浏览信息。往下拉,最上面是新的内容,再往下拉,上面又是新的每次都一样,这在心理学上被称作积极正强化。你不知道什么时候能刷到,或者你能刷到什么。这其实和赌场里老虎机的原理一样。

11.无数工程师他们的工作就像黑客一样黑进人们的心里,然后获得更多产品数据的增长,更多的用户增长,更多的活跃。他们会做大量的AB测试,然后根据结果不断优化就可以让用户做他们想让用户做的事,这就是操纵。很多时候他们诉诸的是人的潜意识,你被影响时甚至根本没有意识到,因为这是在利用人心理中最脆弱的部分挣钱。

12.自行车问世的时候,没有人不满,没有人会说它毁灭了我们的社会,因为自行车拉远了父母和孩子之间的距离,毁灭了我们的民主,让我们无法分别消息的真假。如果一个东西是工具,它就会忠诚的坐在那里,耐心等待。如果一个东西它对你有所求,它想引诱你,操纵你,从你身上获利,它就不是工具那么简单了。

13.我们已经走过了以工具为基础的技术环境,来到了以致瘾和操纵为基础的技术环境。社交媒体不是在原地等待被使用的工具,它有自己的目标,有自己的方法去实现这些目标。利用你的心理来对付你,

14.社交媒体就是一种毒品,我们有着基本的生物学的欲望比如和别人保持联系,这直接影响着奖赏通路中多巴胺的释放,这背后是几百万年的进化,我们群居找到伴侣繁殖。毫无疑问,社交媒体会优化这种联系,自然会有致瘾的可能性。

15.这些技术产品不是由努力保护儿童的心理专家设计的,他们的设计是让算法非常善于给你推荐下一个视频,非常善于让你拍照加滤镜。这些东西不仅在控制我们注意力放在哪里,而且越来越深入到大脑的根部,夺走孩子的注意力和自我价值。我们进化出了在意社群中的其他人评价的机制,这很重要。但是,我们进化需要在意一万个人怎么看我们吗?我们的进化不需要每隔5分钟获得一次社交认可。

16.我们在训练、调节整个一代人,我们不自在、不确定、孤独、害怕时,有一个自己的数码安慰,这让我们处理自己情绪的能力退化了。

17.有一种说法是,我们应该去适应它。我们要学着与这些设备共存,就像我们学着与其它事物共存一样。但这个说法忽略的是,有些东西明显是全新的。这其中最危险的是,这是由技术驱动的成指数级向前发展的。计算机处理能力,从上世纪60年代至今,增长了亿万倍,我们身边没有任何东西以这个速率增长。而我们人类生理上,大脑根本没有丝毫进化。我们的大脑已经存在几百万年,然后出现了这样一块屏幕,屏幕的另一端是数千工程师和超级计算机,有着与你不同的目标,那么这个游戏谁会赢呢?

18.算法是内嵌在代码中的观点,算法并不是客观中立的,算法被某种成功的定义优化。你给AI一个目标,我想要这样一个结果,AI自己去学习怎样实现,这是机器学习概念的由来。没人真正明白,为了实现这个目标,他们在做什么。

19.算法有自己的思想,虽然它们是由人写的。它被写出来的目的,是建立一个机器,这个机器会自己改变。作为人类,我们几乎已经失去对这些系统的控制,因为使它们在控制我们看到的信息。

20.想象一下,你用脸书,你的对手是人工智能,它知道你的一切,能预测你未来的举动,而你对它一无所知,这根本不是公平的竞争。

21.我们都在担心这个时刻,技术什么时候超越人类的智慧和力量。但有更早的时刻,技术超越人类的弱点时,这个超越点就是上瘾。两极分化、激进化、激化愤怒,激化虚荣,它在压制人类的天性,挫伤人性。

22.脸书的推送方式非常错误。如果我们打开一个维基百科页面,你看到的和别人的是一样的。这是网络上少有的我们统一共享的东西。想象一下,如果维基百科说,我们要给每个人一个个性化的定义,有人给我们钱让我们这么做,维基百科会监视你,会计算要怎么做才能代表一些商业利益,让这个人产生一点改变,对吧?然后就会改变整个词条。你能想象吗?脸书就是这样,你的youtube推送就是这样。

23.看了这个片子我才知道,原来在不同地方用谷歌搜索我们得到的是不同的结果。譬如我们在搜索框输入“气候变化是”在某些城市你会看到自动填充的提示语是“气候变化是一场骗局”在其它地方你将会看到“气候变化是对自然的破坏”。这个功能提供的不都是气候变化的真相,而取决于你在哪里搜索,以及谷歌对你个人兴趣的了解(譬如如果你是个阴谋论者,它就会给你推送气候变化是一场骗局的内容)。

即使是两个很相似的朋友,看到的也是完全不同的内容,因为算法会按照怎样对一个人来说最完美来呈现内容。逐渐你会有一个错觉,所有人都赞同你,因为给你推送的新闻中,每个人都和你极其相似,一但达到这种状态,你就容易被操控了,和被魔术师操纵是同样的方式。

24.油管前算法推荐工程师坦承,他研究的一个算法增加了社会的两极分化。但从在线时间上看,这种两级分化的做法却极其有效的让人们一直在线观看。

25.著名篮球运动员凯里·欧文说他相信地球是平的,后来公开道歉时说,这是油管算法的锅。地球是平的这一言论被算法推荐了几亿次,我们很容易判断出大概只有几个笨蛋真的相信。但可怕的是,算法每天都在变得更聪明,今天它能说服少部分人相信地球是平的,明天它就能说服你相信一个完全虚假的事情。

26.推特上传播假新闻的速度比真新闻快6倍。当一个人比另一个人有6倍的优势,这个世界会如何?你可以想象,有些事情让人类的基本面倾斜了。让一些行为更难,一些行为更容易。虽然你总是可以自由的走上山坡,但这样的人越来越少。所以在更大的范围内,整个社会的基础倾斜了,改变了数十亿人的想法和行为。

我们创造了一个偏爱假信息的系统,并不是因为我们想这么做,而是假消息能让这些公司更容易赚到钱,你知道的,真实信息比较无聊。这是一个利用虚假信息牟利的商业模式,允许未受监管的信息推送给更多的人,卖出更好的价钱,以此来赚钱。

27.脸书每天推送万亿个新闻资讯,他们无法知道哪些信息是真的哪些是假的。从未有工具像脸书一样能够如此低成本又高效的影响如此广泛的人群。算法和政治家在学习如何激发我们的方面变得越来越专业,非常擅长制造我们容易接受的假新闻让我们信以为真。我们似乎对自己是怎样的人,自己的信仰越来越缺少控制权。如果每个人都有权执着于自己的真相,就没有必要妥协团结了。我们需要对现实有一些共同的理解,否则我们就不是一个国家了。

28.谷歌不知道真相,它只知道点击。如果我们不认同真相,我们就无法找到任何一个问题的解决办法。硅谷的很多人相信一种理论,我们正在建造一些全球的超级大脑,我们所有的用户都只是可交互的神经元,我们一点都不重要。它让人们服从于这样一个奇怪的角色,你就像一个小的编程元素,我们通过我们的行为操纵去编程,为了服务于这个巨型大脑,不会给你钱,不会让你看到真相,你没有自主权,因为你只是编程的一个节点,你根本不重要。

29.技术并不是人类存亡的威胁,只是技术能够把人类社会中最坏的东西带出来,社会中最坏的东西才是人类存亡的威胁。如果你不知道身处矩阵之中,你如何从矩阵中醒来。

30.在整个人类历史中,每一次有事物变得更好,都是因为有人站出来说,这太蠢了,我们可以做得更好。是批判者推动改进,批判者才是真正的乐观主义者。

影片的最后,画外音问特里斯坦·哈里斯,你觉得我们能改变这一切让他们变得更好吗?特里斯坦·哈里斯说,我们必须要实现。

 3 ) 又开始疯狂讲话

短评里对这个片子的微词多着眼在影片内外的割裂对立。 但我倒是在观影过程中忍不住跑神头脑风暴了n次,这么看,影片对我就不仅仅是老生常谈了。 虽然没法按顺序按逻辑梳理我的wandering mind,就想到哪说到哪吧。 第一个反思是:(只)运用抽象语言

我感到自己表达能力不足并意识到表达力的重要性,不仅源自现实学习工作的需要,和社交网络中意见领袖的影响力飙升也脱不了干系。我不只一次对着舌灿莲花的博主感叹:“怎么这么会讲!”“太会讲了吧!”于是暗自发力练习讲话。

但最近,一个问题引起了我的注意。我发现我把精力都集中在抽象语言的运用,但忽略了具体叙事和细节描绘。事实上,我爱的那些博主,ta们说话的魅力也常常表现在针对具体事件形成观点输出和论证,偶尔援引其他具体事件也是出于论据需要。

在传播场上,我们很容易发现,观点跑得比故事快,有些观点甚至会浓缩成迷因长久地流动在社交空间里。而那些能混得开的故事往往是以观点容器和引爆器的身份占据了大众视野。这个世界,观点已具有比事实更重要的力量,而抽象语言则作为观点的基础占据了我话语实践的绝大部分。而影片也是以这种方式展开。

话语空间铺天盖地的抽象语言是不是削弱了波兹曼在《娱乐至死》里对批判性思维丧失的担忧呢?当然没有,事实上,它和李普曼在《舆论》里提到的“象征符号”遥相呼应,以抽象泯灭了那些具体生动复杂的情境、细节和差异,以口号式的单板逻辑满足了个体对“独立思考”的情感需要。

因此,这也向我发起了警告,尝试去说一些具体的故事,以民族志而非大数据的方式去看一看这个世界,甚或在一些时候抛弃掉旁观者的角色,只进入其中说话。(当然,这条除外🤥)

第二个反思是:我在意点赞吗?

即使我对点赞也很敏感,享受着每一个认可带来的即时满足,但我似乎不完全被点赞影响着心情。事实上,由于更多人活跃在朋友圈,偶尔发一条动态时,甚至会因为要点掉消息提醒而感到疲乏。对于公共空间的讨论也如是,在一些过度投入的评论回复的来来回回里,我会迅速感到疲乏。而其他一些骗取我注意的策略:通知栏、奖励性广告都对我无效。我玩不来抖音,也不喜拼多多(恨死它总因误点而自动下载)。而在我沦陷的那些平台里,我也时常产生厌倦到不想继续浏览的思绪。

但是,我不耍手机,还能做什么呢?不论我关不关注点赞,长期活跃在虚拟空间里确实挤兑了我对其他活动的意愿和想象。现实连接的淡漠致使我仍然会不停刷刷刷,刷到眼睛不得不合上。手机不再令我快乐,却也剥夺了我从其他活动获取快乐的能力。

所以,如何去拓展现生,并激发出长久为体验过的愉悦(不依托在社交平台上的炫耀),是亟待实现的下一阶段。

第三个反思是:两极化

前两天刚因为路温1900的视频跑去知乎和别人battle“女拳”在现阶段是否应该取缔。我倒不是想借这个例子说明两极化确实存在且日渐严重,而是好奇,沟通的可能性。事实上,任何一个观点呈现在面前,都是在trigger你脑海里的过往经验和认知,但在虚拟讨论空间中,我们对另一个人的脑内图景一无所知。是否存在一些最基本的共性,可以为双方能彼此听懂的讨论提供策略?

这个问题也让我想到了robber's cave那个实验,被随意标签的两组儿童在交往过程中自发产生了对本组的高认同感和对另一组的憎恶,而促进两组儿童collaborate的唯一办法是树立起第三方敌人。啊哈,牛嗷。我们在多大程度上是自主选择了某一共同体,又在多大程度受到共同体支配行为与思想?我们应该如何培育自主性,如何抵御这种支配?还是说我们的确可以利用共同体实现一些抱负?

这可太复杂辽,在这里仍只触及了边边。脑容量不够,还没法顺畅地阐释这个问题,再讲下去又要头痛咯~

就这样吧。

结束

 4 ) 社交媒体就是毒品。

与其说这是一篇《监视资本主义:智能陷阱》的影评,不如说是这几年,我关于社会观察的一次阶段性课题总结。 在进入正题之前,我必须要说,无论这部纪录片,或是我这篇影评,都是都只是这个社会病症的一部分。 所以,今天聚焦这一部分是——关于互联网科技和资本主义结合后,所创造出来的这个所谓【社交网络】,对人类个体以及整个社会所带来的负面影响。 一、 对于互联网,我在自己对社会观察的记录里(这本书之前取名叫《这个世界的bug》,老粉丝应该记得)最简短的概况就是: 科技在极速发展,社会制度在缓慢发展,局势在左右摇摆螺旋上升,没有发展,而人性不仅没有发展,反而在堕落。 要认同这一现状,我们必须学会且承认涂尔干的理论,就是社会变迁会影响个人的行为。 而随着人们行为路径的改变,又会反过来影响社会趋势。在这个理论中,我最爱用的例子就是,连环杀人犯。 在工业社会中早期,受压抑的连环杀人犯,都采取蛰伏的策略,以几年甚至几十年的时间来间续作案,通常都是忍不住了,就好像瘾来了,必须要杀一个人。作案一次后得到满足和舒缓,随后可以长时间——几周几个月甚至几年不作案,直到下一次杀人的瘾再发作。因为破案相关科技不发达,加上这种较为隐蔽的作案手法,所以他们可以多次作案而不被抓。比如最近几年才抓到的某国内著名案件,他最后一次作案是2002年,被抓是2016年。 而到了2010年之后,就少有连环杀人犯了。相反,一次性杀死多人,街头报复社会,同归于尽,甚至在人群密集的音乐节、酒吧、教堂用枪扫射的疯狂案件,在世界各地都开始变得多起来。前年甚至还看了一场甚至直播杀人过程。 是什么让杀人犯们改变了方式? 答案是社会的变化不仅影响了杀人犯的行为,其实也改变了每一个人的行为。 无可置疑,社会正在变化,而且越来越快。在科技发展缓慢的中世纪,人们的生活方式几乎是没有变化的。而如今,人们的生活方式每3年5年,就有新的改变。 尤其是在城市里,从2000年,到2020年,仅仅20年,已经是完全不同的生活方式和节奏了。 如果你是1960年生人,今年60岁,那么你见证的就是一场巨变,真真正正的沧海桑田。这不过这沧海桑田,基本都是在网上,在科技上。如果你是2020年出生,那么你出生就是一个互联网新世界。 从某些角度来讲,1960年出生的城市人,和2020年出生的城市人,压根就是两种人,代沟可能比太平洋还宽。 那么,这种社会变化对人们造成的影响,有没有负面存在? 当然是有的。 《监视资本主义:智能陷阱》开篇就提到,如今的科技发展,是存在某种问题的。科技发展的背后,显然是有某种道德隐患的。 无论是自然发展所酝酿的危机,又或者是人为的道德隐患,它势必促成一场社会危机,会造成巨大的可怕的后果。 然而,因为我们在一个最新的世界,面临的最新的问题和隐患,所以这个隐患,甚至没有一个名字。 (这也是之前我那本《这个世界的bug》没有写完的原因之一,它太新了,涉及太多方面,不好全面总结。我虽然在两三年前就列好了大纲,每个章节都对应一个环节,但在后续的写作中,不断的查询各个领域的资料和书籍,从而不断的有新的认识,有时候比原本设想的更广更深,有时候甚至推翻了之前的想法。 所以,这是一个没有权威定义的,没有名字的问题和隐患,是一个巨大的网,需要很长的时间才能总结全貌,而我正热衷于窥见每一个角落。 另一个原因,是我自己性格的原因。就算没有完全认识,其实也不妨碍先写出来。我不知道还有没有其他人,也在和我进行同样的工作和观察,但我知道我的一些观点是对的,也在网上经常看见同样的观点、趋势、现象、论证结果,符合推测和预言。 但因为社会这个话题实在太大,方方面面,根本无法全尽——这对喜欢绘画的我,或者说对于一个典型INTP性格的我,无疑是一个折磨。我喜欢看见所有的事所有的可能性之后再行动,或者说我压根不喜欢行动和成功,我只喜欢观察,只喜欢看见所有的现象,思考背后的原因。 但我不是佛祖,又怎么可能看见众生的每一个因果,怎么可能把整个世界全部画出来。我只能有一些较为深刻的感触和见解罢了。出于自己的性格,这不足以促使我行动,大家可以看一看INTP相关的东西,虽然我不太信mbti,但我真的是典型intp,也许我应该改一改性格,伪装一下intj。 不过,我们今天先不聊这么大,聊的大就容易聊的空。大而空疏,不是好词。我们今天只谈这个单独的话题:互联网科技。) 二、 借着《监视资本主义:智能陷阱》这部纪录片,我们看到主角其实试图做出改革的,并且获得了很多IT同行、公司内部员工的支持。但这个改革方案,几乎是一夜之间就被勒令叫停了。 毕竟,资本家的权利要比改革者的多。 这个纪录片,可以看做是改革失败数年后的一次揭露。 他首先揭露了一个令人震惊现象,我们的生活被互联网影响和控制,而控制互联网的,其实只有寥寥数人。 30个程序员,决定20亿人的态度,这个对比实在令人惊讶。 比较大的社交媒体平台,通过主页影响目标网民。 而要影响网民,首先要做到三件事。 第一,获取吸引力 第二,贩卖确定性 第三,确定性需要大数据支撑 为了更好的达到目的,公司开始监视窃取用户隐私。今年上半年,在公众号,写过《隐私大盗》,聚焦著名的脸书隐私事件罚款问题。 而在国内,其实也闹过这一出戏,关于用户的隐私,使用霸王协议,不同意不给用。 而面对这样不公平的霸王条款,人们就这么用了,根本没有反抗,连抗议都几乎称不上有。 人们,就是这样,迫不及待的要进入互联网,哪怕明知道它的危害,明知道它在侵犯隐私。 像我这样从来不用抖音和快手,以及如果不是为了赚钱,微博和知乎也不会用的人,可能越来越少。相反无数的人,正在毫无意识的进入互联网,社交媒体。 就像石油期货一样,互联网公司卖的是人类期货。用户是一种商品,正在被贩卖。 公司不止监控人们看了什么,而且监控你看了多久,精确到秒。他们知道你抑郁,知道你孤独,知道你的一切秘密。但他们不是为了帮你,而是为了把你卖掉赚钱。上万亿美元。 你内向外向,你的性格,不仅你喜欢看什么类型的电影,甚至你喜欢看什么类型的小电影。他们知道你凌晨几点看了你的前男友/女友,还知道你看了多久。我们说的不是抽象的,而是字面意义上的。真的存在一个电脑以及上面的软件在监控这些数据。而这些数据,我们的私人信息,是真实的、字面意义上的,存在于某个机房的硬盘里。无人看管,只有程序。 很多人误会的以为公司只是在卖我们的数据,其实他们是在存储,然后利用这些数据建立模型。谁建立更好的模型,谁就赢了。 基于这些数据和模型,公司比你更了解你的人格。你点过的每一个赞,认真读过的每一篇文章,都会化身为血肉,通过网线在另一端组成一个你的克隆娃娃人,就好像巫毒扎小人一样。根据你的模型,电脑会决定你身上的针,该扎在哪里。 甚至你阅读到最后会变慢的习惯,都会成为他们眼中放广告的好时机。他们可以通过预判,来预测你的行为,精准,并且反复测试。根据预测,他们可以精准投放你喜欢的视频,什么样的电影可以刺激你的情感,什么东西能击中你,能获取你的注意力,能引导你的思维,导向一种确定的结果。 公司有三个指标 一个是延长你的使用时间 一个是让你不断的拉新人加入 一个是广告目标,确定你的行为符合预期并给你投放有效的广告 也就是前面说的,贩卖确定性。 每一个目标都有一种算法,然后由程序驱动。最可怕的是他们可以调控这些算法,今天想多挣点钱,就把广告算法调一下;今天想多吸引点韩国用户,就把算法调高一点。人是商品,是被调控的数字。我们创立了全球整整一代人,他们的背景,成长环境,社交空间,文化的意义,就是傀儡。我们参与的每件事,背后都有操控和欺骗的影子。 三、行为劝服 要改编一个人的行为,把他塑造成更好的商品,需要修改用户的行为路径。 我们前面提到的社会变换影响人的行为变化,可以说是被动的。 而公司对人的改变,是主动的。 第一个方法,正积极强化 不仅是奖励,更绝的是随机性奖励,像赌博老虎机一样。 赌博为什么让人上瘾? 人类的社交以及虚构的能力,是人类进化最重要的一环。所以就是赌博这种随机性奖励,简直就是针对人类设计的bug。赌瘾是一种精神疾病,人在赌博的时候大脑内会产生一种叫做“内啡肽”的物质,它会让人产生愉悦感,渐渐地人就对赌博产生依赖,这感觉能使人上瘾,一般来说,当一个人嗜赌成性的程度越重,内啡肽的分泌就会处在越高水平,这些病人如吸了毒品一样。 感兴趣的朋友,可以看看关于赌博的论文。而其实上网,很多方面和赌博是一样的。 很多时候,我们打开手机,就是一种赌博。刷社交网络和新闻,其实就是寻找奖励。这也是为什么 ,那些肤浅的科普、简单的方法论、有毒的鸡汤、无聊的爽文等等中低质量的网络内容,极具传播力。反之越有深度,越需要成本的内容,除非有巨大的推力,否则越是难以传播。很简单,因为大多数人不觉得这是奖励,而觉得这是惩罚。 长期上网之后,上网这件事就会在你的大脑根部,植入一个潜意识行为,无意识决策。 形成一个习惯。你甚至没有意识到自己做了什么,你就已经打开手机了。 纪录片在这个地方,提出了一个名词叫:增长量黑客学。 也就是他们就在研究如何黑进你的内心,操控你的行为,甚至发展成一门学问。 你是不是感觉自己像小白鼠? 实际上,你就是一个小白鼠。 他们会做很多小规模实验,然后再把成功的实验扩大化。 而他们的成功,就是把用户变成傀儡,赚钱的机器,用人类的脆弱和缺陷赚钱。 四、科技的进步 没有人会说自行车的发明给我们造成了不好的影响,每个人都喜欢自行车。自行车是工具。而社交媒体并不是。并不全是。 它会对你有所求,会压榨你,会让你成瘾、会有各种各样的反应,而不是一个安静的工具。 自行车没有目标,你的目的地就是自行车的目的地。 但社交媒体,它有自己的目标,而且会利用你的心理去完成自己的目标。 你在玩它的时候也在被它玩,它不是工具,你才是工具。 城市生活其实是一种抽象生活,也是一种隐姓埋名的生活。人们确实保持联系,但不是以一种独立完整的人格出现,而是作为经济消费功能的化身出现。 (此处,必须要提到梭罗的《瓦尔登湖》:人们已经沦为他们工具的工具。这句话写于1847年,那个时候没有互联网,只有早期的资本主义和工业化社会,然而一些有远见有智慧的人,已经提出了人们正在成为金钱和物质的工具的看法。而如今的互联网与资本主义的结合,无疑正在加剧的把人们变成工具。 所以哲学家能领先世界一两百年,并不是一句空话大话。哲学家会通过观察现有的社会,来预测未来的社会。更可怕的是,哲学家们经常会做出正确的观点,预测到悲剧,有时候只要在发展的过程中,把这些可以预料到悲剧加以规范即可改变,但逐利的人们从来不会防范或者改变。功在千秋,利在当下。这也是我前段时间写的那篇文章里,伏尔泰那句名言的由来。推荐大家可以读一读梭罗等人的作品,会收获很多。) 只有两个行业把客人叫做“使用者”,毒品和社交媒体。高管自己造的软件,自己都忍不住刷,自己造了一个把自己当成猎物的机器,后来不得不写程序来让自己戒瘾。 所以,就算知道这些原理,一旦沾染互联网,哪怕是制造者自己,也没办法控制。 人的本能在控制行为,而互联网很多APP瞄准的就是人的本能。社交媒体其实就是毒品,它满足我们的生物学系统,直接影响我们的多巴胺,原理上很多地方就和毒品一样。我们几百万年进化出的缺陷,都被社交媒体拿去设计利用。它只是快感和刺激度没有赌博那么高而已,但原理是互通的——如果你经常上黄色网站,刺激和快感也很高,也很难戒除。 最恐怖的,是它在毁掉我们原本正常生活,本然生活的能力和习惯。拿掉手机,你发现自己已经不会生活了(如果你是2010年前后出生的城市人,那你甚至不知道没有互联网之前的生活应该是什么样的!) 纪录片中,使用了一个上锁的盒子,给手机倒计时上锁。作为一个赌局,看看青春期的孩子能不能一周不使用手机。最终,这个孩子经不起诱惑,把盒子砸烂了,报复性的刷了一整个晚上。所以互联网不仅仅是生活方式,它改变孩子们的习惯和价值观。 我们需要进化到一万个人关注我们,看我们吗?看我们的一举一动? 我们需要每隔几分钟就获得一次社交认可,短期信号吗 我们需要被放进一个陌生的上亿人的网络环境里,接受它的复杂化吗? (关于环境复杂化,关乎到我写的另一个话题,后现代生活态度。《这个世界的bug》《后现代生活态度》《进步方法》分别对应的我的世界观,人生观,价值观,事业观,是我现在正在写的三本书,算是我对社会观察和自我成长的总结。但这些并不是我想做出来表达的作品,只是记录和总结。) 我们的价值观被改造成短期的认可无论多肤浅廉价,只是因为空虚,而被社交媒体趁虚而入。 空虚的时候,手边正好有个手机来填补,于是没有任何余地的,互联网让人越来越空虚肤浅。当然,虽然大部分人原本就空虚肤浅,但这并不是给社交媒体洗地的借口。 美国研究表明,1996年后出生的一整代人更加容易抑郁,更脆弱。新一代人们处理情绪的能力无疑正在退化。 一切都是技术革命,从1960年至今,计算机的能力增长了几亿倍。没有任何东西的增长速度可以与之媲美。其他的一切与之相比都微不足道。人类的大脑?根本没有任何进化,不退化就不错了。人类的生物机制,这一套系统,基本不可能再有变化了。(除了未来的生物和基因工程改造) 所以,人类的大脑如果作为一个计算机硬件,加上一套算法来看,现在手机以及手机背后公司的一套算法,人脑电脑,面对面,谁会赢? 谁在操作谁? 如我开篇所说,科技在极速发展,社会制度在缓慢发展,局势在左右摇摆螺旋上升,没有发展,而人性不仅没有发展,反而在堕落。 你以为人工智能毁灭世界,就是控制核弹,造出终结者或者奥创这样的机器人吗?物理灭绝人类?需要复仇者联盟来战胜? 人工智能实际上已经在操纵世界了。不需要物理灭绝人类。谷歌这样的大公司,有一些超级大的房间,里面放着你一眼看不到边的计算机,互相连接着,然后运算着。基本上网络世界,就是被这些你不知道在哪的超级计算机操纵的。而网络世界在真实世界的占比,已经大到不可想象了。算法其实就是内嵌在代码里的观点,是有目标性的,而不是客观的。算法不是为人类服务的,而是为公司服务的。公司甚至有时候不为了赚钱,也丝毫不顾不良社会影响。 如果你想进入下一个热潮行业,那就是机器学习。给计算机一个目标,它会自动学习如何完成它。无情的,不计代价的,迅速的。它是一台会自动改变的“智能”,哪怕最初它是人写出来的。 很多公司管理者自己都无法预测计算机的行动,他们只知道计算机在帮助自己完成盈利的目标。计算机掌握着人类的信息数据,但却不被人类掌握,而是自主运行着。 计算机和媒体为了拉住用户,会没有下限的发送各种各样的新闻或者消息。譬如一件谋杀案火了,马上就会有十件同类型恶性犯罪被曝光。它们只是不停的,抓住你的注意力。 政治,八卦,恐慌,娱乐,色情,游戏,刺激,视频,你像一个傀儡一样,把自己的时间全部拿去让它操纵。它丝毫不担心这些东西对你造成的影响,对你的身体,行为,习惯和思想。给你灌输的意识形态,人际三观。 (此处很想放一张截图,前段时间在公主号有人评论杭州案之后的恶性案件,我告诉他关于媒体因素,他才恍然大悟自己原来被媒体操控,我们二人的对话。但是我懒得去找截图了) 它,就是操弄你,测试你,用信息流奖励诱惑你,然后赚钱,就这么简单。 甚至它背后都没有一个人来主动针对你,而全部都是有目标的程序而已。这才是最可怕的。 社会变得极端化,激进化,两极分化,愤怒化,急功近利,空虚迷茫。。。而这一切的原因,只是因为技术已经接近了人类的智慧并即将超越。技术何时全面反过来掌管人类还不知道,但是技术已经掌控了人类的弱点和bug,这是确定的。 很多人始终意识不到问题的严重性,没有一个明确的界限。就好像之前我举过一个例子,吸烟的人总说戒烟难,但是一旦你告诉他得了肺癌,十个有九个都会立刻戒烟。好像戒烟一瞬间变得也没那么难了。很多时候人就是这样,没有意识到事情的严重性。 他们喜欢在细枝末节上争吵,喜欢维护看上去有道理的观点,喜欢强调进步和发展的一面。进步和发展当然可喜可贺,但那些阴暗面却不该被忽视。 社会改变对人的改变是巨大的,不可忽视的。不是一两句话就能洗地的。洗地是因为他们原本就不关心这些问题,也没能力关心,也没知识去认识问题。毕竟这是一个全新的而且正在发生的,没有办法以全貌来下定义的问题,它的矛盾也是发展运动中的——所有模糊的没有明确定义的事情,都给人做文章的空间。很多时候我们一次只能讲清事物的一个部分或者一个面。讲科技发展带来的便利,就会忽视科技发展带来的负面。 但记住,无论有多少正面,负面存在就无法抹除。同样,正面也无法抹除。事物的发展就是运动的,需要辩证的去看问题。 社交媒体正在伤害人类的天性,多个角度多个层次的。就好像前几天关于外卖骑手的深层次报道一样,那只是一个角。但这个角,就覆盖了700万骑手。我为什么强烈推荐那篇报道,以及马逆的后续跟进节目,是因为它们真的是难得一见的又好又深刻的揭露了社会正在发生什么的媒体报道。 谷歌公司,会根据不同城市大部分人的观点,推送给他们喜欢看的内容。 比如: 你在某些城市,谷歌气候变化是,谷歌会跳出来,气候变化危机是骗局。 然后你换个城市换个电脑,搜索气候变化的是,第一条结果就变为:气候变化危机正在破坏自然环境。 你得到的结果,你检索的资料信息,取决于你所在的城市大部分人的观点,取决于大部分人想看到什么,而不取决于真相。 你想看到什么,他们就给你看什么。 现在搞市场下沉。什么叫市场下沉?很简单,两句话说清楚: 低素质,低收入,低学历的人,总体来说更多,也更好骗,更好激起他们的喜怒哀乐——更容易操弄他们。 所以,内容要下沉,要肤浅,要满足这一类人群。要给他们想看到的东西。 至于那些高水准的内容,和高水准的需求,以及这背后的一系列人群,你们爱咋咋滴,不爽就滚回家玩泥巴去——因为公司是资本家创立的,所以基本上互联网就是资本家的,而不是在乎好的、深的、对的、有益的,只在乎,赚钱的,比烂的。 市场下沉需要举例子吗?不需要了吧? 最好笑最讽刺的地方是,有很大一部分低素质低认知的人群,也不在乎市场下不下沉。它们反而赞成市场下沉,鼓吹市场变化。它们热衷娱乐,热爱肤浅的虚幻的刺激性的一切内容,并为其合理性找一切道德、政治上的理由。它们不在乎世界危机,不在乎社会癌症病入膏肓饮鸩止渴等等长远的担忧,它们只在乎,今天爽不爽。你说的话有没有让我爽。你有没有哄我开心。它们是市场下沉是算法的理想用户、目标用户。 反过来,一切娱乐社交媒体也是它们的最爱。 深层次的好内容,在原本就自带的距离感、学习成本、舆论的抹黑,人类天性的好逸恶劳、好喜不好忧的特点,在这些因素的合力推动下,这些好内容渐渐都被埋没了,消失于网络中。 人有百样,所以各个领域高水平的人不一定是符合道德标准的人。而高水平的内容,从一开始就不是它们在乎的,能企及的,能理解的东西,所以它们从来就没在乎过。无论这些东西怎么样保护、滋润它们,怎样维系文明,它们也不在乎。网络世界,最终属于数量庞大的乌合之众,这一点毋庸置疑。 我一直觉得【当愚昧是主流,清醒就是犯罪】这句话不够好。 应该把当和就两个字去掉。 俊9.22 市场下沉,内容下滑,平台变水,恶意广告,精准投放,娱乐至死,乌合之众,这些正在发生的现象,需要举例子吗?不需要吧。这些现象并没有全面爆发,但也足够触目惊心。很多人没意识到,是因为除非刀架在脖子上否则他们没能力意识到。 还有一些人意识不到,是因为他们被算法骗了,没有关注到很多触目惊心的东西。没有机会深入观察反思。 如果这些现象的存在都不重视,或者都不承认的话,就没必要和我交流了,那等于假装看不见房间里的大象。首先,不承认问题的人要么是装傻,要么是懦弱而选择自欺欺人的不去面对,也就是所谓的非蠢即坏,这就没有交流的必要了。 不要说独立思考,一千个人里难得有一个具备独立思考的能力。一百个人里甚至都没有几个人具有这种独立思考的机会和潜力。 比楚门的世界更可怕的,是有数不清的人,心甘情愿的活在楚门的世界。而它们的世界并没有一个大棚子和我们隔离开。所以小心,它们会一直来碰撞摩擦。网上对喷根本不算事,不拿刀砍人就不错了。记得之前详细写过《舆论》《社会性动物》,也推荐过这两本书。当事实太多时,人们就失去了客观思考的能力,只是被新闻和信息驱使操控的工具。 我们生活在一个之前从未存在过得世界,历史的新阶段,人性的缺点第一次被这样大规模的利用。人类社会也第一次如此分裂极端。前所未有的新时代。 每一个在网上试图观察,反思的人,一开始都会遇到一个问题,人怎么可以这么蠢?震惊,难以置信,是真的愿意去相信,很多人选择了不相信。 但事实就是,人是有弱点的,天性机制被利用后,就是如此。原本没这么蠢,被互联网和手机驯化后也开始变蠢了。 还有很多人觉得,网上很多人缺少大量的信息就做了判断,它们怎么可以忽视这么多信息? 事实就是,它们真的没看见那些信息。互联网太大了,让人难以看见全貌。 同时太坏了,它简直就是故意激起人们的极端化。 最后,人们原本就喜欢对自己并不了解的事发表观点和评论。 美国自从特朗普以来,政治新闻成为全球热点(全球免费戏院),美国的个人政治观念,分裂程度达到了历史最高。而社交媒体,是主犯之一。 社交媒体可以让美国人相信地球是平的,相信疫苗是有毒的。很多人觉得这么蠢的违反常识的想法,也有人信?事实上算法在变得更聪明,以至于真实数量多到你不敢想象。 很多人觉得,这些人信就信了,和自己无关。其实这就是没搞懂细枝末节和背后大问题的联系。全世界的社交媒体,都在更新算法,而他们是如此成功庞大,就算你不用互联网,你也不摆脱它的影响。它是新时代毒品,而且它的用户已经普及到绝大部分人。 早晚有一天,你也会被劝服,相信一个完全虚假错误的事,而且你还不知道自己错了。这和你够不够有联系? 人类行为都是一样的,上坡很难,下破滑滑梯。 社交媒体就是一个故意把下坡路放在你面前诱惑你,故意把上坡的,学习成本的,对你有益的东西弄得很难。最终你只能选那个下坡路。 不是因为你蠢到无可救药,而是因为你被针对性的利用操纵了。 你以为互联网公司只是做一些常规性的广告赚钱,无害的,你就太天真了。虚假医疗信息,虚假广告,制造焦虑等等这些不提。灰色产业,赌博,菠菜,色情,诈骗,犯罪等等各种东西,数不胜数。 很难想象吧,你的每一次上网,社交媒体互动,不经意间的点赞,其实都害得有人走向极端,有人被诈骗。两者之间居然存在联系? 是的,它们有联系,网络的力量之强,之复杂,超乎人的想象。只能说道可道,非常道。 特朗普说一句喝消毒水可以治新冠肺炎,就有十几个纽约人喝消毒水住院、死亡。美国这半年的花样新闻,丑态毕露的滑稽戏码,已经超出承受能力,甚至超出想象力。多到什么程度?多到网上的段子手都累了,都跟不上了,追不动了。 社交媒体会把人们变得极端化,还会让他们相信阴谋,有些美国人至今觉得新冠是阴谋。新冠病毒再快,也快不过互联网的传播速度。 特朗普为什么要推特治国?是因为好用,方便操控美国人,还是因为特朗普很潮? 在中东一些寡头,利用脸书制造屠杀和战争,造成几百万人流离失所。对你没看错,就是利用社交媒体去影响人。与这比起来,是不是觉得杀猪盘突然变的小儿科了。 再举个敏感的例子,还记得去年美国是怎么利用社交媒体挑逗小渔村废独闹事的吗?闹多大事?闹了多久? 如果还不信,就真的没话可说了。 五、未来 现在有一种新的理论非常流行。人们相信未来,每个人都只是一个单独的体验单元。而计算机会变成一个超级大脑,来分配人类资源,互相分享体验。 我第一次看到这个理论是2018年。 如今的世界,依然还有真相。互联网没有真相,只有观点,极端的愚蠢的,但是最终还是有些人能接触到真相。 然而到了那个新时代,真相不再存在,没有人能接触到真相,没有人能接触到自己生命体验之外的东西,每个人都被按照特定的目标洗脑,然后变成一个信息收集器,收集信息之后上传回主脑。你不重要,主脑才重要。 到了那个时候,人生就是一段被设计好的程序。 如今拿着手机的人,很难想象,我就玩个手机,我还要为世界末日负责? 很多看到社会发展便利的人,觉得技术无罪啊,为什么技术就一定是针对人群弱点的? 技术确实无罪的,只是如今的技术和资本和政治,和林林总总所有的元素互相影响,最终确实引起一些现象,这些现象的背后,是社会最黑暗的一面。而它正在发展壮大。 像开头所说,这个危机,连名字都没有。它是新的,正在发生的。但它确确实实存在。如果任由它发展,最终会酿成悲剧,就好像资本主义的发展引发世界大战一样。而且,最重要的是,现在没有一个好的办法去解决它。孤独,分歧,冷漠,疏离,肤浅,极端,这些难以自愈的社会问题。 如果你不知道你在黑客帝国的矩阵中,你怎么从矩阵中醒来? 现在的技术发展很多方面都是好的,我很感恩便利的技术,不仅好用而且真真实实的给我提供了学习渠道,娱乐交友平台。 如果不是互联网,如果没有社交媒体,我学习进步没有这么快,也会少认识很多朋友。 但现在的商业模式,目标,习惯,市场,是错的。 我并没有觉得技术都是坏的,一切都很悲观--我确实相信未来不会好,我很喜欢赛博朋克。但目前来说,我并不觉得技术进步都是邪恶的,商业资本都是该死的。我只是觉得市场需要管控。 前面说起外卖骑手那篇文章,马逆提出了一个人物的文章没有提出的问题: 是不是一个资本公司亿万富翁的利益,真的大过人民的利益? 我们的环境社会恶化,难道就是为了给资本家积累财富? 无节制的欲望,和无节制的自我认同,无节制的媚俗,和无节制的道德滑坡,最后引发灾难,只看是谁运气不好背黑锅。这就是网络时代在加速的东西。 其实人类社会一直这样,只是网络让其加速一百倍。 如果一些事情不改变,社会会继续恶化下去,互联网会继续下沉,政治会更加极端,恶性事件会越来越多,奇葩新闻会越来越多,自然环境也会越来越恶劣。人类会幡然醒悟吗? 一瞬间变好? 人们上网应该意识到,自己不是客户而是工具,自己的时间和注意力,是宝贵的财富,社交媒体正在利用你的注意力作为一种资源去开采贩卖。 你的注意力原本应该用来让你自己变得更好,更进步,更幸福,真正的幸福,关注你自己真正热爱的事情。你的注意力原本可以用来让世界变得更好。而不是,拿去刷社交媒体网络。短视频。 功在千秋,利在当下,社会能不能改变很难说,但你可以现在就改变。

 5 ) 结构性的问题:资本主义

“没有人是坏人。”智能陷阱的制造者也如我们一般是活生生的个体,带着人道主义的期许设计出“点赞”、“推荐”,但这些设计在发展的过程中失控了,成为让人上瘾的一个个陷阱,甚至陷阱设计者本身也会掉入其中。可见真正出问题的不是人本身,而是背后结构性的根源。正如片中所提,当今驱动或者说运营这个世界转动的的就是经济奖励,所以任何问题的解决方案一定要是符合经济奖励的,而经济奖励就是资本主义追求的最终目的。所有这个结构性问题就出在了马克思不断抨击的资本主义制度上,而智能陷阱只是再一次映证着资本主义本身摇摇欲坠,和过去资本主义导致的经济危机、工人罢工游行有着相似的本质。

同时,片中所提到的立法的解决方案,在资本主义国家也很难得到真正意义上的实现,因为悖论在于政府需要制定出不利于资本积累的法律条款,但却是资产阶级控制着政权。

片尾Harris说“我们要推翻这一切。”太笼统也太无力了,甚至搞不清的是,我们真正应该推翻的,是技术和工具本身,还是背后那个操纵技术达到目的的制度呢?

摘抄启发点:

1.极化

-技术什么时候会超越人类取代我们的工作,比人类更聪明?技术超越人类的弱点时。

这个超越的点就是上瘾。两极分化、激进化、激化愤怒、激化虚弱,一切的根源,它在压制人类的天性,在挫伤(checkmate)人类的天性。

-想象维基百科的个人化,脸书油管谷歌就是这样

-27亿的楚门的世界:

你觉得楚门为什么到现在都从来没有接近,发现他所在世界的真实本质?

-皮尤调查:个人和政治两极分化达到20年来最高

-人们总是以为算法推荐的是给他们真正想要的,但其实不然。算法其实是在试图找到几个非常强大的兔子洞。试图找到哪一个兔子洞最贴近你的兴趣。

-PIZZAGATE阴谋论在社交媒体传播的典型案例。

-我们创造了一个偏心于虚假信息的体系,并不是因为我们想要,而是因为虚假信息比真实信息能让各个公司赚到更多钱,真实信息都很无聊。

-如果你想控制你们国家的人民,从未有过像脸书这样有效的工具。

最明显的案例:缅甸发生的事情。

脸书真的给军人和其他不良人士一种控制公众言论的新手段,并协助煽动针对罗兴亚族穆斯林的暴力,已经导致70万罗兴亚族穆斯林逃出这个国家。

-远程控制战争,俄罗斯对2016年美国大选的干预。只是将合法给广告商与用户使用的工具用在了邪恶的地方。

-部落主义。

-技术并不是人类存亡的威胁,而是技术能把社会中最坏的东西带出来的能力,社会中最坏的东西,才是人类存亡的威胁。

-我们很可能会因为故意无知毁掉我们的文明。

-如果你不知道你身处矩阵中,你怎么从矩阵中醒来?

立法:

-经济奖励可以说运营着世界,所以这个问题的任何解决方案一定要符合经济奖励。

-交数据收集和处理税——不掌握所有的数据。

-“没有人是坏人”。点赞按钮的全部动机:我们可以在世界中传播积极和爱吗?但时间快进到当下,青少年会因为没有得到足够多的点赞而抑郁或者会导致政治两极分化。

-我不认为这些人的动机是邪恶的,只是这个商业模式有问题。

-我们应该接受的是公司是要挣钱的,但不合理的是,当没有监管规定竞争,公司在充当实际政府部门,然后他们说“我们可以自己监管自己。”

改进:

-推翻这套系统

-是批判者驱动着改进,批判者才是真正的乐观主义者。

-你在用点击去投票,你点击钓鱼网站,你就是在创造一个经济奖励延续这个已经存在的体系。

-在推特上关注你不认同的人。

-在你分享之前,查找一下事实,思考一下信息来源。

 6 ) 《social dilemma》:除了迷茫、恐惧、愤怒,还有别的符合人类本性的东西,吗?

网飞的纪录片《social dilemma》真正揭开了科技(互联网)公司的神秘,让我们看到个人在一整套系统技术和盈利目标面前的脆弱。这种脆弱,有纯粹力量上的对比,但与历史上的技术变革影响相比,这一轮的科学技术利用人天性弱点的能力前无古人,助力背后操作者,甚至是操作者背后的人完成其目的。

在这部纪录片里,几个硅谷科技公司的早期员工、重要成员,相继表达了这样一个观点:“科技一开始是为了美好的目标,但走着走着就变了样子,我们根本没想到会这样。” 确实,google的提供信息,facebook的连接亲友,甚至美团的外卖速递,一开始都是为了满足人们正常的需求,让生活更美好。什么时候开始变糟了呢?

在这些互联网公司,所有的事物目标归根结底分为三类:engagement,growth,monetization。让用户停留尽量多的时间,让尽量多的用户加入,从他们身上尽量多的赚钱。再往前走一步,这其实就是从尽可能多的人身上长久地赚最多的钱,资本主义的典型状态。

然而这能怪资本主义吗?资本主义的逻辑是如此强大成熟,现代社会运行与之密不可分。与其从意识形态入手解决问题,不如降一格,从社会、政治、技术、制度层面尝试。

赚钱,本质上其实是一件中立的事,这个目的本身并不是罪恶的,或者对人有害的。目前来看,是商业模式只找到了最简单的赚钱方法,煽动人的情绪和本能来获取更多的注意力,并最终转化为赚钱。然而除了煽动情绪,难道没有别的选择吗?这确实是最便捷的路,但如果用更好的,稍微复杂的东西来代替它,是否可以一样保持赚钱,但同时又减少对社会和个人的伤害呢?

举个例子,约会软件。使用约会软件,人们很容易关注的是自己被多少人like,有多少match这些指标,但这些真的是人最需要的吗?被多少人like,match,背后是一种空洞的影响力和权力。相比之下,我觉得大部分人在约会软件上其实最想要得到的,是和真实的人的社交,无论是交朋友,还是情感,还是性。质比量重要。而约会软件大多把重点放在如何match人,match到了(或没match到)就不管了。就像爱情故事里结婚以后就happily ever after了,但真实的生活不是这样,产品应该帮助人更好地认识和应对真实的生活。

作为一个市场营销分析人士,我的日常工作就是计算用户购买商品的可能性,选出更有可能购买的用户,将邮件、信息推送给他们。在我做项目时,我看着千万级的用户,会把他们就当成数字,计算着销售额、购买率会有多少提升,不会想到这每一个数字背后都是一个个真实的家庭真实的人。

为了改变这种情况,当然可以用外部限制,比如政府立法。但有没有办法,企业自己找到别的对人有益的、更加理性的指标纳入考核标准?或者改变广告的商业模式,让企业明着支持广告,将自己的名字与社会责任联系起来?这需要多方面的改进。就像最近关于外卖骑手的讨论,算法只是中间的媒介,是投资者、消费者、经营者的思维传导媒介。要解决问题,需要社会各界的研究和努力。

我现在在和两个朋友尝试做一个线上辩论/讨论的app和插件,希望能改善互联网上的评论环境,通过将一个议题正反双方的观点同时展示在内容之下,减少有害言论,增强信息来源的展示以减少不实信息,根据成员发表的评论的复杂度和参与程度来进行engagement分层,来改善线上讨论的体验,让其更加理性,更加全面。

如果你想到什么相关的解决方法,或者相关的议题,欢迎讨论。

 短评

某种existential crisis的压迫感沉重到可以将其归类恐怖片的程度:迫真humanity的一个至暗时刻。毋庸置疑新自由主义的放任默许了它们的野蛮生长。日渐两极化割裂的民主世界,中产的消亡,功绩社会里的精神暴力,抑郁及自杀率的攀升,ultra-right/left异军突起众多吊诡背后,总能追溯到科技巨头的鬼影。今年的BLM可谓一个高潮,空前的社会撕裂,内战的恐惧开始在北美大陆扩散,然而那种担忧早已经在太平洋对岸成为了现实,诸如废青和武统的呐喊此起彼伏,落入集权独裁手里的社交媒体正上演着数亿人的《楚门的世界》。

6分钟前
  • 帷野久
  • 力荐

突然觉得,我如果能活到八十岁,说不定可以亲眼看到这颗星球毁灭……

9分钟前
  • 西决
  • 力荐

能请到离职的脸书 谷歌 twitter高管或功能创始人来搞一部揭露社交APP之罪的纪录片确实牛逼!!看影片开头好多工程师已经在担心律师函了。 我们以为的AI危机(人工智能)是电影中类似机器人入侵的画面,其实,人类早已被AI奴役好几年了,它们以智能手机APP的面貌出现在我们生活中,吃掉我们的时间,夺取我们的注意力,令我轻信、空虚、偏执甚至被利用…… 就连创造出这些APP的工程师们——这个AI统治者的创造者们都承认有手机上瘾症。if you are not paying for the product, you are the product.You would not realize it's a Matrix if you Are in the Matrix.

14分钟前
  • 七姐Claudia
  • 力荐

三星半吧。这个片子一边谴责社交媒体蛊惑人心,一边也通过背景音,模拟场景,动画,拼命传输自己想传达的意思。有点讽刺

18分钟前
  • C&TUTU
  • 还行

在网飞纪录片序列中算不上惊艳,内容都能想得到,有个别地方倒是有启发。其实社交媒体不是重新发明了人性,只是顺应人性被发明出来。

21分钟前
  • frozenmoon
  • 还行

“是批判者推动社会变得更好,批判者才是真正的乐观主义者。”

26分钟前
  • 烟雨如花转
  • 力荐

中文翻译的标题线路很正确嘛

27分钟前
  • 里拉
  • 力荐

通过海量的数据加上对用户个体的行为记录,最终用户个体不再特殊。你的行为可以被预测,你的心理已被掌握,你已经无所遁形。在IT巨头面前,你只是一个可被盈利的工具。 --你以为你想买的东西其实是巨头想卖的东西,你想做的事情是巨头暗示你做的。下篇讲述 在网络环境中,虚假的信息传播的更快,其中人工智能的推荐起到了加速作用。 推荐系统的智能化是的信息发送方变得极化,同时是的接受的信息变得不再全面的。。。。

32分钟前
  • W.史密斯
  • 力荐

最讽刺的是你之所以能看到这部片子,多半也是因为它被网飞自己的大数据和算法推到了用户主页。这种感觉就像是有天迈克尔·贝跑出来拍了一部【电影艺术是如何被滥用CGI特效的好莱坞大片毁掉的】纪录片一样。

36分钟前
  • Laplace Demon
  • 推荐

前半段谈的是个人的成瘾性,后半段谈到了对社会和政治的影响,甚至还提到了香港问题受到了推荐算法的影响,实在是强烈推荐的纪录片。推荐算法让人类看到更多他想看到的信息,而不是正确的信息;当算法没有被操纵的时候,假象会被传播和放大的更快,社会群体的分化会更严重;当被操纵的时候,它会成为比以往更高效的舆论控制工具。

41分钟前
  • 流浪四方
  • 力荐

互联网是人类文明的硕果还是浩劫?这是一个问题。互联网发展太快,而互联网用户运用它的智慧却太慢。它几乎成为现代人剪不断的脐带,每个人都以为这根脐带为我们输送养料,却很少发现它也在吞噬我们的时间,消耗我们的生命。互联网背后是不断将我们异化的数据和图形,是将用户打造成韭菜的智能工具,而你我是它们手中的行货。尼采说,“在自己身上,克服这个时代。”然而,这多么困难。最有意思的是,看完这部纪录片后,我发布的信息也会成为互联网内容的一部分,不小心浪费了别人的时间。

42分钟前
  • 尘飞扬
  • 推荐

“在整个人类历史中,每次有事情变好,都是因为有人站出来说:“这太蠢了,我们可以做的更好”。是批判者驱动了改进,他们才是真正的乐观主义者。我们正飞速走向毁灭,需要一个奇迹才能让我们回头,这个奇迹就是集体意识,再足够的公众压力出现之前,这台机器是绝对不会回头的。”

47分钟前
  • 亚比煞
  • 力荐

我一直是更亲近Yuval Noal那种对社交网的防御心,最近他跟唐凤的对话中,唐女士更接近Bill Gates,她们对Code is law的信任是基于他们对科技的掌握,略傲慢的盲目。人类善于发明创造工具,却总是不能智慧的使用好它,socialmedia被创造出时的工具属性越来越模糊,连接一切变成绑定一切,我们都在失去个人专注力的同时被训练的自动贡献出时间来替科技公司创造价值。见惯了友邻放弃包容,讽刺刻薄的针对陌生人,哪怕对方只是没把咖啡馆当图书馆对待产生噪音。我们大部分人,都忘了我们用社交网的初衷了,我们只是停不下来了,这不对,要自省。

52分钟前
  • 姜小白
  • 力荐

就提一个capitalism会死吗

55分钟前
  • soyoungsogone
  • 还行

一边抗拒一边沉迷,也是无解了。

56分钟前
  • 桃桃林林
  • 推荐

最后还是把问题还原到商业模式和经济上去了 也就是说 不是简单呼吁大家自己控制社交媒体的使用就可以解决根本问题的 不过很有意思的是… 看完片子之后 大家还是屁颠儿屁颠儿跑到社交媒体上来打分了😂 这和竞争关注的结果其实没有本质上的区别吧 人生而愚蠢...也是没办法的事

1小时前
  • ripley
  • 力荐

可能是今年 Netflix 最好的一部纪录片,无论是 have no clue 的大众还是互联网业内工作人员,都能从中得到新的启迪。一段虚构故事结合湾区大佬们和学者们的访谈形式也耳目一新。Just fucking watch this right now!另外好多差评真是男言之瘾重灾区…

1小时前
  • 椒盐豆豉
  • 力荐

聚众吸牍哪家强 网飞找来这群人一个劲戳别人脊梁骨 没种把自己的5秒跳转下一个视频算进去

1小时前
  • Robo Captain
  • 推荐

朋友圈已经关闭了好几年,也不用微博和fb的我感觉自己还是有点觉悟的。

1小时前
  • 席德
  • 推荐

影片翻译成”监视资本主义“太符合中国上层领导了,其实就是讲了社交网络怎样赚钱、怎样改变和监视用户、大数据统治的,其影响会延伸和触及到人性、进化、政治竞选等领域。但人类历史中的谎言、煽动、阴谋、阶级等现象,并不是网络时代就特有的,只是网络时代让这些现象具有更大规模、更快的反应而已,但不能把原罪归于网络。

1小时前
  • 炸酱面
  • 还行