查看原文
其他

刘润:OpenAI董事会宁愿解散都不说的,是什么事?

刘润 刘润 2023-12-18

作者 / 刘润     责编 / 黄静

这是刘润公众号的第2079篇原创文章


1、OpenAI的“宫斗”大戏正式结束。灯光亮起。阿姨入场打扫,门口眼镜回收。很多人捧着紧张到一口没吃的爆米花,一边意犹未尽地离场,一边对同伴啧啧赞叹:太精彩了。反转反转反转再反转。年度最佳。值了值了。心情久久不能平静。
2、于是,回家路上,你忍不住刷剧评。看看自己有没有漏掉隐藏的故事线,让人恍然大悟的伏笔、和为下一季埋下的秘密彩蛋。结果看到一条高赞剧评。
董事会解雇Sam Altman的原因,是他未能保持“始终坦诚”(consistently candid)。那么,Sam是在哪件事上没有“坦诚”呢?他隐瞒了什么?这难道不是整部剧的关键吗?直到Sam英雄回归,大剧落幕,都没人说这到底是什么事。最后董事会宁愿被解散,都不说。你不觉得很奇怪吗?铁子们,续集很可能从这里开始。
3、你一惊。还真是。到底是什么事,这么重要,又这么神秘?为什么直到最后都没说?这真的是要拍续集吗?你迫不及待地刷留言。
4、有人说,这是董事会夺权的借口,不是支线剧情。别想多了。有人说,这件事会引起全人类的恐慌,所以董事会死也不能说。还有人说,宫斗只是“明争”,“有效利他主义”和“有效加速主义”之争,才是它背后的“暗战”。这场暗战,会在续集里全面爆发。
5、慢点慢点。什么“有效利他主义”,什么“有效加速主义”?吃瓜怎么吃不懂了呢?你端坐了起来。真的会有续集吗?嗯。真可能会有。这个讲起来有点复杂。我们试着聊聊看。
6、首先,什么是有效利他主义(Effective Altruism,简称:EA)?我给你讲一个故事。
7、你带你8岁的孩子去山区支教。到了山区,你在学校里做义工讲课,你孩子在地里干农活除草。当地学校很高兴,你孩子很高兴,你也很高兴。你为这次支教,来回花了6000元。现在请问,这6000元的花费,算不算是“利他”?当然算。
8、这时,一家公益机构找到你,说:你这样“利他”,效率不高。我们在全国建立了支教网络。可以安排离山区最近的家庭去支教。你飞了1000公里,而他只要开车100公里。所以,我们只要花2000元,就能让山区学校受到一样的帮助。所以,别去支教了。把钱给我们。同样的钱,可以帮助3所学校。你一听,不高兴了。说:我亲自去,意义感不一样。
9、问题来了。花同样的钱,明明可以帮助3所学校,但你却为了自己的“意义感”,只帮助一所。谁是对的?这两种方式,当然都是在“利他”。但这家机构认为自己的方式,更“有效”。因为撇开感情因素,实际帮到的人更多。这就是:有效利他主义。
10、可是,这和OpenAI有什么关系呢?
11、当人工智能席卷而来时,很多工作的效率被大大提升。这是“利他”。可是,人工智能同时让很多人失业了。我们眼前的“利他”,长期是否“有效”?没有人知道。甚至,人工智能未来是否会取代人类,更未可知。所以,大量有效利他主义者,呼吁暂缓人工智能研发。别急着往前跑,让我们先算算。不然冒的风险太大了。
12、但是,在“有效加速主义者”眼中,这种想法显得保守,甚至可笑。
13、什么是有效加速主义(Effective Accelerationism,简称:e/acc)?我给你讲另一个故事。
14、2019年,我带队去硅谷参访。见到了著名投资人,Founders Space的创始人Steve Hoffman。
15、当时,国内发生了一件大事:贺建奎通过基因编辑,让一对艾滋病夫妇生下孩子。舆论哗然。大部分人都在猛烈批评贺建奎,说创造生命是上帝的工作,你越界了。技术也许准备好了,但是人类还没准备好。跑太快会带来灾难。于是,就有同行企业家问Steve怎么看这件事。
16、Steve没有回答。他反问在场的企业家。假设今天,有科学家发明了一种“聪明针”,打了之后,你的智商就会飙升到150,接近爱因斯坦。请问,你打不打?
17、所有在场企业家,都说:不打。全人类智商从100飙升到150,会带来太多无法预料的变化。我们没有做好充分准备之前,不打。
18、Steve接着问。好。假设,中美等大国,都签了协议,不打。没有做好充分准备之前,谁都不准打。但是请问,你觉得一直被美国各种封锁的伊朗,会不会签署协议,会不会打?
19、一定会打。因为早就看不惯你了。瞌睡终于等来了枕头。全民打。能打几针打几针。全民智商150,假以时日,一定能打败全民智商100的任何一个国家。这时再请问,美国会不会打?
20、一定会打。否则美国就完了。美国打了,请问,中国会不会打?不得不打。否则也完了。美国中国都打了,那其它国家会不会打?必须打。所以最后,整个世界都会打。
21、技术的进步,是无法阻止的。如果无法阻止,那就顺应它。甚至加速它。让该发生的一切尽早发生。赶紧的。
22、那如果加速到最后,是灭亡呢?那就灭亡呗。但其实不会。你看,从第一次工业革命到现在,哪一次技术进步导致了灭亡?哪一次技术进步,不是最终导致了人类更美好的生活?
23、1995年,《反未来者》的作者柯克帕特里克·塞尔,对科技会带来的变化,忧心忡忡。他认为技术让人们失去了体面的劳动,社会正处于崩溃的边缘。但是,《连线》杂志主编凯文·凯利对技术充满乐观。于是,他们打了一个赌:25年后,这个世界到底会不会崩溃。谁输了,就给对方1000美元。

(2023年6月20日,非常有幸和凯文凯利对谈,请扫码直接观看。提醒:扫码后视频会在35秒后才正式开始)


24、结果你知道了。2020年,世界并没有崩溃。技术不但没有摧毁人类,反而让我们活得更好了。就像一直以来的那样。于是,塞尔出版了一本新书《2020年的崩溃》。书里写道:所以让我承认我错了吧 …… 但没有错得那么离谱。
25、人工智能时代到来了。有效加速主义者,对此同样充满乐观。技术,就是杠杆。从来没有什么技术能毁灭人类。蒸汽机不会,计算机不会,人工智能也不会。所以,同学们,别担心。大干特干,加油上啊!
26、这就是:有效加速主义 vs. 有效利他主义。
27、请问,你支持哪一个?你觉得,在人工智能高速发展的时代,我们是应该踩油门,还是应该踩刹车?你觉得是Sam英雄回归,还是董事会虎落平阳?
28、终于回到家。开门,开灯,脱鞋。然后,你往沙发上一躺。仔细回味这场大戏。Sam不够坦诚的,董事会宁愿被解散都不说的,到底是什么事?是一项令人类极度担忧的进展吗?是人工智能正在“觉醒”吗?
29、因为疲惫,你一边回味,一边慢慢陷入了昏睡。
30、突然醒来。你发现,自己正站在OpenAI的机房里。你的面前,有两个按钮,一个是“加速”,一个是“减缓”。你身后的玻璃门外,站着全部人类。他们进不来。但是他们在门外大喊:按下去,按下去,不然来不及了!
31、你一头雾水,你犹豫不决。到底按下哪一个?加速,还是减缓?环顾四周。前方有一个倒计时,正在读秒:7,6,5,4 ……
32、门外,这个世界如此美好。
*个人观点,仅供参考。
参考资料:
1、Sam 和 Ilya 的深层矛盾:有效加速主义 vs. 超级"爱"对齐,陶芳波,https://mp.weixin.qq.com/s/NP-RHfEViDcICkWOmjMjsg
2、加速主义宣言:超越资本主义对技术的压制,阿列克斯·威廉姆斯、尼克·斯尔尼塞克,https://www.thepaper.cn/newsDetail_forward_2019817
3、《精英日课5》,万维钢,https://www.dedao.cn/course/article?id=aYB83z6N9dqxVyPzRBK7ZMvy0GQDO5
4、《一场25年的赌局揭晓:科技有没有摧毁我们的社会?》,佚名,https://www.sohu.com/a/448396961_120877946


推荐阅读:

年终总结:你要像高手一样藏点「心机」



品牌推广 培训合作 | 商业咨询 | 润米商城 | 转载开白

请在公众号后台回复  合作 

继续滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存