2024 1月 01 By astrill怎么买 0 comment

「你的『末日值』是多少?」据说已成了矽谷科技圈新贵近期最常挂在嘴边的问候语,对於身处 AI 产业的人来说,这更是一个无法含糊其词糊弄过去、避而不谈的议题。「末日值」到底是什麽?询问他人「末日值」的意义何在? 

所谓的「末日值」(probability of doom,也写做「p(doom)」),指的就是你个人认为AI可能带领人类走向末日的机率。

若不相信AI会导致世界末日,那你的末日值就会趋近0。相反的,若你坚信AI终将导致人类社会灭亡,那你的末日值就会趋近100。

据《纽约时报》科技专栏作家鲁斯(Kevin Roose)观察,末日值这一概念及名词,大概源自於矽谷科技产业的圈内人社群平台交流版「LessWrong」,最早可追溯至十余年前的一则版上贴文。

当时就已开始研究AI技术的几名网友发文分享各种「AI导致人类灭亡」的情境,并分享自己所认定的「末日值」。令人意想不到的事,这则半开玩笑的贴文在ChatGPT等生成式AI崛起後,竟成了人们十分严肃看待、热衷讨论的议题。

而「LessWrong」创办人、AI学者尤德考斯基(Eliezer Yudkowsky)则是出了名的「AI末日论者」(doomer),自认末日值高达95。

科技业名人末日值各有不同

在科技业、AI产业有名有姓的各路人马的末日值,分别都是多少?

鲁斯在《纽约时报》专栏中写道,被誉为「深度学习教父」的AI学者辛顿(Geoffrey Hinton)以及班吉欧(Yoshua Bengio)都曾呼吁业界提高警惕,加强对AI技术的管控。

辛顿认为,若不严格监管,AI在未来30年内导致人类灭绝的机率为10%,而班吉欧则在一次访谈中表示, AI灾难性事件发生的机率大概为20%。

财经新闻网《商业内幕》(Business Insider)指出,曾在ChatGPT开发商OpenAI担任研究员、2023年入选美国《时代》(Time)杂志「百大最具影响力的AI圈内人」榜单的克里斯基亚诺(Paul Christiano),一度在播客节目中坦言:「我认为AI完全掌控人类社会的机率大概为10%到20%,到时候会有很多人、甚至是绝大多数人类死亡。这对我来说,是需要严肃看待的问题。」

美国商业新闻杂志《快公司》(Fast Company)则报导,近期一项针对40名AI工程师所进行的问卷调查结果显示,他们的平均末日值为40,也就是业界普遍认为AI导致人类灭亡的机率为40%。

再像特斯拉(Tesla)创办人马斯克(Elon Musk)刚成为「2023年财富增长最多的人」,则曾公开表示自己的末日值为20至30左右。而AI新创公司Anthropic执行长阿莫迪(Dario Amodei)的末日值为10到25之间。

▲ 马斯克曾公开表示自己的末日值为20至30左右。(Source:Flickr/Steve Jurvetson CC BY 2.0)

有趣的是,《快公司(Fast Company)》形容美国联邦贸易委员会(Federal Trade Commission)主席可汗(Lina Khan)是「最常打着『反AI』旗帜的人物」,但她的末日值却相当低,认为AI会导致世界末日的机率仅为15%。

末日值可助判断他人的态度

严格来说,末日值是一个相当主观的存在,它并没有一套可量化的衡量标准,甚至连业界约定俗成的标准都没有。

但鲁斯在报导中指出,末日值存在的意义并不在於有多准确,毕竟人们询问他人的末日值时,并没有事先设定好「末日」的定义。

「如果一半的人类因为AI崛起而死去,这可以算是『末日』吗?那万一大家都没有因为AI而死掉,只是都集体失业了、过得很不快乐,这是否为末日的一种?AI具体会如何征服全世界?」鲁斯写道。

与其说末日值有任何实际学术价值,它其实更像人们心中的一把尺,可帮助一个人判断周围的人对AI的看法及态度。鲁斯形容末日值为某种「社交标志」,让参与对话的人可以快速找到在AI议题上志同道合的人。

鲁斯在报导中写道,OpenAI日前人事风波闹得满城风雨,董事会当时宣布将由直播平台Twitch创办人席尔(Emmett Shear)接替奥特曼(Sam Altman)出任OpenAI执行长,不久後就有员工分享一支影片,指席尔在录制一场播客节目时提及自己的末日值高达50,让员工纷纷担忧这位「空降」到公司的执行长会出於对AI技术的不信任,而要求团队放慢研发新产品的步伐。

由此可见,一个人的末日值多多少少会直接影响他欲树立的个人形象,最终可决定他可以融入到哪些圈子当中。

(本文由 远见杂志 授权转载;首图来源:shutterstock)

astrill怎么买

0 0 投票数
Article Rating
订阅评论
提醒
guest
0 Comments
内联反馈
查看所有评论