九游體育app(中國)官方網站谷歌在AI鴻溝有所確立也離不開他的功勞-九游(中國)jiuyou·官方網站-登錄入口
鷺羽 發自 凹非寺
量子位 | 公眾號 QbitAI
東說念主工智能有99.5%的可能性會殺死你。
這是硅谷版天下末日布道士Eliezer Yudkowsky的最新論點。
Yudkowsky用當前的話說，是個原原本本的斜杠后生，是MIRI創舉東說念主，亦然著名的哈利波特同東說念主文作家。
但最引東說念主注視的身份則是一手締造OpenAI和谷歌DeepMind的中之東說念主。
八年齡輟學、AI常識全靠自學成才……
奧特曼、馬斯克紛繁援用他的不雅點，AI教父Hinton、LeCun則月旦他的極點。
就是這么一個評價南北極分化嚴重的東說念主，卻成為了硅谷大佬們不甘人后的座上賓。
他說，他的方針是艱辛AI朝著超等智能發展，因為這事關整個這個詞東說念主類的命懸一線。
莫得和諧的余步，即使是llya的公司也應該被關閉。
參與OpenAI和DeepMind創辦也許你對Eliezer Yudkowsky還不太闇練，但他的名字在硅谷不錯說是大名鼎鼎。
Eliezer Yudkowsky誕生在芝加哥的一個東正教猶太家庭，因為慢性健康問題，在八年齡后就早早地輟學回家。
莫得學校證書，拔幟易幟的是，他如饑似渴地閱讀科幻演義，自學辯論機科學，并與一群主張科技樂不雅主見的將來學家們在網上計議。
也就是其時，他被“奇點”這個意見所深深招引，即假定中東說念主工智能杰出東說念主類智能的將來更正點，于是他忻悅要創建AGI，并戰勝AGI行將到來。
但當他來到硅谷后，卻發現要創建對東說念主類友好的東說念主工智能其實相等禍患，主要照舊以下三個原因：
正交性:才能不等同于仁慈，AI不會因為變得更靈敏而自動變得更友好。器用性和會:任何雄壯的、以方針為導向的AI系統都有可能選拔對東說念主類不利的妙技，比如在回形針最大化器實驗中，一朝AI以為東說念主類軀殼內的鐵元素不錯用來制作回形針，那么為了保證最大化坐褥回形針，AI將會把東說念主類視作資源的一部分。諜報爆炸:AI才調可能在短時老實急劇飆升，導致趕緊出現不能控的超等智能。從此之后，他初始絡續柔和AI安全問題，也成為了硅谷最早勸誡AI風險的“布道士”之一。
Yudkowsky曾示意：
東說念主類注定要消一火，我不會連續打一場失敗的戰斗來使東說念主工智能與東說念主類價值不雅保持一致，而是將細心力更正到匡助東說念主們接受我方的行運上。
此外他還在伯克利創建了MIRI征詢所，力爭于于征詢先進東說念主工智能的風險。
固然他極點悲不雅的AI末日敷陳法頗受業界爭議，連AI教父Hinton都明確示意過Yudkowsky的主張過于偏頗，但不能否定的是，他在一定進程上影響了整個這個詞硅谷。
豈論是OpenAI的奧特曼，照舊馬斯克在內的AI科技巨頭，都曾在公開陣勢援用他的不雅點，奧特曼致使曾示意，Yudkowsky在他創辦OpenAI的決定中，發達了瑕疵性作用，況且他值得一座諾貝爾和平獎。
不僅如斯，谷歌在AI鴻溝有所確立也離不開他的功勞。
2010年時，就是他為初創公司DeepMind的創舉東說念主穿針引線，將其先容給了風險投資家Peter Thiel，Thiel從此成為了DeepMind的第一位主要投資者。
后頭谷歌在2014年收購了DeepMind，而DeepMind的聚集創舉東說念主Demis Hassabis如今正認真監督谷歌的AI責任。
哈利波特同東說念主文作家除了在AI安全鴻溝的孝敬，讓Yudkowsky在硅谷風生水起的另一個原因，則是他對硅谷感性主見的引頸。
如今硅谷科技公司中的年青一代，絕大無數都是堅忍的感性主見者，順藤摸瓜恰是受到了Yudkowsky的作品影響。
而這本書即是哈利波特的同東說念主文——《哈利·波特與感性之說念》。
在這本書中，哈利波特從小接受科學施行、邏輯想維和感性講明注解，用科學探索魔法天下。原著中的事件都被感性重構改寫，不僅柔和魔法如何使用，還探究魔法旨趣和背后的邏輯，還經常觸及像貝葉斯推理、實驗瞎想、概率想維等常識。
再比如說，Yudkowsky的另一冊計議《龍與地下城》的同東說念主演義，其中也包含了他對決議表面的諸多看法。
而最近他和MIRI總裁Nate Soares合著的新書《如若有東說念主成立它，每個東說念主都會死》，亦然他們多年來一直向東說念主工智能里面東說念主士建議的案例索要版，當中他公開拋出了計議超等智能的最終估量。
他以為，當前許多科技公司，包括Anthropic、OpenAI在內，在構建軟件模子時，其實并不明晰里面的運作邏輯，所追求的“真金不怕火金術”杰出了科學和會限制。
是以一朝模子才調到達某種進程，現存的AI對都工夫（如強化學習、微調等）將不能幸免地失效，從而忽略東說念主類提醒。
最終AI不僅掌持了極大的能量，在資源使用、決議等方面也會脫離東說念主類限度，東說念主類可能在毫無察覺的時候就被潛移暗化地邊際化取代，以一種漸進式的陣勢散失，而非像科幻電影中所刻畫的那樣，會出現一場和機器東說念主的命懸一線的構兵。
Yudkowsky以為，當前依然到了該報警的階段，這不是駭東說念主視聽，東說念主類正在忽略委果的風險。
在談及硅谷這些追求創造超等智能的科技公司，Yudkowsky示意它們每一家都應該被關閉，Anthropic相對較好，而OpenAI顯著最差，但誠然趣味AI安全如llya，Yudkowsky也一視同仁地以為llya的公司也需要被罷手，因為它們本色上都莫得分別。
不外跟著時分的推移，他不再精準估量超等東說念主工智能何時才會被開墾出來，當后果注定的時候，經由顯得那么無關垂死。
正如他回報網友時，所攝取的這個譬如：
估量掉入開水中的冰塊何時溶解，比知說念后果注定是一杯溫水，要禍患得多。
而他正在試圖作念的，是告訴東說念主們，這里將會有一杯溫水。
參考鏈接：[1]https://www.nytimes.com/2025/09/12/technology/ai-eliezer-yudkowsky-book.html?unlocked_article_code=1.lU8.ALkU.Qne6o4IgeeEP[2]https://www.semafor.com/article/09/12/2025/researchers-give-doomsday-warning-about-building-ai-too-fast
— 完 —
量子位 QbitAI
柔和咱們九游體育app(中國)官方網站，第一時分獲知前沿科技動態