·“隨著氣候的變化，很容易推薦你應(yīng)該做什么：你只要停止燃燒碳。如果你這樣做，最終一切都會好起來的。但對于這個（AI），你根本不清楚應(yīng)該做什么?！?/p>

(資料圖片僅供參考)

·“生物智能”在信息傳遞方面“非常低效”，相比之下，數(shù)字智能有一個巨大的優(yōu)勢：在多個副本之間共享信息很容易， “當(dāng)它們中的一個學(xué)到了一些東西時，它們就都知道了，可以輕松地存儲更多副本。”

被稱為“AI教父”之一的科學(xué)家杰弗里·辛頓（Geoffrey Hinton）近日頻繁接受媒體采訪，對人工智能可能存在的威脅發(fā)出警報。他稱AI可能對人類構(gòu)成比氣候變化“更緊迫”的威脅，并闡述了AI有可能超越人類的理由：數(shù)字智能在共享信息上比人腦高效得多。

被稱為“AI教父”之一的杰弗里·辛頓。“我不想貶低氣候變化的價值。我不想說，‘你不應(yīng)該擔(dān)心氣候變化’。那也是一個巨大的風(fēng)險?！碑?dāng)?shù)貢r間5月5日，辛頓在接受路透社采訪時表示，“但我認(rèn)為這（AI）最終可能會變得更加緊迫?！?/p>

他補充說：“隨著氣候的變化，很容易推薦你應(yīng)該做什么：你只要停止燃燒碳。如果你這樣做，最終一切都會好起來的。但對于這個（AI），你根本不清楚應(yīng)該做什么?！?/p>

最近，辛頓宣布離開已工作十年的谷歌，希望能對AI的風(fēng)險大聲發(fā)出警報，同時撇開與前雇主的關(guān)系。1986年，辛頓與他人合著開創(chuàng)性論文《通過反向傳播算法的學(xué)習(xí)表征》，這是關(guān)于支撐AI技術(shù)的神經(jīng)網(wǎng)絡(luò)的里程碑著作。2018年，他與另外兩名AI大牛約書亞·本希奧（Yoshua Bengio）和楊立昆（Yann LeCun）一同被授予圖靈獎。現(xiàn)在，辛頓和越來越多的科技領(lǐng)袖一樣，公開表達(dá)了對人工智能威脅的擔(dān)憂。

4月，推特首席執(zhí)行官埃隆·馬斯克與數(shù)千人一起簽署了一封公開信，呼吁暫停開發(fā)比GPT-4更強大的系統(tǒng)六個月。但辛頓不同意暫停研究。

“這完全不現(xiàn)實。”他說， “我處于‘這是一個生存風(fēng)險’的陣營，已經(jīng)足夠接近了，我們現(xiàn)在應(yīng)該非常努力地工作，并投入大量資源來弄清楚我們能做些什么。”

“過去50年里，我一直在嘗試制造可以像大腦一樣學(xué)習(xí)的計算機模型，以便更好地理解大腦是如何學(xué)習(xí)事物的。”辛頓在接受英國《衛(wèi)報》采訪時說，“在嘗試思考大腦如何實施所有這些模型背后的算法時，我得出結(jié)論它也許不能——也許這些大模型實際上比大腦好得多?！?/p>

辛頓說，像人類這樣的“生物智能”具有一定優(yōu)勢：以低功率運行，“只有30瓦，即使你在思考”，而且“每個人的大腦都有點不同”，這意味著人通過模仿他人來學(xué)習(xí)。但這種方法在信息傳遞方面“非常低效”。相比之下，數(shù)字智能有一個巨大的優(yōu)勢：在多個副本之間共享信息很容易， “在能量方面付出了巨大的代價，但當(dāng)它們中的一個學(xué)到了一些東西時，它們就都知道了，可以輕松地存儲更多副本。所以好消息是，我們已經(jīng)發(fā)現(xiàn)了永生的秘密。壞消息是，它不適合我們?！?/p>

一旦接受了數(shù)字智能有可能超越人類，就會得出令人震驚的結(jié)論。 “我曾認(rèn)為它最終會發(fā)生，但我們有足夠的時間：30到50年。（現(xiàn)在）我不這么認(rèn)為了。而且我不知道任何更聰明的東西被不那么聰明的東西控制的例子——至少，自從拜登當(dāng)選以來沒有?！彼f，“你需要想象一些比我們更聰明的東西，就像我們比青蛙更聰明一樣。它會從網(wǎng)絡(luò)上學(xué)習(xí)，它會閱讀每一本關(guān)于如何操縱人的書，并在實踐中看到它?！?/p>

辛頓認(rèn)為，關(guān)鍵時刻將在未來5到20年內(nèi)到來?！暗也慌懦粌赡甑目赡苄?。而且我仍然不排除100年的可能性——認(rèn)識到生物智能和數(shù)字智能有很大不同，而數(shù)字智能可能更好，已經(jīng)動搖了我對‘不會很快到來’的信心。 ”

在某種程度上，仍有希望證明人工智能的潛力被夸大了。辛頓告訴《衛(wèi)報》： “我目前有很大的不確定感。大型語言模型可能已經(jīng)消耗了網(wǎng)絡(luò)上的所有文檔，除非它們能夠訪問我們所有的私人數(shù)據(jù)，否則它們將無法走得更遠(yuǎn)。我不想排除這樣的可能性——我認(rèn)為對這種情況充滿信心的人都是瘋子?！?/p>

辛頓認(rèn)為，這種發(fā)展是資本主義下技術(shù)不可避免的結(jié)果?！安⒉皇钦f谷歌一直很糟糕。事實上，谷歌是這項研究的領(lǐng)導(dǎo)者，支撐這一波浪潮的核心技術(shù)突破來自谷歌，谷歌決定不直接向公眾發(fā)布。谷歌擔(dān)心我們擔(dān)心的所有事情，它享有良好的聲譽，不想把事情搞砸。我認(rèn)為這是一個公平、負(fù)責(zé)任的決定。但問題是，在資本主義制度下，如果你的競爭對手那樣做，你也只能做同樣的事情?！?/p>

“我不是政策專家。我只是一個突然意識到有可能發(fā)生非常糟糕的事情的人。我希望所有了解AI的最優(yōu)秀的大腦——不僅是哲學(xué)家、政治家和政策專家，還有真正了解正在發(fā)生的事情細(xì)節(jié)的人——認(rèn)真思考這些問題?！彼f。

目前，歐盟的一個立法委員會已經(jīng)對上述公開信作出回應(yīng)，呼吁美國總統(tǒng)拜登與歐盟委員會主席馮德萊恩就AI的未來方向召開全球峰會。上周，歐盟通過了針對生成式人工智能的具有里程碑意義的提案，將迫使OpenAI等公司披露用于訓(xùn)練其模型的版權(quán)材料。

當(dāng)?shù)貢r間5月4日，包括Alphabet首席執(zhí)行官桑德爾·皮查伊（Sundar Pichai ）、OpenAI首席執(zhí)行官山姆·奧特曼（Sam Altman）和微軟首席執(zhí)行官薩蒂亞·納德拉（Satya Nadella）在內(nèi)的多家人工智能公司領(lǐng)導(dǎo)人在白宮與副總統(tǒng)卡馬拉·哈里斯舉行了會談。“你們正在做的事情具有巨大的潛力和巨大的危險?！卑莸窃跁h上露面時說。

5月4日，多位頂尖人工智能企業(yè)的首席執(zhí)行官參加白宮會議。白宮新聞秘書卡琳·讓-皮埃爾（Karine Jean-Pierre）在簡報會上說：“總統(tǒng)已經(jīng)廣泛了解了 ChatGPT，并且知道它是如何運作的?！毙令D說，自從他在5月1日首次就AI的危險發(fā)表講話以來，一直在拒絕全球媒體的采訪請求。 “目前有3個人想和我談?wù)劇帷ど５滤梗˙ernie Sanders，美國參議員）、查克·舒默（Chuck Schumer，美國參議院多數(shù)黨領(lǐng)袖）和埃隆·馬斯克。哦，還有白宮?！?/p>

(本文來自澎湃新聞，更多原創(chuàng)資訊請下載“澎湃新聞”APP)