·“隨著氣候的變化，很容易推薦你應(yīng)該做什么：你只要停止燃燒碳。如果你這樣做，最終一切都會好起來的。但對于這個（AI），你根本不清楚應(yīng)該做什么。”

(資料圖片僅供參考)

·“生物智能”在信息傳遞方面“非常低效”，相比之下，數(shù)字智能有一個巨大的優(yōu)勢：在多個副本之間共享信息很容易， “當(dāng)它們中的一個學(xué)到了一些東西時，它們就都知道了，可以輕松地存儲更多副本。”

被稱為“AI教父”之一的科學(xué)家杰弗里·辛頓（Geoffrey Hinton）近日頻繁接受媒體采訪，對人工智能可能存在的威脅發(fā)出警報。他稱AI可能對人類構(gòu)成比氣候變化“更緊迫”的威脅，并闡述了AI有可能超越人類的理由：數(shù)字智能在共享信息上比人腦高效得多。

被稱為“AI教父”之一的杰弗里·辛頓。“我不想貶低氣候變化的價值。我不想說，‘你不應(yīng)該擔(dān)心氣候變化’。那也是一個巨大的風(fēng)險。”當(dāng)?shù)貢r間5月5日，辛頓在接受路透社采訪時表示，“但我認為這（AI）最終可能會變得更加緊迫。”

他補充說：“隨著氣候的變化，很容易推薦你應(yīng)該做什么：你只要停止燃燒碳。如果你這樣做，最終一切都會好起來的。但對于這個（AI），你根本不清楚應(yīng)該做什么。”

最近，辛頓宣布離開已工作十年的谷歌，希望能對AI的風(fēng)險大聲發(fā)出警報，同時撇開與前雇主的關(guān)系。1986年，辛頓與他人合著開創(chuàng)性論文《通過反向傳播算法的學(xué)習(xí)表征》，這是關(guān)于支撐AI技術(shù)的神經(jīng)網(wǎng)絡(luò)的里程碑著作。2018年，他與另外兩名AI大牛約書亞·本希奧（Yoshua Bengio）和楊立昆（Yann LeCun）一同被授予圖靈獎。現(xiàn)在，辛頓和越來越多的科技領(lǐng)袖一樣，公開表達了對人工智能威脅的擔(dān)憂。

4月，推特首席執(zhí)行官埃隆·馬斯克與數(shù)千人一起簽署了一封公開信，呼吁暫停開發(fā)比GPT-4更強大的系統(tǒng)六個月。但辛頓不同意暫停研究。

“這完全不現(xiàn)實。”他說， “我處于‘這是一個生存風(fēng)險’的陣營，已經(jīng)足夠接近了，我們現(xiàn)在應(yīng)該非常努力地工作，并投入大量資源來弄清楚我們能做些什么。”

“過去50年里，我一直在嘗試制造可以像大腦一樣學(xué)習(xí)的計算機模型，以便更好地理解大腦是如何學(xué)習(xí)事物的。”辛頓在接受英國《衛(wèi)報》采訪時說，“在嘗試思考大腦如何實施所有這些模型背后的算法時，我得出結(jié)論它也許不能——也許這些大模型實際上比大腦好得多。”

辛頓說，像人類這樣的“生物智能”具有一定優(yōu)勢：以低功率運行，“只有30瓦，即使你在思考”，而且“每個人的大腦都有點不同”，這意味著人通過模仿他人來學(xué)習(xí)。但這種方法在信息傳遞方面“非常低效”。相比之下，數(shù)字智能有一個巨大的優(yōu)勢：在多個副本之間共享信息很容易， “在能量方面付出了巨大的代價，但當(dāng)它們中的一個學(xué)到了一些東西時，它們就都知道了，可以輕松地存儲更多副本。所以好消息是，我們已經(jīng)發(fā)現(xiàn)了永生的秘密。壞消息是，它不適合我們。”

一旦接受了數(shù)字智能有可能超越人類，就會得出令人震驚的結(jié)論。 “我曾認為它最終會發(fā)生，但我們有足夠的時間：30到50年。（現(xiàn)在）我不這么認為了。而且我不知道任何更聰明的東西被不那么聰明的東西控制的例子——至少，自從拜登當(dāng)選以來沒有。”他說，“你需要想象一些比我們更聰明的東西，就像我們比青蛙更聰明一樣。它會從網(wǎng)絡(luò)上學(xué)習(xí)，它會閱讀每一本關(guān)于如何操縱人的書，并在實踐中看到它。”

辛頓認為，關(guān)鍵時刻將在未來5到20年內(nèi)到來。“但我不排除一兩年的可能性。而且我仍然不排除100年的可能性——認識到生物智能和數(shù)字智能有很大不同，而數(shù)字智能可能更好，已經(jīng)動搖了我對‘不會很快到來’的信心。 ”

在某種程度上，仍有希望證明人工智能的潛力被夸大了。辛頓告訴《衛(wèi)報》： “我目前有很大的不確定感。大型語言模型可能已經(jīng)消耗了網(wǎng)絡(luò)上的所有文檔，除非它們能夠訪問我們所有的私人數(shù)據(jù)，否則它們將無法走得更遠。我不想排除這樣的可能性——我認為對這種情況充滿信心的人都是瘋子。”

辛頓認為，這種發(fā)展是資本主義下技術(shù)不可避免的結(jié)果。“并不是說谷歌一直很糟糕。事實上，谷歌是這項研究的領(lǐng)導(dǎo)者，支撐這一波浪潮的核心技術(shù)突破來自谷歌，谷歌決定不直接向公眾發(fā)布。谷歌擔(dān)心我們擔(dān)心的所有事情，它享有良好的聲譽，不想把事情搞砸。我認為這是一個公平、負責(zé)任的決定。但問題是，在資本主義制度下，如果你的競爭對手那樣做，你也只能做同樣的事情。”

“我不是政策專家。我只是一個突然意識到有可能發(fā)生非常糟糕的事情的人。我希望所有了解AI的最優(yōu)秀的大腦——不僅是哲學(xué)家、政治家和政策專家，還有真正了解正在發(fā)生的事情細節(jié)的人——認真思考這些問題。”他說。

目前，歐盟的一個立法委員會已經(jīng)對上述公開信作出回應(yīng)，呼吁美國總統(tǒng)拜登與歐盟委員會主席馮德萊恩就AI的未來方向召開全球峰會。上周，歐盟通過了針對生成式人工智能的具有里程碑意義的提案，將迫使OpenAI等公司披露用于訓(xùn)練其模型的版權(quán)材料。

當(dāng)?shù)貢r間5月4日，包括Alphabet首席執(zhí)行官桑德爾·皮查伊（Sundar Pichai ）、OpenAI首席執(zhí)行官山姆·奧特曼（Sam Altman）和微軟首席執(zhí)行官薩蒂亞·納德拉（Satya Nadella）在內(nèi)的多家人工智能公司領(lǐng)導(dǎo)人在白宮與副總統(tǒng)卡馬拉·哈里斯舉行了會談。“你們正在做的事情具有巨大的潛力和巨大的危險。”拜登在會議上露面時說。

5月4日，多位頂尖人工智能企業(yè)的首席執(zhí)行官參加白宮會議。白宮新聞秘書卡琳·讓-皮埃爾（Karine Jean-Pierre）在簡報會上說：“總統(tǒng)已經(jīng)廣泛了解了 ChatGPT，并且知道它是如何運作的。”辛頓說，自從他在5月1日首次就AI的危險發(fā)表講話以來，一直在拒絕全球媒體的采訪請求。 “目前有3個人想和我談?wù)劇帷ど５滤梗˙ernie Sanders，美國參議員）、查克·舒默（Chuck Schumer，美國參議院多數(shù)黨領(lǐng)袖）和埃隆·馬斯克。哦，還有白宮。”

(本文來自澎湃新聞，更多原創(chuàng)資訊請下載“澎湃新聞”APP)