·“隨著氣候的變化，很容易推薦你應(yīng)該做什么：你只要停止燃燒碳。如果你這樣做，最終一切都會(huì)好起來(lái)的。但

·“隨著氣候的變化，很容易推薦你應(yīng)該做什么：你只要停止燃燒碳。如果你這樣做，最終一切都會(huì)好起來(lái)的。但對(duì)于這個(gè)（AI），你根本不清楚應(yīng)該做什么?！?/p>

(資料圖片僅供參考)

·“生物智能”在信息傳遞方面“非常低效”，相比之下，數(shù)字智能有一個(gè)巨大的優(yōu)勢(shì)：在多個(gè)副本之間共享信息很容易， “當(dāng)它們中的一個(gè)學(xué)到了一些東西時(shí)，它們就都知道了，可以輕松地存儲(chǔ)更多副本?！?/p>

被稱為“AI教父”之一的科學(xué)家杰弗里·辛頓（Geoffrey Hinton）近日頻繁接受媒體采訪，對(duì)人工智能可能存在的威脅發(fā)出警報(bào)。他稱AI可能對(duì)人類構(gòu)成比氣候變化“更緊迫”的威脅，并闡述了AI有可能超越人類的理由：數(shù)字智能在共享信息上比人腦高效得多。

被稱為“AI教父”之一的杰弗里·辛頓?！拔也幌胭H低氣候變化的價(jià)值。我不想說(shuō)，‘你不應(yīng)該擔(dān)心氣候變化’。那也是一個(gè)巨大的風(fēng)險(xiǎn)。”當(dāng)?shù)貢r(shí)間5月5日，辛頓在接受路透社采訪時(shí)表示，“但我認(rèn)為這（AI）最終可能會(huì)變得更加緊迫?！?/p>

他補(bǔ)充說(shuō)：“隨著氣候的變化，很容易推薦你應(yīng)該做什么：你只要停止燃燒碳。如果你這樣做，最終一切都會(huì)好起來(lái)的。但對(duì)于這個(gè)（AI），你根本不清楚應(yīng)該做什么?！?/p>

最近，辛頓宣布離開(kāi)已工作十年的谷歌，希望能對(duì)AI的風(fēng)險(xiǎn)大聲發(fā)出警報(bào)，同時(shí)撇開(kāi)與前雇主的關(guān)系。1986年，辛頓與他人合著開(kāi)創(chuàng)性論文《通過(guò)反向傳播算法的學(xué)習(xí)表征》，這是關(guān)于支撐AI技術(shù)的神經(jīng)網(wǎng)絡(luò)的里程碑著作。2018年，他與另外兩名AI大牛約書(shū)亞·本希奧（Yoshua Bengio）和楊立昆（Yann LeCun）一同被授予圖靈獎(jiǎng)?，F(xiàn)在，辛頓和越來(lái)越多的科技領(lǐng)袖一樣，公開(kāi)表達(dá)了對(duì)人工智能威脅的擔(dān)憂。

4月，推特首席執(zhí)行官埃隆·馬斯克與數(shù)千人一起簽署了一封公開(kāi)信，呼吁暫停開(kāi)發(fā)比GPT-4更強(qiáng)大的系統(tǒng)六個(gè)月。但辛頓不同意暫停研究。

“這完全不現(xiàn)實(shí)。”他說(shuō)， “我處于‘這是一個(gè)生存風(fēng)險(xiǎn)’的陣營(yíng)，已經(jīng)足夠接近了，我們現(xiàn)在應(yīng)該非常努力地工作，并投入大量資源來(lái)弄清楚我們能做些什么。”

“過(guò)去50年里，我一直在嘗試制造可以像大腦一樣學(xué)習(xí)的計(jì)算機(jī)模型，以便更好地理解大腦是如何學(xué)習(xí)事物的。”辛頓在接受英國(guó)《衛(wèi)報(bào)》采訪時(shí)說(shuō)，“在嘗試思考大腦如何實(shí)施所有這些模型背后的算法時(shí)，我得出結(jié)論它也許不能——也許這些大模型實(shí)際上比大腦好得多?！?/p>

辛頓說(shuō)，像人類這樣的“生物智能”具有一定優(yōu)勢(shì)：以低功率運(yùn)行，“只有30瓦，即使你在思考”，而且“每個(gè)人的大腦都有點(diǎn)不同”，這意味著人通過(guò)模仿他人來(lái)學(xué)習(xí)。但這種方法在信息傳遞方面“非常低效”。相比之下，數(shù)字智能有一個(gè)巨大的優(yōu)勢(shì)：在多個(gè)副本之間共享信息很容易， “在能量方面付出了巨大的代價(jià)，但當(dāng)它們中的一個(gè)學(xué)到了一些東西時(shí)，它們就都知道了，可以輕松地存儲(chǔ)更多副本。所以好消息是，我們已經(jīng)發(fā)現(xiàn)了永生的秘密。壞消息是，它不適合我們。”

一旦接受了數(shù)字智能有可能超越人類，就會(huì)得出令人震驚的結(jié)論。 “我曾認(rèn)為它最終會(huì)發(fā)生，但我們有足夠的時(shí)間：30到50年。（現(xiàn)在）我不這么認(rèn)為了。而且我不知道任何更聰明的東西被不那么聰明的東西控制的例子——至少，自從拜登當(dāng)選以來(lái)沒(méi)有。”他說(shuō)，“你需要想象一些比我們更聰明的東西，就像我們比青蛙更聰明一樣。它會(huì)從網(wǎng)絡(luò)上學(xué)習(xí)，它會(huì)閱讀每一本關(guān)于如何操縱人的書(shū)，并在實(shí)踐中看到它?！?/p>

辛頓認(rèn)為，關(guān)鍵時(shí)刻將在未來(lái)5到20年內(nèi)到來(lái)?！暗也慌懦粌赡甑目赡苄?。而且我仍然不排除100年的可能性——認(rèn)識(shí)到生物智能和數(shù)字智能有很大不同，而數(shù)字智能可能更好，已經(jīng)動(dòng)搖了我對(duì)‘不會(huì)很快到來(lái)’的信心。 ”

在某種程度上，仍有希望證明人工智能的潛力被夸大了。辛頓告訴《衛(wèi)報(bào)》： “我目前有很大的不確定感。大型語(yǔ)言模型可能已經(jīng)消耗了網(wǎng)絡(luò)上的所有文檔，除非它們能夠訪問(wèn)我們所有的私人數(shù)據(jù)，否則它們將無(wú)法走得更遠(yuǎn)。我不想排除這樣的可能性——我認(rèn)為對(duì)這種情況充滿信心的人都是瘋子。”

辛頓認(rèn)為，這種發(fā)展是資本主義下技術(shù)不可避免的結(jié)果?！安⒉皇钦f(shuō)谷歌一直很糟糕。事實(shí)上，谷歌是這項(xiàng)研究的領(lǐng)導(dǎo)者，支撐這一波浪潮的核心技術(shù)突破來(lái)自谷歌，谷歌決定不直接向公眾發(fā)布。谷歌擔(dān)心我們擔(dān)心的所有事情，它享有良好的聲譽(yù)，不想把事情搞砸。我認(rèn)為這是一個(gè)公平、負(fù)責(zé)任的決定。但問(wèn)題是，在資本主義制度下，如果你的競(jìng)爭(zhēng)對(duì)手那樣做，你也只能做同樣的事情?！?/p>

“我不是政策專家。我只是一個(gè)突然意識(shí)到有可能發(fā)生非常糟糕的事情的人。我希望所有了解AI的最優(yōu)秀的大腦——不僅是哲學(xué)家、政治家和政策專家，還有真正了解正在發(fā)生的事情細(xì)節(jié)的人——認(rèn)真思考這些問(wèn)題?！彼f(shuō)。

目前，歐盟的一個(gè)立法委員會(huì)已經(jīng)對(duì)上述公開(kāi)信作出回應(yīng)，呼吁美國(guó)總統(tǒng)拜登與歐盟委員會(huì)主席馮德萊恩就AI的未來(lái)方向召開(kāi)全球峰會(huì)。上周，歐盟通過(guò)了針對(duì)生成式人工智能的具有里程碑意義的提案，將迫使OpenAI等公司披露用于訓(xùn)練其模型的版權(quán)材料。

當(dāng)?shù)貢r(shí)間5月4日，包括Alphabet首席執(zhí)行官桑德?tīng)枴てげ橐粒⊿undar Pichai ）、OpenAI首席執(zhí)行官山姆·奧特曼（Sam Altman）和微軟首席執(zhí)行官薩蒂亞·納德拉（Satya Nadella）在內(nèi)的多家人工智能公司領(lǐng)導(dǎo)人在白宮與副總統(tǒng)卡馬拉·哈里斯舉行了會(huì)談?！澳銈冋谧龅氖虑榫哂芯薮蟮臐摿途薮蟮奈ｋU(xiǎn)?！卑莸窃跁?huì)議上露面時(shí)說(shuō)。

5月4日，多位頂尖人工智能企業(yè)的首席執(zhí)行官參加白宮會(huì)議。白宮新聞秘書(shū)卡琳·讓-皮埃爾（Karine Jean-Pierre）在簡(jiǎn)報(bào)會(huì)上說(shuō)：“總統(tǒng)已經(jīng)廣泛了解了 ChatGPT，并且知道它是如何運(yùn)作的?！毙令D說(shuō)，自從他在5月1日首次就AI的危險(xiǎn)發(fā)表講話以來(lái)，一直在拒絕全球媒體的采訪請(qǐng)求。 “目前有3個(gè)人想和我談?wù)劇帷ど５滤梗˙ernie Sanders，美國(guó)參議員）、查克·舒默（Chuck Schumer，美國(guó)參議院多數(shù)黨領(lǐng)袖）和埃隆·馬斯克。哦，還有白宮?！?/p>

(本文來(lái)自澎湃新聞，更多原創(chuàng)資訊請(qǐng)下載“澎湃新聞”APP)