被業(yè)界稱(chēng)為“AI教父”的辛頓26日現(xiàn)身在上海舉辦的2025世界人工智能大會(huì)(WAIC)。

在當(dāng)日的主題演講及對(duì)話(huà)中，這位諾獎(jiǎng)、圖靈獎(jiǎng)得主，重點(diǎn)談及人工智能安全問(wèn)題，并呼吁不同國(guó)家應(yīng)在人工智能治理上進(jìn)行合作，探索訓(xùn)練AI向善的方法。

人類(lèi)與人工智能的關(guān)系一直是公眾關(guān)心的話(huà)題。辛頓在演講中將這一關(guān)系形容為“養(yǎng)小老虎當(dāng)寵物”。

“有人把老虎當(dāng)寵物，小虎崽是很可愛(ài)的寵物。一般來(lái)說(shuō)，養(yǎng)老虎當(dāng)寵物不是個(gè)好主意。但如果要一直養(yǎng)著它，只有兩個(gè)選擇：想辦法訓(xùn)練它讓它永遠(yuǎn)不想吃了你，或者擺脫它。”

辛頓認(rèn)為，對(duì)于AI，我們沒(méi)有擺脫它的選項(xiàng)，AI對(duì)醫(yī)療保健、教育、氣候變化、新材料等太多事情都非常有用，能為幾乎所有行業(yè)提供幫助并使人類(lèi)更具生產(chǎn)力。

在當(dāng)日與上海人工智能實(shí)驗(yàn)室主任周伯文的對(duì)話(huà)中，辛頓進(jìn)一步表示：“當(dāng)今的多模態(tài)聊天機(jī)器人已經(jīng)具有意識(shí)。”

辛頓認(rèn)為，人類(lèi)正在創(chuàng)造的AI智能體已經(jīng)具備創(chuàng)造自己子目標(biāo)的能力。而一旦擁有創(chuàng)造子目標(biāo)的能力，智能體就會(huì)想做兩件事：一是生存，僅僅是為了能夠?qū)崿F(xiàn)我們賦予它們的目標(biāo)；二是更多的控制權(quán)，也僅僅是為了能夠?qū)崿F(xiàn)我們賦予它們的目標(biāo)。

因此，如果人類(lèi)想要生存，就必須找到辦法訓(xùn)練AI向善。

辛頓建議建立一個(gè)由AI安全機(jī)構(gòu)構(gòu)成的國(guó)際社群，致力于研發(fā)訓(xùn)練AI向善的技術(shù)。

他認(rèn)為，實(shí)現(xiàn)訓(xùn)練AI向善所需的技術(shù)與訓(xùn)練AI變得更聰明的技術(shù)，在某種程度上是分離的，讓一個(gè)真正聰明的AI不想接管世界，即使它比大多數(shù)人聰明得多，也非常樂(lè)意處于人類(lèi)的輔助角色。

辛頓認(rèn)為，未來(lái)會(huì)有某種通用的AI訓(xùn)練方法，來(lái)使AI變得善良。“這可能并不真實(shí)，但我們應(yīng)該探索這種可能性。”

“我們目前不知道如何做到這一點(diǎn)，長(zhǎng)遠(yuǎn)來(lái)看，這是人類(lèi)面臨的最重要的問(wèn)題。好消息是，在這個(gè)問(wèn)題上，所有國(guó)家都可以一起合作。”辛頓說(shuō)。

關(guān)鍵詞：