據統計截至23日中午，極為級智這份聲明的頂級大佬簽署人數已經(jīng)超過(guò)3000人。在中國學(xué)術(shù)界，齊呼多位知名學(xué)者參與聯(lián)署此次倡議，吁暫包括姚期智、停超清華大學(xué)公共管理學(xué)院院長(cháng)薛瀾、極為級智清華大學(xué)智能產(chǎn)業(yè)研究院院長(cháng)張亞勤以及人工智能倫理與治理專(zhuān)家曾毅。頂級大佬他們的齊呼參與和主張呼應了中國長(cháng)期倡導的“安全、可靠、吁暫可控”和“以人為本”的停超人工智能發(fā)展理念。
“超級智能的極為級智前景已經(jīng)引起了人們的關(guān)注，其影響從人類(lèi)經(jīng)濟的頂級大佬落伍和權力的剝奪，自由、齊呼公民權利、吁暫尊嚴和控制權的停超喪失，到國家安全風(fēng)險，甚至可能導致人類(lèi)滅絕?！焙灻邆儑勒?。倡議明確指向，超級智能并非傳統意義上的“算法偏見(jiàn)”或“就業(yè)沖擊”問(wèn)題，而是潛在的系統性風(fēng)險；一旦AI能力全面超越人類(lèi)，其目標函數若與人類(lèi)利益錯位，可能導致不可逆的社會(huì )后果。
事實(shí)上，早在人工智能爆發(fā)元年的2023年，出于對AI的擔憂(yōu)，包括馬斯克、斯蒂夫·沃茲尼亞克在內的1000多名人工智能專(zhuān)家和行業(yè)高管就曾集體簽署過(guò)一份公開(kāi)信，呼吁人類(lèi)暫停開(kāi)發(fā)更強大的人工智能至少6個(gè)月。而更早之前，著(zhù)名物理學(xué)家霍金生前曾與多位科技界名人發(fā)表聯(lián)署公開(kāi)信，表示人工智能對人類(lèi)的威脅更甚于核武器。
“世界尚未準備好迎接不是可控工具的超級智能?！眳⑴c本次聯(lián)署的北京前瞻人工智能安全與治理研究院院長(cháng)，中國科學(xué)院自動(dòng)化研究所研究員曾毅在個(gè)人微信朋友圈直言:“目前我們還沒(méi)有堅實(shí)的科學(xué)證據和切實(shí)可行的方法來(lái)確保超級智能的安全，使其不會(huì )給人類(lèi)帶來(lái)災難性的風(fēng)險?！?/p>
所謂“超級智能”，是指在所有核心認知任務(wù)上全面超越人類(lèi)能力的人工智能形式。
“如果以50年為限，超級智能一定會(huì )到來(lái)”。這是曾毅在2024年底的央視直播中曾下過(guò)的斷語(yǔ)。當記者拋出“人工智能超過(guò)人類(lèi)智慧，擁有人類(lèi)情感的這一天是否會(huì )到來(lái)？”的問(wèn)題時(shí)，曾毅想提出的卻是另一個(gè)問(wèn)題：當超級智能到來(lái)的時(shí)候，人類(lèi)是不是能夠做好準備？
“有一個(gè)觀(guān)點(diǎn)說(shuō)AI是中立的，對此我極不認同。其實(shí)人類(lèi)的偏見(jiàn)、歧視、仇恨是會(huì )被內化到AI中，沒(méi)有任何一種構造超級智能的方式是沒(méi)有風(fēng)險的?！痹谠憧磥?lái)，一旦選定了正確的方式去構造AI，它的智能水平必然會(huì )超越人類(lèi)，但與此同時(shí)，受益于正確價(jià)值護欄的超級智能也可以是超級利他的，超級共情的，因此他認為反而是“擁有自我的AI才會(huì )令人類(lèi)社會(huì )更安全?！?/p>
曾毅曾經(jīng)預測，和現在的智能體大多使用硅基材料不同，未來(lái)的類(lèi)腦智能體有可能會(huì )使用生物材料。以前的智能體是存算分離的，類(lèi)腦智能的硬件可以存算一體，與擔心機器人取代就業(yè)機會(huì )相比，人們對超級智能體的擔憂(yōu)則因未知而充滿(mǎn)不確定性。
參與本次聯(lián)署呼吁的圖靈獎得主、深度學(xué)習三巨頭之一的約書(shū)亞·本吉奧（Yoshua Bengio）也指出，要安全地邁向“超級智能”，我們必須通過(guò)科學(xué)手段設計出在根本上無(wú)法傷害人類(lèi)的人工智能系統——無(wú)論是由于目標偏差，還是被惡意利用。同時(shí)他曾多次在公開(kāi)場(chǎng)合強調，公眾也應在塑造人類(lèi)共同未來(lái)的決策中擁有更強的話(huà)語(yǔ)權。
記者觀(guān)察到，發(fā)起本次倡議的未來(lái)生命研究所，同期還曾發(fā)布一項美國全國性民意調查，顯示公眾對當前人工智能的發(fā)展方向普遍不滿(mǎn)。僅有5%的受訪(fǎng)者支持目前“無(wú)監管的AI開(kāi)發(fā)現狀”，而高達73%的受訪(fǎng)者支持建立更為嚴格的監管機制，另有64%的受訪(fǎng)者認為，在科學(xué)界尚未就安全與可控性達成共識之前，不應開(kāi)發(fā)“超級智能”。
從宏觀(guān)趨勢看，AI風(fēng)險治理的國際分歧正在加劇。美國與歐盟正推動(dòng)不同版本的“AI法案”，其中歐盟強調透明度與可追溯性，美國則側重市場(chǎng)自律與行業(yè)標準化。有分析認為，此次倡議或可推動(dòng)G20或聯(lián)合國層面的技術(shù)倫理議題重啟，使AI治理從自律階段走向多邊協(xié)商階段。
來(lái)源：南方都市報
編輯：趙野平
相關(guān)文章
精彩導讀
熱門(mén)資訊
關(guān)注我們
