2024世界人工智能大會(huì )暨人工智能全球治理高級別會(huì )議7月4日在上海開(kāi)幕。“全球治理”的關(guān)鍵詞，引發(fā)業(yè)界廣泛關(guān)注。

當前，人工智能技術(shù)的快速發(fā)展，為人類(lèi)社會(huì )發(fā)展帶來(lái)了諸多紅利，同時(shí)也出現了不少風(fēng)險挑戰。如何在全球范圍內通過(guò)協(xié)同共治，實(shí)現人工智能發(fā)展與安全并重，成為各方亟需對話(huà)與合作的重大課題。

喜憂(yōu)參半的新技術(shù)

很多后世廣為采用的技術(shù)，在出現之初都曾受到抵制。古騰堡印刷術(shù)發(fā)明后，就有歐洲知識階層竭力反對，認為印刷技術(shù)將帶來(lái)大量粗制濫造的印刷品，從而敗壞文本。紡織機出現后，大批因此失業(yè)的紡織工人發(fā)起抵制運動(dòng)，甚至搗毀機器�；疖�(chē)初入清朝，有反對者稱(chēng)“鐵路一開(kāi)，則中國之車(chē)夫販豎將無(wú)以謀衣食，恐小民失其生計，必滋事端”。

但縱觀(guān)技術(shù)發(fā)展史，對新技術(shù)的懷疑者大多是受它們影響的人群，而極少是技術(shù)的發(fā)明者、研究者。如果說(shuō)有例外的話(huà)，可能要數原子彈。愛(ài)因斯坦、奧本海默等原子彈的先驅都對這項發(fā)明產(chǎn)生了深深的憂(yōu)慮，呼吁各界共同反對使用這項致命武器。

當下，人工智能就引發(fā)了它的創(chuàng )造者——全球科技界的擔憂(yōu)，或者更準確地說(shuō)是喜憂(yōu)參半，因為它有明顯造福人類(lèi)的特性，但也有難以回避的風(fēng)險和不確定性。包括馬斯克在內的多名科技界知名人士曾發(fā)表公開(kāi)信，呼吁六個(gè)月內暫停研發(fā)人工智能技術(shù)。

對人工智能的擔憂(yōu)首先來(lái)源于它在某些方面超越人類(lèi)的卓越表現。例如人工智能程序AlphaZero能夠戰勝人類(lèi)最優(yōu)秀的國際象棋選手，它的戰術(shù)出人意料，有些走子模式人類(lèi)心智甚至無(wú)法完全理解。世界冠軍卡斯帕羅夫在觀(guān)察和分析了AlphaZero的棋局后說(shuō)：“AlphaZero徹底動(dòng)搖了國際象棋的根基。”當人工智能不斷探索國際象棋的極限，那些窮其一生方才精通此術(shù)的人類(lèi)棋手能做的，卻只有觀(guān)察和學(xué)習。下棋，只是人工智能小試牛刀的游戲。它在人類(lèi)引以為豪的思維疆域里，還在不斷地挑戰邊界。

更令人憂(yōu)慮的是，人們尚無(wú)法索解人工智能的智能從何而來(lái)。人工智能的核心技術(shù)——深度學(xué)習常常被稱(chēng)為“黑盒子”，意思是說(shuō)，雖然它的代碼、參數、訓練方法是公開(kāi)透明的，但人們仍然難以追蹤、理解和預測它們如何從特定的輸入生成特定的輸出。不僅是普通人、使用者無(wú)法理解，即使那些書(shū)寫(xiě)人工智能代碼的程序員也無(wú)法預測。

人工智能既有強大的潛能，又有巨大的不確定性。面對這項攸關(guān)全人類(lèi)命運的新技術(shù)，世界各國基本達成共識，必須對話(huà)合作，構建開(kāi)放、公正、有效的治理機制，促進(jìn)人工智能技術(shù)造福于人類(lèi)。

逐漸清晰的治理思路

去年10月，中國提出《全球人工智能治理倡議》，并于7月1日在第七十八屆聯(lián)合國大會(huì )上協(xié)商一致通過(guò)。在中國和全球其他國家的持續探索下，人工智能治理的思路也逐漸清晰。

一方面，強化人工智能的全球治理，已經(jīng)到了必須重視的關(guān)鍵時(shí)刻。

監管改善了商品、基礎設施和社會(huì )。正是因為有了監管，汽車(chē)才有了安全帶和安全氣囊，我們才不用擔心牛奶會(huì )被污染，建筑物才會(huì )建造得方便所有人使用。明智的監管可以確保人工智能被人類(lèi)負責任地使用。

一個(gè)反面的案例是互聯(lián)網(wǎng)�；ヂ�(lián)網(wǎng)誕生在一個(gè)強調自由發(fā)展、弱化監管的年代，事后我們才知道，互聯(lián)網(wǎng)的設計本可以做得更好，考慮得更周全。比如，早些決定如何處理隱私和匿名問(wèn)題，也許就能減少“釣魚(yú)”和“人肉”。

清華大學(xué)人工智能?chē)�際治理研究院院長(cháng)薛瀾介紹，最近有研究表明，在經(jīng)濟發(fā)展、社會(huì )發(fā)展和環(huán)境可持續發(fā)展三大領(lǐng)域中，人工智能會(huì )對134個(gè)具體目標產(chǎn)生促進(jìn)作用，但也可能對59個(gè)具體目標產(chǎn)生阻礙作用。

這說(shuō)明，只有盡快深入全球各個(gè)領(lǐng)域研究治理辦法，才能推動(dòng)人工智能健康發(fā)展，盡可能地讓它收益最大化，同時(shí)把風(fēng)險降到最低。

上海人工智能實(shí)驗室主任、首席科學(xué)家周伯文在本屆大會(huì )上向大家展示了一張坐標圖——橫軸是人工智能技術(shù)能力的提升，縱軸是人工智能的安全維度，理想的路線(xiàn)是人工智能沿著(zhù)45度的直線(xiàn)安全與性能平衡發(fā)展，而現在的實(shí)際路線(xiàn)則是一條長(cháng)期低于45度的波動(dòng)曲線(xiàn)，顯然發(fā)展是失衡的，安全技術(shù)滯后于性能提升。據他介紹，目前99%的算力用于模型預訓練，只有不到1%用于安全對齊。

發(fā)展的失衡，也就造成了數據泄露、技術(shù)濫用和算法歧視等一系列問(wèn)題，更凸顯了人工智能全球治理的必要性和緊迫性。

另一方面，想要搞好人工智能治理，必須利益攸關(guān)方共同參與。

新思科技總裁兼首席執行官蓋思新在本屆大會(huì )演講中表示：“人工智能創(chuàng )新的步伐必須謹慎平衡其負責任發(fā)展的需求，而實(shí)現這種平衡的最佳方式就是全球協(xié)作。全球協(xié)作能夠使全世界人民從人工智能帶來(lái)的巨大進(jìn)步中受益，同時(shí)確保這些創(chuàng )新能力得到負責任的實(shí)踐。”

在圖靈獎得主姚期智看來(lái)，安全治理正在成為一個(gè)學(xué)術(shù)交叉新領(lǐng)域，包括AI、密碼學(xué)、政治、法律、企業(yè)等多領(lǐng)域需要合作。

也就是說(shuō)，除非各國政府、眾多人工智能公司甚至世界公眾都參與進(jìn)來(lái)，否則任何解決方案都不可能成功。

以各國間的合作為例，在政府合作層面，中國在《全球人工智能治理倡議》里強調廣泛與公平，提出各國無(wú)論大小、強弱，無(wú)論社會(huì )制度如何，都有平等發(fā)展和利用人工智能的權利；強調要建立更加廣泛的人工智能合作機制，共同推動(dòng)人工智能治理進(jìn)程。

這種全球合作是有先例可循的。例如，第二次世界大戰結束時(shí)，核武器引發(fā)了人們對如何使用新技術(shù)的深深恐懼和不確定性。作為回應，81個(gè)國家一致通過(guò)了國際原子能機構的章程，開(kāi)發(fā)安全、可靠、和平的核技術(shù)。還有一些全球合作模式，如國際民用航空組織，更為柔和，它不太注重執行，成員國制定自己的法律，但接受一個(gè)全球性機構的咨詢(xún)。

如今，為了建立有效合作機制共同應對人工智能帶來(lái)的全球性問(wèn)題，人們來(lái)到上海尋找答案。5日，一場(chǎng)以“人工智能新進(jìn)展與社會(huì )科學(xué)的未來(lái)”為主題的論壇將在世界人工智能大會(huì )召開(kāi)。在上海市社會(huì )科學(xué)界聯(lián)合會(huì )召集下，各界將從社會(huì )科學(xué)的整體性高度出發(fā)，展望人工智能與社會(huì )發(fā)展的交互影響，并發(fā)布人工智能全球治理年度研究項目。

4日的大會(huì )開(kāi)幕式上，上海向全球發(fā)布了《人工智能全球治理上海宣言》。顯然，主動(dòng)而強大的中國智慧，正嘗試著(zhù)引領(lǐng)人工智能駛向更加有序、安全的未來(lái)。