文|饒少陽

近年來，人工智能的發(fā)展勢(shì)如破竹，在金融、教育、醫(yī)療等行業(yè)，以及軟件編程、自動(dòng)駕駛等領(lǐng)域展現(xiàn)出極大的應(yīng)用潛力，成為驅(qū)動(dòng)全球數(shù)字經(jīng)濟(jì)發(fā)展的重要?jiǎng)恿?。與此同時(shí)，人工智能的快速發(fā)展也對(duì)實(shí)現(xiàn)技術(shù)應(yīng)用和規(guī)范約束應(yīng)用之間的平衡提出了更高要求。

人工智能治理（AI治理）是指國際組織、政府機(jī)構(gòu)和AI企業(yè)等通過建立敏捷有效的監(jiān)管方式，把AI打造成安全可信、風(fēng)險(xiǎn)可控、造福人類的新型生產(chǎn)工具的過程，旨在“促進(jìn)”和“約束”之間尋找博弈平衡，以保障人類在享受AI技術(shù)發(fā)展紅利的同時(shí)，基本權(quán)益得以保障。AI治理關(guān)系著全球經(jīng)濟(jì)的發(fā)展和人類的共同命運(yùn)，正在成為世界各國的共同課題。

全球AI治理的演變

隨著AI技術(shù)的發(fā)展和實(shí)踐，AI治理的主要內(nèi)容從鼓勵(lì)A(yù)I創(chuàng)新演變成規(guī)制和創(chuàng)新協(xié)同，當(dāng)前正走向全球合作治理，各國政府的態(tài)度和關(guān)注重點(diǎn)也在不斷發(fā)生變化。

2016年到2019年期間，全球人工智能頭部前驅(qū)企業(yè)和行業(yè)聯(lián)盟等在各大技術(shù)論壇、公開討論中不斷拋出關(guān)于科技與倫理的話題，旨在探索顛覆性技術(shù)的治理實(shí)踐，比如倫理準(zhǔn)則、算法原則等。這個(gè)階段，鼓勵(lì)A(yù)I創(chuàng)新和開放AI市場(chǎng)逐漸成為企業(yè)呼吁的主基調(diào)。為避免在全球AI競(jìng)爭(zhēng)中落伍，各國政府對(duì)AI發(fā)展也主要持包容性態(tài)度，更多關(guān)注人工智能發(fā)展和產(chǎn)業(yè)規(guī)劃布局，鮮有約束。

2020年到2022年期間，隨著AI技術(shù)應(yīng)用范圍擴(kuò)大和深度拓展，人工智能對(duì)全球經(jīng)濟(jì)和國家安全的影響日益引發(fā)關(guān)注。國際組織和研究機(jī)構(gòu)開始高度關(guān)注人工智能可能帶來的多重風(fēng)險(xiǎn)，各國政府開始廣泛開展人工智能領(lǐng)域治理框架、技術(shù)標(biāo)準(zhǔn)、應(yīng)用規(guī)范和相關(guān)政策的討論和擬定。治理內(nèi)容不僅包括AI使用數(shù)據(jù)的安全性，還包括AI算法的透明度、公正性和責(zé)任性。

2022年至今，尤其是在以生成式人工智能（GenAI）為代表的技術(shù)快速迭代和ChatGPT為代表的新型生產(chǎn)工具浮現(xiàn)后，產(chǎn)業(yè)發(fā)展實(shí)現(xiàn)躍遷，應(yīng)用范圍從專用于單一場(chǎng)景邁向多個(gè)領(lǐng)域的通用場(chǎng)景，主要能力從“感知、判斷”轉(zhuǎn)向“理解、生成”。生成式AI治理的重要性和緊迫性迅速提升，各國政府均加速了生成式AI治理政策的制定頒發(fā)。與此同時(shí)，各國政府已經(jīng)意識(shí)到單一國家難以左右生成式AI發(fā)展治理，必須依靠全球力量才能實(shí)現(xiàn)有效治理。

在此背景之下，全球AI治理主要呈現(xiàn)以下特點(diǎn)：

第一個(gè)特點(diǎn)是多元共治，治理思路多樣化。當(dāng)前，參與AI治理的主體眾多，不同主體依據(jù)自身角色屬性采取不同的AI治理手段。從國家層面來看，各主權(quán)國家正通過頒布政策文件、成立統(tǒng)籌機(jī)構(gòu)、發(fā)布指導(dǎo)框架等方式，逐步加強(qiáng)人工智能監(jiān)管與統(tǒng)籌，以確保人工智能的健康發(fā)展并應(yīng)對(duì)潛在風(fēng)險(xiǎn)；從國際組織層面來看，以聯(lián)合國為代表的國際組織在AI治理方面提出倡議、建立共識(shí)，推動(dòng)各國針對(duì)人工智能發(fā)展表達(dá)合理關(guān)切、尋求解決方案；從科技企業(yè)層面來看，科技企業(yè)通過簽署承諾書、實(shí)施最佳實(shí)踐、設(shè)定風(fēng)險(xiǎn)閾值等自律方式，大力推動(dòng)全球人工智能技術(shù)的安全和可靠。

在治理思路方面，全球AI治理的差異化也十分顯著。先是治理理念分化，歐盟堅(jiān)持倫理優(yōu)先的治理模式，警惕AI技術(shù)和AI應(yīng)用可能帶來的倫理風(fēng)險(xiǎn)；美國堅(jiān)持創(chuàng)新優(yōu)先原則，確保AI企業(yè)在技術(shù)和產(chǎn)業(yè)領(lǐng)域保持全球領(lǐng)先地位；我國則兼顧AI倫理治理和創(chuàng)新發(fā)展，秉持審慎穩(wěn)健的同時(shí)兼顧產(chǎn)業(yè)創(chuàng)新。再是治理架構(gòu)形態(tài)不一，歐盟采取高效的傘形垂直治理架構(gòu)，形成從歐盟到成員國再到企業(yè)層面的垂直治理體；美國傾向于行業(yè)主導(dǎo)、分散監(jiān)管審查的治理架構(gòu)。

第二個(gè)特點(diǎn)是全球AI治理的話語權(quán)爭(zhēng)奪顯著加劇。當(dāng)前全球AI治理規(guī)則尚不明確，各國紛紛爭(zhēng)取AI治理的制高點(diǎn)和話語權(quán)，全球各主要經(jīng)濟(jì)體和國際組織正積極研究制定AI治理規(guī)則，如歐盟理事會(huì)正式批準(zhǔn)《人工智能法案》，以期繼續(xù)在AI治理領(lǐng)域發(fā)揮“布魯塞爾效應(yīng)”，引領(lǐng)全球AI治理規(guī)則的建構(gòu)。同時(shí)，美國、加拿大、日本、韓國、新加坡、巴西等國積極布局并陸續(xù)開展實(shí)質(zhì)性立法和監(jiān)管工作，爭(zhēng)取在人工智能監(jiān)管領(lǐng)域的話語權(quán)。部分西方發(fā)達(dá)國家更是利用自己在技術(shù)和產(chǎn)業(yè)方面的優(yōu)勢(shì)地位，通過各種平臺(tái)不斷打造AI治理的“小圈子”，希望把主導(dǎo)人工智能國際規(guī)則的能力控制在少數(shù)國家內(nèi)部，尋求在全球新一輪科技治理規(guī)則制定中占據(jù)主導(dǎo)位置，并且堅(jiān)持本國利益至上的基本思路，推動(dòng)將本國國內(nèi)規(guī)則國際化。

第三個(gè)特點(diǎn)是全球AI治理對(duì)治理機(jī)制敏捷性的需求更加突出。人工智能有著演化自主、迭代迅速、權(quán)責(zé)隱蔽等特點(diǎn)，這也容易造成追責(zé)難、跟進(jìn)難和演進(jìn)失控等問題。因此，AI治理模式亟須轉(zhuǎn)變?yōu)殪`活、及時(shí)、強(qiáng)適應(yīng)的敏捷模式。

從靈活性來看，AI治理強(qiáng)調(diào)建立能適應(yīng)人工智能技術(shù)自主迭代和多場(chǎng)景切換的靈活響應(yīng)機(jī)制，在宏觀層面設(shè)定普適性約束底線，在微觀層面將算法、數(shù)據(jù)、平臺(tái)等治理對(duì)象匹配到具體場(chǎng)景中，設(shè)定個(gè)性化場(chǎng)景規(guī)則，構(gòu)建普適性與個(gè)性化相結(jié)合的靈活治理模式；從及時(shí)性來看，AI治理愈發(fā)強(qiáng)調(diào)能夠針對(duì)不同時(shí)期的需求實(shí)行不同治理模式，形成“事前正向引導(dǎo)、事中及時(shí)調(diào)適、事后全程追蹤”的動(dòng)態(tài)治理模式；從適應(yīng)性來看，AI治理愈發(fā)強(qiáng)調(diào)尊重新興技術(shù)的發(fā)展尺度，踐行包容審慎的治理原則，挑選重點(diǎn)領(lǐng)域開展治理試點(diǎn)測(cè)試，不斷探索監(jiān)管沙盒式試驗(yàn)性監(jiān)管制度（指先劃定一個(gè)范圍，對(duì)在“盒子”里面的企業(yè)采取包容審慎的監(jiān)管措施，同時(shí)杜絕將問題擴(kuò)散到“盒子”外面，屬于在可控的范圍之內(nèi)實(shí)行容錯(cuò)糾錯(cuò)機(jī)制，并由監(jiān)管部門對(duì)運(yùn)行過程進(jìn)行全過程監(jiān)管，以保證測(cè)試的安全性并作出最終的評(píng)價(jià)），講究治理手段軟法先行，充分引導(dǎo)與保障新興技術(shù)發(fā)展，提供試錯(cuò)機(jī)會(huì)。

構(gòu)建中國特色AI治理體系

在充分借鑒國外先進(jìn)經(jīng)驗(yàn)的同時(shí)，我們還需探索構(gòu)建具有中國特色AI治理體系，促進(jìn)產(chǎn)業(yè)的健康平穩(wěn)發(fā)展。

一是“軟硬兼施”，探索特色實(shí)踐。

一方面，軟法先行，以軟促新。充分發(fā)揮組織倡議、行業(yè)引導(dǎo)、實(shí)踐案例的“軟”作用。引入風(fēng)險(xiǎn)分類分級(jí)管理措施，通過監(jiān)管沙盒機(jī)制允許企業(yè)在受控環(huán)境中測(cè)試人工智能產(chǎn)品，提升創(chuàng)新能力和風(fēng)險(xiǎn)控制水平；發(fā)揮標(biāo)準(zhǔn)的引領(lǐng)作用，推動(dòng)制定有關(guān)人工智能公平性、可解釋性和安全性的國際標(biāo)準(zhǔn)及團(tuán)體標(biāo)準(zhǔn)，形成人工智能倫理治理的示范經(jīng)驗(yàn)。另一方面，硬法善后，以硬止險(xiǎn)。構(gòu)建與AI治理配套的法律法規(guī)體系。重點(diǎn)針對(duì)算法偏見、數(shù)據(jù)泄露和深度偽造等風(fēng)險(xiǎn)，開發(fā)相應(yīng)的風(fēng)險(xiǎn)評(píng)估與監(jiān)測(cè)工具，逐步完善相關(guān)法律法規(guī)，對(duì)高風(fēng)險(xiǎn)領(lǐng)域設(shè)置紅線“硬”約束。

二是多元協(xié)同，提升國際話語權(quán)。

在人工智能領(lǐng)域，我國需要匯聚多方力量，通過協(xié)同合作與對(duì)話，推動(dòng)人工智能的高質(zhì)量發(fā)展。為此，應(yīng)鼓勵(lì)我國政府、企業(yè)、學(xué)術(shù)機(jī)構(gòu)、非政府組織等多元主體在全球治理平臺(tái)上就算法倫理、隱私保護(hù)等熱點(diǎn)問題發(fā)聲，推動(dòng)形成有效的監(jiān)管框架，明確人工智能應(yīng)用的邊界和責(zé)任歸屬，逐步實(shí)現(xiàn)從“規(guī)則適應(yīng)者”向“規(guī)則制定者”的轉(zhuǎn)變。同時(shí)，我國應(yīng)積極融入全球AI治理進(jìn)程，通過舉辦行業(yè)峰會(huì)、設(shè)立國際聯(lián)合研究機(jī)構(gòu)、深化跨國科技合作項(xiàng)目等方式，促進(jìn)各方共識(shí)的形成，凝聚具有中國特色的價(jià)值主張，并將中國倡議轉(zhuǎn)化為國際實(shí)踐。

三是開放合作，彌合全球智能鴻溝。

我國應(yīng)進(jìn)一步加強(qiáng)國際交流合作，分享先進(jìn)技術(shù)和實(shí)踐經(jīng)驗(yàn)，參與全球人工智能產(chǎn)業(yè)鏈分工，并積累治理經(jīng)驗(yàn)，為構(gòu)建更加平衡和公正的全球科技生態(tài)奠定基礎(chǔ)。此外，應(yīng)繼續(xù)支持聯(lián)合國在全球AI治理中的主導(dǎo)作用，創(chuàng)新多邊合作機(jī)制，深入理解發(fā)展中國家的核心關(guān)切，推動(dòng)國際社會(huì)在人工智能領(lǐng)域形成廣泛共識(shí)，確?！叭蚰戏健痹谌斯ぶ悄馨l(fā)展進(jìn)程中平等受益。

展望未來，AI治理將打破國界，協(xié)同發(fā)展，加速治理理念向可操作方案的轉(zhuǎn)化。AI技術(shù)的發(fā)展將進(jìn)一步推動(dòng)治理方式的升級(jí)，繼續(xù)向智能、敏捷、多元共治的方向邁進(jìn)，實(shí)踐“用AI治理AI”，“用AI促進(jìn)AI”。

（本文作者系中國電信研究院戰(zhàn)略發(fā)展研究所所長(zhǎng)）