21世紀(jì)經(jīng)濟報道 記者 鄭雪 北京報道

報告全文和下載鏈接：《中國AI治理的獨立思考——生成式人工智能發(fā)展與監(jiān)管白皮書》

新一輪人工智能飛速發(fā)展，如何平衡發(fā)展與安全成為此次發(fā)展過程中的一道必答題。

8月1日，南財合規(guī)科技研究院與觀韜中茂律師事務(wù)所推出《中國AI治理的獨立思考——生成式人工智能發(fā)展與監(jiān)管白皮書》（以下簡稱白皮書），通過分析生成式AI的發(fā)展現(xiàn)狀、政策導(dǎo)向、實操中面臨的風(fēng)險，以及各國的監(jiān)管路徑，以期為未來的AI治理提供有益思路。

生成式AI技術(shù)，是指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)。生成式AI本質(zhì)在于“創(chuàng)造未知世界”。

大模型是本輪生成式AI競賽的殺手锏。各個科技公司加碼大模型，上演“百模大戰(zhàn)”。白皮書梳理了來自互聯(lián)網(wǎng)公司、AI公司、科研院所、教育行業(yè)、車企等發(fā)布的超過30個大模型。此外，白皮書還梳理了當(dāng)前接入類ChatGPT技術(shù)應(yīng)用，將其整理為辦公軟件、社交文娛、商業(yè)營銷、家庭助理、智慧醫(yī)療六大類，并具體細(xì)分為16個應(yīng)用方向。

白皮書指出，生成式AI當(dāng)前主要面臨四大類風(fēng)險：一是知識產(chǎn)權(quán)侵權(quán)風(fēng)險，需要關(guān)注著作權(quán)侵權(quán)、商業(yè)秘密侵犯、不正當(dāng)競爭和反壟斷風(fēng)險；二是算法風(fēng)險，面臨算法黑箱、算法歧視、算法決策、算法失真風(fēng)險；三是數(shù)據(jù)安全與個人信息保護(hù)風(fēng)險，需要考慮個人信息保護(hù)、數(shù)據(jù)跨境風(fēng)險、數(shù)據(jù)安全風(fēng)險等問題；四是倫理道德風(fēng)險，需要關(guān)注生成式AI發(fā)展過程中帶來的偏見、刻板印象、歧視等問題。

值得關(guān)注的是，白皮書梳理了歐盟、美國的人工智能監(jiān)管框架，以期為中國人工智能治理思路提供參考。

白皮書指出，美國其未在聯(lián)邦或者州層面制定相關(guān)的法律文件來規(guī)制生成式AI的應(yīng)用以及其可能帶來的風(fēng)險，而是采取以美國國家標(biāo)準(zhǔn)與技術(shù)研究院的《人工智能風(fēng)險管理框架》（以下簡稱框架）為主引導(dǎo)實踐的治理框架，框架概述了可信的人工智能系統(tǒng)的特征，即可解釋性、透明度和問責(zé)制。美國關(guān)于生成式AI應(yīng)用的治理框架反映了其對于創(chuàng)新技術(shù)的一貫態(tài)度，即鼓勵科技發(fā)展，著力保持自身在全球科技創(chuàng)新中的領(lǐng)導(dǎo)地位。

歐盟略顯保守，其采用了以人工智能法案為主的風(fēng)險分級監(jiān)管治理框架，將人工智能技術(shù)可能對人的健康和安全或基本權(quán)利造成的風(fēng)險程度分為四個級別：不可接受的風(fēng)險、高風(fēng)險、有限風(fēng)險和最小風(fēng)險，并分別采取不同的限制措施。

具體到中國來看，白皮書指出，“發(fā)展”正逐漸成為中國AI治理的第一視角。中國在7月發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》，提及“堅持目標(biāo)導(dǎo)向和問題導(dǎo)向”，單設(shè)了“技術(shù)發(fā)展與治理”章節(jié)，同時也新增了不少有力措施來鼓勵生成式AI技術(shù)發(fā)展，如探索優(yōu)化應(yīng)用場景、加強基礎(chǔ)技術(shù)自主創(chuàng)新、推動公共訓(xùn)練數(shù)據(jù)資源平臺建設(shè)、豁免責(zé)任等。

針對生成式AI商業(yè)化中出現(xiàn)的一系列風(fēng)險，開發(fā)者又該如何應(yīng)對？白皮書亦給出了答案。

白皮書提出了以風(fēng)險控制為核心目標(biāo)導(dǎo)向的AI風(fēng)險治理框架。風(fēng)險治理框架的核心為風(fēng)險識別-風(fēng)險度量-應(yīng)對策略-控制措施。

風(fēng)險識別：關(guān)注知識產(chǎn)權(quán)、算法、數(shù)據(jù)安全以及個人信息等方面帶來的風(fēng)險。同時提醒關(guān)注未知風(fēng)險。

風(fēng)險度量：典型的風(fēng)險衡量方法需要開發(fā)者將測量或估計的影響和影響可能性相乘或定性組合為風(fēng)險評分(風(fēng)險≈影響x可能性)。試圖完全消除負(fù)面風(fēng)險在實踐中可能適得其反，因為并非所有事件和風(fēng)險都可以消除。

應(yīng)對策略：開發(fā)者針對已識別的生成式AI商業(yè)化應(yīng)用風(fēng)險的應(yīng)對治理模塊，目前包括以下模塊：協(xié)議安排、內(nèi)部政策、技術(shù)性限制、數(shù)據(jù)治理、動態(tài)測試及評估、透明度實踐等。

控制措施：依據(jù)風(fēng)險應(yīng)對策略，確定的具體風(fēng)險控制節(jié)點，需要開發(fā)者內(nèi)部具體落實的措施。

此外，生成式AI應(yīng)用風(fēng)險事件庫也是一個值得借鑒的行業(yè)實踐。AI風(fēng)險事件數(shù)據(jù)庫通過整理和分析生成式AI商業(yè)化應(yīng)用的開發(fā)和部署在現(xiàn)實商業(yè)領(lǐng)域中造成的或可能造成不良后果或者損害的情況，形成相應(yīng)數(shù)據(jù)庫。