如何平衡AI應用與治理
2025-03-27 15:09:19 來源:法治日報·法治周末
《法治周末》記者 仇飛
“可進人數(shù)37人,已進人數(shù)113人”,3月26日上午10時45分,剛到博鰲亞洲論壇2025年年會“AI:如何做到應用與治理的平衡推進”分論壇的開會時間,會場門口的顯示屏已顯示“超載”狀態(tài)。
AI有多熱?從參會人員對這場在博鰲展開的AI大討論的關注度中,可見一斑。
分論壇上,與會嘉賓圍繞如何全面科學地評估AI給人類帶來的潛在影響和風險、如何實現(xiàn)AI的全球治理等話題進行探討。
安全和發(fā)展可以并行不悖
“過去一年人工智能取得了巨大進展,規(guī)?;l(fā)展雖有所放緩,但推理階段的創(chuàng)新成為新的重點?!鼻迦A大學智能產(chǎn)業(yè)研究院院長張亞勤認為,DeepSeek的出現(xiàn)帶來了震撼性的創(chuàng)新,“AI正從信息智能向物理智能(如無人駕駛、機器人)演進,并進一步邁向生物智能(如腦機接口、生物體大模型)”。
例如,無人駕駛技術的發(fā)展,百度在武漢的蘿卜快跑項目,展示了AI在具身智能領域的巨大潛力。
中國科學院自動化研究所研究員、聯(lián)合國人工智能高層顧問機構專家曾毅則認為,DeepSeek在小數(shù)據(jù)、小算力條件下實現(xiàn)了更高的智能表現(xiàn),其關鍵在于采用了類似人腦丘腦的“路由機制”優(yōu)化算力分配,而非整體更新所有神經(jīng)網(wǎng)絡權重。這種機制雖非完全模仿人腦,但在計算進化上與生物演化異曲同工。未來人工智能的發(fā)展不僅要在行為層面達到類人水平,還將在計算機制上受到自然演化規(guī)律的啟發(fā),不僅學習機制,甚至發(fā)育機制都會成為借鑒對象。
對于AI發(fā)展與安全的關系,在張亞勤看來,生成式AI通過智能體加速發(fā)展,但智能體的不可控性帶來了更大的安全風險。
曾毅則認為,過去的討論認為人工智能的發(fā)展速度超前,而安全護欄建設滯后,導致風險。經(jīng)過探索,科學家們找到了提升安全性的技術方案,提升AI模型的安全能力對問題求解能力的影響微乎其微,“說明安全與發(fā)展可以并行不悖”。
AI 治理的路徑選擇
解決AI安全與發(fā)展的問題,迫切需要在AI治理的路徑上做出選擇。
中國社科院大學教授、國務院原副秘書長江小涓認為,AI治理的進展有限,從阿瑟馬人工智能原則提出至今,許多治理原則只是停留在討論層面,缺乏落地執(zhí)行,實踐才是最大挑戰(zhàn)。
“DeepSeek的出現(xiàn)打破了AI行業(yè)的壟斷,從寡頭控制變?yōu)檎嬲氖袌龈偁帲笰I從技術能力轉向產(chǎn)業(yè)能力?!苯′笍娬{,在競爭市場中,市場機制能夠自發(fā)解決許多問題,不必過度依賴高層政策或原則性討論。
芬蘭前總理埃斯科·阿霍則從歷史和技術發(fā)展的角度,提出需要通過國際合作和標準制定來實現(xiàn)AI的均衡發(fā)展。他認為,AI治理需要多方利益相關者的參與,包括企業(yè)、政府和科學家,共同形成專家組或委員會。
曾毅建議,應發(fā)揮聯(lián)合國等國際組織的核心作用,通過全球合作來推動AI技術的公平應用。
VIVO首席安全官魯京輝則提出,AI治理需要形成共識,但僅靠共識是不夠的,還需考慮地緣政治等因素。他強調,企業(yè)需要一種動態(tài)、敏捷的治理模式來平衡發(fā)展與安全。