不能放任AI“一本正經(jīng)”地說謊
2025-01-09 10:10:13 來源:法治日報·法治周末
□何勇
“自2025年1月1日起,寧波市將免費乘坐公交車的年齡從70周歲降低至65周歲……”如果你問AI關(guān)于多少歲的老年人在寧波可以享受免費乘坐公交車的相關(guān)問題時,可能會得到這樣的回答。然而,這個看上去有鼻子有眼的回答,卻是一條徹頭徹尾的假消息。(1月5日《寧波日報》)
AI“一本正經(jīng)”地說謊、胡說八道,這樣的“翻車”其實已經(jīng)不是第一次了。先前在回答“13.8%和13.11%誰大誰小”“康熙有幾個兒子”等問題時,不少AI平臺紛紛給出了錯誤答案。
這種AI“一本正經(jīng)”地說謊現(xiàn)象,在專業(yè)上被稱為“AI幻覺”,是指AI平臺生成的它認為是真實存在的甚至看起來合理或可信的信息內(nèi)容,與現(xiàn)實世界事實或用戶輸入不一致的現(xiàn)象。究其原因,主要是由于AI對知識的記憶不足、理解能力不足、訓練方式固有的弊端及模型本身技術(shù)的局限性導致。
然而,在AI以前所未有的速度逐漸滲透到我們?nèi)粘I罘椒矫婷娴漠斚?,AI“一本正經(jīng)”地說謊帶來的危害卻不可小覷。大眾很可能被AI“一本正經(jīng)”說謊的信息帶偏了,AI的這些回答將誤導人們的選擇、決策,間接影響日常生活。以這則寧波免費乘坐公交車政策的AI虛假信息為例,假如已滿65周歲但未滿70周歲的老年人信以為真,根據(jù)這個錯誤信息安排出行,那么乘坐公交車時將會遭遇不必要的尷尬和麻煩,大大影響出行體驗,甚至引發(fā)矛盾和糾紛,擾亂正常的社會秩序。特別是大眾如果長期明顯依賴AI“一本正經(jīng)”的說謊信息,將會影響人們的認知和判斷能力,使人陷入信息的誤區(qū)。
科技應(yīng)讓生活更美好,應(yīng)讓AI發(fā)揮服務(wù)功能,讓AI回歸到為大眾出謀劃策的正確軌道上來,這就要求AI平臺提高站位,多管齊下,根治“AI幻覺”現(xiàn)象。
一方面,AI平臺應(yīng)不斷改進AI算法,提高對數(shù)據(jù)的篩選和分析能力,提升對信息真實性的判斷能力,確保輸入數(shù)據(jù)的準確性和完整性,從源頭減少“一本正經(jīng)”地胡說八道的虛假信息的生成。
另一方面,AI平臺在技術(shù)手段暫時無法有效遏制“AI幻覺”現(xiàn)象的現(xiàn)實情況下,應(yīng)當強化人工干預和審核機制,對AI生成的內(nèi)容進行嚴格把關(guān),及時糾正錯誤信息。特別是對于涉及到法律法規(guī)、方針政策、醫(yī)療健康等涉及大眾民生的嚴肅性、權(quán)威性信息內(nèi)容,實行人工審核應(yīng)是標配,確保其真實性和可靠性。在這點上,需要強有力的監(jiān)管進行倒逼,不能指望平臺自覺。
另外,還要普及AI常識,引導公眾提高媒介素養(yǎng)和辨識能力,不要盲目迷信AI生成信息,養(yǎng)成多從官方渠道獲取權(quán)威信息的網(wǎng)絡(luò)生活習慣。
當然,對于故意利用AI傳播虛假信息、擾亂社會秩序的行為,監(jiān)管部門也不能放縱,必須依法予以嚴厲打擊。