亚洲精品乱拍国产一区二区三区,中文亚洲爆乳av无码专区,在教室伦流澡到高潮h强圩,亚洲欧美国产精品专区久久,夜夜躁狠狠躁2021

視覺中國(guó)供圖

《法治周末》記者 管依萌

頂流男星在澳門輸?shù)?0億、張文宏醫(yī)生發(fā)帶貨視頻……AI造假、AI換臉、AI魔改、AI造謠等現(xiàn)象頻發(fā)，AI工具讓犯罪成本大大降低，人們被AI技術(shù)帶來的亂象困擾已久。

近年來，生成式人工智能、深度合成等新技術(shù)快速發(fā)展，為生成合成文本、圖片、音頻、視頻等信息提供了便利，在促進(jìn)經(jīng)濟(jì)發(fā)展、豐富網(wǎng)上內(nèi)容、便利公眾生活的同時(shí)，也造成虛假信息傳播、破壞網(wǎng)絡(luò)生態(tài)等問題。社會(huì)廣泛呼吁加快專門立法、強(qiáng)化技術(shù)監(jiān)管、壓實(shí)平臺(tái)責(zé)任。

近日，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡(jiǎn)稱《標(biāo)識(shí)辦法》），自2025年9月1日起施行。配套的強(qiáng)制性國(guó)家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識(shí)方法》同步實(shí)施。

國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示，《標(biāo)識(shí)辦法》旨在促進(jìn)人工智能健康發(fā)展，規(guī)范人工智能生成合成內(nèi)容標(biāo)識(shí)，保護(hù)公民、法人和其他組織合法權(quán)益，維護(hù)社會(huì)公共利益。

AI造假亂象頻發(fā)

中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心發(fā)布的第55次《中國(guó)互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》披露，截至2024年12月，我國(guó)有3.31億人表示自己聽說過生成式人工智能產(chǎn)品，占整體人口的23.5%；有2.49億人表示自己使用過生成式人工智能產(chǎn)品，占整體人口17.7%。在生成式人工智能用戶中，利用生成式人工智能產(chǎn)品回答問題的用戶最為廣泛，占比達(dá)77.6%。

國(guó)家網(wǎng)信辦發(fā)布的數(shù)據(jù)顯示，截至2024年12月31日，共302款生成式人工智能服務(wù)在國(guó)家網(wǎng)信辦完成備案，其中2024年新增238款備案；對(duì)于通過API接口或其他方式直接調(diào)用已備案模型能力的生成式人工智能應(yīng)用或功能，2024年共105款生成式人工智能應(yīng)用或功能在地方網(wǎng)信辦完成登記。

各行各業(yè)都在積極擁抱生成式人工智能帶來的智能化升級(jí)浪潮。天眼查數(shù)據(jù)顯示，截至目前，我國(guó)擁有超過200萬家“人工智能”相關(guān)企業(yè)。

然而，北京盈科（上海）律師事務(wù)所數(shù)智化建設(shè)委員會(huì)副主任李悅表示，隨著生成式人工智能技術(shù)的突飛猛進(jìn)，海量AI創(chuàng)作的文本、圖像、語音、視頻在豐富作品內(nèi)容的同時(shí)，也帶來了深度偽造、虛假信息泛濫的新挑戰(zhàn)，從而引發(fā)新的社會(huì)沖突。不存在的言論、虛構(gòu)的圖片、以假亂真的虛假新聞、被換的面部和聲音嚴(yán)重?cái)_亂公眾對(duì)真實(shí)事件的認(rèn)知。更有甚者，一些不法分子利用AI合成實(shí)施詐騙，稍不留神就可能上當(dāng)受騙。這些現(xiàn)象不僅削弱了公眾對(duì)網(wǎng)絡(luò)信息的信任基礎(chǔ)，也衍生出新的不法行為。

2024年1月，香港一家跨國(guó)公司遭遇“變臉”詐騙，詐騙者通過公開渠道獲取相關(guān)資料，利用深度偽造技術(shù)合成該公司高管的形象和聲音，并制作出多人參與視頻會(huì)議的虛假視頻，詐騙金額高達(dá)兩億港元；2024年6月，“男子用AI偽造學(xué)生同事裸照”沖上微博熱搜，犯罪嫌疑人用AI“一鍵去衣”技術(shù)，深度偽造淫穢圖片近7000張，再以每張1.5元賣出，非法獲利近萬元。

全球安全技術(shù)公司邁克菲（McAfee）在2023年發(fā)布的調(diào)查報(bào)告中指出，只需提供3秒至4秒的錄音，網(wǎng)絡(luò)上的免費(fèi)AI工具就能生成相似度達(dá)到85%的克隆人聲。在參與調(diào)查的7000多位全球受訪者中，有70%的人不確定是否能分辨AI合成語音，而大約有10%的人遭遇過AI語音詐騙。

今年全國(guó)兩會(huì)上，人工智能技術(shù)的濫用與虛假信息治理成為熱議焦點(diǎn)。多位代表委員指出，隨著生成式AI技術(shù)的迅猛發(fā)展，虛假視頻、音頻、圖文等內(nèi)容“李逵”“李鬼”難辨，不僅誤導(dǎo)消費(fèi)者、侵犯公民權(quán)益，更擾亂社會(huì)秩序，亟須通過完善立法、強(qiáng)化技術(shù)監(jiān)管、壓實(shí)平臺(tái)責(zé)任等手段構(gòu)建綜合治理體系。有人大代表提出“加強(qiáng)治理AI換臉擬聲違法侵權(quán)重災(zāi)區(qū)”“加強(qiáng)AI深度偽造欺詐管理”等建議。

對(duì)人工智能生成合成內(nèi)容進(jìn)行標(biāo)識(shí)

其實(shí)，針對(duì)AI已經(jīng)有過多番整治。2月21日，中央網(wǎng)信辦發(fā)布2025年“清朗”系列專項(xiàng)行動(dòng)整治重點(diǎn)，其中包含了整治AI技術(shù)濫用亂象：突出AI技術(shù)管理和信息內(nèi)容管理，強(qiáng)化生成合成內(nèi)容標(biāo)識(shí)，打擊借AI技術(shù)生成發(fā)布虛假信息、實(shí)施網(wǎng)絡(luò)水軍行為等問題，規(guī)范AI類應(yīng)用網(wǎng)絡(luò)生態(tài)。

《標(biāo)識(shí)辦法》的出臺(tái)細(xì)化了已有規(guī)定?！痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》中提出了標(biāo)識(shí)有關(guān)要求，《標(biāo)識(shí)辦法》作為規(guī)范性文件，進(jìn)一步細(xì)化標(biāo)識(shí)的具體實(shí)施規(guī)范。此外，還重點(diǎn)解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題，推動(dòng)由生成到傳播各環(huán)節(jié)的全流程安全管理，力爭(zhēng)打造可信賴的人工智能技術(shù)。

同時(shí)，《標(biāo)識(shí)辦法》提出了人工智能生成合成內(nèi)容標(biāo)識(shí)主要包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí)兩種形式：顯式標(biāo)識(shí)是指在生成合成內(nèi)容或者交互場(chǎng)景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可以被用戶明顯感知到的標(biāo)識(shí)；隱式標(biāo)識(shí)是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標(biāo)識(shí)。

李悅解讀，顯式標(biāo)識(shí)和隱式標(biāo)識(shí)相輔相成，各有分工。顯式標(biāo)識(shí)直接提醒用戶內(nèi)容真實(shí)性，降低被誤導(dǎo)的風(fēng)險(xiǎn)，就好比影視劇前會(huì)提示“本故事純屬虛構(gòu)，如有雷同實(shí)屬巧合”。隱式標(biāo)識(shí)則“埋”下可追溯的證據(jù)，便于事后核驗(yàn)來源。二者結(jié)合起來可以形成“事前警示+事后追責(zé)”的全鏈條治理機(jī)制。

《標(biāo)識(shí)辦法》實(shí)施后如何應(yīng)對(duì)

中國(guó)政法大學(xué)數(shù)據(jù)法治研究院教授張凌寒指出，《標(biāo)識(shí)辦法》的出臺(tái)，配合標(biāo)識(shí)相關(guān)的技術(shù)標(biāo)準(zhǔn)，為監(jiān)管部門提供執(zhí)法依據(jù)，為企業(yè)提供合規(guī)指引，將人工智能生成內(nèi)容標(biāo)識(shí)制度體系進(jìn)一步完善化、層次化、合理化。標(biāo)志我國(guó)已經(jīng)形成以行政法規(guī)為牽引、配套法律文件、技術(shù)標(biāo)準(zhǔn)、實(shí)踐指南的完整人工智能生成內(nèi)容的治理體系。

實(shí)質(zhì)上，據(jù)李悅觀察，許多主流大模型應(yīng)用及網(wǎng)絡(luò)平臺(tái)早已開始履行標(biāo)識(shí)義務(wù)。比如，DeepSeek會(huì)在每輪對(duì)話框的下方標(biāo)注“本回答由AI生成，內(nèi)容僅供參考，請(qǐng)仔細(xì)甄別”，抖音以及小紅書也會(huì)對(duì)AI生成內(nèi)容以及疑似AI生成內(nèi)容進(jìn)行標(biāo)注。

2024年3月27日，抖音安全中心發(fā)布《關(guān)于不當(dāng)利用AI生成虛擬人物的治理公告》。公告稱，針對(duì)違規(guī)使用AI生成虛擬人物的行為，平臺(tái)會(huì)對(duì)違規(guī)視頻下架，對(duì)違規(guī)賬號(hào)進(jìn)行取消其投稿和營(yíng)利權(quán)限、抹除賬號(hào)粉絲、封禁賬號(hào)等處置，并利用模型、技術(shù)識(shí)別能力等手段，進(jìn)行長(zhǎng)期系統(tǒng)的識(shí)別發(fā)現(xiàn)和處置。禁止利用AIGC（人工智能生成內(nèi)容）技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容，包括但不限于肖像權(quán)、知識(shí)產(chǎn)權(quán)等。一經(jīng)發(fā)現(xiàn)，將嚴(yán)格處罰。

李悅說，《標(biāo)識(shí)辦法》的出臺(tái)是對(duì)提供AI生成服務(wù)的科技企業(yè)和各大互聯(lián)網(wǎng)平臺(tái)提出了進(jìn)一步明確的合規(guī)義務(wù)。為有效遵守法規(guī)、降低風(fēng)險(xiǎn)，AIGC服務(wù)提供者需在技術(shù)和管理層面提前做好充分準(zhǔn)備?！稑?biāo)識(shí)辦法》實(shí)施后，服務(wù)提供者需要在用戶服務(wù)協(xié)議中增加有關(guān)內(nèi)容標(biāo)識(shí)的條款、明確標(biāo)識(shí)的方法樣式等，并提醒用戶仔細(xì)閱讀并遵守。換言之，用戶在使用AI生成服務(wù)時(shí)應(yīng)被告知生成內(nèi)容將自帶標(biāo)記，不得擅自去除。此外，企業(yè)應(yīng)完善幫助文檔或上線彈窗提示，引導(dǎo)用戶正確使用標(biāo)識(shí)功能。

李悅補(bǔ)充道，按照規(guī)定，提供AI生成服務(wù)的企業(yè)在辦理算法備案、安全評(píng)估等監(jiān)管手續(xù)時(shí)，需提交符合《標(biāo)識(shí)辦法》要求的標(biāo)識(shí)方案的相關(guān)材料。這意味著企業(yè)要準(zhǔn)備好技術(shù)方案文檔，證明自己的服務(wù)如何添加顯隱標(biāo)識(shí)、如何防范篡改等。另外，應(yīng)用商店在上架審核APP時(shí)也會(huì)審查其是否涉及AI生成服務(wù)，如果有則要求提供標(biāo)識(shí)實(shí)現(xiàn)的說明。因此，AI應(yīng)用開發(fā)商在提交流程上也要做好準(zhǔn)備，按官方標(biāo)準(zhǔn)完善相關(guān)文檔。

張凌寒在接受《法治周末》記者采訪時(shí)表示，AI造假絕對(duì)不僅是技術(shù)提供者的問題，提供技術(shù)的廠家、傳播網(wǎng)絡(luò)信息的平臺(tái)及使用者本人，都是整個(gè)價(jià)值傳播鏈條上重要的一分子，都要承擔(dān)起防范AI造假的任務(wù)。

她建議，要將推進(jìn)人工智能生成內(nèi)容治理落到實(shí)處。對(duì)于比較泛濫的AI虛假信息、視頻、圖片，可以有更嚴(yán)格的個(gè)人信息保護(hù)和授權(quán)機(jī)制去防范，還可以通過提高公眾和AI使用者的數(shù)字素養(yǎng)來防范AI造假。