老年人的AI陷阱
2025-04-10 11:00:14 來(lái)源:法治日?qǐng)?bào)·法治周末
視覺(jué)中國(guó)供圖
伴隨數(shù)字技術(shù)、人工智能而生的數(shù)字人,已成了不少行業(yè)營(yíng)銷(xiāo)推廣的寵兒,一些AI數(shù)字人“扮演”的權(quán)威醫(yī)療專(zhuān)家,向老年人24小時(shí)不間斷地講述著養(yǎng)生“奇跡”。一些賬號(hào)持有人引入數(shù)字人新技術(shù),批量起號(hào)、瘋狂帶貨,讓圍獵老人的誘老坑老的騙術(shù)進(jìn)入了“2.0版本”,已經(jīng)形成了運(yùn)作成熟、大肆逐利的產(chǎn)業(yè)
《法治周末》記者 高原
每天晚上9點(diǎn),在北京工作的劉靜怡都會(huì)收到媽媽轉(zhuǎn)發(fā)的短視頻鏈接,視頻里,一個(gè)穿著白大褂的老人在介紹這個(gè)季節(jié)養(yǎng)生的訣竅,同時(shí),視頻正下方標(biāo)注此人為國(guó)醫(yī)大師某某某。而她的媽媽在這位國(guó)醫(yī)大師的指點(diǎn)下,已經(jīng)買(mǎi)了幾千元的保健品。
劉靜怡注意到,視頻里這位所謂的大師,說(shuō)話時(shí)口型和聲音并不同步,視頻里的背景也很迷糊,她告訴媽媽這個(gè)“國(guó)醫(yī)大師”應(yīng)該是AI合成的人物,可媽媽根本聽(tīng)不進(jìn)去。
這讓劉靜怡很苦惱,她告訴《法治周末》記者:“年輕人比較同意甄別AI生成內(nèi)容,而像我媽媽這樣的老年人,對(duì)網(wǎng)絡(luò)技術(shù)和規(guī)則了解有限,風(fēng)險(xiǎn)防范意識(shí)相對(duì)薄弱,很容易被情感綁架、權(quán)威背書(shū)等手法擊穿心理防線?!?/p>
北京師范大學(xué)數(shù)字素養(yǎng)研究中心數(shù)據(jù)顯示,65歲以上用戶平均每天觀看AI生成視頻時(shí)長(zhǎng)達(dá)到143分鐘,是年輕用戶群體的2.3倍。而當(dāng)“父母刷起手機(jī)比我還狠”時(shí),很多陷阱也盯上了老年群體,比如3天包會(huì)的AI課程,AI合成的名醫(yī)在線指導(dǎo)用藥……這些新型套路究竟有多深?
沉迷“AI”速成課
記者調(diào)查發(fā)現(xiàn),市面上的“AI速成班”收費(fèi)多為兩千元至三千元不等,并且勸導(dǎo)老年人學(xué)習(xí)AI的話術(shù)層出不窮。據(jù)了解,這些機(jī)構(gòu)大多是以前教授老年人剪視頻的機(jī)構(gòu),轉(zhuǎn)向又開(kāi)始教授老年人“用AI賺錢(qián)”。
在小紅書(shū)上,北京市的王琳告訴記者,自己的父親最近沉迷于上網(wǎng)課,交了980元報(bào)了一個(gè)AI班,“我想不明白,一個(gè)智能手機(jī)都用不明白的人怎么報(bào)這個(gè)班?!蓖趿照f(shuō),“一共7天的直播課,分別講授DeepSeek用途和幾句簡(jiǎn)單指令,是年輕人5分鐘就能上手的入門(mén)級(jí)別,被包裝成一節(jié)又一節(jié)高大上的專(zhuān)業(yè)課程。”
她表示,從《AI文生圖底層邏輯》到《中視頻計(jì)劃流量密碼》,其中充斥著“實(shí)操”“爆款”“變現(xiàn)”等關(guān)鍵詞,而所謂的“專(zhuān)業(yè)剪輯技能”教學(xué),就是教老人用某款免費(fèi)APP一鍵套模板,連背景音樂(lè)都懶得換。
“課后他們還會(huì)給老人留作業(yè),作業(yè)內(nèi)容大概就是讓他們自己去用AI生成視頻,然后發(fā)在抖音、快手等平臺(tái),做賬號(hào)?!蓖趿崭嬖V記者。
王琳勸過(guò)父親之后,父親也并不準(zhǔn)備退課,反而還給課程找到了“合理性”:“你們年輕人學(xué)東西快,一下就能學(xué)會(huì),跟我們不一樣,學(xué)AI就得從概念、起源開(kāi)始,不然怎么能搞清用法?”
記者調(diào)查發(fā)現(xiàn),在社交媒體上,多地年輕人反映父母的AI網(wǎng)課正學(xué)得“熱火朝天”,他們對(duì)銷(xiāo)售話術(shù)深信不疑,有網(wǎng)友吐槽,“所謂的七天AI速成課”,實(shí)際內(nèi)容卻與老年人真實(shí)需求嚴(yán)重錯(cuò)位。
有網(wǎng)友在王琳的帖子下留言:“我家現(xiàn)在跟你一樣的情況,也是2680元的學(xué)費(fèi),學(xué)得熱火朝天,我說(shuō)是騙子,我爸說(shuō)我不思進(jìn)取?!?/p>
“我媽也是,昨天我跟他說(shuō)AI如何使用這個(gè)東西不用學(xué),你把它當(dāng)工具,直接一問(wèn)一答就好,我媽跟我發(fā)脾氣,他說(shuō)你們都把它當(dāng)工具,我當(dāng)然要去了解它的起源、歷程才更好地使用?!绷硪痪W(wǎng)友說(shuō)。
“我爸本來(lái)比較關(guān)注養(yǎng)生,怎么就突然學(xué)起了AI呢?”王琳想不明白。
后來(lái)父親告訴王琳,是因?yàn)楝F(xiàn)在視頻號(hào)上看到許多老人都在學(xué)這個(gè),并且已經(jīng)賺了不少錢(qián)。同樣的理由,也在成為其他老年人學(xué)習(xí)AI的原因。
王琳翻看了父親關(guān)注的視頻號(hào),發(fā)現(xiàn)了好幾個(gè)賬號(hào)都打著“985博士畢業(yè)”“多家AI公司創(chuàng)始人”“累計(jì)授課學(xué)員30000+,好評(píng)率99%”這樣的標(biāo)簽,以教老人如何使用養(yǎng)老機(jī)器人,或者用AI制作短視頻賺錢(qián)等理由,向老年人賣(mài)課。
除了這些打著專(zhuān)家旗號(hào)的博主之外,也有一些老年人現(xiàn)身說(shuō)法的案例。
比如,有老年人發(fā)布視頻號(hào),宣揚(yáng)“老年人也應(yīng)該學(xué)習(xí)AI,不要被時(shí)代落下,用AI賺錢(qián)”等內(nèi)容,引導(dǎo)觀眾關(guān)注公眾號(hào),并下單“AI訓(xùn)練營(yíng)”。
在這些視頻的評(píng)論區(qū),經(jīng)常留言:“老師你好,豆包軟件是怎樣下載的?。俊薄袄斫饽芰邮苈?,怎么使用豆包,豆包真的有這么好嗎?”“請(qǐng)問(wèn)那個(gè)窗口下載豆包,我也想學(xué)習(xí)”……
“數(shù)字醫(yī)生”售賣(mài)保健品
除了老年人想學(xué)習(xí)AI賺錢(qián)外,老年人對(duì)健康的重視也給了不法商家通過(guò)AI牟利的機(jī)會(huì)。
每天晚上七點(diǎn)半,劉靜怡的媽媽會(huì)雷打不動(dòng)地在某養(yǎng)生直播間準(zhǔn)時(shí)上課,聽(tīng)擁有“抗癌防癌專(zhuān)項(xiàng)基金會(huì)秘書(shū)長(zhǎng)”“國(guó)家一級(jí)保健醫(yī)師”“國(guó)家一級(jí)營(yíng)養(yǎng)師”等多個(gè)頭銜的講師講解養(yǎng)生知識(shí)。
三個(gè)月前,劉靜怡的媽媽得了帶狀皰疹,在疹子好后又引發(fā)了帶狀皰疹神經(jīng)痛,針灸拔罐了一個(gè)月沒(méi)有效果,去三甲醫(yī)院打了神經(jīng)阻滯針后效果也不明顯,正在劉靜怡發(fā)愁下一步該怎么辦的時(shí)候,媽媽告訴她保健醫(yī)生的保健品可以治療神經(jīng)痛。
而直播中的保健醫(yī)生說(shuō)話時(shí),嘴型與聲音都不協(xié)調(diào),還沒(méi)等劉靜怡勸阻,媽媽就已經(jīng)下單買(mǎi)了三個(gè)月療程的保健品,而媽媽口中說(shuō)的有“奇效”的保健品,實(shí)際上只是普通的保健品或根本未經(jīng)嚴(yán)格審批的藥品,長(zhǎng)期服用不僅無(wú)益,反而可能對(duì)身體造成傷害。
劉靜怡發(fā)現(xiàn),這類(lèi)養(yǎng)生直播間主播通常以身著白大褂、冠以“專(zhuān)家”頭銜的方式,滔滔不絕地講述養(yǎng)生常識(shí)。
在直播一段時(shí)間后,主播逐漸將話題引導(dǎo)到所要出售的產(chǎn)品,開(kāi)始“123上鏈接”。鏈接會(huì)將客戶引流至網(wǎng)絡(luò)聊天群的“私域直播間”,在小圈子范圍內(nèi)對(duì)中老年人進(jìn)行“洗腦”;一些直播間則以“進(jìn)群領(lǐng)贈(zèng)品”等方式進(jìn)行導(dǎo)流,不少老年人從一開(kāi)始獲得蠅頭小利到購(gòu)買(mǎi)價(jià)值數(shù)千元乃至上萬(wàn)元的保健品,一步步走進(jìn)設(shè)計(jì)好的陷阱。
記者調(diào)查發(fā)現(xiàn),伴隨數(shù)字技術(shù)、人工智能而生的數(shù)字人,已成了不少行業(yè)營(yíng)銷(xiāo)推廣的寵兒,一些AI數(shù)字人“扮演”的權(quán)威醫(yī)療專(zhuān)家,向老年人24小時(shí)不間斷地講述著養(yǎng)生“奇跡”。
一些賬號(hào)持有人引入數(shù)字人新技術(shù),批量起號(hào)、瘋狂帶貨,讓圍獵老人的誘老坑老的騙術(shù)進(jìn)入了“2.0版本”,已經(jīng)形成了運(yùn)作成熟、大肆逐利的產(chǎn)業(yè)。
還有網(wǎng)友反映,家中老人在網(wǎng)絡(luò)賣(mài)貨視頻中看到“張文宏醫(yī)生”在賣(mài)一種蛋白類(lèi)的產(chǎn)品。老人信以為真,不僅下了單還轉(zhuǎn)發(fā)到了很多群。經(jīng)核實(shí),該視頻中的“張文宏醫(yī)生”不是張文宏本人,而是利用AI技術(shù)合成的。張文宏對(duì)此回應(yīng)稱,這樣的賣(mài)貨賬號(hào)已出現(xiàn)多個(gè),而且一直在變。他雖然多次向平臺(tái)投訴,但都收效甚微。
目前,該“冒牌張文宏”賬號(hào)已搜索不到,但此前商品櫥窗中顯示由AI帶貨的產(chǎn)品已賣(mài)出1200多份。
而形象被盜用作帶貨的受害者,遠(yuǎn)不止張文宏醫(yī)生。隨著AI合成技術(shù)愈發(fā)成熟,再加上已被頻繁應(yīng)用在短視頻制作中,AI合成冒充名人的騙局越來(lái)越頻發(fā)。
今年10月,老牌港星黃百鳴通過(guò)社交媒體鄭重聲明,有人盜用其過(guò)去影片,利用AI替換聲音,代言一個(gè)不知名的藥膏品牌。
打著情感幌子圍獵老年人
2024年,抖音曝光了以冒充名人、AI生成人像等手段,發(fā)布關(guān)心老人、領(lǐng)獎(jiǎng)金/養(yǎng)老金、無(wú)腦稱贊等內(nèi)容騙取互動(dòng)的違規(guī)行為。
短視頻平臺(tái)上,穿著虎頭鞋的周歲幼童熟練操持四菜一湯,兩歲AI萌娃能精準(zhǔn)說(shuō)出“奶奶腰疼要捶背”,這些違背人類(lèi)成長(zhǎng)規(guī)律的內(nèi)容成了有些老年人的“心頭好”。在年輕人眼中漏洞百出的AI視頻,卻讓老年人深信不疑。
這種情感操控背后是精準(zhǔn)的算法圍獵。
北京師范大學(xué)數(shù)字素養(yǎng)研究中心數(shù)據(jù)顯示,當(dāng)老年人首次點(diǎn)贊AI孫子視頻后,平臺(tái)算法會(huì)在72小時(shí)內(nèi)推送超過(guò)300條類(lèi)似內(nèi)容。
當(dāng)AI孫子用稚嫩聲音說(shuō)出“奶奶給我發(fā)紅包買(mǎi)糖吃”,有人會(huì)毫不猶豫轉(zhuǎn)賬2000元。這種看似荒誕的劇情正在全國(guó)上演,公安部2023年數(shù)據(jù)顯示,涉及AI視頻的養(yǎng)老詐騙案件同比激增218%,單案最大金額達(dá)87萬(wàn)元。
更隱蔽的是情感詐騙,某些AI賬號(hào)通過(guò)長(zhǎng)期互動(dòng)建立信任后,逐步誘導(dǎo)老人購(gòu)買(mǎi)“孫子同款”保健品或理財(cái)產(chǎn)品。
在抖音發(fā)布的打擊誘騙老年用戶內(nèi)容的治理公告中,其中有個(gè)別賬號(hào)通過(guò)AI生成人像發(fā)布第一人稱關(guān)心的話術(shù),如“阿姨,我可以叫你一聲娘嗎”“孩子好想你,愿意給我一朵小紅花嗎”“娘,您辛苦了”等,利用老年用戶的情感需求,誘導(dǎo)吸引女性老年用戶關(guān)注,騙取用戶互動(dòng)。
記者發(fā)現(xiàn),社交平臺(tái)上充斥著針對(duì)中老年群體的AI賬號(hào),這些賬號(hào)的視頻,大多是一個(gè)由AI生成的真人形象,通過(guò)套近乎、講哲理等針對(duì)性話術(shù),吸引不同老年人的關(guān)注和信任。有些AI賬號(hào),已經(jīng)靠老年人的信任通過(guò)櫥窗帶貨賺起了第一桶金。
這些視頻大多以“我的寶貝姐姐開(kāi)頭”,發(fā)布的視頻大多圍繞老年女性的生活常態(tài)展開(kāi),“我發(fā)覺(jué)姐姐近來(lái)面容憔悴,弟弟跑了好多地方,找到這款面霜特別適合姐姐”,隨后引誘用戶點(diǎn)擊主頁(yè)關(guān)注、下單。
雖然該賬號(hào)發(fā)布視頻數(shù)量不多,但櫥窗商品的銷(xiāo)量已突破三位數(shù)。評(píng)論區(qū)大多是對(duì)被視頻里“男人”溫柔話語(yǔ)打動(dòng)的用戶。養(yǎng)生、情感內(nèi)容一直是收割老年人的重災(zāi)區(qū)。
被騙的人通常與受教育程度無(wú)關(guān),而是沉迷視頻帶來(lái)的情緒價(jià)值。
根據(jù)藍(lán)鯨新聞報(bào)道,收割老人的數(shù)字人視頻如今已經(jīng)發(fā)展成一條灰色產(chǎn)業(yè)鏈。市面上涌現(xiàn)出制作數(shù)字人的外包公司,服務(wù)價(jià)格在5000元至10000元不等。商家會(huì)幫助客戶搭建數(shù)字人形象,指導(dǎo)運(yùn)營(yíng)賬號(hào)。
養(yǎng)生直播套路老年人
據(jù)新華社報(bào)道,目前已經(jīng)有專(zhuān)門(mén)套路老年人的直播養(yǎng)生局:先以養(yǎng)生科普短視頻引流,吸引老年人跳轉(zhuǎn)微信加群;而后,群里老師通過(guò)開(kāi)展公益直播課、設(shè)置有獎(jiǎng)問(wèn)答等,不斷強(qiáng)化其對(duì)產(chǎn)品的認(rèn)知;半個(gè)月后,群里開(kāi)始推銷(xiāo)產(chǎn)品,還有托兒配合演戲,誘導(dǎo)老年人跟風(fēng)購(gòu)買(mǎi)。
在黑貓投訴平臺(tái)上看到,與老年人直播相關(guān)的投訴已達(dá)近千條。
中國(guó)政法大學(xué)傳播法研究中心副主任朱巍告訴記者,沒(méi)有獲得相應(yīng)資質(zhì)的養(yǎng)生直播和短視頻不具備合法性。根據(jù)最新修訂的《互聯(lián)網(wǎng)用戶公眾賬號(hào)信息服務(wù)管理規(guī)定》和《互聯(lián)網(wǎng)用戶賬號(hào)信息管理規(guī)定》,涉及醫(yī)療衛(wèi)生等領(lǐng)域內(nèi)容的自媒體、公眾號(hào)等須獲得相關(guān)資質(zhì)。
“如果觀看養(yǎng)生直播視頻后購(gòu)買(mǎi)了假冒偽劣保健品,一方面,可以向主播所在的網(wǎng)絡(luò)直播平臺(tái)投訴;另一方面,也可以向市場(chǎng)監(jiān)督管理部門(mén)或當(dāng)?shù)氐南M(fèi)者協(xié)會(huì)舉報(bào)?!敝煳≈赋?。
今年9月1日起將實(shí)施的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》提出,所有AI生成的文字、圖片、視頻等內(nèi)容,都要“亮明身份”。對(duì)此,技術(shù)提供方、內(nèi)容提供者、平臺(tái)和商家,應(yīng)當(dāng)主動(dòng)對(duì)標(biāo),及時(shí)約束管理,整改到位。相關(guān)監(jiān)管部門(mén)也要運(yùn)用多種監(jiān)管技術(shù),打擊跨平臺(tái)起號(hào)頻繁誘導(dǎo)、“圍獵”老人購(gòu)買(mǎi)商品等行為。
同時(shí),多地已經(jīng)有不少老年大學(xué)開(kāi)始加入DeepSeek等AI課。
今年3月,廣州老年干部大學(xué)開(kāi)設(shè)的全國(guó)首個(gè)老年大學(xué)DeepSeek班,共16次課,計(jì)劃招生60人,學(xué)費(fèi)為350元/人/期;哈爾濱老年人大學(xué)、成都老年大學(xué)都在上新AI攝影與繪畫(huà)、AI智能、DeepSeek教學(xué)等課程,體系化、適老化后的課程其實(shí)可以不只是概念講解,而是作品實(shí)操。
(王琳、劉靜怡為化名)