【社評(píng)】認(rèn)清“AI霸總”幻象，以技術(shù)向善應(yīng)對(duì)“情感收割”

　　算法可以計(jì)算流量，但不能算計(jì)人心；技術(shù)可以模擬情感，但無法替代真實(shí)的關(guān)愛。阻斷AI幻象滲透和蔓延的鏈條，守護(hù)好每個(gè)人的數(shù)字安全與情感尊嚴(yán)，這是應(yīng)對(duì)“數(shù)字情感收割”的基本原則，也是技術(shù)向善的題中應(yīng)有之義。

　　短視頻平臺(tái)上，身著正裝、開著豪車、戴著金表的“儒雅霸總”，張口“姐姐”、閉口“想你”，噓寒問暖甚至下跪求婚……據(jù)4月13日新華社報(bào)道，這些“AI霸總”或是AI數(shù)字人，或是經(jīng)AI換臉、擬聲偽造的形象，話術(shù)直白，戳中不少老年粉絲的心意。即便視頻下方標(biāo)注著“內(nèi)容由AI生成”，一些老年粉絲依舊深信不疑。記者搜索關(guān)鍵詞發(fā)現(xiàn)，僅平臺(tái)推送來的“AI霸總”賬號(hào)就達(dá)上百個(gè)，數(shù)個(gè)賬號(hào)粉絲達(dá)到十幾萬。

　　嘴上都是“情意”，心里全是生意——“AI霸總”類賬號(hào)打著“高端人設(shè)”的幌子與老年人進(jìn)行情感交流，為的是最大限度積累流量，后續(xù)通過多種方式變現(xiàn)，包括賺取平臺(tái)流量收益，開展帶貨、打賞或私域營銷活動(dòng)，為婚戀、醫(yī)療、養(yǎng)老等其他商業(yè)機(jī)構(gòu)引流賺取傭金等。從AI數(shù)字人制作、文案批量生成，到引流、互動(dòng)、轉(zhuǎn)化，每一環(huán)都在算計(jì)如何從老人的情感需求中榨取價(jià)值。

　　“AI霸總”圍獵老年人，本質(zhì)上是對(duì)人性弱點(diǎn)的精準(zhǔn)攻擊。一方面，時(shí)下，獨(dú)居、空巢是不少銀發(fā)群體的常態(tài)，“霸總”人設(shè)中的“霸道寵溺”“專一深情”，填補(bǔ)了一些老年人的情感空白。另一方面，銀發(fā)群體中的不少人對(duì)AI技術(shù)的認(rèn)知有限，難以理解“眼見未必為實(shí)”的道理。此外，技術(shù)手段大幅降低了“AI換臉”“擬聲合成”的成本，加之平臺(tái)算法持續(xù)為老年用戶推送同類高濃度內(nèi)容，從而令一些銀發(fā)族陷入“情感空虛—邂逅霸總—尋求互動(dòng)—被精準(zhǔn)收割”的窘境。

　　“AI霸總”讓一些老年人“上頭”的同時(shí)，也為其帶來多重風(fēng)險(xiǎn)。在財(cái)產(chǎn)安全層面，從直播間帶貨、付費(fèi)解鎖“專屬陪伴”，到誘導(dǎo)轉(zhuǎn)賬、投資“高回報(bào)項(xiàng)目”，老年人的養(yǎng)老錢可能被一步步掏空。在身心健康層面，過度沉迷虛擬互動(dòng)，會(huì)加劇老年人現(xiàn)實(shí)中的孤獨(dú)感。在個(gè)人信息安全方面，老年人個(gè)人隱私信息可能被獲取，成為進(jìn)一步精準(zhǔn)收割的“原料”。

　　曾經(jīng)，我們擔(dān)心老年人被“干兒子、干女兒”們誘騙買保健品；后來，一些老年人落入了短視頻平臺(tái)上的假明星騙局；再后來，“AI+”對(duì)銀發(fā)群體的誘騙成為了一套可批量復(fù)制的收割模型。這一過程中，圍獵手段從“人工話術(shù)”升級(jí)到“AI量產(chǎn)”，從“一對(duì)一突破”進(jìn)化到“即使千人千面也能精準(zhǔn)營銷”……AI技術(shù)的迭代速度超過了治理的反應(yīng)速度。對(duì)此，相關(guān)部門已經(jīng)出臺(tái)規(guī)定對(duì)AI生成內(nèi)容進(jìn)行強(qiáng)制標(biāo)注，但這顯然遠(yuǎn)遠(yuǎn)不夠。在AI技術(shù)快速發(fā)展的時(shí)代，相關(guān)治理需要多些未雨綢繆。

　　一方面，平臺(tái)方不能只為技術(shù)做“嫁衣”，還應(yīng)承擔(dān)起內(nèi)容審核的倫理責(zé)任；技術(shù)開發(fā)者在追求模型迭代的同時(shí)，也應(yīng)主動(dòng)嵌入倫理設(shè)計(jì)；監(jiān)管部門則需依法嚴(yán)厲打擊利用AI實(shí)施的情感詐騙、虛假宣傳等行為，落實(shí)“誰使用、誰負(fù)責(zé)”的主體責(zé)任，讓“AI不是免責(zé)金牌”成為共識(shí)和鐵律。

　　另一方面，無論是家庭還是社會(huì)，需要進(jìn)一步看見那些被忽視的情感需求與渴望?！癆I霸總”視頻的評(píng)論區(qū)里，有粉絲說“就算你是假的，我也愿意信一回?！笨梢?，澆滅一系列AI幻象與相關(guān)人群之間的“火花”，有必要以更可行、更智慧的方式滿足相關(guān)群體的情感需求，這需要各方伸出溫暖的手，拉相關(guān)群體走出“情感孤島”。

　　算法可以計(jì)算流量，但不能算計(jì)人心；技術(shù)可以模擬情感，但無法替代真實(shí)的關(guān)愛。阻斷AI幻象滲透和蔓延的鏈條，守護(hù)好每個(gè)人的數(shù)字安全與情感尊嚴(yán)，這是應(yīng)對(duì)“數(shù)字情感收割”的基本原則，也是技術(shù)向善的題中應(yīng)有之義。

　　本報(bào)評(píng)論員 韓韞超

　　《工人日?qǐng)?bào)》(2026年04月15日 05版)