奧特曼懷孕、喜羊羊挖眼珠子吃、小豬佩奇打骷髏……記者注意到,近期一些AI創(chuàng )作的“邪典視頻”在未成年人群體中廣泛傳播。有的動(dòng)畫(huà)看似是卡通風(fēng)格,實(shí)則充斥殘害肢體、高空墜落等血腥暴力內容。這些“邪典視頻”如同隱藏在網(wǎng)絡(luò )深處的毒瘤,對未成年人身心健康構成嚴重威脅,必須高度警惕。
過(guò)去多年來(lái),有關(guān)部門(mén)通過(guò)關(guān)停違規賬號、下架非法應用程序、處罰傳播有害信息的平臺等舉措,讓曾經(jīng)的“邪典視頻”亂象得到有效治理。越來(lái)越成熟的AI技術(shù),讓視頻制作更加便利、精良。然而,在一些不法分子手中,技術(shù)進(jìn)步卻一定程度上催生了“邪典視頻”回潮。
使用生成式AI,制作者無(wú)需掌握太多動(dòng)畫(huà)制作技術(shù),就可以生成自己想要的畫(huà)面。一些不法分子為博取關(guān)注、賺取流量,大肆制作無(wú)底線(xiàn)內容,將血腥暴力、惡搞低俗等元素融入其中,再打上“識字”“辨別形狀”等標簽,以欺騙未成年人和家長(cháng)。在部分社交平臺和短視頻平臺,還有人專(zhuān)門(mén)傳授如何設置關(guān)鍵詞讓AI生成“邪典視頻”,妄圖將其打造成“畸形產(chǎn)業(yè)鏈”。
“邪典視頻”是針對未成年人思維與價(jià)值觀(guān)的“投毒”,危害極大。有的視頻通過(guò)“可愛(ài)形象”與“殘酷內容”的強烈反差來(lái)吸引點(diǎn)擊、滿(mǎn)足極少數人的不良心理需求,甚至可能帶有誘導、教唆等性質(zhì),孩童若模仿會(huì )造成不可挽回的后果。部分AI生成的“邪典視頻”歪曲歷史人物言行,對中華優(yōu)秀傳統文化污名化,讓未成年人形成扭曲的歷史觀(guān)與文化認知。
面對“邪典視頻”卷土重來(lái),各方必須協(xié)同發(fā)力,共同筑牢防線(xiàn)。監管部門(mén)需加大執法力度,嚴厲打擊制作傳播“邪典”內容及銷(xiāo)售相關(guān)商品的行為,斬斷利益鏈條。網(wǎng)絡(luò )平臺應承擔起主體責任,優(yōu)化內容審核機制,及時(shí)下架“有毒”內容的制作教程,阻斷傳播路徑。同時(shí),更要將“家校聯(lián)動(dòng)”落到實(shí)處,強化對孩子的陪伴和幫助、教育和引導,提升孩子們的認知能力。
AI技術(shù)應是賦能成長(cháng)的工具,而非炮制有害內容的幫兇。我們絕不允許“邪典視頻”死灰復燃,污染未成年人的成長(cháng)環(huán)境。有關(guān)各方必須提升優(yōu)質(zhì)內容供給,豐富未成年人的網(wǎng)絡(luò )空間,為未成年人營(yíng)造健康、安全、積極的網(wǎng)絡(luò )環(huán)境,讓他們在清朗的網(wǎng)絡(luò )環(huán)境中汲取成長(cháng)力量。
(本報評論員王楚然 農冠斌)