近年來，AI技術在影視領域得到廣泛運用，極大地豐富了群眾的文化生活。然而“新華視點”記者近日發現，一些在青少年中流行的AI動畫產品角色形象怪異、音效陰森、內容低俗，有的甚至含有色情、恐怖等元素，引發家長擔憂。

這類AI動畫是如何炮制出來的？如何為孩子守好清朗網絡空間？記者進行了走訪調查。

1.“變味”的AI動畫防不勝防

“哩哩哩啦哩啦……”天津市民李先生發現，孩子最近嘴里總是“念念有詞”，查詢后才得知，這是在青少年中爆火的“AI山海經”里動畫形象的名字。

“這些‘AI山海經’視頻中，不少內容形象怪異、背景陰森，毫無情節和邏輯可言。但孩子看得津津有味，和同學在一起還會討論這些動畫形象，甚至把里面的內容當作真正的《山海經》故事。”李先生說。

家住山西大同的張女士表示，用視頻App給孩子播放動畫片時，系統多次推送AI“魔改”的動畫。“本來在看《小馬寶莉》，緊接著開始播放小馬寶莉流淚拉車，被艾莎公主拿鞭子抽打的視頻；想看《天線寶寶》，播出的視頻中卻出現天線寶寶被起重機壓扁的情節。”

更有甚者，有的這類AI動畫標注著“兒童動畫”的標簽，在青少年模式中也可以看到。此外，由于大數據的算法設置，一旦孩子主動或被動地觀看了這類AI動畫，便會被經常性推送同類視頻，令人防不勝防。

多位受訪家長擔憂地表示，許多AI動畫視頻以孩子熟知的經典動畫形象為主角，當深受孩子信任的角色做出不當行為，不僅會給孩子帶來認知上的困惑，還可能誘導孩子去模仿。

除了“AI山海經”外，此前社交網絡和短視頻平臺還曾出現《紅樓夢》《西游記》《三國演義》等經典著作改編的AI視頻，“林黛玉倒拔垂楊柳”“唐僧手持加特林”等荒誕畫面讓人大跌眼鏡。天津市河西區德賢小學校長周瑞認為，這類對經典作品的歪曲惡搞，可能對正處于三觀塑造階段的青少年帶來負面影響。

　2.AI視頻不良內容的“重災區”

記者調查發現，在多個AI內容生成平臺，用戶只需上傳簡單的人物形象、輸入文字指令，即可快速生成動態視頻，電商平臺也存在專門提供動畫定制服務的商家。社交媒體上，還能看到有關AI生成大尺度圖片的教學帖、經驗帖，其中動畫是AI視頻不良內容的“重災區”。

“AI技術使得制作視頻的成本和門檻大幅降低，為內容創作者提供了極大助力，但客觀上也讓更多粗制濫造甚至導向不良的視頻產品進入用戶視野。”南開大學信息與傳播學院副教授于孟利表示，一些投機型創作者利用青少年好奇心強的特點，將制作節奏快、刺激性強的AI動畫當作“流量密碼”，不擇手段“博眼球”。

記者在某短視頻平臺上看到，不少內容荒誕或含有暴力、軟色情內容的AI動畫流量十分可觀，例如某條“奧特曼開著推土機瘋狂碾壓路面汽車”的動畫點贊量達到2.6萬次。

據業內人士透露，創作這類內容有多種變現途徑，除了平臺流量分成外，還可以通過售賣盲盒、卡牌等周邊產品，或將用戶引流至私域等方式獲利。以“AI山海經”為例，已有手辦、玩偶、臨摹繪本等衍生品在電商平臺銷售。

工信部工業和信息化法治戰略與管理重點實驗室副主任趙精武介紹，對于AI生成的圖片、視頻，平臺通常采取“人工+機器”的方式進行審核，部分平臺會采用數字技術工具對圖片視頻內容進行批量審核，有的平臺還會設置專門的人工審核團隊，針對用戶投訴舉報、首頁推薦等顯著位置的網絡信息內容進行審核。

這類批量生成的AI動畫視頻，給平臺的監管體系帶來挑戰。趙精武表示，現有審核機制在應對隱蔽性強、法律定性模糊的網絡內容時存在局限性，平臺往往難以在短時間內準確判定其是否屬于違法不良信息。此外，AI生成的視頻、圖像常與普通內容混雜，進一步增加了識別難度，導致人工審核成本大幅上升。

3.為孩子營造清朗網絡空間

當AI技術深度融入社會生活，如何讓其成為孩子成長的好幫手，而不是炮制有害內容的幫兇？

2024年發布的《生成式人工智能服務安全基本要求》，對生成式人工智能服務適用未成年人的有關內容作出明確規定。

2025年4月，中央網信辦開展“清朗·整治AI技術濫用”專項行動，重點整治內容包括利用AI脫衣、AI繪圖等功能生成合成色情內容，制作發布血腥暴力場景，人體扭曲變形、超現實怪物等恐怖詭譎畫面等。

多位受訪專家建議，進一步加強AI生成視頻產業鏈的監管力度，壓實平臺主體責任。

趙精武表示，網絡平臺應重點審核面向未成年人群體的AI合成推送信息，設置專門團隊優化未成年人用戶算法推薦服務，增加優質網絡信息內容的推送權重。

在源頭治理方面，于孟利建議，應在AI生成工具上強制嵌入不可篡改的數字水印，從而實現內容的精準溯源。

“低齡兒童對信息真偽的判斷力較弱，面對AI等新技術帶來的網絡信息洪流，家長應積極承擔監護人職責，成為孩子觀看內容的最后一道‘把關人’。”中國傳媒大學動畫與數字藝術學院院長王雷說。

天津市安定醫院兒童青少年心理科病區主任雷彤表示，學校和家庭應加強未成年人的生命教育等，讓孩子培養正確的價值觀，抵御不良網絡內容的侵蝕；同時，加大優質兒童文化產品的供給。“當‘正’的內容足夠多、足夠有趣，‘邪’的內容自然便沒有了生存空間。”雷彤說。（新華社記者 白佳麗 栗雅婷）