当AI学会“造人设”：谁在操控你的朋友圈焦虑？

 一、AI谣言的典型场景与案例

1. 自然灾害类谣言  

   - 西藏地震“六指男孩”：2025年1月，西藏定日县地震期间，AI生成“被压废墟下的小男孩”图片被用于造谣，图片中男孩左手有六根手指，但仍被大量传播。  

   - 夸大灾情：2025年3月，广东强对流天气期间，AI生成“冰雹砸垮房屋”等虚假图片，刻意渲染灾害严重性。  

   - 移花接木：新疆拜城县地震后，有人用AI拼接旧图伪造“3人死亡”的虚假灾情视频。

2. 社会热点与名人谣言  

   - 明星丑闻：2025年3月，“顶流男星境外豪赌输光十亿身价”的虚假新闻由AI生成，阅读量超5亿。  

   - 伪造名人言论：2024年底，AI生成张文宏推销保健品的虚假视频，利用名人效应误导公众。  

   - 捏造政策解读：AI合成“80后死亡率突破5.2%”的虚假报告，配以伪造专家视频引发社会焦虑。

3. 医疗健康与经济类谣言  

   - 抗癌神药骗局：2024年AI伪造“抗癌神药”广告，导致数千患者延误治疗。  

   - 医保与经济谣言：2025年2月，散布“广东医保基金赤字”“雄安集团虚假招聘”等不实信息，扰乱社会秩序。

 二、AI谣言的传播手段与特征

1. 技术手段  

   - 深度伪造（Deepfake）：通过AI换脸、语音合成生成逼真视频，如伪造“灾民呼救”方言配音。  

   - 批量生产：某MCN机构日均生成4000-7000篇假新闻，形成“AI编剧—真人出镜—算法推送”的产业链。  

   - 多模态融合：结合文字、图片、视频，增强谣言可信度，例如“冰雹灾情”配AI生成图片。

2. 传播套路  

   - 无中生有：凭空编造“湖北暴雨致山体滑坡”等虚假事件。  

   - 扭曲事实：夸大重庆火灾伤亡数据（实际1人受伤，谣传“19人死亡”）。  

   - 旧闻嫁接：将2019年银行火灾视频伪装成浙江台州近期事件。

 三、社会影响与危害

1. 扰乱公共秩序  

   - 虚假灾情信息导致公众恐慌，干扰救灾工作（如新疆地震谣言）。  

   - 伪造政策解读削弱政府公信力，例如“医保基金赤字”谣言。

2. 经济损失与人身伤害  

   - 电信诈骗结合AI谣言，如虚假招聘骗取培训费。  

   - 医疗谣言导致患者延误治疗，甚至危及生命。

3. 技术信任危机  

   - AI技术被污名化，公众对真实信息产生普遍怀疑。

 四、治理措施与公众应对

1. 法律与监管  

   - 国家立法：2025年3月《人工智能生成合成内容标识办法》实施，强制标注AI生成内容。  

   - 刑事处罚：编造虚假险情、灾情最高可判7年有期徒刑。  

   - 平台治理：淘宝拦截10万张AI假图，今日头条建立“谣言库”与权威信源验证。

2. 技术对抗  

   - 溯源技术：区块链与水印技术追踪AI生成内容源头。  

   - 检测工具：公安部推荐使用“AI内容检测平台”验证真伪。

3. 公众识别指南  

   - 查来源：警惕“网友投稿”“内部消息”等非官方信源。  

   - 辨细节：观察AI图片的手指异常、光影不自然；视频中口型与声音不同步。  

   - 验逻辑：识别时间矛盾（如引用未来数据）或地名错误。

 五、AI谣言 vs 传统谣言对比

| 维度         | AI谣言                          | 传统谣言                  |

|------------------|------------------------------------|-----------------------------|

| 生成效率         | 分钟级批量生产                      | 依赖人工编造，效率低          |

| 仿真度           | 多模态融合，逼真度高                | 以文字为主，易识别            |

| 传播范围         | 算法精准推送至目标群体              | 随机传播，范围有限            |

| 治理难度         | 需技术+法律协同，成本高             | 依赖人工审核与法律打击         |

| 典型案例         | 西藏地震“六指男孩”、AI伪造张文宏视频 | 口头传播的都市传说、文字谣言  |

 总结

AI技术降低了谣言制造门槛，但也催生了技术治理与公众教育的双重需求。面对“后真相时代”，需通过法律严惩、技术溯源、平台责任与公众警惕构建防御体系，避免技术沦为“谣言放大器”。