公安部曝光AI造谣新犯罪:6人批量发布50万篇引流虚假信息

2024-12-12内容来源AIbase基地

据南方都市报报道，公安部网安局近日公布的一起典型案例揭示了令人担忧的网络造谣新模式。广东广州公安机关成功侦破一起利用人工智能工具大规模制造虚假信息的犯罪团伙，抓获6名犯罪嫌疑人。

犯罪团伙以赚取网络平台流量收益为目的，采用精心策划的犯罪手法:招募兼职人员注册自媒体账号，利用AI工具快速改写热门文章，批量发布虚假信息。据统计，该团伙累计发布引流图文信息超过50万篇，造成严重的网络信息污染。

图源备注：图片由AI生成，图片授权服务商Midjourney

调查发现，犯罪分子可以轻而易举地获取各类AI写作工具。这些工具功能多样，不仅能快速生成公众号文章、视频脚本、社交媒体文案，还能进行文章续写、内容改写和图片生成等操作。令人震惊的是，一些会员服务费用极其低廉，每月仅需99元，年费还能享受五折优惠。

中国计算机学会专家方宇指出，犯罪分子利用AI工具生成谣言的成本已经极其低廉。随着大模型算法开源和AI技术日益成熟，犯罪分子获取和使用这些工具的门槛正在不断降低。

这一案例不仅暴露了AI技术可能被滥用的严重风险，也凸显了打击网络造谣、维护网络信息秩序的紧迫性。公安机关的成功侦破，为遏制AI违法犯罪提供了有力示范。