跳动百科

AI 助推 “水军” 新形态:48小时炮制4000多条有害信息

袁寒雪   来源:网易

近年来,随着人工智能技术的快速发展,“水军”行为也呈现出新的形态。据报道,一些不法分子利用AI工具,在短短48小时内就能炮制出4000多条有害信息,严重扰乱了网络环境和社会秩序。

这种新型“水军”操作方式借助于强大的自然语言生成技术和自动化脚本,能够快速复制、传播虚假或恶意内容。这些内容可能涉及造谣生事、恶意攻击他人、散布谣言等违法行为,对公众知情权造成侵害,并可能导致社会恐慌情绪蔓延。

值得注意的是,此类行为不仅损害了正常的网络生态平衡,还给平台治理带来了巨大挑战。传统的人工审核机制难以应对如此海量且隐蔽的信息流,而过度依赖算法推荐又可能加剧问题扩散。

面对这一现象,相关部门已开始加强监管力度,要求互联网企业严格落实主体责任,完善内容审核体系;同时呼吁广大网民提高辨别能力,共同抵制不良信息。长远来看,还需进一步推动技术创新与法律规范相结合,构建更加健康和谐的网络空间。