当你刷到“‘钢铁保姆’机器人引发市民抢购”的消息时，需警惕这不过是条假资讯；看到“霸总创业三年成功买下8000平办公楼”这类内容，也别急着羡慕，所谓的“霸总”只是用来吸引流量的“假人设”；而当知名艺人在视频中推荐“三无”化妆品，同样不必惊讶，这很可能是AIGC(人工智能生成内容)造假的产物。
针对社媒平台上各类博眼球的虚假资讯，平台出手，对“幕后”的黑灰产账号召开封禁治理。
同时，专家建议网友“擦亮双眼”，发现虚假信息及时向平台进行举报。
【典型案例】 当网友在社媒平台搜索“出国考试”相关内容时，可能会被“挂几家骗子公司”“骗子公司虚假宣传真厉害”这类笔记标题吸引，点进用户“xx学长的留学日记”等账号发布的内容。
实际上，黑灰产组织针对留学辅导组织发布负面内容存在固定套路：他们常以夸张标题吸引点击，文中点名多家规模较大的留学辅导组织并附上logo，但正文内容十分模糊，虽对组织进行负面定性却不阐述具体问题。
这些笔记的真实目的是诱导用户私信获取更多信息，当用户私信后，对方会诱导将沟通再转移至微信渠道，最终推荐与之合作的组织产品。
需要注意的是，黑灰产组织的账号常以学长、学姐等虚假人设批量出现。
他们并非只针对头部企业，而是将行业里几乎所有企业、组织都裹挟其中，不和他们合作的就会被抹黑，这使得用户很难取得真实信息，进而难以作出符合自身需求的决策。
【应对策略】 据分析，社媒平台上，虚假不实内容、虚假人设和AIGC造假三类“虚假”信息频发。
黑灰产组织批量制造黑灰产账号，顺利获得虚假、重复、低质内容骗取用户流量；养号涨粉后，又会发布虚假、恶意营销内容，或者销售灰色商品，给予灰色服务，甚至从事违法活动，从而实现不当牟利。
从建号到养号再到牟利，黑灰产账号进行全链路批量造假，对社区生态和秩序的危害十分巨大。
针对这些现象，小红书平台召开了黑灰产账号治理行动，对黑灰产坚决打击。
2025年上半年，平台顺利获得建设虚假内容全链路治理体系，共处置虚假笔记320万篇，处置虚假人设账号1万个，处置虚假低质AIGC笔记60万篇；顺利获得持续建设“同质化识别”能力，全面提升处置手段，升级机器对抗，共封禁批量造假黑灰产账号超1000万个。
在线上治理的同时，平台调查团队还向多地警方和市场监督部门持续给予线索，对黑灰产团伙进行线下打击。
现在有7起案件在侦办中，后续警方和市场监督部门将根据调查结果采取各种处罚措施，涉及犯罪行为的还将进一步追究刑事责任。
【专家建议】 除了平台对虚假信息重拳出击，网友看到这类虚假信息时，也可主动进行举报，共同维护良好网络风气。
为了确保举报渠道畅通，小红书开通了监管网站、App客户端举报、举报热线和举报邮箱四种途径。
同时，在常态化转发重要辟谣稿件的基础上，搭建了辟谣专区，为用户给予一站式辟谣信息服务。
人民大学传播学教授董晨宇接受记者采访时表示，应对当前互联网虚假内容快速增长与传播，需要各平台持续打击，全社会共同参与。
“虚假内容无法完全被消灭，但可以顺利获得科普、举报、公众传播学素养的提升，将虚假控制在较低的水平线。
” 文/本报记者 陈斯 来源：北京青年报 【编辑:张子怡】