近日，网警公布了多起利用AI恶意编造虚假新闻的案件，如华山医院院长“被死亡”、女明星遗产“被分配”，等等。犯罪分子仅需输入简单关键词，就能生成数千条以假乱真的“新闻”，这暴露出AI技术存在被滥用的巨大风险。

 

　　AI大模型基于概率来生成内容，缺乏对事实的核查机制，为追求文本连贯性，易编造细节或虚构事实。在湖北警方查处的一起造谣案中，某公司为增加网站流量，购买AI智能写作软件，通过输入关键词，由系统自动抓取网络信息生成文章，且不经过人工审核就发布。这种为博流量不惜造假、造谣的行为，扰乱社会秩序、误导公众认知，甚至侵犯他人合法权益，必须严格监管、严肃处理。

 

　　预防AI成为造假利器，技术公司和平台需携手合作，构建健康数字生态系统。技术公司应优先提升数据质量，将AI大模型接入权威的信源，从根源上减少虚假信息产生；平台方也需强化警示标识，在新闻、医疗、法律等高风险领域设置人工审核关卡，遏制虚假信息传播。用户也应提升AI时代的媒介素养，多源比对重要信息，避免过度依赖单一来源。

 

　　信息载体的进化不应导致真相的退化。AI作为工具，本质是为社会带来价值，而非制造混乱。当AI可能成为造假的帮凶时，运用AI的人尤其需要敬畏真相、敬畏法律，为人工智能世界营造真实、可信的空间。