警惕AI滥用“污染”内容生产

时间:2025年05月16日 来源:《中国艺术报》 作者:李文新

  今天,生成式人工智能已渗透至内容生产的众多领域。从最初提供AI检索、灵感来源,到如今深度介入创作,生成式人工智能正在深刻影响我们的创作。然而,技术手段的滥用造成了重形式而轻内容、重技术而轻人文等一系列问题,创作内容的深度和真实性、准确性正在被侵蚀,参差不齐的质量使受众体验感变差,平台面临用户流失和声誉受损的困局。面对AI创作捏造不实信息、刻板改写以及同质化作品频出等乱象,中央网信办“清朗·整治AI技术滥用”专项行动中明确指出,强化AI技术源头治理,清理AI生产的不良信息,整治违规AI应用程序。对于承载、传播和输出相关创作内容的平台来说,坚持正确价值导向、把好内容质量关既是当务之急,更是可持续发展的不二法门。

  “清朗·整治AI技术滥用”专项行动强化AI源头治理,推动平台提升检测能力。这表明,大量存在违规使用AI散播不良信息的突出问题和侵犯他人权利的违法行为,技术手段的滥用导致内容质量下降,科技伦理问题不容忽视。一些专门记录AI系统在现实世界造成危害和潜在危害的数据平台也指出,滥用AI技术导致的各种问题,不仅涉及AI篡改信息和传播虚假内容等乱象,也包含了AI侵权等违法行为。

  实际上,部分平台很早就推出人机互动的写作工具,打破了传统的码字模式,但伴随着AI的滥用,网文圈出现大量洗稿、抄袭等乱象。有些平台已成为滥用AI写作的重灾区,用户仿佛置身于一个数字怪圈,难以从中找到有独创性和个性的作品,导致内容收获、情感共鸣和审美体验大打折扣。日前,几家头部网文平台联合发声,积极响应有关部门的专项行动,呼吁遏制AI滥用导致的行业乱象,完善AI技术辅助作用,推动制定行业仿冒、抄袭、洗稿等认定标准。这无疑值得肯定,但效果如何尚待观察。

  在当前情况下,确保内容的真实性与准确性成为平台的重要课题。部分平台依据审核制度,按照一定的原则对伪造技术、谣言信息、低俗内容进行筛查。很多平台也升级审核机制,开展对情节老套、叙事混乱等AI生成低质内容的长期治理,具体包括拒绝签约和内容下架等措施,通过提高签约门槛进一步规范创作环境。平台以品质优先的流量分配政策,对AI生成内容进行多重技术与人工筛查,扶持优质内容生产,方为正道。

  这警示我们,要警惕AI滥用“污染”内容生产,技术必须具有人文价值,以维护内容生态的边界。AI是具有伦理性的数字承载者,AI生成内容是技术的产物,也是文化载体。平台利用AI赋能的同时,除了警惕和防止AI生产内容的低质化,也要把更多的资源和精力投入到对优质内容的扶持和价值挖掘上。部分平台采取措施将用户的注意力拉回到内容所承载的文化价值、审美特色和社会意义,引导大众关注深刻的主题、独特的故事、优质的内容,而不是聚焦于技术功能的堆积产生的新奇体验与爽感,体现了责任和担当。但这绝不应该只是权宜之计,而应成为包括平台在内的所有相关方在使用人工智能进行内容创作、传播、消费时所遵循的基本规则。 
(编辑:王垚)