科技日报9月8日刊发报道，聚焦一个日益普遍的现象：AI正在坐上“文本裁判席”——论文审稿、新闻核查、作文评分、内容审核，越来越多的判断权被交给人工智能。当AI既当“运动员”又当“裁判员”，内容生态的信任根基正在面临新的考验。

　　AI参与内容治理并非新鲜事。多年来，社交平台一直在用算法识别违规内容，学术期刊也在使用查重系统检测抄袭。但生成式AI的普及，让这一问题发生了质变。过去的AI审核主要是“匹配式”的——比对关键词、比对重复率，逻辑相对透明；如今的大模型裁判是“推理式”的——它会综合语义、语境、风格做出判断，但其内部决策过程往往是个“黑箱”。

　　“黑箱”带来的第一个问题是偏见。AI的判断基于训练数据，如果训练数据中存在性别、地域、意识形态等方面的偏差，AI裁判就可能系统性地歧视某些群体。一篇论文是否被推荐发表、一篇作文得分高低、一条内容是否被判定违规，当这些决定由AI做出时，公平性如何保障？

　　第二个问题是“幻觉”。大模型有时会“一本正经地胡说八道”，在裁判场景中同样可能出现误判。一篇高质量的原创文章可能被AI判定为“AI生成”，一篇存在问题的内容也可能被AI漏掉。更麻烦的是，AI的误判往往难以解释——它说不出“为什么判错”，用户也难以有效申诉。

　　第三个问题是利益冲突。当AI公司开发的模型同时被用于内容审核，而这些平台本身又在运营内容业务时，“裁判员”和“运动员”的边界就变得模糊。AI裁判的标准由谁制定？由谁监督？是否存在利用审核权打压竞争对手的可能？这些问题尚无明确答案。

　　教育领域的矛盾尤为突出。一项由斯德哥尔摩大学等机构对26811名中国学生进行的为期30个月的研究发现，生成式AI的使用可能与学生学习能力下降相关。当学生用AI写作业、老师用AI批作业，教育的本质——人与人之间的思想碰撞和知识传承——正在被稀释。

　　面对这些挑战，需要建立一套AI裁判的治理新秩序。首先是透明度原则——AI裁判的标准、逻辑、数据来源应当可追溯、可解释；其次是申诉机制——被AI判定的内容和个人应当有便捷的人工复核渠道；再次是人机协同——AI可以做初筛、做辅助，但最终判断权应掌握在人手中，尤其是在论文发表、司法判决、教育评价等高风险场景。

　　技术的发展总是快于规则的完善。AI坐上裁判席是不可逆转的趋势，但“让AI裁判”不等于“让AI说了算”。在效率与公平之间、在技术与人文之间，找到平衡点，是数字时代内容治理的必答题。

　　文/鸣耒