AI 生成的内容，在电台播出前怎么审？我们的三审实操
AI 生成的内容，在电台播出前怎么审？我们的三审实操
去年我们有一家合作台，AI 生成的一条路况播报里，把某路段施工限行的信息播错了——不是敏感词，但数字读错了，播的是"限行到 12 月 30 日"，实际是"限行到 12 月 3 日"。听众打进热线质疑，台里自查，发现那条播报是 AI 生成、编辑没有逐字核实就通过了的。
没有酿成什么大事故，但足够让我们认真重新梳理一遍三审流程。
这篇文章写的是真实的审核工作流——不是规章制度里写的那套，是实际在系统里跑、日志里能查、签字能追溯的那套。
为什么 AI 内容的审核不能套用人工内容的审核流程
先说一个很多台容易忽视的前提：AI 生成内容的审核，和人工内容的审核，不是同一件事。
人工撰稿，编辑负责，有明确的责任主体。稿子出了问题，追到记者、追到编辑，流程清晰。
AI 生成内容，责任主体是谁？是触发生成的那个操作员？是审核通过的编辑？是系统提供商？在实践中，这个问题没有统一答案，但监管的立场是明确的：上了播出链路的内容，台里负责，不管是不是 AI 生的。
这意味着：AI 内容的审核，必须和人工内容同等严格，甚至在某些维度上要更严格。
人工稿子，编辑看稿，看的是内容对不对、表达合不合适。AI 生成内容，编辑还得额外看：生成结果和输入来源是否一致（有没有幻觉）、数字和专名是否准确（AI 在数字和地名上的错误率高于文字描述）、语气是否符合广播规范（AI 有时候会生成书面感过强或口语感过弱的表达）。
这些差异，如果不体现在审核流程设计里，就等于没有审核。
三审是一个状态机，不是三个人看一遍
国内广播的"三审制"，一般描述为：一审（编辑自审）、二审（责任编辑审）、三审（节目主任终审）。
这个描述在人工内容时代基本够用，因为稿子在编辑们手里传来传去，谁看过自然有记录。
但 AI 内容速度快、批量大——一档路况节目可能一天生成 6 条，一档新闻播报可能一天 10 条以上。如果每一条都走三个人手动签字的流程，不是不行，但在人手有限的县级台，这套流程能不能在播出时间窗口内完成，是一个现实问题。
我们在系统层面做的，是把三审变成一个有明确状态机的工作流，而不是人工传签的流程。
状态机有五个状态：
- 生成完成（Generated）：AI 合成完成，进入待审队列
- 初审通过（Pre-cleared）：自动内容安全扫描通过，进入人工审核队列
- 人工确认（Approved）：值班编辑在系统中确认，操作者身份和时间戳锁定
- 播出完成（Aired）：系统实际播出，自动记录播出时间和音频哈希
- 归档（Archived）：播出后 90 秒自动归档，包含完整的内容生成参数、审核记录、音频文件
这五个状态，只能按顺序推进，不能跳过。人工确认环节是硬卡点：没有操作者身份的确认记录，内容不能进入播出队列，无论编辑有没有"口头说过可以"。
初审：自动过滤做的是什么
第一道关是自动的。AI 内容生成完成后，系统立即对文稿做关键词扫描和语义敏感度检测。
关键词库分两层：一层是硬性拦截词，命中即打回，不进入人工审核；一层是软性标注词，命中后继续流转，但在人工审核界面高亮标注，提示编辑重点核查。
敏感词库的维护是个持续工作。不是部署一次永久生效，而是需要根据时事定期更新。我们在实践中遇到过几次：某个词在日常情况下完全正常，但在特定政治节点窗口期会变成敏感词，AI 生成的稿子里没有问题，但播出时机不对。这种上下文敏感性，纯靠关键词库很难覆盖，需要人工判断。
这也是为什么初审只能做过滤，不能代替人审。
除了关键词，初审还做一件事：数字和专名的一致性校验。AI 生成内容时给了什么输入（新闻原文、路况数据源、天气 API 返回值），生成结果里的数字和地名是否和输入一致，可以做机械比对。这一步能捕捉到相当一部分的幻觉错误，成本很低，但效果明显。
那条路况播报数字错误的事故，如果这一步在那时已经上线，应该可以被捕捉到。我们那时候还没做这层校验。
人工确认：编辑实际做什么，不做什么
人工确认环节，在系统里呈现给编辑的是：
- 文稿全文（不是摘要）
- 生成的音频文件（可以在系统里直接播放）
- 生成时使用的来源数据（新闻原文、路况数据、天气参数）
- 初审标注的高亮项（如有）
- 建议播出时间和所在节目栏目
编辑的操作只有两个：通过或打回。打回需要填写原因，原因进入日志。
我们刻意没有做"编辑可以修改文稿再通过"这个功能。原因是：如果允许编辑修改，修改后的内容和 AI 生成的原始内容混在一起，责任归属就模糊了，而且修改后的版本没有经过初审的自动扫描，引入了一个新的安全盲区。
如果文稿有问题，正确做法是打回，重新生成，新版本重走初审流程。这会慢一点，但每一版的来源和审核记录都是干净的。
一次真实事故：敏感词怎么过了初审
大约 14 个月前，一条 AI 生成的新闻导读播出后，被台里的合规自查发现了一个问题：文稿里有一个词，在特定上下文中含义模糊，按照广播审核规范，这类词应该在用词说明中注明出处或改写。
这条内容通过了初审，因为这个词本身不在关键词库里。通过了人工确认，因为值班编辑看了一遍没有标注这个词有问题（这个词确实不显眼，在上下文里不突出）。
事后的改进措施有两条：
一是补充了一批"语境敏感词"进入软性标注库——这些词单独拿出来不是问题词，但在特定组合下需要人工关注。这需要合规编辑参与维护，不是工程问题，是内容专业问题。
二是在人工确认界面加了"确认无模糊用词"的显式勾选项。这是一个微小但重要的改变：它不是拦截，而是强制编辑对这个维度做一次显式思考，而不是泛读一遍就点通过。
行为设计上的细节，往往比流程规章更有效。
签字留档：审核记录怎么在监管检查时用得上
广电局对播出系统的检查，核心关注点之一是：你的审核记录是否可追溯、可查验、不可篡改。
我们的归档设计：
- 每条 AI 内容的完整生命周期记录（生成时间、生成参数、初审结果、人工确认操作者 ID + 时间戳、播出时间、音频文件哈希）存入专用审核日志库
- 日志库只能追加，不能修改或删除（Append-only），系统层面强制
- 日志保留 90 天，可导出为 PDF 格式供监管查阅
- 音频文件归档 30 天（磁盘占用考量，如需更长可配置）
这套记录在实际检查中用到过两次，都顺利通过了。检查人员最常要求核查的是：某段时间内的播出记录是否完整，某条具体内容的审核责任人是谁。这两个问题，我们的日志都能直接给答案。
三审之外：播后的持续监控
三审流程覆盖的是播出前的审核。但广播内容的合规风险不止在播出前——还有播出时和播出后。
播出时：实时音频分析模块对播出信号做持续监控，包括静默检测、异常电平告警、以及（可选）关键词实时监测。如果播出时检测到静默或异常，立即告警，不等人发现。
播出后：每条播出内容的实际音频（不是合成文本，是真正的播出录音）会被自动截取归档，对照文稿做 ASR 转写比对，确认播出内容和审核通过内容一致。这一步能捕捉到一类极端情况：文稿审核通过了，但 TTS 在某个词上有奇怪的发音，转写出来和文稿不符。
这种情况极少发生，但发生过。
完整的三审实现可以访问 https://www.kavanafm.com/aiSanShen，内置工作流配置和权限管理，也可以独立于我们其他产品单独使用。如果你的台已经有 AI 生成内容但还没有系统性审核流程，https://www.kavanafm.com/aiUtils/programShen 是一个可以快速接入的轻量版审核工具。
KAVANA 由湖南声广科技有限公司开发，广播电视节目制作经营许可证湘字第 00565 号，网络安全等级保护三级认证。技术文档与开放规范：github.com/kavanafm