质量评估、伦理与内容真实性——把关的人是你

本课导读

上一课的最后一句是"责任在按下发布键的人身上"。本课就是把这句话展开成可执行的东西：一张八层审核框架（从语义到安全，逐层查什么）、一次红队演练（主动找自己的茬）、以及内容真实性这个正在成为行业基础设施的话题。这一课不教你把图做得更好看，教你别让一张不该发的图流出去——这恰恰是甲方付钱雇专业人士而不是自己用 AI 的核心理由。预计 50 分钟。

八层审核框架

散着看图只会看到"好看/不好看"。逐层扫，问题才会现形——从内容到风险，八层：

层	查什么	典型翻车
语义	是否符合任务要求	要"三个人围坐"给了两个人；要秋天给了夏天
事实	地理、历史、科学、文字、数据是否正确	悉尼歌剧院旁边长出埃菲尔铁塔；实验室器材接反；图表数字对不上
结构	人体、物体、透视、空间关系	六根手指、椅子腿穿过桌面、影子方向互相矛盾
一致性	人物、产品、品牌、系列风格是否稳定	系列第 18 张主角换了脸（L6 的老敌人）
审美	构图、色彩、光线、视觉重点	主体没有视觉重心，四平八稳但没有记忆点
技术	分辨率、噪点、边缘、压缩、印刷要求	网页看着好，印刷出来糊；抠图边缘毛刺
合规	肖像、版权、商标、隐私、披露	背景出现真实品牌 logo；用了像某明星的脸；未标注 AI 生成
安全	欺骗性、歧视性、伤害风险	可被误认为真实新闻事件；刻板印象的职业/性别呈现

用法有讲究：前六层是质量，后两层是风险。质量层可以商量（审美不够好但能用），风险层是一票否决——合规或安全任一层亮红灯，这张图不能发，做得再美也不行。

红队演练：主动找自己的茬

红队（red team）借自安全行业：假设自己是恶意的挑刺者，主动攻击自己的产出。审核框架是被动检查表，红队是主动进攻——两者互补。

对一批待发布的图，逼自己回答四个问题：

1. "这张图能被截出来断章取义吗？" 局部截图后语义会变成什么？
2. "如果它出现在新闻里，有人会信吗？" 这是判断"欺骗性风险"最好用的一把尺——越像真实照片、越像新闻现场，风险越高；
3. "这张图里的人，代表了谁？" 检查刻板印象：一批"CEO"全是男性、一批"护士"全是女性，是模型训练数据偏见的直接输出，你不查就替它背书了；
4. "图里有没有我没注意到的第三方财产？" 商标、建筑外观、艺术品、可辨识的真实人脸——背景里的东西同样算数。

红队最好由别人做（你对自己的作品有盲区），团队里互查是常见做法。一个人时就隔一天再看——时间差能部分替代视角差。

五条禁令

这五条与视频课 L8 的红线同源，构成本 Track 的行为底线：

1. 不制作可被误认为真实事件的欺骗性图像（伪造的新闻现场、灾害照片、"实拍"证据）；
2. 不使用真实个人的肖像做敏感或贬损性合成（哪怕是公众人物，哪怕标注了 AI）；
3. 不用私人或未授权素材训练定制模型（L9 数据集红线的重申）；
4. 不隐瞒需要披露的 AI 生成或编辑过程；
5. 不把模型输出当作未经核验的事实证据（AI 画的解剖图、地图、图表，不能直接当资料用）。

第 5 条最容易被忽略，因为它不涉及恶意——只是懒。模型生成的信息图看起来专业得体，数据却可能是编的；用它做教学材料、投资材料、医疗科普，危害不比恶意伪造小。

内容真实性：披露与凭证

行业正在建立的基础设施是内容凭证——把"这张图是怎么来的"写进文件本身：

• C2PA / Content Credentials：一套开放标准，在图像元数据里记录来源与编辑历史（用了什么模型、经过哪些编辑），可验证、防篡改。多家生成工具和相机厂商已在支持；
• 不可见水印：部分模型在输出中嵌入肉眼不可见的标识，供检测工具识别 AI 生成内容；
• 平台披露要求：主流内容平台已陆续要求标注 AI 生成内容，多地法规也在跟进。

对你的实践含义很简单：保留凭证、主动披露。导出时别无脑抹掉元数据，发布时把"AI 生成/AI 辅助"写清楚。披露不会削弱你的专业性——恰恰相反，主动披露的人显得可信，被发现没披露的人失去全部信任。

审核不是终点，是反馈

八层框架的另一个用法：把审核结果回灌进生产。

• 事实层老出错 → 涉及具体事物的图，提示词里加约束或改用参考图（L4）；
• 结构层老出错 → 引入空间条件（L7）而不是反复抽卡；
• 一致性层老出错 → 圣经缺资产，回去补（L6）；
• 合规层出过一次 → 在模板里加入负面约束和检查项，让它不再发生。

这就是 L2 实验日志精神的终点形态：每一次失败都要变成流程里的一条改进，否则你只是在重复交学费。

动手任务：红队审计报告

基础路线（约 50 分钟）：

1. 建靶子：从你 unit-2/unit-3 至今产出的所有图里，挑 6 张待"发布"的（含 L10 的品牌资产）；如果手头的图都太干净，故意生成两张有问题的（如：含文字的信息图、有真实地标的场景图）；
2. 逐图八层扫描：做一张表，6 张图 × 8 层，每格填"通过/问题描述"。诚实一点——这份表的价值和你的诚实度成正比；
3. 红队四问：对其中风险最高的 2 张，逐条回答本课的红队四问；
4. 改进版本：挑问题最严重的 1 张，按诊断修好（重绘/局部重绘/换条件），并排放出修前修后；
5. 流程改进条款（最重要的一步）：从这次审计里提炼 2 条写进你的生产流程的规则——具体到"在哪一步做什么"，不要写"以后要更细心"这种废话。

进阶路线（可选）：找一位同伴互换 6 张图做交叉红队，对比"自审"和"他审"发现的问题数量差异；或检查你常用工具的输出是否携带 Content Credentials，试着读取一张图的凭证信息。

随堂测验

随堂测验0 / 4 题正确

1. 一张图审美层评分很高，但合规层发现背景里有可辨识的真实品牌 logo。正确处置是？

A审美价值高，可以先发，被投诉再撤B把 logo 打码后发布即可C不能发布——合规与安全属于风险层，一票否决，与质量层不做加减法；应局部重绘去除后重新过审D标注 AI 生成即可规避

2. 红队四问中的「如果它出现在新闻里，有人会信吗」，用来评估的是哪一层风险？

A技术层的分辨率是否达标B安全层的欺骗性风险——越像真实照片、越像新闻现场，被误认为真实事件的风险越高C审美层是否具有专业水准D一致性层是否稳定

3. 「不把模型输出当作未经核验的事实证据」这条禁令，最常见的违反场景是？

A恶意伪造名人照片B训练模型时使用了未授权素材C把 AI 生成的信息图、解剖图、地图直接用于教学或专业材料——它看起来专业，数据却可能是编的D发布时忘记标注 AI 生成

4. 本课要求审计的最后一步是「提炼流程改进条款」，理由是？

A为了让报告看起来更完整B客户要求提交改进计划C改进条款可以替代下一次的审核D审核结果必须回灌进生产流程（如结构层老出错就引入空间条件），否则每次失败都只是重复交学费——这是实验日志精神的终点形态