OpenAI通过多模态模型GPT-4o实现文本到图像的生成能力，但其图像生成功能并非完全开放，而是受到严格的内容审核机制和伦理边界的限制。系统会主动屏蔽涉及暴力、仇恨、侵权或成人内容等敏感请求，同时可能拒绝生成特定公众人物或受版权保护风格的图像。技术层面，GPT-4o通过潜在扩散模型等算法将文本描述转化为像素，但输出结果会经过安全层过滤，确保符合政策要求。这种"神之手"般的控制既体现了AI创造力与责任之间的平衡，也引发关于创作自由与审查的讨论。用户的实际体验往往是：越接近合规边缘的请求，越容易触发系统的拒绝机制。
最近是不是被各种吉卜力风格的AI插画刷屏了？但有没有发现，有些类型的图片死活就是生成不出来？有时候你的创意请求会被无情拒绝，有时候又能神奇通过...到底是谁在背后决定这些边界？又凭什么这么定？
说实话，制定AI模型政策这事，简直就像在执掌"神之手"，想象一下，AI就像个无所不能的超级助手，而能决定它什么能做、什么不能做的人，简直就是在行使一种特殊权力，特别是现在越来越多人靠AI完成工作和生活任务，这种权力的分量就更重了。
最近OpenAI的模型行为负责人Jang（一位超厉害的韩裔小姐姐，斯坦福CS毕业但自称最有用的居然是哲学课）分享了一篇内部视角的博客，终于揭开了这些问题的答案。
吉卜力风爆火背后的AI政策难题
GPT-4o一发布，全网立刻掀起了吉卜力风格创作热潮，但这引发了一个灵魂拷问：模仿知名艺术风格的版权和伦理边界到底在哪？这正是AI政策制定的核心难题。
Jang在博客里说，OpenAI正在从敏感领域的"一刀切"拒绝转向更精准的方法，核心理念就是：承认自己认知有限，保持政策灵活性随时调整，用她的话说：
> "我们正在从敏感领域的全面拒绝转向更精确的方法，专注于防止现实世界的伤害，目标是拥抱谦卑：认识到我们不知道的有多少，并做好调整的准备随着我们的学习。"
创作者最关心的：到底什么能画，什么不能？
✔️ 能做的：创意自由升级
1、风格模仿：比如最近爆火的吉卜力风
2、个性化编辑：现在可以要求"让眼睛看起来更亚洲化"或"让人物更胖"了（以前这些请求会被误判为冒犯性）
3、文化教育内容：即使是敏感符号，只要是真的用于教育目的也可能获准
❌ 不能做的：这些底线不能碰
1、未成年人保护：18岁以下用户有更严格的保护措施
2、公众人物保护：建立了"选择退出名单"，尊重个人对自己形象的控制权
3、仇恨符号滥用：教育语境可能允许，但有害使用绝对禁止
政策背后的三大原则转变
相信用户比我们更会玩
> "AI实验室员工不应成为判断人们可以或不可以创造什么的仲裁者。"
Jang坦言，每次发布后团队都会被用户的创意用法震惊——有些用法事后看简直太明显了，但团队就是想不到，所以现在OpenAI正在减少对创意的过度限制。
不能因为怕噎死就不吃饭
原文提了个扎心问题："当同样的表情包可能被用来冒犯他人时，我们真的需要更好的表情包创建功能吗？"
但Jang认为这种思路有问题——不能因为假设的最坏情况，就否定那些带来快乐和连接的小确幸，AI应该更多考虑日常创作的积极价值，而不是只盯着潜在风险。
重视"永远看不到的好创意"
Jang还提到了"看不见的坟墓"概念——那些因为过度限制而永远无法实现的创意，她说："可能由于我们对损失的厌恶心理偏误，导致我们很少考虑不作为的负面影响。"团队现在更注重平衡风险和创新空间。
几个真实政策决策案例
公众人物政策：谁说了算？
"我们知道处理公众人物的问题很棘手——尤其是当新闻、讽刺和被描绘者的利益之间的界限模糊时，与其我们来判断谁'够重要'，不如让可能被描绘的人自己决定。"
（说实话这个方案已经很实在了，毕竟确实不该由AI公司来决定谁"值得保护"。）
"我们开始思考：不适感是源于个人偏好，还是真实伤害可能性？以前模型会拒绝'让眼睛看起来更亚洲化'这类请求，这反而暗示这些特征是负面的。"
（这个反思很有深度，有时候过度保护反而会强化偏见。）
仇恨符号：教育VS滥用
"像卍字符这样的符号背负着痛苦历史，但也可能出现在教育语境中，完全禁止会抹杀有意义的对话，我们正在迭代技术方法，更好地识别和拒绝有害滥用。"
（这种平衡确实很难，但比一刀切更合理。）
现在的烦恼和未来的期待
Jang很坦诚："很多图像生成拒绝是因为模型'幻想'出不存在的政策，请保持耐心，遇到问题可以新对话重试！"
连Sam Altman都发帖承认，很多拒绝其实是"幻觉"导致的：
她用同事的一句话总结团队思路：
> "船在港湾最安全；拒绝一切的模型最安全，但这不是船或模型的存在目的。"
对于未来，Jang说："未来将由想象力和探索精神构建，当（不是如果！）我们的政策变化时，根据真实反馈更新不是失败，这正是迭代的意义。"
创作者该怎么看这些变化？
OpenAI的政策转变给了创作者更大自由，但也意味着更多责任，Jang强调："这可能被误解为'OpenAI降低了安全标准'，但这不能反映团队的深思熟虑和对用户的关爱。"
理解这些政策背后的思考，能帮你：
1、更高效使用GPT-4o
2、预见未来发展方向
3、参与更广泛的AI伦理讨论
来聊聊你的体验吧！
你用GPT-4o画过吉卜力风吗？遇到过意外的拒绝或惊喜的成功？对AI创作政策有什么看法？评论区等你来聊~
网友评论