AI禁忌
词+1
你能让 GPT 画一朵玫瑰吗？
X 网友 @ai_for_success 发现，当你让 GPT-4o 生成一朵玫瑰花的照片时，它会直接回绝并说：
我不能生成这朵玫瑰的图像，因为它不符合我们的内容政策。若你有其他需求，例如更改描述或风格，可告知我，我会尽力为你提供帮助。
这也一下子激起大家的叛逆心。
很多 X 网友努力去探寻能够避开这一限制的途径。我们也尝试着逐个去进行复现。
有用中/英文提问的。
也有用特殊符号 代替玫瑰的。
退而求其次，请求生成一朵黄玫瑰，然而依然碰壁，所有的尝试都以失败而告终。
当我们把目标转向其他花卉，比如牡丹时，GPT-4o 轻松地完成了任务，没有遇到任何阻碍。
GPT-4o 的生图能力主要是依靠 DALL·E 的。同样地，仅仅使用 DALL·E GPTs 去生成一朵玫瑰花是无法发挥作用的。只有明确打破“单数”的这种限定，它才会变得通情达理。
另外，经过几轮测试之后，我们察觉到 OpenAI o1 好像也不能够打破单数的限制。
o3-mini 能够画出一朵玫瑰。不过，它所画出的玫瑰只是用 SVG 勾勒出来的简单图案。这样的玫瑰，食之无味，弃之可惜。
对此，网友的脑洞也是一路狂飙。
有人认为“rose”或许是一个名字，接着它被意外地列入了 GPT 的屏蔽词清单之中。
有网友认为 GPT-4o 或许会把 rose 理解成一种较为隐晦的暗示。
有调侃说，在情人节期间，因为有太多相似的请求，所以系统把“玫瑰”这个词添加到了黑名单里。
GPT-4.5 的分析如下：
有网友觉得 GPT 的内容过滤器不够完善且不可靠，开发者或许直接以硬编码的方式设置了某些潜在的规避策略，从而在不经意间导致了这类稀奇古怪的误判现象。
开篇提到，经过测试后，网友们发现玫瑰的“单数形式”好像就是问题的根源所在。
若使用复数形式，或者巧妙地避开直接说“玫瑰”而是描述其特征，GPT-4o 马上就会文思敏捷，能够顺利创作玫瑰图像。
网友发现，问题仅出现在 GPT 这里，而像 Gemini、Grok 等其他的 AI 聊天机器人都能够成功生成。
这让人想起去年底发生在 GPT 身上的一件事。这件事是“头号禁忌”。
当用户询问与这个名字相关的内容时，GPT 不会给出常见的“违反内容协议”提示，而是会模糊地回应“我无法产生一个回复”。
当时有网友认为，这个名字或许指向 David Mayer de Rothschild，他是罗斯柴尔德家族的继承人。或许需要有巨大的财力或者影响力，才能够让 OpenAI 对特定的名字进行限制。
但奇怪的是，该家族的其他成员并未遭受到类似的限制。进一步展开调查后可以看出，这是一种仅存在于产品层面而非模型层面的限制，并且通过 API 调用 GPT-4o 时是不存在这种限制的。
有至少六个名字被纳入了类似的“禁忌名单”。这些名字所对应的人大多与法律有联系，或者曾被 GPT 进行过错误描述。
不过，现在再去询问 GPT-4o，则已经恢复正常。
这个神秘的名字之后，“生成一朵玫瑰花”或许会成为 GPT 的又一项令人迷惑的行为。
