最近我在为 rizae.com 生成动漫角色时，又遇到了一个很典型的生成式 AI 时刻：图片明明已经明显出错了，模型却依然像什么问题都没有一样。
这种反差，直到现在仍然是我觉得最有意思的地方之一。有时候，AI 能在几秒钟内给出相当惊艳的结果；但有时候，它又会忽略一个人类一眼就能看出来的问题，还会非常自信地坚持自己没有错。
为什么这种 AI 幻觉值得重视
很多人提到 AI 幻觉时，首先想到的是文本，但图像生成其实也有同样的问题。错误的人体结构、崩掉的构图、重复的细节，都可能被系统当成正常输出。问题不仅在于它会犯错，更在于它常常像是根本看不到这个错误。
这很重要，因为技术生成能力和人的审美判断之间仍然有很大的距离。模型可以很快、很会“说服人”、也确实有帮助，但当结果要真正进入产品时，人类审查依然不可缺少。
这件事如何改变了我的工作方式
在为 rizae.com 做角色的过程中，我对 AI 的看法变得更务实了。我不再把第一次结果当成成品，而是把它当成需要检查、筛掉、修正、再重新生成的素材。
- 速度确实是优势，尤其适合快速探索方向、变体和初始想法。
- 判断仍然属于人，当视觉质量、一致性和审美很重要时更是如此。
- 反复重试本来就是流程的一部分，并不是什么意外情况。
如果要用最诚实的方式来描述今天的生成式 AI，那大概就是：它很强大、很有用、也常常令人惊艳，但依然离不开人的监督和筛选。