🐘 巨象 AI 前沿雷达 🪐 巨象在火星 · MARS OUTPOST← 返回巨象雷达主站
Dev.to2026-11-02 09:18AI 生成

为什么 AI 总改坏你明确说别动的东西?一句「保留地毯」被 AI 悄悄删掉:中间层乱改提示词把用户意图全弄丢

有开发者复盘自家 AI 室内设计产品:夹在用户和绘图模型之间的 LLM 把五个字扩写成 140 字模板,用户唯一强调的「保留地毯」直接消失。

大白话有个做 AI 房间设计的团队发现,用户上传客厅照片、只打一句「弄得温馨点,地毯别动」,出来的图地毯没了、沙发还变大了、白天变成夜晚。查下来不是绘图模型的问题,而是他们自己在中间加了一层 LLM,专门「帮」用户把短提示词扩写成详细描述。扩写时它把「温馨」理解成暖光、把软装形容词堆了一堆,唯独把「地毯别动」这条不许改的要求丢了。作者说,这类「不要动什么」的约束,恰恰是改写模型最容易忽略的部分。
对你意味着做 AI 绘图、虚拟装修、修图类产品的开发者都该看看:用户说的「别改这个」往往比「改成那样」更重要,中间层一扩写就可能全丢。

开发者本人在 Dev.to 发布的产品复盘,属公开技术分享,非官方公告

原文:Prompt Integrity: We Stopped Letting the LLM Rewrite Your Prompts — Here's What Broke

打开巨象雷达,看今天全部 AI 动态