AI 已经记住了我的要求,为什么还是没做到?

一次真实协作让我发现:要求被保存、被 AI 读取,以及真正影响它的行动,是三个不同的环节。检查记忆是否有效,最终还是要回到它做了什么。

我最近遇到了一件有点矛盾的事。

我希望 AI 能长期理解我,所以把一些重要的协作要求存进了自己的数字分身系统。其中一条是:我提供目标和真实反馈,AI 要负责专业判断,主动提出更合适的方案。

但在一次实际合作里,它还是变成了一个跟着我的话不断调整动作的执行者。

于是我让它检查:这条原则到底有没有保存?如果已经有了,为什么没有遵守?

结果是,原则早就存在。而且在这次合作中,AI 已经多次读到了它。

要求没有丢,读取也没有失败,行动却依然偏离了。

从几十个选题,变成了没什么可写

事情起因是我想做自媒体,让 AI 从以前的对话和项目资料里找一些值得写的内容。

它先列出了几十个选题,又做了排序。我看了一些标题和初稿,觉得不好,提出反馈。

接下来,它不断删减、合并和暂缓。后来我质疑一篇文章是不是脱离了原始资料,它又收紧了标准:优先寻找原文里已经有完整观点、甚至接近成稿的内容。

单独看每次调整,好像都有理由。文章不满意,需要修改;来源不够,不能硬编;内容重复,可以合并。

但调整到后来,我发现,怎么好像没有选题了?

我的目标一直是持续做出值得发表的内容。历史资料只是我想到的一个起点。可在这段合作里,找选题逐渐变成了筛选旧文,筛选又变成了等待我从剩下的几项里作决定。

我不懂自媒体,才需要专业帮助。结果我每说一句不满意,都在间接决定下一轮的方法和范围。

AI 很认真地处理了我的每次反馈,却没有持续判断这些处理是否还在帮助我实现最初的目标。

查到规则,只回答了其中一个问题

这次核查让我开始区分三件事。

第一,要求有没有被保存。

如果一条重要偏好只出现在过去某次聊天里,后面的任务没有得到它,就需要考虑如何保留和提供相关信息。

第二,当前这次工作有没有读到它。

即使系统里有记录,也需要检查 AI 在处理这个任务时,是否真的拿到了对应内容。

第三,它作决定时有没有遵守。

这一次,前两个环节都找到了证据。协作原则已经保存,任务开始时也多次被提供给 AI。但面对我的反馈,它仍然不断收缩内容范围,而没有及时回到自媒体策略和文章质量的诊断上。

能把一条要求复述出来,还不足以证明这条要求已经改变了它的做法。

这也意味着,看到 AI 做错以后,不能总是立刻得出“记忆还不够”的结论。有时需要补充信息,有时需要改善信息的提供方式;也有时,应该检查它已经拿到信息之后,怎样理解和处理了眼前的任务。

每次纠正,都要放回原来的目标里

这段合作里最值得反思的,是局部反馈怎样逐渐改变了整个工作方向。

“这篇文章不好”,可以有很多原因:题目没有吸引力,观点没有展开,例子不贴切,或文章没有代表我的真实意思。

如果没有先判断原因,就直接取消选题,很容易把一次写作失败,变成一个内容方向的消失。

同样,“这部分没有原始依据”,说明不能把新编的论述当成我的亲身经验。但持续创作也可以先有问题,再去研究、实践和补充材料。如果因此规定所有文章都只能从接近成稿的旧资料里整理,创作的范围就被过度缩小了。

这些区别,恰好需要专业判断。

我后来用自己做项目的方式解释这件事:客户拿来一份 PRD,里面既有他的目标,也有他基于当前理解提出的方案。作为提供服务的人,我需要理解他想解决什么,再判断有没有更合适的做法。

我希望 AI 对我也承担这样的责任。

它可以尊重我明确不要某个选题的决定,同时继续为整体内容方向提出方案;也可以接受我对文章的不满意,同时告诉我,它判断问题出在哪里,下一步准备怎样修正。

更新了规则,也还要看下一次行动

核查之后,我们补充了协作原则,增加了自媒体策略的方法,也修正了选题和写作规则里过度收紧的部分。

这些修改已经保存,但保存本身并不能证明问题解决了。

下一次收到文章反馈时,AI 会不会先分析原因,而不是继续删题?当我提出一个不够成熟的办法时,它会不会结合目标给出更好的方案?它能不能尊重我的决定,同时承担自己的专业责任?

这些才是后续需要观察的变化。

我仍然希望数字分身能记住重要的目标、经历和协作方式。只是这次之后,我会把“记住了没有”和“用好了没有”分开看。

检查的终点,也要从系统里是否多了一条记录,走到下一次合作中:这条记录有没有帮助我们作出更合适的判断,把事情做得更好。