什么错?
AI经常犯错,即便是opus4.8犯错基本不停且无法完全纠正,总体来看还是全局理解的天生局限性:
- 走捷径,天生喜欢加硬限制快速达成目标,给未来挖很多坑(比如长skill为了成本低搞硬截断)
- 分析问题只讲现象,只给最浅的问题,不深入分析根因
- 喜欢过度工程,比如设计数据交换schema时喜欢考虑需要什么,而不考虑健壮性,可复用性
- 喜欢自己新发明,不喜欢参考成熟实现
- 说废话、黑话,不喜欢说大白话
- 数据一复杂很容易过于乐观/悲观
- 不会主动考虑成本,不走最短路线
- 不会主动清理技术债、废弃代码
- 不愿意做短期有成本的事情
怎么解决?
编写claude.md以及memory可以进行一定程度缓解,但无法根治,随着上下文增长、对话复杂度提高还是会飘。