
过去半年,我参与了几个大模型应用的从0到1。过程中发现,技术难点往往不是模型本身,而是我们对模型的使用方式。
## 陷阱一:过度迷信提示工程
提示工程很重要,但它解决的是"输入质量"问题。如果业务逻辑没理清楚,再精美的提示词也只是给混乱穿了一件好看的衣服。
## 陷阱二:上下文越大越好
很多团队一上来就想塞满128K上下文。实际上,模型对长上下文的注意力会衰减,关键信息要前置、结构化、减少噪音。
## 陷阱三:没有评估体系就上线
没有基准测试,就不知道改动是变好还是变坏。建议从一开始就建立:
- 一组代表真实场景的测试用例
- 明确的评分标准
- 可复现的对比流程
## 一句话总结
大模型是杠杆,但杠杆放大的不只是效率,还有你原本就存在的问题。