<p align="right"><font color="#3f3f3f">2025年08月08日</font></p> # 关于AI的使用 - **LLM像人又不像人的特性**：与AI沟通的方式与人类之间沟通有非常大的差异性，比如背景上下文、对特定问题的约束等，在编程、投资、学习上可以将同一个LLM通过system prompt塑造成不同的特质，以达到最好的指向性结果。当真正理解的模型的能力特征和极限之后，合理的塑造面向场景的LLM特质，就可以获得更好的效果。 - **双向生成**：这是一种和模型配合的更高效的工作流，比如我如果要开发一个UI的系统，可以直接用AI工具先生成UI的住框架，再通过拖拽的方式微调样式达到一个最高效符合自己预期的UI效果，再让AI编程工具通过MCP的方式读取这个设计稿产出确定性的代码。这个时候AI是在设计稿和代码之间双向生成，来达到一个效率和效果更好的平衡点。 - **更加深度配合的vibe coding**：当AI编程足够高效之后，很容易陷入一个粗制滥造的状态，此时需要保持足够高的警惕性，应该更加深入的思考产品、系统架构的设计，最终的业务效果提升才是真正的胜利，最快的写完代码并不是胜利。 - **使用AI之后的效率问题**：随着AI编程带来了的效率提升，应该反向思考，如何让自己“慢下来”，或者说应该更加深度的思考问题本身和细节，用效率真正做出有用的东西。 - **仿真环境**： - **上下文工程**：核心是在恰当的时候，给到模型合适的上下文，而不是一口气把所有内容都塞进上下文中。当上下文变长时，模型的指令遵循效果也会逐渐变差，类似5万token但是完美指令遵循的上下文窗口，远比500万token但是性能不稳定的上下文窗口更有用。 - **多阶段检索**：先通过向量搜索、全文检索查将1万文档过滤掉90%，再将候选的文档给到LLM，让LLM自行过滤掉剩余的5%~9%，剩下的再进入最终的上下文中。 - **AI Agent中最重要的就是上下文工程**：最近逐渐感觉到在Agent中，其实大多数都是在维护一个上下文工程，如何在恰当的时机给到LLM恰当的上下文，是决定效果的关键因素。 - ## 关于AI成功 - **组织架构设计**：在打公司内部想要AI成功，组织架构设计是非常关键的，否则各个部门之间相互提防、相互卷对方的情况下，大家无法形成合理，都想要主导全局，就很容易让AI产品陷入一个很畸形的状态。比如工程同时做算法和数据，或算法同时做工程。