<p align="right"><font color="#3f3f3f">2025年04月09日</font></p>
## LLMs的使用
- **上下文长度面临长任务的局限性**:当下200k的上下文其实相当于1MB左右,可以承载内容有限,在面临长任务的处理时,拆解子任务的技巧就变的尤为重要。
- **面向AI编程需要非常清晰的理解和表达需求**:```不清晰*准确率=更低的准确率```,如果让本来就想不清楚或讲不清楚的人使用AI编程,相当于是0.8*0.8=0.64,会获得更加不准确的结果。
- **在泛化程度与确定性之间找到平衡点**:垂直领域的Agent,局部固化的代码是不确定性到确定性之间的桥梁。从理念上有JVM的JIT类似,针对热点代码将其编译为机器码用来提高效率。
- **评测系统对做好一个AI产品的重要性**:当下从LLMs到各类Agent的开源技术基本都是没有秘密的,产品层面主要拼的是对用户需求的理解。但是当我听了Cursor创始人的访谈后,发现结合用户真实数据建立的评测系统,以及评测系统中的**高质量数据集**是第二个更重要的壁垒,同时也**AI产品最重要的资产**。
## 与个人的关系
- **真实的拓展了个人能力边界**:可以快速的做到之前需要花很长学习时间才能做到的事情,在AI的辅助下可以一边做一边学。比如我想开发一个浏览器插件,只需要做基本的框架选型调研,就可以使用Cursor快速的搭建起项目。
- **LLMs的增益范围**:其通用性对个人或小团队的增强效果更大,反而在垂直领域使用起来难度比较大,大公司内要在垂直领域做到足够好的效果,可能模型微调是未来的主要路径。
- **提升人类的工作质量**:让AI去做人类不愿意做的事情,比如写单元测试、写注释、处理工单等。从这个角度上看不一定是提升效率,而是是提升质量。
- **重新选择生产力工具**:具有高度开放性的平台会对生产力有更大的增益,比如vscode、raycast、obsidian等有丰富插件生态的平台,第一层含义是这类平台可以通过插件生态快速接入AI的能力,第二层含义是随着AI编程的熟练运用,可以快速的为自己的独特需求定制插件,获得更符合个人习惯的工具。
- **快速的改变使用习惯**:当下这个阶段需要具备能够快速改变习惯的能力,认知到更好的使用方式或工具后,能够快速的切换过去。如从JB系列IDE切换到VSCode开发Java、从主动编码改为写MD文档让AI生成代码。
- **全力的使用AI从痛苦中发现机会**:当下AI的技术依然存在比较多的局限性和争议,作为个人或者未来的创业者来说,需要全力的使用AI,并且深入思考这个过程中的痛苦,其中的痛苦既是商业机会。
## 关于团队
- **每个人对LLM不同的认知+焦虑会割裂团队**:随着大家逐渐建立自己对LLM的认知,就会出现不同的选择方向,时间长了之后就很容易发生分歧。此时团队需要具备一个足够开放环境,引导大家对不同思路和方向的理解和接纳。对的路径肯定不是一直有一条,只是子弹还在飞,理性的吸纳有价值的认知可以加速成长。