算力、算法、数据理论
这篇文章是 愿景-理论-行动 中“理论”部分的展开。
大模型的能力由三大核心要素决定：算力、算法与数据。
- 算力是模型运行的硬件基础，决定了数据处理与计算的效率。
- 算法是模型决策的逻辑内核，指导着如何从数据中提取规律、生成结果。
- 数据是模型进化的养分来源，通过海量样本训练让算法不断优化。
人类能力的构成也符合这套三要素理论：
- 算力对应人的智力，类似常说的智商或学习能力。
- 算法对应人的方法论，也就是做事的逻辑、策略与经验框架。
- 数据对应人的实践经验，是做过的事、踩过的坑、积累的案例，也是验证和优化算法的现实依据。
如果三者无法同时兼备，至少也要具备其中两项，否则大概率会陷入困境。
为什么不能让新人直接开辟新方向？
从三要素视角看，新人往往只有基础算力，也就是学习能力；但还没有成型的算法，也缺乏足够的数据。除非其算力远超常人，或者已经有较强的前置积累，否则让他直接开辟新方向，本质上是让“无算法、无数据”的裸算力去挑战复杂任务。
结果往往不是任务失败，就是在反复试错中浪费时间，更容易让学生陷入“我是不是不适合做科研”的自我怀疑和焦虑。
方法论为什么必须靠实践内化？
人的算法内化过程，与神经网络的训练逻辑高度相似。算法必须通过数据训练才能生效，人也需要在具体实践中不断验证、调整方法论，最终把方法论变成自己的能力。
我的培养流程
- 灌算法：刚入组时，先讲三套方法论，分别是算力算法数据理论、造火箭原理、金字塔原理。
- 灌数据：手把手带着做项目、搞科研，边做边讲解如何把这些理论应用到实践中。
- 自主研究：当学生已经内化算法、积累足量实践数据后，再放手让其自主开辟研究方向，并在关键节点引导其独立分析问题、设计方案、验证结果。
回到总入口：愿景-理论-行动。