1# 江户川柯南 我理解的“涌现”就是我们人类没能发掘的文字上的统计学联系。导致从现象上，就像是 LLM“自我觉醒”一样，突破了统计学的历史过拟合。比如阿尔法狗，是个纯的机器学习算法，从过去的机器学习理论中来讲，阿尔法狗的下法是一定不会突破他的学习资料的。但实际与李世石的博弈中，阿尔法狗出各种怪招，李世石完全没法招架。
可能不准确，但是你可以想象一下当训练的数据量大到一定程度，训练使得模型内部自动形成一个包括大部分人类知识和习惯的结构，任何的问题对于模型来说都不是完全未知的，当你问问题，模型就像信手拈来一样能从他的结构里拿出来你想要的答案，这就是涌现。
3# joker 用小学生能理解的话来讲就是，训练的样本材料很多了，量变引起的质变
水分子本身不“湿”，大量水分子成为“水”就涌现出“湿”
写程序，咱们习惯了确定、可复现性，所以始终不能彻底理解这个“涌现”，总是说不清道不明的
大家理解啥叫“涌现”吗？这个“涌现”到底是怎么来的？
也看了些文章，始终没彻底理解
⚠️内容来自互联网，如有侵权请点击反馈！侵权投诉
复杂的神经网络在宏观上表现出推理、语言理解、抽象等能力
7# SYS宇晖 涌现就像蚂蚁群找食物，单只蚂蚁蠢得很，但一群蚂蚁能走出最优路径。你单独看每个参数都不懂语言，但规模上去了整个网络突然会推理了。我训练小模型时就发现，有些能力在某个参数量会突然蹦出来，之前怎么调都没用
[这只是一个小尾巴]
涌现最早定义的时候指的是大模型在 scaling 之后出现了在训练中从未训练过的处理某项任务的能力，所以才是“涌现”能力 / 智能
不建议在 V2 讨论 AI 日常使用以外的 AI 话题。你去问 gemini 都比问 V 友靠谱