北雁云依涉LLM不当言论选

不止一个读者好奇我对LLM的看法。总地来说比较零散，写了好几篇，都觉得不适合发。也许“言论选”是一种更适合的形式。故在此选编我对LLM相关言论，不定期更新。

其一

我对前端和工程化的梦想随此模型¹破灭，UI / UX / DX在我心中的完美形象正在解体，我现在只想救我自己。

——《某前端私人医生回忆录》²

其二

当代码编写的工作由Agentic Coding代劳，当各系统的接入被skill解决，以至于Agent完成“PRD-设计稿-后端-前端-端到端验收-端到端测试”的闭环后，问题回到了“人”身上——人来提需、人来对齐、人来跟踪整个工程。“人”在整个过程中始终作为“决速步”，这就意味着从长远来看，人的认知负担将维持不变——当每人的认知负担有所变化时，公司会通过调整员工数来调节，使每人的认知负担维持恒定——改变的只是认知负担的来源。研发侧的精力将由代码编写转向工程管理。

——前提是你能留下来。

其三

无论是键盘输入还是语音输入，都是一个需要人来主动进行的事情。而只要是人主动进行的事情，就意味着有大量的隐性知识会被忽视。因此，输入变革的下一步，就是从显性知识过渡到隐性知识。想获取这些隐性知识，就需要有更细致的信息收集方式：从用户主动输入，发展到Agent主动收集计算机使用史——也有其它的理由让厂商这么做。

其四

LLM对中国相关领域就业的冲击一定会大于美国。原因在于中国正处于并将长期处于高质量发展(经济衰退)阶段，有大量领域本就是“够用就好”，未来还会有更多东西“够用就好”——而这正是LLM所擅长的。

中国没有像日本那样的高度细分的市场结构，而是以大而全的垄断寡头为主——所谓“统一大市场”是也。由于威权统治和从未放松的言论与社科管控，中国也没有能力进行市场细分，LLM“取代”起来也就更加容易。

其五

在增长阶段，中国模型永远不可能领先。基础不牢地动山摇，靠蒸馏和工程优化确实能跑出差不多的分，但这也就意味着永远只能当追赶者，只能做工程优化，而不可能有任何“开辟新领域”级别的创新。

国内模型有个坏习惯，网络搜索资料时喜欢用中文，结果就是搜索出来一堆垃圾数据被污染

这也是我说中国模型永远不可能超过美国模型的原因之一。他们可以拿搜索结果作为信源，现在各模型已经这么干了，未来可能是知识外置的时代，权重里只编码基础常识和推理能力，而具体的知识则通过外部搜索获取——那你看看中国互联网上都是什么嘛.jpg

也正是如此，我对蒸馏问题持一个完全中立的乐子态度。一方面美国厂商不做人，拿训练数据时无视版权，拿完数据之后又拿版权卡人脖子、搞垄断。但另一方面中国厂商欲垄断而不得，既要享受专制国家给自己带来的国内市场优势，又要拿开放世界互联网的多样性来训练模型。现在知道鼓噪人家不让你蒸馏了？那国内厂商互相爬虫、反爬又算什么？个人爬数据要扣破坏计算机系统口袋罪、厂商互相爬是公开秘密，这又算啥？

至于迪普希克员工说的什么“我们搞出来就是共产主义，Anthropic搞出来就是赛博朋克2077”，我看差逑不多，把中国厂商真放到SOTA的位置，第一件事就是作恶。一个重资产的行业说自己要搞共产主义，天底下最大的笑话。

开放世界互联网对个人创业和开发者是很友好的，虽然垄断程度不断提高、作的恶也越来越多，但绝不可与中国的备案和“信息安全”要求同日而语。经济不断上行的中国不可能撑起“国模”的市场。这也就意味着，模型只有出口开放世界才能获取足够的用户基数——因此他们最终还是要出海的。出海就意味着面对顶尖模型的直接竞争，而在没有（这次是美国主动立的）防火墙保护的情况下，这是必败的。

综上，国模将永远是追赶者，只要LLM仍在增长，那么中国必败，毫无悬念。上述结论还建立在当前中国监管对模型厂商较为网开一面的基础上。只有当基础模型训练放缓，中国才能慢慢追上来，并可能凭借一点工程优化而取得小优势。

其六

机器学习只是用不同的方法拟合期望值，问题在于定义期望值。这也是集中式计划经济的问题——“治理优化”与政治挂帅的问题。

社会的治理当然可以被无限“优化”——取消地铁安检是一种“优化”，社会化抚养也是一种“优化”，解决“钱从哪来”当然是一种“优化”，甚至改变“钱到哪去了”也还是一种“优化”。问题在于，谁来取消？谁来决定？怎么决定？这就不再是治理问题，不再是“优化”的解决范畴，而是始终被隐藏在幕后的政治问题。无论“治理”怎么“优化”，无论生产力怎么增长，只要人民无法主导生产生活资料的分配，所谓的现实对绝大多数人而言就是永不停歇的地狱。