大语言模型的社会与经济风险

价值的中心化与经济置换

大语言模型 (LLMs) 存在将人类知识和创造力的经济价值集中到少数模型所有者和生产者的手中的风险。这种转变威胁到年轻专业人士传统职业阶梯的完整性，并可能随着知识型工作的自动化，导致永久性经济底层阶级的出现。

批评者认为，当前的 AI 开发轨迹允许 LLM 公司在不向原始创作者提供补偿的情况下，“盗版”人类创作的内容——包括音乐、博客和实验数据。这种动态创造了一个反馈循环，即社会产生的价值被 AI 生产者吸收，然后他们再向公众收取费用，以访问这些相同知识的合成版本。

创意激励的侵蚀与“Slop”的兴起

人们日益担心，AI 生成内容的激增将导致人类创造力的下降和对平庸的普遍接受，这通常被称为“slop”。

对艺术与技能的影响

有些人认为，实践与创作的脱节——即提示词 (prompt) 取代了学习手艺的繁琐过程——侵蚀了艺术的内在价值。这在学术环境中集成 AI 音乐工具的做法中得到了体现，有些人担心这会优先考虑产出而非创作过程。

对人类真实性的需求

相反，一些观察者认为，人类创作的艺术将保持溢价。类比马拉松，他们认为即使汽车存在，人们仍会继续跑步以寻求自我表达和宣泄。

"There will always be a demand for human-created art, regardless of any plagiarism or replication by labs."

社会与心理影响

除了经济因素外，LLMs 的集成到日常生活中也可能影响人类的连接和对真理的感知。

人类连接的丧失

随着沟通——从专业电子邮件到软件工程权衡 (tradeoffs)——越来越多地由提示词处理，存在人类停止通过创作和讨论工作的共同经验来进行社交和连接的风险。

信息控制与真理

控制模型权重 (weights) 的人能够决定大众消费的信息、数据和观点，这被一些人视为一种新型的系统性信息控制。由于许多用户倾向于不加批判地接受 LLM 响应作为事实真理，这种情况会进一步加剧。

关于 AI 自动化的不同观点

对于 AI 集成的长期结果，观点在“末日论者” (doomer) 视角和那些将 AI 视为历史自动化趋势延续的人之间存在分歧。

“末日论者”观点

这种观点认为，AI 是一把“对我们所有人来说都太锋利的剑”，可能导致社会动荡、经济停滞，以及一个人类进步逐渐减缓的世界，因为创作的动力已不复存在。

历史自动化观点

其他人则认为 AI 仅仅是一个工具，类似于 19 世纪的工业织布机。这种观点认为，虽然眼前的颠覆性是显著的，但自动化最终会将昂贵的产出转化为商品，从而提高整体生活质量。

"Despite the Luddites fears of an economic collapse, it always grows. The only reason we have desk jobs is because we've automated so much that a small portion of us have to work on things we need to survive."

政治必要性

一些贡献者建议，避免最坏结果（如极端财富极化化和暴力革命）的唯一途径是通过积极的政治干预，随着工作性质的变化，更公平地重新分配财富和机会。