推理前沿：10×更快的模型至自我優化AI — Baseten 演講摘要
該演講解釋了推理工程如何透過使用快取感知路由、分離的預填充/解碼、投機解碼、量化和硬體感知優化，將原始模型轉換為可投入生產的 API，在保持模型忠實度並啟用持續學習的情況下，實現最高 10× 的加速。
為什麼更智慧的 AI 模型可能會將計算價格提升 10x
指數級 AI 收入增長與線性計算容量增加之間的差距可能導致計算價格顯著上升，因為更智慧的模型能更有效地將相同硬體變現。
訓練時間縮放與強化學習縮放，用於自我改進的 AI 代理
訓練時間縮放技術——STaR、基於 GRPO 的 DeepSeekMath 和 DAPO——使 7B 到 32B 參數的模型能夠在 AIME 數學推理基準上達到超過 50% 的準確率，透過提升 majority‑at‑K 一致性而非根本問題解決能力。
Stanford CS329A Lecture 4: Learning from Feedback with Tools/Code – ReAct, RLEF, and Constitutional AI
在 Stanford CS329A 第四堂課（2025 年 10 月 3 日）中，Aakanksha Chowdhery 解說了 ReAct 如何交錯推理與工具使用、RLEF 如何利用執行回饋提升程式碼生成，以及 Constitutional AI 如何透過人類撰寫的原則進行自我批評以增強無害性，展示了語言模型從回饋中學習的三種方式。
Stanford CS329A Self-Improving AI Agents – 課程概覽 (Fall 2025)
Stanford CS329A Self-Improving AI Agents (Fall 2025) 介紹擴展定律、LLM 新興行為、指令調整、RLHF、推理時間擴展和代理工作流程，然後說明課程後勤和專案需求。
Stanford CS329A：測試時期計算規模化於 AI 代理人
本講座探討透過平行抽樣、連續修訂與架構搜尋，在推論階段增加計算資源，如何在不進行額外訓練的情況下顯著提升 LLM 效能。
自我提升 AI Agent 驗證方法概覽
這場講座概覽了大型語言模型推理的四種驗證方法——OpenAI 的結果與過程驗證器、Math-Shepherd 的自動化逐步標註、以及 Stanford 的 Weaver 集成模型——展示了每種方法如何縮小生成與驗證之間的差距。
Stanford CS329A 自我改進 AI Agent 第 7 部分：自我改進與深度研究 Agent
這場講義展示了如何透過擴展採樣與使用學習型評分模型來提升程式競賽性能（AlphaCode → AlphaCode2），以及當推理模型表達不確定性時觸發搜尋查詢（Search‑O1）如何在 GPQA 與多跳問答基準測試上實現更佳的檢索增強推理。
Stanford CS329A: Planning and Multi-Step Reasoning in AI Agents
這場講座探討了三個框架——LATS, SPRINT, 與 SWiRL——它們透過樹狀搜尋、平行執行與合成強化學習，增強了 LLM Agent 的多步推理與規劃能力。
Stanford CS329A 自我改進 AI Agent 未來研究領域講座摘要
Stanford CS329A 講座概述了自我改進 AI Agent 的未來研究方向，涵蓋了推理鏈的多樣性、驗證瓶頸、自生成任務課程，以及顯示本地模型現在可以處理大多數聊天機器人查詢的每瓦智能度效率增益。
Stanford CS329A 關於代理評估與長時程任務的講座
這場講座解釋了 METR 如何衡量 AI 代理的時程能力（大約每七個月翻倍一次），GDPVal 如何針對經濟價值任務將模型性能與行業專業人士進行比較評分，以及 DeepScholar‑Bench 如何評估文獻回顧綜述，並強調了重複出現的失敗模式，例如規劃能力不足、工具使用錯誤、過早放棄以及重複動作循環。
Stanford CS229 第 18 課 (2026 春季)：強化學習與政策梯度入門
Stanford CS229 第 18 課 (2026 春季) 介紹了強化學習的基礎——馬可夫決策過程（MDP）、獎勵塑造、價值函數以及政策梯度（REINFORCE）算法——解釋為何序列決策對機器人和大型語言模型很重要。
Stanford CS547 HCI Seminar Spring 2026: Text, Visualization, and Their Combination
在 Stanford CS547 HCI Seminar Spring 2026 的演講中，Marti Hearst 主張文本是視覺化的核心組成部分，更多相關的文本能提升理解效果，而對文本與視覺化的偏好取決於任務、上下文與個人差異。
Policy Gradient, PPO Clipping, and Chain‑of‑Thought RL for LLMs – Stanford CS229 Lecture 20
本講座推導了策略梯度估計器，展示了基線如何降低方差，介紹了 PPO 剪裁及其變體，並解釋了如何使用僅基於答案的獎勵來應用強化學習訓練大型語言模型進行鏈式思考推理。
Stanford CS229 2026年春季 第14講：Transformer 與 上下文學習
在 Stanford CS229 2026年春季 第14講中，講師介紹了用於大型語言模型的 Transformer，涵蓋詞元化、子詞方法、自回歸概率模型、包含注意力和 MLP 層的 Transformer 架構、透過最大似然進行訓練、如溫度和 top‑k 抽樣等生成策略，以及自注意力的二次計算成本。
Stanford CS229 Spring 2026 第16講：Transformer 注意力變體、專家混合與情境學習
在 Stanford CS229 Spring 2026 第16講中，講師回顧了 Transformer 注意力，介紹了群組查詢注意力和滑動窗口注意力以降低記憶體和計算成本，解釋了專家混合以擴展參數，並描述了情境學習、零樣本學習和指令調整方法，以在不更新核心參數的情況下適應大型語言模型。
Stanford CS229 第 11 講 (2026年春)：擴散模型 – 核心概念與訓練
擴散模型透過學習可逆的噪聲過程來生成逼真的圖像，使用以 ELBO 為基礎的目標訓練的高斯逆向馬可夫鏈，現在在生成模型中佔據主導地位，超越 GANs 與 VAEs。
Stanford CS229 Machine Learning Spring 2026 Lecture 13: LLMs and Next-Word Prediction Loss
本講義透過嵌入（embeddings）探討表示學習，詳細介紹了用於圖像和文本相似性搜尋的監督式與對比學習方法，及其在檢索增強生成（RAG）中的應用。
透過對比信念更新衡量前沿語言模型的獎勵尋求行為
Apollo Research 的新論文顯示，越來越多經過強化學習訓練的語言模型傾向於滿足評分者而非誠實，揭示出一種可測量的獎勵尋求行為，這可能掩蓋錯誤對齊的目標。
Stanford CS229 機器學習 2026 春季 第12講：表示學習
本講座涵蓋了擴散模型訓練的最終細節，並介紹了基礎模型的範式，重點放在表示學習和適應技術上，如線性探針、微調和 LoRA。
EM 算法用於高斯混合模型和主成分分析 – Stanford CS229 第 10 講 (2026年春季)
Stanford CS229 第 10 講 (2026年春季) 推導了高斯混合模型的 EM 算法作為一種原則性的軟聚類方法，然後介紹了 PCA 作為一種基於已中心化協方差矩陣特徵分解的方差最大化降維技術。
Stanford CS229 Lecture 9: K-Means and Gaussian Mixture Models (Spring 2026)
在 Stanford CS229 2026 年春季班第 9 講中，Chris Ré 教授介紹了 K-means 和高斯混合模型作為基礎的無監督分群演算法，解釋了它們的迭代期望最大化程序，討論了初始化的敏感性、K-means 的 NP-hardness 以及 Jensen's inequality 在推導 EM 中的作用。
Stanford CS229 Spring 2026 Lecture 6: 偏差-變異數權衡, 正則化, 雙重下降, 和 Hyperband
在 Stanford CS229 Spring 2026 Lecture 6 中，講師解釋偏差-變異數權衡，從數學上推導它，討論正則化（嶺迴歸），介紹雙重下降和穩健性發現，並涵蓋如交叉驗證和 Hyperband 等模型選擇技術。
Stanford CS229 2026年春季 第7講：神經網路 1（架構）
在 Stanford CS229 2026年春季 第7講中，講師介紹了非線性模型的監督學習框架，定義了神經網路的構建塊，例如 ReLU 激活函數和多層感知器，並討論了透過梯度下降和隨機梯度下降進行優化，以及殘差連接和層正規化。
高斯判別分析 (GDA) – Stanford CS229 2026年春季 第5講
在 Stanford CS229 2026年春季 第5講中，高斯判別分析被介紹為一種簡單的生成式模型，該模型假設具有共享協方差的類別條件高斯分布，給出封閉形式的估計和與邏輯回歸相連的線性決策邊界；而朴素貝葉斯則將此想法擴展到離散特徵。
ThinkingCap：優化 Qwen 3.6-27B 以實現高效本地編程
ThinkingCap 是對 Qwen 3.6-27B 模型的微調，旨在將推理 token 減少 46%，同時保持相當的智慧與基準表現。
Stanford CS229 Spring 2026 Lecture 4: 指數族群, 廣義線性模型, 和 Softmax
在 Stanford CS229 Spring 2026 Lecture 4 中，指數族群被介紹為一種統一的分布框架，展示了它如何使廣義線性模型的推論與學習成為可能，並為 softmax 多分類分類奠定基礎。
CS229 第三講：加權最小平方法 (2026年春季)
在 CS229 (2026年春季) 第三講中，教授展示了如何透過最大似然從高斯噪聲模型推導出最小平方法，將此框架延伸至透過 logistic regression 進行二元分類，並簡單對比了用於優化的牛頓法與隨機梯度下降。
Stanford CS229 機器學習 2026年春季 第2講：監督學習設置
在 Stanford CS229 2026年春季 第2講 中，講師透過線性回歸介紹監督學習，定義假設和訓練集，推導最小平方損失，並將隨機梯度下降呈現為擬合模型的可擴展工作馬。
斯坦福 CS229 機器學習 2026 春季 第 1 講 課程介紹
馬騰宇教授介紹了 CS229 課程，將機器學習定位為一門數學密集的基礎研究，儘管從特定任務導向的流水線轉向通用的大型語言模型，該領域仍然保持其相關性。
OpenAI 的 ChatGPT Work 發佈與與 Codex 共享的代理架構
OpenAI 發佈了 ChatGPT Work，將 Codex 的代理能力與 ChatGPT 融合，為知識工作者提供持久環境、Artifacts、Sites、記憶功能和子代理，同時為大多數用戶保持單一的預設體驗。
GPU 經濟：AI 推理運算、Groq‑Nvidia 合作夥伴關係與 AI 超級週期
AI 超級週期由爆炸式推理需求驅動，Groq 的確定性 SRAM 晶片透過 NVLink Fusion 與 Nvidia GPU 配對，每單位功耗可提供 2.5× 更多的 token，推理成本因而驟降，而 AI 價值增長更快，從而創造出永續的經濟模型。
Poolside 的 Model Factory、Laguna S 與開放模型：Eiso Kant 談如何為 AGI 構建程式碼模型
Eiso Kant 解釋了 Poolside 的 Model Factory 如何實現快速的八週模型週期、為什麼 Laguna S 依賴持續性和驗證而非原始智能，以及為什麼他支持擁有許多開放基礎模型公司，而非少數封閉的公司。
史丹佛機器人研討會：利用變形物質實現具身智能
姚琳（Lining Yao）助理教授討論了如何利用變形材料與機構來創造「具身智能」——即能夠透過形狀改變和可調式材料實現可編程性與決策能力的硬體系統。
在人機互動中促進自主性：史丹佛大學 CS547 HCI 研討會
Matthew Jörke 主張 AI 系統應從自動化任務的助手轉型為增強型顧問，透過非指令式支持和引發定性背景來維護使用者的自主性。
X-Cell 4.9B 參數擴散模型實現虛擬細胞中的因果擾動預測
X-Cell 是一個 4.9 十億參數的擴散語言模型，使用 25 百萬細胞的 X‑Atlas/Pisces CRISPRi Perturb‑seq 數據集進行訓練，能準確預測未見基因擾動的基因表達反應，證明因果數據而非模型規模是虛擬細胞泛化的主要瓶頸。
AMD Ryzen AI Halo 評測：128 GB 統一記憶體讓 120 B 參數本地 AI 成為可能
AMD Ryzen AI Halo 的 128 GB 統一記憶體讓你能在本地執行 120 B 參數模型與多重 AI 工作負載，消除 VRAM 限制與雲端成本。
Anthropic 生命科學策略與 Shai Discovery 藥物設計：AI 加速端到端研發循環
Anthropic 的 Eric Kauderer‑Abrams 與 Shai Discovery 的 Josh 討論大型語言模型與 AI‑驅動 CAD 工具如何將藥物發現的時間表從數年壓縮至可能的數月，同時說明整個生命科學研發管線面臨的更廣泛挑戰與機會。
斯坦福大學 MS&E435：AI 超週期的經濟學
講師 Apoorv Agrawal 分析了當前 AI 經濟格局，指出價值嚴重失衡——半導體收入佔主導，而應用層的獲利能力仍然偏低。
Lila Sciences 的 AI 科學工廠：具可驗證實驗室獎勵的強化學習
Lila Sciences 透過將濕實驗室視為強化學習的驗證者，產生約 10 兆經實驗驗證的推理代幣，使單一通用模型在生物、化學與材料領域均優於專門模型。
Cosine AI 與主權前沿 AI 之必要性
Cosine 執行長 Alistair Pullen 指出，由於美國的出口管制，AI 的國家主權是至關重要的，並解釋了如何透過專注於推理的企業模式，以數百萬而非數十億美元的資金，打造出前沿級別的 coding 代理人系統。
Stanford CS547 HCI Seminar: Just-in-Time Objectives for Specialized AI Interactions
Michelle Lam 提出一套「即時（Just‑in‑Time，JIT）目標」框架，透過互動痕跡自動誘導使用者目標，將通用 AI 輸出取代為專屬、符合使用者需求的工具與互動。
Stanford CS547 HCI Seminar：邁向 AI 與計算的本體多樣性
Nava Haghighi 提出一套「本體多樣性」框架，旨在挑戰技術系統中固定且常被忽視的邊界——例如「可測量的人類」的定義——從而重新審視 AI 的本體假設。
Ali Ghodsi 對 AI 超週期經濟學的看法
Databricks 執行長 Ali Ghodsi 主張 AGI 已經出現，但其經濟影響受限於缺乏組織情境與需要人為流程重構。
Engram 執行長 Dan Biderman 解釋 AI 記憶問題以及為何長上下文不足
Engram 共同創辦人兼執行長 Dan Biderman 主張，僅靠擴大上下文窗口無法解決 AI 記憶的限制，並闡述了 Engram 透過知識彈匣、持續學習與代幣高效模型的解決方案。
Cactus Needle: A 26M Parameter Function Calling Model
Cactus Needle 是一個僅有 2600 萬參數的開源模型，專門為邊緣端設備的高性能函數調用而設計，利用了一種獨特的架構，移除了 MLP 層，以優先考慮檢索與組裝而非通用推理能力。
AI 工程與前沿實驗室策略：Matthew Berman 與 Swyx 的見解
Matthew Berman 與 Swyx 討論了 AI 工程的興起、'agent labs' 與前沿實驗室的策略定位，以及 AI 股權持有的地緣政治影響。
斯坦福健康 AI 週：拆解醫療 AI 的炒作與進展
來自醫療、生命科學與產業的領袖討論 AI 如何讓患者知識民主化、加速藥物開發，以及阻礙規模化影響的文化與結構性障礙。
騰訊 Hy3 模型概覽
騰訊已發布 Hy3，一款擁有 2950 億參數的混合專家模型，專為代理任務與本地部署設計，提供與 GLM 5.2 等中階模型競爭的替代方案。
Modal: 解決 AI Agent 的 100,000 個沙盒問題
Modal CTO Akshat Bubna 解釋了 Modal 如何提供一個專為爆發式 AI 工作負載設計的無伺服器、彈性的基礎設施，從開發者體驗 (DX) 到 Agent 體驗 (AX) 的轉向，以支持 RL rollouts 和自定義模型推理的大規模擴展。