OpenAI 可解釋且教學範例研究

OpenAI 研究人員透過以迭代方式訓練教師和學生神經網路，開發出一種生成可解釋教學策略的方法。此方法使教師網路能夠選擇或生成教學範例，這些範例不僅對訓練另一個 AI 有效，同時也對人類學習者易於理解且實用。

迭代訓練以實現可解釋性

此研究的核心發現是，訓練方法對所產出教學策略的可解釋性有顯著影響。當教師和學生網路進行聯合訓練時，教師學會提供的範例通常對人類而言難以解釋，即使這些範例對教導學生網路有效。

透過改為迭代訓練過程——在此過程中，學生和教師是依序而非同時進行訓練——系統會產出符合直覺人類教學方法的教學策略。此改變確保教師網路選擇的範例是人類能夠理解並從中學習的。

教學策略的評估

為了評估新興策略的效果與清晰度，研究人員採用了兩項主要評估指標：

1. 與直覺策略的相似度：研究人員測量教師的新興策略在特定領域內與直覺、類人教學策略的吻合程度。
2. 人類實驗：團隊進行了有人類參與者的實驗，以評估教師網路生成的範例是否真的對教導人類有效。

各概念領域的能力

此研究表明，教師網路能夠在多種複雜概念框架中選擇或生成可解釋的教學範例，包括：

• 基於規則的概念：教授特定的規則集合。
• 機率概念：教授基於可能性和機率的概念。
• 布林概念：教授基於邏輯的真/假結構。
• 層次概念：教授有組織的階層式資訊結構。

這種多樣性表明，迭代訓練方法可以推廣到不同類型的邏輯與數學推理任務。