OpenAI 透過教學實現可解釋機器學習

OpenAI 已開發出一種機器教學方法，該方法透過建立人類可理解的語言來進行概念識別，使電腦與人類能夠協作。此方法利用教師網路與學生網路之間的合作遊戲，來找出最小的一組具說明性的範例，使學生能正確猜出目標概念。

教師-學生框架

此方法的核心是一種合作遊戲，教師網路會選擇範例來協助學生網路猜測特定概念（例如「狗」或「斑馬」）。目標是讓教師學會選擇最具說明性的範例，以促進學生的理解。

二階段訓練流程

為確保所得到的範例對人類仍具可解釋性，OpenAI 使用兩階段技術：

1. 學生訓練：學生神經網路首先使用傳統的監督學習方法，在隨機選取的輸入範例上進行訓練，以猜出正確的概念標籤。
2. 教師優化：教師網路擁有連結概念與範例的標籤，會對學生測試各種範例。教師會收斂到學生正確識別目標概念所需的最小範例集合。

避免串通與任意編碼

透過分離訓練階段，此方法可防止兩個網路發展出一種私人的、非人類可理解的語言。在聯合訓練中——學生與教師同時進行訓練——網路常會透過任意向量或對人類毫無意義的範例進行串通。例如，「狗」這個概念可能透過羊駝和摩托車的圖像進行編碼，或矩形的尺寸可能由兩個看似隨機的點進行編碼。

實際應用：概念識別

為了展示該技術的有效性，OpenAI 研究人員使用了根據四個特性變化的範例：大小（小、中、大）、顏色（紅、藍、綠）、形狀（方形 vs 圓形）以及邊框（實線 vs 無）。

在此情境下，概念被定義為一組定義範例子集的特性。教師網路學會選擇僅共享概念所需特性的範例，從而讓學生能夠排除無關的特性。

範例：教授概念「紅色」

為教導學生識別「紅色」的概念，教師選擇兩個具體範例：一個無邊框的大紅色正方形和一個有邊框的小紅色圓形。由於這兩個形狀唯一共通的特性是顏色紅色，學生可以邏輯地得出該概念由顏色紅色定義的結論。