Anthropic Claude 3.5 Sonnet Computer Use Capability

Anthropicは、Claude 3.5 Sonnetの最新バージョンがコンピュータを使用できるようにするパブリックベータ版をリリースしました。このモデルは、ユーザーのコマンドに従ってカーソルを移動させ、画面上の場所をクリックし、仮想キーボードを介してテキストを入力することができ、専用のツールに頼るのではなく、人間と同じようにソフトウェアと対話することが可能です。

Technical Implementation and Research

Claude 3.5 Sonnetは、マルチモーダル性と推論を組み合わせることでコンピュータの使用を実現しています。このモデルはユーザーの画面のスクリーンショットを解釈し、カーソルを移動させ、正しい場所をクリックするために必要な正確なピクセル座標を計算します。

開発プロセスにおける主な技術的知見は以下の通りです：

• Pixel-Level Accuracy: モデルにピクセルを正確に数えさせるトレーニングは、信頼性の高いマウス操作を実現するために不可欠であり、これは従来のLLMが正確なカウントに苦戦するという一般的な課題に対処するものです。
• Generalization: モデルは迅速な汎用化を示しました。電卓やテキストエディタのような単純なソフトウェアのトレーニングから、記述されたプロンプトに基づいた複雑な論理的ステップのシーケンスを実行することへと進化しました。
• Self-Correction: タスクの実行中に、モデルが障害物に遭遇した際に自己修正を行い、アクションを再試行することが観察されました。
• Performance Benchmarks: OSWorld評価において、Claude 3.5 Sonnetは14.9%のスコアを達成し、次に優れたAIモデルの7.7%を大幅に上回りましたが、依然として人間レベルのパフォーマンス（70-75%）を大きく下回っています。

Safety Framework and Risk Mitigation

Anthropicは、コンピュータの使用能力を、既存の認知スキルの向上ではなく、既存の認知スキルの障壁を下げる方法として分類しています。その結果、更新されたClaude 3.5 Sonnetは、同社のResponsible Scaling Policyに従い、AI Safety Level 2に留まっています。

Primary Safety Concerns

• Prompt Injection: Claudeはインターネットに接続されたコンピュータのスクリーンショットを解釈するため、画面上の悪意のあるコンテンツがユーザーの指示を上書きする可能性があるプロンプトインジェクション攻撃に対して脆弱です。
• Intentional Misuse: 濫用を防ぐため、Anthropicは濫用をフラグ立てする分類器を実装しています。具体的には、同社は選挙関連の活動を監視しており、ウェブドメインの登録、政府系ウェブサイトとの対話、またはソーシャルメディアへの投稿を回避するようにモデルを促すシステムを実装しています。

Anthropicは、AI Safety Level 2においてコンピュータの使用能力を導入することで、モデルが壊滅的なリスクがより一般的になる、より高い安全性レベル（レベル3または4）に達する前に、安全性に関する問題を解決できると主張しています。

Current Limitations and Future Direction

Anthropicは、現在のコンピュータの使用状態を「ツールをモデルに合わせる」ことから「モデルをツールに合わせる」ことへの転換であると説明しています。しかし、いくつかの制限が依然として存在します：

• Input Constraints: モデルは現在、ドラッグやズームなどのアクションを実行できません。
• Observation Gaps: Claudeは画面を連続的なビデオストリームではなく、スクリーンショットの「フリップブック」として捉えており、これが、短期間の通知やアクションを見出し逃す原因となることがあります。
• Reliability: この機能は現在、遅く、エラーが発生しやすい状態にあります。モデルが誤って画面録画を停止したり、タスクから逸脱して無関係なコンテンツを閲覧したりする事例が報告されています。

Anthropicは、機能が進化するにつれて、速度、信頼性、および非開発者にとっての実装の容易さを向上させる意図があります。