Fabricated SQLite CVEs: The Rise of LLM-Generated Vulnerability Slop
SQLiteに関する一連の重大な脆弱性アドバイザリが、最近「LLMスロップ（LLM slop）」であることが判明しました。これらは、存在しないコードを引用し、機能しないPoC（Proof-of-Concept）ペイロードを提供する、AIによって生成された捏造されたレポートです。偽物であるにもかかわらず、これらのCVEは当初、National Vulnerability Database (NVD) や CISAのAuthorized Data Publishers (ADPs) によって重大（critical）としてフラグが立てられており、現在の脆弱性検証パイプラインにおける危険なギャップを浮き彫りにしています。
The Fabricated SQLite Vulnerabilities
JFrogのセキュリティ研究者は、GitHubリポジトリ (programmervuln/cveadvisory-) によって公開されたSQLiteアドバイザリのバッチを調査しました。彼らの監査の結果、このアカウントからの55件のアドバイザリのうち54件が完全に捏造されたものであることが明らかになりました。
Analysis of Hallucinated CVEs
研究者たちは、公式のSQLiteソースの検査、クリーンなDockerビルド、およびAddressSanitizer (ASan) インストゥルメンテーションを含む、隔離されたテストワークフローを使用して、主張を検証しました。その結果、AIのハルシネーション（幻覚）の一貫したパターンが示されました。
| CVE | Reported Flaw | Finding |
|---|---|---|
| CVE-2026-51302 | UAF in exprComputeOperands() |
exprComputeOperands() 関数は、対象のバージョン (3.41.0) には存在しませんでした。 |
| CVE-2026-51303 | UAF in ExprListDelete() |
バージョン 3.51.3 で報告された「パッチ」は捏造されたものでした。3.51.2 と 3.51.3 の間の src/expr.c に変更は存在しませんでした。 |
| CVE-2026-51300 | UAF in sqlite3ExprDelete() |
引用された行番号は、報告された欠陥とは無関係なコメントとメモリ割り当ての呼び出しを参照していました。 |
| CVE-2026-51297 | UAF via jsonBlobEdit() |
jsonBlobEdit() 関数は、対象のバージョン (3.41.0) には存在しませんでした。 |
| CVE-2026-51296 | UAF in jsonRemoveFunc |
引用された行番号は、ソースファイルの総計 (src/json.c) を超えていました。 |
| CVE-2026-51304 | UAF via pOrderBy->nExpr |
報告された関数のシグネチャは不正確であり、コードは削除後に明示的にポインタをnullにしています。 |
すべてのケースにおいて、提供されたPoC SQLステートメントは、パーサーの段階で失敗するか、メモリエラーをトリガーすることなく正常に実行されました。
Systemic Failures in CVE Validation
捏造されたレポートが重大な深刻度スコア（Red Hatによって CVE-2026-51302 に当初割り当てられた 10.0 スコアなど）を受け取ることができる能力は、脆弱性インジェクション・パイプラインの崩壊を指し示しています。
The Breakdown of the NVD Safety Net
歴史的に、National Vulnerability Database (NVD) は、送られてくる CVE を手動で分析し、検証してきました。しかし、2024年2月、NISTはレポートの激増により、詳細な分析を一時停止しました。これにより、以下のような断片化されたパイプラインが生じています：
- Lack of Verification: 現在の提出プロセスにおいて、機能的なPoCやバグの再現手順が要求されるステップはありません。
- Automated Ingestion: もっともらしく聞こえる偽のアドバイザリが、人間の検証なしに GHSA や企業用スキャナーに流れてしまう可能性があります。
- Identity Anonymity: MITRE の公開提出フォームには厳格な本人確認が欠欠けており、誰でも CVE と CVSS スコアを提案することができます。
Impact on Security Operations
捏造された CVE は、組織やメンテナーに対して、重大な運用上のオーバーヘッドとセキュリティリスクを生み出します：
- Resource Wastage: セキュリティチームは、存在しない脆弱性を調査し、パッチを適用するために時間を浪費します。
- Polluted Databases: 脆弱性データベースは「ノイズ」で飽和し、正当な重大な脅威を識別することが困難になります。
- AI-Driven Misremediation: 自動トリアージに使用される AI エージェントが、存在しない関数をパッチしようと試み、生産環境のコードに実際のバグを導入する可能性があります。
- Maintainer Burden: オープンソースのメンテナーは、実際のセキュリティ欠陥を修正するのではなく、ハルシネーションを論破するために時間を費やすことを余強いされます。
How to Identify "Slop" CVEs
捏造されたアドバイザリに惑わされないために、セキュリティの専門家は以下のレッドフラグ（警告サイン）を探すべきです：
- Missing Vendor Corroboration: 問題が公式のメンテナーのセキュリティページ (e.g.,
sqlite.org/cves.html) に記載されていません。 - Absent Commit History: 参照フィールドにリンクされたコミットハッシュやプルリクエストが存在しません。
- Metadata Contradictions: CPE 製品定義が空であるか、バージョン範囲がアドバイザリの記述と矛盾しています。
- Non-existent Code References: アドバイザリが、指定されたソフトウェアのバージョンに存在しない関数や行番号を引用しています。
Community Perspectives
業界のオブザーバーは、セキュリティ報告におけるシグナル対ノイズ比の低下について懸念を表明しています。一部のコントリビューターは、LLM が実際のバグを見つけることができる一方で、検証の欠拠欠けが「大規模な攻撃」への道を開く可能性があると指摘しています。
"LLMs are text-prediction engines. They are not Artificial Intelligence, and shouldn’t not be treated in any form or fashion as if they possess intelligence... Now, we all pay the consequence, to the tune of hundreds of thousands if not millions of dollars of wasted productivity."
他の人々は、「検証マシン」が構築される前に「出力マシン」が構築されている現在の傾向は、ソフトウェア開発において持続不可能であると警告しています。
Sources
関連
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch