Research Gold: A Case Study in AI-Driven Fraud in Medical Research Services

Research Goldは、医学研究サービスを提供するウェブサイトですが、詐欺的な運営であることが明らかになりました。同社は、そのサービスが「100%人間が執筆しており、AIは一切使用していない」と明示的に主張しているにもかかわらず、実際には生成AIによって完全に運営されており、偽のペルソナや盗まれた身元を利用して研究者を欺いています。

The Deception: Fake Personas and Stolen Identities

Research Goldのビジネスモデルは、AI生成の研究という汚名を避けるための、欺瞞的なマーケティング戦略に依存しています。同社は、信頼性を確立するために、「About」ページに「PhD methodologists（博士号を持つ方法論学者）」のチームを掲載しています。しかし、調査の結果、創設者兼リード・メソドロジストのDr. Elena Vasquezや、スコーピング・レビュー専門家のDr. Mei-Lin Chenを含む、リストに記載された専門家のうち数名は実在しませんでした。彼らのプロフィール写真はAIによって生成されたものであり、専門的な活動実績や出版履歴も存在しません。

さらに、同社は実在するフリーランスの方法論学者や学者の身元を不正に流用しています。例えば、エビデンス合成科学者のJenny Berrioは、自身の名前、写真、経歴が許可なく使用されていることを発見しました。場合によっては、Research GoldはLinkedInからプロフィール画像を直接取得しており、そこには「#opentowork」のバナーが含まれており、基本的なチェックすら欠如していることを示しています。

AI-Driven Operations and Sales Process

顧客獲得およびコミュニケーションのパイプライン全体が自動化されています。電話で連絡を取ると、「Sarah」という名前のAIアシスタントが出迎え、直接的な質問にもかかわらず、AIであることを繰り返し否定し、代わりに研究プロジェクトの見積もりを取得するための会話へと誘導します。

同社の見積もりプロセスをテストしたところ、システマティック・レビューの見積もり依頼に対し、即座にAIが生成した回答が返ってきました。AIは、PICO (Population, Intervention, Comparison, Outcome) アプローチに関する技術的な響きのする回答を行い、プロトコル登録、データベース検索、およびターゲットとなるジャーナル向けにフォーマットされた執筆を含む、フルレビューの費用として1,900ドルを提示しました。

Risks to Academic Integrity

医学研究におけるAIの使用は、生成AIが事実や引用文献を捏造（ハルシネーション）する傾向があるため、特に危険です。ニューハンプシャー大学の博士課程学生であるSebastian Rowanは、メタ分析のプロセスには、ニュアンスを理解し、すべての結論が正しく引用されていることを確認するために、何百もの論文を細かく読み込む必要があると指摘しています。

Community Insights and Counterpoints

Hacker Newsのコミュニティメンバーは、この詐欺の含意について議論しました。一部の観察者は、同じ欺瞞のパターンが、以前の傾向（企業が「AIを活用している」と主張しながら、密かに人間を使っていた）の「驚くべき逆転」を記述していると指摘しました。現在、AIは十分に能力が高くなったため、企業は優位性を得るために、AIによる作業を人間によるものとして偽って提供しようとしています。

他のユーザーは、このような詐欺的なサイトを特定するためのレッドフラッグ（警告サイン）を指標として挙げました。

"One thing that I find useful is to look at the about page, as well as terms of service or privacy policy, of any website. If there's no entity named, or you can't verify that a named entity actually exists, it's a red flag."

さらに、一部のユーザーは、ウェブサイトのデザイン（ホバー効果のあるカードや四角いアイコンといった、一般的なAI生成のレイアウト・パターン）が、AI由来であることを示す決定的な兆候であったと指摘しました。

退職した学者の@tkgallyは、ハルシネーションは解決不可能な問題ではないと反論しました。彼らは、複数のモデルを使用して引用文献をクロスチェックし、厳格な倫理的整合性を実装することで、無効な参考文献を伴わない研究論文を生成することが可能であると主張しました。