Research Gold: 의료 연구 서비스에서의 AI 기반 사기 사례 연구

Research Gold는 의료 연구 서비스를 제공하는 웹사이트로, "100% 인간이 작성한 내용, AI는 절대 사용하지 않음"이라고 명시하고 있지만, 실제로는 생성형 AI로 완전히 운영되며 연구자들을 속이기 위해 가짜 인물과 도용된 신원을 사용하고 있다.

사기 수법: 가짜 인물과 도용된 신원

Research Gold의 비즈니스 모델은 AI 생성 연구에 대한 사회적 낙인을 피하기 위한 속임수 마케팅 전략에 기반한다. 회사는 About 페이지에 "박사급 메소도로지스트" 팀을 소개하여 신뢰성을 구축하고 있다. 그러나 조사 결과, 이들 전문가 중 일부, 특히 창립자이자 수석 메소도로지스트인 Dr. Elena Vasquez와 스코핑 리뷰 전문가 Dr. Mei-Lin Chen은 존재하지 않는 것으로 밝혀졌다. 그들의 프로필 사진은 AI 생성 이미지이며, 전문적 기록이나 논문 발표 이력이 전혀 없다.

또한, 회사는 실제 프리랜서 메소도로지스트와 학자들의 신원을 불법으로 사용하고 있다. 예를 들어, 증거 통합 과학자인 Jenny Berrio는 자신의 이름, 사진, 이력이 허락 없이 사용되고 있음을 발견했다. 일부 경우에서는 LinkedIn에서 직접 프로필 이미지를 가져와 사용했으며, '#opentowork' 배너까지 그대로 복사해 사용해 기본적인 검증 절차도 하지 않았다는 점이 드러났다.

AI 기반 운영 및 영업 프로세스

고객 유치 및 커뮤니케이션 전 과정이 자동화되어 있다. 전화로 연락했을 때, AI 어시스턴트인 "Sarah"가 응답하며, 직접 질문을 받더라도 AI임을 부인하고 계속해서 연구 프로젝트의 견적을 요청하도록 유도한다.

견적 요청 프로세스를 테스트한 결과, 체계적 리뷰 견적 요청에 즉각적으로 AI가 생성한 응답이 돌아왔다. AI는 PICO(Population, Intervention, Comparison, Outcome) 접근법에 대해 기술적인 어조로 답변했으며, 프로토콜 등록, 데이터베이스 검색, 표적 저널 형식에 맞춘 작성까지 포함한 전체 리뷰에 대해 $1,900의 견적을 제시했다.

학문적 정직성에 대한 위협

의료 연구에서 AI를 사용하는 것은 특히 위험하다. 생성형 AI는 사실과 인용문을 허구로 만들어내는 경향이 있기 때문이다. 뉴罕프셔 대학교의 박사 과정 학생인 Sebastian Rowan은 메타 분석 과정이 수백 개의 논문을 세심하게 읽어 세부 사항을 이해하고, 모든 결론이 정확히 인용되었는지 확인하는 데 필수적이라고 지적한다.

이 사기 행위는 과학 출판 분야에서의 "AI 쓰레기"(AI slop)라는 더 넓은 추세를 반영한다. 지금은 저널들이 AI 생성 인용문이 포함된 논문 폭발 속에서 걸러내기 어려워하고 있으며, 일부 AI 생성 논문이 이미 학술 저널에 게재되는 사례까지 발생하고 있다.

커뮤니티의 통찰과 반론

// 참고: 제공된 원본 자료에는 여러 Hacker News 댓글이 포함되어 있다. 이를 종합하여 섹션으로 정리한다.

Hacker News 커뮤니티는 이 사기 행위의 의미를 논의했다. 일부 관찰자는 이와 같은 사기 패턴이 이전에 "AI 기반"이라고 주장하면서 실제로는 인간을 사용하던 추세와 정반대의 "놀라운 역전"을 보이고 있다고 지적했다. 이제 AI의 성능이 충분히 높아져, 회사들이 AI 작업을 인간이 수행한 것처럼 위장해 경쟁 우위를 점하려는 시도가 늘고 있다는 것이다.

다른 사용자들은 이러한 사기 웹사이트를 식별할 수 있는 경고 신호를 제시했다:

"내가 유용하다고 느끼는 것은, 어떤 웹사이트의 About 페이지뿐 아니라 이용 약관이나 개인정보 보호 정책을 살펴보는 것이다. 명시된 법인이 없거나, 명시된 법인이 실제로 존재하는지 확인할 수 없다면, 그건 경고 신호다."

또한 일부 사용자는 웹사이트의 디자인 — 일반적인 AI 생성 레이아웃 패턴(호버 효과가 있는 카드와 사각형 아이콘) — 이 그 자체로 AI 출처임을 보여주는 단서라고 지적했다.

한 반론은 퇴직한 학자인 @tkgally에 의해 제기되었다. 그는 환각 현상이 해결 불가능한 문제는 아니라고 주장하며, 여러 모델을 활용해 인용문을 교차 검증하고 엄격한 윤리적 일치를 구현함으로써 유효하지 않은 인용문이 전혀 없는 연구 논문을 작성할 수 있었다고 밝혔다.