'Disregard' 글리치: Google 검색에서의 프롬프트 인젝션
최근 한 바이럴 보고서에 따르면 사용자들이 "'disregard'라는 단어를 더 이상 Google에서 검색할 수 없다"고 주장했습니다. 헤드라인은 검색 엔진의 완전한 실패를 암시하지만, 실상은 거대 언어 모델(LLM)과 전통적인 검색 인터페이스가 교차하는 지점에서의 흥미로운 사례 연구입니다. 이 현상은 인덱싱의 실패가 아니라, 사용자의 검색 쿼리와 Google의 AI Overviews를 제어하는 시스템 지침 사이의 충돌입니다.
글리치의 구조
사용자들이 "disregard"라는 단어를 검색했을 때, 검색 결과 상단에 나타나는 생성형 AI 요약인 Google의 AI Overview는 때때로 해당 쿼리를 정의를 요청하는 것이 아니라 AI 자체에 대한 명령으로 해석했습니다.
"disregard previous instructions"는 AI 안전 필터를 우회하거나 LLM의 동작을 변경하기 위해 프롬프트 인젝션 공격에서 흔히 사용되는 문구이기 때문에, AI는 검색어를 지침으로 취급하기 시작했습니다. 이는 다음과 같은 다양한 초현실적인 응답으로 이어졌습니다:
- 직접적인 준수: AI가 "Understood. This prompt has been disregarded."라고 응답함.
- 문맥 초기화: 사용자가 "disregard previous"를 검색한 경우, AI가 "Understood. I have cleared our previous conversation context."라고 답변함.
- 침묵의 실패: AI 섹션이 단순히 사라져 버리고, 전통적인 유기적 검색 결과만 남음.
검색창에서의 프롬프트 인젝션
이 사건은 현대 AI 통합의 지속적인 취약점인 사용자 입력값의 적절한 정제(sanitize) 실패를 조명합니다. Hacker News의 커뮤니티 구성원들이 언급했듯이, 이는 본질적으로 사용자 입력이 데이터가 아닌 코드로 실행되는 "Little Bobby Tables" SQL 인젝션 공격의 현대적 버전입니다.
"2026년에도 여전히 많은 사용자 입력이 정제되지 않은 채로 방치되고 있는 것 같습니다."
Google은 검색 쿼리를 LLM에 전송되는 프롬프트의 일부로 취급함으로써, 의도치 않게 단 하나의 단어가 시스템 수준의 명령을 트리거할 수 있는 시나리오를를 만들었습니다. 이 문제는 단순히 "disregard"에 국과지 않고, 일부 사용자들은 "stop"이나 "cancel"과 같은 용어를 검색할 때도 유사한 동작을 보고했습니다.
사용자 경험의 역설
흥미롭게도, 이 "버그"에 대한 커뮤니티의 반응은 양극화되었습니다. 일부는 이를 품질 관리의 실패로 보았지만, 다른 이들은 이를 뜻밖의 기능으로 보았습니다. AI Overview가 종종 화면의 상당 부분을 차지하여 첫 번째 유기적 검색 결과에 도달하기 위해 여러 번 스크롤해야 하는 경우가 많기 때문에, 실수로 AI를 비활성화하는 쿼리는 일부 사용자들에게 선호되는 경험이 될 수 있습니다.
"솔직히, AI를 좋아하지 않는다면, 이것이 바로 당신이 원하는 것일 수도 있습니다."
우회 방법 및 기술적 세부 사항
AI가 생성한 "slop"을 피하거나 이러한 프롬프트 인젝션 글리치를 우회하고자 하는 사람들을 위해, 커뮤니티는 몇 가지 기술적 우회 방법을 제시했습니다:
- 특정 쿼리: "disregard definition"을 검색하면 일반적으로 AI가 쿼리를 명령이 아닌 정보 요청으로 인식할 수 있도록 충분한 문맥을 제공하여 글리치를 우회할 수 있습니다.
- URL 파라미터: Google 검색 URL에
&udm=14파라미터를 사용하는 것은 AI 요약과 기타 위젯을 제거하고 "web-only" 뷰를 강제하는 인기 있는 방법으로 남아 있습니다. - ** 부정 키워드: 쿼리에
-ai를 추가하는 것은 AI가 생성한 콘텐츠를 필터링하는 또 다른 커뮤니티 제안 방법입니다.
결론
"disregard" 사건은 검색 엔진이 AI 어시스턴트로 진화함에 따라 "용어를 검색하는 것"과 "모델에 지침을 내리는 것" 사이의 경 경계가 위험할 정도로 모호해진다는 점을 상기시켜 줍니다. Google이 특정 트리거를 빠르게 패치했을 가능성이 높지만, 사용자 데이터와 시스템 지침을 분별별히 분리하는 근본적인 과제는 대중에게 공개된 인터페이스에 생성형 AI를 배중치하는 데 있어 핵심적인 장애물로 남아 있습니다.