Stanford CS547 HCI Seminar: Toward Ontological Multiplicity in AI and Computing

핵심 논제: 존재론적 다원성을 향한 이동

기술 시스템은 중립적이지 않습니다. 기술 시스템은 "존재론적 경계"—사물이 무엇인지, 그리고 그 경계가 어디에 있는가에 대한 가정을 인코딩합니다. 이러한 경계가 고정되고 자연스러운 것으로 받아들여질 때, 상상할 수 있고 설계할 수 있는 영역이 제한되며, 종종 좁고 지배적인 현실을 강화하게 됩니다. 존재론적 다원성은 이러한 경계를 드러내고, 질문하고, 확장함으로써, 여러 가지의 동등하게 실재하는 존재 방식을 수용할 수 있는 AI 및 컴퓨팅 시스템을 만드는 실천입니다.

내재된 존재론적 가정의 위험성

존재론적 경계는 추상적인 현상을 내부와 외부로 나누는 "절단(cuts)"(물리학자 Karen Barad의 용어) 역할을 합니다. 설계자와 개발자가 자신도 모르게 이러한 경계를 설정할 때, 그들은 알고리즘에 특정 세계관을 인코딩할 위험이 있으며, 이는 모든 사용자에게 기본값(default) 현실이 됩니다.

"뿌리 없는 나무" 사례

이를 설명하기 위해, Nava Haghighi는 LLM에 나무 그림을 생성하도록 프롬프트를 입력하는 과정을 설명합니다. 사용자의 내면적 나무 이미지에 뿌리가 포함되어 있음에도 불구하고, LLM은 일관되게 뿌리가 없는 나무를 생성했습니다. 사용자의 이란(Iranian) 유산에 대해 언급하는 프롬프트조차 정형화된 이미지(사막 풍경, 페르시아 카펫)를 생성했을 뿐, 여전히 뿌리는 없었습니다. 오직 프롬프트가 "세상의 모든 것은 연결되어 있다"라는 철학적 가정으로 전환되었을 때만 LLM은 뿌리가 있는 나무를 생성했습니다. 이는 LLM이 특정 존재론적 기본값에 맞춰져 있어, 명시적으로 표현되지 않는 한 대안적 관점을 보이지 않게 만든다는 것을 보여줍니다.

경계의 해체: "보라색 구역(Purple Zone)"

존재론적 가능성을 확장하는 한 가지 방법은 이전에 고정되었던 경계가 해체되는 순간인 "존재론적 글리치(ontological glitches)"에 주목하는 것입니다.

측정 가능한 인간

정서 컴퓨팅(affective computing)에서, 피부 전도도를 통해 스트레스를 측정하는 전기피부활동(Electrodermal Activity, EDA)이 사용됩니다. 연구자들은 일반적으로 사람들을 "반응자(responders)" 또는 "비반응자(non-responders)"로 분류합니다. 특정 기준치를 충족하지 못하는 사람들은 종종 연구에서 제외되며, 이는 사실상 그들을 보이지 않게 만듭니다. 이는 "측정 가능한 인간"이라는 존재론적 경계를 만듭니다. 즉, 객관적이고 탐지 가능한 속성을 가진, 경계가 뚜렷한 합리적 개인이라는 경계입니다.

보라색 구역 경험

비반응자인 Haghighi는 깊은 감정적 회의 중 갑자기 반응자가 된 "글리치"를 발견했습니다. 이러한 존재론적 모호함의 상태를 "보라색 구역(Purple Zone)"이라고 합니다. 사용자가 이 구역에 진입했을 때 알림을 주는 실시간 바이오피드백 시스템을 구축함으로써, Haghighi는 참가자들이 자신을 인식하는 방식에서 몇 가지 변화를 관찰했습니다:

• 분류에서 관계성으로: 사용자는 자신을 고립된 개인이 아닌 관계적 단위(예: 친구와 공유하는 "보라색 손님")의 일부로 보기 시작했습니다.
• 통제에서 배양(cultivation)으로: 생물학적 반응을 강제로 유도하는 대신, 사용자는 그 상태에 도달할 수 있는 조건(예: 특정 활동)을 만드는 데 집중했습니다.
• 정확성에서 돌봄을 통한 알고리즘적 정밀함으로: 목표는 객관적 속성을 정확하게 표현하는 것에서, "존재론적 개방성"을 제공하는 것으로 전환되었습니다.

사용자 저자성을 통한 경계 협상

모든 사람이 글리치를 경험하는 것은 아니기 때문에, Haghighi는 사용자에게 감지 시스템 내에서 자신만의 범주를 정의할 수 있는 도구를 제공함으로써 "경계 협상"을을 제안합니다.

경계 탐색

현재의 기술적 제약 조건을 우회회하기 위해 "Wizard of Oz" 접근법을 사용하여, Haghighi는 두 가지 프로브(probe)를 테스트했습니다:

1. 이벤트 마커(Event Marker): 사용자는 삶의 경험(느낌이나 상태)에서 시작하여 데이터로 이동합니다.
2. 패턴 파인더(Pattern Finder): 사용자는 가공되지 않은 데이터(심박수/에너지)에서 시작하여 의미로 이동합니다.

협상에서의 발견

참가자들은 이러한 도구를 사용하여 여러 유형의 경계 협상을 수행했습니다:

• 현상 경계: 한 사용자는 자신의 내면적 상태에에 따라 "걷기" 범주를 "탐색 걷기"와 "휴식 걷기"로 나누었습니다.

• 주체체 경계: 달리기 트래킹 아웃풋을 트래킹하는 사용자는 자신이 실제로 "인간과 개"의 결합된 실체체를를 통해 측정하고 있음을 깨달았습니다.

• 신호 vs 노이즈: 사용자는 심박수 데이터의 공백을 센서 오류(노이즈)로 간주하지 않고, 알고리즘의 동작을 감사(audit)하는 방법으로 사용했습니다.

• 데이터의 객관성: 사용자는 절대적 수치치보다는 관계적 의미(예: 파트너와 자신의 활동을 сравнению를 통해 비교)를 찾고자 했습니다.

존재론적 경계를 표면화하기 위한 프레임워크

내재된 가정을 정체하게 시스템적으로으로써, Haghighi는 네 가지 분석적 지향점을 개발했습니다:

1. 다원성(Multiplicity): 시스템이 여러 가지 존재 방식을 인정하는지 묻습니다.
2. *근거성(Groundedness): 시스템의 가정이 어디에 뿌리를 두고 있는지 조사합니다.
3. 생동성(Liveness): 경계가 시간이 지남에 따라 진화할 수 있는지 평가합니다.
4. 실행(Enactments): 시스템이 측정한다고 주장하는 실체를 어떻게 능동적으로 구성하는지 살펴봅니다.

LLM 및 에이전트 적용

이러한 지향점을 현재의 AI 모델에 적용하면 중요한 결함함이 드러납니다:

• LLM 출력물: LLM이 "인간"의 다양한 문화적 정의를 인정할지라도, 인간을 근본적으로 생물학적 개인으로 보는 가정에 거의 항상 기본값으로 설정되어 있습니다. 오직 비서구권 철학을 위한 명시적인 프롬프팅이 있을 때만 인간을 상호 연결된 관계의 네트워크로 나타냅니다.
• Agent Architectures: "Generative Agents"와 같은 시스템은 인지 작용이 개인의 마음속에서만 일어난다고 가정합니다. 공생적 존재론적 관점은 대신 고립된 개인이 아닌 결합체(assemblages)를 기반으로 결합합니다 intelligence를 intelligence를 설계합니다.

AI 디자인의 미래 방향

앞으로, Haghighi는 AI 개발 파이프라인의 몇 가지 변화를 제안합니다:

• 데이터: 존재론적 작동 방식을 이해하기 위해 작은, 제약된 데이터셋을 사용하여 "정밀 독해(close reading)"과 돌봄(care)을 적용합니다.
• 아키텍처: 사용자 모델에서 개인을 탈중심화하고, 관계를 중심 인물의 속성이라기보다 기초적인 단위로 취급합니다.
• Meta-Design: AI 시스템이 다른 시스템(코드/인터페이스)을 생성하는 시스템(코드/인터페이스)을 생성하는 시스템이 존재론적 가정을 어떻게 재생산하는지, 그리고 이러한 가정이 "통제 제어(control)보다 배양(cultivation)의 원리"와 같은 고리수준의 상위 개념을 통해 전환될 수 있는지 조사합니다.