Kaiser Permanente 간호사, AI 기반 감시가 치료와 근무 환경을 악화시킨다고 보고

AI 기반 감시가 Kaiser 간호사의 일상 업무 흐름을 재구성

Kaiser Permanente의 상담 라인 간호사들은 이제 소프트웨어가 모든 통화 길이를 추적하고, “생산성”을 예측하며, 심지어 공감과 목소리 톤까지 평가한다는 점을 보고했습니다. 15분을 초과하는 통화는 비판, 성과 평가 회의, 그리고 월간 점수 하락을 초래하며, 이는 간호사가 자살 위험이 있거나 말기 환자와 같은 장시간 지원이 필요한 전화를 처리할 때도 마찬가지입니다.

“스크립트를 벗어나거나 필요 이상으로 말을 하면 징계를 받을까 고민해야 했어요.” – 익명 간호사

성과 지표가 사실상의 징계 도구로 사용됨

경영진은 공식 지표로 “평균 처리 시간”(AHT)을 공개적으로 사용하지 않지만, 간호사들은 15분 기준이 사실상 동일하게 작동한다고 말합니다. 통화가 이 한도를 초과하면 통화 품질과 무관하게 간호사는 질책을 받습니다. 이 압박은 간호사들이 조언을 두세 가지 포인트로 축소하도록 만들고, 때로는 벌점을 피하기 위해 중요한 정보를 숨기게 합니다.

“Kaiser가 우리에게 주는 통화 시간은 때때로 안전하지 않을 정도입니다.” – 이름을 밝히지 않은 간호사

AI 공감 파일럿이 감시 부담을 확대

2024년 여름, Kaiser는 간호사의 공감과 목소리 톤을 평가하는 AI 시스템을 파일럿했습니다. 간호사들은 이 도구가 부정확하고 처벌적이라고 묘사했으며, 투명성, 환자 프라이버시 보호, 그리고 전문적 판단을 행사할 권리를 요구하는 청원을 제출했습니다. 파일럿은 2024년 11월에 중단됐지만, 노조 대표들에게 프로그램이 다시 돌아올 수 있다는 경고가 전달되었습니다.

“AI는 우리의 일을 이해하지 못했고 항상 우리를 잘못 평가했습니다.” – 익명 간호사

노조 협상 및 입법 배경

California Nurses Association (CNA)는 AI 관련 보호 조치를 핵심 이슈로 삼아 25,000명의 간호사(그 중 1,000명은 콜센터 직원)를 대상으로 협상을 진행하고 있습니다. 최근 파업 및 시위(2024년 3월 1일 파업, 2024년 가을 시위)에서 이 문제가 부각되었습니다. 동시에 캘리포니아 입법자들은 다음과 같은 법안을 마련하고 있습니다:

• 성과 평가에 사용되는 AI 시스템을 고용주가 공개하도록 요구 (AB 1018, SB 947).
• AI 권고를 무시한 임상의에 대한 보복을 금지 (의사·간호사 보호를 위한 제안 법안).
• 직원에 대한 AI 기반 감정 상태 예측을 금지 (SB 947).

AB 1018과 원안 SB 7은 뉴섬 주지사에 의해 차단됐지만, 수정된 SB 947은 현재 검토 중입니다.

환자 안전에 미칠 잠재적 영향

간호사들은 감시가 환자에게 부정적인 결과를 직접 연결짓기 어렵다고 말합니다. 왜냐하면 그들의 상호작용은 통화가 끝나는 순간 종료되기 때문입니다. 2024년 공개 기록 요청에서는 통화 시간 문제에 대한 환자 불만이 없다는 결과가 나왔지만, 간호사들은 급하게 진행되는 통화가 특히 비영어권 화자(캘리포니아 인구의 약 40 %)와 통역 지원이 필요한 복잡한 사례에서 중요한 신호를 놓칠 위험이 있다고 주장합니다.

“Kaiser는 수년간 치료보다 비용 관리를 우선시해 왔으며… 이는 결국 환자에게 실패로 돌아갈 것입니다.” – Michele Ramos, Consumer Watchdog

더 넓은 산업 맥락

Kaiser의 AI 활용은 콜센터를 넘어 입원 환자 부작용 위험 예측 모델, AI 기반 퇴원 결정(Preventus), 음성‑텍스트 변환 도구(Abridge), 원격 모니터링 파일럿 등으로 확장됩니다. National Nurses United의 2024년 설문조사에 따르면 2,000명 응답자 중 절반이 알고리즘 기반 전자 건강 기록 분석을 사용하고 있으며, 3분의 2는 임상 판단과 AI 예측 사이에 불일치를 경험했다고 답했습니다.

학술 연구도 간호사들의 우려를 뒷받침합니다. 2023년 네 개 국가의 콜센터 근로자를 대상으로 한 연구에서는 AI 기반 알고리즘 관리가 참여자의 거의 절반에게 정서적 탈진과 스트레스를 증가시켰다고 밝혔습니다. Cornell과 McMaster 연구진의 유사한 결과는 고위험 환경에서 성과 모니터링이 오류율을 높인다는 점을 보여줍니다.

간호사들이 원하는 것

• 투명성: Kaiser 시설에 배치된 모든 AI 도구의 공개 재고 목록.
• 인간 감독: AI 점수가 고용 결정에 영향을 미치기 전에 임상의가 검토하도록 보장.
• 전문적 자율성: 환자 필요에 따라 통화를 더 오래 유지할 수 있게 하며, 벌점이 부과되지 않도록 함.
• 입법 보호: AI 권고를 무시했을 때 보복을 금지하는 법률.

결론

Kaiser Permanente의 AI‑기반 감시는 비용 절감 효율성과 간호사의 핵심 가치인 친절한 치료 사이에 갈등을 일으키고 있습니다. CNA와의 계약 협상 결과 및 캘리포니아 AI 규제 법안의 향후 진행 상황은 대형 의료 시스템이 알고리즘 관리와 환자 안전·근로자 존엄성을 어떻게 조화시킬지에 대한 선례를 만들 가능성이 높습니다.