거대 언어 모델의 사회적 및 경제적 위험

가치의 중앙 집중화 및 경제적 대체

거대 언어 모델(LLM)은 인간의 지식과 창의성의 경제적 가치를 소수의 모델 소유자와 생산자의 손에 집중시킬 위험이 있습니다. 이러한 변화는 젊은 전문가들을 위한 전통적인 경력 사다리를 해체할 위협이 있으며, 지식 노동 직업이 자동화됨에 따라 영구적인 경제적 하층 계급을 생성할 수 있습니다.

비판론자들은 현재의 AI 개발 궤적이 LLM 기업들이 음악, 블로그, 실험적 데이터를 포함하여 인간이 만든 콘텐츠를 원본 제작자에게 보상 없이 "어뷰징"할 수 있게 한다고 주장합니다. 이러한 역학 관계는 사회가 생성한 가치가 AI 생산자에게 흡수되고, 그들은 다시 대중에게 동일한 지식의 합성된 버전을 제공하기 위해 비용을 청구하는 피드백 루프를 생성합니다.

창의적 동기 부여의 침식 및 "슬롭(Slop)"의 부상

AI가 생성한 콘텐츠의 확산이 인간의 창의성 저하와 "슬롭(slop)"이라고 불리는 평범함에 대한 일반적인 수용으로 이어질 것이라는 우려가 커지고 있습니다.

예술과 기술에 미치는 영향

어떤 이들은 프롬프트가 기술을 배우는 지루한 과정을 대체하면서, 숙련 과정과 창작의 분리는 예술의 본질적 가치를 침식시킨다고 주장합니다. 이는 학술적 환경에서 AI 음악 도구의 통합으로 예시되며, 일부는 이것이 창작의 과정보다 결과물을 우선시할 것을 우려합니다.

인간적 진정성에 대한 수요

반대로, 일부 관찰자들은 인간이 만든 예술이 프리미엄을 유지할 것이다고 믿습니다. 마라톤에 비유하여, 그들은 자동차가 존재함에도 불구하고 사람들이 자기표현과 카타르시스를 위해 계속해서 달릴 것이라고 제안합니다.

"연구실에 의한 표절이나 복제와 상관없이, 인간이 만든 예술에 대한 수요는 항상 존재할 것입니다."

사회적 및 심리적 영향

경제학을 넘어, LLM의 일상생활로의 통합은 인간의 연결과 진실에 대한 인식에 영향을 미칠 수 있습니다.

인간적 연결의 상실

전문적인 이메일부터 소프트웨어 엔지니어링 트레이드오프까지, 커뮤니케이션이 점점 더 프롬프트에 의해 처리됨에 따라, 인간이 작업을 생성하고 논의하는 공유된 경험을 통해 사회화하고 연결되는 것을 멈출 위험이 있습니다.

정보 제어 및 진실

모델 가중치(model weights)를 제어하는 이들이 대중이 소비하는 정보, 데이터, 의견을 규정할 수 있는 능력은 일부에 의해 새로운 형태의 시스템적 정보 제어라고 간주됩니다. 이는 많은 사용자가 LLM의 응답을 사실적 진실로 비판 없이 수용하는 경향에 의해 악화됩니다.

AI 자동화에 대한 엇갈린 관점점

AI 통합의 장기적 결과에 대한 의견은 "도머(doomer)" 관점과 AI를 역사적 자동화 추세의 연장선으로 보는 관점 사이에서 갈립니다.

"도머(Doomer)" 관점

이 관점은 AI가 "우리 모두가 다루기에는 너무 날카로운 칼"이라고 가정하며, 잠재적으로 사회적 불안, 경제적 정체, 그리고 창작의 동기 부여가 사라져 인간의 진성이 진전이 멈추는 세상을 만들 수 있다고 주장합니다.

역사적 자동화 관점

다른 이들은 AI가 19세기 산업용 직조기(industrial looms)와 유사한 단순한 도구라고 주장합니다사. 이 관점은 즉각적인 혼란은 상당하지만, 자동화가 결국 비싼 결과물을 상품화하여 전반적인 삶의 질을 향도하게 한다고 제안합니다.

정치적 필요성

일부 기여자는 업무의 성격이 변화함에 따라 부의와 기회를 더 공평하게 재분배하기 위해 적극적인 정치적 개입을 통해 최악의 결과(예: 극단적인 부의 양극화와 폭력적인 혁명)를 피할 수 있는 유임한 방법뿐이라고 제안합니다.

"러다이트(Luddites)의 경제적 붕괴에 대한 공포증적 태도에도 불구하고, 경제는 항상 성장합니다. 우리가 사무직을 갖게 된 유일한 이유는 우리가 너무 많은 것을 자동화했기 때문에 우리 중 아주 적은 부분만이 생존을 위해 필요한 일에 종사사합니다."