Mistral AI 환경 영향 연구 및 제안된 글로벌 표준
Mistral AI는 자사의 대규모 언어 모델(LLM)의 환경 발자국을 정량화하기 위한 종합적인 전과정 평가(LCA)를 발표하여, 업계 전반의 투명성을 위한 데이터 기반 프레임워크를 구축했습니다. 이 연구는 개발자, 정책 입안자 및 기업이 모델을 비교하고 정보에 입각한 지속 가능한 구매 결정을 내릴 수 있도록 표준화되고 국제적으로 인정받는 보고 프레임워크의 채택을 옹호합니다.
Mistral Large 2의 전과정 분석
Mistral AI는 Carbone 4, 프랑스 생태 전환국(ADEME), 그리고 동료 검토자인 Resilio 및 Hubblo와 협력하여 AI 모델에 대한 최초의 종합적인 LCA를 수행했습니다. 이 분석은 AFNOR에서 개발한 Frugal AI 방법론을 따르며 ISO 14040/44 및 GHG Protocol Product Standards를 준수합니다.
학습 영향
2025년 1월 기준, 18개월간의 사용 후 Mistral Large 2의 학습은 다음과 같은 환경적 영향을 생성했습니다:
- 온실가스 배출량: 20.4 ktCO2e
- 물 소비량: 281,000 m³
- 자원 고갈: 660 kg Sb eq (안티모니 등가량)
추론 영향
AI 어시스턴트 Le Chat을 통한 단일 400-토큰 응답(사용자의 터미널 제외)의 한계 영향은 다음과 같습니다:
- 온실가스 배출량: 1.14 gCO2e
- 물 소비량: 45 mL
- 자원 고갈: 0.16 mg Sb eq
이 지표들은 운영 중의 전력 소비에만 집중하는 것이 아니라, 서버 및 하드웨어 제조를 포함하는 "업스트림 배출량"을 포함합니다.
환경적 책임감을 위한 핵심 지표
Mistral AI는 LLM의 환경적 영향을 관리하는 데 필요한 세 가지 핵심 지표를 식별했습니다:
- 학습의 절대적 영향: 모델 생성 중에 발생하는 총 발자국.
- 추론의 한계 영향: 단일 상호작용 또는 토큰 생성당 비용.
- 전체 추론 대비 전체 전과정 영향의 비율: 학습 단계가 효과적으로 분할 상환되고 낭비되지 않도록 보장하기 위한 내부 지표.
모델 크기와 발자국 사이의 상관관계
연구 결과 모델 크기와 환경적 영향 사이에 강한 상관관계가 있음이 밝혀졌습니다. 벤치마크에 따르면 영향은 크기에 대략적으로 비례합니다. 예를 들어, 10배 더 큰 모델은 동일한 양의 생성된 토큰에 대해 더 작은 모델보다 한 자릿수 더 큰 영향을 생성합니다. 이 결과는 특정 사용 사례에 가장 효율적인 모델 크기를 선택해야 할 필요성을 강조합니다.
글로벌 표준을 향 위한 제안된 경로
AI 분야를 글로벌 기후 목표와 일치시키기 위해, Mistral AI는 환경적 영향을 줄이기 위한 두 가지 주요 레버를 제안합니다:
표준화된 보고
AI 기업들은 점수 시스템 구축을 가능하게 하기 위해 표준화된 프레임워크를 사용하여 환경적 영향을 발표해야 합니다. 이를 통해 사용자와 구매자가 탄소, 물, 재료 집약도가 가장 낮은 모델을 식별할 수 있습니다.
효율성 및 충분성 관행행
Mistral AI는 AI 사용을 최적화하기 위한 몇 가지 관행을 권장합니다:
- AI 리터러시: 사용자가 생성형 AI를 최적으로 사용하도록 교육.
- 모델 선택: 특정 요구 사항에 가장 잘 적합한 모델 크기를 선택.
- 쿼리 최적화: 불필요한 컴퓨팅을 제한하기 위해 쿼리를 그룹화.
공공 기관의 경우, Mistral AI는 시장이 지속 가능한 개발로 향하도록 유도하기 위해 조달 기준에 모델 크기와 효율성을 통합할 것을 제안합니다.
연구의 한계 및 방법론
현재 LLM의 환경적 책임감을 위한 보편적인 표준이 존재하지 않기 때문에, 이 연구는 첫 번째 근사치입니다. 언급된 중요한 과제는 GPU에 대한 신뢰할 수 있고 공개적으로 사용 가능한 전과정 인벤토리가 없다는 점이며, 이는 내재된 영향을 근사치로 계산해야 했음을 의미합니다.
GHG Protocol Product Standard를 준수하기 위해, Mistral AI는 향후 업계 감사에서 전력 배출량에 대해 위치 기반 접근 방식을 사용하고 CPU, 냉각 장치 및 하드웨어 제조를 포함한 모든 중요한 업스트림 영향을 포함할 것을 권장합니다.
Sources
관련
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch