Falcon-Emirati-7B 릴리스: 에미리트 방언에 특화된 아랍어 LLM

요약 (TL;DR)

Falcon-Emirati-7B는 에미리트 아랍어를 이해하고 생성하도록 미세 조정된 7B 파라미터 아랍어 언어 모델로, Alyah 방언 벤치마크에서 84.83%의 정확도를 기록하며 정확성과 방언 충실도 면에서 더 큰 다국어 모델들을 능가합니다.

모델 개요

Falcon-Emirati-7B는 각 블록에 상태 공간 모델(Mamba)과 Transformer 어텐션을 결합한 Falcon‑H1‑Arabic 7B 체크포인트를 기반으로 합니다. 이 하이브리드 아키텍처는 긴 시퀀스에 대해 선형 시간 효율성을 제공하는 동시에 어텐션 기반의 정밀도를 유지하며, 이는 형태론적으로 풍부한 아랍어에 매우 중요한 특성입니다. 기본 모델 제품군은 3B, 7B, 34B 파라미터에 걸쳐 있으며 최대 256K 토큰의 컨텍스트 윈도우를 지원하고 현대 표준 아랍어(MSA), 걸프 방언 및 다국어 데이터 혼합으로 학습되었습니다.

방언 적응이 어려운 이유

  • 희소한 기록 데이터 – 에미리트 아랍어는 주로 구어체이므로 MSA에 비해 온라인 텍스트가 부족합니다.
  • 비문자적 의미 – 관용구, 속담, 나바티 시는 직역으로는 파악할 수 없는 문화적 맥락에 의존합니다.
  • 확립된 레시피 부재 – 방언 데이터와 MSA 데이터의 최적 비율 및 최상의 학습 단계(지속적 사전 학습, SFT 또는 선호도 최적화)가 알려져 있지 않아 광범위한 시행착오가 필요합니다.

데이터 파이프라인

  1. 정통 에미리트 방언 웹 데이터 – 일상적인 표현과 MSA와의 코드 스위칭을 포착하는, 원어민이 작성한 방언을 포함한 에미리트 포럼 및 웹사이트의 큐레이팅된 크롤링 데이터.
  2. 에미리트 문화에 관한 MSA 자료 – 방언 형태를 직접 가르치지 않으면서 배경 지식을 제공하는 유산, 관습 및 사회 규범에 관한 기사.
  3. 용어집 기반의 합성 데이터 – 크롤링 데이터에서 다루지 않는 주제 전반에 걸쳐 진정성을 보장하기 위해 에미리트 특화 어휘와 스타일 규칙으로 제약된 대규모 생성 텍스트.

학습 전략

일련의 절제 연구(Ablation)를 통해 다음을 탐구했습니다:

  • 방언 데이터와 합성 데이터의 비율.
  • 방언 데이터 주입 시점(초기 지속적 사전 학습 vs 후기 지시어 튜닝).
  • 합성 패턴에 대한 과적합을 피하면서 근거를 유지하기 위한 문화적 MSA 콘텐츠의 균형. 원어민 검토와 자동 지표를 통해 최종 레시피를 선정했습니다.

평가 방법론

원어민 수동 검토

에미리트 원어민들이 자연스러움, 어조, 문화적 적절성에 대해 출력을 평가하여 자동 점수가 놓치는 미묘한 차이를 포착했습니다.

자동 벤치마크 – Alyah

Alyah(الياه, “북극성”)는 저자들과 커뮤니티가 에미리트 방언 능력을 테스트하기 위해 만든 1,173개의 샘플로 구성된 객관식 벤치마크입니다. 인사말, 관용구, 시, 유산 지식 및 언어별 카테고리를 다룹니다.

결과

  • Alyah 정확도: 84.83% – 여러 대형 모델을 포함한 비교된 모든 아랍어 및 다국어 모델 중 가장 높음.
  • 방언 충실도 (LLM-as-judge): 0.52의 부분 점수 기록, 차순위 모델(0.05)보다 두 자릿수 높은 수치.
  • 자유 형식 생성: Falcon-Emirati-7B는 정확성 면에서 앞서며 경쟁 모델들이 MSA로 기본 설정되는 것과 달리 일관되게 에미리트 아랍어로 답변함.
  • 문화적 이해 (ArabCulture‑Dialogue UAE 하위 집합): 85.57% 정확도, ALLaM‑7B(83.39%) 및 기타 기준 모델을 능가함.

상세 비교

  • 객관식 vs 기타 모델 – 크기만으로는 방언 능력을 보장할 수 없으며, 타겟팅된 방언 학습이 필수적임.
  • LLM-as-judge 생성 – Falcon-Emirati-7B는 프롬프트 입력 시 안정적으로 에미리트어로 전환하는 유일한 모델이며, 시 및 문화 카테고리에서 0.69–0.88의 승률을 기록함.
  • 카테고리 수준 분석 – 모델은 모든 Alyah 카테고리에서 탁월하며, 유일하게 근소한 경쟁은 에미리트어와 MSA가 겹치는 인사말 부문에서 나타남.

시사점

결과는 방언 특화 미세 조정이 단순히 규모를 키우는 것보다, 특히 풍부한 구전 전통과 문화적 뉘앙스를 가진 언어에 대해 상당한 이득을 줄 수 있음을 보여줍니다. Falcon-Emirati-7B는 고객 지원, 문화 콘텐츠 생성, 현지화된 AI 비서 등 진정한 에미리트어 상호작용이 필요한 애플리케이션을 위한 실용적인 도구를 제공하며, 각 방언에 대한 전용 데이터 파이프라인과 평가 벤치마크의 필요성을 강조합니다.

책임 있는 AI 및 한계

이 모델은 학습 데이터로부터 편향을 물려받을 수 있으며 드문 표현이나 매우 지역적인 참조에 대해 오류를 범할 수 있습니다. 방언의 뉘앙스는 때때로 주관적이어서 원어민들 사이에서도 "정답"에 대한 의견이 다를 수 있습니다. 사용자는 특정 사용 사례에 대해 모델을 평가하고 모델과 Alyah 벤치마크를 개선하기 위한 피드백을 제공해야 합니다.

Falcon‑Emirati‑7B 사용 방법

모델은 Falcon 챗 플랫폼을 통해 액세스할 수 있습니다: https://chat.falconllm.tii.ae/?model=Falcon-Emirati-7B.

인용

@misc{falcon_emirati_7b_2026,
  title = {Falcon-Emirati-7B: A Dialect-Specialized Arabic LLM for the Emirati Dialect},
  author = {Shaikha Alsuwaidi, Omar Alkaabi, Maitha Alhammadi, Hamza Alobeidli, Ahmed Alzubaidi, Mohammed Alyafeai, Leen AlQadi, Basma Boussaha, Hakim Hacid},
  organization = {Technology Innovation Institute},
  year = {2026}
}

Sources