Apple Foundation Models 프레임워크: 온디바이스 및 서버 LLM을 위한 하나의 Swift API
Apple의 Foundation Models 프레임워크는 대규모 언어 모델을 앱에 통합하기 위한 네이티브 Swift API이며, 그 정의적 특징은 통합입니다: 동일한 API가 Apple의 온디바이스 foundation model, Private Cloud Compute에서 실행되는 Apple Foundation Models, 그리고 Claude 및 Gemini와 같은 타사 서버 모델에 모두 도달합니다. iOS 및 macOS 개발자에게 이는 guided generation, tool calling, 이미지 이해, 동적 세션 구성이 공급업체별 통합이 아닌 프레임워크 기능임을 의미합니다.
Foundation Models 프레임워크란 무엇인가
Foundation Models 프레임워크는 모든 대규모 언어 모델을 앱에 통합하기 위한 네이티브 Swift API로, 온디바이스 및 Private Cloud Compute에서 Apple Foundation Models에 대한 직접 액세스를 포함합니다. Apple은 이를 "앱에서 모든 대규모 언어 모델을 사용하는 가장 좋은 방법"으로 설명하며, 빠른 요약부터 동적 에이전트까지 다양한 작업에 적합하다고 소개합니다.
프레임워크에 내장된 기능은 다음과 같습니다:
- Guided generation
- Tool calling
- 이미지 이해
- 동적 프로필
모델 지원: 온디바이스, Private Cloud Compute 및 타사 서버
프레임워크는 개발자에게 Apple Intelligence의 핵심인 온디바이스 foundation model에 대한 직접 액세스를 제공하며, Apple은 이를 인터넷 연결 없이도 스마트하고, 프라이빗하며, 기능적으로 사용할 수 있다고 설명합니다. 온디바이스 모델은 많은 작업을 처리하지만, Apple은 더 복잡한 워크플로우를 위해 더 큰 모델이 필요한 경우가 있다는 점을 인정합니다.
이러한 격차는 동일한 Swift API를 통해 Claude, Gemini 및 기타 서버 모델로 프레임워크를 확장하여 해결되며, tool calling 및 guided generation을 완벽하게 지원합니다. 확장 메커니즘은 프로토콜입니다: 모든 모델 제공업체는 Language Model 프로토콜을 준수하는 Swift 패키지를 게시할 수 있으며, Apple은 이를 개발자가 자신의 앱에 적합한 언어 모델을 선택할 수 있게 해주는 프레임워크의 기본 구성 요소로 설명합니다.
Private Cloud Compute 및 소규모 개발자를 위한 무료 액세스
Apple Foundation Models는 PCC(Private Cloud Compute)에서도 실행될 수 있습니다. App Store 소규모 사업자 프로그램에 등록하고 첫 해 App Store 다운로드가 200만 건 미만인 개발자는 클라우드 API 비용 없이 Private Cloud Compute에서 실행되는 Apple Foundation Models에 액세스할 수 있습니다. Apple은 이 기능이 사용자 데이터를 저장하지 않거나 Apple 또는 다른 누구에게도 접근할 수 없는 개인정보 보호 조치와 함께 최첨단 수준의 지능을 제공한다고 밝힙니다.
이미지 이해
멀티모달 프롬프트를 통해 앱은 텍스트와 함께 이미지를 전달하여 모델이 시각적 콘텐츠에 대해 추론할 수 있습니다. Apple은 이미지를 프롬프트에 첨부하는 것만큼 간단한 통합이라고 설명합니다. Vision 프레임워크도 직접 통합되어 정확한 텍스트 추출을 위한 OCR 및 빠른 코드 스캔을 위한 바코드 리더와 같은 목적에 맞는 도구를 모델에 제공하며, 모두 온디바이스에서 실행됩니다.
동적 프로필: 세션 중 모델 교체
동적 프로필은 세션의 모델, 도구 및 지침을 실시간으로 지속적으로 업데이트하기 위한 선언적 API입니다. 고정된 구성으로 세션을 생성하는 대신 개발자는 각각 고유한 모델, 온도, 추론 수준 및 도구 세트를 가진 프로필을 정의하고 단일 연속 세션 내에서 프로필 간에 전환합니다. 세션 기록은 모든 프로필 전환에 걸쳐 공유되므로 앱은 더 적은 프롬프트로 상황별 지능을 축적합니다. Apple은 동적 프로필을 AI 에이전트, 스킬 또는 기타 고급 추상화를 위한 적응형 구성 요소로 설명합니다.
평가 프레임워크
평가 프레임워크는 프롬프트를 테스트하고 지능 기반 기능이 동적 조건에서 올바르게 작동하는지 검증하여 단위 테스트만으로는 잡을 수 없는 부분을 보완합니다. Apple은 이를 지침 반복, 모델 전환 또는 동적 프로필 튜닝에 적합하다고 소개하며, 개발자가 출시 전에 동작이 유지되는지 확인할 수 있도록 합니다.
fm 명령줄 도구
macOS 27의 새로운 fm 명령줄 도구를 통해 개발자는 앱 코드를 작성하지 않고도 모델 워크플로우를 스크립팅하고, 자동화하고, 프로토타입을 만들 수 있습니다. Apple은 이를 아이디어에서 구현까지의 빠른 경로로 설명합니다.
오픈 소스 패키지
Apple은 프레임워크와 함께 두 가지 오픈 소스 노력을 제공합니다:
- Foundation Models 프레임워크 유틸리티 패키지는 프레임워크 위에 실험적 추상화를 추가하며, 사용자 지정 스킬, 컨텍스트 관리 도우미 및 선택한 호스팅 모델에 연결되는 Chat Completions 클라이언트를 포함합니다.
- Python용 Foundation Models SDK는 프레임워크를 Python 생태계로 확장하여 널리 사용되는 Python 도구 및 평가 패키지와의 통합을 지원합니다.
요구 사항 및 규제 참고 사항
Apple은 Foundation Models 프레임워크에 대한 허용 가능한 사용 요구 사항을 게시하여 Apple Foundation Models의 금지된 사용을 설명합니다. 또한, AI Act 제53조(1)(b)에 따라 Apple은 AFM 3 Cloud를 자체 AI 시스템에 통합하려는 AI 시스템 제공업체에게 정보와 문서를 제공합니다.
개발자들이 논의한 내용
프레임워크에 대한 Hacker News 스레드는 작았으며(22개 댓글) 실용적인 경험과 열린 질문이 혼합되어 있었습니다. 여러 댓글 작성자는 충분히 다루어지지 않았다고 느끼는 인접한 Apple 작업을 지적했습니다.
한 댓글 작성자는 Apple의 CoreAI 저장소를 강조하며 회사가 오픈 가중치 모델을 Swift에서 네이티브로 실행되도록 적응시키고 있다고 말했습니다:
저는 실제로 그들의 CoreAI 작업이 레이더 아래에 있다고 생각합니다. 하지만 그들은 https://github.com/apple/coreai-models에 저장소를 두고 있으며, 수많은 오픈 가중치 모델을 그들의 형식으로 적응시켜 Swift에서 네이티브로 실행하고 있습니다.
스레드에서 가장 실질적인 질문은 Private Cloud Compute 제공이 무료 추론에 해당하는지 여부였습니다. Apple의 자격 조건을 인용하며 한 댓글 작성자는 물었습니다:
이건 무료 토큰인가요? 무료 토큰처럼 들리는데요?
Apple의 연결된 PCC 페이지에는 Apple Intelligence를 사용할 수 있는 곳에서 자격을 갖춘 개발자가 App Store에 배포된 앱에서 PCC를 사용하고 TestFlight 또는 임시 배포를 통해 PCC 기능을 테스트할 수 있으며, 테스트 중 설치 횟수는 첫 번째 앱 다운로드로 계산되지 않는다고 명시되어 있습니다.
실용적인 측면에서 한 개발자는 터미널에서 로컬 모델을 실행하여 오류를 수정하고 명령을 제안했다고 보고하며 모델이 "m1 8gb에서 놀라울 정도로 유능했다"고 말했습니다. 이는 로컬 AI가 실행되어야 하는 가장 작은 머신이라고 그들은 언급했습니다. 또 다른 개발자는 Noodle이라는 앱에서 Foundation Models를 사용해 왔으며 작업에 만족하지만 아직 Private Cloud Compute를 탐색하지 않았으며 특별 자격이 현재 Siri 데스크톱 앱으로 제한될 수 있다고 추측했습니다.
한 댓글 작성자는 Anthropic이 ClaudeForFoundationModels 저장소를 통해 몇 달 동안 Foundation Models에 대한 App Attest를 지원해 왔다고 언급하며 Anthropic이 이를 더 홍보하지 않는 것에 놀라움을 표시했고, Firebase가 복잡한 설정 없이 iOS 앱에서 직접 LLM을 호출하는 가장 실용적인 방법이었다고 덧붙였습니다.
스레드에서 남은 열린 질문
토론에서 나온 세 가지 질문은 원본 자료에서 답이 없는 상태로 남아 있습니다:
- Private Cloud Compute 허용량이 자격을 갖춘 소규모 개발자에게 사실상 무료 토큰 사용인지 여부.
- Claude 또는 ChatGPT의 비 API 소비자 요금제를 이 프레임워크를 통해 사용할 수 있는지 여부.
- 온디바이스 모델이 Zed와 같은 편집기에서 코딩 예측기로 사용할 수 있을 만큼 충분히 유능한지 여부.
한 댓글 작성자는 또한 페이지가 그 순간 Hacker News에 표시된 이유를 묻고 업데이트가 있었는지 질문했습니다. 이는 프레임워크의 기능이 단일 출시가 아닌 점진적으로 출시되고 있음을 상기시켜 줍니다.
SUMMARY: Apple의 Foundation Models 프레임워크는 앱에 Apple의 온디바이스 foundation model 및 Private Cloud Compute에 대한 직접 액세스를 제공하는 네이티브 Swift API이며, 이제 동일한 Language Model 프로토콜을 통해 Claude 및 Gemini와 같은 서버 모델로 확장됩니다.
TITLE: Apple Foundation Models 프레임워크: 온디바이스 및 서버 LLM을 위한 하나의 Swift API