AI & Frontier Tech 라운드업

로컬 AI와 엣지 컴퓨팅으로의 전환

로컬 AI는 데이터 프라이버시 요구와 클라우드 GPU 비용 절감이라는 동기로 틈새 취미에서 전문 표준으로 전환하고 있습니다. 전문가들은 2년 이내에 로컬 모델이 데스크톱에 보편화될 것이며, Mac Studio와 같은 하드웨어가 로컬에서 고지능 모델을 지원하기 위해 최대 1.5TB 메모리를 제공할 수 있을 것이라고 전망합니다 Alex Finn.

이 전환을 용이하게 하는 여러 도구와 하드웨어 옵션이 등장하고 있습니다:

• ODS는 하드웨어를 감지하고 최적의 모델을 자동으로 다운로드하여 로컬 AI 설정을 단순화합니다 Ahmad.
• NVIDIA DGX Spark는 팀이 비싼 월간 클라우드 GPU 비용을 자체 인프라로 대체할 수 있는 방안으로 자리매김하고 있습니다 rmen.
• Mini PC는 128GB와 같은 대용량 메모리를 갖추어 GPT‑OSS 120B와 같은 대형 오픈‑웨이트 모델을 로컬에서 실행할 수 있게 되었습니다 Scry.
• QVAC SDK 0.15.0은 네이티브 AMD GPU 백엔드(HIP/ROCm)를 도입했으며, Vulkan 대비 약 23% 빠른 것으로 보고되었습니다 QVAC.

최전선 모델 출시 및 벤치마크

OpenAI는 GPT‑5.6 Sol을 출시했으며, 이는 ChatGPT와 Codex의 결합으로 설명됩니다. 현재 Design Arena 리더보드에서 Elo 1353을 기록하며 Claude Fable 5를 앞서고 있습니다 Design Arena. 중요한 기술적 세부 사항은 GPT‑5.6 Sol이 다른 모델인 Luna의 사후 학습에 사용되어 AI가 차세대 AI를 구축하는 루프를 보여준다는 점입니다 s1rozha1.

다른 주목할 만한 모델 개발 내용은 다음과 같습니다:

• Gemma 4: 현재 Cerebras에서 서비스 중이며, 31B 오픈‑웨이트 모델에 대해 초당 1,500+ 토큰 속도를 달성했습니다 Google Gemma.
• GLM‑5.2: 744B 파라미터 MoE 모델로, Colibrì를 통해 디스크에서 전문가를 스트리밍함으로써 25GB RAM을 가진 일반 소비자 머신에서도 실행할 수 있습니다 0xMarioNawfal.
• Sovereign AI: 미국과 중국 외에도 새로운 최전선 모델이 등장하고 있습니다. 예를 들어 싱가포르의 Agnes 2.5 Pro와 독일의 Soofi S 30B‑A3B가 있습니다 Entelligence AI, Entelligence AI.
• HunyuanOCR‑1.5: 텐센트가 OCR 작업에 특화된 1B 파라미터 VLM을 오픈소스로 공개했습니다 Chinazhidx.

에이전트 기반 엔지니어링(ADLC)의 부상

전통적인 소프트웨어 개발(SDLC)이 Agent Development Life Cycle (ADLC) 로 대체되고 있다는 합의가 커지고 있습니다. 이 패러다임에서는 인간이 작업을 설계하고 결과를 검증하며, 에이전트가 코딩, 디버깅, PR 리뷰를 수행합니다 Shashank Kumar.

에이전트 아키텍처의 주요 진전은 다음과 같습니다:

• Atomic Task Graphs (ATG): 계획을 선형 텍스트 스트림이 아닌 DAG(Directed Acyclic Graph)로 저장함으로써 작은 모델(Llama‑3.1‑8B 등)이 복잡한 작업에서 GPT‑4를 능가할 수 있습니다 Carlos E. Perez.
• Capability LoRAs: 새로운 학습 메타는 모델의 3‑5가지 구체적 결함을 진단하고 전체 모델을 미세조정하는 대신 외과적 마이크로‑LoRA를 학습할 것을 제안합니다 Carlos E. Perez.
• Long‑Horizon Benchmarking: LHTB 벤치마크는 대부분의 최전선 모델이 수백 개의 종속 행동에 걸쳐 지속적인 진행을 유지하지 못한다는 것을 보여주며, 46개 과제 중 29개가 어떤 모델에도 해결되지 않았습니다 Yucheng Shi.

휴머노이드 로봇공학 및 구현 AI

휴머노이드 로봇공학은 몇몇 주요 기업에 국한되지 않고 전 세계 29개 조직의 32개 플랫폼으로 확대되었습니다. 현재 플랫폼 수(16개)에서 중국이 선두에 서 있습니다 TechniaHQ.

구현 AI 분야의 최근 돌파구는 다음과 같습니다:

• LingBot Video: 70k 시간 분량의 구현 영상을 학습한 30B 파라미터 MoE 모델로, 시각적 미학보다 물리적 역학 및 로봇 조작을 시뮬레이션하도록 설계되었습니다 Leonardo.
• Dexterity Milestones: Sharpa Robotics는 MoDE‑VLA 시스템을 활용해 자동 사과 껍질 제거를 시연했으며, 이는 접촉이 풍부한 조작과 촉각 센싱으로의 전환을 강조합니다 CTO ROBOTICS Media.
• Hardware Accessibility: Asimov 1은 DIY 휴머노이드 키트로 출시되며, 제작자가 하드웨어를 이해하도록 약 100시간의 조립이 필요합니다 Asimov.

기술 도구 및 학습 자료

• vLLM Integration: Hugging Face Transformers 모델을 이제 vLLM에서 네이티브 속도로 실행할 수 있어 연구와 프로덕션을 위해 아키텍처를 두 번 구현할 필요가 없습니다 ClementDelangue.
• AI Security: Fabraix는 AI 에이전트를 위한 오픈소스 CTF(Capture The Flag)를 출시했으며, 라이브 에이전트를 해킹하는 주간 보상이 제공됩니다 FabraixHQ.
• Educational Roadmaps: Applied AI Engineer가 되기 위한 포괄적인 가이드가 공유되었으며, Python 기초부터 RAG, 에이전트 워크플로, 프로덕션 가시성까지 단계적으로 설명합니다 Brij Pandey, Suraj Sharma.
• Open Source Repos: "Maths, CS & AI Compendium"는 벡터부터 GPU 프로그래밍까지 AI/ML 기초를 직관 중심으로 설명합니다 Tech with Mak.