AI 6건 · 일반 2건
sglang v0.5.16 릴리스는 DSpark라는 새로운 컨피던스 기반 추측 디코딩 알고리즘을 선보인다. 이 알고리즘은 블록 단위로 반자율적으로 초안을 작성하고, 고정된 길이 대신 초안 자체의 컨피던스에서 각 검증 창 크기를 조정한다. 또한, 100만 토큰 컨텍스트를 지원하는 975B 파라미터 멀티모달 MoE 모델인 Inkling을 지원한다. Inkling은 슬라이딩 윈도우, 풀 Mamba2 선형 어텐션, NVFP4 MoE, 비전/오디오 타워, 네이티브 MTP를 혼합한다. 이 업데이트는 다양한 최신 모델 지원 확장과 함께 LLM 추론 속도와 처리량을 크게 향상시킨다.
GGsimm은 현재 최고의 수평적 에이전트 IDE가 압도적인 성능으로 등장했다고 평가한다. 오픈 소스라는 점은 사용자에게 직접 수정할 자유를 부여한다. 이는 개발자가 에이전트의 행동을 자신의 워크플로에 맞춰 자유롭게 커스터마이징할 수 있음을 의미한다. 따라서 개발 생산성과 에이전트 활용의 유연성을 극대화할 수 있다.
Anthropic의 새로운 모델 Claude Opus 5가 출시됐다. Opus 5는 "생각이 깊고 적극적인 모델"로 소개되며, Claude Fable 5와 비슷한 지능을 가지고 있지만 가격은 반으로 낮습니다. Opus 5는 현재 Artificial Analysis 리더보드에서 1위를 차지하고 있으며, Fable 5보다 앞서고 있다. Opus 5는 Opus 4.8과 같은 가격으로 제공되며, 빠른 모드를 기본 모델의 2배 가격으로 제공한다. Opus 5는 기하학적인 도형을 3D 모델로 재구성하는 태스크에서computer vision pipeline을 작성하여 기하학적인 정보를 추출하는 등 relentlesly proactive한 성능을 보이다.
Anthropic SDK가 업데이트되어 claude-opus-5 모델이 추가되고, 툴 추가/제거 블록과 tool_change 이벤트가 지원된다. 또한 클라이언트 측 폴백 크레딧 토큰 유형이 확장되고, 서버 측 폴백의 기본 옵션이 추가되었다. 이 업데이트는 개발자들이 더 효율적으로 작업할 수 있도록 도와준다.
클라인 v4.0.11이 출시됐다. Claude Opus 5를 Anthropic, Claude Code, Bedrock, Vertex, Cline, OpenRouter 제공자와 함께 지원하며, 1M 컨텍스트 창 버전도 포함한다. 또한 Moonshot Kimi K3 지원과 호스트 플러그인 버전을 텔레메트리 이벤트에 포함한다. 버그 수정으로 Claude Opus 1M 컨텍스트 변형의 과도한 비용 계산을 수정하며, Kimi K3 모델의 네이티브 툴 호출을 활성화하여 빈 응답을 해결한다.
Noema 팀이 개발한 시스템을 통해 아이폰 17 프로에서 Gemma 4 26B A4B 모델을 실행할 수 있다. 모델은 paging을 통해 큰 모델을 아이폰에서 실행할 수 있도록 해준다. 이 시스템은 큰 모델을 실행할 수 있는 방법을 제공한다.Gemna 4 26B A4B 모델은 Q4_K_M 버전을 사용하며, 아이폰에서 실행할 수 있다. 이 모델은 전문가가 아닌 가중치를 RAM에 저장하고, 전문가 모델을 SSD에서 읽어온다. 이 방법은 큰 모델을 아이폰에서 실행할 수 있지만, 토큰 생성 속도가 느려진다.
Vercel AI의 Harness-Deepagents 1.0.42 버전이 출시됐다. 이 버전에서는 ea3063f 패치로 broken bridge `channel.interrupt()` 레이어와 그 사용이 제거됐다. 또한 여러 종속성 업데이트가 수행됐다. 이 업데이트는 안정성과 성능을 개선한다. 개발자는 이 업데이트를 통해 Harness-Deepagents를 사용하여 더 안정적인 AI 모델을 구축할 수 있다. 이 릴리즈는 Vercel AI의 지속적인 개선 노력의 일환이다.
Turborepo의 새로운 버전인 v2.10.7-canary.1이 출시됐다. 이 버전에서는 여러 가지 버그를 수정하고, 새로운 기능을 추가하였습니다. 특히, JIT 입력을 조정하고, 프로젝트의 Yarn 패키지 확장자를 유지하는 기능이 개선됐다. 또한, 버그 리포트 템플릿을 개선하고, JavaScript 패키지 발견을 특성화하는 테스트를 추가하였습니다. 이러한 업데이트는 개발자들의 작업을 더 효율적으로 만들고, 프로젝트의 안정성을 높이다. Turborepo는 개발자들이 대규모 프로젝트를 더 쉽게 관리할 수 있도록 도와주는 도구이다. 이 도구를 사용하면, 개발자들은 프로젝트의 빌드와 배포를 자동화할 수 있고, 코드를 더 효율적으로 관리할 수 있다. 이 버전의 업데이트는 개발자들이 더 안정적이고 효율적인 개발 환경을 제공받을 수 있도록 한다. Turborepo의 이러한 업데이트는 개발자들의 생산성을 높이고, 프로젝트의 품질을 개선하는 데 도움이 된다.