AI 3건 · 일반 2건
vLLM의 Humming 백엔드가 Novita Labs의 W4A16 MoE 커널을 지원한다. 이를 통해 Kimi K2.x 모델의 성능이 향상된다. H200 TP8에서 1.33배, B300 EP8 디코드에서 2.15배의 커널 성능 향상을 확인했다. 해당 커널과 벤치마크 결과가 오픈소스로 공개되어 더욱 의미가 깊다.
LiteLLM v1.103.0-dev.1 릴리스는 Docker 이미지 서명 검증 기능을 추가한다. cosign을 사용하여 이미지 무결성을 검증하며, 커밋 해시 또는 릴리스 태그 기반 검증을 지원한다. 이를 통해 사용자는 배포된 Docker 이미지가 변조되지 않았음을 확신할 수 있다. 이번 업데이트는 LiteLLM 배포의 보안 강화에 기여한다.
Astra의 주간 API 속도 제한에 지친 개발자들이 Blender 작업에 대한 대안으로 오픈 웨이트 모델을 찾고 있다. DSeek, GLM, Kimi, Qwen 등 다양한 모델이 Astra, Fable과 비교 대상이 된다. 개발자들은 어떤 모델이 성능, 비용, 접근성 면에서 최적일지 실제 사용 경험을 공유하고 있다. 이를 통해 20x 요금제 사용자도 제약 없이 작업할 수 있는 솔루션을 모색한다.
TanStack Query v5.103.0 릴리즈는 svelte-query에 새로운 기능을 추가하고 기존 버그를 수정한다. 'DefinedInitialDataInfiniteOptions' 오버로드를 추가하여 Svelte 환경에서 무한 쿼리 옵션 관리를 개선한다. 또한, query-persist-client-core의 falsy 값 복원, TypeScript 테스트 출력 격리, 부분 배열 키 길이 제한 등 다양한 버그 수정을 포함한다.
Prettier 3.9.7 버전이 릴리즈되었다. 이 업데이트는 Angular 22.2에 대한 공식 지원을 포함한다. 또한, 이전 3.9 버전에서 발생했던 회귀 버그들을 수정하여 코드 포맷팅의 안정성을 강화한다.