AI 3건 · 일반 2건
vLLM v0.25.1은 2개의 버그 수정을 포함하는 패치 릴리즈이다. TorchCodec 관련 버그를 수정하여 모델을 시작할 때 시스템에 FFmpeg이 없어도 오류가 발생하지 않습니다. 또한, RMSNorm과 allreduce의에서 데이터 타입이 다른 경우를 처리하여 그래프가 손상되는 문제를 해결했다. 이 업데이트는 vLLM의 안정성과 성능을 향상시킵니다. vLLM은 AI 개발자들에게 유용한 도구이다. 버그를 수정하여 안정성을 높이다. vLLM은 모델을 시작할 때 FFmpeg이 없어도 오류가 발생하지 않도록 수정됐다.
Muse Spark 1.1이 HealthBench Professional 벤치마크에서 SOTA(State-Of-The-Art)를 달성했다. 이는 현재 사용 가능한 최고의 헬스케어 모델임을 의미한다. Alex Wang은 이 모델이 현재 시장에서 가장 뛰어난 성능을 보인다고 평가한다. 헬스케어 분야의 AI 모델 성능 향상 추세를 보여주는 지표다.
OpenAI의 광고 사업은 5년 예측치를 90% 미달할 것으로 보인다. Emarketer의 데이터에 따르면, ChatGPT, Microsoft Copilot, Google AI Mode 등 단독 채팅봇은 올해 1억 달러 미만의 광고 수익을 창출할 것으로 예상되며, 2030년에는 5.41억 달러에 그칠 것으로 보인다. OpenAI는 2월에 광고 시도를 시작했으며, 2개월 만에 같은 예측치를 발표했다. 이 예측은 OpenAI가 전통적인 검색 광고 판매자로부터 광고 예산을 대거 차지하고, 완전히 성장한 채팅봇 광고 시장에서 우세를 점하며, 모든 광고 형식에서 가장 높은 성과를 내는 것을 가정한다. OpenAI의 광고 사업은 아직 초기 단계에 있으며, 향후 성장 가능성은 높지만, 현재의 예측치를 달성하기 위해서는 많은 노력이 필요하다. OpenAI의 광고 사업은 기술과 마케팅의 결합으로 새로운 기회를 창출할 수 있다. OpenAI의 광고 사업은 다양한 산업에 영향을 미칠 수 있다.
git-absorb는 Facebook의 hg absorb를 Git으로 이식한 도구다. 개발 중인 변경 사항을 자동으로 파악해 기존 커밋에 흡수시킨다. 리뷰 피드백 적용이나 사소한 수정사항을 기존 커밋에 반영할 때 수동으로 커밋 해시를 찾거나 rebase할 필요가 없다. 변경된 코드 라인을 기반으로 관련 커밋을 찾아 자동으로 fixup 커밋을 생성하거나, --and-rebase 옵션으로 즉시 병합해준다.
Spectral Compute가 NVIDIA 하드웨어 없이 CUDA를 실행하는 솔루션을 개발한다. 이는 CUDA 생태계의 접근성을 높이고, AI 및 HPC 워크로드에 대한 하드웨어 제약을 완화한다. LLM 연구 및 개발에서 GPU 의존도를 낮추는 데 기여할 것으로 기대한다. 범용 하드웨어에서의 CUDA 실행은 AI 개발 비용 절감과 혁신 가속화를 이끈다.