AI 6건 · 일반 2건
PyTorch 2.12.0은 CUDA의 `linalg.eigh` 연산을 최대 100배 가속하는 cuSolver 업데이트를 포함한다. 새로운 `torch.accelerator.Graph` API는 CUDA, XPU 등 다양한 백엔드에서 그래프 캡처 및 재생 기능을 통합한다. 또한 `torch.export.save`는 Microscaling (MX) 양자화 형식을 지원하여 모델 압축을 극대화하고, Adagrad 옵티마이저에 `fused=True` 옵션이 추가되어 성능을 향상시킨다.
메디케어의 새로운 지불 모델은 AI 기반 의료 서비스를 위한 것으로, 기존의 시간 기반 지불 모델과는 다르다. 이 모델은 건강 결과를 기반으로 지불을 하는 것으로, 의료 서비스 제공자가 환자의 건강 결과를 개선할 수록 더 많은 지불을 받을 수 있다. 이 모델은 AI 기반 의료 서비스를 제공하는 기업들에게 새로운 기회를 제공할 것으로 기대된다. 메디케어의 이 새로운 지불 모델은 의료 서비스 제공자들이 환자의 건강 결과를 개선하는 데 더 많은 관심을 가지게 될 것으로 기대된다.
Datasette 프로젝트가 공식 블로그를 개설하였습니다. 이 블로그는 Datasette 관련 소식과 업데이트를 공유하는 공간이다. OpenAI Codex desktop을 사용하여 만들었습니다. 이 블로그는 Datasette 사용자와 개발자를 위한 정보를 제공할 것이다. Datasette는 데이터를 쉽게 관리하고 분석할 수 있는 도구이다. 이 블로그를 통해 Datasette의 최신 정보를 확인할 수 있다.
LanceDB의 새로운 버전 v0.32.0이 출시됐다. 이 버전에서는 Breaking Changes, New Features, Bug Fixes 등이 포함되어 있다. 새로 추가된 기능으로는 Enum 타입 지원, 사용자 식별을 위한 ClientConfig에 user_id 필드 추가, 자식 네임스페이스 작업 지원 등이 있다. 또한 다양한 버그를 수정하여 안정성을 높였습니다. LanceDB는 데이터베이스를 위한 강력한 도구로, 개발자들이 데이터를 효율적으로 관리하고 처리할 수 있도록 도와준다. LanceDB의 새로운 버전은 개발자들이 더 쉽게 데이터를 다룰 수 있도록 해주며, 다양한 기능과 안정성을 제공한다. LanceDB는 데이터베이스 관리를 위한 강력한 도구로, 개발자들이 데이터를 효율적으로 관리하고 처리할 수 있도록 도와준다.
Nvidia가 AnyFlow 프레임워크를 공개했다. 이는 플로우 맵 기반의 첫 번째 애니-스텝 비디오 확산 모델이다. AnyFlow는 고정된 스텝 수에 얽매이지 않고 임의의 추론 예산에 적응하는 유연성을 제공한다. 텍스트-투-비디오, 이미지-투-비디오, 비디오-투-비디오 생성을 모두 지원하며 1.3B부터 14B 파라미터까지 확장 가능하다.
Armorer Guard Learning Loop은 로컬 AI 에이전트 보안을 강화하는 새로운 기능이다. 이 기능은 실시간으로 피드백을 제공하여 보안을 강화한다. 또한, 모델 드리프트 없이 로컬 보안을 강화할 수 있다. Armorer Guard는 Rust-native 피드백 레이어로, 하이브리드 라이브 러닝을 지원한다. 이는 피드백이 로컬 보안을 즉시 강화하고, 글로벌 모델 개선은 검토와 버저닝이 포함된 재학습을 통해 진행된다. Armorer Guard는 로컬-퍼스트 Rust 스캐너로, 프롬프트, 콘텐츠, 모델 출력, 툴 호출 인수, 로그, 메모리 작성, 아웃바운드 메시지 등을 검사한다.
AI 에이전트는 일반적인 소프트웨어와 다르다. 그들은 추론하고, 도구를 호출하고, 의사 결정을 내린다. 따라서 전통적인 모니터링 방법으로는 이러한 에이전트의 동작을 완전히 모니터링할 수 없다. CloudWatch, Arize Phoenix, OpenTelemetry, LLM-as-Judge를 사용하여 3계층 관측 가능성 스택을 구축하여 이러한 문제를 해결할 수 있다. 이 스택은 인프라, 트레이스, 품질 모니터링을 제공한다. AI 에이전트를 모니터링하는 것은 중요하다. 전통적인 모니터링 방법으로는 부족하다. 이러한 문제를 해결하기 위해 3계층 관측 가능성 스택을 구축해야 한다. 이 스택은 AI 에이전트의 동작을 더 잘 이해할 수 있도록 해준다. 또한 에이전트의 동작을 개선할 수 있는 기회를 제공한다.
Wasp는 풀스택 웹 프레임워크를 구축하고 있었는데, 새로운 프로그래밍 언어를 개발하여 웹 앱 패턴을 추상화하고 모든 스택에서 작동하도록 하려고 했다. 하지만 5년이 지난 후, 새로운 언어를 개발하는 것은 실수였다는 것을 깨달았다. 새로운 언어는 특정 문제와 도메인에 적합할 수 있지만, 이 경우에는 적합하지 않았고, 더 많은 문제를 일으켰다. Wasp는 이제 TypeScript로 대체하여 개발을 진행하고 있다.