Live · 밤 10:00 슬롯
2026년 4월 30일 목,
frontline 정리.
AI 3건 · 일반 2건
전체 슬롯발행 5월 1일 PM 11:12
AI · Models
19일 전
Cohere Command R+ v2 공개
Cohere가 Command R+ v2를 공개했다. RAG 특화 모델로 검색→재정렬→생성 파이프라인 전체를 한 모델 안에서 처리한다. 가격이 R+ v1 대비 35% 인하, 평가에서 GPT-5.4와 검색 지연 추론 단계만 비교하면 거의 동급이다.
왜 지금RAG 특화 모델이 비용 우위로 다시 매력적.
써먹기내 RAG 파이프라인 1개 라우터에 R+ v2 추가, A/B.
AI · Models
19일 전
긴 컨텍스트 평가법, 새 표준
arxiv cs.CL 신착이 NIAH 류 needle-in-haystack 평가의 한계를 정리하고 후속 표준을 제안한다. 'multi-needle reasoning' 메트릭 도입, 1M 컨텍스트에서 모델 간 차이를 더 명확히 본다. 평가 코드 공개됨.
왜 지금1M 컨텍스트 모델 비교 시 NIAH만으론 부족했음.
써먹기내 도메인 데이터 1만 토큰 분량으로 multi-needle 평가 시도.
AI · Models
19일 전
Interconnects — DPO vs PPO 정리
Nathan Lambert의 새 글이 DPO와 PPO 비교 논쟁을 정리했다. 결론은 '데이터 품질이 알고리즘 선택보다 5배 중요', 다만 high-stakes safety tuning에는 PPO가 여전히 안전 마진 우위. 표 한 장 요약이 매우 깔끔하다.
왜 지금alignment 알고리즘 선택할 때 가장 정직한 정리.
써먹기DPO 시도해보기 전에 데이터 품질 점검 체크리스트부터.
Dev · Tools
19일 전
llama.cpp v0.5, GGUF v3
ggerganov/llama.cpp가 v0.5로 점프했다. GGUF v3 포맷이 도입되며 KV-cache 양자화 옵션이 정식 노출됐다. M3/M4 Max에서 70B 모델 추론 속도가 22% 향상됐다는 벤치도 함께 발표됐다.
왜 지금로컬 추론 속도/메모리 트레이드오프가 의미있게 개선.
써먹기기존 GGUF 모델 v3로 변환, llama-bench로 비교.
Dev · Tools