AI 6건 · 일반 0건
OpenAI의 Codex가 서브 에이전트에 보내는 프롬프트를 암호화한다. 이 조치는 모델 증류(distillation)를 방지하려는 목적으로 파악된다. LLM의 지식 재사용 및 학습 데이터 보호에 중점을 두며, 에이전트 기반 개발 환경에서 보안을 강화하는 중요한 변화이다. 이는 프롬프트 보안의 중요성을 강조한다.
OpenAI가 ChatGPT Images 2.5를 공개했다. 이 모델은 다중 턴 지시 이해력과 응답 속도가 개선되었고, 참조 이미지의 피사체 보존 능력을 강화한다. API에서는 정밀 편집에 특화된 gpt-image-2.5-sunburst와 빠른 고품질 생성을 위한 gpt-image-2.5-flare를 제공한다.
기존 LLM 안전 모델은 특정 토픽 전체를 유해하다고 판단하여 안전한 프롬프트까지 차단하는 한계가 있었다. Hugging Face 블로그의 새 논문은 이러한 문제를 지적하며, 특정 배포 정책에 맞는 유해한 하위 토픽만 선별적으로 거부하는 접근법을 제시한다. 이는 일반 보조원, 교육 도구 등 다양한 서비스 환경에 맞춰 LLM의 안전 경계를 미세 조정할 수 있게 한다. 해당 연구는 LLM의 안전성을 더욱 세밀하게 제어하고 실제 적용성을 높이는 데 기여한다.
DeepMind가 인간 유전체의 모든 단일 염기 변이 영향을 예측하는 AlphaGenome Atlas를 공개한다. 이 플랫폼은 약 90억 개의 단일 염기 변이 예측 데이터를 포함하며, 유전적 변이가 분자 생물학에 미치는 영향을 가장 포괄적으로 보여준다. 기존에는 모든 변이를 실험실에서 검증하기 어려웠으나, AlphaGenome Atlas는 AI 모델 AlphaGenome의 예측을 대규모로 미리 계산하여 이 한계를 해결한다. 이를 통해 과학자들은 유전체 전반에 걸쳐 DNA 변이의 분자적 영향을 탐색할 수 있게 된다.
2개의 RTX 4090 GPU로 얼마나 많은 AI 에이전트를 동시에 실행할 수 있는지 3주간 실험한 결과가 나왔다. Qwen 모델과 llama.cpp를 사용해 64k 컨텍스트에서 최대 5개 에이전트(소프트 캡), 9개까지(하드 캡) 안정적으로 운영 가능함을 확인했다. 토큰 비용 절감과 보안을 위해 로컬 LLM 스택을 구축하려는 비영리 단체 CTO의 실험이다. 이는 컨텍스트 길이, 모델 퀀트화(quantization) 수준, 에이전트 개수 간의 실질적인 상호작용을 보여준다.
NYU 수학 교수 Tristan Buckmaster가 이론 수학의 주요 미해결 문제에 대한 예비 증명을 발표했다. Anthropic의 Levent Alpöge와 협력하고 Codex와 Claude AI 모델을 모두 사용한 이 증명은 그 자체로 중요하지만, OpenAI의 유사한 노력과 관련된 논란도 동반한다. Buckmaster는 OpenAI가 자신의 연구가 공개되기 전에 정보를 입수해 접근했다고 주장하며, 이로 인해 학문적 경쟁과 주장 충돌이 발생했다. OpenAI는 차세대 모델이 나비에-스토크스 존재 및 매끄러움 문제를 완전히 증명했다고 발표했지만, 정보 유출 의혹은 논란을 증폭시킨다.