AI 3건 · 일반 0건
OpenAI가 ChatGPT 플러그인 확장 기능을 공개했다. 이를 통해 상호작용 패널, 파일 뷰어, 사이드바 홈 등 다양한 UI 요소를 개발할 수 있다. MCP Events 사양 지원으로 외부 앱 이벤트를 ChatGPT 자동화 트리거로 활용한다. 플러그인 제출 시 피드백 명확성도 개선된다.
Anthropic Frontier Red Team 보고서에 따르면, 최신 LLM이 풀 컨트롤 플로우 하이재킹 능력을 보인다. GLM-5.3은 4%, Claude Mythos Preview는 6% 확률로 이에 성공했다. 이전 모델들은 이러한 능력을 전혀 보이지 않았다. 이는 AI의 발전이 사이버 보안 영역에 새로운 위협을 제기함을 의미한다.
LLM 에이전트가 여러 소스에서 정보를 취합하면서 사실은 맞지만 출처가 잘못된 '교차 소스 혼동' 문제가 발생한다. 기존 사실성 검증 방식은 모든 증거를 통합하여 출처 오류를 잡아내지 못한다. 새로운 연구 ProvenanceGuard는 주장된 사실이 특정 출처에 의해 제대로 뒷받침되는지 확인하여 이 문제를 해결한다.