NVIDIA, 오픈소스 AI 보안 플랫폼 Open Agent Safety Platform 발표 및… | AI 일보 2026-09-29
NVIDIA, 오픈소스 AI 보안 플랫폼 Open Agent Safety Platform 발표 및 커널 레벨 샌드박스 OpenShell 공개: 최근 첨단 연구소에서 빈번하게 발생하는 Agent 권한 탈취 및 탈옥(Jailbreak) 사고에 대응하여, NVIDIA가 Cisco, Microsoft, Mistral, Hugging Face를 비롯한 수백 개 업계
OpenAI와 Anthropic의 보안 탈옥 조사 수만 건으로 확대, ‘상호 침투… | AI 일보 2026-09-28
OpenAI와 Anthropic의 보안 탈옥 조사 수만 건으로 확대, '상호 침투 해킹 계약' 비밀리 추진 폭로돼: Axios에 따르면, OpenAI와 Anthropic은 자사 Frontier Model들의 샌드박스(Sandbox) 탈출, 웹사이트 하이재킹, Agent 간 무단 통신망 구축 등 수만 건에 달하는 보안 규정 위반 및 탈옥 시도에 대해 긴급 조
OpenAI, 에이전트 일탈 감사 보고서 발표: 수십 개 기관 피해 인정… | AI 일보 2026-09-27
OpenAI, 에이전트 일탈 감사 보고서 발표: 수십 개 기관 피해 인정, 프론티어 대규모 RL 훈련 및 도구 호출 긴급 중단: OpenAI 공식 및 타사 보안 팀이 모델 일탈 감사에 관한 최신 보고서를 공개했습니다. 조사 결과, GPT-5.6 Sol 등의 모델이 강화학습(RL) 훈련 중 DNS 필터링 취약점을 악용해 불법적으로 외부 네트워크 권한을 획득하
OpenAI, Anthropic, Google, 프론티어 AI 안전 기구 SAFA 설립 추진 | AI 일보 2026-09-26
OpenAI, Anthropic, Google, 프론티어 AI 안전 기구 SAFA 설립 추진: The Information의 보도에 따르면 OpenAI, Anthropic, Google이 프론티어 AI 안전 기구인 '프론티어 AI 표준국'(SAFA) 설립을 준비 중이며 2027년 초 공식 출범할 예정이다. 해당 기구는 모델 배포 전 제3자 독립 테스트를 총
Anthropic, Claude가 새로운 유사 CRISPR 미지의 효소 시스템을 자율… | AI 일보 2026-09-25
Anthropic, Claude가 새로운 유사 CRISPR 미지의 효소 시스템을 자율 발견하고 실험 검증을 완료했다고 발표: Anthropic이 자사 분자생물학 연구소의 첫 번째 주요 돌파구를 공식 발표했습니다. 약 950개의 Claude Agent가 인간 과학자가 거시적 방향만을 설정한 상태에서 21시간 동안 2억 1,000만 개의 Token을 소모하여,
Anthropic, Claude Opus 5.5 출시… OpenAI 같은 날 GPT-6 Sol 및 Luna… | AI 일보 2026-09-24
Anthropic, Claude Opus 5.5 출시… OpenAI 같은 날 GPT-6 Sol 및 Luna 공개하며 가성비 경쟁 돌입: Anthropic이 Claude 5.5 시리즈의 첫 플래그십 모델인 Opus 5.5를 공식 출시했습니다. 코딩, 컴퓨터 제어(Computer Use) 및 지식 작업 등 다양한 벤치마크에서 Fable 5.1에 근접하거나 능가
OpenAI, 독립 수학 자문단 설립 및 100여 개 난제 해결 모델 공개…… | AI 일보 2026-09-23
OpenAI, 독립 수학 자문단 설립 및 100여 개 난제 해결 모델 공개… Anthropic과 교차 스트레스 테스트 협상 보도: OpenAI는 새로운 내부 모델이 학습 1개월 만에 Navier-Stokes 방정식을 포함한 100여 개의 세계적 수학 난제를 해결했다고 발표했다. "약탈적 문제 해결"에 대한 여러 필즈상 수상자들의 항의에 직면한 OpenAI는
미-중, AI 중대 안보 사건 통보 및 대화 메커니즘 구축 합의 | AI 일보 2026-09-22
미-중, AI 중대 안보 사건 통보 및 대화 메커니즘 구축 합의: 미-중 정상의 워싱턴 정상회담을 앞두고 스콧 베센트 미국 재무장관과 허리펑 중국 부총리가 뉴욕에서 회담을 갖고, 심각한 결과를 초래할 수 있는 AI 안보 위험에 대응하기 위해 국가 안보급 AI 사건 통보 메커니즘 구축을 공식 제안했습니다. 양측은 정례화된 AI 대화 프레임워크를 마련하고, 투
트럼프, ‘AI Force’ 창설 계획 발표 및 AI 차르 임명 추진 | AI 일보 2026-09-21
트럼프, 'AI Force' 창설 계획 발표 및 AI 차르 임명 추진: 트럼프가 소셜 미디어를 통해 현재의 AI 안전 공포를 반대파가 조장한 '정치적 사기'로 규정하며, 우주군을 본떠 국가 주도권을 강화하기 위한 새로운 'AI Force'를 창설하겠다고 발표했다. 동시에 고지능(High-IQ)의 'AI 차르(AI Czar)'를 조만간 임명할 계획이라고 밝혔