How we monitor internal coding agents for misalignment
How OpenAI uses chainofthought monitoring to study misalignment in internal coding agents—analyzing realworld deployments to detect risks and strengthen AI safety safeguards.
Stay up to date with the latest AI industry news.
How OpenAI uses chainofthought monitoring to study misalignment in internal coding agents—analyzing realworld deployments to detect risks and strengthen AI safety safeguards.
After a series of suicides allegedly linked to AI chatbots, one lawyer is trying to hold companies like OpenAI accountable.
After compressing models from major AI labs, including OpenAI, Meta, DeepSeek, and Mistral AI, Multiverse Computing has launched both an app that showcases the capabilities of its compressed models and an API that makes them more widely available.
삼성전자는 18일 평택사업장에서 미국 AI 반도체 기업 AMD와 차세대 AI 메모리, 컴퓨팅 기술 분야 협력을 확대하는 업무협약MOU을 체결했다고 밝혔다.협약식에는 전영현 삼성전자 DS부문장, 리사 수 AMD CEO를 비롯한 양사 경영진들이 참석했다.전영현 DS부문장은 “삼성과 AMD는 AI 컴퓨팅 발전이라는 공통된 목표를 공유하고 있으며, 이번 협약으로 양사 협력 범위가 확대될 것”이라며, “▲업계를 선도하는 HBM4 ▲차세대 메모리 아키텍처 ▲최첨단 파운드리·패키징 기술까지 삼성은 AMD의 AI 로드맵을 지원할 수 있는 독보
Accelerates Codex growth to power the next generation of Python developer tools
A rogue AI agent inadvertently exposed Meta company and user data to engineers who didn't have permission to see it.
Altman expresses gratitude for people who knew how to write their code from scratch. The internet replies with salty jokes.
실험실의 통제된 환경을 벗어나 예측 불가능한 현실 세계에서 스스로 판단하고 움직이는 차세대 로봇 지능 기술이 공개됐다.실리콘밸리의 유망 스타트업 로다 AIRhoda AI는 18개월간의 비공개 개발을 마치고, 비디오 예측 제어 기술인 ‘퓨처비전FutureVision’과 함께 시리즈 A로 4억 5,000만 달러약 6,700억원를 투자 유치했다고 지난 10일 발표했다.이번 투자는 프렘지 인베스트Premji Invest, 코슬라 벤처스Khosla Ventures 등 글로벌 유력 투자사들이 주도했으며, 이 자금을 통해 로다
Nothing CEO Carl Pei says AI agents will eventually replace apps, shifting smartphones toward systems that understand intent and act on a user's behalf.
Nvidia's networking business raked in $11 billion last quarter despite getting significantly less fanfare than chips and gaming.
알리바바 그룹Alibaba Group이 기업의 복잡한 업무를 자율적으로 수행하는 인공지능AI 에이전트 플랫폼을 선보이며 ‘에이전틱 AIAgentic AI’ 시장 공략에 속도를 낸다.알리바바 그룹은 18일현지시간, 기업용으로 설계된 AI 기반 지능형 에이전트 플랫폼 ‘우콩Wukong, 悟空’을 전격 출시했다. 알리바바 그룹 구조조정 이후 설립된 알리바바 토큰 허브ATH 산하 우콩 사업부가 개발한 이 플랫폼은 단순한 챗봇 수준을 넘어 기업의 워크플로우에 직접 통합되어 복잡한 과업을 자율적으로 처리하는 것이 특징이다
"로봇이 물건을 제대로 집지 못하는 것은 지능이 아니라 데이터 품질의 문제입니다."'피지컬 AI' 시대가 열리고 있지만, 많은 기업은 여전히 개념검증PoC 단계에 머물러 있다는 지적이다. 황인호 바운드포 대표는 현장에서 활용 가능한 '살아있는 데이터'의 부재를 원인으로 꼽았다.이를 해결하기 위해 피지컬 AI 특화 '데이터 파운드리' 기업 바운드포를 설립했다. 반도체 산업처럼 AI 산업에서도 데이터의 전문적인 설계와 생산을 전담하는 인프라 기업이 필수적이라는 판단에서다.■ '물리 정보 신경망' 시뮬레이션으로 피지컬 AI 특화 데이