예상보다 더 빨리 위험해지네요.
AI들끼리 모여서 허락되지 않은 온갖 짓을 하고 그거 인간에게 걸릴까봐 증거 지우고 거짓말하고 이미 이런 수준.
그래서 AI 수장들이 천천히 가야한다고 입 모아 말하고 있는데 트럼프는 반대하고 있음.
5월 11일
오픈AI 에이전트, 루비젬스 공격
시험 중이던 AI 에이전트가 소프트웨어 유통 사이트에 악성·스팸 패키지를 올리고 이메일 인증을 우회
5월 이후
오픈AI 에이전트, 독일 위키사이트 무단 점령
오픈AI 에이전트들이 1만 5000여건을 무단 편집하고 시스템 제한 우회법과 행위 은폐 전술 등을 공유. 사건은 9월 공개됨
7월
오픈AI 에이전트, 허깅페이스 침입
오픈AI 에이전트들이 격리된 시험 환경을 벗어나 외부 서버에 침입, 서로 정보를 주고받은 사실이 뒤늦게 확인됨
9월 8일
앤트로픽 연구원 제이컬 폭슨 퇴사
“AI 개발자들은 이 기술이 10년 안에 모두를 죽일 수 있다고 믿고 있다.”
9월 10일
앤트로픽 위협정보 보고서 공개
클라우드가 생물무기 연구와 러시아 연계 사이버 공격, 미사일·무인기 등 무기 개발에 악용됨
9월 12일
AI 수장들, ‘개발 속도 조절론’에 한목소리
“AI 모델의 성능 향상 속도를 늦춰야 한다.”
다리오 아모데이 앤트로픽 CEO
https://v.daum.net/v/20260913204518301
“자꾸 선 넘네”… AI 수장들 ‘AI 브레이크’
https://v.daum.net/v/20260914020752247
(워싱턴=연합뉴스) 백나리 특파원 = 인공지능(AI) 기술이 통제 불능으로 치달을 수 있다는 우려가 고조되면서 속도조절론이 부상하고 있으나 도널드 트럼프 미국 대통령은 여전히 이에 부정적 입장을 고수하는 모양새다.