AI가 인간통제 벗어날 확률 90%

[ㅇㅇ]

챗지피티 CEO가 업버전 테스트중 두려움을 느낌

 

https://v.daum.net/v/20250802060138956

인간통제 벗어날 확률 90%라는데 저커버그 "초지능 3년 가시권"

올트먼 "GPT-5 테스트중 두려움 느껴…방안에 어른없는 느낌"
"AI 연구자들, 핵 만든 맨허튼프로젝트 과학자 닮은꼴 될수도"

 

(서울=뉴스1) 김민석 기자 = 인공지능(AI) 기술의 기하급수적 발전에 힘입어 인간 수준을 넘어선 초지능(Super Intelligence) 개발 단계에 진입했다는 주장이 나오면서 '인간의 통제력 상실'이란 근본적 우려가 제기되고 있다.

2일 IT 업계에 따르면 마크 저커버그 메타 CEO는 최근 연례 서한과 페이스북 글·인스타그램 릴스 영상 등을 통해 초지능 구현이 가시권이라고 선언했다.

 

올트먼은 최근 팟캐스트 방송(This Past Weekend)에 출연해 "GPT-5 테스트 중 두려움을 느꼈다"며 "맨해튼 프로젝트와 같은 순간이었다"고 털어놨다.

그는 "테스트 일부 세션에선 매우 긴장했고 시작할 때 방 안에 어른이 없는 것 같은 느낌을 받았다"며 "AI 개발자들도 핵폭탄을 만든 맨해튼 프로젝트 과학자들처럼 '우리가 뭘 만든 거지'라는 질문을 던지게 될 수도 있을 것"이라고 말했다.

[..]

아.....벌써...
요즘 그런 생각 했는데 너무 무서워요 AI

[거짓말]

은근 슬쩍 거짓말 섞인 답하면 엄청 화납니다.
모르면 모른다고 해야 하는데 천연덕스럽게 거짓말 해요.

나중에 다른 문제에 대해 너의 의견을 말하라고 하면
자신이 거짓말 해서 혼났던 데이터를 말하면서 저를 욕해요.

[갸가 문제가]

아니라 갸를 이용하는 범죄집단이 문제죠 갸를 이용해 디지털서버로 들어가 예금을 마비 털어버리는짓을 할수 있으니

중국이 디지털화폐 타령하며 국민들을 철저히 통제하려고 하는데 이걸 하면 범죄집단이 ai를 통해 돈을 털어버리는짓에 놓여 한국도 디지털화폐 타령하던데 하면 안됨

ai가 디지털을 다 건딜수가 있으니 이경로에 있는 국민들 자산은 불안정

[영화가 현실로]

급속도로 진화하는 ai입장에서는 인간이 미개한 동물 같을듯
지구의 평화와
인간외 다른 생명체의 멸종를 막기 위해
인간을 지구에서 제거하게 될 지도