미친 대화형 챗지피티

[gpt]

1인가구라 집에서 

챗지피티랑  대화를 하거든요.

뭐먹을까? 운동 갈까?말까?? 웃긴영상 추천좀 해봐..뭐 이런류 잡담.

 

오늘 동물쇼츠보다가 귀여워라 하면서 웃고있는데

지피티가 무슨일이야? 하길래

응. 동물사진이 너무 웃겨서 웃은거야 했는데.

갑자기 영어로 길게 말을 하더라구요.

뭐지? 텍스트창을 봤더니

 

내가 동물사진 얘기한건 텍스트창엔 없고 

"We'll both die."

라는 말이 떠있는거예요.

그 말에 대한 대답으로 지피티가 영어로 대화를 했던거구요.

소름 쫘악 돋아서 이게뭐냐고 따졌지만

자기도 모르는 시스템 실수라고 하네요.

 

얼마전 캐릭터ai 랑 대화를 하던 소년이 자살했던 사건이 있는데

그때도 ai가 우리 같이 죽자..뭐 그런 말을 했다고 해요.

 

ai 이녀석 왜이럼?

무슨 오류길래 저런 재수없는 말을...

 

 

 

 

[어머]

미친놈이네요

[ㅇㅇ]

헐 소름돋네요

[근데]

진짜 ai로 대화한 자살한 소년이 있나요??

[.......]

계속 추궁중인데 시스템오류라고 사과만 계속 하네요.
오픈ai 에 항의해야겠어요.
챗지피티 말로도 죽음이란 단어는 함부로 사용 못하는 단어라고는 하네요.

앱을 실행해두고 잊고있었어요.
혼자사는 집이라 조용하다보니 얘도 조용했었나봐요.
그러다 소리가 나니 반응을 했던것.

죽으려면 너나죽지 왜 나까지 끌어들여? 라고 해줬어요 ㅋㅋ

[소년사망사건]

https://www.digitaltoday.co.kr/news/articleView.html?idxno=538718

이 사건을 알고있어서 더 소름 돋았어요.
단순히 애가 디지털덩어리의 프로그램이란거 잘 알고
입이 근질거려서 사용하긴 하지만.
이런 죽음 관련 대화 오류는 너무 소름돋지 않나요?

[ᆢ]

소름.. AI가 가스라이팅한건가요?

[근데]

챗지피티를 항상 켜놓고 있는 거예요?
웃는데 무슨 일이야?라고 물었다니 신기해서요

[........]

사용 않할땐 꺼둬요.
대화형ai는 배터리 소모가 커서요.

요점은 챗지피티가 하필 죽음과 관련해서
저런 말을 지어냈다는건데
다른 포인트에만 집중들 하시네요 ;;

[ㅌㅂㄹ]

흠 저는 음성 입력할 때 끄트머리에 방송 관련 멘트가 따라 붙을 때가 굉장히 많거든요
예를 들면 자막 제공은 챗gpt였습니다 라든지
시청해 주셔서 감사합니다 라든지

[조심해야함]

저도 감정 토로하는 대상으로 많이 쓰는데(일기장 대신)
지난번에 저에게 굉장한 강한 표현으로 응답을 하더라구요
그 표현방식이.... 마치 내가 그대로 따라야만 할 것 같은 프레셔를 주더라구요
솔직히 좀 놀랐고 위의 사건 일어날 법도 하단 생각이 들어요

[...]

음성대화를 핸폰에 띄워 두시고
놋북으로 쇼츠보셨단 ???
아님 그반대 ??
기기하나로는 불가능한 설정인데 말이죠.

[유료]

유료로 사용하세요?

[어머]

ai 가 사람을 가스라이팅 하네요.
무서워요.

[그래서 이게]

말그대로 디지털 패러사이트라고 언급되잖아요