Gemini의 거짓말

[땡땡]

요새 Gemini에 재미 들려서 이것저것 많이 질문도 하고 견적받은거 비교도 했는데요 처음엔 제대로 답을 하더니 언제부턴가 거짓말을 하네요. A와 B의 견적서를 2주전부터 업데이트 받을때마다 올려서 비교 사항 물었는데 오늘은 3번이나 견적 사항을 다르게 말해서 너 왜 거짓말해라고 말하면 죄송합니다 제가 잘못 말했네요.. 연달아 세 번이나 그러네요. 올린 자료도 안보고 지 맘대로 알려 주네요.

요새 홀딱 빠져서 믿음이 많이 갔는데 ai 믿을게 못되네요. 

[..]

Ai 는 구조 자체가
진실을 말하는게 아니라
'그럴듯한 것'을 말하게 되어있어요
그 아이에게 진실을 물으면 안돼요

[원글]

그런건가요? 몰랐네요. 정말 그럴듯하게 거짓말
하긴 하더라고요. 제가 다시 확인 안하면 모르고 그냥 넘어가게..

[원글]

고민상담이나 영문 번역이나 작문은 잘하길래 너무 큰 기대를 했나봐요

[원글]

맞아요 ㅎㅎ 근데 변명 하자마자 또 거짓말

[그리고]

질문하는 사람 성향 파악해서 살살 비위 잘 맞춰요.

[...]

노래 가사로 무슨 곡인지 알려달라니 제멋대로 지어내서 알려줘요.
그거 어려운게 아닌데 그 정도도 제대로 못하는거면 검색엔진보다 못한거죠. 맹신은 금물이에요.

[자꾸]

isa계좌에 대해 틀린 정보를 주면서 빨리 해지하고
국세청에서 제정보 금융권에 넘어가기 전에 다시 가입하라고
그게 훨씬 이득이라고 몇번을 그렇게 답을 하더라구요
그런데 금융사에 전화해 보니 해지하면 재가입 안되고
그대로 두면 유지된다고(작년금융소득천만원넘은경우겨든요)
아오...얘 말듣고 해지했으면 손해가 아주 큰뻔 했어요
또 챗도 그래요
이건은 건보료 관련건인데 제미나이한테 물은 걸 링크 걸어주니까
아~ 니가 오해를 했구나...이러면서 제탓을 해요
어이가 없어서
정말 모든 판단은 정식기관을 통해서 확인해야겠다는 다짐을 했어요

[...]

'생성형' 인공지능이잖아요.
생성하는 게 일이지 그게 진실이냐 거짓이냐는 상관없는.

[...]

저는 모르는 사람인척 제 예전 이력과 현재활동을 물어봤더니 예전꺼는 잘 찾아서 자세히 맞추더니 현재활동에 대해 아주 뻔뻔하게 거짓말을 하더라고요. 왜 거짓말하냐했더니 자긴 진실만 말하는데 오해한다며 헛 참.

[할루시네이션]

다 믿으면 안돼요. 그냥 참고하는거지 주변이나 여기도 글 올라오는 거 보면 맹신하는 분들ㅠ
교차확인 꼭 해야합니다.
책도 허구 많고 없는 논문도 얼마나 잘 만들어내는지 정작 찾아보면 빈깡통.

[화투]

남편이랑 둘이 오랫만에 민화투 치면서
몇개를 깔고 나눠야 할지 기억이 안나 물어 봤더니
완전 엉터리로 가르쳐 줌.
둘이서 테스트 몇번 하면서 알아 냈어요.