초보자ai주의점2 AI가 대답 못하는 것도 있나요? “무조건 똑똑하다고 들었는데, 왜 틀린 답이 나오죠?”AI를 처음 써보면 깜짝 놀랄 만큼 잘 대답하다가도, 어떤 질문에는 엉뚱하거나 틀린 정보를 주는 경우가 있어요.AI찌니쓰쌤이 오늘은 ‘생성형 AI가 대답 못하는 것들’을 초보자 눈높이에서 하나씩 풀어드릴게요. 1. AI는 ‘모르는 걸 모른다고 말하지 않아요’① 틀린 정보도 그럴듯하게 말할 수 있어요 AI는 “잘 모르겠어요” 대신, 마치 알고 있는 것처럼 거짓된 정보를 말할 수 있습니다.예: 존재하지 않는 책 제목이나 가짜 통계를 만들어내기도 해요. ② 확신을 갖고 말해도, 정답이 아닐 수 있어요 AI는 항상 자신감 있게 말하지만, 그 답이 틀릴 수도 있다는 점을 꼭 기억하셔야 합니다.그래서 중요한 내용일수록 검증이 꼭 필요합니다. ③ 왜 그.. 2025. 6. 28. 생성형 AI가 진짜 잘못 말하기도 하나요? AI가 거짓 정보를 말하기도 한다고요? 초보자도 꼭 알아야 할 AI 오류의 원인과 사례, 안전하게 활용하는 방법까지 정리해드립니다. “AI가 틀린 말을 했어요.”“검색해보니 사실이 아니더라고요.”생성형 AI를 써보다 보면 이런 경험을 하게 되죠. AI가 똑똑하긴 한데, 가끔은 정말 ‘자신감 있게 틀리는’ 상황이 벌어지곤 합니다.왜 AI가 가끔 엉뚱한 답을 하는지, 초보자도 이해할 수 있도록 쉽게 알려드릴게요. 1. AI는 왜 잘못된 정보를 말할까요?① AI는 '정답'이 아니라 '그럴듯한 말'을 예측합니다생성형 AI는 질문에 대해 정답을 찾는 게 아니라, 가장 자연스럽게 이어질 문장을 예측합니다. 예를 들어 “세계에서 가장 높은 산은?”이라고 묻는다면, 그럴듯한 문장인 “에베레스트산입니.. 2025. 6. 25. 이전 1 다음
