AI 어시스턴트의 오류와 한계 이해하기

흔히 발생하는 오류

• 사실이나 출처를 지어내기.
• 계산을 잘못하기.
• 최근에 일어난 일을 알지 못하기.
• 지나치게 조심한 나머지 일반적인 질문에 답변을 거부하기.

정보를 확인하는 방법 배우기

• 책이나 신뢰할 수 있는 사이트와 비교하기.
• 어른에게 물어보기.
• 표현을 바꾸어 다시 질문하기.

Kidikia는 어떤가요?

Kidikia는 확실하지 않을 때 이를 인정하도록 안내받지만, Kidikia도 틀릴 수 있습니다.

AI가 틀리는 이유

AI 모델은 방대한 양의 텍스트를 바탕으로 단어를 예측하는 법을 학습했습니다. 사람처럼 무언가를 ‘아는’ 것이 아니라, 가장 가능성이 높은 답변을 조합합니다. 그래서 ‘환각’이라고 부르는 오류가 생기며, 특히 숫자, 날짜, 잘 알려지지 않은 인물, 최신 소식에서 이런 오류가 나타납니다.

아이에게 설명하기

“AI는 책을 아주 많이 읽었지만 가끔 기억을 잘못하는 친구와 같아. 틀렸을 때도 자신 있게 말하지. 그래서 중요한 내용은 꼭 확인해야 해.”

간단한 정보 확인 연습

• “거미의 다리는 몇 개일까?”라고 질문한 뒤 책에서 확인하기.
• 역사적 사건의 날짜를 물어보고 백과사전과 비교하기.
• AI가 쓴 글에서 의도적으로 넣은 오류를 함께 찾아보기.