생성형 AI는 문장을 매끄럽게 만드는 데 뛰어나지만, 사실이 아닌 내용도 같은 자신감으로 말합니다. 이를 흔히 “환각(hallucination)”이라고 부릅니다. AI가 거짓말을 하려는 것이 아니라, 그럴듯한 다음 말을 이어 붙이는 방식으로 작동하기 때문에 생기는 현상입니다. 그래서 AI를 잘 쓰는 사람은 AI를 믿는 사람이 아니라 확인하는 습관이 있는 사람입니다.
특히 틀리기 쉬운 정보
| 종류 | 예 | 왜 위험한가 |
|---|---|---|
| 숫자·통계 | 시장 규모, 비율, 금액 | 그럴듯한 숫자를 만들어 내기 쉬움 |
| 날짜·최신 정보 | 법 시행일, 최근 사건 | 학습 시점 이후 정보를 모를 수 있음 |
| 인명·기관명 | 담당자, 논문 저자 | 비슷한 이름을 섞어 만들기도 함 |
| 법령·규정 | 조항 번호, 기준 금액 | 개정 전 내용이거나 없는 조항일 수 있음 |
| 출처·링크 | 논문 제목, 기사 주소 | 존재하지 않는 출처를 지어내기도 함 |
확인하는 다섯 가지 습관
- 출처를 요구합니다: “근거가 되는 자료를 함께 알려 줘.” 그리고 그 출처가 실제로 있는지 직접 열어 봅니다.
- 원문으로 확인합니다: 법령은 국가법령정보센터, 통계는 통계청·공공기관 발표처럼 원래 발표한 곳에서 확인합니다.
- 모르면 모른다고 하게 합니다: “확실하지 않은 부분은 확실하지 않다고 표시해 줘.”라고 미리 말해 두면 단정적인 오답이 줄어듭니다.
- 교차 확인합니다: 중요한 내용은 검색이나 다른 AI로 한 번 더 물어 답이 일치하는지 봅니다.
- 자료를 직접 줍니다: AI의 기억에 맡기지 말고, 확인된 자료를 붙여 넣고 “이 자료 안에서만 답해 줘.”라고 하면 정확도가 크게 올라갑니다.
업무 문서에 쓰기 전 마지막 점검
- 숫자 하나하나에 출처를 댈 수 있는가
- 날짜와 이름은 원문과 대조했는가
- AI가 쓴 문장을 그대로 쓴다면, 그 내용을 내가 설명할 수 있는가
마지막 질문에 “아니오”라면 그 문장은 아직 쓸 준비가 안 된 것입니다.
AI를 처음 배우는 단계부터 이 습관을 들이는 것이 가장 효과적입니다. 비전공자를 위한 생성형 AI 입문 과정에서 함께 연습합니다.
