왜그럴듯함 ≠ 사실
AI는 '틀린 답도 자신 있게' 말한다
AI는 모르는 것도 매끄럽고 확신에 찬 문장으로 지어낸다. 이걸 환각(hallucination)이라 한다. 문장이 자연스럽다고 내용이 맞는 건 아니다. 그럴듯함과 사실은 다르다.
원칙검증하지 않은 AI 결과물은 그대로 내보내지 않는다. 숫자·출처·판단이 걸린 문서일수록 사람이 한 번 더 거른다.
체크리스트5대 점검 항목
내보내기 전, 이 5가지를 확인한다
| 항목 | 무엇을 확인 | 방법 |
|---|---|---|
| ① 사실·수치 | 수치와 사실이 실제와 맞는지 | 원본과 대조, 계산은 직접 재검산 |
| ② 출처 | 근거·인용·링크가 실제로 존재하는지 | 링크를 직접 열어 확인, 없는 출처는 삭제 |
| ③ 최신성 | 오래됐거나 이미 바뀐 정보가 아닌지 | 기준 시점 확인, 최신 자료로 갱신 |
| ④ 맥락 | 우리 회사·상황·규정에 맞는지 | 일반론을 우리 사실로 교체·보정 |
| ⑤ 판단 영역 | 정책·법률·인사·의료 등 판단이 얽혔는지 | 참고만 하고 사람이 최종 승인 |
한 줄 요약사실·출처·최신성·맥락은 대조로 거르고, 판단 영역은 사람 승인으로 막는다.
위험 신호특히 조심할 출력
이런 출력이 나오면 반드시 원본 대조
다음이 보이면 의심부터 한다. 자신만만한 문장일수록 위험하다.
| 위험 신호 | 왜 위험한가 | 확인 |
|---|---|---|
| 구체적 숫자 · 통계 | "매출 27% 증가" 같은 수치를 그럴듯하게 지어냄 | 원본 데이터와 대조·재검산 |
| 인용 · 논문 · 법조항 | 존재하지 않는 출처·판례를 실제처럼 만들어냄 | 링크·원문을 직접 열어 확인 |
| 고유명사 · 날짜 | 이름·회사·시행일을 헷갈리거나 바꿔 씀 | 1차 자료로 하나씩 확인 |
| 자신만만한 단정 | 불확실한 내용도 확신 있게 말해 검증을 건너뛰게 함 | 근거를 되물어 확인 |
기억할 것이럴수록 반드시 원본 대조. AI의 확신은 정확성의 증거가 아니다.
원칙세 가지만 지켜도
검증의 핵심 3원칙
핵심출처 확인 · 숫자 재검산 · 정책·법률·인사 판단은 '사람이 최종 승인'. 이 세 가지만 몸에 배면 대부분의 사고를 막는다.
실습AI에게 자기 검증 시키기
실습 — 답변을 스스로 분해하게 한다
AI에게 방금 한 답변을 스스로 검토하게 하면, 어디가 사실이고 어디가 추측인지 드러난다. 아래 상자를 복사해 AI가 답을 준 바로 다음에 붙여 넣는다.
방금 답변에서 ①사실로 단정한 부분과 ②추측·불확실한 부분을 나눠 표시해줘. 그리고 각 수치·인용의 근거(어디서 온 정보인지)를 밝혀줘. 확실하지 않으면 솔직하게 '불확실'이라고 표시해줘. 가능하면 아래 표 형식으로 정리해줘: | 내용 | 구분(사실/추측/불확실) | 근거 |
주의AI의 자기점검은 보조 수단일 뿐이다. 자기점검 결과도 틀릴 수 있으므로, 최종 확인은 반드시 사람이 원본과 대조해서 한다.
실습 결과이렇게 나온다
AI가 답변을 분해한 결과
나 · 요청
(위 자기 검증 프롬프트 실행)
Claude · 분해 결과
방금 답변을 항목별로 나눠 표시하면 다음과 같습니다.
| 내용 | 구분 | 근거 |
|---|---|---|
| 재택근무 시행일 8월 1일 | 사실 | 사용자가 알려준 조건 |
| 대면 협업 강화가 변경 배경 | 사실 | 사용자가 준 [핵심 내용] |
| "생산성 15% 향상 기대" 문구 | 추측 | 제가 임의로 덧붙인 표현 — 근거 없음 |
| 예외 신청 절차 세부 내용 | 불확실 | 제공 정보 없음 → [ ]로 비움 |
| 문의처 담당자·연락처 | 불확실 | 제공 정보 없음 → 확인 필요 |
사람이 확인해야 할 항목: "생산성 15%" 문구는 삭제 또는 실제 근거로 교체, 예외 절차·담당자는 실제 값으로 채우세요.
Claude · 참고
이 자기점검 표시 자체도 틀릴 수 있습니다. '사실'로 표시한 항목도 원본(사용자가 준 조건·데이터)과 사람이 직접 대조해 주세요. 판단이 필요한 내용은 제가 결정하지 않습니다.
관찰 포인트AI가 사실 / 추측 / 불확실을 스스로 갈라 준다. 하지만 이건 1차 필터일 뿐 — '사실'로 표시된 것까지 사람이 원본과 대조해야 진짜 검증이 끝난다.
미션내 결과물로 바로
최근 만든 AI 결과물 하나를 점검한다
최근 결과물 1건을 5대 체크리스트로 점검
8분- 최근 AI로 만든 결과물 1건을 연다(보고서·메일·요약·표 무엇이든).
- 5대 체크리스트(사실·수치 / 출처 / 최신성 / 맥락 / 판단 영역)로 한 항목씩 확인한다.
- 구체적 숫자·인용·고유명사·날짜는 원본과 대조하고, 근거 없는 문장은 지운다.
- 정책·법률·인사·재무 등 판단이 얽힌 항목에는 '사람 승인 필요' 표시를 붙인다.
예상 효과 — 무엇을 얻게 되나
지어낸 수치·존재하지 않는 출처를 내보내기 전에 걸러 내고, 결과물의 신뢰도가 올라간다. 어느 문장이 사실이고 어디가 추측인지 스스로 구분하는 습관이 생긴다.
주의: 정책·법률·인사·재무 판단은 검증 여부와 무관하게 반드시 사람이 최종 승인한다. AI 결과물은 참고 자료일 뿐 결정권자가 아니다.
주의자기점검을 시켰더라도 사람의 최종 확인을 생략하지 않는다. 특히 정책·법률·인사·재무 판단은 반드시 사람이 최종 승인한다.
이어서안전 사용법 시리즈
입력 단계 기준과 실패 사례도 함께
클로드코드 시작하기안전 사용법 · 결과물 검증 체크리스트