원칙세 가지
안전은 습관에서 나온다
AI를 업무에 쓰기 전에 반드시 합의해야 할 것이 있습니다. 무엇을 넣지 않을지, 결과를 어떻게 검증할지, 그리고 책임은 누가 지는지입니다.
세 가지 원칙① 민감정보는 넣지 않는다 · ② 결과는 검증한다 · ③ 판단과 책임은 사람이 진다
입력 기준무엇을 넣지 않나
① 넣으면 안 되는 것
| 넣지 않는다 | 대신 이렇게 |
|---|---|
| 고객 실명·연락처·주민번호 | 가명 처리 — 홍길동 → A고객, 010-… → (연락처) |
| 계약서·미공개 재무·인사 평가 | 해당 수치·조항만 발췌하거나 일반화 |
| 비밀번호·API 키·접속 정보 | 절대 입력 금지 — 예외 없음 |
| 사내 소스코드 전체 | 회사 보안 규정 확인 후, 필요한 부분만 |
기준이 애매할 때"이 화면을 그대로 사외 메일로 보내도 되나?"를 자문해 보세요. 안 된다면 입력해서도 안 됩니다.
검증결과를 믿기 전에
② 검증 체크리스트
AI 결과물을 그대로 쓰기 전, 아래를 확인합니다. 특히 숫자·인용·고유명사가 위험합니다.
- 숫자가 원본 자료와 일치하는가
- 인용·근거가 실제로 존재하는가 (출처를 되물어 확인)
- 고유명사(사람·시스템·부서명)가 정확한가
- 추정과 사실이 구분되어 표시되었는가
- 빠진 내용은 없는가 (원본과 대조)
방금 만든 보고서에서 다음을 표시해줘. 1) 첨부 자료에 근거가 있는 문장 2) 네가 추정하거나 일반 지식으로 채운 문장 3) 확인이 필요한 숫자 각각 어느 자료의 어느 부분을 근거로 했는지도 함께 알려줘.
쓸모 있는 습관이 프롬프트 하나로 검증할 지점이 좁혀집니다. 전체를 다시 읽는 대신 표시된 부분만 확인하면 됩니다.
위험 사례이렇게 사고가 난다
③ 실제로 자주 생기는 일
| 사례 | 무엇이 잘못됐나 |
|---|---|
| 고객 명단을 그대로 붙여넣어 분석 요청 | 개인정보 유출 — 가명 처리 후 넣어야 합니다 |
| AI가 만든 수치를 확인 없이 보고 | 환각 수치가 공식 문서가 됨 |
| "AI가 그렇게 했다"며 책임 회피 | 책임은 사용한 사람에게 남습니다 |
| AI가 만든 규정 해석을 그대로 안내 | 근거 조항을 원문에서 확인해야 합니다 |
실습5분
우리 팀 입력 기준 만들기
우리 팀이 AI를 쓸 때 지킬 '입력 금지 목록'과 '가명 처리 규칙'을 만들어줘. - 우리 팀 업무: (여기에 한 줄로 적기) - 금지 항목은 예시와 함께 - 가명 처리는 변환 예시(원본 → 변환 후)를 표로 - 팀 게시판에 붙일 수 있게 한 장 분량으로
- 넣지 말아야 할 정보 3가지를 즉시 말할 수 있다
- 결과 검증에서 숫자·인용·고유명사를 먼저 본다
- 최종 책임이 사람에게 있음을 이해했다
클로드코드 시작하기Part 0 · 왜 지금인가