엔지니어링 — AI의 강점과 한계

먼저도구를 알기

AI는 만능도, 검색기도 아니다

AI(LLM)를 잘 쓰는 첫걸음은 무엇을 잘하고 무엇을 못하는지 아는 것이다. 강점에 일을 맡기고, 약점은 사람과 도구로 메운다.

핵심 비유AI는 빠르고 성실한 신입사원이다 — 방대한 자료를 순식간에 다루지만, 우리 회사를 모르고 가끔 그럴듯한 거짓말(환각)을 한다. 그래서 잘하는 일에 시키고, 검증은 사람이 한다.

잘하는 일왜 강한가

잘하는 일	왜 / 예시
요약·재구성	수천 줄 로그·긴 회의록을 몇 줄로. 방대한 텍스트를 빠르게 훑어 핵심을 뽑는 데 강하다.
초안 생성	장애보고서·안내메일·코드의 0 → 1. 빈 화면에서 시작하는 부담을 없앤다.
변환·정리	지저분한 엑셀 → 표, 글 → 표, 코드 언어 변환, 형식 맞추기.
분류·패턴	오류 유형 분류, 유사 항목 묶기, 이상 징후 후보 찾기.
설명·번역	어려운 개념을 쉽게, 언어 간 번역, 코드 해설.

공통점대부분 "이미 있는 자료를 다루는" 일이다. 재료(콘텍스트)를 주면 줄수록 결과가 좋아진다.

못하는 일왜 약한가

못하는/약한 일	왜 / 조심할 점
환각(할루시네이션)	다음 단어를 확률로 잇는 방식이라 모르는 것도 그럴듯하게 지어낸다. 사실·인용·수치는 반드시 근거 확인.
최신 정보	학습 시점 이후·사내 최신 상황은 모른다. → 자료를 주거나, 검색·MCP 같은 도구를 연결.
정밀 계산	긴 산수·집계는 틀리기 쉽다. → 코드·도구로 계산시켜 정확도 확보(하네스).
우리 맥락	회사 규칙·시스템·용어는 안 주면 모른다. → 콘텍스트로 깔아준다.
일관성·판단	같은 질문에도 답이 조금씩 다르고(확률적), 가치 판단·책임은 못 진다. → 최종 결정은 사람.

첫날의 원칙AI의 결과는 초안이다. 검증은 사람 몫 — "어느 근거로 그렇게 판단했어?"라고 되물어 확인하는 것이 문화가 되어야 한다.

그래서한계 → 대응

AI의 한계는 대부분 이 강의가 다루는 기법으로 대응할 수 있다.

한 줄 요약잘하는 일에 맡기고, 못하는 일은 자료(콘텍스트)·도구(하네스)·반복(루프)로 메우고, 검증은 사람이 한다.

다음왜 이 대응들을 네 층으로 나누는지는 ▸ 4가지를 구분하는 이유 에서 이어진다.

클로드코드 시작하기엔지니어링 · AI의 강점과 한계