AI는 인터넷에 공개된 지식의 거대한 압축본입니다. 그러나 특정 기업의 내부 프로세스, 20년 경력 전문가의 직감, 특정 고객군과의 상호작용에서 쌓인 패턴 — 이런 것들은 AI의 학습 데이터에 없습니다. 전문가의 암묵지(Tacit Knowledge)를 AI가 활용 가능한 명시지(Explicit Knowledge)로 변환하는 작업이 엔터프라이즈 AI의 핵심 경쟁력입니다.
암묵지가 AI 성능을 제한하는 방식
숙련된 법률 전문가는 계약서를 보자마자 위험 조항을 직감합니다. 10년 경력의 마케터는 광고 카피를 읽는 순간 "이건 우리 타깃에 안 맞아"를 느낍니다. 이 직감은 수천 번의 반복 경험에서 쌓인 패턴 인식이지만, 명문화되어 있지 않습니다. AI에게 "이 계약서의 위험 조항을 찾아줘"라고만 하면, AI는 일반적인 법적 위험 요소를 나열합니다. 이 특정 기업의 비즈니스 맥락에서 실제로 중요한 조항은 별도의 전문가 지식 없이는 식별할 수 없습니다.
암묵지 주입이 부재할 때 나타나는 증상은 명확합니다. AI 산출물이 "그럴듯하지만 실무에서 쓸 수 없다"는 평가를 받습니다. 팀이 AI 결과를 대폭 수정하는 데 더 많은 시간을 씁니다. 경험 많은 시니어들이 "AI는 우리 업을 몰라"라며 사용을 꺼립니다. 이 모든 상황은 암묵지 주입 문제입니다.
암묵지를 명시지로 변환하는 3가지 방법
첫 번째는 Few-shot 예시 수집입니다. 전문가가 실제로 처리한 3~5개의 케이스를 "입력 → 전문가 판단 → 출력" 쌍으로 수집합니다. 예를 들어 계약서 검토라면, 전문가가 위험하다고 판단한 조항 3개와 안전하다고 판단한 조항 3개를 이유와 함께 문서화합니다. AI는 이 패턴에서 "이 전문가가 무엇을 위험으로 보는가"를 추론하고 유사한 판단을 재현합니다.
두 번째는 의사결정 규칙의 명문화입니다. "이런 조건이면 항상 A를, 저런 조건이면 B를 선택한다"는 전문가의 의사결정 패턴을 if-then 규칙으로 문서화합니다. 이 작업은 전문가에게 상당한 메타인지 능력을 요구하지만, 한 번 문서화되면 조직 전체의 자산이 됩니다. 세 번째는 부정 예시 수집입니다. AI가 잘못 판단하는 케이스, 전문가가 "이건 틀렸다"고 판단하는 AI 결과를 모아 "이런 결과는 잘못된 것이며 이유는 다음과 같다"는 형태로 시스템 프롬프트에 포함합니다.
전문가 개입이 반드시 필요한 3가지 시점
- 시스템 프롬프트 설계: 도메인 지식을 정확하게 담은 시스템 프롬프트 초안 작성 시 전문가 직접 참여 필수
- Few-shot 예시 검수: AI 학습에 사용될 예시의 정확성과 대표성을 전문가가 최종 검증
- 엣지 케이스 처리: AI가 반복적으로 틀리는 특수 케이스를 전문가가 식별하고 명시적 규칙 추가
- 품질 기준 수립: "이 수준이면 실무 적용 가능하다"는 품질 임계값 설정에 전문가 판단 기준 필요
- 정기 교정: 모델 업데이트나 비즈니스 변화 이후 AI 판단이 여전히 유효한지 전문가 재검수
전문가 지식 추출 인터뷰 프로세스
전문가의 암묵지를 효과적으로 추출하는 데는 구조화된 인터뷰가 필요합니다. 단순히 "어떻게 판단하세요?"라고 묻는 것은 효과가 없습니다. 대신 실제 케이스를 제시하고 "이 경우 어떻게 하시겠습니까?"라는 방식으로 판단 과정을 관찰합니다. "왜 그렇게 판단하셨나요?", "반대 결정을 내리는 경우는 언제인가요?", "이 판단에서 가장 중요한 한 가지 요소는 무엇인가요?"라는 후속 질문이 암묵지를 명시화하는 열쇠입니다.
이 인터뷰에서 추출된 판단 기준을 AI 시스템 프롬프트에 직접 통합하면 됩니다. 예를 들어 법률 검토 AI라면 "이 전문가는 면책 조항보다 배상 한도 조항을 더 중요하게 보며, 배상 한도가 계약 금액의 50% 미만이면 항상 재협상을 권고합니다"와 같은 구체적인 판단 규칙이 시스템 프롬프트에 포함됩니다.
지식 주입의 지속적 관리
전문가 지식 주입은 한 번으로 끝나지 않습니다. 비즈니스 환경이 변화하고, 새로운 케이스가 발생하며, AI 모델 자체도 업데이트됩니다. 분기 1회 이상 시스템 프롬프트와 Few-shot 예시를 검토하고, AI 출력에서 발견된 새로운 오류 패턴을 추가합니다. 이 과정을 문서화하면 조직의 AI 운영 지식이 축적되고, 전문가가 이직하더라도 지식이 시스템에 보존됩니다.
도메인 지식 주입의 조직적 성숙도 단계
도메인 지식 주입은 조직의 AI 성숙도에 따라 단계적으로 발전합니다. 1단계는 개인 의존 단계입니다. 특정 시니어 직원이 프롬프트를 작성하고, 그 사람이 없으면 AI 품질이 급격히 떨어집니다. 2단계는 문서화 단계입니다. 핵심 도메인 지식이 시스템 프롬프트와 Few-shot 예시로 문서화되어 팀 누구나 활용할 수 있습니다. 3단계는 제도화 단계입니다. 신규 입사자 온보딩 시 AI 프롬프트 시스템을 함께 학습하고, 지식 업데이트 프로세스가 정기적으로 운영됩니다.
많은 기업이 1단계에 머물러 있습니다. AI 도입의 효과가 기대보다 낮게 나타나는 가장 큰 원인 중 하나입니다. 3단계로 이동하는 핵심 과제는 지식을 시스템에 코드화하는 것입니다. 전문가가 이직하거나 휴가를 가도 AI의 판단 품질이 일정하게 유지되어야 합니다. 이 수준에 도달하면 AI가 조직의 집단 지성을 대변하는 시스템이 됩니다.
Key Takeaways
AI의 한계는 공개 지식의 부재가 아니라 기업 특화 암묵지의 부재
Few-shot 예시 5개가 규칙 설명 10줄보다 AI 이해에 더 효과적인 경우 많음
구조화된 전문가 인터뷰로 "왜 그렇게 판단하는가"를 끌어내는 것이 핵심
지식 주입은 초기 1회 작업이 아닌 분기 단위 지속 관리 프로세스
전문가 이직 전 지식을 시스템 프롬프트에 문서화하는 것이 조직 리스크 관리
