본문 바로가기

AI 빌더

[추론 엔진 #4] 완성된 코드를 버리기로 결정한 날 | AI 빌더의 피벗

AI 빌더가 추론 엔진을 설계하는 과정을 시각화

코드가 동작했습니다. 그리고 버렸습니다. 기능이 완성될수록 목적에서 멀어지는 과적합의 함정, 그리고 CLAUDE.md가 설계서이자 반성문이 된 이유입니다.


결정의 순간

테스트를 돌리는데 이상한 결과가 나왔다.

수마트라를 입력했는데 헬싱키가 나왔다.

버그가 아니었다. 코드는 정상이었다.

 

5-Tier 소거 로직이 돌아갔고, API 응답도 왔고, 스코어링도 계산됐다.

시스템은 자기 할 일을 다 했다.

그런데 결과가 틀렸다.

열대 야생성을 원하는 입력이 북유럽 도시로 나왔다.

 

소프트웨어로 표현하면 이건 단순 버그와 다르다.

입력 도메인과 출력 도메인이 인과관계없이 연결된 상태다.

코드 한 줄을 고쳐서 해결되는 게 아니라 추론 경로 전체가 잘못 설계된 것이다.

 

더 근본적인 문제도 보였다.

Gemini와 Claude Code가 각자 만든 구현이 서로 달랐다.

핵심 비즈니스 로직이 중간 어딘가에서 두 갈래로 갈라져 있었다.

물류 최적화 방향으로 최적화된 시스템이 완성되어 있었다.

 

이 프로젝트가 추론을 보여주는 엔진이라는 걸 두 AI 중 누구도 기억하지 않았다.

 

개발하면서 중간중간 직접 정리한 개발기가 있었다.

73개의 단계로 쌓인 기록이었다. 동작하는 코드가 있었다.

그리고 그게 오히려 문제를 선명하게 만들었다.

 

완성에 가까워질수록 처음 목적과 멀어지고 있었다.


리셋하면서 처음 한 일

코드를 지우기 전에 문서를 썼다.

Gemini와의 리셋 대화에서 처음으로 이 문장이 나왔다.

"Project C는 단순히 여행지를 찾아주는 앱이 아니라, 일반인의 모호한 언어를 전문가적 로직으로 통과시켜 최적의 의사결정을 도출하는 과정을 시각화한 엔진이다."

 

73단계 동안 없었던 문장이다.

이 한 줄이 있었다면 AI는 물류 최적화 방향으로 달리지 않았을 것이다.

세션이 바뀔 때마다 컨텍스트를 잃지 않았을 것이다.

수마트라를 넣으면 헬싱키가 나오는 일도 없었을 것이다.

 

AI는 목적을 스스로 지키지 않는다.

주어진 입력에서 패턴을 찾을 뿐이다.

시스템이 무엇을 위해 존재하는지는 처음부터 문서에 박혀 있어야 한다.

 

그게 없으면 AI는 방향을 잃는 게 아니라, 처음부터 방향이 없는 채로 달린다.


C-2의 CLAUDE.md

C-2를 시작할 때 코드보다 CLAUDE.md가 먼저였다.

 

3편에서 말한 순서의 이야기다.

시나리오 → 시뮬레이션 → 코딩. 이번엔 그 첫 번째 단계에 C-1의 실패 목록이 들어갔다.

 

추론을 보여주는 것이 목적이다,

타겟 설정 도구가 아니다,

순차 처리만 한다,

하루 20회 API 한도를 지킨다.

 

설계 원칙이 아니라 반성문이다.

73단계에서 실제로 벌어진 일들이 제약 조건이 되어 문서에 박혔다.

Claude Code는 이걸 읽고 코딩을 시작한다.

 

CLAUDE.md는 AI에게 주는 헌법이다.

그리고 헌법은 코드로 짤 수 없다.

코드보다 앞서야 한다.


C-1의 코드는 버렸다. 그 73단계가 C-2의 문서가 됐다.


다음 편에서는 C-2 개발 중 다른 종류의 충돌을 다룬다. 프롬프트를 아무리 고쳐도 Gemini가 검색 결과를 무시하고 사용자 입력만 되돌려줬다. 프롬프트로 해결하려다 세 번 실패하고, 결국 구조를 바꾸기로 결정한 이야기다.


그리고 이 시리즈의 결과물이 궁금하신 분은 직접 체험해 보실 수 있습니다.

글에서 다룬 추론 엔진, 탐색의 기술에서 실제로 작동하고 있습니다.

2026.04.21 - [AI 빌더] - 작동하는 AX를 설계합니다 — AX Studio by gtpmore 포트폴리오

 

작동하는 AX를 설계합니다 — AX Studio by gtpmore 포트폴리오

AI 도입이 작동하지 않는 이유는 구조의 문제입니다. AX 컨설턴트 gtpmore 포트폴리오 — 지식 구조화(RAG), 판단 기준 알고리즘, 자율 추론 엔진 3가지 축으로 실제 업무에 작동하는 AX를 설계합니다.

gtpmore.tistory.com