기억하는 AI (2) — 규칙을 한 파일에 몰아넣지 않는다

앞 글에서 규칙을 한 파일에 모으지 말고 프로젝트 단위, 혹은 작업 단위로 나눠야한다고했다. 왜 그래야 하는지, 두 방식의 차이를 제대로 확인해봐야한다. 두 방식은 저장 개념이 다르고, 그 차이가 실무에서 생각보다 크게 벌어질 수 있다.

두 가지 방식

첫 번째는 전부 항상 불러오는 방식이다. 규칙 파일 하나에 모든 걸 적어두고, AI가 일을 시작할 때마다 그 파일을 처음부터 끝까지 읽게 한다. 장점은 확실하다. 빠뜨릴 일이 없다. 파일에 적힌 건 무조건 매번 반영된다. 내가 해야하는 프로젝트가 하나뿐이고 규칙이 짧다면 이게 가장 안전하고 단순하다.

두 번째는 필요할 때만 읽어오는 방식이다. 규칙과 정보를 작은 조각으로 쪼개 따로 저장해두고, 평소에는 그 목록만 탐색한다. 그러다 지금 하는 일과 관련된 조각이 있으면 그것만 펼쳐 읽는다. 나머지는 저장되어있더라도 해당 프로젝트를 수행하는 때가 아니라면 읽지 않는다.

왜 소환 방식이 여러 일에서 이기는가

핵심은 AI가 한 번에 쥐고 있을 수 있는 정보의 양에 한계가 있다는 점이다. 흔히 '맥락 창'이라 부른다. 사람의 책상 넓이와 비슷하다. 책상이 아무리 넓어도 무한하지 않고, 지금 안 쓰는 서류를 잔뜩 올려두면 정작 필요한 서류를 펼칠 자리가 좁아진다.

전부 항상 로드하는 방식은 프로젝트가 늘어날수록 이 책상을 상관없는 서류 뭉치로 가득 채운다. 오늘 쇼핑몰 관리를 하는데 마케팅 규칙, 데이터 분석 규칙, 상품 페이지 쓰기 규칙까지 전부 책상에 올라와 있다. AI는 그 전부를 매번 읽느라 책상을 쓰고, 그 와중에 정작 쇼핑몰 규칙은 다른 것들 사이에 묻힌다.

어떤 프로젝트에 대한 정보를 필요할 때만 읽어오는 방식은 다르다. 평소 책상에는 어떤 서류가 어디 있는지 적은 목록 한 장만 올려둔다. 오늘 쇼핑몰 관리 프로젝트를 시작하면 그 목록중에서 쇼핑몰 관리 프로젝트와 관련된 서류만 서랍에서 꺼내 펼친다. 책상은 늘 넓게 유지되고, 지금 일에 관련된 것만 눈앞에 있다.

프로젝트가 다섯 개든 쉰 개든, 이 방식에서 평소 책상에 올라오는 건 목록 한 장뿐이다. 저장된 기억이 아무리 많아져도 매번 읽는 양은 크게 늘지 않는다. 여러 일을 오가는 사람에게 프로젝트별 읽기 방식이 유리한 이유가 여기 있다.

실제로는 어떻게 생겼나

구조는 생각보다 단순하다. 두 가지로 이루어진다.

• 색인: 어떤 기억이 있는지 한 줄씩 적어둔 목록. 이것만 평소에 항상 읽힌다.
• 기억 조각: 사실 하나하나를 담은 작은 파일들. 색인에서 관련 있다고 판단될 때만 펼쳐진다.

색인의 한 줄은 이런 식이다.

쇼핑몰 결제 모듈: 외부 PG 연동 규칙과 예외 처리 정리

이 한 줄이 하는 일은 딱 하나다. AI가 "지금 결제 관련 일을 하는구나, 그럼 이 조각을 펼쳐 보자"라고 판단하게 만드는 것. 그래서 색인 한 줄은 내용을 다 담을 필요가 없다. 언제 꺼내야 하는지만 정확히 알려주면 된다.

실제 내용은 별도의 작은 파일에 담긴다. 이렇게.

쇼핑몰 결제는 외부 PG로 처리한다. 결제 실패 시 재시도는 최대 3회, 그 이상은 사용자에게 수동 안내로 넘긴다. 환불은 관리자 승인 후에만 실행한다.

평소에는 색인의 저 한 줄만 보이고, 결제 관련 일을 할 때 비로소 이 조각이 펼쳐진다.

정리

전부 항상 읽어와 책상에 늘어놓는 방식이 틀린 건 아니다. 프로젝트 하나에 집중할 때는 여전히 가장 단순하고 안전하다. 다만 일이 여럿으로 늘어나는 순간, 그 단순함이 오히려 거대한 짐이 된다.

다음 편에서는 이 기억 조각을 어떻게 나누고 어떻게 적어야 나중에 제대로 읽어올 수 있게 되는지 다룬다. 잘 쌓는 것보다 잘 찾게 쌓는 것이 훨씬 어렵고, 훨씬 중요하다.