네 개의 주기

원래 계획이 과설계였던 «진짜» 이유가 여기 있습니다 — 「학습」을 한 덩어리로 놓고 거기에 자동화를 통으로 걸려고 했습니다.

쪼개 보니 주기가 넷이었습니다

「배우고 반영한다」를 하나로 보면, 하나의 자동화를 만들게 됩니다.

쪼개 보니 성격이 완전히 다른 넷이었습니다.

주기	언제	자동화 정도	왜
캡처(적어 두기)	작업 도중 계속	손으로	새 정보가 들어오는 유일한 지점
통합(합치고 지우기)	주 1회	사람 승인	지우는 판단이 들어감
적용(읽어서 쓰기)	매 작업	완전 자동	판단이 없어서 안전함
감시(죽었나 보기)	주 1회	완전 자동	아무것도 안 고치고 알리기만 함

넷이 자동화해도 되는 정도가 전부 다릅니다. 그런데 한 덩어리로 보면 제일 위험한 것에 맞추거나, 제일 안전한 것에 맞추게 됩니다. 둘 다 틀립니다.

「캡처」는 왜 자동이 아닌가

제일 자동화하고 싶은 자리입니다. 작업이 끝날 때마다 요약을 뽑아서 기억에 넣으면 되니까요.

그런데 여기가 새 정보가 들어오는 유일한 문입니다.

자동으로 요약하면 어떻게 되냐면 — AI가 「중요해 보이는 것」을 고릅니다. 그리고 그 기준은 제 기준이 아닙니다.

	자동 요약이 남기는 것	제가 남기고 싶은 것
잘 된 일	잘 남김	별로 안 중요
실수한 이유	잘 안 남김	제일 중요
안 한 결정	안 남김	중요

특히 「왜 이걸 안 했나」는 자동 요약에 절대 안 남습니다. 안 한 일이니 기록에 없으니까요. 그런데 그게 나중에 제일 필요합니다.

문이 하나뿐이면, 그 문에서 뭘 들이느냐가 나머지 전부를 정합니다.

「통합」에만 승인이 붙는 이유

넷 중 여기만 사람이 붙습니다. 이유는 지우기 때문입니다.

	잘못되면
적용(읽기)	아무것도 안 바뀜
감시(알림)	한 번 잘못 울림
통합(합치고 지우기)	되돌릴 수 없음

그리고 지운 걸 알아채는 데 시간이 걸립니다. 필요해질 때까지 모릅니다.

「적용」은 왜 완전 자동인가

반대로 여기는 판단이 0입니다. 이미 확정된 기억을 읽어서 싣는 것뿐입니다.

고를 것도 없고 지울 것도 없습니다. 잘못될 여지 자체가 없습니다.

판단이 없는 자리는 자동화해도 안전합니다. 그리고 대개 그런 자리가 제일 자주 돕니다.

「감시」도 완전 자동인 이유

아무것도 안 고치고 «알리기만» 합니다.

이게 안전의 조건입니다. 고치는 자동화는 위험하고, 알리는 자동화는 안전합니다.

잘못 울려도 제가 한 번 확인하면 끝입니다. 잘못 고치면 고친 걸 되돌려야 합니다.

정리

원래 계획의 문제가 뭐였냐면 — 넷을 하나로 보고 「전부 자동」으로 걸려고 했습니다.

그러면 지우는 판단까지 자동이 됩니다. 그게 앞 글에서 본 사고입니다.

쪼개 놓으면 각각에 맞는 답이 나옵니다. 그리고 쪼개기 전에는 「자동이냐 수동이냐」라는 잘못된 질문만 있었습니다.

여기부터는 자세한 기록입니다

원안이 과설계였던 진짜 이유가 여기 있다. “학습”을 하나로 놓고 거기에 자동화를 통으로 걸려고 했다.

쪼개 보니 주기가 넷이고, 자동화해도 되는 정도가 전부 다르다.

주기	언제	자동화	왜
캡처	세션 도중 계속	손으로	새 정보가 들어오는 유일한 지점
통합	주 1회	사람 승인	지우는 판단이 들어간다
적용	매 세션	완전 자동	판단이 없어서 안전하다
감시	주 1회	완전 자동	아무것도 안 고치고 알리기만 한다

판단이 들어가는 자리만 사람이 지키면 된다. 나머지 셋은 자동이어도 조용히 죽지 않는다 — 넷째가 보고 있기 때문이다.

캡처는 왜 자동이 아닌가

제일 자동화하고 싶은 자리다. 세션이 끝날 때마다 요약을 뽑아 메모리에 넣으면 되니까.

그렇게 안 했다. 세션이 끝나면 후보 메모를 가공 없이 붙이기만 한다. 요약도 안 하고 판단도 안 한다. 모델을 안 부르니 비용이 0이다.

이유는 죽은 채널 쪽 교훈 그대로다. 캡처를 자동 요약으로 만들면 무엇이 요약에서 빠졌는지를 아무도 안 본다. 그리고 그건 몇 달이 지나서야, 필요한 게 없을 때 드러난다.

지금 구조에서 요약은 내가 메모리를 쓸 때 일어난다. 손이 가고, 그래서 눈에 들어온다.

통합에만 승인이 붙는 이유

넷 중 승인 게이트가 붙은 건 통합 하나다. 다른 셋에는 없다.

기준은 되돌릴 수 있는가다.

• 캡처는 붙이기만 하니 지우면 그만이다
• 적용은 읽기라 아무것도 안 바꾼다
• 감시는 알림만 보낸다
• 통합은 지운다. 그리고 지워진 메모는 되돌릴 방법이 없다

무엇을 지울지 정하는 건 판단이고, 판단이 틀렸을 때 틀렸다는 사실을 알 방법이 없는 종류의 판단이다. 그래서 여기만 사람이 본다.

적용은 왜 완전 자동인가

매 세션 메모리가 주입되는 건 자동이다. 판단이 없기 때문이다 — 파일을 읽어서 넣을 뿐이고, 무엇을 넣을지는 이미 정해져 있다.

여기서 배운 게 하나 있다. “자동화해도 되는가”는 빈도가 아니라 판단 유무로 정해진다. 적용은 하루에 수십 번 도는데 완전 자동이고, 통합은 주 1회인데 승인이 붙는다. 자주 도는 걸 자동화하고 싶어지는 게 자연스럽지만, 그건 기준이 아니다.

감시가 나머지 셋을 지킨다

감시는 아무것도 안 고친다. 읽고 알리기만 한다.

그런데 이 하나가 있어서 나머지 셋을 자동으로 둘 수 있다. 앞의 장치가 몇 달을 죽어 있을 수 있었던 이유가 “산출물이 없어도 아무 일도 안 일어나서”였고, 감시기는 정확히 그 구멍을 막는다.

멀티 PC 배려도 여기 들어 있다. 두 대에 다 등록해 두지만 지정한 한 대에서만 돈다. 안 그러면 같은 알림이 두 번 오고, 두 번 오는 알림은 곧 안 읽는 알림이 된다.