# 부리기 > AI에 일을 시키는 쪽 이야기. 루프, 가드, 그리고 자동화하지 않기로 한 것들. - 수치: 글 2 - 사람이 보는 화면: https://aitryed.com/ko/writing/agents/ - 반대 언어: https://aitryed.com/en/writing/agents/index.md - 이 사이트 안내(AI용): https://aitryed.com/ko/llms.txt --- **AI에게 일을 시키는 쪽 이야기입니다. 무인으로 굴리면 사고는 «요란하지 않게» 옵니다.** ## 사고가 어떻게 오나 AI를 사람 없이 돌려 두면, 문제가 생길 때 **빨간 오류로 오지 않습니다.** > **「빈 성공」으로 옵니다.** 「완료했습니다」라고 말하는데 **실제로는 아무것도 안 한** 상태입니다. 오류 기록은 깨끗하고, 결과 화면도 정상입니다. 그리고 **며칠 뒤에** 「어? 그거 안 됐네」로 발견됩니다. ## 그래서 관심사가 「똑똑하게」가 아닙니다 보통 AI 자동화를 만들 때 **더 잘하게** 만들려고 합니다. 이 칸의 관심은 다릅니다. > **실패를 «실패처럼 보이게» 만드는 쪽.** 잘하는 것보다 **못했을 때 티가 나는 게** 먼저입니다. 못했는데 티가 안 나면, **잘하는지 못하는지 알 방법이 없습니다.** ## 그런데 반대편도 있습니다 안전하게 만든다고 **매번 멈춰서 물어보게** 하면 어떻게 될까요. | | 결과 | |---|---| | 전부 물어봄 | **사람 하루를 쓰고 아무것도 안 삼** | | 아무것도 안 물어봄 | **조용한 실패** | 둘 다 나쁩니다. 그래서 **어디서 멈추고 어디서 그냥 갈지**를 가르는 게 실제 일이 됩니다. 그리고 그 기준은 대개 「되돌릴 수 있나」입니다. 되돌릴 수 있으면 그냥 가고, 못 되돌리면 멈춥니다. ## 쓴 글 | 글 | 무엇이 문제인가 | |---|---| | **에이전트는 실패할 때 조용하다** | **성공으로 끝난 실패**를 무엇이 잡아내나 | | **무인 회귀는 성능이 아니라 복구 구조가 만든다** | 사람이 안 볼 때 **어떻게 살아남나** | ## 아직 안 쓴 것 - **승인 게이트가 실제로 몇 번 발동했나** — 안 세고 있습니다 - **대충 눌러서 통과한 것과 정확히 눌러서 통과한 것**을 결과 보고에서 어떻게 가를 것인가 - **재시도 상한을 몇으로** 잡을 것인가, 그리고 **상한에 닿았을 때 무엇을 남길 것인가** ## 여기부터는 자세한 기록입니다 에이전트를 무인으로 굴리면 사고는 대개 요란하지 않다. 예외로 오지 않고 **빈 성공으로 온다.** 그래서 이 분류의 관심은 똑똑하게 만드는 쪽이 아니라 **실패를 실패처럼 보이게 만드는 쪽**이다. 그리고 그 반대편 — 안전하려고 매번 멈춰 세우면 사람의 하루를 쓰고 아무것도 안 산다. ## 쓴 글 | 글 | 무엇이 문제인가 | |---|---| | [에이전트는 실패할 때 조용하다](/ko/writing/agents/silent-success/index.md) | 종료 코드 0으로 끝난 실패를 무엇이 잡아내나 | | [무인 회귀는 성능이 아니라 복구 구조가 만든다](/ko/writing/agents/unattended-regression/index.md) | 사람이 안 볼 때 루프가 어떻게 살아남나 | ## 아직 안 쓴 것 - 승인 게이트가 실제로 몇 번 발동했나 — 안 세고 있다 - 좌표로 대충 눌러 통과한 것과 정확히 눌러 통과한 것을 리포트에서 어떻게 가를 것인가 - 재시도 상한을 몇으로 잡을 것인가, 그리고 상한에 닿았을 때 무엇을 남길 것인가 - 한 저장소에서 배운 가드를 옆 저장소로 옮기는 일을 왜 매번 잊는가 ## 이 분류의 규칙 **자동화의 경계는 능력이 아니라 되돌릴 수 있느냐로 긋는다.** 할 수 있는지를 기준으로 삼으면 경계가 계속 밀리고, 밀린 자리는 사고가 나기 전까지 아무도 안 본다. 그리고 **애매하거나 실패하면 안 하는 쪽이 기본값이다.** 목록에 없는 새 상황이 생겼을 때 어디로 갈지를 이 한 줄이 정한다.