AI 에이전트를 활용하며 겪은 일
#AI#자동화#승인#검증
자동화를 만들 때 사람의 확인이 필요한 지점
2026.11.03
반복 작업을 자동화하면서 어디까지 맡길 수 있는지 고민했다. 정보를 모아 변경을 제안하는 것과 실제 상태를 바꾸는 것은 다르게 다뤄야 했다.
도구가 만든 후보를 사람이 살펴보는 단계가 있고, 미리 정한 조건 안에서 처리하는 단계도 있다. 중요한 건 어떤 범위까지 허용됐는지와 실제로 무엇이 처리됐는지를 확인할 수 있어야 한다는 점이었다.
제안과 실행을 나눠 봤다
변경할 내용을 미리 보여 주면 사람이 근거를 살펴볼 수 있다. 실제 실행 전에 범위를 확인하고, 실행 후에는 결과를 다시 읽어 보는 과정도 필요하다.
자동화가 완료라고 보고한 것만으로 실제 상태까지 확인됐다고 볼 수는 없다. 보고와 결과가 맞는지 살펴야 한다. 특히 변경이 외부 서비스에 영향을 준다면 어떤 항목을 처리했는지 남겨 두는 편이 좋다.
규칙을 정하는 것만으로 끝나지 않았다
사전에 정한 조건도 적용 대상과 예외가 분명해야 한다. 사람이 검토할 항목과 정해진 규칙 안에서 처리할 항목을 섞으면 나중에 무엇이 승인됐는지 알아보기 어려워진다.
나는 자동화가 할 수 있는 일을 늘리는 것만큼 멈춰야 할 지점을 정하는 것도 중요하다고 생각하게 됐다. 어디까지 동작을 확인했는지는 따로 기록하고, 확인하지 못한 부분은 완료라고 말하지 않으려고 한다.