에이전트에게는 잃을 평판이 없다

Simon Willison의 최근 글에는 특히 주목할 만한 한 문장이 있습니다. "나는 이제 에이전트가 짠 프로덕션 코드를 한 줄씩 보지 않는다." 이와 같은 상황은 이제 어느 팀에서나 흔하게 나타납니다.

흐려진 경계

Simon은 그동안 두 가지 방식을 구분해 왔습니다. vibe coding 은 코드를 확인하지 않고 결과만 받아서 사용하는 방식입니다. agentic engineering 은 25년 동안 축적한 판단력을 그대로 적용하면서 AI 도구를 다루는 방식입니다. 전자는 개인적인 용도의 도구에 한해서만 받아들일 수 있고, 후자는 프로덕션 환경에서도 책임을 질 수 있는 방식이라고 설명했습니다.

경계가 흐려지는 이유는 단순합니다. 에이전트가 맡은 일을 충분히 잘 처리하기 때문입니다. JSON API 엔드포인트 하나에 SQL 쿼리를 연결하고 그 결과를 직렬화하는 작업을 Claude Code가 실수 없이 완료합니다. 테스트도 함께 작성합니다. 문서도 함께 작성합니다. 그래서 Simon도 어느 순간부터 그 코드를 한 줄씩 들여다보지 않게 되었습니다.

Simon은 이 변화를 다음과 같이 비유했습니다. 다른 팀이 만든 이미지 리사이즈 서비스를 사용할 때, 우리는 그 팀의 git repository를 한 줄씩 읽지 않습니다. 문서를 확인하고, 함수를 호출하고, 그 위에 우리 기능을 구현합니다. 이상 징후가 나타났을 때에만 내부 구현을 확인합니다. 에이전트도 이와 같은 방식으로 다루게 되었다는 뜻입니다.

그런데 에이전트에게는 잃을 것이 없습니다

다른 팀은 일을 잘못 처리하면 잃는 것이 있습니다. 그동안 축적해 온 평판 입니다.

우리가 옆 팀의 코드를 일일이 읽지 않고도 사용할 수 있는 이유는, 그 팀이 일을 잘못 처리하면 평판이 훼손되기 때문입니다. 어떤 팀이 지난 분기에 견고한 서비스를 출시했다면, 이번 분기에도 비슷한 결과를 낼 것이라고 약하게나마 기대하게 됩니다. 그 팀이 다음 분기에도 같은 자리에서 계속 일하기 때문입니다.

에이전트는 이런 평판을 축적하지 않습니다. Simon 본인도 이 점을 지적했습니다. Claude Code에는 잃을 평판이 없고, 스스로 수행한 일에 책임을 질 수도 없습니다. 그런데도 에이전트에 대한 신뢰는 점점 두터워집니다. 매번 결과가 좋기 때문입니다. 그렇게 축적된 경험이 다음번에도 결과가 좋을 것이라는 가정으로 이어집니다.

Simon은 이런 현상을 "정상화된 일탈"이라고 부릅니다. 챌린저호 폭발 사고를 초래한 바로 그 메커니즘입니다. 작은 위반이 매번 아무 문제 없이 지나가면, 그 위반이 새로운 기준선으로 자리 잡습니다. 리뷰 없이 머지한 PR이 한 번도 사고를 일으키지 않았다면, 실제로 사고를 일으킬 PR을 마주쳤을 때 멈춰 설 이유를 찾지 못하게 됩니다.

그 빈자리는 사용 시간이 채웁니다

무엇이 평판의 역할을 대신할 수 있는지에 대해서는 Simon의 글에 단서가 있습니다.

Simon은 다른 단락에서 한 가지를 더 지적합니다. 이제 commit 100개와 잘 정리된 README까지 갖춘 GitHub 저장소를 30분 만에 만들어 낼 수 있는 시대라는 것입니다. 겉으로 드러나는 신호만으로는 실제로 견고한 프로젝트와 방금 만들어 낸 프로젝트를 구분하기 어렵습니다. 그래서 그가 더 신뢰하는 단서는 하나뿐이라고 했습니다. 누군가가 그 프로젝트를 2주 동안 매일 사용해 보았는지 여부입니다.

결국 평판을 대신하는 것은 사용 시간 입니다.

이 논리는 우리가 머지하는 PR에도 그대로 적용됩니다. 에이전트가 작성한 함수를 리뷰 없이 머지한다면, 적어도 그 함수를 며칠은 직접 호출해 본 상태여야 합니다. 단위 테스트가 통과했다는 것은 코드가 오늘 작동한다는 뜻이지, 내일 작동한다는 뜻이 아닙니다. 며칠 동안 다양한 입력을 넣어 시험해 본 경험만이 그 간극을 메워 줍니다.

이 원칙은 개인적인 용도의 도구에서 가장 또렷하게 드러납니다. 사이드 프로젝트는 매일 직접 사용하는 동안 다듬어지지 않은 부분이 모두 드러나기 때문입니다. 프로덕션 시스템에는 한 가지가 더 필요합니다. 사용 시간이 곧 트래픽으로 환산되는 환경, 즉 점진적 롤아웃과 관찰성입니다. 카나리 배포에 트래픽 5%를 며칠 동안 통과시켜 보는 일도 또 다른 형태의 코드 리뷰입니다.

머지 버튼을 누르기 전에 스스로 던져야 할 질문이 하나 늘어난 셈입니다. 이 코드를 직접 며칠이나 사용해 보았는가? 그 답이 0일이라면, 결국 그것은 다시 vibe coding입니다.