용이가 놓친 건 기능이 아니었습니다. 그가 놓친 건 조건이었습니다. 여기서 말하는 조건이란 부하가 걸렸을 때의 성능, 장애 상황에서의 동작 같은 시스템 수준의 요구사항입니다. 이런 조건들은 단순 기능 테스트에서는 알 수 없는 영역입니다. 용이는 시스템을 통해 동작하는 순간에 대한 조건 검증을 놓쳤습니다. 정확히 말하면, 이런 조건을 고려한 구현 자체가 빠져 있었습니다. 왜 그랬을까요? 이유는 의외로 단순합니다.

AI는 사용자의 요구대로 기능을 만들었기 때문입니다. AI에게 “분배 기능 만들어 줘”라고 하면, AI는 분배 로직을 충실히 구현합니다. 하지만 “동시 접속자가 1,000명이면 어떻게 해야 하지?”, “응답 시간이 3초를 넘으면 안 되는데?”, “특정 파드가 죽으면 어떻게 우회하지?” 같은 질문을 스스로 던지지는 않습니다. 명시적으로 요청하지 않는 한, AI는 기능 구현에만 집중합니다.