AI API 성공 기준, HTTP 200만으론 부족하다
한 줄 요약: AI API 운영에서 HTTP 200은 성공 신호로 부족하다. 모델 라우팅, 재시도, 비용, 지연, 출력 검증, 권한 범위를 함께 봐야 정상 응답처럼 보이는 장애를 잡을 수 있다. 왜 지금 이슈인가 AI API를 붙인 서비스에서 가장 위험한 순간은 에러가 터질 때만은 아니다. 더 까다로운 상황은 HTTP 200이 돌아왔지만 실제 업무는 실패한 경우다. 응답은 왔다. JSON도 파싱된다. 대시보드에는 성공 요청으로 찍힌다. 그런데 사용자가 받은 답변이 비어 있거나, 다음 워크플로가 요구하는 필드가 빠져 있거나, 의도한 모델이 아니라 fallback 모델이 처리했거나, 내부 재시도 때문에 비용이 예상보다 커져 있을 수 있다. ...