인젠트, AI 시대 API 운영 전략 웨비나 성료…트래픽 관리 방안 소개

AI·데이터 플랫폼 기업 인젠트가 지난 21일 'API가 감당할 수 있는 속도로 AI 트래픽을 설계하다'를 주제로 웨비나를 열고 AI 환경에서의 API 운영 전략과 트래픽 관리 방안을 공유했다.

이번 웨비나는 채널온티비 '잇츠맨'을 통해 진행됐으며, 인젠트 노희환 수석과 협력사인 에스티씨랩(STCLab) 김하동 공동대표 겸 CTO도 함께 자리했다.

발표에서는 AI 서비스 확산으로 하나의 요청이 여러 시스템을 연속 호출하는 사례가 증가하면서 트래픽 흐름을 예측하기 어려워지고 있다는 점을 다뤘다. 이러한 환경에서는 단순히 요청을 차단하는 방식보다 시스템 처리 용량에 맞춰 트래픽을 조절하는 운영 방식이 중요해지고 있다고 설명했다.

노희환 수석은 API 관리 플랫폼 'INZENT APIM'을 소개하며, API 접근 권한 관리와 이용 현황 모니터링, 과도한 요청 제어 등을 통해 서비스 운영 안정성을 높일 수 있다고 설명했다.

또한 고정된 정책만으로는 급변하는 트래픽 상황에 대응하기 어렵다는 점을 언급하며, 에스티씨랩의 실시간 트래픽 제어 솔루션 '넷퍼넬(NetFUNNEL)'을 함께 활용하면 대규모 이벤트나 AI 서비스 확산으로 발생하는 트래픽 증가 상황에도 보다 유연하게 대응할 수 있다고 전했다.

인젠트 이형배 대표는 "AI 서비스 확산에 따라 트래픽을 일률적으로 차단하기보다 시스템이 처리할 수 있는 범위 안에서 안정적으로 분산·관리하는 방식이 중요해지고 있다"며 "이번 웨비나에서는 이러한 API 운영 방향과 관련 기술을 소개했다"고 말했다.