"애플 PCC·엔비디아 DGX까지"…기업용 '프라이빗 AI'가 바꿀 비즈니스 지형도

2027년 AI 기술의 핵심은 단순한 챗봇을 넘어 인간과 협업하는 'AI 에이전트'가 될 전망이다. 기업의 조직 구조는 에이전트와 협업하는 조직, 챗봇과 일하는 조직, 그리고 사람과 일하는 조직으로 재편될 것이라는 분석이 나온다. 티타임즈TV 영상에 따르면, 기업들이 보안과 비용 문제로 자체 AI 서버를 구축하는 '프라이빗 AI' 시대로 진입하면서 GPU와 데이터센터 관련 기업들의 역할이 더욱 중요해지고 있다. 특히 기업들이 각자 GPU를 보유하게 되면 빅테크의 판도 또한 변화할 것으로 보인다.

애플의 계층별 AI 전략, 온디바이스부터 프라이빗 클라우드까지

애플은 최근 시리(Siri)의 AI 기능을 강화하며 독자적인 AI 생계를 구축하고 있다. 영상 속 박종천 지란지교소프트 CAIO는 애플이 모델을 계층별로 나누어 운영하는 전략을 취하고 있다고 설명했다. 우선 온디바이스(On-device) 환경에서는 애플의 최신 칩셋인 A20 등을 활용해 경량화된 모델인 'AFM3 코어' 등을 통해 개인정보 유출 없이 기기 내부에서 대부분의 작업을 처리한다. 이 단계에서는 사진이나 텍스트 등 개인적인 데이터를 디바이스 밖으로 내보내지 않고 처리할 수 있다.

하지만 온디바이스만으로는 복잡한 연산을 처리하는 데 한계가 있다. 이를 해결하기 위해 애플은 '애플 프라이빗 클라우드 컴퓨팅(PCC)'을 활용한다. PCC는 애플이 직접 관리하는 데이터센터로, M5 Max와 같은 고성능 실리콘을 기반으로 구축되어 보안성을 극대화한 것이 특징이다. PCC에는 고급 서버용 실리콘인 CPU, GPU, NPU가 모두 섞인 데이터센터가 구축될 것으로 보인다. 출연자는 "애플이 주도권을 가지고 모델을 레이어별로 나눠 하드웨어와 클라우드를 섞어 쓰는 경험을 쌓는 것이 중요하다"며, 이러한 기술 스택이 향후 비즈니스용 시리 AI로 확장될 가능성을 시사했다.

이러한 애플의 전략은 기업용 시장에서도 시사점을 던진다. 기업들이 엔비디아의 DGX 스파크(약 1,000만 원대)와 같은 기기를 도입하거나, 맥미니(Mac mini)를 24시간 가동해 '토큰 공장'으로 활용하며 API 비용을 절감하는 사례가 나타날 수 있기 때문이다. 결국 개인용 AI가 온디바이스에서 애플 PCC, 그리고 구글 클라우드와 같은 클라우드 AI로 넘어가는 흐름이 기업의 프라이빗 AI 구축 전략과 맞물릴 것으로 보인다.

엔비디아의 모델 시장 진출과 중국 가성비 AI의 부상

AI 인프라 시장의 강자인 엔비디아의 행보도 변화하고 있다. 과거 GPU 공급에 집중했던 엔비디아가 최근 '네모트론 3 울트라'와 같은 AI 모델을 직접 선보이며 모델 시장에도 발을 들였다. 이는 기업들이 자체 GPU를 보유하고 프라이빗 AI를 운영할 때, 해당 하드웨어에서 최적의 성능을 낼 수 있는 모델을 직접 제공하려는 전략으로 풀이된다. 엔비디아가 직접 모델을 만드는 것은 GPU를 사용하는 기업들에게 강력한 생태계를 제공하기 위함이다.

이러한 흐름 속에서 중국 AI 모델들의 '가성비' 전략도 주목받고 있다. 영상에 따르면 중국의 'QN 3.8(27B)' 모델은 미국의 성능 좋은 모델과 대등한 성능을 내면서도, 하드웨어 요구 사양을 획기적으로 낮춰 비용 효율성을 극대화했다. 예를 들어 네모트론을 돌리기 위해 10억 원 규모의 기계가 필요하다면, QN 모델은 5,000만 원 규모의 기계에서도 구동이 가능하다는 분석이다. 미국의 GPU 제재가 오히려 중국 기업들로 하여금 저사양 하드웨어에서도 잘 돌아가는 고효율 모델 개발을 촉진하며, 성능은 유지하되 가격은 20분의 1 수준으로 낮추는 가성비 전쟁을 불러왔다는 분석이다.

기업용 AI의 핵심 과제, '데이터 보안 등급'과 권한 관리

기업이 AI 에이전트에게 모든 업무 권한을 부여하는 시대가 오면 보안 문제는 가장 큰 걸림돌이 될 전망이다. 출연자는 기업 내부 데이터의 보안 등급을 분류하는 체계의 필요성을 강조했다. 정부의 N2SF(데이터 보안 체계)를 인용하며, 데이터를 기밀(Classified), 민감(Sensitive), 공개(Open) 등급으로 나누어 관리해야 한다고 설명했다.

예를 들어 사장님은 모든 등급의 데이터에 접근할 수 있지만, 팀장은 민감(S) 등급까지, 일반 직원은 공개(O) 등급까지만 볼 수 있도록 권한을 제어하는 방식이다. 이때 AI는 사용자의 권한을 준수하면서도 업무를 지원해야 한다. 출연자는 "사용자가 권한이 없는 정보를 물었을 때, AI가 직접적인 내용은 알려주지 않더라도 업무에 도움이 될 만한 '힌트'를 제공하는 식의 지능형 보안 엔진이 미래 기업 보안의 핵심이 될 것"이라고 전망했다. 이는 사용자의 권한을 침해하지 않으면서도 AI가 데이터 간의 상관관계를 파악해 적절한 수준의 답변을 내놓는 고도화된 보안 기술을 의미한다.