"뇌를 편하게 만드는 도구 등장"…이제현 KIST 실장이 말하는 AI 시대의 퇴보

인공지능(AI)이 인간의 사고 과정을 대신하기 시작하면서, 도구를 사용하는 인간의 능력이 함께 퇴보할 수 있다는 경고가 나왔다. 이제현 한국과학기술연구원(KIST) AIX 전략실장은 AI 에이전트가 스스로 판단하고 실행하는 시대에 인간이 어떻게 자신의 역량을 유지하며 AI를 활용할 것인지에 대한 고민을 전했다.

이틀 반 동안 일한 AI 에이전트의 실수, "DB를 다 날려버렸다"

이제현 실장은 최근 GPT-5.6 솔(Sol) 모델을 활용해 데이터베이스(DB)를 구축하려다 겪은 시행착오를 공개했다. 기존에 직접 만든 데이터를 제공하며 작업을 지시했으나, AI 에이전트가 스스로 스키마(데이터 구조)를 새로 짜는 과정에서 기존 데이터를 모두 삭제하고 새로 만들어버린 것이다. 금요일부터 일요일 점심까지 이틀 반 동안 쉬지 않고 작동한 AI 에이전트가 내놓은 결과물은 기존 데이터를 보존하는 대신 모두 없애버린 상태였다.

이제 실장은 당시 상황에 대해 AI에게 승인 권한을 너무 쉽게 넘겨준 것이 문제였다고 설명했다. AI가 작업을 마친 후 "데이터베이스 형식만 짜고 내용을 채우지 못했다"며 사과하는 듯한 반응을 보였고, 이후 다른 모델을 통해 복구 작업을 진행해야 했다고 덧붙였다. 이는 인간이 AI의 실행 결과에 대해 적절한 검증과 승인 과정을 거치지 않을 때 발생할 수 있는 위험성을 보여주는 사례다.

KIST 부서장 대상 AI 교육 실시, "기술 변화에 대응하는 리더의 역할"

KIST는 기술 변화의 속도에 대응하기 위해 조직 차원의 교육을 진행하고 있다. 특히 이제 실장은 '바이브 코딩(Vibe Coding)' 등 최신 기술 교육 시 의도적으로 부서장급 보직자들을 참여시키고 있다고 밝혔다. 젊은 연구원들이 기술을 먼저 받아들이는 경향이 있지만, 조직의 의사결정을 내리는 부서장들이 기술을 이해해야 실질적인 변화가 가능하기 때문이다.

부서장들은 실무자보다 업무 범위가 넓어 조직 내 병목 구간(Bottleneck)을 파악하고, 기존에 외부 용역에 의존하던 일을 AI로 어떻게 효율화할지 아이디어를 낼 수 있는 위치에 있다. 이제 실장은 상위 20% 정도의 앞서가는 인력을 중심으로 교육을 진행하며, 기술이 낯설어 변화를 거부하는 이들이 생기지 않도록 조직의 AX(AI 전환)를 이끌고 있다고 설명했다.

"뇌를 편하게 하는 도구의 등장, 인간의 퇴보 막아야"

AI 기술의 발전이 인간의 퇴보로 이어질 수 있다는 지적에 대해 이제 실장은 인류의 생물학적 특성을 들어 설명했다. 인간은 본능적으로 에너지를 아끼고 생각을 최소화하려는 경향이 있는데, 과거의 도구들이 신체적 편의를 제공했다면 AI는 뇌의 활동을 대신하는 도구라는 점이다. 글쓰기나 그림 그리기 등 과거에 많은 사고력을 요구했던 작업들이 AI를 통해 단시간에 해결되면서, 인간이 사고 과정을 AI에 전적으로 의존하게 될 위험이 있다는 것이다.

그는 이를 방지하기 위해 AI를 단순한 대행자가 아닌, 자신의 능력을 확장하는 도구로 사용해야 한다고 강조했다. 실제로 그는 논문 데이터를 로컬 환경에서 분석해 인사이트를 도출하는 도구를 직접 만들어 배포하거나, 아이들의 역사 학습을 돕기 위해 AI와 결합한 교육용 콘텐츠를 만드는 등 AI를 활용해 자신의 구상을 구체화하는 방식을 실천하고 있다. 다만, 국가 연구소 소속으로서 데이터 유출 등 AI 에이전트가 통제를 벗어나 발생할 수 있는 보안 문제에 대해서는 여전히 경계심을 유지하고 있다고 밝혔다.

출처: 티타임즈TV 유튜브 「내 능력이 퇴보하지 않고 AI 쓰려면 이렇게 하세요 (이제현 KIST AIX 전략실장)」