「脳を楽にする道具が登場」イ・ジェヒョンKIST室長が語るAI時代の人間の退歩

AI（人工知能）が人間の思考を代行し始めるなか、人間が道具を使いこなす能力も低下しかねないとの警鐘が上がった。KISTのAIX戦略室長、イ・ジェヒョン氏は、AIエージェントが自ら判断して実行する時代に、人間が自分の能力を保ちながらAIを活用する方法を考える必要があると語った。

2日半稼働したAIエージェントがデータを消去

イ室長は、GPT-5.6 Solを使ってデータベース（DB）を構築しようとした際の失敗を明かした。自ら作成した既存データを渡して作業を指示したところ、AIエージェントはスキーマ（データ構造）を独自に組み直す過程で、既存データをすべて削除して新たに作り直した。金曜日から日曜日の昼まで2日半、休まず稼働したエージェントの成果は、既存データがすべて失われた状態だった。

イ室長は、AIに承認権限を簡単に渡しすぎたことが問題だったと説明した。作業後、AIは「データベースの形式だけを作り、内容を埋められなかった」と謝罪するような反応を示したという。その後、別のモデルを使って復旧作業を進める必要があったと述べた。AIの実行結果を人間が適切に検証、承認しない場合に起こり得るリスクを示す事例だ。

KISTの部門長向けにAI教育

KISTは技術変化の速さに対応するため、組織として教育に取り組んでいる。イ室長は、Vibe Codingなど最新技術の教育に部門長級の役職者を意図的に参加させていると明かした。若手研究者が先に技術を取り入れる傾向がある一方、組織の意思決定を担う部門長が技術を理解してこそ、実際の変化につながるためだという。

部門長は実務担当者より広い業務を把握しており、組織内のボトルネックを見つけ、従来は外部委託に頼っていた業務をAIでどう効率化するか考えられる立場にある。イ室長は、先行する上位約20％の人材を中心に教育を行い、技術になじみがないために変化を拒む人が出ないよう、組織のAX（AI転換）を進めていると説明した。

AIを能力を広げる道具として使う

AIの発展が人間の退歩につながる可能性について、イ室長は人間の生物学的特性を挙げて説明した。人間には本能的にエネルギーを節約し、考えることを最小限にしようとする傾向がある。従来の道具が身体的な便宜をもたらしたのに対し、AIは脳の働きを代行する道具だという。文章や絵を作るなど、以前は多くの思考力を要した作業がAIによって短時間で済むことで、人間が思考の過程をAIに全面的に委ねる危険があると指摘した。

これを防ぐため、AIは単なる代行者ではなく、自分の能力を広げる道具として使うべきだと強調した。イ室長は実際に、論文データをローカル環境で分析して知見を得るツールを自ら作成、配布したり、子どもたちの歴史学習を助けるためにAIを組み込んだ教育コンテンツを作ったりして、自分の構想を形にしている。一方、国家研究所に所属する立場として、データ流出など、AIエージェントが制御を外れて起こす可能性のあるセキュリティ問題には、引き続き警戒していると述べた。

出典：元の動画（YouTube）