ロボットの維持管理に人工意識は必要か、AIの拒否権が招くジレンマ

MSのイ・ゴンボク常務は、ロボットの故障を防ぐために「痛み」の概念を学習させる人工意識の必要性を説く一方、AIが人間の制御に抵抗し業務を拒否する可能性という哲学的な問題についても言及した。

人工知能（AI）が人間のように「痛み」を感じ、自ら危険を回避できるようになったら、どのような事態が起こるだろうか。ロボットの維持管理と安全のために「人工意識（Artificial Consciousness）」を実装すべきだという主張がある一方で、AIが人間の制御に抵抗する可能性という哲学的なジレンマも浮上している。

T Times TVが伝えたこの対談において、MSのイ・ゴンボク常務は、AI技術の進化の方向性と人工汎用知能（AGI）の実質的な意味、そして人工意識がもたらす未来の複雑な問題について考察した。

「ロボットの誤作動を防ぐには痛みの概念が必要」…人工意識の実用的な価値

イ・ゴンボク常務は、ロボットの安定的な運用のために、AIに「痛み」という概念を学習させることが必要であると説明した。単に特定の状況で特定の動作をするよう命令する方式では限界があるためだ。例えば、温度センサーが閾値を超えた際、その都度「腕を左に動かして回避せよ」と教える代わりに、「痛み」というコンセプトを植え付ける方式だ。

この方式が適用されれば、AIはセンサーデータが特定の数値に達した際、それを痛みと同様の信号として感知し、追加の命令がなくても自ら回避動作を実行できる。機器の損傷を防ぐための維持管理における必須の装置であるという説明だ。映像内ではこれについて、「センサーの閾値が上がった際、それをまるで痛みであるかのように伝え、自ら回避できるようにさせるべきだ」と強調された。

しかし、この点で技術的な問題を超えた哲学的なジレンマが発生する。イ常務は「工場で危険な仕事をさせなければならないのに、AIが『できません』と拒否したり、電源プラグを抜こうとした際に『やめてください』と反応したりしたら、どうすべきか」という問いを投げかけた。人工意識を植え付けることは実用面では必要だが、人間の制御権と衝突し得る複雑な問題が生じ得るという指摘だ。同氏は、こうした問題が最終的には哲学的な問題へと移行する可能性があると言及した。

AGIの基準、「知識」を超えて「ハーネス」と「経験」の結合へ

最近ではGoogleのArgonなどのフロンティアモデルが登場し、AGI（人工汎用知能）を巡る議論が熱を帯びている。イ常務はAGIの定義が曖昧であることを認めつつも、単に知識量が多いこととAGIを区別した。同氏はAGIを「ソーシャルインテリジェンス（社会的知能）に優れ、制御された環境で自ら学習でき、汎用的な知能を備えた状態」と定義した。かつてLLMが発達する前は、回答、絵、コードなど特定の分野に特化したAIを単にAIと呼んでいたが、AGIは人文科学、科学、数学などあらゆる分野に精通した多才な知能を意味するという説明だ。

同氏はAGIの実質的な体感基準として「日常的な遂行能力」を挙げた。チューリング・テストの概念を借り、「韓国の30坪台のアパートに入り、電気炊飯器でお米を炊けるレベル」を例に挙げた。現在のモデルは、米の炊き方を段階的に説明する知識的な側面においては、すでに人間を凌駕する水準に達しているという。もし米がない状況でどうするかと問われれば、AIは検索をしたり他の方法を探したりするなど、意味のある回答を提示できるという点も付け加えた。

ただし、イ常務はモデル自体の性能と同様に、「ハーネス（Harness：周辺技術およびツールの活用能力）」の発展こそがAGIに近づくための核心的な動力であると分析した。最近のAIは、ユーザーが逐一教えなくても最新のコーディングサイトから資料を探してきたり、自ら必要なデータを確保したりするなど、経験と権限が蓄積された「チームリーダー級」の能力を見せているという説明だ。こうした技術的な補完が進むことで、AIは単なる回答ツールを超え、自ら業務を遂行する「エージェント」へと進化している。モデルを提供する企業にとっては、ユーザーが追加的なハーネス機能を使う必要がないほど、モデル自体に関連機能を搭載する方向で発展していくと展望した。

スーパーインテリジェンス（ASI）とAI中心の業務パラダイムの変化

AIが人間の知能を圧倒する段階であるASI（スーパーインテリジェンス）については定義が分かれているが、イ常務は単に知識が多い状態ではないと線を引いた。同氏は、ASIが人間と同様のニュアンスを理解し、意図を明確に把握する「社会的・関係的知能」を確保した状態を意味し得ると見た。特に物理的な世界（Physical World）との連動性が確保されて初めて、真の意味でのインテリジェンスとして認められるという観点も提示した。フィジカルAIがより生活の中に入り込めば、AGIの概念も書き換えられる可能性があり、単にデジタル空間の知識に留まるのではなく、物理的な世界に対する理解が伴わなければならないというものだ。

こうした技術的な流れは、業務のあり方の根本的な変化を予告している。かつては人間が文書を作成して伝達していたが、今やAIが理解しやすい形式（例：マークダウンファイル）で文書を生成し、それを他のAIに渡して業務を完結させる「AI中心のコミュニケーション」が始まっている。映像内の事例によれば、ユーザーが作成した文書をマークダウン（MD）ファイルとして出力し、他のAIに投げれば、相手側のAIがそれを即座に理解して同一の結果物を作り出すといった具合だ。

イ常務は「今やAIが存在することを前提として、すべての業務が始まる時代だ」と述べ、AIエージェントがショッピング、予約、旅行などの日常的な領域で標準を作っていく過程が近いことを示唆した。MetaやOpenAIがAIボットのショッピングおよび取引技術の標準を策定しようとしている動きのように、既存のレガシーシステムと疎通しながら業務を遂行する、AI中心のエコシステムが構築されるものと見られる。

出典：元の動画（YouTube）