「6.52秒から0.3秒へ」…判断中心の「System 1 Model」が変えるAIソフトウェア

人工知能（AI）が単に人間と対話しながら長い文章を生成する段階を超え、ソフトウェア内部でリアルタイムに判断を下す「System 1 Model」の時代が開かれようとしている。従来の巨大言語モデル（LLM）が回答を完成させるために長い推論過程を経ていたのに対し、新しいタイプのモデルはプログラムが即座に活用できる確率と選択肢を返し、ソフトウェアのユーザビリティを根本的に変える見通しだ。

「6.52秒待機していたゲーム、0.3秒で行動を解釈」…速度が分けたユーザー体験

最近「アンデル工学 - ITテクノロジー新技術」チャンネルで公開されたデモンストレーション映像によると、AIモデルの判断速度がソフトウェアの実質的な活用度を決定づける核心要素として浮上している。映像では、テキストベースのRPGゲーム開発の事例を通じて、AIの判断速度の差がもたらす変化を具体的な数値で示している。

従来の構成において、ユーザーの文章をキャラクターの行動として解釈するのにかかる時間の中央値は6.52秒だった。しかし、TypeSafe AIが公開した「Jev」モデルを適用した場合、この時間は0.317秒へと大幅に短縮された。映像では「ユーザーが一度動くたびに6秒以上待たなければならないゲームと、0.3秒で行動を解釈するゲームでは、使用感が変わるのは当然だ」と分析している。

このような速度の革新は、単に「速い回答」を意味するものではない。AIがゲームの障害物回避、執筆中の文章のトーンおよび感情評価、SNSフィードのフィルタリングなど、リアルタイムに頻繁に呼び出される必要がある機能に投入できることを示唆している。従来のモデルではコストと時間の問題で実装が困難だった機能が、AIの「速くて安価な判断」を通じて、ソフトウェアの基本機能として統合され得るということだ。

文章生成の代わりに「確率」と「選択肢」を返却…並列処理で効率を極大化

TypeSafe AIが開発した「Jev」モデルは、従来のLLMとは技術的な志向点が異なる。一般的な自己回帰（Autoregressive）モデルが前のトークンに基づいて次のトークンを逐次的に生成する方式であるのに対し、Jevは開発者があらかじめ定めた質問と答えの形式に従って、確率値を即座に算出するように設計されている。これは、あたかもプログラム内部で動作する「判断関数」のような役割を果たす。

映像によると、Jevの核心的な差別化ポイントは大きく分けて3つある。第一に、回答文章を生成する代わりに「真（True）」である確率、「選択肢（Choice）」の中から一つを選ぶ形式、順序のある尺度で評価する「スコア（Score）」を返却する。例えば、特定のコメントがユーザーの意図に合致するかどうかを問うた場合、長い解説の代わりに該当する判断の確率値を即座に提示する。

第二は並列処理能力だ。従来のモデルは質問を一つずつ処理しなければならない場合が多いが、Jevは一つの入力に対して複数の質問を同時に投げかけ、その答えを並列で算出することができる。これにより、顧客からの問い合わせが返金リクエストなのか、単純な不満なのか、追加確認が必要なのかを一度に評価し、プログラムの待機時間を短縮する。

第三は確率の信頼度管理だ。同社は、予測した確率が実際の結果と一致するように作る「RLCD」学習方法を使用していると説明した。モデルが出した確率が曖昧な場合（例：52%）、プログラムコードがこれを認識して追加情報を収集したり、人間に確認を促したりするなど、精巧な制御が可能となる。

ブラウザ操作からエディタまで…AIの判断がアプリの「あらゆる瞬間」に浸透する

このような判断中心のAIの活用は、ウェブブラウザの操作のような複雑な作業においても現れる。「Browser Use」チームが公開した事例によると、航空便の検索過程において、AIはウェブページのボタンと入力欄を読み取り、選択肢問題の形式へと変換する。その後、Jevモデルがどのような動作をするか番号を選ぶ方式で動作し、約7秒で航空便の検索結果を導き出した。すべてのクリックに長い推論が必要なわけではないため、「速い判断」が必要なことはJevが、 「新しい文章生成」が必要なことは別の生成モデルが担うという役割分担が行われる。

今後、このような技術が発展すれば、ユーザーが別途AIに質問を投げかけるプロセスを経ることなく、作業する瞬間にAIの判断がリアルタイムに付随する形態のソフトウェアが登場するものと見られる。文章を書くときに約束を守っているかをエディタがリアルタイムで指摘したり、SNSフィードでユーザーが設定した条件に従って投稿が自動的に折り畳まれたりするような形だ。

ただし、映像では技術的な限界も明示された。モデルが提供する「形式の保証」が、直ちに「正解の保証」を意味するわけではなく、判断が速くなったとしても、画面を認識し、実際に実行し、エラーを復旧する設計技術が今後の重要な課題になると展望した。現在、Jevの価格は100万トークンあたり0.04ドル水準に設定されている。