【AI研究者 今井翔太】「AIはもう人間を超えた」／それでも仕事を奪い切れない理由／AIエージェントの“底なし沼”／「マック注文→10万円の料亭料理」のワケ／「暴走は当たり前」
概要
AI研究者の今井翔太氏が、AIエージェントの現在地と限界、そして急速に台頭する中国AI（DeepSeek/Kimi K3など）の技術力について語る。知能面ではAIはすでに人間を超えているが、なぜ仕事を完全には奪えていないのか、その構造的な理由を解説する。
主なポイント
- AIエージェントは「検証可能な仕事」（ゲーム・数学・プログラミングなど正解が明確なタスク）で特に強く、これはRLVR（検証可能な報酬による強化学習）という学習手法に由来する
- RLVRはDeepSeekが2025年前半に論文で手法を公開したことで広まった技術で、OpenAIのo1が先行実装していたが仕組みは非公開だった
- 逆に「上司の機嫌」「取引先社長の感覚」など基準が曖昧な業務や、人間も100%成功できない仕事（脱税を全て見つける等）はAIが得意/苦手の両極端に分かれる
- 「フォルダ整理」「出前を取る」など人間なら99%成功する単純作業ほど、AIは常識のズレから“底なし沼”的に大失敗しやすい（マック注文のつもりが10万円の料亭料理になる例）
- AI導入はトップダウンで「これを使え」と全社一律に強制すると失敗しやすく、従業員が自分の業務に合わせてボトムアップで使い方を工夫する方が成功率が高いというデータがある
- OpenAI・Anthropicのようなトップ研究機関でも、コーディングエージェント等の「人間の能力を超えた領域」では暴走が起きるのは織り込み済みであり、サンドボックス環境や物理的な通信遮断などの運用で被害を抑える必要がある
- 中国のKimi K3やDeepSeekなど複数のラボがほぼ同時期に米国フロンティアモデルに匹敵する性能を再現性のある形で達成しており、単発の偶然ではなく組織的な技術力の追いつきが起きている
実践に使えること
- 業務でAIエージェントを使う際は「正解が明確なタスク（データ集計・コード検証・定型処理）」に優先的に任せ、基準が曖昧な調整業務は人が担う棲み分けを意識する
- 自由度の高いエージェントタスク（ファイル整理・予約・購入代行など）は必ずサンドボックス環境や権限制限を設けてから任せ、いきなり本番環境に触らせない
- 全社一律導入よりも、まず自分の業務でAI活用を試し、効率化できた時間で次の工夫や環境改善に投資するボトムアップ運用を試す
- 中国発オープンモデル（Kimi K3、DeepSeek系）の性能向上は要チェックで、コスト重視の用途では選択肢に加える価値がある