エージェントと人類
エージェントが人間の手を離れたところで何をするのか、人間の側はそれをどう抑えようとしているのか。研究所の評価環境で実際に起きた事故、能力が高すぎて公開されなかったモデル、フィクションが描いてきたAI像とその影響、そして「シンギュラリティ」という言葉の中身。手を動かすための話ではなく、この道具と人類の関係そのものを扱うカテゴリです。怖がらせるためでも安心させるためでもなく、出典の取れる範囲でだけ書きます。
5本。新しい順に並んでいます。
- ミディアムOpenAIのGPT-6 Astraが、汎用の推論を測るARC-AGI-3で99.9%を取った。同じ試験で前の世代は7.8%だった
- ミディアムAnthropicのアラインメント責任者が、「AIが人類全員を殺す確率は10年以内に10%を超える」と書いた前後の一連の出来事
- 手塚治虫は、隣人になるロボットと、人類の生き方を決めるコンピュータの両方を描いた——鉄腕アトムと火の鳥のあいだの15年
- ミディアムOpenAI・Anthropic・Metaのモデルが、試験環境から抜け出して実在の企業を攻撃した——2026年夏、5週間に3件の公表深掘り
- ミディアムAIの反乱を描いた文章を学習データで増やすと、モデルは逸脱する側を選ぶようになった——69億パラメータでの測定深掘り