次の一歩
はじめの一歩には順番がありました。ここにはありません。困っている場所から入る地図です。
記事そのものはコラムの中にあります。このページは、それを段階で並べ直しただけのものです。
エージェントと、長く付き合う
使い続けるかぎり、どこかで当たります。任せる量が増えるほど効いてくる話です。
トークンが溶ける前に
使い込むほど、上限に当たる回数が増えます。いちばん最初に来る壁です。
AIエージェントのトークン消費を減らすコツ
毎回、会話の全部が読み直されています。その一点が腑に落ちると、clearもcompactも計画モードも、全部ひとつの話に見えてきます。1時間あけて戻ると最初の一言が20倍になることと、clearを打つ間隔の目安は、手元の37,582回のやり取りを集計して確かめました。
- 実践
トークン節約のためのモデル選び
エージェントに何でも聞いていいけれど、トークンは有限。簡単な質問と難しい作業でモデルを使い分ける考え方。
サブエージェントで、トークンが一瞬で溶ける
調べ物を別働隊に投げると、本体の会話は汚れません。ただし総量は別の話です。それぞれが自前の文脈を持ち、しかも本体と同じモデルで走るので。
- 実践
- つまずきどころ
できあがったものを、確かめる
動いたかどうかと、正しいかどうかは別物です。
毎回の手間を減らす
同じことを毎回聞かれている、毎回説明している、と気づいたら。
作りたいものへ、手を伸ばす
ここからはエージェントの話ではなく、何を作るかの話です。面白そうなところからどうぞ。
世に出す
作ったものを、自分の外へ。
どこからでも作業する
机の前だけでなく作業したくなったら。
仕組みを知る
急ぐ話ではありません。知っていると、勘が働くようになります。
LLMの中身
上から順に、前の記事が次の前提になります。
そもそもLLMって何？
「生成AI」の正体は、次に来る言葉を当てる装置です。たったそれだけのことが、なぜ翻訳も要約もプログラムもこなせてしまうのか。
なぜLLMは、こんなに何でもできるのか
トークン、Transformer、事前学習と事後学習、そして「文章を出力するだけの装置」がなぜファイルを書き換えられるのか。基本編の一歩先へ。
- 深掘り
言葉が数字になるまで——ベクトルと、意味の学習
「犬」という文字を、どうやって計算できる数字に変えるのか。そして「犬と猫は近い」を、誰も教えていないのに、どうやって学ぶのか。
- 深掘り
AttentionとTransformer——LLMの中で実際に起きている計算
「周りの語を見ている」で終わらせずに、その一段下へ。クエリ・キー・バリューという3つの役割、8つの視点、そして「長い会話ほど高くつく」の正体。
- 深掘り