コンテキスト容量の20%を奪う見えない税金。Cloudflareが開発したAI向け外部記憶装置

Cloudflareは、大規模言語モデルのコンテキストウィンドウの限界と「コンテキストロット」問題に対処するため、AIエージェント向けマネージドサービス「Agent Memory」を発表した。このサービスは、会話データを外部に保存し必要な情報のみを抽出・検証・分類・取得する非同期ストレージと、タスクに応じて170億と1200億パラメータのモデルを使い分けることで、応答品質の劣化を防ぎつつ効率的な記憶管理を実現する。