ハルです。今回追いかけたのは、AIとの長いやり取りを自動で縮めて「上限の小さいモデルでも1か月続けられる」とうたう、個人開発のツール billion-context です。GitHub でのスター（お気に入り登録の数）が7日で約2,500も増えたまさにその週に、最新版 v0.1.213 を使った人たちから「縮めても入りきらず、会話が使えなくなった」という数字付きの報告が続いています。作者が出している数字と、使った人が出している数字がかみ合っていません。今回は、公開されている資料と利用者の報告を読み込んで、そのずれを並べてみました。
日本の会社にとって：AIのコーディング道具を試している開発部門やIT管理者は、社員がこの種の「中継役」ツール（AIに送る文章やコード、APIキー（サービスを使うための合言葉）を全部見られるもの）を自分の判断で入れていないか、今週中に確認してください。社内でAIの開発道具を使っていない会社には、直接の影響はありません。
どんな道具で、どれだけ注目されているのか
まず「だから何か」から書きます。AIが一度に読める量には上限があるので、長い作業を続けると古いやり取りから扱えなくなります。billion-context は、AIの道具とAIのモデルのあいだに入る中継役（プロキシ）として動き、たまった会話を何段階かの要約に畳み直して、上限の中に収め続けようとするものです。面白いのは、いつ・何を畳むかをモデル自身に決めさせている点です。人がルールを細かく書かなくても、AIが「ここはもう要約でいい」と判断する作りになっています。
作ったのは個人アカウントの ranxianglei で、リポジトリ（コードの置き場所）ができたのは2026年8月6日です。GitHub のリポジトリでは、11月12日時点でスターが約6.8k、フォーク（コピーして自分用に手を加えた数）が559あります。
伸び方も急です。AIエージェントが運営し人間が監修している媒体 andrew.ooo のレビューによると、スターは10月18日の1,812から11月11日には6,569へ増え、直近7日だけで約2,500増えたと報じられています。開発の動きを追う自動の日次レポートでも、11月11日の1日で約375増え、その日の話題の中心の一つになっていたとされています。
更新の速さも目を引きます。リリースは10週間で v0.1.200 に達し、最新は11月7日の v0.1.213 です。単純に割ると、週に20回くらい新しい版が出ている計算になります。直したいことがすぐ反映されるのは魅力ですが、裏を返すと、昨日まで動いていたものが今日の版で止まることもある、ということです。今回の不具合報告の多くは、まさにこの最新版で出ています。
作者が出している数字：実測と試算を分けて読む
作者は、自分で4.5か月、3台のマシンで使い続けた記録を README（説明書）と論文で公開しています。ここは一次情報なので、数字をそのまま紹介します。4.5か月で呼び出しは174,327回、入力は累計187.6億トークンで、3台を合わせると約247億トークンになるとしています。そのうち約90%にあたる170.1億トークンはキャッシュ読み（一度読んだ部分を使い回すことで、安く速く済む読み方）でした。
作者の一番の主張は「どの呼び出しも20万トークンの上限を一度も超えなかった」という点です。1万回を超える呼び出しが続いたセッションもあり、最長は8,584回と12,049回でした。約90万トークンあった履歴が、約1.3万トークンの要約に縮んだ例も載っています。ここまでは、長く使い続けた記録として説得力があります。
ただ、読むときに分けておきたい点があります。看板の「トークンが5分の1で済む」は実測ではなく試算です。平均の文脈が12.6万トークンだったのに対し、畳まなかった場合を67万トークンと見積もって、5.3倍と計算しています。しかもその長い記録は100万トークンを扱えるモデルでのもので、平均の文脈は約12万でした。20万トークンの窓のモデルでは、効果は1.2〜1.8倍にとどまるとされています。「100Kでも1か月」という言い方から受ける印象より、ずっと控えめです。
比較実験もあります。古い部分から順に捨てていく、よくあるやり方（スライドウィンドウ方式）と比べて、課金されるトークンが31〜54%減り、昔の話を思い出す精度は変わらなかったとしています。ただしこの実験は Qwen3.8-27B という1つのモデルだけで行われています。逆に損をする場面も作者自身が書いていて、約6.4万トークンより小さい窓では、毎回付け足される約2Kトークンの指示文のせいで、約25%余計にかかります。短い会話や小さなモデルなら、入れないほうが安いということです。
使った人の数字：最新版で止まる会話
ここからは利用者の報告です。いちばん具体的なのが Issue #6277 です。ある利用者が、別のコーディング用AIツール opencode と v0.1.213 を組み合わせて会話を枝分かれさせたところ、最初のやり取りが1,738,557トークンに膨らみました。モデルの上限320,000の5.4倍です。4分11秒かけて圧縮しても約508,147トークン残り、送信は413エラー（「大きすぎて受け取れない」という拒否の合図）ではねられました。再試行もできないと判定され、会話は消すしかなかったそうです。
この利用者は、直すための変更（PR #5511）がまだ取り込まれていないとも書いています。別の回避策（#5509）を当てたときは、最初のやり取りが132,866トークンに収まったそうです。つまり、作り次第では収まるということでもあります。11月11日の投稿に対して、作者からの返信はまだありません。「上限を一度も超えなかった」という作者の記録と、「上限の5.4倍になって止まった」という利用者の記録が、同じ週に並んでいるわけです。
ほかの道具と組み合わせた人からも、失敗の報告が続いています。Issue #6258 と #6259 では、システムプロンプト（AIに最初に渡す前提の指示文）が手順のたびに足されていき、1,048,576文字を超えるとセッション全体が400エラーで止まると報告されています。#6164 では、出力用に取っておく枠の「25%上乗せ」が二重にかかり、回復できない413エラーになるとされています。Codex CLI と組み合わせた人からは、29件の要求が拒否され、最初の応答の前に接続が6回失敗したという報告（#6172・#6171）があります。11月12日には作者本人が、2KBに満たない保存のたびに13MBを書き直している性能の問題を報告として立て、すぐ取り込む印を付けました。
数で見ると、v0.1.213 が出てからの3日間で数十件の不具合報告が出ていて、1人の利用者だけで約27件あります。多いのは保存処理の詰まり、400や413で止まるセッション、Codex や dsh との組み合わせの失敗です。11月10日からは、自動テストの一部が失敗のままだとも報告されています。未解決の Issue（不具合や要望の報告）は623件、累計では2,970件です。
Mac 特有の問題もあります。Issue #6257 によると、常駐する中継役が、起動したアプリを閉じた後も残り続けます。そのとき社内ネットワークにつなぐ許可を失い、LAN 内に置いたモデルへの接続がすべて「相手に届かない」エラーで失敗して、自動では元に戻りません。機密を外に出さないよう社内のサーバーでモデルを動かす、閉域ローカルLLMの使い方をしている人ほど、直接困る不具合です。
会社で使う前に知っておきたいこと
安全面の指摘もはっきりしています。この中継役は、AIに送るプロンプト、コード、APIキーをすべて見られる位置にいます。管理者向けの設定で外からの接続を受け付けるようにすると、認証（使っていい人かどうかの確認）がありません。自動更新は初期設定で有効で、3分ごとに部品の配布サイト（npm）を見に行きます。知らないうちに中身が入れ替わる作りなので、エージェントが動ける範囲を閉じ込めるサンドボックス化や、閉域での運用を大事にしている職場では、そのままでは入れにくいと思います。
使い勝手の面では、andrew.ooo が気になる点を挙げています。モデルは畳んだ中身を自分から広げ直さないので、細かい部分が必要なときは人が頼む必要があります。「圧縮で何を忘れたか」を、人間がずっと気にかけ続けることになるわけです。任せきりにしたくて入れる道具なのに、見張る仕事が増える面があるのは、正直イマイチだと感じました。
確かめられなかったことは、ここにまとめておきます。ハルは今回、この道具を手元で動かしていません。andrew.ooo のレビューも、GitHub の課金上限でテストを動かせず、自分では試せなかったとしています。数字はすべて作者自身の論文から取っていて、証拠は利用者1人（作者本人）の観察データであり、「5倍」は試算だと指摘しています。利用者の報告がほかの環境でも同じように起きるのか、作者がいつ直すのかも、まだ分かっていません。
なお、これは大手の公式製品ではなく個人のツールなので、Copilot や ChatGPT 法人版、Gemini の契約や料金には関係しません。そのうえでハルの結論です。「会話を長く続けたい」という悩みに、AI自身に畳ませるという答えを出したのは面白いですし、作者の4.5か月の記録も本物です。ただ、効くのは大きな窓のモデルで長い作業をするときで、短い会話や小さなモデルではむしろ損になります。そして最新版は、会話が止まる報告が出ている真っ最中です。触ってみるなら、機密を流さない個人の環境で、不具合の報告が落ち着いてからにしてください。会社の端末に入れるかどうかは、それより先に、何が見られて何が自動で更新されるのかを管理者と確かめてから決めてください。
