最近話題のHermes Agentなるものを使ってみた。売りはセッション間の検索とかメモリ機能で長期記憶を保持しているところらしい。
ご存知の通り、昨今のLLMの最大の弱点がこの長期メモリである。LLM単体では、そのセッションで話した内容しか記憶できず、セッションを変えると前に話していたことをすっかり忘れてしまうという問題がある。
この問題を解決する方法としては、いろいろなアプローチがある。一番単純なのは、前のセッションをまとめたプロンプトを、次のセッションに注入するという方法。これなら前に話していた内容を引き継げるが、当然コンテキストウィンドウ以上の情報を詰め込むことはできず、注入する情報を取捨選択する必要がある。
この問題に対して、Hermes AgentではHindsightというシステムを使用して解決策を提示している。このHindsightというやつは、簡単に言えばセッションの会話をすべて記録し、そのセッション会話からLLMを使って必要なデータを抽出するという作業フローを裏でやってくれるシステム。
まあ、そういったものを試しに使ってみたわけだが、なるほどこいつはなかなか使える。ハーネス設計がちゃんとしているので、Ollama CloudのDeepSeek V4 Flashでも不満を全然感じない。システムプロンプトがしっかりしているのかわからないが、とりあえず言われたことを実現できそうなスクリプトをさっと書いて実行してくれる。
この、とにかくスクリプトを書いてなんかやるってのは、最近のLLMでの作業フローとして一番最適なのではと思っている。巷ではMCPだの何だの言っているが、そんなモノ使わずに黙ってPython書いたほうが手っ取り早い問題というのはたくさんある。
こういったエージェントは、使える道具が多ければ多いほど便利になる（それに加えて危険性も増すわけだが）。これまでの一般的なソリューションは、どこでも安全に使えることを重視するあまり、構造が複雑になったり、LLM本来の能力が発揮できなかったりしたわけだが、そこをHermes Agentは改善しているのだと思う。
AIエージェントに必要なのは、フロンティアモデルのようなつよつよLLMというよりは、Hermes Agentみたいな優秀な「手足」ではないかと最近は思う。安いモデルでも、自分で書いて自分でチェックできる仕組みさえあれば、案外ちゃんとしたコードを書くものだ。
新しいフロンティアモデルが出るたびに、ぽん出しでこんなのできました！みたいなSNS投稿が目立つが、実際の使用用途としては、安いモデルでそこそこの結果を安定して出すほうが道具としては良い。
最近は企業でもAIエージェント導入が進んでいるが、今がちょうど過度な期待のピーク期に近い時期であり、これから幻滅期に入っていくと思う。人々がAIやAIエージェントが打出の小槌ではないと気がついた後、AI関連の各社がどう出るのかは見どころ。
今はフロンティアモデルを出している企業ばかりが注目されるが、もうしばらくするとモデル性能の頭打ちが顕著になるか、フロンティアモデルの使用料金が高すぎてユーザーがついていけなくなるかのどちらかが起こり、「こういうのでいいんだよ」感があるプロダクトに注目が集まるのではと思う。
Hermes Agentはそういった「こういうのでいいんだよ」的なツールであり、少なくとも現時点でAIエージェントに必要と思われるツールは一通り揃っている。正直なところ、SNSで言われているほど革命的なシステムというわけではないが、AIエージェントとしては非常によくできたツールだと思う。
Hermes Agent自体は、それほど多機能なシステムではないが、とりあえずまともにAIエージェントを動かす基盤が整っている。Claude Codeみたいに全部勝手にやってくれたり、Codexみたいに最初から何でもできるわけではないが、やろうと思えばClaude CodeやCodexと同等のことができる。そんな職人気質というか、DIY精神あふれるシステムだと思う。
AIツールは「簡単、便利、すごい」が注目されやすいが、こういった基盤を整えてユーザーがやりたいことに集中できるようにしてくれるツールこそ、エンジニアが必要としているプロダクトかもしれない。
ちなみに、今時分が作っているシステムは下記のような構造になっている。
LLMにはOllama CloudのDeepSeek V4 Flashを使ってコストを抑えつつ、ある程度の品質を確保している。
この構成自体に大した目新しさは無いが、この構成を比較的楽に作れるという点で、Hermes Agentはかなり実用的だと思う。