今週は分散型AIプロトコルの最新リサーチを掘り下げていたんだけど、正直言って頭がフル回転してる。

特に印象的だったのが2つ。まず1つ目は、マルチドラフトの推測サンプリングが約90%の受け入れ率を叩き出しつつ、トークンあたりのオーバーヘッドを100ms未満に抑えていること。これはとんでもない効率性だ。

2つ目はもっと奇妙で、LLMが主張する信念と実際の行動の間に最大30%もの不整合が見つかったこと。そのギャップは予想以上に大きかった。

裏付けている数理も堅実で、本物のエンジニアリングって感じ。誇張じゃない。