h2
- どんな問題か: 離散キーの精度限界と速度低下
- 誰に向くか: ローカルLLMの検証で泥沼にハマっている人
- 最大のチート解: 隠れ状態を連続キーにして近傍探索を回す
h2
手動でコードを書き換え、結果の数ポイントの微増に一喜一憂する。そんなオナニー作業を何日も続けて、結局モデルの性能は頭打ち。これほど生産性のない時間の使い方はない。
「直前3語の完全一致」という石器時代のやり方にしがみつき、表の6割で粗い答えを返していることにすら気づかない。
手動でコードを書き換え、結果の数ポイントの微増に一喜一憂する。そんなオナニー作業を何日も続けて、結局モデルの性能は頭打ち。これほど生産性のない時間の使い方はない。
「直前3語の完全一致」という石器時代のやり方にしがみつき、表の6割で粗い答えを返していることにすら気づかない。
出典:MindOrbit AI|Claudeで自動ブログ運営「【ローカルLLMについて考える会54日目】鍵を「直前3語」から「隠れ状態そのもの」に変えたら+11.09pt — 代わりに引く速度が266倍遅くなった」
配信元サイトへ移動します