
bonsai-almide
Almide経由でBonsai 1bit LLMをWASM化するブラウザチャットデモ
できること
- Qwen3テンプレートとKVキャッシュ
- 温度・top-k・繰り返しペナルティ
- 248MBモデルをIndexedDBに保存
モデルを実際に使うために要るもの。どのプロバイダにも同じ顔で当たる窓口(almai)、Almide で書いたエージェントの実行環境(homullus)と Mac を操作する手(manus)、端末から複数のモデルを同じ口で叩く CLI(llmine)、そしてモデルそのものを純 Almide で書いて WASM で走らせたもの(bonsai-almide)。
系統の一覧へ
Almide経由でBonsai 1bit LLMをWASM化するブラウザチャットデモ