LLM Playground
LLM Playgroundは様々なLLMでAIチャットを試せるシンプルで軽量なOSSチャットツールです。バニラなJavaScriptとCSS/HTMLでの実装を重視して設計する事で軽量で効率的なエクスペリエンスを実現するため外部ライブラリへの依存は最小限に抑えているそうです。
これと言って特別珍しい機能は無く、単純に使いたいLLMを選択してチャットするだけ、というもの。LLMは殆どが無料利用できるもので、gptやclaudeなど定番LLMはもちろん、llamaの7bから70bまでの各モデル、Yiの6b及び34b、Mixtralの各モデル、WizardLM、Qwen各モデル、gemmaの2b及び7b、dbrx-instract、vicunaの7b及び13b、その他にもdeepseekやNous、alpaca、OpenHermes、CodeLlamaなどまだまだ初見のLLMも用意されています。
大半は無料で利用できるようになっていましたが、動作サンプルでは日本語だとAPIエラーが出てしまいましたが、英語のプロンプトなら動作しました。理由は分かりませんので日本語プロンプトを使う場合はフォークしてカスタマイズ（LLMによってはAPIキーの用意）をしないとかもしれません。
機能ですが、前述した通り最近よく見るようなAIチャットとしての珍しい機能は特になく、LLMの選択、リアルタイムストリーミングのサポート、PDFやパワポやepubやスプレッドシートなど各ドキュメントの添付及び処理、チャットの履歴とエクスポート/インポート、送信済のメッセージの編集や削除、LLMのWeb検索、パラメーターの制御などが可能です。
LLMの調査等に関わったり興味がある方はお試しになられては如何でしょうか。ライセンスはMITです。
