Dot
Dotはローカルで実行可能でデータが送信されないオープンソースのAIチャットアプリです。プライバシーなどセキュリティ懸念のあった方向けとなっています。
オフラインで実行可能、LLMモデルに7B（70億パラメーター）のMistralが搭載されていて、インストール後すぐに使えるようになっているそうです。よくあるAIチャットはもちろん、任意のドキュメントを読み込ませたり、ドキュメントとは無関係のチャットに切り替える等も出来るとの事でドキュメント特化AIチャットといった感じでしょうか。
Mistral AIはフランスで開発されたLLMなのでGDPRもクリアしてる（たぶん）でしょうし、Microsoftともパートナーシップを組んでいます。最近ではOpenAIの精度に迫るなど非常に注目度の高いモデルとなっています。現状はOpenAI、Gemini、Claude、Mistral 、Llamaのいずれかから選択される事が多い印象ですがイーロン・マスク氏が立ち上げたxAIのGrokがLLMレースに加わる感じになりそうでかなり多様化してきました。今後の動向に注目したいとことです。
ドキュメントは複数ロードし、RAG（Retrieval Augmented Generation）を通じてローカル環境で読み込んだドキュメントを操作可能、対応ドキュメントはpdf、docx、xlsx、pptx、 markdownなどとなっています。GPLライセンスの元、OSSとしてソースコードが公開されています。