任意のLLMをローカルで実行可能、事前にモデルがマシンと互換性があるかも明示してくれるオープンソースのAIチャットGUIアプリ・「Wingman」

Ads

Wingman

任意のLLMをローカルで実行可能、事前にモデルがマシンと互換性があるかも明示してくれるオープンソースのAIチャットGUIアプリ・「Wingman」
Wingmanは任意のLLMをローカルで実行可能、事前にモデルがマシンと互換性があるかも明示してくれるオープンソースのAIチャットGUIアプリです。コードを書いたりターミナル等を使わずインストールするだけで利用可能になります。VSCodeでLLMを実行する同名のWingmanとは別物っぽいです。※初見は混同しました。

Win、Mac(IntelまたはApple Silicon)の両OSで動作するAIチャットGUIアプリで、LlamaやOpneAIの各GPT、Mistral AI、phi-2、zephyr AIなどや、或いはHugging Faceから検索してLLMを利用するなど好みのLLMをローカルでAIチャットとして実行できる、というものになります。検索したLLMは自身のマシンで動作するかどうかも事前に分かるようにアイコン表示してくれるのは結構嬉しい機能ですね。

そのほか、会話中でもLLMを切り替えたり、チャットをフォルダに保存して後で検索するなども可能となっています。LLMはマシン上で動作するためプライベートを保てるのもメリットです。動作要件等はリポジトリをご参照下さい。ライセンスはMITとの事です。

WingmanGithub