Multi LLM
Multi LLMは1つのプロンプトから複数のLLMを同時に起動し、結果をランキング形式で出力するOSSです。MITライセンスの元でソースコードが公開されています。
上記はそのユースケースとして開発されたVerifAIというアプリで、特定のソースコードを求めるプロンプトを入力するとBardとGPT3.5が同時にレスポンスを返し、その両方の答えを比較してランキングを付けてくれます。
2つのLLMのみなのでランキングはあまり意味を成しませんが、もっと多くのLLMを使う事で、より最適な答えを合理的に導き出せる、という形を想定されています。
VerifAIでは2つのモデルだけだったので問題ないですが、プロンプトを入力して返ってくるレスポンスが重なって縦長になるのでもっと多くのモデルを使う時はUIの変更が必要になりそうです。
