Metaの大規模言語モデル「Llama 2」を無料で誰でもブラウザからお試しできる「LLaMA2 Chatbot」

Metaが発表した商用利用も可能な大規模言語モデル(LLM)「Llama 2」を、誰でも無料でブラウザ上からお試しできる「LLaMA2 Chatbot」が公開されました。

LLaMA2 Chatbot by a16z-infra
https://llama2.ai/

画面左にあるメニュー部分では、モデルやパラメーターを変更したり、チャット履歴を削除したりすることができます。

選択できるモデルはパラメーター数が700億の「LLaMA2-70B」、パラメーター数が130億の「LLaMA2-13B」、パラメーター数が70億の「LLaMA2-7B」の3つ。パラメーター数が多い方がパフォーマンスが高くなります。

モデル選択エリアの下では「Temprature」(数値が高いと出力のランダム性が増す)、「Top P」(数値が高いと単語選択の多様性が高まる)、「Max Sequence Length」(文章の最大の長さ)という3つのパラメーターを自由に変更することが可能。パラメーターは初期状態だとTempratureが「0.01」、Top Pが「0.90」、Max Sequence Lengthが「2048」です。

さらに「Clear Chat History」をクリックするとチャット履歴を削除できます。

チャットは画面下部にあるテキストボックスに文字を入力すればOK。

日本語での入力にも対応していますが、ChatGPTやBardなどと比べると精度は微妙なところ。また、日本語でチャットしていると途中から英語で回答し始めることもありました。

さらに、会話を続けていくとこんな感じ。

なお、「LLaMA2 Chatbot」を開発したのはベンチャーキャピタルのAndreessen HorowitzでAIやLLMについて研究しているというRajko Radovanovićさん。

Radovanovićさんは「LlaMA 2」について、「特に創造的なタスクやインタラクションの場合、パフォーマンスはGPT-3.5と同等ながら、パラメーター数ははるかに少ないことがわかっています」と記しています。

LLaMA2 ChatbotのソースコードはGitHub上で公開されています。

GitHub - a16z-infra/llama2-chatbot: LLaMA v2 Chatbot
https://github.com/a16z-infra/llama2-chatbot

さらに、以下のソースコードとCogを使用することで、独自のLlaMA 2をデプロイすることも可能です。

GitHub - a16z-infra/cog-llama-template: LLaMA Cog template
https://github.com/a16z-infra/cog-llama-template

AIモデルを簡単にデプロイできるReplicateで作成したLlaMA 2のAPIトークンも公開されています。