LLMをデプロイする
LLM Name
を入力し、使用するModel Name
を選択します。Model | Parameters |
---|---|
deepseek-r1 | 1.5b, 7b, 8b, 14b |
llama3.2 | 8b |
phi4 | 14b |
qwen | 0.5b, 1.8b, 4b, 7b, 14b |
作成したモデルを確認する
Deployment Succeeded
であれば作成が成功しています。まだ進行中の場合は作成完了までお待ちください。App URLはMorphにホストされたLLMのURLです。このURLとMorphのAPI Key
を使用してLLMにリクエストを送ることが可能です。LLMにリクエストを送る
langchain-ollama
パッケージをインストールする必要があります。