> ## Documentation Index
> Fetch the complete documentation index at: https://docs.morph-data.io/llms.txt
> Use this file to discover all available pages before exploring further.

# Ollamaを使用してLLMをセルフホストする

<Warning>
  現在LLMのセルフホストはProプランでのプレビュー機能です。使用を希望される場合はダッシュボード上からProプランに更新の上ウェイトリストにお申し込みください。
</Warning>

Morphでは[Ollama](https://ollama.com "Ollama")によるLLMのセルフホスト機能を提供しています。
ダッシュボード上で使用したいモデルを選択しデプロイすることでAPIとして呼び出し可能なURLが発行されPythonのコード上から呼び出すことができます。

## LLMを利用する

<Steps>
  <Step title="LLMをデプロイする">
    ダッシュボードのLLMタブを押下しLLM作成画面に遷移します。

    任意の`LLM Name`を入力し、使用する`Model Name`を選択します。

    <img src="https://mintcdn.com/queue-4c50ebb3/evgQaQjX53Vch8Y5/assets/images/docs/advanced/llm/create-llm.png?fit=max&auto=format&n=evgQaQjX53Vch8Y5&q=85&s=184059d5e33603804c8f23126695d380" alt="Create LLM" width="1405" height="667" data-path="assets/images/docs/advanced/llm/create-llm.png" />

    現在以下のモデルが使用可能です。

    | Model         | Parameters              |
    | ------------- | ----------------------- |
    | `deepseek-r1` | 1.5b, 7b, 8b, 14b       |
    | `llama3.2`    | 8b                      |
    | `phi4`        | 14b                     |
    | `qwen`        | 0.5b, 1.8b, 4b, 7b, 14b |
  </Step>

  <Step title="作成したモデルを確認する">
    LLMタブから作成したLLMを選択します。

    <img src="https://mintcdn.com/queue-4c50ebb3/evgQaQjX53Vch8Y5/assets/images/docs/advanced/llm/llm-detail.png?fit=max&auto=format&n=evgQaQjX53Vch8Y5&q=85&s=fa1907f55c72d9a5b32d9c37ac635cb2" alt="Create LLM" width="1316" height="505" data-path="assets/images/docs/advanced/llm/llm-detail.png" />

    Logsの欄で選択したモデルのステータスが`Deployment Succeeded`であれば作成が成功しています。まだ進行中の場合は作成完了までお待ちください。

    App URLはMorphにホストされたLLMのURLです。このURLとMorphの`API Key`を使用してLLMにリクエストを送ることが可能です。
  </Step>

  <Step title="LLMにリクエストを送る">
    先ほどのApp URLとMorphのAPI Keyを使用してLLMにリクエストを送ります。

    以下はPythonとcURLによるリクエストのサンプルです。

    <Note>
      Pythonで使用する場合は`langchain-ollama`パッケージをインストールする必要があります。

      <CodeGroup>
        ```bash pip theme={"dark"}
        pip install langchain-ollama
        ```

        ```bash poetry theme={"dark"}
        poetry add langchain-ollama
        ```

        ```bash uv theme={"dark"}
        uv add langchain-ollama
        ```
      </CodeGroup>
    </Note>

    <CodeGroup>
      ```python Python theme={"dark"}
      from langchain_ollama import ChatOllama

      llm = ChatOllama(
          model="{MODEL_NAME_YOU_DEPLOYED}",
          base_url="{YOUR_MORPH_LLM_APP_URL}",
          client_kwargs={
              "headers": {
                  "x-api-key": "{YOUR_MORPH_API_KEY}",
              }
          },
      )
      for token in llm.stream("Hello"):
          yield token.content
      ```

      ```shell cURL theme={"dark"}
      curl --location ‘{YOUR_MORPH_LLM_APP_URL}/api/chat' \
      --header 'Content-Type: application/json' \
      --header 'x-api-key: {YOUR_MORPH_API_KEY}’ \
      --data '{
          "model": "{MODEL_NAME_YOU_DEPLOYED}",
          "messages": [
              {
                  "role": "user",
                  "content": “Hello”
              }
          ]
      }'
      ```
    </CodeGroup>
  </Step>
</Steps>