WSL2上のDockerにおいてollamaがGPUを使ってくれない場合の

下記の条件において、docker-composeの設定ファイルとしては正しいと思えるのに

GPUを使ってくれなかったことがあったので、対策を説明する。

＜条件＞

・OS：Windows11

・GPU:NVIDIA　RTX4070Ti

・動作状況: WSL2+ubuntu24.4+Docker

<当初のdocker-compose.ymlの設定＞

version: '3'
services:
  llm-server:
    image: ollama/ollama:latest
    volumes:
      - ollama_data:/root/.ollama
    ports:
      - "11434:11434"
    environment: 
     - CUDA_VISIBLE_DEVICES=all
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: all
              capabilities: [ gpu ]
    restart: unless-stopped
  webui:
    image: ghcr.io/open-webui/open-webui:latest
    container_name: open-webui
    ports:
      - "3000:8080"
    environment:
      - OLLAMA_BASE_URL=http://llm-server:11434
    volumes:
      - webui_storage:/app/backend/data
    depends_on:
      - llm-server
    restart: unless-stopped

volumes:
  ollama_data:
  webui_storage:

 ＜対策＞

以下の２行を削除（コメント化）してGPU検出をollama側に任せた。

  # environment: 
  # - CUDA_VISIBLE_DEVICES=all

Hyper-V上でubuntuをインストールした場合に、画面解像度を変更する方法

 ubuntu24.10にて実施。通常の設定からの解像度変更は不可だった。

• /etc/default/grubの下記を変更（解像度は例）

<変更前>

GRUB_CMDLINE_LINUX_DEFAULT=”quiet splash”

<変更後例>

GRUB_CMDLINE_LINUX_DEFAULT=”quiet splash video=hyperv_fb:1920x1080”

• 下記のコマンドを実施

sudo update-grub

sudo reboot 

 

RockyLinux等でパッケージ管理用リポジトリの有効/無効制御

 dnf repolist  : 有効(enable)なリポジトリを表示

dnf repolist --all　：すべてのリポジトリを表示

dnf config-manager  --enable [リポジトリID]  ：リポジトリIDを有効にする。

dnf config-manager --disable [リポジトリID]　：リポジトリIDを無効にする。

wsl2のGUIにてWindowsフォントを使用する。

 /etc/fonts/local.conf を下記にて作成する。

<?xml version="1.0"?>

<!DOCTYPE fontconfig SYSTEM "fonts.dtd">

<fontconfig>

    <dir>/mnt/c/Windows/Fonts</dir>

</fontconfig>

Windows11にて、chromeの位置情報を正しく表示する方法

chromeにて下記のフラグをenableに変更する。

 chrome://flags/#enable-winrt-geolocation-implementation

テキスト生成AIのstable-diffusionをubuntu上のdockerで動作させる場合の注意点

ubuntuのdocker-composeを使って、”AbdBarho/stable-diffusion-webui-docker”を
実行する場合は、以下の手順にて行う。

(1)以下のコマンドを実施する。

      >git clone https://github.com/AbdBarho/stable-diffusion-webui-docker
      >cd stable-diffusion-webui-docker

(2)docker-compose.yamlにおいてname: webui-dockerをコメント化する。

・・・

#name: webui-docker

・・・

　　※：docker-composeを使うとエラーがでるためdocker composeだとＯＫらしい。

(3)docker-compose --profile download up --build

(5)下記URLに従って nvidia-container-toolkitをインストール

　　https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/install-guide.html

(4)DOCKER_BUILDKIT=1 docker-compose --profile auto up --build

     DOCKER_BUILDKIT=1をつけないとエラー

wsl2にてDNSの名前解決ができない場合

 ファイアウォールの問題なので、ルールを見直す。

ESETの場合は、「svchost.exe/SharedAccessの通信を許可」する。