Whisper AI Docker Container

26. March 2025 · 3 Minute · Michael Bäcker

Verwendung Whisper AI mit GUI in einem Docker Container

Docker AI KI Linux

Links zum Artikel

Webseite: https://openai.com/index/whisper/
Docker Container Github Seite: https://github.com/jhj0517/Whisper-WebUI
Nvidia GPU in Docker Container: https://docs.nvidia.com/ai-enterprise/deployment/vmware/latest/docker.html
Demo Video: https://www.youtube.com/watch?v=ljbmFnIkFnQ

Voraussetzung

Man benötigt hier eine Linux Maschine (oder Windows mit WSL) mit installiertem Docker Service, das Tool docker-compose und ein wenig Festplattenplatz Empfehlen würde ich hier eine GPU, damit die Codierung schnell von statten geht.

Konfiguration des Containers mittels docker-compose.yaml

Die meisten Informationen bekommt man von der Github Seite des Entwicklers.

Am Besten legen wir uns einen neuen Ordner an, in den wir gleich Wechseln:

mkdir whisper-webui
cd whisper-webui

Dort legen wir mit einem favorisierten Editor die Datei "docker-compose.yaml" an.

services:
  app:
    build: .
    image: jhj0517/whisper-webui:latest

    volumes:
      # Update paths to mount models and output paths to your custom paths like this, e.g:
      # - C:/whisper-models/custom-path:/Whisper-WebUI/models
      # - C:/whisper-webui-outputs/custom-path:/Whisper-WebUI/outputs
      - /home/michael/docker/whisper-webui/models:/Whisper-WebUI/models
      - /home/michael/docker/whisper-webui/outputs:/Whisper-WebUI/outputs

    ports:
      - "7860:7860"

    stdin_open: true
    tty: true

    entrypoint: ["python", "app.py", "--server_port", "7860", "--server_name", "0.0.0.0",]

    # If you're not using nvidia GPU, Update device to match yours.
    # See more info at : https://docs.docker.com/compose/compose-file/deploy/#driver
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: all
              capabilities: [ gpu ]

Anschliessend legt man noch die notwendigen Ordner an

mkdir models outputs

Starten des Containers

Alle Befehle bitte in dem Ordner ausführen, in dem auch die Datei docker-compose.yaml steht:

  # um zu sehen ob alles geht
  docker compose up 
  # Für später im "Server Betrieb" in den Hintergrund 
  docker compose up -d
  # Logs des laufenden Containers anzeigen mit:
  docker compose logs -f
  # Container stoppen
  docker compose down

Nun sollte der Container laufen Aufrufen kann man ihn dann in einem Browser mit der URL http://0.0.0.0:7860/

Hier noch ein Vergleich verschiedener Modelle

small	medium	large-v3
Größe des Modells auf Festplatte: 464 MByte	Größe des Modells auf Festplatte: 1,5 GByte	Größe des Modells auf Festplatte: 2,9 GByte
Dauer Konvertierung Demovideo: 0:15 Minuten	Dauer Konvertierung Demovideo: 0:33 Minuten	Dauer Konvertierung Demovideo: 1:04 Minuten
1	1	1
00:00:00,000 –> 00:00:05,400	00:00:00,000 –> 00:00:06,320	00:00:00,000 –> 00:00:05,240
Hallo und herzlich willkommen zu einer neuen Folge aus unserer Technikegge.	Hallo und herzlich willkommen zu einer neuen Folge aus unserer Technik Ecke. Ich möchte	Hallo und herzlich willkommen zu einer neuen Folge aus unserer Technik-Ecke.
2	2	2
00:00:05,400 –> 00:00:10,640	00:00:06,320 –> 00:00:10,760	00:00:05,940 –> 00:00:09,360
Ich möchte hier ein bisschen was etablieren und zwar den Donnerstag und zwar der Donnerstag	hier ein bisschen was etablieren und zwar den Donnerstag und zwar der Donnerstag soll	Ich möchte hier ein bisschen was etablieren und zwar den Donnerstag.
3	3	3
00:00:05,400 –> 00:00:10,640	00:00:10,760 –> 00:00:18,480	00:00:09,480 –> 00:00:11,860
soll Dokertag werden.	Dokatag werden.	Und zwar der Donnerstag soll Dockertag werden.