---
title: 'Home Assistant + Local LLM (Ollama on Windows Setup Guide)'
source: 'https://youtube.com/watch?v=d1uG3uyaQSE'
video_id: 'd1uG3uyaQSE'
date: 2026-06-16
duration_sec: 0
---

# Home Assistant + Local LLM (Ollama on Windows Setup Guide)

> Source: [Home Assistant + Local LLM (Ollama on Windows Setup Guide)](https://youtube.com/watch?v=d1uG3uyaQSE)

## Summary

This video demonstrates how to install Ollama on a Windows PC and integrate it with Home Assistant to run a local LLM without needing a dedicated server. The setup allows using the LLM for AI tasks, conversational agents, and LLM Vision within Home Assistant.

### Key Points

- **Video Goal** [0:00] — Shows how to install Ollama on an existing Windows PC and integrate it with Home Assistant for local LLM use.
- **Motivation** [0:51] — Many Home Assistant users lack a spare PC with a modern GPU; this setup uses a regular Windows PC.
- **Hardware Used** [1:20] — RTX 460 Ti (8GB VRAM), AMD Ryzen 5 7600X, 64GB RAM, 2TB NVMe SSD.
- **Downloading Ollama** [2:30] — Go to ollama.com, select Windows download, and install the application.
- **Ollama UI and Model Selection** [3:22] — After installation, the Ollama UI opens. Model Gemma 3 is chosen (4B variant) for its vision support.
- **First Model Download** [4:22] — Sending a message triggers automatic model download; after download, chat works.
- **Vision Support Issue** [4:35] — Gemma 3 supports vision, but first use may show an error; restarting Ollama fixes it.
- **Command Line Usage** [6:02] — Use `ollama help` for commands, `ollama list` to see installed models, `ollama run <model>` to start.
- **Model Variants** [7:59] — Specify exact variant (e.g., `ollama run gemma3:4b`) to avoid downloading a heavier default version.
- **Network Access** [10:46] — Enable 'Allow Ollama to access network' in settings to make it accessible to Home Assistant.
- **Home Assistant Integration** [11:41] — Add Ollama integration via Settings > Devices & Services > Add Integration > Ollama, using the local IP and port.
- **Adding AI Task and Conversation Agent** [12:15] — Create an AI task and a conversation agent in Home Assistant, selecting the installed model (Gemma 3 4B).
- **LLM Vision Integration** [13:33] — Add Ollama as a provider in LLM Vision (if installed) using the same IP and model.
- **Voice Assistant Setup** [14:51] — In Home Assistant Voice Assistant settings, select the Ollama conversation agent created earlier.
- **Testing with Actions** [15:39] — Demonstrates using LLM Vision and AI task actions with Ollama, analyzing a camera image.
- **Comparison with OpenAI** [18:32] — Running the same action with OpenAI shows similar speed but slightly more detailed analysis.

### Conclusion

This setup allows running a local LLM on a Windows PC integrated with Home Assistant for AI tasks, conversational agents, and vision analysis, without extra hardware costs.

## Transcript

Ahoj, tady Dave. V tomto videu vám ukážu, jak nainstalovat Ollamu
na váš stávající počítač s Windows, který už používáte každý den, a integrovat ji
do Home Assistant, abyste si mohli doma spustit lokální LLM. K tomu nepotřebujete
náhradní počítač ani specializovaný Linuxový server. Použijeme pouze váš běžný
počítač a zpřístupníme ho Home Assistant ve vaší síti. Jakmile ho nastavíte
, budete ho moci používat s věcmi, jako jsou úlohy s umělou inteligencí, konverzační agenti a
dokonce i LLM Vision. Začneme instalací Ollamy, poté ji připojíme k Home Assistant
a nakonec ukážu několik rychlých příkladů, abych se ujistil, že vše
funguje.
Důvod, proč tohle video dělám, je ten, že nemám
k dispozici náhradní počítač s moderní grafickou kartou, který by fungoval jako specializovaný LMM server. A jak vím, spousta
uživatelů Home Assistant je na tom úplně stejně. Většina lidí nemá
volné 2, 3 nebo dokonce 4 000 liber nebo dolarů na sestavení
špičkového stroje s umělou inteligencí. Jen abyste věděli, tohle používám na svém běžném
počítači s Windows. Mám RTX 460 Ti s 8 GB VRAM, AMD Ryzen 5
7600X, 64 GB RAM a 2 terabajtový NVMe SSD.
Nic moc extrémního, jen herní nebo pracovní stanice střední třídy. A pokud
bude dostatečná poptávka, můžu tento počítač dočasně považovat za náhradní stroj,
nainstalovat na něj Linux a natočit samostatné video, které ukazuje, jak nainstalovat
Ollamu v linuxovém prostředí a spustit ji jako samostatný stroj s LMM.
Toto video je určeno pro běžné uživatele Home Assistant, kteří chtějí
experimentovat s alarmem nebo lokálními LMM, aniž by utratili jakékoli peníze navíc. Jediné,
co je třeba mít na paměti, je, že váš počítač s Windows bude muset zůstat zapnutý,
zatímco ho Home Assistant používá. Takže v závislosti na vašem nastavení to nemusí být
ideální pro každého, ale pro většinu lidí je to skvělý způsob, jak začít a
zjistit, co je možné. Dobře, přepněme na můj počítač a stáhneme
si Alamu. Chcete-li nainstalovat Ollamu, přejděte na
následující webovou stránku, která vám nabídne
výběr operačního systému. Máte tedy Windows, Mac nebo Linux a
zobrazí se vám instalační příkaz. V tomto příkladu používám Windows. Vyberu tedy
stažení pro Windows.
Po dokončení stahování přejděte do složky se staženými soubory a nainstalujeme
Ollamu.
Spustím ji jako správce, pro případ, že by potřebovala další
zvýšená práva. Pokud kliknete na tlačítko Instalovat,
po dokončení instalace by se mělo zobrazit vyskakovací okno uživatelského
rozhraní Ollamy, podobné tomuto, kde můžete začít chatovat. Zde máte seznam
dostupných modelů. Model, který v tomto příkladu použiji, bude
Gemma 3, protože podporuje vizuální komunikaci.
Všimněte si, že dvojtečka „gem free“ má číslo s písmenem B,
které označuje miliardu obvodů. Čím vyšší číslo, tím
přesnější bude, ale také to bude spotřebovávat více zdrojů. Takže
tu střední třídu nechám, protože funguje docela dobře a je
poměrně lehká. A pokud byste potřebovali nainstalovat další
model, můžete sem prostě najet myší, kliknout na tlačítko pro stažení a počkat
, až se nainstaluje. Momentálně jsem
si ještě žádný nestáhl. Takže kdybych napsal zprávu, dostal bych nějakou
výzvu ke stažení modelu. Takže vám ukážu, co
se stane, když to udělám poprvé. Takže prostě kliknu na Odeslat.
A vidíte, že se model stahuje.
A jakmile se nainstaluje, chat začne fungovat.
Z nějakého důvodu se při pokusu o nahrání obrázku zobrazí zpráva jako je
ta níže, kde se píše, že tento model nepodporuje obrázky. A v tomto příkladu
můžu na 100 % říct, že Gemma 3 podporuje vidění. Možná budete muset
restartovat Ollamu, protože model instalujeme poprvé a myslím,
že se trochu zmátl a nenačetl se správně,
aby rozpoznal, že podporuje vidění. Takže zavřete Alarmu
, znovu ji otevřete a já to ukážu na příkladu obrázku.
Chcete-li Ollamu zavřít, klikněte zde na X a poté ji restartujte, pokud...
Klikněte na tuto šipku nahoru, najeďte myší na Ollamu a poté vyberte "Otevřít Ollamu".
Teď, když je to zase otevřené, přiložím obrázek a požádám ho o
popis. Toto je kopie ukázkového obrázku, abyste
si ho mohli prohlédnout, než se zeptám.
Teď kliknu na Enter.
Vidíte, že mi to poskytlo pěkný přehled, že obrázek ukazuje
částečný pohled na moderní světlou kuchyň. A pak jsou uvedeny některé
prvky, které jsou skutečně viditelné. Takže víme, že to funguje.
Teď vám ukážu několik příkladů, jak používat alarm pomocí příkazového řádku.
Takže z vyhledávání ve Windows zadáte cmd/launch command prompt a teď,
když zadáte Ollama
a pak za konec přidáte help, zobrazí se vám seznam různých
dostupných příkazů, které můžete použít. Pokud jen vymažu obrazovku
a spustím Ollama list,
zobrazí se vám modely, které již máme nainstalované, které mají
Gemma 3 a 4 miliardy obvodů. Takže pokud to chcete spustit,
stačí zadat „run“ a za ním název.
Pokud chcete zobrazit seznam různých dostupných modelů, které si můžete
stáhnout a nainstalovat, jděte na ollama.com
a vyberte
zde modely, zobrazí se vám seznam různých modelů, které můžete
vyhledat nebo je vyhledat. Pokud tedy vyhledám „Gemma“, uvidíte
různé modely. A když kliknu na ten horní
, uvidíte příkaz „run“ pro použití Gemmy 3. A je tam seznam dalších
různých variant. Pokud se vrátím o krok zpět,
když znovu kliknu na tento, máte příkaz „run“
a seznam variant. Takže když zadáte „run“, stačí
zadat název, který chcete nainstalovat.
Jen pro upřesnění, když spustíte „llama run“ a nezadáte konkrétní
model z tohoto seznamu. Například když spustíte „lama run gpt oss“, nainstaluje se
výchozí verze, kterou je tato. Takže si dávejte
pozor, možná budete chtít o něco lehčí model. A pokud je to váš
případ, ujistěte se, že spustíte příkaz alarm run a poté slovo od slova specifikujete,
jakou variantu daného modelu skutečně chcete. Jako příklad tedy zkopíruji
tento příkaz a vrátím se do příkazového řádku. Ukončím
stávající chat stisknutím klávesy C a poté ctrl+
D.
A v tomto příkladu vidíte, že protože to ještě nemám nainstalované,
automaticky se stáhne a poté se to spustí.
Dobře, zrušme tento chat. Vyčistěte obrazovku a já spustím
Gemmu 3 a požádám ji o popis obrázku z příkazového řádku. Pokud
zapomenete, které modely již máte nainstalované,
jen připomínám, že je to ollama list a poté ollama run. A já jen zadám
danou gemmu
přesně tak, jak je uvedena.
Protože je vzorový obrázek, který používám, na tomto místě, kliknu
pravým tlačítkem myši a zobrazí se další možnosti. Vyberte vlastnosti
a poté z zabezpečení zkopíruji název souboru a cestu,
pak se vrátím do příkazu a napíšu následující
příkaz: use. Vložte do adresáře, kde se soubor
nachází. Pokud název souboru obsahoval mezery, řekněme, že se jednalo o kuchyňský
prostor, jako je tento. Pokud přidáte uvozovky, vyřeší to problém
s nenalezením názvu souboru. Ale v této ukázce nejsou žádné prázdné
mezery, takže to nemusím dělat. Takže jsem napsal use, uveďte cestu
a zeptám se na něco.
Můžete popsat obrázek? Stiskněte Enter. A mělo by se zobrazit podobný výsledek, jako
když jsem používal uživatelské rozhraní,
což má. Takže to vypadá dobře. Těsně před integrací do Home
Assistant ho musíme zpřístupnit síti.
Pokud kliknete na šipku nahoru a kliknete pravým tlačítkem myši na Ollama a provedete nastavení,
ujistěte se, že jste zaškrtli toto políčko, zpřístupnit Alarm síti. Pokud
to neuděláte, pak následující IP adresa následovaná tímto
portem vygeneruje chybovou zprávu podobnou této, která říká, že tento
web není dostupný. Prostě to zpřístupním zaškrtnutím tohoto políčka.
Pokud tuto stránku aktualizuji, mělo by to fungovat.
Vlevo nahoře vidíte, že je spuštěný alarm.
Dobře. Teď, když Ollama běží a máme ji síti, přejděme
na Home Assistant a začneme s integrací.
V Home Assistant přejděte do nastavení,
poté do zařízení a služeb, klikněte na přidat integraci
, vyhledejte Olama
a vyberte tu první. Toto je URL adresa, kterou jsem zobrazoval dříve,
když se psalo, že Ollama běží. Takže ji tam vložím. Pak vyberu
odeslat. Vidíte, že je to úspěšné.
Odtud můžu přidat konverzačního agenta a můžu přidat
úlohu AI. Vyberu přidat úlohu AI
a na konec vložím Ollamu.
A co se týče modelu, musí to být jeden z modelů, které jsem nainstaloval.
Zde vidíte, že máte staženou Gemmu 3 4B.
Takže ji vybereme. Zbytek nastavení v podstatě ponechám
jako výchozí. A teď kliknu na Odeslat.
To vypadá dobře. Když už jsem tady, mohl bych stejně tak přidat
konverzačního agenta pro ty z vás, kteří používají hlasový asistent pro domácnost. Znovu změním
model na ten, který je již stažen.
Všechno nechám jako výchozí. Zaškrtnu políčko u asistence
a pak kliknu na Odeslat.
Takže teď jsme přidali konverzační agenty a úlohy AI, které budou používat
Olamu, a teď ji jen rychle integrujeme do LMM Vision pro
ty z vás, kteří ji mají nainstalovanou. Ještě jsem nenatočil celé video o LMM Vision
, ale brzy vyjde a jakmile bude venku, dám
vám odkaz do popisu. Takže pokud půjdeme do nastavení,
zařízení a služeb. Pokud teď jen vyhledáme LMM Vision,
předpokládám, že ji už máte nainstalovanou a možná máte Open AI
jako jednu z existujících položek. Nyní vybereme Přidat položku.
Změňte ji na Ollama. Klikněte na Odeslat.
IP adresa je opět ta, kterou jsem ukázal dříve
, a to je jen bez podpory, protože je již uvedena níže. Ujistěte se, že
model je ten, který jste již nainstalovali. Gemma 3 je jeden z
modelů, který podporuje Vision. Takže to je perfektní volba.
Pak už jen kliknu na Odeslat. A teď jsme ho přidali i do LMM Vision
. Chcete-li nyní používat Ollamu s
hlasem domácího asistenta, přejděte do nastavení a poté na hlasového asistenta.
A pokud vyberete Přidat asistenta
a v části Konverzační agent byste měli vidět toho, co jsem vytvořil, a to je
konverzace Ollama, kterou byste zde vybrali. Nechci zacházet do přílišných
detailů ohledně těchto nastavení, pokud jde o přidání asistenta, protože když jsem točil
video s hlasem domácího asistenta, už jsem to podrobně probral. Účelem
tohoto videa je vlastně jen integrace alarmu do Home Assistant
, abyste ho mohli využít. Takže toto okno zavřu. Nyní vytvořím
dvě akce. Jednu akci s využitím LLM Vision s Ollamou a také úlohu s umělou inteligencí
, která používá Ollamu. Pokud přejdete do nástrojů pro vývojáře
a na kartu Akce, tak vymažu tu obrazovku a já
to přepnu do režimu uživatelského rozhraní, protože je to trochu snazší vysvětlit. Takže
zadám llm a použijeme analyzátor obrazu.
Poskytovatelem bude tento alarm, který jsem přidal. Nechám to
tak, jak je. Takže výchozí by byla Gemma 3. Jako výzvu se zeptám
: „Co vidíte?“
Zruším zaškrtnutí těchto dvou políček. Nechci si to pamatovat ani používat paměť. A jen
velmi rychle použiji obrazovou entitu jednoho z mých fotoaparátů.
Mám tu jeden z kuchyně. Zbytek nechám jako výchozí nastavení.
Jen se musím ujistit, že jsem zaškrtl políčko „vložit soubor“, jinak to nebude fungovat.
Teď vyberu provést akci.
A vidíte, že mi to poskytlo nějaké podrobnosti o daném obrázku. A to je
ten obrázek, na který se to vztahuje. Takže to funguje. Teď budeme v podstatě
opakovat přesně ty samé kroky, ale jako úlohu s umělou inteligencí. Takže když se vrátím nahoru, zadám
AI a použiji funkci generování dat,
což je tento tady. Název úkolu mu prostě budu říkat
demo. Je jedno, jak ho pojmenuji. Pokyny,
udělám to úplně stejně. Co vidíte? ID entity je poskytovatel
a je to tady, Ollama AI tasky.
A pak příloha. Vyberu si mediální soubor. Přejdu
na kameru a použiji tu kuchyň. Takže je to stejný obrázek.
A teď vyberu provést akci. Už to ukazuje
předchozí akci, ale mělo by to být trochu jiné. Takže když
na to kliknu, jen počkejte, až to spustí své procesy.
A vidíte, že to je hotové. Má to... Dobře, pojďme si rozebrat, co vidím
v kuchyni. A má to standardní rozvržení kuchyně se skříňkami,
černou konvicí. Takže to fungovalo i s Ollamou.
Pro ty z vás, kteří to zajímají, to spustím
znovu, ale tentokrát použiji Open AI místo Ollamy. Takže
vybírám tento a klikám na Provést akci.
To je pravděpodobně zhruba stejný čas, co se týče rychlosti, ale možná
je skutečná analýza a rozpis informací o něco
podrobnější. Takže to běží lokálně a je plně
zapojeno do Home Assistant. Pokud chcete pokračující video, kde jsem dočasně
přepnul tento počítač na Linux a ukázal samostatné nastavení LMM, dejte mi
vědět v komentářích. Stiskněte tlačítko To se mi líbí, pokud vám to pomohlo,
a přihlaste se k odběru upozornění, až budou k dispozici další tutoriály o automatizaci Smartome
. Díky za sledování a uvidíme se u dalšího dílu. Zatím ahoj
.