[00:00]
Ahoj, tady Dave. V tomto videu vám ukážu, jak nainstalovat Ollamu
[00:05]
na váš stávající počítač s Windows, který už používáte každý den, a integrovat ji
[00:10]
do Home Assistant, abyste si mohli doma spustit lokální LLM. K tomu nepotřebujete
[00:16]
náhradní počítač ani specializovaný Linuxový server. Použijeme pouze váš běžný
[00:22]
počítač a zpřístupníme ho Home Assistant ve vaší síti. Jakmile ho nastavíte
[00:27]
, budete ho moci používat s věcmi, jako jsou úlohy s umělou inteligencí, konverzační agenti a
[00:32]
dokonce i LLM Vision. Začneme instalací Ollamy, poté ji připojíme k Home Assistant
[00:39]
a nakonec ukážu několik rychlých příkladů, abych se ujistil, že vše
[00:43]
funguje.
[00:51]
Důvod, proč tohle video dělám, je ten, že nemám
[00:56]
k dispozici náhradní počítač s moderní grafickou kartou, který by fungoval jako specializovaný LMM server. A jak vím, spousta
[01:03]
uživatelů Home Assistant je na tom úplně stejně. Většina lidí nemá
[01:08]
volné 2, 3 nebo dokonce 4 000 liber nebo dolarů na sestavení
[01:14]
špičkového stroje s umělou inteligencí. Jen abyste věděli, tohle používám na svém běžném
[01:20]
počítači s Windows. Mám RTX 460 Ti s 8 GB VRAM, AMD Ryzen 5
[01:28]
7600X, 64 GB RAM a 2 terabajtový NVMe SSD.
[01:35]
Nic moc extrémního, jen herní nebo pracovní stanice střední třídy. A pokud
[01:41]
bude dostatečná poptávka, můžu tento počítač dočasně považovat za náhradní stroj,
[01:46]
nainstalovat na něj Linux a natočit samostatné video, které ukazuje, jak nainstalovat
[01:52]
Ollamu v linuxovém prostředí a spustit ji jako samostatný stroj s LMM.
[01:58]
Toto video je určeno pro běžné uživatele Home Assistant, kteří chtějí
[02:03]
experimentovat s alarmem nebo lokálními LMM, aniž by utratili jakékoli peníze navíc. Jediné,
[02:10]
co je třeba mít na paměti, je, že váš počítač s Windows bude muset zůstat zapnutý,
[02:14]
zatímco ho Home Assistant používá. Takže v závislosti na vašem nastavení to nemusí být
[02:20]
ideální pro každého, ale pro většinu lidí je to skvělý způsob, jak začít a
[02:26]
zjistit, co je možné. Dobře, přepněme na můj počítač a stáhneme
[02:30]
si Alamu. Chcete-li nainstalovat Ollamu, přejděte na
[02:35]
následující webovou stránku, která vám nabídne
[02:39]
výběr operačního systému. Máte tedy Windows, Mac nebo Linux a
[02:44]
zobrazí se vám instalační příkaz. V tomto příkladu používám Windows. Vyberu tedy
[02:49]
stažení pro Windows.
[02:56]
Po dokončení stahování přejděte do složky se staženými soubory a nainstalujeme
[02:59]
Ollamu.
[03:04]
Spustím ji jako správce, pro případ, že by potřebovala další
[03:09]
zvýšená práva. Pokud kliknete na tlačítko Instalovat,
[03:18]
po dokončení instalace by se mělo zobrazit vyskakovací okno uživatelského
[03:22]
rozhraní Ollamy, podobné tomuto, kde můžete začít chatovat. Zde máte seznam
[03:28]
dostupných modelů. Model, který v tomto příkladu použiji, bude
[03:33]
Gemma 3, protože podporuje vizuální komunikaci.
[03:37]
Všimněte si, že dvojtečka „gem free“ má číslo s písmenem B,
[03:42]
které označuje miliardu obvodů. Čím vyšší číslo, tím
[03:46]
přesnější bude, ale také to bude spotřebovávat více zdrojů. Takže
[03:51]
tu střední třídu nechám, protože funguje docela dobře a je
[03:55]
poměrně lehká. A pokud byste potřebovali nainstalovat další
[03:59]
model, můžete sem prostě najet myší, kliknout na tlačítko pro stažení a počkat
[04:03]
, až se nainstaluje. Momentálně jsem
[04:07]
si ještě žádný nestáhl. Takže kdybych napsal zprávu, dostal bych nějakou
[04:12]
výzvu ke stažení modelu. Takže vám ukážu, co
[04:16]
se stane, když to udělám poprvé. Takže prostě kliknu na Odeslat.
[04:22]
A vidíte, že se model stahuje.
[04:28]
A jakmile se nainstaluje, chat začne fungovat.
[04:35]
Z nějakého důvodu se při pokusu o nahrání obrázku zobrazí zpráva jako je
[04:40]
ta níže, kde se píše, že tento model nepodporuje obrázky. A v tomto příkladu
[04:45]
můžu na 100 % říct, že Gemma 3 podporuje vidění. Možná budete muset
[04:51]
restartovat Ollamu, protože model instalujeme poprvé a myslím,
[04:55]
že se trochu zmátl a nenačetl se správně,
[04:58]
aby rozpoznal, že podporuje vidění. Takže zavřete Alarmu
[05:03]
, znovu ji otevřete a já to ukážu na příkladu obrázku.
[05:10]
Chcete-li Ollamu zavřít, klikněte zde na X a poté ji restartujte, pokud...
[05:15]
Klikněte na tuto šipku nahoru, najeďte myší na Ollamu a poté vyberte "Otevřít Ollamu".
[05:22]
Teď, když je to zase otevřené, přiložím obrázek a požádám ho o
[05:26]
popis. Toto je kopie ukázkového obrázku, abyste
[05:31]
si ho mohli prohlédnout, než se zeptám.
[05:38]
Teď kliknu na Enter.
[05:48]
Vidíte, že mi to poskytlo pěkný přehled, že obrázek ukazuje
[05:52]
částečný pohled na moderní světlou kuchyň. A pak jsou uvedeny některé
[05:57]
prvky, které jsou skutečně viditelné. Takže víme, že to funguje.
[06:02]
Teď vám ukážu několik příkladů, jak používat alarm pomocí příkazového řádku.
[06:09]
Takže z vyhledávání ve Windows zadáte cmd/launch command prompt a teď,
[06:15]
když zadáte Ollama
[06:19]
a pak za konec přidáte help, zobrazí se vám seznam různých
[06:26]
dostupných příkazů, které můžete použít. Pokud jen vymažu obrazovku
[06:32]
a spustím Ollama list,
[06:38]
zobrazí se vám modely, které již máme nainstalované, které mají
[06:42]
Gemma 3 a 4 miliardy obvodů. Takže pokud to chcete spustit,
[06:48]
stačí zadat „run“ a za ním název.
[06:58]
Pokud chcete zobrazit seznam různých dostupných modelů, které si můžete
[07:02]
stáhnout a nainstalovat, jděte na ollama.com
[07:10]
a vyberte
[07:15]
zde modely, zobrazí se vám seznam různých modelů, které můžete
[07:18]
vyhledat nebo je vyhledat. Pokud tedy vyhledám „Gemma“, uvidíte
[07:25]
různé modely. A když kliknu na ten horní
[07:30]
, uvidíte příkaz „run“ pro použití Gemmy 3. A je tam seznam dalších
[07:35]
různých variant. Pokud se vrátím o krok zpět,
[07:42]
když znovu kliknu na tento, máte příkaz „run“
[07:50]
a seznam variant. Takže když zadáte „run“, stačí
[07:55]
zadat název, který chcete nainstalovat.
[07:59]
Jen pro upřesnění, když spustíte „llama run“ a nezadáte konkrétní
[08:04]
model z tohoto seznamu. Například když spustíte „lama run gpt oss“, nainstaluje se
[08:13]
výchozí verze, kterou je tato. Takže si dávejte
[08:18]
pozor, možná budete chtít o něco lehčí model. A pokud je to váš
[08:23]
případ, ujistěte se, že spustíte příkaz alarm run a poté slovo od slova specifikujete,
[08:29]
jakou variantu daného modelu skutečně chcete. Jako příklad tedy zkopíruji
[08:34]
tento příkaz a vrátím se do příkazového řádku. Ukončím
[08:38]
stávající chat stisknutím klávesy C a poté ctrl+
[08:44]
D.
[08:51]
A v tomto příkladu vidíte, že protože to ještě nemám nainstalované,
[08:55]
automaticky se stáhne a poté se to spustí.
[09:01]
Dobře, zrušme tento chat. Vyčistěte obrazovku a já spustím
[09:07]
Gemmu 3 a požádám ji o popis obrázku z příkazového řádku. Pokud
[09:15]
zapomenete, které modely již máte nainstalované,
[09:18]
jen připomínám, že je to ollama list a poté ollama run. A já jen zadám
[09:24]
danou gemmu
[09:27]
přesně tak, jak je uvedena.
[09:34]
Protože je vzorový obrázek, který používám, na tomto místě, kliknu
[09:40]
pravým tlačítkem myši a zobrazí se další možnosti. Vyberte vlastnosti
[09:45]
a poté z zabezpečení zkopíruji název souboru a cestu,
[09:52]
pak se vrátím do příkazu a napíšu následující
[09:58]
příkaz: use. Vložte do adresáře, kde se soubor
[10:02]
nachází. Pokud název souboru obsahoval mezery, řekněme, že se jednalo o kuchyňský
[10:08]
prostor, jako je tento. Pokud přidáte uvozovky, vyřeší to problém
[10:12]
s nenalezením názvu souboru. Ale v této ukázce nejsou žádné prázdné
[10:17]
mezery, takže to nemusím dělat. Takže jsem napsal use, uveďte cestu
[10:22]
a zeptám se na něco.
[10:29]
Můžete popsat obrázek? Stiskněte Enter. A mělo by se zobrazit podobný výsledek, jako
[10:35]
když jsem používal uživatelské rozhraní,
[10:40]
což má. Takže to vypadá dobře. Těsně před integrací do Home
[10:46]
Assistant ho musíme zpřístupnit síti.
[10:52]
Pokud kliknete na šipku nahoru a kliknete pravým tlačítkem myši na Ollama a provedete nastavení,
[11:00]
ujistěte se, že jste zaškrtli toto políčko, zpřístupnit Alarm síti. Pokud
[11:06]
to neuděláte, pak následující IP adresa následovaná tímto
[11:11]
portem vygeneruje chybovou zprávu podobnou této, která říká, že tento
[11:15]
web není dostupný. Prostě to zpřístupním zaškrtnutím tohoto políčka.
[11:22]
Pokud tuto stránku aktualizuji, mělo by to fungovat.
[11:26]
Vlevo nahoře vidíte, že je spuštěný alarm.
[11:31]
Dobře. Teď, když Ollama běží a máme ji síti, přejděme
[11:36]
na Home Assistant a začneme s integrací.
[11:41]
V Home Assistant přejděte do nastavení,
[11:44]
poté do zařízení a služeb, klikněte na přidat integraci
[11:51]
, vyhledejte Olama
[11:55]
a vyberte tu první. Toto je URL adresa, kterou jsem zobrazoval dříve,
[12:02]
když se psalo, že Ollama běží. Takže ji tam vložím. Pak vyberu
[12:08]
odeslat. Vidíte, že je to úspěšné.
[12:15]
Odtud můžu přidat konverzačního agenta a můžu přidat
[12:21]
úlohu AI. Vyberu přidat úlohu AI
[12:26]
a na konec vložím Ollamu.
[12:32]
A co se týče modelu, musí to být jeden z modelů, které jsem nainstaloval.
[12:39]
Zde vidíte, že máte staženou Gemmu 3 4B.
[12:43]
Takže ji vybereme. Zbytek nastavení v podstatě ponechám
[12:48]
jako výchozí. A teď kliknu na Odeslat.
[12:54]
To vypadá dobře. Když už jsem tady, mohl bych stejně tak přidat
[12:59]
konverzačního agenta pro ty z vás, kteří používají hlasový asistent pro domácnost. Znovu změním
[13:05]
model na ten, který je již stažen.
[13:09]
Všechno nechám jako výchozí. Zaškrtnu políčko u asistence
[13:17]
a pak kliknu na Odeslat.
[13:21]
Takže teď jsme přidali konverzační agenty a úlohy AI, které budou používat
[13:27]
Olamu, a teď ji jen rychle integrujeme do LMM Vision pro
[13:33]
ty z vás, kteří ji mají nainstalovanou. Ještě jsem nenatočil celé video o LMM Vision
[13:39]
, ale brzy vyjde a jakmile bude venku, dám
[13:44]
vám odkaz do popisu. Takže pokud půjdeme do nastavení,
[13:52]
zařízení a služeb. Pokud teď jen vyhledáme LMM Vision,
[14:00]
předpokládám, že ji už máte nainstalovanou a možná máte Open AI
[14:04]
jako jednu z existujících položek. Nyní vybereme Přidat položku.
[14:11]
Změňte ji na Ollama. Klikněte na Odeslat.
[14:17]
IP adresa je opět ta, kterou jsem ukázal dříve
[14:24]
, a to je jen bez podpory, protože je již uvedena níže. Ujistěte se, že
[14:28]
model je ten, který jste již nainstalovali. Gemma 3 je jeden z
[14:33]
modelů, který podporuje Vision. Takže to je perfektní volba.
[14:38]
Pak už jen kliknu na Odeslat. A teď jsme ho přidali i do LMM Vision
[14:46]
. Chcete-li nyní používat Ollamu s
[14:51]
hlasem domácího asistenta, přejděte do nastavení a poté na hlasového asistenta.
[14:58]
A pokud vyberete Přidat asistenta
[15:04]
a v části Konverzační agent byste měli vidět toho, co jsem vytvořil, a to je
[15:10]
konverzace Ollama, kterou byste zde vybrali. Nechci zacházet do přílišných
[15:16]
detailů ohledně těchto nastavení, pokud jde o přidání asistenta, protože když jsem točil
[15:21]
video s hlasem domácího asistenta, už jsem to podrobně probral. Účelem
[15:27]
tohoto videa je vlastně jen integrace alarmu do Home Assistant
[15:32]
, abyste ho mohli využít. Takže toto okno zavřu. Nyní vytvořím
[15:39]
dvě akce. Jednu akci s využitím LLM Vision s Ollamou a také úlohu s umělou inteligencí
[15:49]
, která používá Ollamu. Pokud přejdete do nástrojů pro vývojáře
[15:55]
a na kartu Akce, tak vymažu tu obrazovku a já
[16:01]
to přepnu do režimu uživatelského rozhraní, protože je to trochu snazší vysvětlit. Takže
[16:05]
zadám llm a použijeme analyzátor obrazu.
[16:12]
Poskytovatelem bude tento alarm, který jsem přidal. Nechám to
[16:18]
tak, jak je. Takže výchozí by byla Gemma 3. Jako výzvu se zeptám
[16:23]
: „Co vidíte?“
[16:28]
Zruším zaškrtnutí těchto dvou políček. Nechci si to pamatovat ani používat paměť. A jen
[16:33]
velmi rychle použiji obrazovou entitu jednoho z mých fotoaparátů.
[16:38]
Mám tu jeden z kuchyně. Zbytek nechám jako výchozí nastavení.
[16:44]
Jen se musím ujistit, že jsem zaškrtl políčko „vložit soubor“, jinak to nebude fungovat.
[16:49]
Teď vyberu provést akci.
[17:02]
A vidíte, že mi to poskytlo nějaké podrobnosti o daném obrázku. A to je
[17:08]
ten obrázek, na který se to vztahuje. Takže to funguje. Teď budeme v podstatě
[17:13]
opakovat přesně ty samé kroky, ale jako úlohu s umělou inteligencí. Takže když se vrátím nahoru, zadám
[17:21]
AI a použiji funkci generování dat,
[17:28]
což je tento tady. Název úkolu mu prostě budu říkat
[17:33]
demo. Je jedno, jak ho pojmenuji. Pokyny,
[17:37]
udělám to úplně stejně. Co vidíte? ID entity je poskytovatel
[17:44]
a je to tady, Ollama AI tasky.
[17:49]
A pak příloha. Vyberu si mediální soubor. Přejdu
[17:54]
na kameru a použiji tu kuchyň. Takže je to stejný obrázek.
[18:00]
A teď vyberu provést akci. Už to ukazuje
[18:05]
předchozí akci, ale mělo by to být trochu jiné. Takže když
[18:09]
na to kliknu, jen počkejte, až to spustí své procesy.
[18:16]
A vidíte, že to je hotové. Má to... Dobře, pojďme si rozebrat, co vidím
[18:21]
v kuchyni. A má to standardní rozvržení kuchyně se skříňkami,
[18:26]
černou konvicí. Takže to fungovalo i s Ollamou.
[18:32]
Pro ty z vás, kteří to zajímají, to spustím
[18:36]
znovu, ale tentokrát použiji Open AI místo Ollamy. Takže
[18:43]
vybírám tento a klikám na Provést akci.
[18:55]
To je pravděpodobně zhruba stejný čas, co se týče rychlosti, ale možná
[19:01]
je skutečná analýza a rozpis informací o něco
[19:07]
podrobnější. Takže to běží lokálně a je plně
[19:12]
zapojeno do Home Assistant. Pokud chcete pokračující video, kde jsem dočasně
[19:17]
přepnul tento počítač na Linux a ukázal samostatné nastavení LMM, dejte mi
[19:22]
vědět v komentářích. Stiskněte tlačítko To se mi líbí, pokud vám to pomohlo,
[19:27]
a přihlaste se k odběru upozornění, až budou k dispozici další tutoriály o automatizaci Smartome
[19:32]
. Díky za sledování a uvidíme se u dalšího dílu. Zatím ahoj
[19:36]
.