--- title: 'Build a Local AI Agent in 10 Minutes using Python' source: 'https://youtube.com/watch?v=ByWCsa8DbF8' video_id: 'ByWCsa8DbF8' date: 2026-09-20 duration_sec: 488 channel: 'Tech With Tim' --- # Build a Local AI Agent in 10 Minutes using Python > Source: [Build a Local AI Agent in 10 Minutes using Python](https://youtube.com/watch?v=ByWCsa8DbF8) ## Summary This video provides a step-by-step guide to creating a fully local AI agent using Python and Ollama. It covers downloading and running a local model, integrating it with Pydantic AI, and building an agent with custom tools. ### Key Points - **Introduction to Local AI Agent** [00:01] — The video demonstrates how to create a fully local AI agent in Python within minutes, emphasizing the use of Ollama for model management. - **Downloading Ollama** [00:15] — Ollama is a free tool that allows downloading and running various AI models locally. The user is instructed to download it from a provided link and verify installation via the terminal command 'Ollama'. - **Hardware Requirements** [00:41] — The choice of model depends on hardware: for Windows with discrete GPUs, consider VRAM (e.g., 4090 with 24GB); for Mac with unified memory, consider RAM (16-128GB). The model must fit within available memory. - **Selecting a Model** [01:18] — For this video, a small model like Qwen 3.5 4 billion is recommended for speed and compatibility. The model size should be matched to available VRAM/RAM. - **Downloading the Model** [01:56] — Use the command 'ollama pull qwen3.5:4b' (or similar) in the terminal to download the chosen model. After installation, verify it with 'ollama list'. - **Community Promotion** [02:24] — The creator promotes a free learning community with over 6,600 members, offering discounts and prizes. It's free but may close near 10,000 subscribers. - **Testing the Model** [03:06] — Run the model with 'ollama run qwen3.5:4b' to test it in chat mode. The response speed depends on hardware; if slow, switch to a smaller model. - **Setting Up the Code** [03:58] — Create a Python file (e.g., agent.py) and install the Pydantic AI library using pip. The video uses VS Code but any editor works. - **Connecting to Ollama** [04:25] — Import Pydantic AI and set up a connection to the Ollama model using the Ollama provider. The server runs on localhost:11434. - **Defining Tools** [05:02] — Tools are Python functions the model can call. Examples include getting current time, calculating expressions, saving notes, and reading files. - **Creating the Agent** [05:57] — The agent is defined with system prompts, tools, and instructions. The video shows a simple agent setup using Pydantic AI. - **Main Loop** [06:11] — A while loop handles user input, sends it to the agent, updates history, and prints responses. The loop breaks on 'quit' or 'exit'. - **Testing the Agent** [06:51] — The agent responds to greetings, saves notes, reads files, and provides current date/time. Responses are fast due to local execution. - **Conclusion** [07:32] — The video concludes by encouraging customization and joining the community for more resources. It emphasizes the simplicity of the setup. ### Conclusion The video successfully demonstrates how to build a functional local AI agent with Python, Ollama, and Pydantic AI, highlighting the ease of setup and the benefits of local execution for speed and privacy. ## Transcript В этом видео вы узнаете, как всего за несколько минут создать полностью локального ИИ-агента с помощью Python . Давайте начнём. Итак, чтобы запустить локального ИИ- на нашем компьютере. Теперь, чтобы получить локальную модель, мы воспользуемся совершенно бесплатно. Вы можете скачать его, перейдя по этой ссылке. После того, как компьютер, откройте терминал, где находится командная строка, и просто введите команду Ollama. Если это сработает и даст какой-либо результат, значит, вы готовы установить свою модель. Ollama — это, по сути, инструмент, позволяющий загружать различные вы сможете загрузить и использовать, полностью зависит от дискретная видеокарта и вы используете компьютер под управлением Windows, объем видеопамяти (VRAM) в вашем устройстве. Например, у меня видеокарта устройстве. Например, у меня видеокарта 4090 и 24 ГБ выделенной видеопамяти. Если вы используете устройство Mac или устройство с унифицированной памятью, вам следует обратить внимание на объем оперативной памяти или унифицированной памяти, которыми вы располагаете. На большинстве современных компьютеров Mac это будет от 16 до 128 ГБ оперативной памяти. По сути, при выборе модели для загрузки вам нужно выбрать ту, которая поместится в указанный объем памяти. Вы можете выбрать наиболее подходящую просто хотите следовать инструкциям в этом видео, вы можете выбрать очень маленькую модель, которая будет невероятно быстрой . Итак, для этого видео я хочу работать практически на любом современном оборудовании: это точнее, одна из моделей с меньшим количеством параметров. Итак, 0,8, 2 миллиарда или 4 миллиарда. Здесь вы можете увидеть их соответствующие размеры, которые необходимо сопоставить с вашей видеопамятью и убедиться, что они помещаются внутри. Далее у нас представлены только стандартные модели Gwan 3 . Например, у нас есть один объект размером 0,6 миллиарда, один — 1,7 миллиарда, и еще один — 4 миллиарда, и вы можете видеть, что они немного меньше по размеру. Итак, выберите одну рекомендация по умолчанию, то это будет Gwan 3.5 4 billion, и перейдите в свой терминал следующим образом. Далее мы наберем Ollama pull, а затем которую хотим скачать, в данном случае Qwen 3.5 4 billion. Вы всегда можете скачайте хотя бы одну. В данном случае мы его скачаем, и вы установка. После завершения установки вы можете убедиться в её этого отобразятся все доступные модели, которые вы мы и сделаем всего за 1 секунду. Прежде чем мы перейдем к этому, я быстро больше о моделях ИИ, локальных моделях, облачных моделях и создании агентов ИИ, я бы порекомендовал вам присоединиться к моему совершенно бесплатному учебному сообществу. Оно чрезвычайно активно. У нас здесь куча людей. У нас отличные скидки и выгодные предложения. Я провожу призов для последний месяц мы очень быстро выросли, нас стало более 6,6 тысяч участников. Я не могу бесплатным навсегда. Вероятно, мы закроем его, когда приблизимся к 10 000 подписчиков. войдите и получите доступ ко всему совершенно бесплатно, включая все материалы в классе, ссылку на код которого я также размещу в этом Итак, после того как вы скачали модель с помощью Ollama, если вы хотите протестировать её и убедиться, что она будет работать достаточно быстро, вы можете ввести команду Ollama run, а затем название модели. Итак, я выберу 3,5, а затем 2 потребуется секунда, чтобы модель запустилась и загрузилась на ваше устройство. На это загрузки вы сможете с ним общаться в чате, а затем я покажу вам, Итак, как видите, модель загружена, поэтому я просто напишу что-нибудь вроде "hello", и мы должны довольно быстро получить ответ видите, что здесь начинается поток откликов . Мы, можно сказать, находимся в режиме размышления производительность, которую вы получите, будет зависеть исключительно от модели вашего устройства выше будет производительность, но и тем медленнее они будут работать. Это всего лишь ответ не затягивался надолго, тогда всё будет хорошо. Если скорость слишком низкая, перейдите к модели меньшего размера с меньшим количеством параметров. Теперь давайте перейдем в наш редактор кода, чтобы мы могли запустить это из кода и создать функциональный агент. Итак редакторе кода. Я просто использую VS Code. Вы можете использовать всё, что захотите. Теперь я создам файл с именем agent.py. Разумеется, . Теперь нам также потребуется установить библиотеку Pydantic AI с помощью pip. Итак, установлено, запустите команду pip на своем компьютере и убедитесь, что он активен. Также можно использовать, например, УФ-лак. Мне это безразлично. Сейчас мы находимся скопирую и вставлю несколько разных фрагментов кода и построчно их объясню . Итак, первое, что нам нужно сделать, это подключиться к Ollama, чтобы начать Для этого мы добавим несколько импортов, а затем вставим подключится к нашей конкретной модели. Итак, здесь вы увидите, что мы используем Pydantic AI, а именно модель Ollama и провайдер Ollama. Далее мы говорим: «Хорошо, мы хотим загрузить модель из Ollama. загрузить». Поэтому, конечно, если у вас другая ситуация, вы её измените. Например, нам может понадобиться вот эта модель. Ну, я бы просто изменил название, исходя из того, что у нас есть в Олламе. А для провайдера это будет именно так: localhost, порт 11434. Причина, по которой это работает, заключается в том, что Ollama фактически предоставляет сервер для выполнения инференций на этом можете просто подключиться к нему, а затем вызывать модель из любого типа запроса. Итак, следующим шагом будет внедрение набора инструментов. Инструменты — это, по сути, функции Python, которые может вызывать модель, а поскольку мы хотим создать агента, различные инструменты. Итак, я просто скопирую сюда несколько разных функций. но я просто показываю, на что мы способны. Например, получить текущее время, вычислить выражение, а затем сохранить заметку и прочитать фактически создать файл, а затем прочитать его на нашем локальном компьютере. Итак, как видите, у набор функций, которые мы будем использовать и передавать модели, чтобы она знала, сможет автоматически определять модели фактически их выполнять. Следующий шаг — определение агент представляет собой набор системных подсказок, инструментов и в рамках данной конкретной платформы Pydantic агент будет выглядеть примерно так, но, конечно, вы можете использовать любую платформу по своему усмотрению. Как видите, здесь у нас есть агент, инструменты. Обратите внимание, это всего лишь названия функций, которые мы определили выше, инструкций, которым должна и последнее, что нам нужно сделать, это определить постоянно работающую подсказку, цикл while или основной цикл для этого агента. Итак, как видите, я определил главную функцию. Наша задача — отслеживать историю всех отправленных сообщений. У нас некоторую информацию. Если они напишут quit или exit, мы сломаемся. В противном случае мы фактически отправляем запрос нашему агенту искусственного интеллекта. Мы предоставляем пользователю ввод данных, а также историю предыдущих сообщений. Затем мы обновляем историю и выводим ответ ИИ-агента. Теперь мы можем запустить это, и у нас должна . Давайте откроем терминал, где отображается сообщение о готовности локального агента. Давайте поздороваемся. Как вы? Посмотрим, получим ли мы ответ. Здесь должно получиться относительно быстро, но посмотрим. Отлично . Мы получаем ответ. Я собираюсь сказать: "Тим, ​​можешь сохранить записку со словами "привет, мир"?" здесь должна быть возможность использовать инструмент для заметок. Это произошло мгновенно. Итак, вот и он, «Привет, мир»! Что сейчас находится в моей папке с заметками? Давайте посмотрим, что там написано. Должно быть, это можно одна купюра», — говорит он. Какое сегодня число и время? Посмотрим, получится ли. И это даёт нам ответ, и обратите внимание, как быстро он приходит, потому что он полностью локальный. Теперь давайте наберем quit и посмотрим, существует ли эта строка, и все код, который у меня здесь есть, присоединяйтесь к моему бесплатному учебному сообществу. этому доступ. Конечно, вы можете это настроить и создать гораздо более мощного агента, но в этом коротком видео я хотел показать вам инструменты одним из самых простых способов. Ещё раз, скачайте Ollama, выберите модель, которую простой скрипт, подобный этому, для подключения к серверу вывода Ollama, предоставив ему доступ к инструментам, которые действительно могут делать что-то обязательно поставьте лайк. Увидимся в школьном сообществе и в следующем in the school community and in the next video.