Ollama: навіщо запускати ШІ локально, якщо є ChatGPT?

У вас є таблиця з тисячею відгуків клієнтів, і треба розкласти їх на «доставка», «якість», «ціна» та «інше». ChatGPT зробить це чудово, але копіювати тисячу рядків у вікно чату ніхто не буде. Через API хмарного сервісу кожен запит коштує грошей, а відгуки містять імена й телефони, які не дуже хочеться відправляти третім сторонам. Що лишається? Модель, яка працює на вашому комп'ютері й відповідає вашому скрипту так само, як хмарний API. Саме для цього існує Ollama.

Не для того, щоб скасувати підписку на ChatGPT. А для того, щоб у вашого комп'ютера з'явилася ще одна служба — мовна модель, яку можна викликати з будь-якої програми.

П'ять хвилин до першої відповіді

Тут Ollama справді хороший. Встановлюєте його для Windows, macOS чи Linux і пишете в терміналі одну команду, яку наводить офіційний quickstart:

ollama run gemma4:e2b

Ollama сам завантажить модель і відкриє чат. Вийти — /bye. Перевірити, де працює модель, — ollama ps: у колонці PROCESSOR буде видно, чи вона повністю на відеокарті, чи частково на процесорі. Для простих сценаріїв цим знайомство й обмежується.

Вимоги для Windows — Windows 10 22H2 або новіша, для відеокарт NVIDIA — свіжий драйвер, для AMD — ROCm 7 або Vulkan. Підтримуються навіть доволі старі NVIDIA з compute capability 5.0. Сама програма займає близько 4 GB, а моделі — від сотень мегабайтів до сотень гігабайтів.

Якщо термінал лякає, у Ollama тепер є і графічний застосунок. Але будьмо чесні: Ollama з графічним інтерфейсом — це як вантажівка з кондиціонером. Приємно, але купують її не за це.

Розетка на localhost:11434

Головне, що робить Ollama, — запускає локальний сервер. За документацією API, він доступний за адресою http://localhost:11434 і говорить трьома «мовами»: власним API Ollama, форматом, сумісним з OpenAI, і форматом, сумісним з Anthropic. Ключ для локальних запитів не потрібен.

На практиці це означає просту річ: будь-яка програма, яка вміє працювати з OpenAI API, може працювати з вашою локальною моделлю, якщо змінити адресу. А таких програм — сотні. У README проєкту окремо перелічено інтеграції з вебінтерфейсами, редакторами коду, фреймворками для агентів і бібліотеками для Python, JavaScript, Java, .NET тощо.

Задача з відгуками з початку статті виглядає приблизно так:

curl http://localhost:11434/api/generate -d '{
  "model": "gemma4:e2b",
  "prompt": "Віднеси відгук до категорії: доставка, якість, ціна або інше. Відгук: Посилка йшла майже два тижні.",
  "stream": false
}'

Обгорніть це в цикл на тисячу рядків — і маєте класифікатор, який працює без інтернету, без оплати за токени і без передавання персональних даних. Модель на кілька мільярдів параметрів помилятиметься частіше за GPT-рівень, тож результат треба вибірково перевіряти. Але для сортування, тегування, витягування полів з тексту чи чернеток типових відповідей мала локальна модель часто цілком достатня.

Код, агенти й автоматизація

Ollama давно вийшов за межі «запусти модель і поговори».

Інструменти. Ollama підтримує виклик інструментів: модель може попросити вашу програму виконати функцію, наприклад знайти запис у базі, і використати результат у відповіді. Це основа будь-якого агента.

Агенти для коду. Команда ollama launch запускає Claude Code, Codex CLI чи OpenCode з моделями Ollama. А в застосунку для macOS можна підключити моделі Ollama до Claude Desktop чи ChatGPT Desktop у режимі Codex. Звучить як «безкоштовний Claude Code», але ні: якість агента визначає модель, а мала локальна модель і флагманська хмарна в агентних задачах — різні світи.

Власні моделі. Через Modelfile можна зібрати свою конфігурацію: базова модель, системна інструкція, параметри, шаблон. Наприклад, «помічник служби підтримки, відповідає українською, коротко, без вигадок». Це не донавчання, а збережене налаштування, але для командної роботи дуже зручне.

Картинки. У січні 2026 року Ollama додав експериментальну генерацію зображень моделями Z-Image Turbo і FLUX.2 Klein. Спочатку лише на macOS, а для Windows і Linux її тоді обіцяли згодом. Ліцензії моделей різні: FLUX.2 Klein на 9B розповсюджується під некомерційною ліцензією, тож для бізнесу це треба перевіряти.

Ollama проти LM Studio

Обидва запускають ті самі відкриті моделі, і обидва вже давно не лише про чат. Але філософія різна.

Якщо ви хочете поговорити з локальною моделлю чи прочитати нею документ, LM Studio зручніший. Якщо хочете, щоб модель працювала на вас, поки ви займаєтеся іншим, Ollama природніший. Багато хто тримає обидва.

Що не сподобається звичайному користувачу

Контекст за замовчуванням крихітний. За FAQ, Ollama за замовчуванням використовує контекст на 4096 токенів. Це приблизно кілька сторінок тексту. Вставте довгий договір і спитайте про пункт з кінця — модель може просто не «побачити» його, і ніхто вас не попередить. Контекст збільшується змінною OLLAMA_CONTEXT_LENGTH або командою /set parameter num_ctx, але треба знати, що це взагалі потрібно. І більший контекст потребує більше пам'яті.

Пастка з хмарою. З вересня 2025 року Ollama пропонує хмарні моделі, і вони поводяться «як звичайні»: їх так само завантажують, запускають і бачать у ollama ls. Відрізняє їх лише суфікс на кшталт -cloud у назві. Ollama обіцяє, що хмара не зберігає ваші дані, але це вже не «все на моєму комп'ютері». Якщо ви обрали Ollama заради приватності, дивіться на назву моделі уважніше, ніж на будь-що інше.

Хмара стала й бізнес-моделлю. На сторінці тарифів — безкоштовний план із локальним запуском і стартовими кредитами на хмарні моделі, Pro за $20 на місяць з кредитами на $60 і доступом до більших моделей, командний план за $500. Локальний Ollama лишається безкоштовним, але вектор розвитку очевидний.

Термінал нікуди не дівся. Застосунок є, але документація, налаштування, змінні середовища й діагностика живуть у командному рядку. Людині, яка ніколи не відкривала PowerShell, тут буде некомфортно.

Залізо вирішує все. Ollama не зробить модель розумнішою, ніж дозволяє ваша відеокарта. На ноутбуці без дискретної графіки ви отримаєте малі моделі й неквапливі відповіді.

Темп оновлень. Проєкт розвивається дуже швидко: на момент написання найсвіжіший реліз — v0.40.6 від 16 жовтня 2026 року. Це плюс для функцій і мінус для стабільності інструкцій: поради з торішніх статей можуть уже не працювати.

Висновок без дипломатії

Якщо вам потрібен розумний співрозмовник для щоденних запитань, Ollama вам не потрібен. ChatGPT, Gemini чи Claude дадуть кращі відповіді на будь-якому ноутбуці, а для локального чату зручніший LM Studio.

Ollama потрібен, коли у вас є задача, яку можна автоматизувати, і дані, які не хочеться віддавати. Сортування листів, тегування відгуків, витягування даних з документів, локальний помічник у редакторі коду, власний сервіс у компанії без передавання даних назовні. Тут він не альтернатива ChatGPT, а інструмент зовсім іншого класу: не співрозмовник, а працівник, який не втомлюється, не бере грошей за токен і не виносить дані за межі вашого комп'ютера. Якщо, звісно, ви не обрали модель із суфіксом -cloud.