Локальные LLM набирают 90% в агентном кодинг-эвале, а Ollama завоёвывает умы разработчиков

2026-11-04 · Источник：InfoWorld

Модели с открытыми весами на ноутбуках теперь набирают 90% в агентном кодинг-бенчмарке, несколько месяцев назад топившем локальные инструменты, а Ollama стал популярным способом их запуска.

Разработчики, списавшие локально размещённые большие языковые модели после ранних разочарований, возможно, захотят взглянуть ещё раз, согласно анализу InfoWorld рантайма Ollama. Перелом разителен: Саймон П. Кауч, старший инженер-программист Posit, заметил этой весной на Bluesky, что несколькими месяцами ранее каждая LLM, какую он мог запустить на своём MacBook, набирала 0% в собранной им агентной кодинг-оценке. Апрельские релизы Qwen 3.5 и Gemma 4, сообщил он, оба достигли 90% на том же тесте.

Опенсорс-разработчик Саймон Уиллисон, пристально отслеживающий ИИ-индустрию, ударил в похожую ноту в молниеносном докладе на PyCon US 2026 в мае, наблюдая, что модели, доступные на ноутбуках, хоть и куда слабее фронтира, начали стремительно превосходить ожидания. Оговорка в силе: модель на ноутбуке всё ещё не может приблизиться к тому, что в облаке выдают системы переднего края от Anthropic или OpenAI. Для чётко очерченной работы — ответов на вопросы по коду, написания функций или суммаризации документов — однако, локальные модели могут быть на удивление способны.

Среди множества путей локального запуска моделей Ollama выделяется популярностью и лёгкой настройкой, даже если это не самый быстрый из доступных вариантов. Его интеграционный след широк: мейнстримные инструменты программирования, включая Visual Studio Code, JetBrains AI Assistant, Zed и Posit Assistant, поддерживают его из коробки. Ollama также может запускать Claude Code или Codex с опцией нацелить эти кодинг-агенты на локальную LLM.

Ollama — не единственный выбор. Альтернативы для запуска локальных моделей на PC или Mac включают LM Studio, Jan, Unsloth, инструмент LLM, созданный Саймоном Уиллисоном, и llama.cpp. Для организаций, взвешивающих, способен ли инференс на устройстве поглотить рутинные кодинг- и суммаризационные ворклоады, консенсус практиков таков: железо, уже стоящее на столе, теперь может взять планку, которую всего несколько месяцев назад провалило.

Теги: Ollama · Simon P. Couch · Simon Willison · Local LLMs · Qwen 3.5 · Gemma 4

Локальные LLM набирают 90% в агентном кодинг-эвале, а Ollama завоёвывает умы разработчиков

Читайте также