Ai pid kontrolem visualni tokens nano modeli agents
Ai pid kontrolem visualni tokens nano modeli agents
Поділитись
01.11.2025
14
8 хв
4,9
(3)

ШІ під контролем: візуальні токени, Nano-моделі та агенти

Ще рік тому розмова про ШІ в бізнесі зводилась до двох питань: «яка модель розумніша» і «скільки коштує запит». Зараз питання інші: як зробити, щоб модель не забувала контекст довгої роботи, як запустити її на власному ноутбуці без хмари, як дати співробітникам збирати собі інструменти без ІТ-відділу — і як при цьому не втратити контроль над тим, що ці інструменти й агенти роблять із даними компанії.

Це важливо саме зараз, бо кілька релізів за одну хвилю показали, куди рухається галузь: у бік компактності, локального контролю й керованості. Не «більше параметрів», а «менше ресурсів на той самий результат». Не «замінити людину», а «дати людині панель керування». Те, що вчора вимагало бюджету корпорації, сьогодні можна зібрати на власному контурі.

У цьому огляді — шість новин, кожна зі своїм «навіщо це мені»: візуальна памʼять моделей від DeepSeek, малі моделі IBM Granite, конструктор застосунків у Microsoft 365 Copilot, панель керування кодинг-агентами від GitHub, обережні фінансові агенти Intuit і відкриті моделі безпеки від OpenAI. І в кінці — що з цього брати в роботу вже цього місяця.

DeepSeek: візуальні токени як новий спосіб «памʼятати»

DeepSeek показала OCR-модель, яка цікава не як черговий розпізнавач тексту, а як лабораторія ідей зі зберігання контексту. Замість тисяч текстових токенів система пакує сторінки у візуальні подання — «знімки» тексту — і застосовує ієрархічну компресію: старі або менш важливі фрагменти лишаються «розмитими», але доступними, важливе тримається чітким.

Навіщо це. Проблема, яку в галузі називають context rot — «гниття контексту», — реальна для будь-якого довгого діалогу чи агента: що більше історії, то гірше модель тримає початок і то дорожчий кожен запит. Візуальні токени зберігають той самий обсяг сенсу, займаючи значно менше «місця» в памʼяті моделі, і дають системам фонові слоти для менш активних спогадів — як людина памʼятає вчорашній день чітко, а минулий місяць у загальних рисах.

Деталі й обмеження. Автори прямо порівнюють підхід із людською памʼяттю, а саму модель використовують і як фабрику тренувальних даних зі сканованих сторінок. Андрій Карпаті, коментуючи роботу, зазначив, що зображення як вхід для мовних моделей можуть виявитись ефективнішими за текстові токени. Але це рання робота: ще треба перевірити, як візуальне кодування впливає на міркування й на динамічне забування, і зробити наступний крок — від «зберігання» до використання візуальних токенів у самому процесі reasoning.

IBM Granite 4.0 Nano: коли маленьке — по ділу

IBM випустила сімейство Granite 4.0 Nano: відкриті моделі розміром від кількох сотень мільйонів до півтора мільярда параметрів, які реально запускаються на ноутбуках і навіть у браузері. Це не просто «урізані» ваги великої моделі — це окремі архітектурні рішення (гібрид SSM і трансформера в серії H), оптимізація під низьку затримку та інструменти для локального запуску.

Чому це важливо. Галузь відходить від метрики «чим більше, тим краще». Granite Nano пропонує іншу формулу: достатня продуктивність при низькому споживанні памʼяті, ліцензія Apache 2.0 і сумісність зі звичними інструментами локального запуску на кшталт llama.cpp і vLLM. Для бізнесу це перекладається в три слова: приватно, дешево, швидко.

Практичний сенс. У бенчмарках IBM моделі показують конкурентні для свого розміру результати у виконанні інструкцій і виклику функцій, а компанія опублікувала рецепти донавчання під власні задачі. Класифікація звернень, розмітка документів, витяг полів із рахунків, перший рівень підтримки — усе це можна закрити локально, без зовнішнього API, з можливістю аудиту й без передачі даних назовні.

Microsoft 365 Copilot: конструктор застосунків для кожного співробітника

Microsoft додала до Copilot інструменти App Builder і Workflows: передплатник Microsoft 365 Copilot описує задачу природною мовою, а Copilot генерує інтерфейс, базу на Microsoft Lists і логіку — у межах корпоративних політик безпеки. Тобто застосунок для обліку заявок відділу тепер може зробити керівник відділу, а не ІТ.

Значимість. Microsoft говорить про сотню мільйонів користувачів Microsoft 365 — масштаб, у якому навіть невеликий відсоток «самозбирачів» змінює культуру роботи: локальні покращення перестають чекати черги в ІТ. Передбачена й міграція в Power Platform, коли проєкт виростає з іграшки в систему.

Ризики. App Builder дає адміністраторам огляд усіх створених застосунків, але «тіньове ІТ» нікуди не зникає — воно просто стає видимим. Хто супроводжуватиме сотню застосунків, зроблених за вечір? Успіх залежить не від інструменту, а від правил: що можна збирати самому, що треба показати ІТ, а що заборонено чіпати.

GitHub Agent HQ: єдина панель для багатьох кодинг-агентів

GitHub представив Agent HQ — спробу стати «диспетчером» для агентів розробки від різних постачальників: Anthropic, OpenAI, Google та інших. Ідея — не замінити інструменти, а керувати ними в одному середовищі зі звичними примітивами: git, pull request, CI.

Навіщо. У великій компанії кілька команд одночасно експериментують із різними агентами, і ніхто не бачить картини цілком. Agent HQ вводить централізацію прав, аудит, ізольовані середовища виконання і версіонування поведінки агентів через файли AGENTS.md у репозиторії. Панель Mission Control показує, що робить кожен агент; агенти отримують обмежені токени й доступ лише до дозволених гілок; є інтеграція з протоколом MCP і агентне ревʼю коду з CodeQL. Компанія може тестувати кількох постачальників паралельно й поступово вплітати агентів у розробку — без ситуації, коли агент з чиєїсь машини мерджить у main те, чого ніхто не бачив.

Intuit: фінансові агенти з фокусом на довіру

Intuit запустила Intuit Intelligence — оркестратор спеціалізованих агентів для QuickBooks під критичні фінансові сценарії. Ключова ідея: не підміняти дані генерацією, а будувати шар запитів до реальних даних і лишати людині контроль у ключових точках.

Цінність. У фінансах помилка коштує дорого, і навіть помітне підвищення точності моделі не повертає довіру автоматично. Тому Intuit робить ставку на архітектуру «запит до реальних даних» і пояснюваність: інтерфейс показує, чому система ухвалила саме таке рішення.

Висновок для бізнесу. Агенти опитують обʼєднаний шар даних і повертають результати як операції над базою, а не як згенерований текст, із людським підтвердженням у ключових точках. За чутливих даних архітектурне рішення «запит проти генерації» важливіше за будь-яке демо. Це та сама логіка, яку я застосовую в автоматизаціях: модель не вигадує цифри — вона формулює запит до системи, де ці цифри лежать.

OpenAI відкриває ваги моделей безпеки

OpenAI випустила дослідницьке превʼю сімейства gpt-oss-safeguard — відкриті моделі для кастомної класифікації контенту. Особливість: модель інтерпретує правила безпеки під час виконання, а не тримає жорсткий набір правил у вагах. Ви пишете політику текстом — модель застосовує її до контенту й пояснює хід міркувань.

Користь. Політики оновлюються без донавчання, ланцюжок міркувань видно, і корпоративні правила — що публікувати, що вважати спамом, які звернення ескалювати — вшиваються прямо в пайплайн обробки.

Застереження. Дві моделі (більша і компактніша) доступні під Apache 2.0 на Hugging Face. Це інструмент для розробників, а не готова система модерації: надійність залежить від якості ваших правил і тестових наборів.

Що з цього брати власнику бізнесу

За одну хвилю новин зійшлися три речі: економія ресурсів (візуальні токени, малі моделі), перенесення ШІ в щоденну роботу (Copilot, Intuit) і системний контроль над агентами та безпекою (GitHub Agent HQ, OpenAI safeguard). Це не один гігантський тренд, а набір взаємодоповнювальних змін, і кожна з них має практичну проєкцію на бізнес будь-якого розміру.

ТрендЩо змінюєтьсяЩо зробити цього місяця
Компактні моделіРутинні задачі не потребують хмариВиписати задачі, де дані не мають виходити назовні, і спробувати локальну модель на одній із них
Стиснення контекстуДовгі діалоги й агенти стають дешевшимиПорахувати, скільки токенів у ваших промптах — обгортка, а скільки — сенс
Застосунки словамиСпівробітники збирають інструменти саміНаписати правила: що можна збирати самостійно, що показувати ІТ
Панель для агентівАгенти стають керованими, а не стихійнимиЗавести файл із правилами для агентів у кожному репозиторії
Запит замість генераціїМодель питає систему, а не вигадуєУ фінансових і облікових сценаріях заборонити моделі «згадувати» цифри
Політики як текстПравила безпеки оновлюються без донавчанняОписати текстом, що для вас неприйнятний контент або звернення

Якщо ви впроваджуєте ШІ — заздалегідь визначте, де потрібні локальний контроль і приватність, де достатньо хмари і які процеси готові до того, що «звичайний співробітник» почне будувати свої інструменти. Це і є стратегія, а не набір експериментів. Потрібен погляд збоку на ваш бізнес — на консультації на 60 хвилин розкладемо це на план із конкретними кроками.

Коротко

  • DeepSeek експериментує з візуальними токенами: той самий контекст — значно менше памʼяті; підхід ранній, але напрямок серйозний.
  • IBM Granite 4.0 Nano — відкриті малі моделі під Apache 2.0, що працюють локально: приватно, дешево, швидко для рутинних задач.
  • Microsoft 365 Copilot дає співробітникам збирати застосунки словами; головний ризик — не інструмент, а відсутність правил.
  • GitHub Agent HQ перетворює кодинг-агентів на керовану систему з правами, аудитом і правилами в репозиторії.
  • Intuit показує зразок для чутливих даних: модель робить запит до реальних даних, а не генерує відповідь.
  • OpenAI gpt-oss-safeguard дозволяє описати політику безпеки текстом і застосовувати її без донавчання.
  • Спільний вектор — доступність і контроль: менше ресурсів, більше керованості.

Питання, які ставлять найчастіше

Чи варто малому бізнесу взагалі дивитись на локальні моделі?

Так, якщо є задачі з даними, які не можна віддавати назовні: звернення клієнтів, документи, фінанси. Малі моделі закривають класифікацію, витяг полів і перший рівень підтримки на звичайному ноутбуці. Для складного міркування хмарні моделі поки що сильніші — тому правильна схема гібридна.

Що таке «запит замість генерації» і чому це важливо?

Це принцип, коли модель не відповідає на питання «скільки ми заробили в березні» з памʼяті, а формує запит до бази, отримує число і показує його разом із джерелом. Так модель не може «вигадати» цифру, а людина бачить, звідки вона взялась. У фінансах, обліку й медицині це єдиний прийнятний спосіб роботи з ШІ.

Як не допустити хаосу, коли співробітники почнуть збирати застосунки самі?

Правилами до інструменту, а не після. Три списки: що можна збирати самостійно, що показати відповідальному до запуску, до яких даних самозбірні інструменти не мають доступу. І огляд усього створеного раз на місяць — кращі рішення підняти на рівень компанії, мертві прибрати.

Навіщо файл із правилами для агентів у репозиторії?

Бо агент, як і новий співробітник, працює настільки добре, наскільки чіткі йому інструкції. Файл у репозиторії робить їх версіонованими, спільними для всіх агентів і видимими для команди — це найдешевший спосіб зробити поведінку агентів передбачуваною.

Ігор Ніколенко
Про автора
Засновник DigitTime, автор Моделі запуску D.N.A.

З 2008 року у професійному Digitalʼі, digital-маркетингу та запусках. Візіонер платформи NEO, Академії Evolve.Place і DigitTime Projects. Пише про те, що перевірив на власних проєктах, а не переказує чужі кейси.

Усі статті автора →
Telegram-канал клубу: системи, що продають
Короткі розбори, інструменти й запуски — без води. Один-два пости на тиждень, без спаму.
Підписатись у Telegram
Gift
Будьте в курсі подій
© 2026. Всі права захищені