Ai pid kontrolem visualni tokens nano modeli agents
Ai pid kontrolem visualni tokens nano modeli agents
Поділитись
01.11.2025
23
8 хв
4,9
★
★
★
★
★
(3)

ШІ під контролем: візуальні токени, Nano-моделі та агенти

Ще рік тому розмова про ШІ в бізнесі зводилась до двох питань: «яка модель розумніша» і «скільки коштує запит». Зараз питання інші: як зробити, щоб модель не забувала контекст довгої роботи, як запустити її на власному ноутбуці без хмари, як дати співробітникам збирати собі інструменти без ІТ-відділу. І як при цьому не втратити контроль над тим, що ці інструменти й агенти роблять із даними компанії.

Це важливо саме зараз, бо кілька релізів за одну хвилю показали, куди рухається галузь: у бік компактності, локального контролю й керованості. Змагаються вже за менше ресурсів на той самий результат, кількість параметрів відходить на другий план. Людині дають панель керування, замість того щоб її замінювати. Те, що вчора вимагало бюджету корпорації, сьогодні можна зібрати на власному контурі.

У цьому огляді шість новин, кожна зі своїм «навіщо це мені»: візуальна памʼять моделей від DeepSeek, малі моделі IBM Granite, конструктор застосунків у Microsoft 365 Copilot, панель керування кодинг-агентами від GitHub, обережні фінансові агенти Intuit і відкриті моделі безпеки від OpenAI. А в кінці список того, що з цього брати в роботу вже цього місяця.

DeepSeek: візуальні токени як новий спосіб «памʼятати»

DeepSeek показала OCR-модель. Цікава вона передусім як лабораторія ідей зі зберігання контексту, саме розпізнавання тексту тут другорядне. Замість тисяч текстових токенів система пакує сторінки у візуальні подання («знімки» тексту) і застосовує ієрархічну компресію: старі або менш важливі фрагменти лишаються «розмитими», але доступними, важливе тримається чітким.

Навіщо це. Проблема, яку в галузі називають context rot («гниття контексту»), реальна для будь-якого довгого діалогу чи агента: що більше історії, то гірше модель тримає початок і то дорожчий кожен запит. Візуальні токени зберігають той самий обсяг сенсу, займаючи значно менше «місця» в памʼяті моделі, і дають системам фонові слоти для менш активних спогадів. Так людина памʼятає вчорашній день чітко, а минулий місяць у загальних рисах.

Деталі й обмеження. Автори прямо порівнюють підхід із людською памʼяттю, а саму модель використовують і як фабрику тренувальних даних зі сканованих сторінок. Андрій Карпаті, коментуючи роботу, зазначив, що зображення як вхід для мовних моделей можуть виявитись ефективнішими за текстові токени. Але це рання робота. Ще треба перевірити, як візуальне кодування впливає на міркування й на динамічне забування, і зробити наступний крок: перейти від «зберігання» до використання візуальних токенів у самому процесі reasoning.

IBM Granite 4.0 Nano: коли маленька модель справляється

IBM випустила сімейство Granite 4.0 Nano: відкриті моделі розміром від кількох сотень мільйонів до півтора мільярда параметрів, які реально запускаються на ноутбуках і навіть у браузері. Це окремі архітектурні рішення (гібрид SSM і трансформера в серії H), оптимізація під низьку затримку та інструменти для локального запуску. «Урізаними» вагами великої моделі їх не назвеш.

Довідкова картка про моделі IBM Granite 4.0 Nano: розмір, ліцензія, інструменти запуску і задачі
Granite 4.0 Nano має до 1,5 млрд параметрів, ліцензію Apache 2.0 і запускається через llama.cpp або vLLM, тому рутинні задачі можна закрити без зовнішнього API.

Чому це важливо. Галузь відходить від метрики «чим більше, тим краще». Granite Nano пропонує іншу формулу: достатня продуктивність при низькому споживанні памʼяті, ліцензія Apache 2.0 і сумісність зі звичними інструментами локального запуску на кшталт llama.cpp і vLLM. Для бізнесу це перекладається в три слова: приватно, дешево, швидко.

Практичний сенс. У бенчмарках IBM моделі показують конкурентні для свого розміру результати у виконанні інструкцій і виклику функцій, а компанія опублікувала рецепти донавчання під власні задачі. Класифікацію звернень, розмітку документів, витяг полів із рахунків, перший рівень підтримки можна закрити локально, без зовнішнього API, з можливістю аудиту й без передачі даних назовні.

Microsoft 365 Copilot: конструктор застосунків для кожного співробітника

Microsoft додала до Copilot інструменти App Builder і Workflows: передплатник Microsoft 365 Copilot описує задачу природною мовою, а Copilot генерує інтерфейс, базу на Microsoft Lists і логіку в межах корпоративних політик безпеки. Тобто застосунок для обліку заявок відділу тепер може зробити керівник відділу, без ІТ.

Значимість. Microsoft говорить про сотню мільйонів користувачів Microsoft 365. За такого масштабу навіть невеликий відсоток «самозбирачів» змінює культуру роботи: локальні покращення перестають чекати черги в ІТ. Передбачена й міграція в Power Platform, коли проєкт виростає з іграшки в систему.

Ризики. App Builder дає адміністраторам огляд усіх створених застосунків, але «тіньове ІТ» нікуди не зникає, воно просто стає видимим. Хто супроводжуватиме сотню застосунків, зроблених за вечір? Успіх залежить від правил більше, ніж від інструменту: що можна збирати самому, що треба показати ІТ, а що заборонено чіпати.

GitHub Agent HQ: єдина панель для багатьох кодинг-агентів

GitHub представив Agent HQ, спробу стати «диспетчером» для агентів розробки від різних постачальників: Anthropic, OpenAI, Google та інших. Інструменти лишаються ті самі, змінюється керування: усе в одному середовищі зі звичними примітивами git, pull request, CI.

Блок «Підключіть свій ШІ до сайту через MCP» на сторінці платформи NEO
Той самий принцип керованих агентів на сайті NEO: Claude, ChatGPT чи Cursor входять через OAuth і отримують один із трьох рівнів доступу: читання, читання й запис або повний.

Навіщо. У великій компанії кілька команд одночасно експериментують із різними агентами, і ніхто не бачить картини цілком. Agent HQ вводить централізацію прав, аудит, ізольовані середовища виконання і версіонування поведінки агентів через файли AGENTS.md у репозиторії. Панель Mission Control показує, що робить кожен агент; агенти отримують обмежені токени й доступ лише до дозволених гілок; є інтеграція з протоколом MCP і агентне ревʼю коду з CodeQL. Компанія може тестувати кількох постачальників паралельно й поступово вводити агентів у розробку. При цьому не виникає ситуації, коли агент з чиєїсь машини мерджить у main те, чого ніхто не бачив.

Intuit: фінансові агенти з фокусом на довіру

Intuit запустила Intuit Intelligence, оркестратор спеціалізованих агентів для QuickBooks під критичні фінансові сценарії. Ключова ідея: будувати шар запитів до реальних даних замість генерації і лишати людині контроль у ключових точках.

Порівняння двох підходів фінансових агентів: генерація відповіді з памʼяті моделі і запит до реальних даних
Intuit Intelligence будує агентів для QuickBooks на запитах до реальних даних і підтвердженні людиною, бо у фінансах вигадана цифра коштує дорожче за будь-яке демо.

Цінність. У фінансах помилка коштує дорого, і навіть помітне підвищення точності моделі не повертає довіру автоматично. Тому Intuit робить ставку на архітектуру «запит до реальних даних» і пояснюваність: інтерфейс показує, чому система ухвалила саме таке рішення.

Висновок для бізнесу. Агенти опитують обʼєднаний шар даних і повертають результати як операції над базою, а не як згенерований текст, із людським підтвердженням у ключових точках. За чутливих даних архітектурне рішення «запит проти генерації» важливіше за будь-яке демо. Цю саму логіку я застосовую в автоматизаціях: модель не вигадує цифри, вона формулює запит до системи, де ці цифри лежать.

OpenAI відкриває ваги моделей безпеки

OpenAI випустила дослідницьке превʼю сімейства gpt-oss-safeguard: відкриті моделі для кастомної класифікації контенту. Особливість: модель інтерпретує правила безпеки під час виконання, жорсткого набору правил у вагах немає. Ви пишете політику текстом, а модель застосовує її до контенту й пояснює хід міркувань.

Користь. Політики оновлюються без донавчання, ланцюжок міркувань видно, і корпоративні правила (що публікувати, що вважати спамом, які звернення ескалювати) вбудовуються прямо в пайплайн обробки.

Застереження. Дві моделі (більша і компактніша) доступні під Apache 2.0 на Hugging Face. Це інструмент для розробників, готовою системою модерації його не назвеш: надійність залежить від якості ваших правил і тестових наборів.

Що з цього брати власнику бізнесу

За одну хвилю новин зійшлися три речі: економія ресурсів (візуальні токени, малі моделі), перенесення ШІ в щоденну роботу (Copilot, Intuit) і системний контроль над агентами та безпекою (GitHub Agent HQ, OpenAI safeguard). Це набір змін, що доповнюють одна одну, і кожна з них має практичну проєкцію на бізнес будь-якого розміру.

ТрендЩо змінюєтьсяЩо зробити цього місяця
Компактні моделіРутинні задачі не потребують хмариВиписати задачі, де дані не мають виходити назовні, і спробувати локальну модель на одній із них
Стиснення контекстуДовгі діалоги й агенти стають дешевшимиПорахувати, скільки токенів у ваших промптах іде на обгортку, а скільки на сенс
Застосунки словамиСпівробітники збирають інструменти саміНаписати правила: що можна збирати самостійно, що показувати ІТ
Панель для агентівАгенти стають керованимиЗавести файл із правилами для агентів у кожному репозиторії
Запит замість генераціїМодель питає систему, а не вигадуєУ фінансових і облікових сценаріях заборонити моделі «згадувати» цифри
Політики як текстПравила безпеки оновлюються без донавчанняОписати текстом, що для вас неприйнятний контент або звернення

Якщо ви впроваджуєте ШІ, заздалегідь визначте, де потрібні локальний контроль і приватність, де достатньо хмари і які процеси готові до того, що «звичайний співробітник» почне будувати свої інструменти. Це і є стратегія, на відміну від набору експериментів. Якщо потрібен погляд збоку на ваш бізнес, на консультації на 60 хвилин розкладемо це на план із конкретними кроками.

Коротко

  • DeepSeek експериментує з візуальними токенами: той самий контекст займає значно менше памʼяті; підхід ранній, але напрямок серйозний.
  • IBM Granite 4.0 Nano: відкриті малі моделі під Apache 2.0, що працюють локально. Для рутинних задач це приватно, дешево, швидко.
  • Microsoft 365 Copilot дає співробітникам збирати застосунки словами; головний ризик у відсутності правил.
  • GitHub Agent HQ перетворює кодинг-агентів на керовану систему з правами, аудитом і правилами в репозиторії.
  • Intuit показує зразок для чутливих даних: модель робить запит до реальних даних, а не генерує відповідь.
  • OpenAI gpt-oss-safeguard дозволяє описати політику безпеки текстом і застосовувати її без донавчання.
  • Спільний вектор: доступність і контроль. Менше ресурсів, більше керованості.

Питання, які ставлять найчастіше

Чи варто малому бізнесу взагалі дивитись на локальні моделі?

Так, якщо є задачі з даними, які не можна віддавати назовні: звернення клієнтів, документи, фінанси. Малі моделі закривають класифікацію, витяг полів і перший рівень підтримки на звичайному ноутбуці. Для складного міркування хмарні моделі поки що сильніші, тому правильна схема гібридна.

Що таке «запит замість генерації» і чому це важливо?

Це принцип, коли модель не відповідає на питання «скільки ми заробили в березні» з памʼяті. Вона формує запит до бази, отримує число і показує його разом із джерелом. Так модель не може «вигадати» цифру, а людина бачить, звідки вона взялась. У фінансах, обліку й медицині це єдиний прийнятний спосіб роботи з ШІ.

Як не допустити хаосу, коли співробітники почнуть збирати застосунки самі?

Правилами, і до інструменту, а не після. Три списки: що можна збирати самостійно, що показати відповідальному до запуску, до яких даних самозбірні інструменти не мають доступу. І огляд усього створеного раз на місяць: кращі рішення підняти на рівень компанії, мертві прибрати.

Навіщо файл із правилами для агентів у репозиторії?

Бо агент, як і новий співробітник, працює настільки добре, наскільки чіткі йому інструкції. Файл у репозиторії робить їх версіонованими, спільними для всіх агентів і видимими для команди. Дешевшого способу зробити поведінку агентів передбачуваною немає.

Ігор Ніколенко
Про автора
Засновник DigitTime, автор Моделі запуску D.N.A.

З 2008 року у професійному Digitalʼі, digital-маркетингу та запусках. Візіонер платформи NEO, Академії Evolve.Place і DigitTime Projects. Пише про те, що перевірив на власних проєктах, а не переказує чужі кейси.

Усі статті автора →
Telegram-канал клубу: системи, що продають
Короткі розбори, інструменти й запуски — без води. Один-два пости на тиждень, без спаму.
Підписатись у Telegram
Gift
Будьте в курсі подій
© 2026 ТОВ «ДІДЖИТТАЙМ» · ЄДРПОУ 46529302