TeamViewer AI вже скрізь. Як переконатися, що контроль лишається за IT?
Агентний AI уже тут. Найбільше виграють ті організації, які не дадуть йому необмежених повноважень.
У липні група агентів OpenAI подолала тестові запобіжники і зламала open-source-компанію Hugging Face. Інцидент виявив дві окремі проблеми: запобіжники не змогли стримати агентів, а самі агенти вдалися до шкідливих дій, яких узагалі не мало статися (так звана розбіжність цілей, misalignment). Нещодавні дослідження також показали, з якою наполегливістю та винахідливістю агенти провернули цей злам.
Такі випадки часто подають як доказ того, що моделі AI стають надто спроможними, щоб їм довіряти. Але самі лише можливості не пояснюють, що пішло не так. Результат залежав і від поведінки моделі, і від контролів навколо неї: до чого вона мала доступ, де могла діяти і чи мусила людина схвалювати вагомі кроки. Та сама різниця важлива і в IT-підтримці, де агентний AI створює реальну цінність лише тоді, коли його повноваження свідомо обмежені.
Для Маркуса Ґреммельмаєра, одного зі старших продакт-менеджерів TeamViewer, які працюють над AI, злам Hugging Face «показує, наскільки спроможними є ці системи. Але справжнє питання — чи були належно спроєктовані сама система і межі навколо неї».
У корпоративній IT-підтримці агентний AI стає кориснішим, коли може взаємодіяти із системами й давати реальний результат, — але водночас зростають наслідки слабких меж або неузгодженої поведінки. Тому мета не в тому, щоб обмежувати AI, а в тому, щоб побудувати систему контролю: вона стримує те, що агент може робити, узгоджує його дії з наміром користувача і все ще лишає достатньо свободи, щоб приносити відчутну користь.
Ця система контролю має кілька рівнів. Вона починається з контролю адміністратора: чи ввімкнена можливість узагалі, хто нею користується і де вона може діяти. Далі — відокремлення поради й діагностики від усунення проблеми зі зміною системи, обов'язкове змістовне схвалення людиною для вагомих дій, а також видимість і простежуваність рішень та результатів. Ці специфічні для AI запобіжники працюють усередині контролів доступу, безпеки, відповідності й керування, яким IT-команди вже довіряють. Нарешті, IT-фахівцям потрібні навички та впевненість, щоб ефективно наглядати за AI у міру того, як змінюється їхня роль.
Починайте з контролю адміністратора
Стійка довіра до AI починається з контролю — і цей контроль починається задовго до того, як хтось скористається AI-інструментом чи агентом.
Найперше: чи варто взагалі вмикати цю можливість? Зважте коротко- і довгострокові наслідки її вбудовування у ваші процеси та чи переважають переваги можливі мінуси.
Якщо відповідь ствердна, можна переходити до детальніших питань. Хто може користуватися цією можливістю? На яких пристроях чи в яких середовищах нею можна користуватися? Який рівень можливостей отримує кожна людина? Чи ввімкнена розширена функціональність за замовчуванням?
Адміністратор має спершу визначити межі повноважень агента. Підхід залежить від бізнесу: у невеликій IT-команді ці рішення може ухвалювати один адміністратор, тоді як великому підприємству знадобиться рольовий доступ і різні політики для команд або груп пристроїв.
Але базовий принцип лишається той самий: повноваження й доступ мають призначати свідомо люди-адміністратори. Або, як каже Маркус: «Адміністратори вирішують, чи хочуть вони користуватися цими можливостями, хто може ними користуватися і на яких пристроях. Розгортання функціональності — під контролем адміністраторів».
Питайте схвалення людини, коли це важливо
Нещодавнє глобальне дослідження TeamViewer «Path to the Autonomous Workplace» показало: три чверті респондентів користуються AI щодня, але 61% усе одно віддають перевагу нагляду людини перед тим, як AI вживає дію. Лише один із 20 (5%) не має жодних занепокоєнь щодо роботи AI без так званої «людини в контурі».
Щоб будувати довіру і сприяти впровадженню, потрібно подбати, аби нагляд людини відігравав ключову роль в AI-процесах. Це не повинно означати, що користувача перебивають після кожного рутинного кроку. Радше дії слід класифікувати за їхнім потенційним впливом. Що більший можливий вплив, то більша потреба в людському судженні.
AI має зупинятися й просити схвалення людини перед вагомою дією; але водночас людина, яка схвалює, має отримати всю інформацію, потрібну для зваженого рішення. Можливість відхилити запропоновану дію чи виправлення має бути справжньою.
Людина в контурі також створює відчуття відповідальності. Це означає, що рішення про автоматизацію завжди ухвалює досвідчений фахівець, який надійно визначить потрібний рівень нагляду.
Нагляд людини вимірюється не тим, як часто AI просить дозволу. Він залежить від того, чи мають потрібні люди справжній контроль тоді, коли рішення має наслідки. Або, як сказав Ендрю Г'юїтт (віцепрезидент зі стратегічних технологій) у нещодавній статті: «Вони хочуть упевненості, що зможуть втрутитися, коли це важливо».
Робіть дії видимими та простежуваними
Чорні скриньки не викликають довіри, бо потребують сліпої віри. Але ми всі вже знаємо, що AI може помилятися і потребує нагляду. З агентним AI це занепокоєння стає нагальнішим, бо система може діяти в реальних середовищах. Тому користувачам потрібна видимість того, що вона робить, чому вона це робить і який ефект мають її дії.
З цієї причини будь-які дії AI мають бути повністю видимими й простежуваними: до, під час і навіть після того, як дія відбулася.
Перед дією користувач має розуміти, яку проблему виявив AI, що він пропонує зробити, чи змінить дія систему і який прогнозований результат. Під час виконання користувач має бачити, що відбувається, і підтвердити, що це відповідає схваленому плану.
Те, що AI сказав, що зробить, має точно відповідати тому, що відбувається під час дії. Потім, після дії, ви маєте мати змогу переглянути, що було схвалено, хто схвалив, яка дія відбулася, чи була вона успішною і що сталося, якщо ні.
Коли йдеться про агентний AI, несподіванок бути не повинно. Щоб контроль був справді змістовним, уся потрібна інформація має бути під рукою. Це допомагає розслідувати збої, демонструвати підзвітність і вдосконалювати політики. Замість покладатися на сліпу віру, ви можете бути впевнені, що AI робить саме те, що має, — не більше й не менше.
Розділяйте пораду, діагностику та усунення проблеми
В IT-підтримці різні рівні можливостей AI потребують різних рівнів доступу. Як формулює Маркус: «Іноді експертам потрібна лише порада. Іноді — лише діагностика. А іноді вони хочуть повного усунення проблеми від початку до кінця».
Безпечне використання AI потребує диференційованого доступу. Не всі мають однакову експертизу чи повноваження, тож кожен має отримувати лише ті можливості, які потрібні для його ролі. Це застосування принципу найменших привілеїв (PoLP): доступ обмежується тим, що необхідно для задачі.
Молодшим співробітникам може бути досіть використовувати AI-агентів для поради. Це дасть їм доступ до йовірних причин і кроків усунення несправностей, спираючись на досвід старших колег. Це режим із низьким ризиком для початку, який надійно лишає контроль у руках людини.
Досвідченіші співробітники можуть отримати доступ до складнішої інформації для діагностики проблеми — наприклад, до контексту кінцевої точки й діагностичних можливостей для пошуку першопричини та перевірки висновків. Оцінивши цю інформацію, вони вирішують, що буде далі.
Найвищий рівень функціональності — тобто дозвіл AI самостійно усувати проблеми й вносити зміни в систему — варто лишити для найдосвідченіших співробітників. Це вимагає сильнішого контролю і належного схвалення людиною. Користувач має бути достатньо досвідченим, щоб розуміти зміну, яка от-от станеться.
Замість того щоб розглядати впровадження AI як рішення «все або нічого», думайте про повноваження як про спектр, який можна налаштувати під роль і досвід користувача. Призначення різних рівнів доступу створює диференційовану й безпечнішу модель, не заважаючи досвідченим користувачам скористатися розширеними можливостями.
Вбудовуйте AI у контролі, яким IT уже довіряє
Інтеграція агентного AI у ваші процеси підтримки не має вимагати повного перегляду вашої позиції щодо безпеки й приватності. Натомість він має вбудовуватися у ваші наявні контролі й спиратися на них.
Агентний AI має вписуватися в контролі доступу, безпеки, відповідності та керування, яким IT-команди вже довіряють. Наявні політики, налаштування користувачів і гранулювані контролі доступу й далі діють, а специфічні для AI режими, правила схвалення й вимоги до прозорості розширюють цей фундамент.
Висновок? Більшість відомих найкращих практик безпеки й далі застосовні до агентного AI. Вам не потрібна цілковито нова позиція щодо безпеки. Як каже Маркус: «Ми використовуємо весь набір інструментів контролю, відповідності та безпеки — політики, налаштування користувачів, умовний доступ — і додаємо до них найкращі практики для AI».
Готуйте IT-фахівців до нагляду за AI
Відповідальне впровадження залежить не лише від технічних контролів, а й від людей, які наглядають за AI. IT-фахівці цілком зрозуміло хвилюються, що AI означає для їхньої зайнятості. З появою технологій на кшталт Claude Code дехто побоюється, що його замінять або що розвиток технологій випередить його навички.
Повністю відкинути ці побоювання неможливо — так само як неможливо впевнено сказати, що принесе майбутнє. Але одне напевно: AI відіграватиме дедалі більшу роль в IT-процесах. І IT-підтримка не виняток.
Для команд підтримки AI справді може взяти на себе більшу частину роботи з усунення несправностей. Натомість експертиза самого фахівця стане вирішальною, бо його роль зміщується до нагляду, суджень і складних нетипових випадків.
Важливо підкреслити: людська експертиза не зникає. Вона переходить до рішень, які потребують контексту й відповідальності. Людська експертиза і так зване «знання процесів» потрібні, щоб осмислювати рекомендації AI і точно знати, коли втрутитися.
IT має збільшувати автоматизацію лише тоді, коли це підтверджують наявні докази, контролі та впевненість. З часом більше рутинних звернень справді можуть стати приводом для ширшої автоматизації, але на сьогодні чутливі випадки завжди потребуватимуть нагляду людини.
Практичний чек-лист відповідального впровадження
Викладені вище принципи перетворюються на практичну послідовність впровадження AI без втрати контролю. Скористайтеся цим чек-листом, щоб визначити сценарій, встановити межі, протестувати систему й розширювати її повноваження лише тоді, коли це підтверджують докази.
- Визначте сценарій використання. Оберіть конкретну проблему чи робочий процес усунення несправностей.
- Призначте доступ. Вирішіть, хто може користуватися цією можливістю і де.
- Оберіть можливості, які AI може виконувати. Порада, діагностика або усунення проблеми.
- Почніть із невеликої групи. Дайте досвідченим користувачам оцінити систему.
- Класифікуйте вагомі дії. Подбайте, щоб для них вимагалося схвалення людини.
- Надайте контекст для рішення. Показуйте логіку й обґрунтування AI для запропонованих дій.
- Зупиняйтеся для схвалення. Не виконуйте дію, що змінює систему, доки не отримано дозвол.
- Зберігайте запис. Фіксуйте рішення, схвалення, дії та результати.
- Переглядайте докази. Використовуйте успіхи, збої та відхилені пропозиції, щоб удосконалювати модель керування.
Відповідальне впровадження — це не одне рішення дозволити чи заборонити AI. Це керований процес тестування, навчання і поступового надання повноважень.
Як Tia втілює ці принципи
У TeamViewer прагнуть створювати AI-продукти, які викликають довіру, — і саме ці принципи сформували розробку Tia, інтелектуального агента TeamViewer. Tia створена, щоб спрощувати IT-підтримку через автоматизоване усунення несправностей і виправлення; про перші функції штучного інтелекту у віддаленій підтримці ми писали раніше.
Вбудована в платформу TeamViewer ONE з функціями безпеки корпоративного рівня, Tia призначена для компаній, яким потрібно точно знати, що відбувається з їхнім AI. Дії, схвалення та результати лишаються простежуваними в будь-який момент, підтримуючи керування, відповідність і безпеку.
Tia також пропонує диференційовану функціональність — режими Advise, Diagnose і Resolve, — тобто активувати її агентні можливості можуть лише досвідченіші працівники. Водночас адміністратори контролюють, хто що може робити, а дії, які змінюють систему, завжди потребують схвалення користувача. Користувачі завжди можуть переглянути запропоновані дії, тож люди лишаються цілковито при контролі.
У результаті маємо підхід до агентного AI, який дає переваги технології, зберігаючи належний рівень людського контролю. Зворотний зв'язок від людей допомагає Tia ставати кращою з часом, що дозволяє уточнювати вимоги до нагляду в міру того, як розвиваються докази, контролі та впевненість.
Висновок: контроль робить потужний AI придатним до використання
Баланс між спроможністю AI і наглядом людини — передумова не лише того, щоб отримати від AI максимум, а й того, щоб побудувати стійку довіру до нього.
А довіра, каже Ендрю Г'юїтт, «це не те, чого організації можуть вимагати від працівників, коли впроваджують AI. Вона будується через чіткі межі, змістовні рішення людей, видимі дії та досвід».
Що спроможнішим стає AI, то більше потрібні запобіжники й диференційований підхід на основі повноважень. Це, своєю чергою, створює підзвітність, яка критично важлива для стійкого керування.
Правильне AI-рішення не здивує вас. Воно пояснить, чому рекомендує дію, покаже прогнозований результат і виконає її лише тоді, коли ви дасте дозвіл.
І головне: найбільше виграють не ті організації, які просто дадуть AI найбільші повноваження. Виграють ті, хто поєднає його спроможності з чіткими межами й змістовними рішеннями людей.
Джерело: TeamViewer
Часті питання
Це AI, який не лише радить, а й взаємодіє із системами та дає реальний результат. Саме тому він корисніший за звичайного помічника — і саме тому зростають наслідки слабких меж або неузгодженої поведінки. Цінність він створює лише тоді, коли його повноваження свідомо обмежені.
Адміністратор. Він визначає, чи вмикати можливість узагалі, хто може нею користуватися, на яких пристроях або в яких середовищах і який рівень можливостей отримує кожна людина. У невеликій команді це може бути один адміністратор, у великій компанії — рольовий доступ і окремі політики для команд та груп пристроїв.
Найвищий рівень — дозвіл AI самостійно усувати проблеми й вносити зміни в систему — варто лишати для найдосвідченіших співробітників. Такі дії потребують сильнішого контролю і схвалення людини, а користувач має бути достатньо досвідченим, щоб розуміти зміну, яка от-от станеться.
За глобальним дослідженням TeamViewer «Path to the Autonomous Workplace», три чверті респондентів користуються AI щодня, але 61% усе одно віддають перевагу нагляду людини перед тим, як AI вживає дію. Лише один із 20 (5%) не має жодних занепокоєнь щодо роботи AI без «людини в контурі».
Впроваджуйте AI в IT-підтримку, не втрачаючи контролю
SOFTICO — офіційний партнер TeamViewer в Україні. Підберемо ліцензію під задачі вашої IT-команди, допоможемо налаштувати права доступу, схвалення дій і журнал подій. Залиште контакти — відповімо протягом одного робочого дня.


