Ланцюг відповідальності за AI Act: як обов’язки передаються від постачальника до деплоєра
За життєвим циклом АІ-системи можуть стояти багато учасників і кожен із них може впливати на те, як система розробляється, виводиться на ринок, інтегрується та використовується. З погляду користувача це може виглядати як один AI-продукт. З погляду регулювання – це ланцюг учасників, кожен із яких може мати власні обов’язки. Відповідно, AI комплаєнс не може будуватися навколо пошуку лише одного “відповідального” за всі ризики.
Постачальник, деплоєр, імпортер, дистриб’ютор: хто є хто?
Постачальник розробляє AI-систему або виводить її на ринок під своїм ім’ям чи торговельною маркою. Постачальник може використовувати сторонню модель, додати власний інтерфейс, власні функції, правила взаємодії з користувачем і перетворити базову технологію на окремий комерційний продукт. У певних обставинах така трансформація має значення для визначення ролі та обсягу обов’язків.
Деплоєр – той, хто використовує AI-систему у своїй діяльності під власним контролем. Важливий також контекст такого використання. Одна й та сама технологія може бути просто інструментом в одній компанії та частиною процесу, який впливає на права чи можливості людини, в іншій.
| Постачальник | Деплоєр |
| Забезпечує відповідність АІ системи | Забезпечує відповідність конкретного способу використання АІ системи |
Також виокремлюють ролі імпортера та дистриб’ютора: вони мають власні обов’язки на етапі введення та поширення системи. При цьому одна компанія в певній ситуації може виконувати одразу кілька ролей.
Від ролі залежить, які саме вимоги застосовуються до учасника, яку документацію він повинен мати, яку інформацію передавати далі по ланцюгу, які перевірки проводити і де саме лежить відповідальність за конкретний контроль.
Уявімо, що постачальник передав документацію щодо моделі. Компанія інтегрувала її у власний продукт. Після цього змінила спосіб використання системи, додала нові дані та передала продукт дистриб’ютору. У кожного учасника може бути своя частина картини. Але якщо ніхто не перевірив, як ці частини складаються разом, комплаєнс легко залишається лише на папері.
Що має забезпечити постачальник
У випадку високоризикової AI-системи постачальник не може обмежитися заявою про те, що його продукт “відповідає AI Act”. Для постачальника таких систем стаття 16 AI Act встановлює комплекс конкретних обов’язків:
- запровадити систему управління якістю;
- підготувати технічну документацію;
- забезпечити ведення записів;
- провести оцінку відповідності (conformity assessment);
- оформити декларацію відповідності ЄС (EU declaration of conformity);
- нанести знак СЕ (CE marking);
- а також вживати необхідних коригувальних заходів (corrective actions).
У сукупності ці вимоги мають забезпечити не формальну відповідність на момент виходу системи на ринок, а її відповідність вимогам AI Act протягом усього життєвого циклу.
Стаття 17 вимагає від провайдера створити систему управління якістю. Вона має охоплювати весь процес створення та підтримки продукту: управління змінами, перевірку проєктування, розробку, контроль якості, випробування та валідацію, управління даними, управління ризиками, моніторинг після виходу системи на ринок, реагування на серйозні інциденти та ведення записів.
Не менш важливо яку інформацію постачальник передає компанії що використовуватиме АІ-систему. Стаття 13 встановлює, щоб високоризикова AI-система супроводжувалася чіткими та зрозумілими інструкціями щодо використання. У них має бути інформація про призначення системи, її можливості та обмеження, очікувані показники точності, надійності й кібербезпеки, відомі ризики та умови, за яких вони можуть виникати, а також інформація, необхідна для належного людського контролю.
Важливо, що відповідальність постачальника не закінчується в момент продажу АІ-системи. Постачальник повинен не тільки вивести систему на ринок, а й реагувати на виявлені проблеми. Якщо після запуску стає відомо, що система не відповідає вимогам AI Act, постачальник має вжити необхідних коригувальних заходів – аж до приведення системи у відповідність, вилучення її з ринку або відкликання у випадках, передбачених AI Act.
Для компанії це означає, що під час вибору AI-рішення потрібно перевіряти не лише сам продукт, а й здатність постачальника забезпечувати його відповідність протягом усього життєвого циклу.
Що залишається на стороні деплоєра
У момент, коли AI починає використовуватися у конкретному процесі, виникає окрема зона відповідальності деплоєра – компанії, яка застосовує систему під своїм контролем. Стаття 26 AI Act переносить фокус із самої технології на умови її використання. Деплоєр повинен забезпечити, щоб система використовувалася відповідно до інструкцій постачальника, організувати людський контроль, здійснювати моніторинг її роботи, вести необхідні записи та реагувати на ризики й інциденти.
На практиці це означає, що компанія має зафіксувати:
- для яких процесів використовується система;
- хто має право з нею працювати;
- які дані до неї передаються;
- які обмеження встановив постачальник;
- у яких випадках результат системи не може бути використаний без додаткової перевірки.
Важливий момент: інструкція постачальника не замінює внутрішнього процесу компанії. Якщо AI систему згодом почали використовувати для зовсім іншої функції, компанія повинна окремо оцінити, чи відповідає таке використання первісному призначенню та умовам постачальника.
Якщо деплоєр контролює дані, які надходять до системи, він повинен забезпечити їх релевантність і достатню репрезентативність з огляду на призначення системи. Наприклад, постачальник передав систему з певними вимогами до даних. Компанія змінює джерело інформації, починає використовувати неповні дані або застосовує систему до іншої категорії осіб. Навіть якщо сама система технічно відповідає вимогам AI Act, проблемою може стати вже спосіб її використання компанією.
Також обов’язки деплоєра не закінчуються після закупівлі та впровадження AI. Компанія повинна здійснювати моніторинг роботи високоризикової системи відповідно до інструкцій постачальника та зберігати журнали роботи системи, якщо вони перебувають під її контролем.
Якщо є підстави вважати, що використання системи створює ризик, AI Act передбачає, залежно від ситуації, обов’язок вжити відповідних заходів, повідомити постачальника та орган ринкового нагляду і, за необхідності, призупинити використання системи.
Для окремих високоризикових систем, які використовуються для прийняття рішень або допомоги у прийнятті рішень щодо фізичних осіб, AI Act також передбачає обов’язок повідомляти таких осіб про використання системи у визначених випадках. Тобто відповідність AI Act вимагає оновлення внутрішніх процедур, повідомлень працівникам та комунікації з особами, яких стосуються рішення системи.
Для визначених категорій деплоєрів стаття 27 встановлює окрему вимогу: до початку використання певної високоризикової системи провести оцінку впливу на основоположні права (FRIA). Така оцінка має бути прив’язана до конкретного способу використання:
- кого стосується система;
- які ризики виникають;
- як організований людський контроль; і
- які заходи будуть вжиті, якщо ризик реалізується.
| Питання | Відповідальність постачальника | Відповідальність деплоєра |
| За що відповідає? | За те, щоб високоризикова система була розроблена, задокументована, оцінена та виведена на ринок відповідно до AI Act | За те, щоб система використовувалася після впровадження відповідно до AI Act |
| Призначення системи | Визначає та документує призначення системи і забезпечує її відповідність заявленому призначенню | Використовує систему відповідно до інструкцій і визначеного призначення |
| Документація та інструкції | Повинен надати необхідну документацію та інструкції щодо використання системи | Повинен організувати використання системи відповідно до документації та інструкцій |
| Людський контроль | Повинен спроєктувати систему так, щоб людський контроль був можливим і ефективним | Повинен призначити конкретних працівників для людського контролю та забезпечити їм необхідні знання, підготовку, повноваження і підтримку |
| Моніторинг | Повинен забезпечити необхідні механізми після введення системи в обіг, зокрема щодо моніторингу та реагування на проблеми | Повинен контролювати роботу системи у власному середовищі та реагувати на ризики й інциденти |
| Ризик або інцидент | Повинен мати механізми для виявлення, документування та реагування на проблеми з системою | Якщо має підстави вважати, що використання системи створює ризик, повинен вжити передбачених заходів, а за необхідності повідомити постачальника та орган ринкового нагляду і призупинити використання |
| Оцінка впливу на основоположні права | Загальна відповідність системи вимогам AI Act | Для визначених категорій деплоєрів – окрема оцінка впливу на основоположні права до початку використання системи за статтею 27 |
Відповідальність від запуску до використання
Для побулови програми комплаєнсу з AI Act, компанії потрібно розуміти весь ланцюг відповідальності: хто є постачальником, хто – деплоєром, які обов’язки виникають у кожного, на якому етапі вони виконуються та якими документами це підтверджується.
Тому для кожної системи доцільно створювати окрему карту відповідальності. Вона має супроводжувати систему від моменту її створення (вибору) і до припинення використання.
| Етап | Постачальник | Деплоєр |
| До запуску | Забезпечує відповідність системи вимогам AI Act, готує документацію та інструкції. | Перевіряє документацію, визначає мету використання, відповідальних осіб, людський контроль та правила роботи з даними. |
| Перед запуском | Виконує вимоги щодо оцінювання відповідності, маркування, реєстрації та інших обов’язків, які покладаються на постачальника. | Перевіряє готовність системи до використання у конкретному бізнес-процесі. |
| Після запуску / Під час використання | Організовує післяринковий моніторинг системи за статтею 72 та оцінює її постійну відповідність вимогам AI Act. | Моніторить роботу системи у своєму середовищі відповідно до інструкцій. |
| У разі змін | Оцінює вплив змін системи на її відповідність AI Act. | Перевіряє, чи не змінилися призначення, дані, процес використання або ризики. |
| У разі виявлення проблем | Вживає необхідних коригувальних заходів відповідно до статтею 20. Повідомляє орган ринкового нагляду та проводить необхідне розслідування і коригувальні заходи за статтею 73. | Якщо використання системи може створювати ризик – повідомляє постачальника та, у визначених випадках, орган ринкового нагляду. За необхідності призупиняє використання. |
Висновки
Отже, AI Act не покладає всю відповідальність за AI лише на постачальника чи деплоєра. Вона розподіляється вздовж усього ланцюга: постачальник має забезпечити відповідність самого AI-рішення вимогам AI Act, надати необхідну документацію та передбачені інструменти контролю. Деплоєр відповідає за те, щоб ця система використовувалася належним чином: за визначеним призначенням, із належним людським контролем, відповідними даними та моніторингом ризиків.
Водночас межа між цими ролями не завжди залишається статичною. За певних обставин компанія, яка спочатку лише використовує систему, може отримати статус постачальника і відповідно — новий обсяг обов’язків за AI Act.
