Технічна документація за EU AI Act : що має підготувати постачальник до виходу на ринок

Розробити систему штучного інтелекту — лише частина шляху до ринку ЄС. Не менш важливо довести, що вона відповідає встановленим законодавчим вимогам. І для постачальників систем ШІ запевнень у безпечності, надійності чи точності продукту недостатньо.

ШІ Акт вимагає підкріпити такі твердження технічною документацією, яка дає змогу простежити, як створювалася система, як перевірялася її робота та яким чином контролюються пов’язані з нею ризики. Водночас підготувати таку документацію потрібно ще до введення системи в обіг або експлуатацію, а не тоді, коли відповідні документи запросить регулятор.

Тож що саме має містити технічна документація за ШІ Актом, як її правильно підготувати та які вимоги постачальнику слід врахувати перед виходом на ринок ЄС? Розберімося детальніше.

Хто і коли повинен готувати технічну документацію?

Насамперед варто зазначити, що ШІ Акт не встановлює єдиного обов’язку щодо технічної документації для всіх систем і моделей ШІ. Вимоги до її підготовки залежать від того, про який саме продукт ідеться.

Першу категорію становлять системи ШІ високого ризику. 

Відповідно до статті 11 ШІ Акта, їхні постачальники повинні підготувати технічну документацію ще до введення системи в обіг або експлуатацію та надалі підтримувати її в актуальному стані.

Які саме системи належать до високоризикових, визначає стаття 6 ШІ Акта. Зокрема, йдеться про певні системи, що використовуються у сферах працевлаштування, освіти, критичної інфраструктури, правоохоронної діяльності та інших сферах, визначених Регламентом. Водночас сама належність до відповідної сфери не завжди автоматично означає високий ризик, адже значення мають призначення системи та встановлені ШІ Актом критерії класифікації.

Другу категорію становлять моделі ШІ загального призначення. 

Для їхніх постачальників окремі вимоги до технічної документації встановлює стаття 53 ШІ Акта. Вона передбачає обов’язок документувати, зокрема, процеси навчання й тестування моделі та результати її оцінювання, а також підтримувати відповідну документацію в актуальному стані.

Отже! 

Перш ніж визначати склад технічної документації, постачальнику необхідно з’ясувати, до якої категорії належить його продукт. Адже для систем ШІ високого ризику вимоги до її змісту встановлює Додаток IV до ШІ Акта, тоді як для моделей ШІ загального призначення — Додаток XI. Крім того, Додаток XII визначає інформацію та документацію, які постачальники таких моделей повинні надавати іншим постачальникам для їх інтеграції в системи ШІ.

Що має містити технічна документація систем ШІ високого ризику?

Додаток IV до ШІ Акта визначає мінімальний зміст технічної документації систем ШІ високого ризику. Фактично постачальник повинен зібрати відомості, які дозволяють не лише зрозуміти, як працює система, а й перевірити її відповідність установленим вимогам.

Зокрема, залежно від особливостей відповідної системи ШІ, технічна документація повинна охоплювати:

  • Опис системи та її призначення. Відомості про постачальника, цільове призначення системи, її поточну версію та зв’язок із попередніми версіями. Також необхідно описати взаємодію з іншим програмним та апаратним забезпеченням, зокрема іншими системами ШІ, відповідні версії програмного забезпечення та вимоги до їх оновлення. Окремо зазначаються форми введення системи в обіг або експлуатацію, необхідне обладнання, основні елементи інтерфейсу та інструкції з використання. Якщо система є компонентом іншого продукту, у відповідних випадках додаються зображення його зовнішніх характеристик, маркування та внутрішнього компонування.
  • Архітектуру та процес розробки. Опис методів і етапів розробки, основних компонентів системи та їх взаємодії, загальної логіки роботи алгоритмів, ключових проєктних рішень і припущень, на яких вони ґрунтуються. Необхідно також зазначити основні підходи до класифікації, параметри оптимізації, очікувані результати роботи системи та їхню якість, а також обґрунтувати технічні компроміси, зроблені для виконання вимог ШІ Акта. Документуються й обчислювальні ресурси, використані для розробки, навчання, валідації та тестування. Якщо застосовувалися попередньо навчені системи або інструменти третіх осіб, потрібно пояснити, як їх використовували, інтегрували чи модифікували.
  • Інформацію про дані. Відомості про методології та методи навчання, використані навчальні набори даних, їх походження, обсяг, основні характеристики, способи отримання, відбору, маркування та очищення. Окремо описуються дані, використані для валідації й тестування системи, та їхні основні характеристики.
  • Результати тестування та оцінювання. Опис процедур валідації й тестування, застосованих показників точності, стійкості та відповідності іншим установленим вимогам, а також оцінку потенційно дискримінаційних наслідків. Водночас потрібно обґрунтувати придатність обраних показників ефективності для конкретної системи ШІ. Документація також повинна містити журнали тестування та всі відповідні звіти, датовані й підписані відповідальними особами.
  • Можливості, обмеження та заходи безпеки. Детальну інформацію про можливості й обмеження системи, очікуваний рівень її точності, зокрема щодо відповідних осіб або груп осіб, передбачувані небажані результати та джерела ризиків для здоров’я, безпеки й основоположних прав, включно з ризиками дискримінації. Крім того, необхідно описати систему управління ризиками відповідно до статті 9 ШІ Акта, оцінку необхідних заходів людського нагляду, технічні засоби для інтерпретації результатів роботи системи, вимоги до вхідних даних та впроваджені заходи кібербезпеки.
  • Підтвердження відповідності вимогам ШІ Акта. Перелік гармонізованих стандартів, застосованих повністю або частково, посилання на які опубліковані в Офіційному журналі ЄС. Якщо такі стандарти не застосовувалися, необхідно детально описати рішення, використані для виконання відповідних вимог Регламенту, та зазначити інші застосовані стандарти й технічні специфікації. До документації також включається копія декларації ЄС про відповідність.
  • Відомості про зміни та післяринковий моніторинг. Опис відповідних змін, внесених постачальником до системи протягом її життєвого циклу. Якщо передбачено заздалегідь визначені зміни системи або її показників роботи, необхідно детально описати їх та технічні рішення, що забезпечують подальшу відповідність установленим вимогам. Крім того, документація повинна містити детальний опис механізму оцінювання роботи системи після виходу на ринок, включно з планом післяринкового моніторингу відповідно до статті 72 ШІ Акта.

Водночас Додаток IV не вимагає оформлювати кожен із цих блоків як окремий документ із визначеною назвою. Важливо, щоб технічна документація в сукупності містила всі застосовні до конкретної системи відомості та давала змогу оцінити її відповідність вимогам ШІ Акта. 

Коли потрібен єдиний комплект документації та кому доступне спрощене оформлення?

Окреме правило діє для систем ШІ високого ризику, які є частиною продукції, що підпадає під законодавство ЄС, зазначене в розділі А Додатка I до ШІ Акта. Зокрема, це може стосуватися медичних виробів, машин, ліфтів або іграшок. Відповідно до статті 11(2), для таких систем готується єдиний комплект технічної документації, який охоплює як вимоги ШІ Акта, так і вимоги відповідного законодавства ЄС щодо продукції. Тобто постачальнику не потрібно створювати два окремі комплекти документів.

Окрім того, для менших компаній ШІ Акт передбачає можливість спрощеного оформлення технічної документації. Нею можуть скористатися малі та середні підприємства, включно зі стартапами, а також малі компанії із середньою капіталізацією. Європейська комісія має затвердити для них спеціальну форму, яка дозволить простіше подавати інформацію, передбачену Додатком IV. Водночас це не звільняє постачальників від обов’язку надати всі необхідні відомості про систему ШІ високого ризику.

Загалом завдання постачальника полягає в тому, аби не просто зібрати технічні файли, а документально підтвердити, як система розроблялася, перевірялася та яким чином забезпечується її відповідність установленим вимогам. Саме тому підготовка технічної документації має бути частиною процесу розробки системи, а не завершальною формальністю перед її виходом на ринок.

Що має містити технічна документація моделей ШІ загального призначення?

Окремі вимоги до технічної документації ШІ Акт встановлює для моделей ШІ загального призначення. Відповідно до статті 53(1)(a), їхні постачальники повинні підготувати та підтримувати в актуальному стані технічну документацію моделі, зокрема щодо процесів її навчання, тестування та результатів оцінювання. Мінімальний зміст такої документації визначає Додаток XI до ШІ Акта. Водночас обсяг необхідних відомостей залежить від розміру та профілю ризику відповідної моделі.

Зокрема, технічна документація повинна охоплювати:

  • Загальний опис моделі та її призначення. Відомості про завдання, для виконання яких призначена модель, типи систем ШІ, до яких вона може інтегруватися, правила допустимого використання, дату випуску, способи поширення та умови ліцензування.
  • Технічні характеристики та можливості інтеграції. Інформацію про архітектуру моделі, кількість її параметрів, модальність і формати вхідних та вихідних даних. Також необхідно описати технічні засоби, інфраструктуру й інструменти, потрібні для інтеграції моделі в системи ШІ.
  • Процес розробки та навчання. Опис використаних методологій і технік навчання, ключових проєктних рішень та припущень, цілей оптимізації й значення відповідних параметрів. Крім того, документуються обчислювальні ресурси, використані для навчання моделі, його тривалість та інші суттєві характеристики цього процесу.
  • Інформацію про використані дані. Відомості про тип, походження, кількість, охоплення та основні характеристики даних для навчання, тестування й валідації моделі. Необхідно також описати способи їх отримання, відбору й обробки, зокрема очищення та фільтрації, а також заходи з виявлення непридатних джерел даних і методи виявлення упереджень.
  • Енергоспоживання моделі. Відомості про відоме або оцінене енергоспоживання. Якщо фактичні показники невідомі, оцінка може ґрунтуватися на інформації про обчислювальні ресурси, використані для навчання.

Для моделей ШІ загального призначення із системним ризиком Додаток XI передбачає додаткові вимоги. Їхня технічна документація також повинна містити:

  • Стратегії та результати оцінювання моделі. Детальний опис проведеного оцінювання, використаних критеріїв, показників і методологій виявлення обмежень моделі, зокрема із застосуванням загальнодоступних протоколів та інструментів оцінювання або інших відповідних методів.
  • Заходи з тестування та адаптації. Детальний опис внутрішнього або зовнішнього змагального тестування, а також адаптації моделі, зокрема її узгодження) та донавчання.
  • Детальний опис архітектури системи. Пояснення того, як програмні компоненти взаємодіють між собою та інтегруються в загальний процес роботи системи.

Однак підготовкою технічної документації за Додатком XI обов’язки постачальника моделі ШІ загального призначення не обмежуються.

Відповідно до статті 53(1)(b) ШІ Акта, постачальник також повинен підготувати, підтримувати в актуальному стані та надавати інформацію й документацію постачальникам систем ШІ, які мають намір інтегрувати відповідну модель у свої продукти. Такі матеріали мають допомагати їм зрозуміти можливості та обмеження моделі й виконати власні обов’язки за Регламентом. Мінімальний зміст цієї документації визначає Додаток XII до ШІ Акта. 

Зокрема, вона повинна охоплювати:

  • Загальний опис моделі. Відомості про її призначення, завдання, які вона може виконувати, типи систем ШІ, до яких може інтегруватися, правила допустимого використання, дату випуску, способи поширення та умови ліцензування.
  • Технічні характеристики та сумісність. Інформацію про архітектуру моделі, кількість параметрів, модальність і формати вхідних та вихідних даних, а також їхні максимальні розміри, наприклад довжину контекстного вікна. У відповідних випадках також зазначаються особливості взаємодії моделі з іншим програмним чи апаратним забезпеченням та версії програмного забезпечення, пов’язаного з її використанням.
  • Вимоги до інтеграції. Опис технічних засобів, інфраструктури, інструментів та інструкцій, необхідних для інтеграції моделі в системи ШІ.
  • Інформацію про використані дані. Відомості про тип і походження даних, використаних для навчання, тестування та валідації моделі, а також методи їх підготовки й обробки, зокрема очищення та фільтрації.

Отже, Додатки XI та XII передбачають різні за призначенням комплекти документації. Перший стосується технічного документування самої моделі, зокрема для надання компетентним органам на їхній запит. Другий спрямований на забезпечення інших постачальників інформацією, необхідною для інтеграції моделі у власні системи ШІ.

Водночас стаття 53(2) ШІ Акта передбачає виняток із цих двох обов’язків для певних моделей ШІ загального призначення, випущених за вільною та відкритою ліцензією. Для його застосування ліцензія повинна дозволяти доступ до моделі, її використання, модифікацію та поширення, а параметри моделі, включно з ваговими коефіцієнтами, інформація про її архітектуру та використання мають бути загальнодоступними. Проте на моделі ШІ загального призначення із системним ризиком цей виняток не поширюється.

Таким чином постачальнику моделі ШІ загального призначення необхідно враховувати не лише вимоги до документування процесу її розробки та навчання, а й обов’язок забезпечити інших учасників ринку інформацією, потрібною для належного використання та інтеграції моделі.

Що потрібно врахувати після підготовки технічної документації?

Підготовкою технічної документації обов’язки постачальника не обмежуються. Важливо також забезпечити її актуальність, належне зберігання та доступність для компетентних органів.

Для систем ШІ високого ризику стаття 18 ШІ Акта передбачає зберігання технічної документації протягом 10 років після введення системи в обіг або експлуатацію. Крім того, відповідно до статті 43, перед виходом на ринок такі системи повинні пройти застосовну процедуру оцінки відповідності, яка залежно від категорії системи може передбачати внутрішній контроль або залучення нотифікованого органу.

Щодо моделей ШІ загального призначення, стаття 53 ШІ Акта зобов’язує постачальників підтримувати технічну документацію в актуальному стані та надавати її Офісу ШІ й національним компетентним органам на їхній запит. Водночас інформацію та документацію, передбачені Додатком XII, постачальники повинні надавати тим, хто має намір інтегрувати відповідну модель у власні системи ШІ, щоб забезпечити розуміння її можливостей і обмежень та належне виконання вимог Регламенту.

Отже, технічна документація — не просто формальність перед виходом на ринок ЄС, а інструмент підтвердження відповідності вимогам ШІ Акта, який потребує своєчасної підготовки та подальшого оновлення.

Приєднуйтеся до спільноти Legal IT Group

Працюєте з GDPR, ІТ-правом або AI compliance? Приєднуйтеся до чату з IP/ІТ/AI та privacy права Legal IT Group — там обговорюємо практичні питання приватності, ІТ-контрактів, інтелектуальної власності та AI.

Приєднатися до чату

Теги
  • AI
  • AI Act
Є запитання до юристів?
до 500 символів
Сталася помилка
Запит надіслано Дякуємо за ваше повідомлення! Ми обробимо його якнайшвидше.

Статті по темі

Перейти до блогу