Європейський закон про штучний інтелект запровадив суттєві зміни 2 лютого 2025 року, зробивши певні практики штучного інтелекту незаконними по всьому ЄС. Тепер нідерландські підприємства повинні дотримуватися суворих правил щодо того, які системи штучного інтелекту вони можуть використовувати.
Компанії, які не видаляють заборонені інструменти штучного інтелекту, стикаються з великими штрафами та можливими судовими позовами від будь-кого, хто постраждав.
Станом на лютий 2025 року в Нідерландах заборонено використовувати системи штучного інтелекту, які маніпулюють людьми, використовують соціальний скоринг, класифікують осіб на основі біометричних даних або використовують розпізнавання облич у реальному часі в громадських місцях. Ці заборони також поширюються на технології розпізнавання емоцій на робочих місцях та в школах, а також на нецільовий збір зображень облич з Інтернету для створення баз даних розпізнавання.
Правила застосовуються негайно, не надаючи підприємствам пільгового періоду для поступової відмови від цих систем. Розуміння того, які методи штучного інтелекту заборонені та які кроки має вжити ваша організація, є важливим, щоб уникнути штрафних санкцій.
У цьому посібнику пояснюються конкретні заборони, окреслюються ваші обов’язки щодо дотримання вимог як нідерландського бізнесу та охоплюються вимоги до навчання, необхідні для забезпечення законності вашої діяльності згідно з новим законом.
Що охоплюють заборони
Регламент (ЄС) 2024/1689, відомий як Закон ЄС про штучний інтелект , запровадив конкретні заборони на певні практики штучного інтелекту, які набули чинності 2 лютого 2025 року. Ці правила застосовуються до вашого нідерландського бізнесу, якщо ви розробляєте, розгортаєте або використовуєте системи штучного інтелекту в Нідерландах або в ширшому Європейському Союзі.
Сфера застосування заборонених практик штучного інтелекту
Закон про штучний інтелект забороняє певні практики штучного інтелекту, які становлять неприйнятні ризики для основних прав та європейських цінностей. Стаття 5 Регламенту (ЄС) 2024/1689 визначає ці заборонені практики на основі їхньої потенційної шкоди, а не самої технології.
До основних заборонених категорій належать:
- Маніпулятивні системи штучного інтелекту що використовують вразливості певних груп
- Системи соціального скорингу, незалежно від того, чи керується ним державний орган, чи приватне підприємство
- Дистанційна біометрична ідентифікація в режимі реального часу у громадсько доступних місцях для правоохоронних органів (за обмеженими винятками)
- Біометричні системи категоризації що визначають чутливі атрибути
- Нецільовий скрейпінг зображення облич з інтернету або записів відеоспостереження
Ваш бізнес підпадає під ці заборони, незалежно від того, чи працюєте ви як постачальник, розповсюджувач чи дистриб'ютор штучного інтелекту в Нідерландах. Управління захисту даних Нідерландів співпрацює з іншими правоохоронними органами Європейського Союзу для забезпечення дотримання вимог.
Недотримання заборон тягне за собою штрафи у розмірі до тридцяти п'яти мільйонів євро або семи відсотків від світового річного обороту, залежно від того, що більше.
Дати набрання чинності та перехідні періоди
Заборони, передбачені статтею 5, набули чинності 2 лютого 2025 року. Це означає, що ваш бізнес повинен негайно дотримуватися цих правил, якщо ви використовуєте або розробляєте відповідні системи штучного інтелекту.
Система правозастосування діє за поетапним графіком. Повні штрафи, структури управління та положення про конфіденційність набувають чинності з 2 серпня 2025 року.
Це дає вашій організації шестимісячний період, протягом якого правила застосовуються, але повні механізми забезпечення їх виконання все ще встановлюються. Європейська комісія опублікувала офіційні рекомендації 4 лютого 2025 року, щоб роз’яснити, як ці заборони працюють на практиці.
Застосування організовано через національні органи ринкового нагляду, які кожна держава-член повинна призначити. Нідерланди ще не завершили розробку імплементаційного акта, який би офіційно їх призначав; на підготовчому етапі Нідерландське управління захисту даних та Нідерландське управління цифрової інфраструктури виступають координуючими органами, а галузеві регулятори контролюють штучний інтелект у своїх власних сферах. Сама заборона застосовується незалежно від цього: той факт, що структура правозастосування все ще допрацьовується, не робить заборонену практику законною, а система, яка порушує статтю 5, також у більшості випадків порушує GDPR, що Нідерландське управління захисту даних може забезпечити вже сьогодні.
Ключові визначення: Системи та практики штучного інтелекту
Стаття 3 Регламенту визначає систему штучного інтелекту як машинну систему, розроблену для роботи з різним рівнем автономії, яка може демонструвати адаптивність після розгортання та яка на основі отриманих вхідних даних робить висновки про те, як генерувати результати, такі як прогнози, контент, рекомендації чи рішення, які можуть впливати на фізичне або віртуальне середовище. Елементом, який виконує роботу в цьому визначенні, є висновок: система, яка просто застосовує правила, написані людиною повністю, не є системою штучного інтелекту, тоді як модель, яка отримує власне правило прийняття рішень з даних, є.
Заборонена практика штучного інтелекту стосується певних способів розгортання або використання штучного інтелекту, які Європейський Союз визнав неприйнятними. Заборона стосується самої практики, а не базової технології.
Це означає, що ви можете використовувати ту саму систему штучного інтелекту для дозволених цілей, але при цьому вам заборонено використовувати певні програми. Ваш бізнес повинен розрізняти систему штучного інтелекту (технологію) та її практику (як ви її використовуєте).
Система розпізнавання облич зі штучним інтелектом може бути законною для контролю доступу до будівель, але забороненою для спостереження в режимі реального часу в громадських місцях. Контекст та застосування визначають законність згідно з Регламентом (ЄС) 2024/1689.
Детальний список заборонених практик штучного інтелекту
Закон ЄС про штучний інтелект забороняє певні програми штучного інтелекту, які створюють неприйнятні ризики для основних прав і безпеки. Ці заборонені практики поділяються на три основні категорії: системи, що маніпулюють поведінкою людей, ті, що експлуатують вразливі групи , та механізми, що дозволяють здійснювати масове спостереження за допомогою соціального скорингу.
Маніпулятивні та обманливі системи
Закон про штучний інтелект забороняє будь-яку систему штучного інтелекту, яка використовує підсвідомі методи для суттєвого спотворення людської поведінки таким чином, що це завдає шкоди. Це методи, які працюють поза межами вашої свідомості, впливаючи на ваші рішення чи дії.
До заборонених маніпулятивних практик належать:
- Системи штучного інтелекту, що використовують підсвідомі компоненти, які ви не можете виявити
- Системи, розроблені для використання вікових вразливостей дітей
- Технології, що маніпулюють поведінкою з метою заподіяння фізичної або психологічної шкоди
Ви не можете використовувати штучний інтелект для навмисного обману людей способами, які можуть завдати значної шкоди . Це означає, що ваш бізнес не може розгортати чат-ботів або віртуальних помічників, які вводять користувачів в оману щодо їхньої штучної природи, коли такий обман може призвести до збитків.
Заборона поширюється на системи штучного інтелекту, які використовують темні шаблони або психологічні маніпуляції, щоб підштовхнути користувачів до шкідливого вибору. Закон захищає людей від практик штучного інтелекту, які обходять раціональне прийняття рішень.
Якщо ваша система штучного інтелекту впливає на поведінку за допомогою прихованих маніпуляцій, а не прозорої інформації, вона порушує Закон.
Експлуатація вразливих осіб
Системи штучного інтелекту, що використовують вразливості, пов’язані з віком, інвалідністю або соціальними чи економічними обставинами, суворо заборонені. Не можна використовувати штучний інтелект, щоб скористатися перевагами людей, які не здатні розуміти маніпуляції або чинити їм опір.
Ця заборона поширюється на штучний інтелект, який спрямований на недосвідченість дітей або когнітивне зниження у людей похилого віку. Ваша компанія не може розгортати системи, що використовують фізичні або психічні вади для маніпулювання поведінкою.
Штучний інтелект, який полює на економічний відчай або соціальну ізоляцію, також підпадає під цю заборону.
До вразливих груп, що захищаються, належать:
- Діти та неповнолітні
- Люди похилого віку з когнітивними порушеннями
- Люди з фізичними або психічними вадами
- Особи, які стикаються з економічними труднощами
Заборона застосовується, коли ваша система штучного інтелекту завдає або може завдати значної шкоди через експлуатацію. Ви повинні оцінити, чи можуть ваші програми штучного інтелекту несправедливо бути спрямовані на вразливі групи населення.
Соціальний скоринг та поведінкове профілювання
Закон про штучний інтелект забороняє системи штучного інтелекту, які оцінюють або класифікують людей на основі їхньої соціальної поведінки чи особистих характеристик. Не можна використовувати механізми соціального оцінювання, які призводять до несправедливого ставлення або заподіяння шкоди.
Соціальний скоринг передбачає оцінювання людей на основі їхньої поведінки, стосунків або передбачуваної поведінки. Це створює профілі, які визначають доступ до послуг, можливостей або прав.
Заборонені дії щодо соціального скорингу включають:
- Оцінювання громадян на основі соціальної чи професійної поведінки
- Створення оцінок надійності на основі персональних даних
- Прогнозування злочинної поведінки на основі профілювання
- Відмова в послугах на основі поведінкових оцінок
Ви не можете впроваджувати системи штучного інтелекту, які присвоюють бали, визначаючи, чи отримує хтось медичне обслуговування, освіту, працевлаштування чи фінансові послуги. Заборона діє незалежно від того, чи керуєте ви цими системами як державний орган, чи як приватний бізнес.
Дистанційна біометрична ідентифікація в режимі реального часу в громадських місцях також підпадає під суворі заборони, за обмеженими винятками для правоохоронних органів.
Заборони на біометричні дані, розпізнавання облич та емоційний штучний інтелект
Закон ЄС про штучний інтелект забороняє кілька типів біометричних систем та систем розпізнавання облич, які становлять ризик для основних прав . Ці заборони впливають на те, як голландські компанії можуть використовувати біометричні дані , бази даних розпізнавання облич, інструменти розпізнавання емоцій та системи ідентифікації в режимі реального часу в громадських місцях.
Біометрична категоризація
Ви не можете використовувати системи штучного інтелекту, які класифікують людей на основі їхніх біометричних даних, щоб визначити їхню расу, політичні погляди, членство в профспілці, релігійні переконання чи сексуальну орієнтацію. Ця заборона застосовується, коли ви розміщуєте ці системи на ринку, вводите їх в експлуатацію або використовуєте їх для цієї конкретної мети.
Заборона стосується систем, які роблять конфіденційні висновки про людей за допомогою біометричного аналізу. За недотримання вимог вашому бізнесу загрожують штрафи у розмірі до 7% від світового річного обороту.
З цього правила є один виняток. Ви можете маркувати або фільтрувати законно отримані набори біометричних даних, такі як зображення, на основі біометричних даних у контексті правоохоронних органів.
Поза правоохоронними органами така практика категоризації залишається повністю забороненою.
Обмеження на технології розпізнавання облич
Ви не можете створювати або розширювати бази даних розпізнавання облич шляхом нецільового збору зображень облич з Інтернету або записів з камер відеоспостереження. Ця заборона набула чинності 2 лютого 2025 року.
Для застосування цієї заборони мають бути виконані чотири умови:
- Практика передбачає розміщення, обслуговування або використання системи штучного інтелекту
- Мета полягає в створенні або розширенні баз даних розпізнавання облич
- Метод використовує нецільове зішкрібання зображень обличчя
- Джерелами даних є інтернет або записи з камер відеоспостереження
Ключове слово — «нецільовий». Не можна збирати зображення облич у широкому, невибірковому порядку.
Це означає, що ви не можете розміщувати в супермаркетах або громадських місцях камери, які автоматично збирають дані з облич для створення баз даних розпізнавання без певних критеріїв таргетування.
Розпізнавання емоцій у сфері зайнятості та освіти
Ви не можете використовувати системи штучного інтелекту для визначення емоцій людей на робочих місцях та в навчальних закладах. Ця заборона безпосередньо впливає на відділи кадрів, школи та навчальні заклади, які можуть розглянути інструменти виявлення емоцій.
Заборона поширюється на будь-яку систему штучного інтелекту, призначену для зчитування або інтерпретації емоційних станів у цих конкретних умовах. Не має значення, чи використовуєте ви аналіз обличчя, розпізнавання голосових шаблонів чи інші біометричні показники.
Є один вузький виняток. Ви можете використовувати штучний інтелект для розпізнавання емоцій, якщо це служить медичним або безпековим цілям.
Наприклад, моніторинг пильності водія з міркувань безпеки або виявлення стресу пацієнтів у медичних закладах може підпадати під цей виняток.
Обмеження на дистанційну біометричну ідентифікацію
Ви не можете використовувати системи дистанційної біометричної ідентифікації в режимі реального часу у загальнодоступних місцях для цілей правоохоронних органів, окрім як у суворо визначених обставинах. Ці винятки включають пошук жертв викрадення або торгівлі людьми, запобігання безпосереднім загрозам життю або терористичним атакам, а також пошук підозрюваних у скоєнні тяжких злочинів, що караються позбавленням волі щонайменше чотирма роками.
Кожне використання вимагає попереднього дозволу судового органу або незалежного адміністративного органу. У термінових ситуаціях ви можете розпочати використання без дозволу, але повинні запросити дозвіл протягом 24 годин.
Якщо органи влади відхиляють дозвіл, ви повинні негайно припинити користуватися системою та видалити всі дані. Нідерланди можуть встановити власні детальні правила для цих винятків у рамках національного законодавства.
Ваше підприємство повинно повідомляти відповідний орган ринкового нагляду та національний орган захисту даних про кожне використання. Держави-члени щорічно подають Європейській Комісії звіти про використання дистанційної біометричної ідентифікації в режимі реального часу.
Зобов'язання щодо дотримання вимог для голландських підприємств
Нідерландські компанії повинні вжити конкретних кроків для досягнення відповідності вимогам штучного інтелекту , визначивши заборонені системи, вивівши їх з експлуатації та ведучи належну документацію. Нідерландське управління з захисту даних (DPA) та Нідерландське управління цифрової інфраструктури (DSA) забезпечуватимуть виконання цих вимог, застосовуючи значні штрафи за порушення.
Виявлення забороненого штучного інтелекту в операціях
Вам потрібно провести ретельну оцінку ризиків у вашій організації, щоб виявити системи штучного інтелекту, які можуть порушувати нові правила. Це означає вивчення будь-якої технології, яка використовує методи маніпуляції, експлуатує вразливості, впроваджує соціальний скоринг або здійснює біометричну ідентифікацію в режимі реального часу в громадських місцях.
Почніть зі створення інвентаризації всіх систем штучного інтелекту, що використовуються наразі. Задокументуйте, що робить кожна система, як вона обробляє дані та на кого вона впливає.
Зверніть особливу увагу на системи, які взаємодіють з клієнтами, співробітниками або громадськістю. Ваші оцінки ризиків повинні враховувати, чи може будь-яка система зашкодити основним правам.
Це включає перевірку того, чи системи штучного інтелекту приймають рішення щодо людей на основі їхньої поведінки, особистих характеристик або соціальних зв'язків. Системи, які відстежують або складають профілі осіб без прозорості, потребують негайного перегляду.
Співпрацюйте зі своїми технічними командами, щоб зрозуміти, як працює кожна система штучного інтелекту. Ви не можете покладатися виключно на описи постачальників.
Нідерландське Управління з захисту даних чітко дало зрозуміти, що ви несете відповідальність за дотримання вимог незалежно від того, чи створили ви систему, чи придбали її у третьої сторони.
Поступове припинення використання або видалення заборонених систем штучного інтелекту
Ви повинні негайно припинити використання заборонених практик штучного інтелекту. Закон не передбачає пільгового періоду для заборонених систем.
Якщо ваша оцінка ризиків виявить заборонену практику, вам потрібно негайно її деактивувати. Створіть план видалення, який враховує як технічні, так і операційні наслідки.
Деякі системи можуть бути вбудовані у більші платформи або підключені до кількох процесів. Вам потрібно буде переконатися, що видалення заборонених елементів не порушує основні бізнес-функції.
Перш ніж вимикати систему, визначте, як ви будете обробляти завдання, які вона виконувала раніше. Це може означати повернення до ручних процесів, впровадження інших технологій або повне переосмислення робочих процесів.
Документуйте кожен крок процесу видалення. Зафіксуйте, коли ви виявили заборонену практику, які дії ви вжили та коли систему було повністю деактивовано.
Регулятори очікують чітких доказів того, що ви діяли оперативно після виявлення порушення.
Записи та документація
Ви повинні вести технічну документацію, яка підтверджує дотримання правил заборони. Це включає записи про ваші оцінки ризиків, рішення щодо систем штучного інтелекту та будь-які зміни, внесені вами для досягнення відповідності.
Ваша документація повинна охоплювати:
- Системні інвентаризації з описами кожного застосування штучного інтелекту
- Звіти про оцінку ризиків демонстрація вашого аналізу потенційних порушень
- Записи про видалення детальний опис того, коли і як ви деактивували заборонені системи
- Оцінки впливу на основні права для будь-яких прикордонних випадків
Закон про штучний інтелект не встановлює фіксованого терміну зберігання цих матеріалів для дотримання заборонених практик; терміни зберігання записів, які він передбачає, такі як десять років для технічної документації системи високого ризику та мінімальний термін для автоматично згенерованих журналів, належать до розділу про високий ризик. Зберігайте свої оцінки доти, доки вони ще можуть бути затребувані, що на практиці означає протягом терміну позовної давності будь-яких претензій, які можуть виникнути з системи, і будьте готові надати їх на запит. Надання органу влади невірної, неповної або оманливої інформації є окремим покаранням згідно зі статтею 99 Регламенту.
Загальні описи або маркетингові матеріали не відповідають цій вимозі. Включіть технічні специфікації, потоки даних та процеси прийняття рішень.
Оновлюйте свою документацію щоразу, коли ви змінюєте системи штучного інтелекту або розгортаєте нові. Вам потрібні постійні процеси, щоб гарантувати, що майбутні системи не запроваджуватимуть заборонені практики.
Вимоги до грамотності у сфері штучного інтелекту та навчання персоналу
Станом на 2 лютого 2025 року, нідерландські компанії, що надають або впроваджують системи штучного інтелекту, повинні забезпечити належний рівень грамотності своїх співробітників у сфері штучного інтелекту. Це зобов'язання застосовується незалежно від того, чи використовуються системи штучного інтелекту з високим чи низьким рівнем ризику.
Документовані програми навчання повинні бути адаптовані до посад та технічного досвіду ваших співробітників.
Пояснення зобов'язання щодо грамотності у сфері штучного інтелекту
Стаття 4 Закону ЄС про штучний інтелект встановлює юридичну вимогу для всіх постачальників та розгортачів ШІ забезпечити достатню грамотність свого персоналу в галузі ШІ. Ви повинні вжити заходів, щоб гарантувати, що персонал та підрядники, що працюють із системами ШІ, розуміють технології, з якими вони працюють.
Зобов'язання щодо грамотності в галузі штучного інтелекту поширюється на всіх, хто керує системами штучного інтелекту, використовує їх або приймає рішення щодо них від вашого імені. Це включає технічний персонал, який створює або обслуговує системи штучного інтелекту, а також нетехнічних працівників, які використовують інструменти штучного інтелекту у своїй повсякденній роботі.
Ви повинні адаптувати навчання з питань ШІ-грамотності до ролі кожної людини, технічних знань, досвіду, освіти та конкретного контексту, в якому вони використовують системи ШІ. Розробник програмного забезпечення, який впроваджує моделі ШІ, потребує іншого навчання, ніж представник служби підтримки клієнтів, який використовує чат-ботів на базі ШІ.
Це зобов’язання вимагає від вас докласти «максимальних зусиль» для забезпечення належного рівня грамотності. Ви не можете просто пропонувати символічне навчання та вимагати дотримання вимог.
Розробка ефективних навчальних програм
Ваша програма розвитку грамотності у сфері штучного інтелекту повинна стосуватися конкретних систем штучного інтелекту, які використовує ваша організація, а не надавати загальну інформацію. Співробітники повинні розуміти, як функціонують конкретні інструменти штучного інтелекту, з якими вони працюють, їхні обмеження та потенційні ризики.
Зміст навчання повинен охоплювати:
- Базові концепції штучного інтелекту, що стосуються ваших систем
- Як правильно користуватися інструментами штучного інтелекту
- Потенційні упередження та помилки у виходах ШІ
- Коли необхідний людський нагляд
- Політики та процедури вашої організації щодо штучного інтелекту
Ви повинні враховувати початковий рівень знань кожного співробітника. Технічному персоналу може знадобитися поглиблене навчання з розробки та тестування моделей, тоді як звичайним користувачам потрібні практичні поради щодо інтерпретації результатів ШІ та розпізнавання випадків, коли результати здаються неправильними.
Навчання може проводитися в різних формах, включаючи семінари, онлайн-курси, коучинг на робочому місці або зовнішні програми. Формат має менше значення, ніж забезпечення того, щоб персонал фактично отримав необхідні знання та навички.
Документування діяльності зі штучного інтелекту
Ви повинні вести облік вашої навчальної діяльності з питань ШІ, щоб продемонструвати відповідність Закону ЄС про ШІ. Ця документація слугує доказом того, що ви виконали свої юридичні зобов’язання.
Ваші записи повинні містити:
- Зміст та матеріали навчальної програми
- Списки працівників, які пройшли навчання
- Дати та тривалість навчальних сесій
- Результати оцінювання (якщо застосовується)
- Як ви визначили відповідні рівні грамотності для різних ролей
Задокументуйте свій процес визначення потреб у грамотності у сфері штучного інтелекту (ШІ) у вашій організації. Це включає те, як ви оцінювали, який персонал потребує навчання та які конкретні знання їм потрібні на основі їхньої взаємодії із системами ШІ.
Ведіть облік того, як ви оновлюєте навчання в міру змін у ваших системах штучного інтелекту або приєднання нових співробітників до вашої організації. Грамотність у сфері штучного інтелекту — це не одноразова вимога, а постійний обов’язок, який має адаптуватися до вашого постійного використання технологій штучного інтелекту.
Нагляд, правозастосування та штрафи
Закон ЄС про штучний інтелект встановлює багаторівневу структуру правозастосування зі значними фінансовими санкціями за недотримання вимог. Нідерландські підприємства стикаються з наглядом як національних, так і європейських органів влади, а штрафи за заборонені практики використання штучного інтелекту сягають 7% від світового річного обороту.
Наглядові органи Нідерландів та ЄС
У Нідерландах архітектура нагляду все ще впроваджується. Нідерландське Управління із захисту даних відіграє координуючу роль і разом з Нідерландським Управлінням цифрової інфраструктури підготувало систему ринкового нагляду, але закон, який визначає компетентні органи та надає їм повноваження згідно з Регламентом, ще не завершено. До того часу існуючі регулятори здійснюють дотримання власних повноважень, а Нідерландське Управління із захисту даних залишається органом, з яким слід враховувати всі місця, де система штучного інтелекту обробляє персональні дані.
На європейському рівні Європейська комісія контролює впровадження Закону про штучний інтелект у всіх державах-членах. Європейське бюро зі штучного інтелекту, створене в рамках Комісії, координує діяльність із забезпечення дотримання законодавства та надає технічну експертизу.
Європейська рада зі штучного інтелекту, що складається з представників держав-членів, підтримує послідовне застосування Регламенту та консультує Комісію, а також співпрацює з органами захисту даних, коли системи штучного інтелекту обробляють персональні дані.
Якщо ви експлуатуєте системи штучного інтелекту в кількох країнах ЄС, ви можете зіткнутися з перевіркою з боку наглядових органів у кожній юрисдикції, де ваші системи розгорнуті або мають вплив.
Санкції та цивільна відповідальність
Порушення заборонених практик, передбачених статтею 5, тягнуть за собою штраф у розмірі до 35 мільйонів євро або 7% від вашого загального річного світового обороту, залежно від того, що більше. Сама заборона діє з 2 лютого 2025 року, але положення про штрафні санкції, передбачені Регламентом, застосовуються з 2 серпня 2025 року, тому штраф може бути накладено за поведінку, починаючи з цієї дати. Порушення інших зобов'язань мають нижчі ліміти: п'ятнадцять мільйонів євро або три відсотки за невиконання вимог щодо високого ризику та сім з половиною мільйонів євро або один відсоток за надання невірної або оманливої інформації органу влади.
Суд ЄС (СЄС) має найвищу повноваження щодо тлумачення положень Закону про штучний інтелект. Національні суди можуть звертатися з питаннями до СЄС у разі виникнення суперечок щодо того, що вважається забороненою практикою.
Окрім адміністративних штрафів, особа, яка постраждала від забороненої системи, може подати цивільний позов. Для цього не існує гармонізованого європейського режиму: запропонована Директива про відповідальність за штучний інтелект була відкликана, тому позов у Нідерландах подається відповідно до голландського законодавства, зазвичай як незаконне діяння згідно зі статтею 6:162 Цивільного кодексу, а порушення статті 5 служить доказом порушення встановленого законом обов'язку. Держави-члени також можуть передбачати додаткові покарання у національному законодавстві.
Керівні принципи європейських та національних органів
4 лютого 2025 року Європейська комісія опублікувала рекомендації щодо заборонених практик штучного інтелекту. У цих документах пояснюється, як органи влади тлумачитимуть заборони статті 5, та наводяться практичні приклади дотримання вимог.
Хоча ці рекомендації не є обов'язковими, вони пропонують цінну інформацію щодо пріоритетів правозастосування. Тільки Суд ЄС може надавати авторитетні правові тлумачення.
Нідерландські наглядові органи можуть видавати додаткові національні рекомендації, адаптовані до місцевих бізнес-контекстів. Вам слід стежити за оновленнями як від європейських, так і від нідерландських органів, оскільки підходи до правозастосування розвиваються.
Ці рекомендації доступні всіма мовами ЄС для сприяння міжнародному взаєморозумінню.
Часті питання
Європейський закон про штучний інтелект запроваджує конкретні вимоги та обмеження, які впливають на нідерландський бізнес, починаючи з лютого 2025 року. Ці правила забороняють певні практики ШІ, вимагають вжиття заходів щодо дотримання вимог та встановлюють штрафи за порушення.
Які нові правила щодо використання штучного інтелекту в голландських компаніях набули чинності з лютого?
Європейський закон про штучний інтелект набрав чинності 1 серпня 2024 року, а перший набір заборон набув чинності 2 лютого 2025 року. Ці правила застосовуються до всіх голландських підприємств, які розробляють, розгортають або використовують системи штучного інтелекту в Європейському Союзі.
Закон забороняє маніпулятивні системи штучного інтелекту, які використовують підсвідомі методи для впливу на рішення, які люди зазвичай не приймають. Системи штучного інтелекту, що використовують вразливості на основі віку, інвалідності чи соціально-економічного статусу, також заборонені.
Системи соціального оцінювання, які оцінюють людей на основі їхньої соціальної поведінки чи особистих характеристик, зіткнуться з повною забороною. Правила також забороняють оцінки ризиків на основі штучного інтелекту, які прогнозують злочини виключно на основі профілювання чи аналізу рис особистості, а не на основі фактів, пов'язаних зі злочинною діяльністю.
Біометричні системи категоризації, які визначають расу, політичні погляди, членство в профспілках, релігійні переконання чи сексуальну орієнтацію на основі зображень обличчя чи відбитків пальців, заборонені. Дистанційна біометрична ідентифікація в режимі реального часу в громадських місцях заборонена, за винятком суворо визначених ситуацій за наявності спеціального юридичного дозволу.
Як впливають на конфіденційність та захист даних споживачів нідерландські рекомендації щодо штучного інтелекту від лютого 2025 року?
Закон про штучний інтелект діє разом із чинними правилами захисту даних, включаючи GDPR. Нідерландське управління захисту даних надає рекомендації щодо того, як системи штучного інтелекту повинні відповідати правилам захисту даних, зокрема щодо автоматизованого прийняття рішень.
Нецільове вилучення зображень облич з інтернету або записів з камер для створення або розширення баз даних розпізнавання облич заборонено. Це обмеження захищає права осіб на конфіденційність та запобігає несанкціонованому збору біометричних даних.
Системи штучного інтелекту повинні поважати основні права протягом усього свого життєвого циклу. Державні органи та установи, що надають державні послуги, повинні проводити оцінку впливу на основні права під час використання систем штучного інтелекту з високим рівнем ризику.
Якими видами діяльності на основі штучного інтелекту більше не дозволено займатися голландським підприємствам через нещодавні законодавчі зміни?
Ваша компанія не може використовувати системи розпізнавання емоцій на робочому місці або в освітніх закладах. Ці системи заборонені незалежно від заявлених переваг чи варіантів використання.
Не можна розгортати системи штучного інтелекту, які маніпулюють людьми за допомогою підсвідомих методів або використовують їхні вразливості. Це включає системи, які впливають на людей на основі їхньої інвалідності, соціального статусу чи віку, щоб вплинути на їхню поведінку.
Біометричні системи категоризації, які класифікують людей на основі конфіденційних характеристик, заборонені. Ви не можете використовувати штучний інтелект для визначення расової приналежності, політичних поглядів, релігійних переконань чи сексуальної орієнтації людини на основі її біометричних даних.
Системи соціального оцінювання повністю заборонені. Не можна впроваджувати штучний інтелект, який оцінює або класифікує людей на основі їхньої соціальної поведінки чи особистих характеристик.
Дистанційна біометрична ідентифікація в режимі реального часу в громадських місцях заборонена для комерційного використання . Правоохоронні органи можуть використовувати такі системи лише за вузько визначених обставин за наявності належного юридичного дозволу.
Які кроки мають зробити голландські корпорації, щоб привести свої системи штучного інтелекту у відповідність до стандартів відповідності, встановлених у лютому?
Ви повинні визначити всі системи штучного інтелекту, які ваша організація наразі використовує або розгортає. Цей перелік має класифікувати кожну систему відповідно до класифікацій ризиків, визначених у Законі про штучний інтелект.
Перегляньте свої системи штучного інтелекту на відповідність списку заборонених практик. Якщо ви використовуєте будь-які заборонені системи, ви повинні негайно відмовитися від них, щоб уникнути регуляторних санкцій.
Задокументуйте призначення ваших систем штучного інтелекту, джерела даних та процеси прийняття рішень. Ця документація допомагає продемонструвати відповідність вимогам та підтримує будь-які необхідні оцінки впливу.
Системи високого ризику мають власний набір зобов'язань, включаючи реєстрацію в європейській базі даних та, для державних органів та постачальників державних послуг, оцінку впливу на основні права. Цей режим було відкладено: для систем, перелічених у Додатку III, таких як інструменти рекрутингу, кредитного скорингу та управління зайнятістю, він починає діяти 2 грудня 2027 року, а для систем високого ризику, які є компонентами безпеки регульованих продуктів, — 2 серпня 2028 року.
Навчіть своїх співробітників новим вимогам та встановіть внутрішні процеси для постійного моніторингу відповідності. Ваша програма відповідності повинна включати регулярні перевірки систем штучного інтелекту, щоб забезпечити їх відповідність нормативним нормам.
Чи існують якісь заборони на використання штучного інтелекту в певному секторі, про які голландські компанії повинні знати відповідно до нових правил?
Організації освітнього сектору стикаються з певними обмеженнями. Ви не можете використовувати системи розпізнавання емоцій для моніторингу учнів або оцінки їхнього емоційного стану, незалежно від передбачуваної освітньої користі.
Робоче середовище має аналогічні обмеження. Роботодавці не можуть використовувати штучний інтелект для розпізнавання емоцій для моніторингу емоційних станів або реакцій працівників під час робочої діяльності.
Правоохоронні органи мають обмежені винятки для систем біометричної ідентифікації. Ці винятки вимагають суворого юридичного дозволу та застосовуються лише до певних ситуацій, таких як пошук жертв викрадення, запобігання неминучим загрозам або відстеження підозрюваних у скоєнні серйозних злочинів.
Державні органи, що надають державні послуги, стикаються з додатковими вимогами, окрім загальних заборон. Ви повинні проводити оцінки впливу на основні права для всіх систем штучного інтелекту з високим рівнем ризику та реєструвати ці системи в європейській базі даних.
Які штрафи передбачені за недотримання обмежень щодо штучного інтелекту, запроваджених у Нідерландах у лютому 2025 року?
Регулятори можуть накладати значні штрафи за недотримання Закону про штучний інтелект. Структура штрафів має багаторівневий підхід залежно від тяжкості порушення.
Використання заборонених систем штучного інтелекту є найсерйознішою категорією порушень. Ваша організація ризикує отримати значні фінансові штрафи, якщо продовжить експлуатацію заборонених систем після крайнього терміну в лютому 2025 року.
Точний розмір штрафу залежить від того, чи належить ваша організація до малого та середнього підприємства, чи до більшої компанії. Регуляторні органи враховують такі фактори, як характер порушення, його тривалість та будь-яка завдана шкода.
Окрім фінансових штрафів, недотримання вимог може зашкодити репутації вашої організації. Особи, яким завдали шкоди заборонені системи штучного інтелекту, можуть звернутися за додатковими засобами правового захисту через цивільне судочинство.
Нідерландське управління захисту даних та інші регуляторні органи мають повноваження щодо забезпечення виконання. Вони можуть розслідувати скарги, проводити аудити та вимагати негайного припинення забороненої практики.
Law & More консультує підприємства щодо практичного застосування Закону про штучний інтелект: перевірка систем, що вже використовуються, на предмет заборон, передбачених статтею 5, оцінка того, де варіант використання знаходиться на межі між дозволеною та забороненою практикою, встановлення заходів щодо грамотності у сфері штучного інтелекту, передбачених статтею 4, та підготовка до зобов'язань з високим рівнем ризику, які настануть у грудні 2027 року. Якщо система штучного інтелекту також обробляє персональні дані, ми одночасно оцінюємо позицію GDPR, оскільки саме там сьогодні доступне правозастосування.
