Європейський закон про штучний інтелект запровадив суттєві зміни 2 лютого 2025 року, забезпечивши певні ШІ практики незаконним по всьому ЄС. Нідерландські підприємства тепер повинні дотримуватися суворих правил щодо того, які системи штучного інтелекту вони можуть використовувати.
Компанії, які не видаляють заборонені інструменти штучного інтелекту, стикаються з великими штрафами та можливими судовими позовами від будь-кого, хто постраждав.
Станом на лютий 2025 року в Нідерландах заборонені системи штучного інтелекту, які маніпулюють людьми, використовують соціальний скоринг, класифікують осіб на основі біометричних даних або застосовують розпізнавання облич у реальному часі в громадських місцях. Ці заборони також поширюються на технології розпізнавання емоцій на робочих місцях та в школах, а також на нецільовий збір зображень облич з Інтернету для створення баз даних розпізнавання.
Правила застосовуються негайно, не надаючи підприємствам пільгового періоду для поступової відмови від цих систем. Розуміння того, які методи штучного інтелекту заборонені та які кроки має вжити ваша організація, є важливим, щоб уникнути штрафних санкцій.
У цьому посібнику пояснюються конкретні заборони, окреслюються ваші обов'язки щодо дотримання вимог як голландський бізнес, та охоплює вимоги до навчання, необхідні для забезпечення законності вашої діяльності згідно з новим законом.
Огляд заборон лютого 2025 року
Регламент (ЄС) 2024/1689, відомий як EU AI Act , запровадила конкретні заборони на певні практики штучного інтелекту, які набули чинності 2 лютого 2025 року. Ці правила застосовуються до вашого нідерландського бізнесу, якщо ви розробляєте, розгортаєте або використовуєте AI системав межах Нідерландів або ширшого Європейського Союзу.
Сфера застосування заборонених практик штучного інтелекту
Закон про штучний інтелект забороняє певні практики штучного інтелекту, які становлять неприйнятні ризики для основних прав та європейських цінностей. Стаття 5 Регламенту (ЄС) 2024/1689 визначає ці заборонені практики на основі їхньої потенційної шкоди, а не самої технології.
До основних заборонених категорій належать:
- Маніпулятивні системи штучного інтелекту що використовують вразливості певних груп
- Системи соціального скорингу державними органами
- Дистанційна біометрична ідентифікація в режимі реального часу у загальнодоступних місцях для закон правозастосування (за обмеженими винятками)
- Біометричні системи категоризації що визначають чутливі атрибути
- Нецільовий скрейпінг зображення облич з інтернету або записів відеоспостереження
Ваш бізнес підпадає під ці заборони, незалежно від того, чи працюєте ви як постачальник, розповсюджувач чи дистриб'ютор штучного інтелекту в Нідерландах. Управління захисту даних Нідерландів співпрацює з іншими правоохоронними органами Європейського Союзу для забезпечення дотримання вимог.
Недотримання вимог тягне за собою штрафи у розмірі до 7% від вашого річного світового обороту.
Дати набрання чинності та перехідні періоди
Заборони, передбачені статтею 5, набули чинності 2 лютого 2025 року. Це означає, що ваш бізнес повинен негайно дотримуватися цих правил, якщо ви використовуєте або розробляєте відповідні системи штучного інтелекту.
Система правозастосування діє за поетапним графіком. Повні штрафи, структури управління та положення про конфіденційність набувають чинності з 2 серпня 2025 року.
Це дає вашій організації шестимісячний період, протягом якого правила застосовуються, але повні механізми забезпечення їх виконання все ще встановлюються. Європейська комісія опублікувала офіційні рекомендації 4 лютого 2025 року, щоб роз’яснити, як ці заборони працюють на практиці.
Органи ринкового нагляду, включаючи Нідерландський орган захисту даних, отримали відповідальність за моніторинг та забезпечення дотримання цих правил з дати початку дії у лютому.
Ключові визначення: Системи та практики штучного інтелекту
Згідно із Законом про штучний інтелект, AI система означає програмне забезпечення, яке використовує машинне навчання, логічні підходи або статистичні методи для генерації результатів, таких як прогнози, рекомендації чи рішення. Це визначення навмисно широке, щоб охопити сучасні та нові технології.
A заборонена практика штучного інтелекту стосується конкретних способів розгортання або використання штучного інтелекту, які Європейський Союз визнав неприйнятними. Заборона стосується самої практики, а не базової технології.
Це означає, що ви можете використовувати ту саму систему штучного інтелекту для дозволених цілей, але при цьому вам заборонено використовувати певні програми. Ваш бізнес повинен розрізняти систему штучного інтелекту (технологію) та її практику (як ви її використовуєте).
Система розпізнавання облич зі штучним інтелектом може бути законною для контролю доступу до будівель, але забороненою для спостереження в режимі реального часу в громадських місцях. Контекст та застосування визначають законність згідно з Регламентом (ЄС) 2024/1689.
Детальний список заборонених практик штучного інтелекту
Закон ЄС про штучний інтелект забороняє певні програми штучного інтелекту, які становлять неприйнятні ризики для основних прав і безпеки. Ці заборонені практики поділяються на три основні категорії: системи, що маніпулюють поведінкою людини, ті, що експлуатувати вразливі групита механізми, що дозволяють масове спостереження за допомогою соціального скорингу.
Маніпулятивні та обманливі системи
Закон про штучний інтелект забороняє будь-яку систему штучного інтелекту, яка використовує підсвідомі методи для суттєвого спотворення людської поведінки таким чином, що це завдає шкоди. Це методи, які працюють поза межами вашої свідомості, впливаючи на ваші рішення чи дії.
До заборонених маніпулятивних практик належать:
- Системи штучного інтелекту, що використовують підсвідомі компоненти, які ви не можете виявити
- Системи, розроблені для використання вікових вразливостей дітей
- Технології, що маніпулюють поведінкою з метою заподіяння фізичної або психологічної шкоди
Ви не можете використовувати ШІ навмисно обманювати людей способами, що призводять до значної шкодиЦе означає, що ваш бізнес не може використовувати чат-ботів або віртуальних помічників, які вводять користувачів в оману щодо їхньої штучної інтелектуальної природи, коли такий обман може призвести до шкоди.
Заборона поширюється на системи штучного інтелекту, які використовують темні шаблони або психологічні маніпуляції, щоб підштовхнути користувачів до шкідливого вибору. закон захищає людей від практик штучного інтелекту, які обходять раціональне прийняття рішень.
Якщо ваша система штучного інтелекту впливає на поведінку за допомогою прихованих маніпуляцій, а не прозорої інформації, вона порушує Закон.
Експлуатація вразливих осіб
Системи штучного інтелекту, що використовують вразливості, пов’язані з віком, інвалідністю або соціальними чи економічними обставинами, суворо заборонені. Не можна використовувати штучний інтелект, щоб скористатися перевагами людей, які не здатні розуміти маніпуляції або чинити їм опір.
Ця заборона поширюється на штучний інтелект, який спрямований на недосвідченість дітей або когнітивне зниження у людей похилого віку. Ваша компанія не може розгортати системи, що використовують фізичні або психічні вади для маніпулювання поведінкою.
Штучний інтелект, який полює на економічний відчай або соціальну ізоляцію, також підпадає під цю заборону.
До вразливих груп, що захищаються, належать:
- Діти та неповнолітні
- Люди похилого віку з когнітивними порушеннями
- Люди з фізичними або психічними вадами
- Особи, які стикаються з економічними труднощами
Заборона застосовується, коли ваша система штучного інтелекту завдає або може завдати значної шкоди через експлуатацію. Ви повинні оцінити, чи можуть ваші програми штучного інтелекту несправедливо бути спрямовані на вразливі групи населення.
Соціальний скоринг та поведінкове профілювання
Закон про штучний інтелект забороняє системи штучного інтелекту, які оцінюють або класифікують людей на основі їхніх соціальна поведінка або особисті характеристики. Ви не можете використовувати механізми соціального оцінювання, які призводять до несправедливого ставлення або заподіяння шкоди.
Соціальний скоринг передбачає оцінювання людей на основі їхньої поведінки, стосунків або передбачуваної поведінки. Це створює профілі, які визначають доступ до послуг, можливостей або прав.
Заборонені дії щодо соціального скорингу включають:
- Оцінювання громадян на основі соціальної чи професійної поведінки
- Створення оцінок надійності на основі персональних даних
- Прогнозування злочинної поведінки на основі профілювання
- Відмова в послугах на основі поведінкових оцінок
Ви не можете впроваджувати системи штучного інтелекту, які присвоюють бали, визначаючи, чи отримує хтось медичне обслуговування, освіту, працевлаштування чи фінансові послуги. Заборона діє незалежно від того, чи керуєте ви цими системами як державний орган, чи як приватний бізнес.
Дистанційне керування в режимі реального часу біометрична ідентифікація у громадських місцях також підпадає під суворі заборони, за обмеженими винятками для правоохоронних органів.
Заборони на біометричні технології, розпізнавання облич та емоційний штучний інтелект
Закон ЄС про штучний інтелект забороняє кілька типів біометричних систем та систем розпізнавання облич, які становлять ризики для основні праваЦі заборони впливають на те, як голландські підприємства можуть використовувати біометричні дані, бази даних розпізнавання облич, інструменти розпізнавання емоцій та системи ідентифікації в режимі реального часу в громадських місцях.
Біометрична категоризація та використання даних
Ви не можете використовувати системи штучного інтелекту, які класифікують людей на основі їхніх біометричних даних, щоб визначити їхню расу, політичні погляди, членство в профспілці, релігійні переконання чи сексуальну орієнтацію. Ця заборона застосовується, коли ви розміщуєте ці системи на ринку, вводите їх в експлуатацію або використовуєте їх для цієї конкретної мети.
Заборона спрямована на системи, які чутливі висновки про осіб за допомогою біометричного аналізу. За недотримання вимог вашому бізнесу загрожують штрафи у розмірі до 7% від світового річного обороту.
З цього правила є один виняток. Ви можете маркувати або фільтрувати законно отримані набори біометричних даних, такі як зображення, на основі біометричних даних у контексті правоохоронних органів.
Поза правоохоронними органами така практика категоризації залишається повністю забороненою.
Обмеження на технології розпізнавання облич
Ви не можете створювати або розширювати бази даних розпізнавання облич шляхом нецільового збору зображень облич з Інтернету або записів з камер відеоспостереження. Ця заборона набула чинності 2 лютого 2025 року.
Для застосування цієї заборони мають бути виконані чотири умови:
- Практика передбачає розміщення, обслуговування або використання системи штучного інтелекту
- Мета полягає в створенні або розширенні баз даних розпізнавання облич
- Метод використовує нецільове зішкрібання зображень обличчя
- Джерелами даних є інтернет або записи з камер відеоспостереження
Ключове слово — «нецільовий». Не можна збирати зображення облич у широкому, невибірковому порядку.
Це означає, що ви не можете розміщувати в супермаркетах або громадських місцях камери, які автоматично збирають дані з облич для створення баз даних розпізнавання без певних критеріїв таргетування.
Розпізнавання емоцій у сфері зайнятості та освіти
Ви не можете використовувати системи штучного інтелекту для визначення емоцій людей на робочих місцях та в навчальних закладах. Ця заборона безпосередньо впливає на відділи кадрів, школи та навчальні заклади, які можуть розглянути інструменти виявлення емоцій.
Заборона поширюється на будь-яку систему штучного інтелекту, призначену для зчитування або інтерпретації емоційних станів у цих конкретних умовах. Не має значення, чи використовуєте ви аналіз обличчя, розпізнавання голосових шаблонів чи інші біометричні показники.
Є один вузький виняток. Ви можете використовувати штучний інтелект для розпізнавання емоцій, якщо це служить медичним або безпековим цілям.
Наприклад, моніторинг пильності водія з міркувань безпеки або виявлення стресу пацієнтів у медичних закладах може підпадати під цей виняток.
Обмеження на віддалену біометричну ідентифікацію
Ви не можете використовувати системи дистанційної біометричної ідентифікації в режимі реального часу у загальнодоступних місцях для цілей правоохоронних органів, окрім як у суворо визначених обставинах. Ці винятки включають пошук жертв викрадення або торгівлі людьми, запобігання безпосереднім загрозам життю або терористичним атакам, а також пошук підозрюваних у скоєнні тяжких злочинів, що караються позбавленням волі щонайменше чотирма роками.
Кожне використання вимагає попередній дозвіл від судовий орган або незалежний адміністративний орган. У термінових ситуаціях ви можете розпочати використання без дозволу, але ви повинні запросити схвалення протягом 24 годин.
Якщо органи влади відхиляють дозвіл, ви повинні негайно припинити користуватися системою та видалити всі дані. Нідерланди можуть встановити власні детальні правила для цих винятків у рамках національного законодавства.
Ваше підприємство повинно повідомляти відповідний орган ринкового нагляду та національний орган захисту даних про кожне використання. Держави-члени щорічно подають Європейській Комісії звіти про використання дистанційної біометричної ідентифікації в режимі реального часу.
Зобов'язання щодо дотримання вимог для голландських підприємств
Нідерландські компанії повинні вжити конкретних кроків для досягнення відповідності вимогам штучного інтелекту, визначаючи заборонені системи, виводячи їх з експлуатації та ведучи належну документацію. Нідерландське DPA а Нідерландське управління цифрової інфраструктури забезпечуватиме виконання цих вимог, передбачаючи значні штрафи за порушення.
Виявлення забороненого штучного інтелекту в операціях
Вам потрібно провести ретельну оцінку ризиків у вашій організації, щоб виявити системи штучного інтелекту, які можуть порушувати нові правила. Це означає вивчення будь-якої технології, яка використовує методи маніпуляції, експлуатує вразливості, впроваджує соціальний скоринг або здійснює біометричну ідентифікацію в режимі реального часу в громадських місцях.
Почніть зі створення інвентаризації всіх систем штучного інтелекту, що використовуються наразі. Задокументуйте, що робить кожна система, як вона обробляє дані та на кого вона впливає.
Зверніть особливу увагу на системи, які взаємодіють з клієнтами, співробітниками або громадськістю. Ваші оцінки ризиків повинні враховувати, чи може будь-яка система зашкодити основним правам.
Це включає перевірку того, чи системи штучного інтелекту приймають рішення щодо людей на основі їхньої поведінки, особистих характеристик або соціальних зв'язків. Системи, які відстежують або складають профілі осіб без прозорості, потребують негайного перегляду.
Співпрацюйте зі своїми технічними командами, щоб зрозуміти, як працює кожна система штучного інтелекту. Ви не можете покладатися виключно на описи постачальників.
Нідерландське Управління з захисту даних чітко дало зрозуміти, що ви несете відповідальність за дотримання вимог незалежно від того, чи створили ви систему, чи придбали її у третьої сторони.
Поступове скасування або видалення заборонених систем штучного інтелекту
Ви повинні негайно припинити використання заборонених практик штучного інтелекту. Закон не передбачає пільгового періоду для заборонених систем.
Якщо ваша оцінка ризиків виявить заборонену практику, вам потрібно негайно її деактивувати. Створіть план видалення, який враховує як технічні, так і операційні наслідки.
Деякі системи можуть бути вбудовані у більші платформи або підключені до кількох процесів. Вам потрібно буде переконатися, що видалення заборонених елементів не порушує основні бізнес-функції.
Перш ніж вимикати систему, визначте, як ви будете обробляти завдання, які вона виконувала раніше. Це може означати повернення до ручних процесів, впровадження інших технологій або повне переосмислення робочих процесів.
Документуйте кожен крок процесу видалення. Зафіксуйте, коли ви виявили заборонену практику, які дії ви вжили та коли систему було повністю деактивовано.
Регулятори очікують чітких доказів того, що ви діяли оперативно після виявлення порушення.
Облік і документація
Ви повинні вести технічну документацію, яка підтверджує дотримання правил заборони. Це включає записи про ваші оцінки ризиків, рішення щодо систем штучного інтелекту та будь-які зміни, внесені вами для досягнення відповідності.
Ваша документація повинна охоплювати:
- Системні інвентаризації з описами кожного застосування штучного інтелекту
- Звіти про оцінку ризиків демонстрація вашого аналізу потенційних порушень
- Записи про видалення детальний опис того, коли і як ви деактивували заборонені системи
- Оцінки впливу на основні права для будь-яких прикордонних випадків
Зберігайте ці записи щонайменше п'ять років. Нідерландський орган захисту даних може запросити їх під час перевірок або розслідувань.
Відсутність або неповна документація може призвести до штрафів у розмірі до 7 500 000 євро або 1% від річного світового обороту. Ваша технічна документація має бути достатньо детальною, щоб регуляторні органи могли зрозуміти, що роблять ваші системи штучного інтелекту та чому вони відповідають закону.
Загальні описи або маркетингові матеріали не відповідають цій вимозі. Включіть технічні специфікації, потоки даних та процеси прийняття рішень.
Оновлюйте свою документацію щоразу, коли ви змінюєте системи штучного інтелекту або розгортаєте нові. Вам потрібні постійні процеси, щоб гарантувати, що майбутні системи не запроваджуватимуть заборонені практики.
Вимоги до грамотності у сфері штучного інтелекту та навчання персоналу
Станом на 2 лютого 2025 року, нідерландські компанії, що надають або впроваджують системи штучного інтелекту, повинні забезпечити належний рівень грамотності своїх співробітників у сфері штучного інтелекту. Це зобов'язання застосовується незалежно від того, чи використовуються системи штучного інтелекту з високим чи низьким рівнем ризику.
Документовані програми навчання повинні бути адаптовані до посад та технічного досвіду ваших співробітників.
Пояснення зобов'язання щодо грамотності в галузі штучного інтелекту
Стаття 4 Закону ЄС про штучний інтелект накладає законодавча вимога всіх постачальників та розгортачів ШІ, щоб забезпечити достатню грамотність їхнього персоналу в галузі ШІ. Ви повинні вжити заходів, щоб гарантувати, що персонал та підрядники, що працюють із системами ШІ, розуміють технології, з якими вони працюють.
Зобов'язання щодо грамотності в галузі штучного інтелекту поширюється на всіх, хто керує системами штучного інтелекту, використовує їх або приймає рішення щодо них від вашого імені. Це включає технічний персонал, який створює або обслуговує системи штучного інтелекту, а також нетехнічних працівників, які використовують інструменти штучного інтелекту у своїй повсякденній роботі.
Ви повинні адаптувати навчання з питань ШІ-грамотності до ролі кожної людини, технічних знань, досвіду, освіти та конкретного контексту, в якому вони використовують системи ШІ. Розробник програмного забезпечення, який впроваджує моделі ШІ, потребує іншого навчання, ніж представник служби підтримки клієнтів, який використовує чат-ботів на базі ШІ.
Це зобов’язання вимагає від вас докласти «максимальних зусиль» для забезпечення належного рівня грамотності. Ви не можете просто пропонувати символічне навчання та вимагати дотримання вимог.
Розробка ефективних навчальних програм
Ваша програма розвитку грамотності у сфері штучного інтелекту повинна стосуватися конкретних систем штучного інтелекту, які використовує ваша організація, а не надавати загальну інформацію. Співробітники повинні розуміти, як функціонують конкретні інструменти штучного інтелекту, з якими вони працюють, їхні обмеження та потенційні ризики.
Зміст навчання повинен охоплювати:
- Базові концепції штучного інтелекту, що стосуються ваших систем
- Як правильно користуватися інструментами штучного інтелекту
- Потенційні упередження та помилки у виходах ШІ
- Коли необхідний людський нагляд
- Політики та процедури вашої організації щодо штучного інтелекту
Ви повинні враховувати початковий рівень знань кожного співробітника. Технічному персоналу може знадобитися поглиблене навчання з розробки та тестування моделей, тоді як звичайним користувачам потрібні практичні поради щодо інтерпретації результатів ШІ та розпізнавання випадків, коли результати здаються неправильними.
Навчання може проводитися в різних формах, включаючи семінари, онлайн-курси, коучинг на робочому місці або зовнішні програми. Формат має менше значення, ніж забезпечення того, щоб персонал фактично отримав необхідні знання та навички.
Документування заходів з розвитку грамотності в галузі штучного інтелекту
Ви повинні вести облік вашої навчальної діяльності з питань штучного інтелекту, щоб продемонструвати відповідність Закону ЄС про штучний інтелект. Ця документація слугує доказом того, що ви виконали свої обов'язки. юридичні зобов'язання.
Ваші записи повинні містити:
- Зміст та матеріали навчальної програми
- Списки працівників, які пройшли навчання
- Дати та тривалість навчальних сесій
- Результати оцінювання (якщо застосовується)
- Як ви визначили відповідні рівні грамотності для різних ролей
Задокументуйте свій процес визначення потреб у грамотності у сфері штучного інтелекту (ШІ) у вашій організації. Це включає те, як ви оцінювали, який персонал потребує навчання та які конкретні знання їм потрібні на основі їхньої взаємодії із системами ШІ.
Ведіть облік того, як ви оновлюєте навчання в міру змін у ваших системах штучного інтелекту або приєднання нових співробітників до вашої організації. Грамотність у сфері штучного інтелекту — це не одноразова вимога, а постійний обов’язок, який має адаптуватися до вашого постійного використання технологій штучного інтелекту.
Нагляд, правозастосування та штрафи
Закон ЄС про штучний інтелект встановлює багаторівневу структуру правозастосування зі значним фінансові санкції за невідповідність. Нідерландські підприємства стикаються з наглядом як національних, так і європейських органів влади, а штрафи за заборонені практики штучного інтелекту сягають 7% від світового річного обороту.
Наглядові органи Нідерландів та ЄС
Нідерландське Управління із захисту даних є основним національним наглядовим органом за дотриманням Закону про штучний інтелект у Нідерландах. Цей орган працює разом з іншими призначеними голландськими органами ринкового нагляду для контролю за дотриманням цього регламенту.
На європейському рівні Європейська комісія контролює впровадження Закону про штучний інтелект у всіх державах-членах. Європейське бюро зі штучного інтелекту, створене в рамках Комісії, координує діяльність із забезпечення дотримання законодавства та надає технічну експертизу.
Європейська рада із захисту даних підтримує послідовне застосування Закону, особливо там, де системи штучного інтелекту передбачають обробку персональних даних. Ці органи співпрацюють для забезпечення однакового правозастосування по всьому Європейському Союзу.
Якщо ви експлуатуєте системи штучного інтелекту в кількох країнах ЄС, ви можете зіткнутися з перевіркою з боку наглядових органів у кожній юрисдикції, де ваші системи розгорнуті або мають вплив.
Санкції та цивільна відповідальність
Порушення заборонених практик, передбачених статтею 5, тягнуть за собою штрафи у розмірі до 35 мільйонів євро або 7% від вашого загального річного світового обороту, залежно від того, що більше. Ці штрафи застосовуються з 2 лютого 2025 року.
Суд ЄС (СЄС) має найвищу повноваження щодо тлумачення положень Закону про штучний інтелект. Національні суди можуть звертатися з питаннями до СЄС у разі виникнення суперечок щодо того, що вважається забороненою практикою.
Окрім адміністративних штрафів, ви можете зіткнутися з позовами про цивільну відповідальність від осіб або організацій, які постраждали від невідповідних систем штучного інтелекту. Держави-члени можуть встановити додаткові штрафи відповідно до свого національного законодавства.
Керівні принципи європейських та національних органів
Європейська комісія опублікувала рекомендації щодо заборонених Практика ШІ станом на 4 лютого 2025 року. У цих документах пояснюється, як органи влади тлумачитимуть заборони статті 5, та наводяться практичні приклади дотримання цих вимог.
Хоча ці рекомендації не є обов'язковими, вони пропонують цінну інформацію щодо пріоритетів правозастосування. Тільки Суд ЄС може надавати авторитетні правові тлумачення.
Нідерландські наглядові органи можуть видавати додаткові національні рекомендації, адаптовані до місцевих бізнес-контекстів. Вам слід стежити за оновленнями як від європейських, так і від нідерландських органів, оскільки підходи до правозастосування розвиваються.
Ці рекомендації доступні всіма мовами ЄС для сприяння міжнародному взаєморозумінню.
Поширені запитання
Європейський закон про штучний інтелект запроваджує конкретні вимоги та обмеження, які впливають на нідерландський бізнес, починаючи з лютого 2025 року. Ці правила забороняють певні практики штучного інтелекту, вимагають заходи відповідності, та встановити штрафи за порушення.
Які нові правила щодо використання штучного інтелекту в голландських компаніях діятимуть з лютого 2025 року?
Європейський закон про штучний інтелект набрав чинності 1 серпня 2024 року, а перший набір заборон набув чинності 2 лютого 2025 року. Ці правила застосовуються до всіх голландських підприємств, які розробляють, розгортають або використовують системи штучного інтелекту в Європейському Союзі.
Закон забороняє маніпулятивні системи штучного інтелекту, які використовують підсвідомі методи для впливу на рішення, які люди зазвичай не приймають. Системи штучного інтелекту, що використовують вразливості на основі віку, інвалідності чи соціально-економічного статусу, також заборонені.
Системи соціального оцінювання, які оцінюють людей на основі їхньої соціальної поведінки чи особистих характеристик, зіткнуться з повною забороною. Правила також забороняють оцінки ризиків на основі штучного інтелекту, які прогнозують злочини виключно на основі профілювання чи аналізу рис особистості, а не на основі фактів, пов'язаних зі злочинною діяльністю.
Біометричні системи категоризації, які визначають расу, політичні погляди, членство в профспілках, релігійні переконання чи сексуальну орієнтацію на основі зображень обличчя чи відбитків пальців, заборонені. Дистанційна біометрична ідентифікація в режимі реального часу в громадських місцях заборонена, за винятком суворо визначених ситуацій з певними юридичний дозвіл.
Як впливають на конфіденційність та захист даних споживачів нідерландські рекомендації щодо штучного інтелекту від лютого 2025 року?
Закон про штучний інтелект діє разом із чинними правилами захисту даних, включаючи GDPR. Нідерландське управління захисту даних надає рекомендації щодо того, як системи штучного інтелекту повинні відповідати правилам захисту даних, зокрема щодо автоматизованого прийняття рішень.
Нецільове вилучення зображень облич з інтернету або записів з камер для створення або розширення баз даних розпізнавання облич заборонено. Це обмеження захищає права осіб на конфіденційність та запобігає несанкціонованому збору біометричних даних.
Системи штучного інтелекту повинні поважати основні права протягом усього свого життєвого циклу. Державні органи та установи, що надають державні послуги, повинні проводити оцінку впливу на основні права під час використання систем штучного інтелекту з високим рівнем ризику.
Якими видами діяльності на основі штучного інтелекту більше не дозволено займатися голландським підприємствам через нещодавні законодавчі зміни?
Ваша компанія не може використовувати системи розпізнавання емоцій на робочому місці або в освітніх закладах. Ці системи заборонені незалежно від заявлених переваг чи варіантів використання.
Не можна розгортати системи штучного інтелекту, які маніпулюють людьми за допомогою підсвідомих методів або використовують їхні вразливості. Це включає системи, які впливають на людей на основі їхньої інвалідності, соціального статусу чи віку, щоб вплинути на їхню поведінку.
Біометричні системи категоризації, які класифікують людей на основі конфіденційних характеристик, заборонені. Ви не можете використовувати штучний інтелект для визначення расової приналежності, політичних поглядів, релігійних переконань чи сексуальної орієнтації людини на основі її біометричних даних.
Системи соціального оцінювання повністю заборонені. Не можна впроваджувати штучний інтелект, який оцінює або класифікує людей на основі їхньої соціальної поведінки чи особистих характеристик.
Дистанційна біометрична ідентифікація в режимі реального часу в загальнодоступних місцях заборонена для комерційного використання. Правоохоронні органи можуть використовувати такі системи лише за вузько визначених обставин за наявності належного юридичного дозволу.
Які кроки мають зробити голландські корпорації, щоб привести свої системи штучного інтелекту у відповідність до стандартів відповідності, встановлених у лютому 2025 року?
Ви повинні визначити всі системи штучного інтелекту, які ваша організація наразі використовує або розгортає. Цей перелік має класифікувати кожну систему відповідно до класифікацій ризиків, визначених у Законі про штучний інтелект.
Перегляньте свої системи штучного інтелекту на відповідність списку заборонених практик. Якщо ви використовуєте будь-які заборонені системи, ви повинні негайно відмовитися від них, щоб уникнути регуляторних санкцій.
Задокументуйте призначення ваших систем штучного інтелекту, джерела даних та процеси прийняття рішень. Ця документація допомагає продемонструвати відповідність вимогам та підтримує будь-які необхідні оцінки впливу.
Для систем штучного інтелекту з високим рівнем ризику потрібні додаткові заходи щодо дотримання вимог. Органи державної влади повинні зареєструвати системи з високим рівнем ризику в європейській базі даних до 2 серпня 2026 року та провести оцінку впливу на основні права.
Навчіть своїх співробітників новим вимогам та встановіть внутрішні процеси для постійного моніторингу відповідності. Ваша програма відповідності повинна включати регулярні перевірки систем штучного інтелекту, щоб забезпечити їх відповідність нормативним нормам.
Чи існують якісь заборони на використання штучного інтелекту в певному секторі, про які голландські компанії повинні знати відповідно до нових правил?
Організації освітнього сектору стикаються з певними обмеженнями. Ви не можете використовувати системи розпізнавання емоцій для моніторингу учнів або оцінки їхнього емоційного стану, незалежно від передбачуваної освітньої користі.
Робоче середовище має аналогічні обмеження. Роботодавці не можуть використовувати штучний інтелект для розпізнавання емоцій для моніторингу емоційних станів або реакцій працівників під час робочої діяльності.
Правоохоронні органи мають обмежені винятки для систем біометричної ідентифікації. Ці винятки вимагають суворого юридичного дозволу та застосовуються лише до певних ситуацій, таких як пошук жертв викрадення, запобігання неминучим загрозам або відстеження підозрюваних у скоєнні серйозних злочинів.
Державні органи, що надають державні послуги, стикаються з додатковими вимогами, окрім загальних заборон. Ви повинні проводити оцінки впливу на основні права для всіх систем штучного інтелекту з високим рівнем ризику та реєструвати ці системи в європейській базі даних.
Які штрафи передбачені за недотримання обмежень щодо штучного інтелекту, запроваджених у Нідерландах у лютому 2025 року?
Регулятори можуть накладати значні штрафи за недотримання Закону про штучний інтелект. Структура штрафів має багаторівневий підхід залежно від тяжкості порушення.
Використання заборонених систем штучного інтелекту є найсерйознішою категорією порушень. Ваша організація ризикує отримати значні фінансові штрафи, якщо продовжить експлуатацію заборонених систем після крайнього терміну в лютому 2025 року.
Точний розмір штрафу залежить від того, чи належить ваша організація до малого та середнього підприємства, чи до більшої компанії. Регуляторні органи враховують такі фактори, як характер порушення, його тривалість та будь-яка завдана шкода.
Окрім фінансових штрафів, недотримання вимог може зашкодити репутації вашої організації. Особи, яким завдали шкоди заборонені системи штучного інтелекту, можуть звернутися за додатковими засобами правового захисту через цивільне судочинство.
Нідерландське управління захисту даних та інші регуляторні органи мають повноваження щодо забезпечення виконання. Вони можуть розслідувати скарги, проводити аудити та вимагати негайного припинення забороненої практики.
