Підприємства по всій території Нідерландів дедалі частіше використовують інструменти штучного інтелекту для покращення своєї діяльності. Багато хто стикається з плутаниною щодо того, чого вимагає закон.
Якщо ви розробляєте, купуєте або використовуєте системи штучного інтелекту в Нідерландах, ви повинні дотримуватися Європейського закону про штучний інтелект, який встановлює суворі правила використання штучного інтелекту в бізнесі. Нормативні акти, що набули чинності у 2024 році, стосуються майже кожної компанії, яка використовує штучний інтелект, від малого бізнесу, що розгортає чат-ботів, до великих організацій, що створюють власні системи.
Розуміння ваших юридичних зобов'язань згідно з голландським та європейським законодавством є важливим перед інтеграцією штучного інтелекту у ваш бізнес. Правила залежать від типу системи штучного інтелекту, яку ви використовуєте, та способу її використання.
Деякі застосування штучного інтелекту повністю заборонені, тоді як інші вимагають ретельного документування та нагляду. Ваші обов'язки щодо дотримання вимог також залежать від того, чи розробляєте ви системи штучного інтелекту, чи просто використовуєте їх.
У цьому посібнику пояснюються правові вимоги щодо використання інструментів штучного інтелекту у вашому бізнесі згідно із законодавством Нідерландів . Ви дізнаєтеся, як визначити свої зобов'язання, зрозуміти категорії ризиків, захистити дані та конфіденційність , розібратися з проблемами інтелектуальної власності та розробити практичні стратегії дотримання вимог.
Розуміння інструментів штучного інтелекту та правового ландшафту Нідерландів
Нідерланди позиціонували себе як лідера в регулюванні штучного інтелекту в Європі, де численні наглядові органи контролюють усе: від захисту даних до фінансових послуг. Ваш бізнес зіткнеться з технологіями штучного інтелекту, починаючи від простих чат-ботів і закінчуючи складними системами машинного навчання, кожна з яких підпадає під різні регуляторні вимоги залежно від рівня ризику та застосування.
Definition and types of AI technologies
ШІ стосується комп'ютерних систем, які виконують завдання, що зазвичай потребують людського інтелекту. У бізнес-контексті ви зустрінете кілька різних типів.
Генеративний ШІ створює новий контент, такий як текст, зображення або код. Такі інструменти, як ChatGPT від OpenAI, належать до цієї категорії та зазвичай використовуються для обслуговування клієнтів, створення контенту та складання документів.
Системи машинного навчання аналізують шаблони даних, щоб робити прогнози або приймати рішення. Ці системи забезпечують виявлення шахрайства, управління запасами та аналіз поведінки клієнтів.
Прогнозний штучний інтелект використовує історичні дані для прогнозування результатів, таких як тенденції продажів або потреби в технічному обслуговуванні. Чат-боти обробляють взаємодію з клієнтами за допомогою автоматизованих розмов.
Ці інструменти варіюються від простих систем на основі правил до складних помічників на базі штучного інтелекту. Ви також можете використовувати штучний інтелект для аналізу документів, оцінки ризиків або персоналізованих маркетингових кампаній.
Кожен тип має різні зобов'язання щодо дотримання вимог згідно з законодавством Нідерландів.
Тенденції впровадження штучного інтелекту в голландському бізнесі
Нідерландські компанії швидко інтегрують штучний інтелект у всі сектори. Напівпровідникова промисловість є світовим лідером, а компанії розробляють передові технології, які забезпечують роботу систем штучного інтелекту по всьому світу.
У фінансових послугах штучний інтелект сприяє виявленню шахрайства та покращенню обслуговування клієнтів. Організації охорони здоров'я використовують штучний інтелект для діагностичної підтримки та планування лікування.
Роздрібні підприємства використовують штучний інтелект для оптимізації запасів та персоналізованого досвіду покупок. Виробничі підприємства впроваджують системи прогнозного обслуговування для скорочення простоїв.
Уряд Нідерландів активно підтримує впровадження штучного інтелекту через різні ініціативи. Нідерландська коаліція зі штучного інтелекту об'єднує підприємства, дослідницькі установи та державні органи для сприяння відповідальному розвитку штучного інтелекту.
Урядові установи забезпечують інноваційні центри та регуляторні пісочниці, зокрема для фінансових технологій. Ця підтримка відображає загалом позитивний прогноз щодо економічного потенціалу штучного інтелекту, збалансований ретельною увагою до ризиків, пов'язаних з прозорістю та підзвітністю.
Ключові регуляторні органи в Нідерландах
Ваші зобов'язання щодо дотримання вимог щодо штучного інтелекту стосуються кількох голландських органів влади. Нідерландський орган захисту даних ( Autoriteit Persoonsgegevens ) виступає національним координуючим органом з нагляду за штучним інтелектом.
Було створено Директорат з координації алгоритмів спеціально для нагляду за системами штучного інтелекту та забезпечення виконання Закону ЄС про штучний інтелект . Цей орган зосереджується на прозорих алгоритмах, аудиті, управлінні та дотриманні Закону ЄС про штучний інтелект протягом 2025 року.
Якщо ви працюєте у сфері фінансових послуг, ви матимете справу з двома додатковими регуляторами. Управління з питань фінансових ринків (AFM) займається наглядом за поведінкою, зосереджуючись на захисті споживачів від маніпулятивного цифрового маркетингу та темних шаблонів.
Центральний банк Нідерландів (De Nederlandsche Bank) контролює пруденційні питання, включаючи надійність, підзвітність та справедливість систем штучного інтелекту. Управління з питань споживачів та ринку ( Autoriteit Consument en Markt ) забезпечує дотримання правил чесної конкуренції та законів про захист прав споживачів.
Він регулює дотримання Закону про цифрові послуги, Закону про управління даними та Закону про дані. Кожен регулятор посилив нагляд за штучним інтелектом та опублікував рекомендації для бізнесу у відповідних секторах.
Основна нормативно-правова база для дотримання вимог ШІ
Закон ЄС про штучний інтелект встановлює основну правову базу Європи для штучного інтелекту, що підтримується чинними законами про захист даних, такими як GDPR, та новішими нормативними актами, включаючи Закон про дані та Закон про управління даними. Впровадження відбувається за поетапним графіком із конкретними термінами, які визначають, коли різні вимоги набувають чинності.
Огляд Закону ЄС про штучний інтелект та його імплементація в Нідерландах
Закон ЄС про штучний інтелект, раніше відомий як Закон про штучний інтелект, створює систему регулювання систем штучного інтелекту на основі оцінки ризиків по всьому Європейському Союзу. Він класифікує застосування штучного інтелекту за чотирма рівнями ризику: неприйнятний, високий, обмежений та мінімальний ризик.
Уряд Нідерландів опублікував Посібник із Закону про штучний інтелект (версія 1.1), щоб допомогти організаціям зрозуміти, як ці правила застосовуються на практиці. Цей посібник пропонує чотириетапний підхід: визначити ризик, який становить ваша система, підтвердити її відповідність визначенню ШІ в ЄС, визначити, чи є ви постачальником чи розгортачем, та визначити свої конкретні зобов’язання.
Заборонене використання штучного інтелекту включає системи соціального скорингу, інструменти прогнозного поліцейського контролю та програми, які маніпулюють поведінкою людини шкідливим чином. Системи штучного інтелекту високого ризику працюють у критично важливих сферах, таких як охорона здоров'я, освіта, зайнятість та правоохоронна діяльність.
Моделі загального та генеративного штучного інтелекту мають окремі зобов'язання щодо прозорості та зменшення ризиків. Правила містять винятки для певних моделей з відкритим кодом, які відповідають певним критеріям.
Relationship with existing regulations
Закон про штучний інтелект діє разом із Загальним регламентом про захист даних, а не замінює його. Якщо ваша система штучного інтелекту обробляє персональні дані, ви повинні дотримуватися обох нормативних актів одночасно.
Вимоги GDPR все ще застосовуються до збору, обробки даних та прав особистості. Вам потрібні законні підстави для обробки даних , ви повинні проводити оцінки впливу на захист даних для обробки з високим рівнем ризику та вести облік діяльності з обробки.
Закон про дані регулює обмін даними та права доступу між підприємствами та користувачами. Він впливає на системи штучного інтелекту, які генерують або використовують промислові чи комерційні дані.
Закон про управління даними встановлює правила для посередників даних та сприяє обміну даними в суспільних інтересах. Закон про кіберстійкість додає вимоги безпеки для продуктів штучного інтелекту з цифровими елементами.
Це створює дублюючі зобов'язання, коли ваша система штучного інтелекту повинна відповідати стандартам кібербезпеки разом із правилами, характерними для штучного інтелекту.
Поетапне впровадження та ключові терміни дотримання вимог
Закон ЄС про штучний інтелект має поетапний графік виконання. Різні вимоги стають обов'язковими у різні дати.
Заборонені практики штучного інтелекту набули чинності 2 лютого 2025 року. Ви повинні негайно припинити використання будь-яких систем штучного інтелекту, що належать до цієї категорії.
Вимоги до моделей штучного інтелекту загального призначення набувають чинності 2 серпня 2025 року. Системи штучного інтелекту з високим рівнем ризику повинні відповідати вимогам до 2 серпня 2027 року, що дасть постачальникам та розгортачам більше часу для впровадження необхідних заходів контролю.
Зобов’язання для розгортачів систем високого ризику відповідають тому ж терміну – 2 серпня 2027 року. Урядові установи стикаються з додатковими вимогами, включаючи оцінки впливу на основні права та реєстрацію систем у базах даних ЄС перед розгортанням.
Оцінка ризиків, документування та впровадження контролю потребують значного часу та ресурсів для належного виконання.
Юридичні зобов'язання щодо захисту даних та конфіденційності
Нідерландські компанії, що використовують інструменти штучного інтелекту, повинні дотримуватися суворих вимог щодо захисту даних згідно з GDPR , що надає фізичним особам сильні права на конфіденційність їхніх персональних даних. Управління захисту даних Нідерландів активно забезпечує дотримання цих правил і очікує, що компанії демонструватимуть законну обробку , проводитимуть належну оцінку ризиків і швидко реагуватимуть на інциденти безпеки.
Обробка персональних даних та згода
Перш ніж обробляти будь-які персональні дані за допомогою систем штучного інтелекту, вам потрібна правова основа згідно з GDPR. Нідерландське Управління з захисту даних чітко дав зрозуміти, що навчання моделей штучного інтелекту на основі зібраних інтернет-даних часто не відповідає вимогам законодавства, особливо коли йдеться про спеціальні категорії персональних даних.
Дані спеціальної категорії включають інформацію про расове походження, політичні погляди, релігійні переконання, медичні записи та біометричну інформацію . Ви повинні відповідати суворішим умовам для обробки цих конфіденційних даних.
Згода є однією з правових підстав для обробки даних, але вона вимагає певних умов. Ваш запит на згоду має бути чітким, відокремленим від інших умов та наданим добровільно.
Користувачі повинні мати можливість відкликати згоду так само легко, як вони її надали. Інші правові підстави включають виконання договору, юридичні зобов'язання, життєво важливі інтереси, суспільні завдання або законні інтереси.
Ви повинні задокументувати, яка правова підстава застосовується до кожної дії з обробки. Нідерландський DPA вимагає, щоб навчальні дані були отримані законним чином та належним чином оброблені для видалення небажаної персональної інформації.
Ви не можете покладатися на аргумент, що дані вже були загальнодоступними в Інтернеті.
Data protection impact assessments and privacy by design
Ви повинні провести Оцінку впливу на захист даних (DPIA), якщо обробка даних за допомогою штучного інтелекту ймовірно призведе до високого ризику для прав осіб. Нідерландське Управління з захисту даних (DPA) очікує проведення DPIA для більшості генеративних застосувань штучного інтелекту, які обробляють персональні дані.
У вашому ОВЗ слід визначити, які персональні дані ви обробляєте, описати операції з обробки, оцінити необхідність та пропорційність, а також оцінити ризики для фізичних осіб. Ви також повинні окреслити заходи для усунення цих ризиків.
Конфіденційність за принципом проектування означає, що ви вбудовуєте захист даних у свої системи штучного інтелекту з самого початку. Вам слід впровадити мінімізацію даних, обмеживши збір лише тим, що суворо необхідно для заявленої мети.
Технічні заходи мають суттєве значення. Такі технології, як генерація з доповненим пошуком (RAG), можуть допомогти зменшити відтворення невірних або небажаних персональних даних у результатах роботи штучного інтелекту.
Вам потрібні чіткі описи цілей для всіх видів обробки даних за допомогою штучного інтелекту. GDPR забороняє використання персональних даних для цілей, несумісних з метою їх початкового збору.
Якщо ваша обробка включає масштабний систематичний моніторинг або дані спеціальної категорії, ви повинні призначити співробітника із захисту даних. Ця особа контролює дотримання вимог і є контактною особою для голландського Управління з захисту даних.
Управління витоками даних та ризиками кібербезпеки
Ви повинні повідомити Орган захисту даних Нідерландів протягом 72 годин після того, як вам стало відомо про порушення захисту персональних даних. Це включає несанкціонований доступ, випадкову втрату або неналежне розголошення через системи штучного інтелекту.
Коли порушення створює високий ризик для прав і свобод осіб, ви також повинні без зайвої затримки повідомити про це постраждалих осіб. У вашому повідомленні має бути чітко пояснено порушення та описано кроки, які люди можуть вжити для самозахисту.
Кібератаки, спрямовані на системи штучного інтелекту, створюють унікальні ризики. Моделями штучного інтелекту можна маніпулювати шляхом отруєння навчальних даних або зловмисних вхідних даних, призначених для створення шкідливих результатів.
Закон про кіберстійкість, який набирає чинності по всьому ЄС, додасть вимоги безпеки для продуктів штучного інтелекту. Вам слід підготуватися вже зараз, впровадивши надійний контроль доступу та системи управління.
Задокументуйте свої заходи безпеки та процедури реагування на інциденти. Нідерландське Управління з захисту даних очікує, що ви продемонструєте відповідні технічні та організаційні заходи для захисту персональних даних.
Ви повинні створити системи, що дозволять особам здійснювати свої права на конфіденційність, включаючи доступ, виправлення, видалення та заперечення. Технічна архітектура моделей штучного інтелекту робить це складним завданням, але голландське Управління з захисту даних вважає це обов'язковим незалежно від технічної складності.
Категорії ризику та зобов'язання щодо використання ШІ
Закон ЄС про штучний інтелект встановлює окремі рівні ризику, які визначають ваші зобов'язання щодо дотримання вимог , від повної заборони певних практик до правил прозорості для штучного інтелекту загального призначення. Розуміння того, до якої категорії належить ваша система, впливає на все: від вимог до документації до протоколів людського нагляду .
Identifying prohibited AI practices
Деякі програми штучного інтелекту повністю заборонені Законом ЄС про штучний інтелект, оскільки вони загрожують основним правам. Не можна розгортати системи, які маніпулюють поведінкою людини за допомогою підсвідомих методів або використовують вразливості на основі віку, інвалідності чи соціально-економічного статусу.
Соціальний скоринг урядами або від їхнього імені заборонено. Це включає такі системи, як голландська SySteem Risico Indicatie (SyRI), яку було скасовано у 2020 році за порушення прав на конфіденційність.
Біометрична ідентифікація в режимі реального часу в громадських місцях також заборонена, за невеликими винятками для правоохоронних органів за певних обставин. Розпізнавання емоцій на робочих місцях та в освітніх закладах стикається з обмеженнями.
Якщо ваші алгоритми штучного інтелекту намагаються робити висновки про емоції або класифікувати людей на основі біометричних даних у цих контекстах, ви, ймовірно, порушуєте положення. Ці заборони набувають чинності негайно після набрання чинності Законом, не залишаючи пільгового періоду для коригування.
High-Risk and Limited-Risk AI systems
Системи штучного інтелекту з високим рівнем ризику стикаються з найсуворішими регуляторними вимогами. До них належать застосування в критичній інфраструктурі, рішеннях щодо працевлаштування, доступі до освіти, правоохоронних органах, прикордонному контролі та здійсненні правосуддя.
Якщо ваша система впливає на кредитоспроможність, реагування на надзвичайні ситуації або управління працівниками, вона, ймовірно, кваліфікується як система високого ризику.
Ви повинні вести детальну технічну документацію для високоризикованих застосувань штучного інтелекту. Це охоплює джерела даних для навчання, архітектуру моделі, результати тестування та цільові випадки використання.
Регулярні оцінки відповідності стають обов'язковими, разом із реєстрацією в базі даних ЄС.
Системи з обмеженим ризиком передбачають зобов'язання щодо прозорості . Чат-боти та генератори контенту повинні розкривати користувачам свою природу штучного інтелекту.
Якщо ваша система створює діпфейки або синтетичний контент, ви повинні чітко його позначити. Моделі штучного інтелекту загального призначення вимагають прозорості щодо даних навчання, споживання енергії та дотримання авторських прав.
Поетапне впровадження означає, що застосовуються різні терміни залежно від рівня ризику вашої системи.
Вимоги до прозорості та людського нагляду
Згідно з регламентом, людський нагляд є основним принципом надійного штучного інтелекту. Для систем високого ризику необхідно забезпечити можливість втручання людей, скасування рішень або зупинки операцій за потреби.
Це юридична вимога, пов’язана із захистом основоположних прав. Ваші механізми нагляду мають бути ефективними, а не символічними.
Розробляйте інтерфейси, які дозволяють операторам розуміти результати ШІ та вживати змістовних заходів. Документуйте, хто несе відповідальність за остаточні рішення , та встановіть чіткі шляхи ескалації, коли система дає сумнівні результати.
Прозорість виходить за рамки простого розкриття інформації. Ви повинні надати чітку інформацію про можливості, обмеження та рівні точності вашої системи штучного інтелекту.
Для систем, що безпосередньо впливають на окремих осіб, стають необхідними пояснення автоматизованих рішень. Це узгоджується з чинними правилами захисту даних, водночас додаючи специфічні для ШІ зобов'язання щодо інтерпретації та підзвітності.
Intellectual property, copyright, and data rights
Інструменти штучного інтелекту створюють складні питання власності згідно з законодавством Нідерландів та ЄС, зокрема щодо того, кому належить контент, створений штучним інтелектом, і чи може ваш бізнес легально використовувати матеріали, захищені авторським правом, для навчання моделей.
Нідерландське законодавство про авторське право вимагає людської творчості для захисту, тоді як права на бази даних та патентні правила додають додаткові рівні, які слід враховувати.
Copyright protection of AI-Generated works
Закон Нідерландів про авторське право (Auteurswet) надає авторський захист лише творам, створеним завдяки людським інтелектуальним зусиллям.
Контент, створений виключно системами штучного інтелекту без змістовного втручання людини, не може отримати захист авторського права в Нідерландах. Це відповідає законодавству ЄС про авторське право та нещодавнім рекомендаціям таких органів, як Бюро з авторського права США.
Ваша компанія може претендувати на авторське право, якщо ви робите суттєвий творчий вибір під час використання інструментів штучного інтелекту. Приклади включають вибір певних підказок, кураторство результатів або поєднання елементів, створених штучним інтелектом, з вашою власною оригінальною роботою.
Цивільний кодекс Нідерландів підтримує цей підхід, коли людська креативність залишається домінуючим фактором. Документуйте свій творчий процес під час роботи з інструментами штучного інтелекту.
Ведіть облік підказок, редагувань та рішень, які ви приймаєте. Ці докази зміцнюють вашу позицію у разі виникнення суперечок щодо права власності.
Без доказів людського втручання ваш контент, створений штучним інтелектом, стає суспільним надбанням, де будь-хто може вільно його використовувати.
Патентне право та права на бази даних
Європейське патентне відомство (ЄПВ) не визнає системи штучного інтелекту винахідниками згідно з патентним законодавством. Ваші патентні заявки повинні вказувати імена винахідників-людей, які зробили значний внесок у винаходи за допомогою штучного інтелекту.
Нідерландське патентне законодавство суворо дотримується цієї вимоги. Права на бази даних згідно з нідерландським законодавством захищають значні інвестиції в отримання, перевірку або представлення колекцій даних.
Ваша компанія може претендувати на унікальні права на базу даних для наборів даних, які ви складаєте, навіть якщо для обробки використовуються інструменти штучного інтелекту. Захист діє 15 років з моменту завершення та вимагає демонстрації значних інвестицій у створення або підтримку бази даних.
Ці права власності існують окремо від авторського права. Ви можете захистити свої навчальні набори даних за допомогою прав на базу даних, тоді як самі результати ШІ можуть не мати захисту авторського права.
Міркування щодо інтелектуального аналізу тексту та даних
Законодавство ЄС про авторське право дозволяє інтелектуальний аналіз тексту та даних (TDM) для певних цілей згідно зі статтями 3 та 4 Директиви про єдиний цифровий ринок.
Стаття 3 дозволяє використання тимчасового інформаційного моделювання (TDM) для наукових досліджень дослідницькими організаціями та установами культурної спадщини. Стаття 4 надає ширші права TDM для будь-яких цілей, але власники авторських прав можуть відмовитися від них, зберегвши свої права.
Перевірте, чи постачальники ваших інструментів штучного інтелекту дотримуються механізмів відмови. Багато генеративних систем штучного інтелекту збирають загальнодоступний контент без перевірки умов ліцензування.
Це створює юридичні ризики для вашого бізнесу, якщо навчальні дані містять твори, захищені авторським правом, щодо використання яких правовласники заперечували. Впровадження цих винятків TDM у Нідерландах надає вам обмежену свободу аналізу матеріалів, захищених авторським правом.
Комерційне використання моделей штучного інтелекту, навчених на контенті, захищеному авторським правом, залишається юридично невизначеним. Розгляньте можливість використання ліцензованих наборів даних або контенту, спеціально випущеного для навчання ШІ, щоб зменшити ризики порушення.
Штучний інтелект у чутливих бізнес-контекстах
Нідерландські регулятори очікують, що фінансові установи збалансують інновації із захистом основних прав. Заявки на працевлаштування та державний сектор стикаються з посиленою увагою після алгоритмічних збоїв у державних системах.
Ці делікатні контексти вимагають спеціальних запобіжних заходів, що виходять за рамки загальних заходів щодо дотримання вимог штучного інтелекту.
Боротьба з відмиванням грошей та виявлення шахрайства
Фінансові установи в Нідерландах можуть використовувати штучний інтелект та аналіз даних для перевірок боротьби з відмиванням грошей (AML) та виявлення шахрайства.
Важливе рішення Апеляційного трибуналу з питань торгівлі та промисловості від 2022 року підтвердило, що онлайн-банк Bunq мав право перевіряти клієнтів, які використовують технології штучного інтелекту, в рамках своїх процедур «Знай свого клієнта».
Це рішення вирішило суперечку, що сягала 2018 року, коли DNB (De Nederlandsche Bank) спочатку поставив під сумнів відповідність підходу Bunq на основі штучного інтелекту нормативним вимогам щодо дотримання правил боротьби з відмиванням грошей.
У рішенні суду встановлено, що нові технології, такі як аналіз даних та штучний інтелект, є прийнятними інструментами для виконання функцій контролера у процедурах боротьби з відмиванням грошей.
Ваша реалізація все ще повинна відповідати основним нормативним стандартам боротьби з відмиванням коштів. Рішення трибуналу не скасовує вимоги нагляду, але підтверджує, що технологічні методи можуть їх задовольнити за умови належного розроблення.
Страхові компанії, опитані DNB у 2021 році, повідомляли про необхідність людського нагляду за своїми системами виявлення шахрайства. Жоден страховик не використовував повністю автоматизовані рішення на основі штучного інтелекту без втручання людини.
Цей підхід відображає уроки скандалу з допомогами на догляд за дітьми в Нідерландах, де автоматизовані системи неправильно визначали шахрайство. Страховики постійно заявляли, що люди перевіряють усі заяви, позначені алгоритмами як потенційно шахрайські.
Заявки на працевлаштування та кадрові послуги
Системи штучного інтелекту, що використовуються при прийнятті рішень щодо працевлаштування, несуть значний юридичний ризик згідно з голландським законодавством. Людиноорієнтований підхід уряду до штучного інтелекту підкреслює, що повага до суспільних цінностей та прав людини має керувати розробкою та впровадженням штучного інтелекту.
Цей принцип безпосередньо впливає на те, як ви можете використовувати штучний інтелект у наймі, оцінці ефективності та управлінні зайнятістю.
Ваші заявки на роботу в HR повинні уникати дискримінації та забезпечувати правову рівність. Уряд Нідерландів особливо наголошує на автономії та конфіденційності як суспільних цінностях, на які можуть впливати системи штучного інтелекту.
Ці проблеми особливо гострі в контексті зайнятості, де алгоритмічні рішення впливають на засоби до існування людей. Вам слід впровадити процеси перевірки людьми рекомендацій щодо працевлаштування, створених штучним інтелектом.
Ця вимога відповідає ширшому акценту в Нідерландах на людському контролі в процесі прийняття чутливих автоматизованих рішень. Документуйте процес прийняття рішень та забезпечте прозорість щодо того, як штучний інтелект впливає на результати працевлаштування.
Інструментарій для етично відповідальних інновацій, розроблений Міністерством внутрішніх справ та у справах Королівства, містить практичні рекомендації. Його сім основних принципів включають забезпечення якості даних, підтримку прозорості та підзвітності, а також моніторинг систем для внесення необхідних коригувань.
Штучний інтелект в освіті та державному секторі
Застосування штучного інтелекту в державному секторі Нідерландів зазнало суворої перевірки після скандалу з допомогою на догляд за дітьми. У цьому випадку тисячі батьків були помилково звинувачені податковими органами Нідерландів у шахрайстві через дискримінаційні алгоритми самонавчання, що використовуються для регулювання розподілу допомоги на догляд за дітьми.
Цей скандал докорінно змінив політику Нідерландів щодо штучного інтелекту. Уряду тепер потрібен людиноорієнтований підхід, який зміцнює, а не послаблює суспільні цінності та права людини.
Якщо ви надаєте послуги штучного інтелекту організаціям державного сектору, ваші системи повинні відповідати цим підвищеним стандартам. Міністерство фінансів створило систему дослідження алгоритмів у липні 2023 року для картографування алгоритмічного контролю в державних організаціях.
Ця структура охоплює чотири теми: управління та підзвітність, конфіденційність, якість даних і моделей, а також інформаційна безпека. Голландський реєстр алгоритмів зараз містить понад 700 алгоритмів від різних урядових органів, включаючи муніципалітет... Amsterdam та Нідерландський банк соціального страхування.
Штучний інтелект у державному секторі має бути прозорим та підзвітним. Інструментарій для етично відповідальних інновацій вимагає від вас залучення громадян та зацікавлених сторін, дотримання відповідних законів та моніторингу систем з внесенням необхідних коректив.
Освітні заклади та державні установи очікують, що постачальники продемонструють дотримання цих принципів перед закупівлею.
Фінансові установи та регуляторні очікування
У квітні 2024 року DNB та Управління з фінансових ринків Нідерландів (AFM) опублікували спільні рекомендації щодо впливу штучного інтелекту на фінансовий сектор. Ці регулятори визнають, що чинні правові положення, які спеціально вимагають відповідального використання штучного інтелекту, є обмеженими, але вони очікують, що ця регуляторна база розширюватиметься зі зростанням впливу штучного інтелекту.
Ваша фінансова установа повинна враховувати шість ключових аспектів під час впровадження штучного інтелекту: надійність, підзвітність, справедливість, етика, навички та прозорість. Керівні принципи DNB 2019 року визначають їх як попередні погляди на відповідальне використання штучного інтелекту у фінансових послугах.
Фінансові установи використовують штучний інтелект для чат-ботів, перевірки особи, аналізу даних транзакцій, виявлення шахрайства, аналізу юридичних документів та торговельних операцій.
Регулятори адаптують свої методи нагляду для оцінки практики управління ризиками систем штучного інтелекту, операційних методів та результатів. DNB наголошує, що це може вимагати поглиблення власних знань про штучний інтелект та оцінки того, як установи керують алгоритмічним прийняттям рішень.
У своїй промові «2024: Одіссея ШІ» DNB у жовтні 2024 року підтвердив зобов’язання регулятора створити регуляторну визначеність щодо нагляду за ШІ відповідно до Європейського закону про ШІ.
У промові було окремо виділено фундаментальні права, включаючи конфіденційність та недискримінацію, як ключові для нагляду за штучним інтелектом у фінансовій сфері. Стратегія AFM на 2023-2026 роки визначає цифровізацію як ключову тенденцію.
Регулятор сприяє відповідальним системам прийняття рішень для застосувань штучного інтелекту та очікує прозорості у використанні даних клієнтів та алгоритмічному прийнятті рішень під час прийняття клієнтами рішень, ціноутворення на фінансові продукти, середовищ вибору та онлайн-таргетингової діяльності.
Платформа співпраці у сфері цифрового регулювання (SDT), запущена в жовтні 2021 року кількома регуляторами, включаючи Autoriteit Consument en Markt (ACM), AFM та Нідерландське управління захисту даних, координує правозастосування в цифровому секторі.
Ця платформа створила спеціальні палати для нагляду за застосуванням штучного інтелекту в різних галузях промисловості.
Операційні стратегії щодо дотримання вимог та управління
Ефективне управління штучним інтелектом вимагає конкретних систем нагляду, чітких практик документування та постійного навчання співробітників для дотримання стандартів відповідності нормативним вимогам згідно з голландським законодавством.
Building an AI governance framework
Ваша система управління ШІ повинна чітко визначати ролі та обов'язки щодо розгортання та нагляду за ШІ.
Почніть зі створення комітету з управління ШІ, до якого входять зацікавлені сторони з юридичного, технічного та бізнес-відділу. Цей комітет контролює вашу стратегію щодо ШІ та забезпечує її відповідність вимогам Нідерландського управління цифрової інфраструктури.
Задокументуйте процес оцінки ризиків для кожної системи штучного інтелекту. Класифікуйте системи за рівнем ризику та застосуйте відповідні засоби контролю.
Високоризикові програми потребують суворішого нагляду, ніж низькоризикові інструменти. Створіть чіткі правила щодо обміну даними та використання цифрової інфраструктури.
Ваша структура повинна визначати, хто має доступ до систем штучного інтелекту, які дані вони можуть використовувати та як переглядаються рішення. Налаштуйте процеси затвердження нових інструментів штучного інтелекту перед розгортанням.
Включіть технічні заходи безпеки, такі як контроль доступу, шифрування даних та регулярні оцінки безпеки. Ваша структура повинна враховувати, як ви будете обробляти збої штучного інтелекту або неочікувані результати.
Грамотність у сфері штучного інтелекту та навчання співробітників у сфері штучного інтелекту
Навчання з питань ШІ допомагає вашим співробітникам зрозуміти як можливості, так і обмеження інструментів ШІ. Працівникам потрібно знати, коли результати ШІ потребують перевірки людиною, а коли слід повідомляти про проблеми.
Забезпечте навчання з урахуванням конкретних ролей. Юридичним командам потрібні інші знання, ніж операційному персоналу.
Зосередьтеся на практичних сценаріях, з якими співробітники стикатимуться у своїй повсякденній роботі. Розгляньте основи того, як системи штучного інтелекту приймають рішення, поширені упередження та проблеми якості даних.
Навчайте персонал політикам вашої організації щодо штучного інтелекту, включаючи вимоги до обробки даних та заборонені способи їх використання. Плануйте регулярні курси підвищення кваліфікації в міру розвитку вашої стратегії щодо штучного інтелекту.
Нові інструменти та нормативні вимоги означають, що навчання не може бути одноразовим заходом. Відстежуйте показники завершення та оцінюйте розуміння за допомогою практичних вправ.
Практика документування, моніторингу та аудиту
Ведіть детальний облік ваших систем штучного інтелекту, включаючи їхнє призначення, джерела даних та логіку прийняття рішень. Документуйте будь-які зміни в моделях або навчальних даних.
Ці записи підтверджують дотримання нормативних вимог під час перевірок. Постійно контролюйте ефективність ШІ.
Відстежуйте показники точності, схеми помилок та відгуки користувачів. Налаштуйте сповіщення про незвичайну поведінку або падіння продуктивності.
Основні вимоги до документації:
- Системні інвентаризації з класифікаціями ризиків
- Записи про обробку даних та документація щодо згоди
- Оцінки впливу для застосувань з високим рівнем ризику
- Журнали інцидентів та коригувальні дії
- Аудиторські журнали рішень ШІ
Регулярно проводите внутрішні аудити ваших систем штучного інтелекту. Перевіряйте, чи відповідають вони своєму призначенню та чинним нормам.
Зовнішні аудити забезпечують незалежну перевірку ваших зусиль щодо дотримання вимог . Плануйте їх проведення принаймні щорічно або під час впровадження суттєвих змін у вашу інфраструктуру штучного інтелекту.
Етичні та фундаментальні права
Системи штучного інтелекту у вашому бізнесі повинні поважати основні права, захищені законодавством Нідерландів та Європейською конвенцією з прав людини, зокрема щодо недискримінації та справедливого ставлення.
Розуміння того, як алгоритмічна упередженість впливає на результати, та забезпечення людського контролю в автоматизованих процесах є важливими вимогами дотримання вимог.
Ensuring fundamental rights and Non-Discrimination
Ваші інструменти штучного інтелекту повинні відповідати захисту основних прав, закладених у конституційному законодавстві Нідерландів та Європейській конвенції з прав людини.
Ці права включають право на приватність, рівність та свободу від дискримінації за такими захищеними ознаками, як раса, стать, вік чи інвалідність.
Нідерландські суди все ретельніше досліджують системи штучного інтелекту, які впливають на права особистості . Вам потрібно оцінити, чи впливають ваші застосування штучного інтелекту на рішення щодо працевлаштування, житла, кредитування чи державних послуг.
Ці сфери отримують посилений правовий захист. Закон про штучний інтелект вимагає від вас документувати, як ваші системи захищають основні права.
Це включає проведення оцінок впливу перед розгортанням високоризикових програм штучного інтелекту. Вам також слід встановити чіткі процедури для оскарження особами рішень, прийнятих під впливом штучного інтелекту, які впливають на їхні права.
Моделі штучного інтелекту загального призначення створюють унікальні проблеми, оскільки їхні широкі можливості можуть застосовуватися таким чином, що це непередбачувано впливає на основні права.
Ви повинні оцінити, як ці моделі функціонують у вашому конкретному випадку використання, а не покладатися виключно на загальні оцінки постачальника.
Algorithmic bias and human Decision-Making
Алгоритмічне упередження виникає, коли системи штучного інтелекту систематично створюють несправедливі результати для певних груп. Ваші навчальні дані, дизайн моделі та контекст розгортання можуть призвести до упередженості, яка порушує принципи недискримінації згідно з законодавством Нідерландів.
Ви повинні регулярно тестувати свої системи штучного інтелекту на наявність упередженості за захищеними характеристиками. Це означає перевірку того, чи суттєво відрізняються результати між демографічними групами без законних підстав.
До поширених джерел упередженості належать історичні дані, що відображають минулу дискримінацію, та нерепрезентативні навчальні набори даних. Неправильний вибір ознак також може призвести до упередженості.
Людський нагляд залишається юридично обов'язковим у багатьох контекстах. Не можна повністю делегувати повноваження щодо прийняття остаточних рішень системам штучного інтелекту, коли на кону стоять фундаментальні права.
Ваші співробітники повинні мати підготовку, інформацію та повноваження для змістовного перегляду та скасування рекомендацій ШІ. Нідерландські суди очікують, що ви продемонструєте, що люди-рецензенти активно взаємодіють з результатами ШІ, а не просто затверджують автоматичні пропозиції.
Документуйте свої процеси перевірки та переконайтеся, що особи, які приймають рішення, розуміють обмеження та потенційні упередження системи штучного інтелекту.
Відповідальне ведення автоматизованого прийняття рішень
Автоматизоване прийняття рішень (ADM) стосується рішень, прийнятих системами штучного інтелекту з обмеженою участю людини або без неї. Згідно з GDPR, фізичні особи мають права щодо ADM, що породжує правові наслідки або аналогічний значний вплив на них.
Ви повинні інформувати людей, коли ADM впливає на них, та надавати їм змістовну інформацію про логіку цього процесу. Це не вимагає розкриття комерційної таємниці, але людям потрібна достатня кількість деталей, щоб зрозуміти та оскаржити рішення.
Ви також повинні запропонувати чітку процедуру запиту на перевірку людиною. Згідно з нідерландським законодавством, деякі рішення не можуть спиратися виключно на ADM.
Це включає рішення, які мають значні наслідки для працевлаштування, кредитоспроможності або доступу до основних послуг. Вам потрібна участь людини, яка виходить за рамки простого застосування автоматизованих результатів.
Ведіть облік ваших процесів ADM, зокрема того, як ви визначили належний рівень людського нагляду. Нідерландські регуляторні органи та суди перевірять, чи ваші структури управління належним чином захищають права особистості.
Часті питання
Нідерландські компанії, які використовують інструменти штучного інтелекту, повинні дотримуватися вимог щодо прозорості прийняття рішень та захисту даних згідно з GDPR. Стандарти недискримінації, врахування інтелектуальної власності та рамки відповідальності встановлені як Законом про штучний інтелект, так і чинним законодавством Нідерландів.
Які правові наслідки впровадження штучного інтелекту для процесів прийняття рішень у голландських компаніях?
Закон про штучний інтелект класифікує системи штучного інтелекту, що використовуються для прийняття рішень, на основі рівня їх ризику. Системи високого ризику, що використовуються у сфері зайнятості, управління людськими ресурсами або доступу до основних послуг, стикаються з суворими вимогами з серпня 2026 року.
Ви повинні запровадити людський нагляд за системами прийняття рішень на основі штучного інтелекту з високим рівнем ризику. Це означає, що людина повинна мати можливість переглядати та скасовувати рішення, згенеровані штучним інтелектом.
Ваш бізнес не може використовувати системи штучного інтелекту, які приймають рішення за допомогою соціального скорингу. Це включає винагородження або покарання людей на основі поведінки чи особистих характеристик.
Коли ваша система штучного інтелекту впливає на рішення щодо найму, підвищення по службі або звільнення, ви повинні інформувати працівників та кандидатів на роботу. Нідерландське трудове законодавство вимагає прозорості щодо автоматизованих процесів прийняття рішень.
Як компанії в Нідерландах повинні обробляти персональні дані під час використання інструментів штучного інтелекту відповідно до GDPR?
Ви повинні визначити правову основу для обробки персональних даних за допомогою систем штучного інтелекту перед їх розгортанням. Загальні правові основи включають згоду, договірну необхідність або законні інтереси.
Стаття 22 GDPR надає фізичним особам право не підлягати виключно автоматизованому прийняттю рішень, що мають юридичні або суттєві наслідки. Ви повинні надати змістовну інформацію про логіку обробки даних та її значення.
Ваша система штучного інтелекту повинна впроваджувати принципи мінімізації даних. Збирайте лише ті персональні дані, які необхідні для конкретної мети.
Вам потрібно провести Оцінку впливу на захист даних (DPIA), коли ваша система штучного інтелекту обробляє персональні дані таким чином, що це створює високі ризики для прав осіб. Системи штучного інтелекту з високим рівнем ризику згідно із Законом про штучний інтелект зазвичай вимагають DPIA.
До навчальних даних застосовуються правила обмеження зберігання. Ви не можете зберігати персональні дані довше, ніж це необхідно для цілей системи штучного інтелекту.
Які кроки необхідні для забезпечення недискримінаційності систем штучного інтелекту та їх відповідності голландським законам про рівність?
Ви повинні перевірити свої системи штучного інтелекту на упередженість перед розгортанням. Це включає перевірку на дискримінацію за такими захищеними характеристиками, як раса, стать, вік, інвалідність та сексуальна орієнтація.
Закон про штучний інтелект забороняє системи, які класифікують осіб за конфіденційними категоріями за допомогою біометричних даних. Ви не можете використовувати штучний інтелект для категоризації людей на основі походження, стану здоров'я чи сексуальної орієнтації за допомогою розпізнавання облич чи подібних технологій.
Ваші навчальні дані мають бути репрезентативними та різноманітними. Упереджені або нерепрезентативні набори даних можуть призвести до дискримінаційних результатів, що порушують закони Нідерландів про рівність.
Вам потрібна документація, яка показує, як ви оцінювали та пом’якшували ризики дискримінації. Вона стає частиною вашої технічної документації для систем штучного інтелекту з високим рівнем ризику.
Регулярний моніторинг після розгортання допомагає виявити дискримінаційні моделі, що виникають з часом. Ви повинні негайно вирішувати будь-які проблеми дискримінації.
Чи можете ви окреслити обов'язки голландських компаній щодо прозорості та пояснень щодо операцій зі штучним інтелектом?
Ви повинні інформувати користувачів, коли вони взаємодіють із системами штучного інтелекту, такими як чат-боти. Люди мають право знати, що вони спілкуються зі штучним інтелектом, а не з людиною.
Системи штучного інтелекту з високим рівнем ризику вимагають вичерпної технічної документації. Вона включає інформацію про можливості, обмеження та цільове використання системи.
Коли ви використовуєте штучний інтелект для класифікації біометричних даних, ви повинні пояснити людям, як працює система. Це зобов'язання щодо прозорості застосовується навіть до систем, які не є високоризиковими.
Контент, створений або відредагований штучним інтелектом, повинен мати чіткі позначки. Вам потрібно позначити текст, зображення та інший контент, згенерований штучним інтелектом, щоб увімкнути автоматичне виявлення.
Вашим співробітникам потрібна достатня грамотність у сфері штучного інтелекту, щоб розуміти та контролювати системи штучного інтелекту, з якими вони працюють. Навчальні програми допомагають виконати цю вимогу прозорості.
Ви повинні надати розгортачам ваших систем штучного інтелекту інструкції щодо правильного використання. Ці інструкції повинні охоплювати призначення, можливості та обмеження системи.
Які критичні міркування щодо прав інтелектуальної власності слід враховувати під час впровадження контенту або даних, створених штучним інтелектом, у бізнес-середовище?
Нідерландське законодавство про авторське право наразі не визнає системи штучного інтелекту авторами. Згідно з чинним законодавством, лише люди-творці можуть володіти авторським правом.
Вам потрібно уточнити права власності на контент, створений штучним інтелектом, у трудових договорах та угодах з підрядниками. Стандартні положення про інтелектуальну власність можуть не належним чином враховувати роботи, створені штучним інтелектом.
Навчання систем штучного інтелекту на матеріалах, захищених авторським правом, викликає правові питання. Вам слід оцінити, чи ваше використання кваліфікується як законний виняток згідно з голландським законодавством про авторське право.
Права на бази даних захищають колекції даних у Нідерландах. Використання баз даних для навчання систем штучного інтелекту може вимагати ліцензій від власника прав на базу даних.
Винаходи, створені штучним інтелектом, створюють проблеми з патентами. Нідерландське патентне законодавство вимагає участі людей-винахідників, хоча ця галузь продовжує розвиватися.
Ви повинні поважати права інтелектуальної власності третіх сторін під час розгортання інструментів штучного інтелекту. Це включає забезпечення того, щоб ваша система штучного інтелекту не відтворювала захищені твори без дозволу.
Як голландське законодавство вирішує питання відповідальності, що виникають у зв'язку з використанням штучного інтелекту в бізнес-операціях?
Ви залишаєтеся відповідальними за шкоду, завдану розгорнутими вами системами штучного інтелекту. Нідерландське законодавство про делікти покладає відповідальність на підприємства за шкоду, що виникла в результаті їхньої діяльності, включаючи процеси, що базуються на штучному інтелекті.
Закон про штучний інтелект запроваджує штрафи за невиконання вимог. Випуск заборонених систем штучного інтелекту на ринок може призвести до штрафних санкцій та судових позовів з боку зацікавлених сторін.
Правила відповідальності за якість продукції застосовуються до систем штучного інтелекту, вбудованих у фізичні продукти. Якщо ваш продукт на базі штучного інтелекту завдає шкоди, вашу відповідальність визначає чинне законодавство про відповідальність за якість продукції.
Ви повинні мати страхове покриття, яке відповідає ризикам, які створюють ваші системи штучного інтелекту. Це особливо важливо для застосувань штучного інтелекту з високим рівнем ризику.
Договірні угоди з постачальниками ШІ повинні чітко розподіляти відповідальність. Угоди повинні визначати, хто несе відповідальність, коли системи ШІ працюють несправно або завдають шкоди.
Вимоги до документації згідно із Законом про штучний інтелект допомагають встановити відповідальність. Належні записи демонструють ваші зусилля щодо дотримання вимог та належну перевірку у спорах про відповідальність.
