GDPR та великі дані не є несумісними, але вони змушують робити вибір, який багато організацій відкладають: перш ніж збирати або повторно використовувати великий набір даних, ви повинні мати змогу назвати правову основу для цього та продемонструвати, що обробка необхідна для цієї мети. На практиці це означає документування підстав відповідно до статті 6 Загального регламенту про захист даних, перевірку сумісності подальшого використання для навчання алгоритму з метою, для якої дані були спочатку зібрані, та оцінку ризику до побудови першої моделі. У цій статті викладено, як ці правила застосовуються до масштабної аналітики та навчання ШІ в Нідерландах, а також де проводить межу Управління з питань захисту персональних даних.
Що вважається персональними даними у великому наборі даних
GDPR застосовується до інформації, що стосується ідентифікованої або ідентифікованої фізичної особи. У контексті великих даних цей поріг перетинається набагато частіше, ніж очікують організації, оскільки ідентифікаційність оцінюється з урахуванням усіх засобів, які обґрунтовано ймовірно можуть бути використані контролером або будь-ким іншим для виділення певної особи. Набір даних ідентифікаторів пристроїв, слідів місцезнаходження, записів транзакцій або кліків майже завжди є персональними даними, навіть якщо ім'я не вказано в жодному стовпці.
Два поняття регулярно плутають, і різниця вирішує, чи застосовується цей регламент взагалі. Псевдонімізовані дані, де ідентифікатори були замінені, але ключ все ще десь існує, залишаються персональними даними та повністю підпадають під дію GDPR. Анонімізовані дані, де повторна ідентифікація більше не є реально можливою для будь-кого, виходять за його межі. Планка справжньої анонімізації є високою: агрегація, хешування або видалення прямих ідентифікаторів зазвичай залишає достатньо відбитків пальців для визначеної сторони для повторної ідентифікації осіб, особливо коли набір даних є багатим і охоплює тривалий період.
Це важливо, оскільки твердження про анонімність набору даних часто є основоположним припущенням у всій програмі штучного інтелекту. Якщо воно не спрацьовує, кожен наступний крок, від навчального запуску до графіка зберігання, був виконаний без законної підстави. Безпечніший підхід полягає в тому, щоб розглядати набір даних як персональні дані, якщо документований аналіз повторної ідентифікації не говорить про інше, і переглядати цей аналіз, коли набір даних збагачується або поєднується з іншим джерелом. Європейська рада із захисту даних також розглядала питання, коли сама модель ШІ може вважатися анонімною, і її відповідь полягає в тому, що цього не можна припускати: модель, навчена на персональних даних, все ще може містити ці дані у формі, яку можна витягти, і це має оцінюватися в кожному окремому випадку.
Вибір правової основи для навчання з великих даних та штучного інтелекту
Кожна операція обробки потребує однієї з шести підстав, зазначених у статті 6, і підставу необхідно обрати до початку обробки, а не реконструювати після неї. Для масштабної аналітики лише три є реалістичними кандидатами.
Згода є найчистішим поняттям в теорії та найкрихкішим на практиці. Вона має бути добровільно надана, конкретною, усвідомленою та однозначною, і її має бути так само легко відкликати, як і надавати. Згода, яка викладена в загальних положеннях, отримана як умова послуги, яка не потребує даних, або сформульована настільки широко, що особа не може бачити, про що погоджується, не матиме сили. Якщо згоду відкликано, потрібна технічна відповідь на питання, що відбувається з моделлю, яка вже пройшла навчання.
Необхідність виконання договору є вужчою, ніж здається. Критерієм є об'єктивна необхідність послуги, яку фактично запросила особа, а не комерційна корисність. Профілювання клієнта для покращення системи рекомендацій зазвичай не є необхідним для доставки придбаного продукту, і Суд неодноразово відхиляв спроби розширити цю підставу, щоб охопити поведінкову рекламу та персоналізацію.
Залишаються законні інтереси, на яких базується більшість масштабних обробок. Це вимагає трьох кроків, задокументованих у такому порядку: визначення реального та законного інтересу, демонстрація того, що обробка є необхідною, оскільки не існує менш нав'язливого способу її досягнення, та збалансування інтересу з правами та розумними очікуваннями зацікавлених осіб. У зверненні нідерландського суду щодо національної тенісної асоціації Суд підтвердив у 2024 році, що суто комерційний інтерес може кваліфікуватися як законний інтерес, але лише за умови справжнього виконання критеріїв необхідності та збалансування. Таким чином, комерційна цінність є допустимим інтересом, а не ліцензією.
Спеціальні категорії та виведені характеристики
Дані, що розкривають расове чи етнічне походження, політичні погляди, релігійні переконання, членство в профспілці, стан здоров'я, статеве життя чи сексуальну орієнтацію, а також генетичні та біометричні дані, що використовуються для ідентифікації, взагалі не можуть оброблятися, якщо не застосовується один із вузьких винятків, зазначених у статті 9. Звичайним способом є явна згода; інші рідко підходять для комерційного набору даних.
Пастка великих даних полягає в тому, що дані спеціальної категорії не обов'язково збирати навмисно. Якщо набір даних дозволяє зробити висновок про захищену характеристику, наприклад, через моделі покупок, історію місцезнаходження або вміст полів вільного тексту, до такої обробки застосовується суворіший режим, навіть якщо ніхто ніколи не ставив питання безпосередньо. Особливості моделі, які виступають як заступники захищеної характеристики, слід визначати під час розробки, а не після скарги.
Обмеження мети: чи можна повторно використовувати дані для навчання моделі
Ви можете, але не автоматично. GDPR вимагає, щоб персональні дані збиралися для певних, чітко визначених та законних цілей і не оброблялися надалі способом, несумісним з цими цілями. Навчання алгоритму на даних, зібраних для виконання замовлень, підтримки клієнтів або запобігання шахрайству, є подальшою операцією обробки, і вона є законною лише за умови проходження перевірки на сумісність, встановленої регламентом.
Цей тест не є формальністю. Він запитує про зв'язок між початковою метою та новою, контекст, у якому були зібрані дані, і що особа могла обґрунтовано очікувати на цій підставі, характер даних та чи задіяні спеціальні категорії, можливі наслідки нової обробки та існування таких гарантій, як псевдонімізація або шифрування. Набір даних медичних або фінансових записів не пройде тест, тоді як набір даних анонімізованих операційних журналів пройшов би його.
Існує один скорочений шлях, і він вужчий, ніж зазвичай вважається. Подальша обробка для архівування в суспільних інтересах, для наукових чи історичних досліджень або для статистичних цілей вважається сумісною за умови дотримання гарантій обробки дослідницьких даних. Розробка комерційної моделі, маскована під дослідження, не відповідає вимогам; виняток спрямований на справжні дослідження, що підпадають під методологічні та етичні стандарти, а не на вдосконалення продукту. Якщо тест на сумісність не виконано, вам потрібна нова правова основа та, в більшості випадків, нова інформація для відповідних осіб.
Практичним наслідком є те, що обмеження цілей має бути вирішене на етапі збору даних. Заяви про конфіденційність, які описують цілі достатньо широкими термінами, щоб бути безглуздими, не врятують подальше тренування, оскільки тест розглядає те, чого людина може обґрунтовано очікувати, а не те, що технічно дозволяє текст. Наш посібник з написання політики конфіденційності в Нідерландах визначає, як описати цілі чесним та зручним способом.
Мінімізація, утримання та точність, коли модель хоче все
Мінімізація даних вимагає, щоб персональні дані були адекватними, релевантними та обмеженими необхідним. Цей принцип справді суперечить методу розробки, логіка якого полягає в тому, що чим більше даних, тим краща модель, і цю суперечність неможливо вирішити, ігноруючи їх. Її можна вирішити за допомогою документованого аргументу: які поля потрібні для зазначеної мети, що було протестовано без них і чому решту було відкинуто. Контролер, який може показати цей аналіз, має обґрунтовану позицію навіть за великого набору даних. Контролер, який зберігав усе, бо сховище дешеве, такої позиції не має.
Обмеження сховища з часом викликає те саме питання. Навчальні дані, сховища ознак, контрольні точки моделей та журнали виводів підпадають під зобов'язання щодо зберігання, і кожен з них потребує свого власного періоду, пов'язаного з певною метою. Журнали виводів часто забуваються та містять більше персональних даних, ніж будь-коли навчальний набір.
Точність – це принцип, який найчастіше ігнорується в цьому контексті, і він має юридичну перевагу, яку легко не помітити. Персональні дані повинні бути точними та, за необхідності, оновлюватися, а особи мають право на виправлення. Якщо модель видає результати про ідентифіковану особу, ці результати самі по собі є персональними даними. Висновок про те, що хтось має низький кредитний ризик, є ймовірним шахраєм або невідповідним кандидатом, є даними про неї, він може бути неточним і його можна оскаржити. Побудова системи, в якій такі результати неможливо виправити, створює проблему відповідності, яку жодна кількість документації не вирішить згодом.
Коли оцінка впливу на захист даних є обов'язковою
Оцінка впливу на захист даних є обов'язковою, якщо певний тип обробки ймовірно призведе до високого ризику для прав і свобод осіб, і в регламенті названо три випадки, зокрема: систематична та всебічна оцінка особистих аспектів на основі автоматизованої обробки, включаючи профілювання, на якій ґрунтуються рішення з правовими або аналогічними значними наслідками; масштабна обробка спеціальних категорій даних або даних про кримінальні засудження; та систематичний моніторинг загальнодоступної області у великих масштабах. Більшість серйозних проектів з великими даними належать до першої або другої категорій.
Управління з питань захисту даних також опублікувало перелік операцій з обробки даних, для яких у Нідерландах завжди потрібна оцінка, що охоплює такі сфери, як масштабне профілювання, систематична оцінка працівників, платформи даних про здоров'я та використання систем камер. Цей перелік має бути першим документом, з яким слід ознайомитися на початку проекту, оскільки він усуває суперечки щодо необхідності оцінки.
Два моменти щодо часу є вирішальними. Оцінювання має бути проведене до початку обробки, що в проекті штучного інтелекту означає до збору навчальних даних, а не до розгортання. А якщо оцінювання показує високий залишковий ризик, який ви не можете пом'якшити, ви повинні проконсультуватися з наглядовим органом, перш ніж продовжувати. Пропуск цієї консультації сам по собі є порушенням, незалежно від того, чи виявиться обробка законною.
Корисна оцінка алгоритмічної системи виходить за рамки стандартного шаблону. Вона фіксує, які джерела даних живлять модель і на якій основі, що модель може вирішувати самостійно, а що вирішує людина, як результат пояснюється особі, на яку це впливає, як навчальні дані перевірялися на упередженість щодо захищених груп і що відбувається, якщо модель помилкова. Це питання, які регулятор ставить передусім.
Як Autoriteit Persoonsgegevens забезпечує це
Нідерландським наглядовим органом є Autoriteit Persoonsgegevens, який забезпечує дотримання GDPR разом із голландським імплементаційним актом Uitvoeringswet AVG. Його повноваження охоплюють від попередження та догани до наказу, що підлягає сплаті штрафу, тимчасової або остаточної заборони на обробку та адміністративного штрафу. Регламент встановлює граничні суми: до десяти мільйонів євро або двох відсотків від загального світового річного обороту для нижчого рівня та до двадцяти мільйонів євро або чотирьох відсотків за порушення основних принципів, правових підстав, прав суб'єктів даних та правил міжнародної передачі даних, залежно від того, яка сума вища.
У голландській практиці помітні дві теми правозастосування, і обидві безпосередньо стосуються великих даних. Перша — це прозорість: значна частина нещодавніх дій стосується заяв про конфіденційність, які не пояснюють зрозумілою мовою, які дані використовуються, для якої мети та протягом якого часу. Розпливчасті описи цілей розглядаються як порушення самі по собі, а не як недолік редакції. Друга — це алгоритмічний нагляд. Орган має спеціальний підрозділ для нагляду за алгоритмами та публікує періодичні звіти про алгоритмічні ризики, які варто прочитати як заяву про те, чого він очікує, перш ніж стане об'єктом розслідування.
Поряд із правозастосуванням існує обов'язок повідомляти про порушення. Про порушення безпеки персональних даних необхідно повідомити орган влади без невиправданої затримки та, по можливості, протягом сімдесяти двох годин з моменту виявлення, окрім випадків, коли порушення навряд чи призведе до ризику для осіб; якщо ризик для осіб високий, їх також необхідно поінформувати. У середовищі штучного інтелекту оцінка складніша, ніж раніше, оскільки скомпрометований навчальний набір або сховище функцій впливає на всіх, чиї дані він містить, а наслідки поширюються на кожне рішення, прийняте моделлю. Зауважте, що це окреме зобов'язання від обов'язків повідомляти про інциденти згідно з Cyberbeveiligingswet, голландською реалізацією NIS2, яка застосовується з 15 серпня 2026 року та встановлює власні терміни повідомлення про двадцять чотири та сімдесят дві години для суб'єктів, що входять до її сфери дії. Наш огляд NIS2 та голландського Закону про кібербезпеку пояснює, як ці два режими взаємодіють один з одним.
Закон про штучний інтелект не замінює GDPR
Закон ЄС про штучний інтелект регулює системи ШІ як продукти: він класифікує їх за ризиком та накладає зобов'язання на постачальників і розгортачів. Він не забезпечує правової основи для обробки персональних даних, а його дотримання нічого не говорить про дотримання GDPR. Якщо система ШІ обробляє персональні дані, обидва режими застосовуються повністю та паралельно.
Графік має значення для планування. Заборони на неприйнятні практики, зобов'язання щодо моделей штучного інтелекту загального призначення та обов'язки щодо прозорості для систем, які взаємодіють з людьми або генерують синтетичний контент, вже набули чинності. Режим високого ризику був відкладений цифровим комплексним пакетом: зобов'язання для систем високого ризику, перелічені в Додатку III, тепер застосовуються з 2 грудня 2027 року, а зобов'язання для систем, які є компонентами безпеки регульованих продуктів згідно з Додатком I, - з 2 серпня 2028 року. Окрему пропозицію щодо Директиви про відповідальність ШІ було відкликано, тому відповідальність за шкоду, завдану системою ШІ, продовжує регулюватися звичайними голландськими правилами щодо договорів та деліктів, а також європейським режимом відповідальності за продукцію.
Для організації, керованої даними, практичним наслідком є те, що аналіз GDPR залишається обов'язковим обмеженням сьогодні, тоді як Закон про штучний інтелект визначає, яка документація, тестування та людський нагляд знадобляться тій самій системі до кінця десятиліття. Окреме створення двох вправ дублює роботу; їх спільне створення — ні. Наші посібники із Закону ЄС про штучний інтелект та систем штучного інтелекту з високим рівнем ризику детально викладають класифікацію та зобов'язання.
Групові позови та збитки: цивільна сторона ризику
Штрафи, пов'язані з регулюванням, — не єдиний ризик, і в Нідерландах вони можуть бути не найбільшими. Закон про колективний позов Wet afwikkeling massaschade in collectieve actie (WAMCA) дозволяє фонду або асоціації, яка відповідає суворим вимогам щодо управління та фінансування, подавати колективний позов про відшкодування збитків від імені визначеної групи, з режимом відмови для осіб, які проживають у Нідерландах. Обробка на основі даних є очевидною метою: одне дизайнерське рішення впливає на кожного користувача однаково, що саме і є тією однорідністю, яка потрібна для колективного позову.
GDPR підсилює це зі свого боку. Він надає кожному, хто зазнав матеріальної чи нематеріальної шкоди внаслідок порушення, право на компенсацію від контролера або обробника, а також дозволяє некомерційній організації, що діє у сфері захисту даних, порушувати справи від імені суб’єктів даних, у деяких випадках без їхнього мандата. Суд підтвердив, що асоціація захисту прав споживачів може діяти на цій підставі.
Існує обмеження, і воно корисне для відповідачів. Суд ЄС постановив, що порушення GDPR саме по собі не породжує права на компенсацію: позивач повинен продемонструвати фактичну шкоду та причинно-наслідковий зв'язок, хоча поріг серйозності не застосовується до немайнової шкоди після її встановлення. Тому індивідуальні суми відшкодування в голландській практиці були скромними, але арифметика класу сотень тисяч повністю змінює картину. У нашій статті про колективні позови у разі масової шкоди описано, як відбуваються ці провадження.
Хто є контролером, коли дані надходять звідусіль?
Проєкти великих даних рідко залишаються в межах однієї організації. Дані збагачуються брокером, розміщуються у хмарному провайдері, очищуються аналітичним агентством і вводяться в модель, надану постачальником, і кожен із цих зв’язків має бути правильно охарактеризований, оскільки розподіл ролей визначає, хто несе які зобов’язання, а хто звітує перед регулятором.
Контролер визначає цілі та засоби обробки; обробник діє лише за документованими інструкціями контролера. Якщо дві або більше сторін спільно визначають цілі та засоби, вони є спільними контролерами та повинні встановити свої відповідні обов'язки в домовленості, зокрема щодо надання інформації та обробки запитів від фізичних осіб, які в будь-якому випадку можуть скористатися своїми правами проти будь-кого з них. Позначення, що використовується в договорі, не є вирішальним: важливо, хто фактично вирішує, чому і як обробляються дані. Постачальник, який залишає за собою право використовувати ваші дані для покращення власного продукту, у цій мірі стає контролером для власних цілей, як би це не називалося в угоді.
Два пункти в договорах з постачальниками заслуговують на особливу увагу в контексті штучного інтелекту. Перший — це пункт, який дозволяє постачальнику використовувати контент клієнтів для навчання або покращення послуг; якщо він присутній, ви розкриваєте персональні дані іншому контролеру, і вам потрібні підстави та повідомлення для такого розкриття. Другий — це пункт про субпідрядника, оскільки постачальники моделей часто покладаються на додаткових постачальників та інфраструктуру за межами Європейської економічної зони, що призводить до застосування правил передачі. Угода про обробку, яка охоплює необхідний предмет, але не описує, що насправді відбувається з даними, мало корисна в розслідуванні.
Зрештою, пам’ятайте, що принцип підзвітності покладає тягар доказування на контролера. Недостатньо просто дотримуватися вимог; ви повинні бути в змозі продемонструвати це за допомогою записів, оцінок та угод, які відповідають системам, які фактично побудовані.
Що потрібно зробити перед початком наступного проєкту
Відповідність вимогам щодо великих даних забезпечується на етапі проектування, оскільки регламент вимагає захисту даних за проектом та за замовчуванням: відповідні технічні та організаційні заходи мають бути інтегровані в саму обробку, і за замовчуванням можуть оброблятися лише ті персональні дані, які необхідні для кожної конкретної мети. Модернізація є дорогою та зазвичай неповною.
П'ять речей мають вирішальне значення на практиці. Ведіть облік діяльності з обробки, який фактично описує потоки даних, що лежать в основі кожної моделі, а не відділи, яким вони належать. Визначте та запишіть правову основу для кожної операції обробки, включаючи подальшу обробку, пов'язану з навчанням, і зберігайте разом з нею оцінку законних інтересів. Проведіть оцінку впливу перед збором даних та проконсультуйтеся з наглядовим органом, якщо залишковий ризик залишається високим. Укладіть угоду про обробку даних з кожним постачальником, який має справу з даними, включаючи постачальників моделі або платформи, і перевірте, що їм дозволено робити з вашими даними для власних цілей; вимоги викладено в нашому посібнику з угоди про обробку даних . І перевірте, куди йдуть дані: передача за межі Європейської економічної зони потребує механізму передачі відповідно до Розділу V регламенту та оцінки впливу передачі, а позиція окремих третіх країн може змінюватися.
Перш за все, змусьте людей, які створюють моделі, та людей, які оцінюють ризики, працювати над одним документом. Основи самого регламенту узагальнено в нашому огляді Загального регламенту про захист даних , а конкретні питання, що виникають у зв'язку з внесенням персональних даних до системи штучного інтелекту, від автоматизованого прийняття рішень до прав постраждалих осіб, розглядаються в нашій супутній статті про GDPR та ШІ в Нідерландах.
Кілька поширених питань
Яку правову основу слід використовувати для навчання моделі штучного інтелекту
У більшості комерційних ситуацій відповіддю є законні інтереси, підтверджені письмовою оцінкою, яка охоплює інтерес, необхідність та балансування. Згода є кращою, якщо дані є конфіденційними або їх використання може здивувати зацікавлених осіб, але вона має бути справді вільною та відкличною, що важко організувати для навчального набору. Необхідність контракту майже ніколи не охоплює розробку моделі, оскільки навчання не є тим, що просив клієнт. Яку б підставу ви не обрали, зафіксуйте її до початку обробки: вибір підстави ретроспективно вважається відсутністю підстави взагалі.
Чи застосовується GDPR, якщо ми спочатку анонімізуємо дані?
Тільки якщо анонімізація справді працює. Дані вважаються анонімними, коли повторна ідентифікація більше не є розумно можливою для будь-кого, враховуючи всі засоби, які ймовірно будуть використані, та інші набори даних, які можна було б поєднати з ними. Видалення імен, заміна ідентифікаторів хешами або агрегування в невеликі групи зазвичай не відповідає цьому стандарту, і результатом є псевдонімізовані дані, які залишаються повністю підпадаючими під дію регулювання. Якщо анонімізація є основою для визнання проекту таким, що виходить за рамки, цей висновок необхідно перевірити та задокументувати, а також переглянути щоразу, коли набір даних змінюється.
Чи можемо ми покладатися на виняток для досліджень для повторного використання даних клієнтів?
Рідко. Подальша обробка для наукових або статистичних цілей вважається сумісною з початковою метою, але виняток стосується досліджень, проведених відповідно до визнаних методологічних стандартів та з урахуванням таких гарантій, як псевдонімізація та обмеження доступу. Розробка продукту або вдосконалення моделі, що здійснюється комерційною стороною для власної вигоди, не вважається дослідженням, оскільки воно пов'язане з аналізом даних. Якщо тест на сумісність не виконано сам по собі, вам потрібна нова правова основа та, у більшості випадків, нова інформація для відповідних осіб.
Що станеться, якщо хтось відкличе згоду після того, як модель пройшла навчання
Відкликання набуває чинності на майбутнє та не робить попередню обробку незаконною ретроспективно, але це означає, що дані більше не можуть бути використані на цій підставі. Практично це вимагає можливості видалити особу з навчального набору та зі сховищ функцій та журналів, а також перенавчити або іншим чином гарантувати, що модель більше не відображає дані цієї особи, якщо це можна продемонструвати. Це одна з причин, чому згода є складною основою для навчання моделі, і це питання, на яке варто відповісти на етапі проектування, а не після отримання першого запиту.
Як Law and More може допомогти
Law and More консультує голландські та міжнародні організації з питань захисту даних у сфері аналітики та штучного інтелекту: вибір та документування правової основи, проведення оцінки законних інтересів та оцінки впливу, складання заяв про конфіденційність та угод про обробку даних, які витримують перевірку, реагування на запити Autoriteit Persoonsgegevens та захист за позовами, поданими окремими особами або представницькими фондами. Якщо ви плануєте проект, заснований на даних, або регулятор вже зв'язався з вами, ми з радістю розглянемо цей файл разом з вами.
Як Law & More може допомогти вам у цьому, як пояснюється на нашому ІТ-юрист стр.
