Штучний інтелект не врятує ваших дітей: контроль чатів знову піднімає голову

Привид масового стеження продовжує нависати над Європою. Незважаючи на всі досягнення Загального закону про захист даних (GDPR), обхід шифрування даних все ще залишається актуальною проблемою.

На жаль, порушення наших громадянських свобод дуже часто прикриваються обіцянками захистити нас від монстрів. Пропозиція ЄС щодо «Регламенту, що встановлює правила запобігання та боротьби з сексуальним насильством над дітьми» (Регламент CSA або CSAR) є вражаючим прикладом цього. Цього тижня регламент знову виносився на голосування в Європейському парламенті. На щастя, вчора його було відкладено через суперечки навколо того, що захисники приватного життя називають «найбільш критикованим законопроектом ЄС за всю історію».

Знімок екрана, зроблений 21 червня 2024 року

CSAR, по суті, надає веб-клієнтам технологію спостереження на основі штучного інтелекту, щоб підірвати шифрування, яке захищає особисті файли та комунікації всіх користувачів. Все це робиться під приводом боротьби з сексуальним насильством над дітьми, але не дайте себе обдурити цьому вовку в овечій шкурі. Громадянам ЄС пропонують хибний вибір: приватне спілкування чи сексуальні хижаки? На щастя, багато хто, включаючи членів основної команди та спільноти Nym, висловлюють своє рішуче засудження цього.

Команда Nym уважно стежила за поступовим розвитком версій 1.0 і 2.0 «Контроль чату» з моменту його створення в 2022 році. Вона знову прагне до обговорення та можливого голосування, використовуючи оманливі зміни в формулюваннях. Однак ці зміни лише пом'якшують тон стратегії масового спостереження. Це все лише хитрощі, щоб обійти зобов'язання GDPR щодо захисту наскрізного шифрування даних. Хоча CSAR не зачіпає шифрування, пропонується більш загрозливий «задні двері» для шифрування, що дозволить здійснювати ще більш глибоке масове спостереження за пристроями.

Нижче наведено, що стоїть на кону в пропозиції CSAR і чому вона становить таку загрозу для конфіденційності в Інтернеті для всіх жителів ЄС і всього світу.

Що таке контроль чату?

Законодавство CSAR, яке критики називають «контролем чатів», є спробою регулювання, спрямованою на виявлення та блокування трафіку дитячої порнографії та зловживань «до їх передачі». Хоча мало хто може не погодитися з цією метою, експерти голосно заявляють, що запропоновані правила просто не будуть ефективними. Гірше того, він санкціонує та впроваджує задній хід для стеження за пристроями користувачів усього континенту.

Сканування на стороні клієнта (CSS)

Пропоноване CSAR рішення проблеми матеріалів із сексуальним насильством над дітьми (також відомих як CSAM) полягає у масовому спостереженні за допомогою сканування на стороні клієнта (CSS). Замість того, щоб компрометувати зашифровані передачі, він, по суті, сканує дані на пристроях або серверах до того, як відбувається шифрування. Це підірвало б безпеку комунікацій та принципи наскрізного шифрування для всіх.

Шифрування є основою безпечного спілкування. Коли ви робите щось в Інтернеті через зашифроване з'єднання — надсилаєте особисті фотографії друзям або родичам, або використовуєте свою кредитну картку в Інтернеті — ви можете бути впевнені, що сторонні особи не зможуть отримати доступ до ваших даних або використати їх. Спочатку CSAR прагнула змусити веб-сервіси зламати шифрування, що захищає вміст комунікацій клієнтів. Зламавши шифрування, всі повідомлення можна було сканувати на наявність цільового матеріалу. На щастя, це викликало величезну негативну реакцію з боку громадянського суспільства та захисників права на приватність.

Наразі пропонуються технології CSS, які юридично дозволять і дадуть можливість веб-сервісам сканувати або «моніторити» файли та комунікації на вашому пристрої ще до застосування шифрування. Уявіть, що Apple може регулярно сканувати ваші програми iPhoto або iMessenger на наявність заздалегідь запрограмованих даних, які вважаються загрозою. Або що приватній службі зв'язку надається юридичний наказ це зробити. Насправді, президент Signal навіть публічно заявив, що вони відмовляться від надання своїх послуг на території ЄС, аніж допустять такий компроміс щодо безпеки своїх користувачів.

Знімок екрана, зроблений 21 червня 2024 року

Вчені заявляють, що технологія CSS «має серйозні недоліки»

Будь-яка програма для сканування з метою спостереження повинна шукати щось конкретне. Головне питання: чи може він чітко визначати свої цілі, не залучаючи нерелевантні дані? У випадку CSAR заявленою метою є сканування пристроїв користувачів на предмет потенційних випадків CSAM. Це означає, наприклад, фотографії, на яких зображені оголені діти або діти в сексуальних позах, або повідомлення, що описують такі дії. Але як це взагалі може працювати?

По суті, програма для аналізу даних, ймовірно, на базі штучного інтелекту, отримає доступ до незашифрованого вмісту всіх користувачів на пристроях або серверах. Система буде позначати велику кількість потенційних загроз на основі даних, а потім надсилати всі випадки на перевірку команді фахівців. Ця команда отримає доступ до ваших особистих файлів та повідомлень, щоб визначити, чи не скоїли ви нічого протиправного. Підозрілий вміст або діяльність будуть передані до правоохоронних органів для подальшого розслідування.

Дослідники дуже голосно попереджають про те, наскільки ця технологія може бути схильною до помилок, як з технічної точки зору, так і з точки зору порушення громадянських свобод. Уявіть собі помилково позитивний результат, коли особисті фотографії дітей батьків позначаються алгоритмом, а потім переглядаються та перевіряються аналітиками, перш ніж передаватися до правоохоронних органів. Дані вчені попередили, що таке «сканування приречене на неефективність», а його здійснення у великих масштабах створить «побічні ефекти, які можуть бути надзвичайно шкідливими для всіх користувачів Інтернету і які можуть зробити Інтернет та цифрове суспільство менш безпечними для всіх».

Хронологія

CSAR бореться в Європарламенті з моменту свого введення в 2022 році. Цього тижня він повертається із стратегічно запланованою дискусією, яка проходить непомітно на тлі нещодавніх парламентських виборів. Ось основна хронологія, яка дозволяє побачити його розвиток, зміни та поточний стан.

• 11 травня 2022 року: Представлено оригінальну пропозицію CSAR.
• Червень 2022 року: Стало відомо, що голлівудський актор Ештон Катчер співпрацював з комісаром з внутрішніх справ Ілвою Йоханссон, лобіюючи інтереси тодішньої організації CSAR на користь Thorn, співзасновником якої він був. Thorn продає інструменти штучного інтелекту, які використовуються для сканування пристроїв користувачів. (Пізніше Кутчнер пішов з посади голови Thorn після того, як захистив засудженого ґвалтівника).
• 13 квітня 2023 року: Звіт, підготовлений на замовлення Європейського парламенту щодо впливу пропозиції CSAR, був представлений Комітету Європейського парламенту з питань громадянських свобод, юстиції та внутрішніх справ.
• Липень 2023 року: до Європейської комісії надсилається відкритий лист від 465 науковців та дослідників. Вчені прямо попереджають про ймовірну неефективність запропонованих технологій та їхній негативний вплив на «безпечне цифрове майбутнє нашого суспільства» та «демократичні процеси в Європі та за її межами».
• 2 травня 2024 року: до ЄС надіслано новий відкритий лист від 312 вчених і дослідників із 32 країн. Вони повторюють, що зміни в формулюваннях пропозиції CSAR не змінять «глибоко недосконалу» і небезпечну технологію. Співавтором листа є Барт Праніл, захисник конфіденційності, професор і радник Nym Tech.
• 13 лютого 2024 року: Рішення Європейського суду з прав людини у справі «Подчасов проти Росії» підкреслює роль наскрізного шифрування для «забезпечення та захисту конфіденційності електронних комунікацій» та гарантування «користування іншими фундаментальними правами, такими як свобода вираження поглядів».
• 20 червня 2024 року: Обговорення та голосування щодо переглянутого CSAR заплановано після відтермінування (див. пункт 28 у розділі «Юстиція та внутрішні справи»). Голосування нарешті скасовано!

Важливо зазначити, що документ CSAR є законодавчою пропозицією і не має юридичної сили, якщо не затверджений парламентським органом. Тим не менш, громадянам ЄС важливо зв'язатися зі своїми представниками і висловити протест проти цих спроб порушити громадянські свободи.

Законодавчі мовні ігри

Те, як речі виражаються мовою, може мати на нас значний вплив: приваблива фраза може змусити нас захотіти чогось, чого ми, ймовірно, не хочемо, або відвернути нас від чогось, що насправді не таке вже й погане. Іноді формулювання можуть бути настільки одноманітними та абстрактними, що ми навіть не помічаємо, що ковтаємо отруйну пігулку.

Введіть останню пропозицію CSAR щодо «технологій модерації завантажених матеріалів». При читанні сотень сторінок парламентських регламентів такі фрази можуть легко залишитися непоміченими, що і є їхньою метою. То що це саме означає?

Знімок екрана, зроблений 21 червня 2024 року

Давайте розберемо це.

[1] «Постачальники послуг міжособистісного спілкування» — будь-які веб-сервіси, що обробляють ваші цифрові повідомлення з іншими людьми. Це широке поняття. Це явно стосується месенджерів, таких як WhatsApp, навіть тих, що орієнтовані на конфіденційність і шифрування, як Signal. Але це також стосується великих компаній, таких як Apple, які надають послуги з обробки фотографій та обміну повідомленнями, не кажучи вже про операційні системи.

[2] Юридична норма «повинні встановлювати та експлуатувати» ці технології CSS означає, що оператори зв'язку не тільки зможуть це робити, але й повинні (або «зобов'язані»).

[3] У цьому полягає суть питання: виявлення об'єкта спостереження [4] «до передачі» означає до шифрування. Після встановлення шифрування виявлення будь-яких розшукуваних цифрових матеріалів вимагатиме зламу шифрування, що не розглядається. Отже, ця технологія зводиться до масового сканування пристроїв, яке можуть виконувати лише постачальники пристроїв або оператори додатків та веб-сервісів від імені органів влади. Оскільки метою шифрування даних є захист від доступу третіх осіб, ця технологія є, по суті, «задніми дверима» до шифрування.

[4] Хоча метою такого сканування може бути виявлення CSAM, його пошук означає, що програми штучного інтелекту спочатку отримують доступ до всіх наших даних або комунікацій. По-перше, існує велика різниця між «відомими матеріалами про сексуальне насильство над дітьми» (наприклад, фотографіями або відео, які вже були виявлені владою) та «новими матеріалами про сексуальне насильство над дітьми». У другому випадку будь-яка програма штучного інтелекту може допустити серйозні помилки при розрізненні дитячої порнографії та приватних сімейних фотографій, що не мають сексуального підтексту.

Отже, «модерація завантаження», що звучить так само невинно, як «забезпечення того, щоб люди публікували в Інтернеті лише розумну кількість матеріалів», насправді означає «моніторинг даних на всіх пристроях користувачів за допомогою штучного інтелекту перед шифруванням з метою забезпечення дотримання законів». Додайте до цієї «технології» слова «неперевірена» та «науково неймовірна і схильна до помилок», і ми наблизимося до істини.

Зламати шифрування чи взяти його ззаду?

Багато негативних реакцій на CSAR стосувалися того, чи «порушує» ця технологія наскрізне шифрування при передачі даних. Шифрування даних було захищене GDPR і нещодавно підкріплене рішенням Європейського суду з прав людини у справі «Подчасов проти Росії» (2024). Як зазначила Мередіт Віттейкер, президент Signal, [https://signal.org/blog/pdfs/upload-moderation.pdf], це не більше ніж гра слів або «ребрендинг»:

«Обов'язкове масове сканування приватних повідомлень істотно підриває ефективність шифрування. Крапка. […] Ми можемо називати це «задніми дверима», «передніми дверима» або «модерацією завантаження». Але як би ми це не називали, кожен з цих підходів створює вразливість, якою можуть скористатися хакери та ворожі держави, позбавляючи захист нерозкриваної математики та замінюючи його високою вразливістю.

Увімкнення веб-сервісів, які дозволяють сканувати всі наші дані на наших пристроях або на своїх серверах перед тим, як під час передачі застосовується шифрування, технічно не є «порушенням шифрування». Насправді все набагато гірше: це задні двері для автоматизованих алгоритмів штучного інтелекту, які виконують посередницьку роль у спостереженні, пов'язуючи наші особисті дані з органами влади.

Пропозиція CSAR містить багато суперечливих похвал щодо цінності наскрізного шифрування:

«Кінцеве шифрування», визнає CSAR, «є необхідним засобом захисту основних прав та цифрової безпеки урядів, промисловості та суспільства».

І все ж те, що вона прагне створити, явно підриватиме ту саму конфіденційність даних, яку покликане захищати шифрування даних. Технологія спостереження або «моніторингу», як чітко зазначено в пропозиції (26a),

«забезпечує, що механізм виявлення може отримати доступ до даних у незашифрованому вигляді для ефективного аналізу та вжиття заходів, не порушуючи захист, що забезпечується наскрізним шифруванням після передачі даних».

Як система спостереження може «отримати доступ до даних у незашифрованому вигляді […] Безкомпромісне «наскрізне шифрування» — це нахабна брехня.

Згода користувача

Ще одна важлива зміна в пропозиції CSAR полягає в тому, що користувачів необхідно запитувати про згоду на використання цих технологій спостереження:

«Матеріали, що містять сексуальне насильство над дітьми, повинні залишатися виявляємими у всіх сервісах міжособистісного спілкування за допомогою перевірених технологій, коли вони завантажуються, за умови, що користувачі дають свою явну згоду відповідно до умов та положень провайдера».

Що це означає конкретно? Користувачі, які не дають згоди на сканування своїх даних, можуть продовжувати користуватися веб-сервісом, якщо це «не передбачає надсилання візуального контенту та URL-адрес». Це може фактично призвести до виходу з ладу багатьох комунікаційних послуг. Уявіть, що ви хочете мати приватний месенджер, але ЄС змушує їх попередньо сканувати ваші дані, а ви відмовляєтеся з поважних причин. Оскільки додаток також дозволяє надсилати фотографії та посилання, ви просто не можете користуватися цією послугою.

Висновок

Голосування щодо CSAR було відкладено, але це аж ніяк не означає, що воно завершилося. Законопроект знову підніме свою потворну голову, можливо, з подальшими змінами в формулюваннях, які спробують заспокоїти ситуацію, щоб просунути масове цифрове спостереження в Європі.

Однак для багатьох очевидно, що такого роду масове спостереження не вирішить проблему, яка є скоріше соціальною, ніж технічною. Як зазначив Барт Праніл, один із найближчих радників Німа, коментар:

«Незрозуміло, чому деякі уряди продовжують наполягати на такому підході масового спостереження, замість того щоб зосередитися на запобіганні сексуальному насильству над дітьми».

Шкоду дітям слід запобігати шляхом фінансування соціальних служб та інших профілактичних заходів. Елла Юкубовська та EDri досліджують реальні альтернативи для вирішення проблеми дитячої порнографії та насильства над дітьми в Інтернеті та поза ним. Зловживання не повинно використовуватися як цинічний піар-хід для зламу шифрування та порушення приватності і безпеки всього європейського населення в процесі. І ми не повинні добровільно дозволяти урядам порушувати наші права на приватність через страх перед монстрами.

Сподіваємося, що ця остання затримка голосування є ознакою того, що регуляторні органи починають усвідомлювати цей факт.

Nym Dispatch

Серія The Nym Dispatch детально розглядає екосистему конфіденційності в Інтернеті та соціальних мережах. Приєднуйтесь, щоб дізнатися більше про ризики та тактики заробітку в економіці онлайн-спостереження, починаючи з ринку безкоштовних VPN. Серія незабаром охопить практики збору даних безкоштовними VPN-сервісами; їх навмисно нечіткі договори про згоду; як, чому і кому вони продають наші дані; а також їх інвазивні рекламні практики.