Автор: Patric Breyer Превод: Posoka.org

Представяме ви статия, която е нова за България, но темата не е новост за хората, които преди малко повече от десет години протестираха срещу електронното следене и съхранението на електронни комуникации. Накратко – ЕС силово наложи всичко, срещу което се борехме.

Превеждаме статията за вас, но все пак можете да сверите и да ни информирате за неточности, ако откриете такива. За което ще сме ви благодарни! Оригинал на статията: https://www.patrick-breyer.de/en/posts/messaging-and-chat-control/

Контрол на чата

Краят на поверителността на цифровата кореспонденция

ЕС иска да задължи доставчиците да следят автоматично всички частни чатове, съобщения и имейли за подозрително съдържание – общо и безразборно. Обявената цел: Да се ​​преследва детската порнография. Резултатът: Масово наблюдение чрез напълно автоматизирани съобщения в реално време и контрол на чат и край на секретността на цифровата кореспонденция.

Други последици от предложението са неефективно блокиране на мрежата, скрининг на облачно съхранение на лица, включително лични снимки, задължителна проверка на възрастта, водеща до края на анонимната комуникация, цензура в Appstores и патернализъм и изключване на непълнолетни в дигиталния свят.

Chat control 2.0 на всеки смартфон

Мнозинството от членовете на Европейския парламент приеха доброволния регламент за контрол на чат на 6 юли 2021 г., който позволява на доставчиците да сканират комуникациите доброволно. Досега само няколко некриптирани американски услуги като GMail, Meta/Facebook Messenger и X-Box сканират доброволно частни комуникации.

Европейската комисия отиде крачка напред на 11 май 2022 г., като представи предложение , което ще направи контрола на чата задължителен за всички доставчици на електронна поща, чат и месинджъри и дори ще се прилага за досега защитени от край до край криптирани комуникационни услуги. Обществена консултация от Комисията обаче показа , че мнозинството от респондентите, както граждани, така и заинтересовани страни, се противопоставят на задължението за използване на контрол чрез чат. Над 80% от респондентите се противопоставят на приложението му за криптирани комуникации от край до край.

Ето какво всъщност включва предложението:

Протестирайте

Протестирайте сега, като се свържете с вашето национално правителство, което взема решение в Съвета относно предложението! Учтиво им кажете притесненията си относно контрола на чата ( аргументи по-долу ). Опитът показва, че телефонното обаждане е по-ефективно от имейлите или писмата. Официалното име на планирания задължителен закон за контрол на чата е „Предложение за регламент, определящ правила за предотвратяване и борба със сексуалното насилие над деца“.

Как стигнахме до тук?

През 2020 г. Европейската комисия инициира „временно“ законодателство , което позволява търсенето на всички лични чатове, съобщения и имейли за незаконни изображения на непълнолетни и опити за установяване на контакти с непълнолетни. Това позволява на доставчиците на Facebook Messenger, Gmail и други да сканират всяко съобщение за подозрителен текст и изображения. Това се случва в напълно автоматизиран процес, отчасти използвайки предразположен към грешки „изкуствен интелект“. Ако даден алгоритъм счете дадено съобщение за подозрително, неговото съдържание и метаданни се разкриват (обикновено автоматично и без човешка проверка) на частна базирана в САЩ организация и оттам на националните полицейски органи по целия свят. Докладваните потребители не са уведомени.

Някои американски доставчици на услуги като Gmail и Outlook.com вече извършват такива автоматизирани контроли за съобщения и чат.

Чрез втори законодателен акт Европейската комисия възнамерява да задължи всички доставчици на услуги за чат, съобщения и електронна поща да внедрят тази технология за масово наблюдение. Въпреки това представително проучване, проведено през март 2021 г., ясно показва, че мнозинството от европейците се противопоставят на използването на чат контрол ( Подробни резултати от анкетата тук) .

Още видеоклипове на Chatcontrol са налични в този плейлист

Как ви се отразява това?

• Всички ваши чат разговори и имейли ще бъдат автоматично претърсени за подозрително съдържание. Нищо не остава поверително или тайно. Няма изискване за съдебна заповед или първоначално заподозрение за търсене във вашите съобщения. Проверява се винаги и автоматично.
• Ако даден алгоритъм класифицира съдържанието на съобщение като подозрително, вашите лични или интимни снимки може да бъдат прегледани от служители и изпълнители на международни корпорации и полицейски органи. Също така личните ви голи снимки могат да бъдат гледани от непознати за вас хора, в чиито ръце вашите снимки не са в безопасност.
• Флиртовете и секстингите могат да бъдат прочетени от служители и изпълнители на международни корпорации и полицейски органи, тъй като филтрите за разпознаване на текст, търсещи „манипулиране на деца“, често фалшиво маркират интимни чатове.
• Можете да бъдете фалшиво докладвани и разследвани за предполагаемо разпространение на материали за сексуална експлоатация на деца. Известно е, че алгоритмите за контрол на съобщенията и чатовете маркират напълно законни ваканционни снимки на деца на плаж, например. Според швейцарските федерални полицейски власти 86% от всички машинно генерирани доклади се оказват неоснователни. 40% от всички процедури за наказателно разследване, започнати в Германия за „детска порнография“, са насочени към непълнолетни.
• При следващото ви задгранично пътуване очаквайте големи проблеми. Машинно генерираните отчети за вашите комуникации може да са били предадени на други страни, като САЩ, където няма поверителност на данните – с непредвидими резултати.
• Разузнавателните служби и хакерите може да са в състояние да шпионират вашите лични чатове и имейли. Вратата ще бъде отворена за всеки, който има техническите средства да прочете съобщенията ви, ако защитеното криптиране бъде премахнато, за да можете да преглеждате съобщенията.
• Това е само началото . След като технологията за управление на съобщения и чат е установена, става много лесно да ги използвате за други цели. И кой гарантира, че тези инкриминационни машини няма да се използват в бъдеще на нашите смартфони и лаптопи?

Хронология

Европейският парламент прие законодателството, което позволява контрол на чат на 6 юли 2021 г.

На 11 май 2022 г. Европейската комисия направи второ законодателно предложение, което е да принуди всички доставчици на услуги за електронна поща, съобщения и чат да претърсват цялостно всички лични съобщения при липса на подозрение. Европейският парламент и Съветът на ЕС ще обсъдят поправките. Разискванията могат да приключат до края на 2022 г.

Съгласно съдебната практика на Съда на Европейските общности постоянният и изчерпателен автоматизиран анализ на частни комуникации нарушава основните права и е забранен (параграф 177). Бившият съдия от Съда на Европейските общности проф. д-р Нинон Колнерик анализира обстойно плановете и заключава в правна оценка , че законодателните планове на ЕС за контрол на чата не са в съответствие с практиката на Съда на Европейските общности и нарушават основните права на всички граждани на ЕС на зачитане на личния живот, защита на данните и свобода на изразяване. По тази причина евродепутатът Патрик Брайер заведе дело срещу американската компания Meta.

Какво можеш да правиш

Говори за това! Информирайте другите за опасностите от контрола на чата. Тук можете да намерите шаблони за туитове, да споделяте снимки и видеоклипове . Разбира се, можете също да създавате свои собствени изображения и видеоклипове.
Генерирайте внимание в социалните медии! Използвайте хаштаговете #chatcontrol и #secrecyofcorrespondence
Протестирайте сега, като се свържете с отговорните еврокомисари! Учтиво им кажете притесненията си относно контрола на чата ( аргументи тук ). Опитът показва, че телефонното обаждане е по-ефективно от имейлите или писмата. Официално планираното задължение за контрол на съобщенията и чатовете се нарича „законодателство за ефективно справяне със сексуалното малтретиране на деца онлайн“. Данни за контакт в горната част на тази страница.
Генерирайте медийно внимание! Досега много малко медии са отразявали плановете за контрол на съобщенията и чатовете в ЕС. Свържете се с вестниците и ги помолете да отразят темата – онлайн и офлайн.
Попитайте вашите доставчици на услуги за електронна поща, съобщения и чат! Избягвайте Gmail, Facebook Messenger, outlook.com и функцията за чат на X-Box, където вече се извършва безразборно управление на чат. Попитайте вашите доставчици на имейл, съобщения и чат дали обикновено следят личните съобщения за подозрително съдържание или планират да го направят.

Допълнителна информация и аргументи

Масовото наблюдение е грешен подход за борба с „детската порнография“ и сексуалната експлоатация

• Сканирането на лични съобщения и чатове не съдържа разпространението на CSEM. Facebook, например, практикува контрол на чата от години и броят на автоматизираните отчети се увеличава всяка година, като последно достигна 22 милиона през 2021 г.
• Задължителният чат контрол няма да открие извършителите , които записват и споделят материали за сексуална експлоатация на деца. Насилниците не споделят материалите си чрез комерсиален имейл, месинджър или чат услуги, а се организират чрез самостоятелно управлявани тайни форуми без контролни алгоритми. Насилниците обикновено качват изображения и видеоклипове като криптирани архиви и споделят само връзките и паролите. Алгоритмите за контрол на чата не разпознават криптирани архиви или връзки.
• Правилният подход би бил да изтриете съхранения CSEM, където се хоства онлайн. Европол обаче не съобщава за известни CSEM материали.
• Контролът на чата вреди на наказателното преследване на злоупотреба с деца. Следователите ще са наводнени с милиони автоматизирани доклади, повечето от които са криминално неуместни.

Контролът на съобщенията и чатовете вреди на всички

• Всички граждани са поставени под съмнение, без причина, че евентуално са извършили престъпление. Филтрите за текст и снимки следят всички съобщения без изключение. Никой съдия не е длъжен да разпореди подобно наблюдение – противно на аналоговия свят, който гарантира неприкосновеността на кореспонденцията и поверителността на писмените съобщения. Според решение на Европейския съд постоянният и общ автоматичен анализ на частни комуникации нарушава основните права (дело C-511/18, параграф 192). Въпреки това сега ЕС възнамерява да приеме такова законодателство. За да го отмени съдът, може да отнеме години. Следователно трябва да предотвратим приемането на законодателството на първо място.
• Жертва се поверителността на личната електронна кореспонденция. Потребителите на месинджъри, чат и имейл услуги рискуват личните им съобщения да бъдат прочетени и анализирани. Чувствителни снимки и текстово съдържание могат да бъдат препратени на неизвестни субекти по целия свят и могат да попаднат в неподходящи ръце. Съобщава се, че служителите на NSA са разпространявали голи снимки на жени и мъже в миналото. Съобщава се, че инженер на Google преследва непълнолетни.
• Безразборното изпращане на съобщения и контрол на чат неправомерно уличава стотици потребители всеки ден. Според федералната полиция на Швейцария 90% от машинно докладваното съдържание не е незаконно, например безобидни празнични снимки, показващи голи деца, играещи на плажа.
• Сигурно шифрованата комуникация е изложена на риск. Досега криптираните съобщения не могат да бъдат търсени от алгоритмите. За да промените тези задни врати, ще трябва да бъдат вградени в софтуера за съобщения. Веднага щом това се случи, тази вратичка в сигурността може да бъде използвана от всеки с необходимите технически средства, например от чужди разузнавателни служби и престъпници. Лична комуникация, бизнес тайни и чувствителна правителствена информация ще бъдат разкрити. Сигурното криптиране е необходимо за защита на малцинства, активисти, журналисти и др.
• Наказателното правосъдие се приватизира. В бъдеще алгоритмите на корпорации като Facebook, Google и Microsoft ще решават кой потребител е заподозрян и кой не. Предложеният закон не съдържа изисквания за прозрачност на използваните алгоритми. Съгласно върховенството на закона разследването на престъпления е в ръцете на независими съдии и държавни служители под съдебен надзор.
• Безразборното изпращане на съобщения и контрол на чат създава прецедент и отваря шлюзовете за по-натрапчиви технологии и законодателство . Внедряването на технология за автоматично наблюдение на всички онлайн комуникации е опасно: тя може много лесно да се използва за други цели в бъдеще, например за нарушаване на авторски права, злоупотреба с наркотици или „вредно съдържание“. В авторитарните държави такава технология е за идентифициране и арестуване на противници на правителството граждански активисти. След като технологията бъде разгърната цялостно, няма връщане назад.

Контролът на съобщенията и чатовете вреди на децата и жертвите на насилие

Поддръжниците твърдят, че безразборното изпращане на съобщения и чат контролът улеснява наказателното преследване на сексуална експлоатация на деца. Този аргумент обаче е спорен, дори сред жертвите на сексуално насилие над деца. Всъщност съобщенията и контролът на чата могат да наранят жертвите и потенциалните жертви на сексуална експлоатация:

1. Безопасните пространства са унищожени. Жертвите на сексуално насилие се нуждаят особено от способността да общуват безопасно и поверително, за да търсят консултация и подкрепа, например безопасно да обменят информация помежду си, със своите терапевти или адвокати. Въвеждането на мониторинг в реално време отнема тези безопасни стаи далеч от тях. Това може да обезсърчи жертвите да търсят помощ и подкрепа.
2. Самозаписаните голи снимки на непълнолетни (секстинг) завършват в ръцете на служителите на компанията и полицията, където не им е мястото и не са в безопасност.
3. Непълнолетните се криминализират. Особено младите хора често споделят интимни записи помежду си (секстинг). При установен контрол на съобщенията и чата техните снимки и видеоклипове може да попаднат в ръцете на криминалисти. Германската криминална статистика показва, че 40% от всички разследвания за детска порнография са насочени към непълнолетни.
4. Безразборното изпращане на съобщения и контролът на чатовете не съдържа разпространението на незаконни материали, но всъщност затруднява преследването на сексуална експлоатация на деца. Той насърчава нарушителите да минават в нелегалност и да използват частни криптирани сървъри, които могат да бъдат невъзможни за откриване и прихващане. Дори при отворени канали безразборното изпращане на съобщения и контролът на чатовете не съдържа обема на разпространяваните материали, както се вижда от непрекъснато нарастващия брой машинни доклади.

Алтернативи

Укрепване на капацитета на правоприлагащите органи

В момента капацитетът на правоприлагащите органи е толкова недостатъчен, че често отнема месеци и години, за да се проследят следите и да се анализират събраните данни. Известният материал често не се анализира, нито премахва. Тези, които стоят зад злоупотребата, не споделят материалите си чрез Facebook или подобни канали, а в даркнет. За да се проследят извършителите и производителите, трябва да се извършва полицейска работа под прикритие, вместо да се губи оскъдният капацитет за проверка на често неуместни машинни доклади. От съществено значение е също така да се укрепят отговорните разследващи звена по отношение на персонал и финансиране и финансови ресурси, за да се гарантират дългосрочни, задълбочени и устойчиви разследвания. Трябва да бъдат разработени и спазвани надеждни стандарти/насоки за полицейското управление на разследвания на сексуално насилие.

Справяне не само със симптомите, но и с първопричината

Вместо неефективни технически опити за ограничаване на разпространението на експлоатационния материал, който е бил пуснат, всички усилия трябва да се съсредоточат върху предотвратяването на такива записи на първо място. Концепциите за превенция и обучението играят ключова роля, тъй като по-голямата част от случаите на злоупотреба никога не стават известни. Организациите за защита на жертвите често страдат от нестабилно финансиране.

Бърза и лесно достъпна поддръжка за (потенциални) жертви

1. Задължителни механизми за докладване при онлайн услугите: За да се постигне ефективна превенция на онлайн злоупотреба и особено манипулация на деца , трябва да се изисква от онлайн услугите да поставят на видно място функциите за докладване в платформите. Ако услугата е насочена към и/или използвана от млади хора или деца, от доставчиците следва също да се изисква да ги информират за рисковете от онлайн манипулацията.
2. Горещи линии и центрове за консултиране: Много национални горещи линии, занимаващи се със случаи на докладвани злоупотреби, се борят с финансови проблеми. От съществено значение е да се гарантира, че има достатъчен капацитет за проследяване на докладвани случаи.

Подобряване на медийната грамотност

Преподаването на дигитална грамотност в ранна възраст е съществена част от защитата на децата и младите хора онлайн. Самите деца трябва да имат знания и инструменти за безопасно навигиране в Интернет. Те трябва да бъдат информирани, че опасностите дебнат и онлайн и да се научат да разпознават и поставят под въпрос моделите на поддържане. Това може да се постигне например чрез целенасочени програми в училища и центрове за обучение, в които обучен персонал предава знания и води дискусии. Децата трябва да се научат да говорят, да реагират и да съобщават за злоупотреба, дори ако злоупотребата идва от тяхната сфера на доверие (т.е. от хора, близки до тях или други хора, които познават и на които имат доверие), което често се случва. Те също трябва да имат достъп до безопасни, достъпни и подходящи за възрастта канали, за да докладват за насилие без страх.