Ново законодателство на ЕС ще задължава доставчиците на хостинг услуги и публично достъпни междуличностни комуникационни услуги да проверяват, докладват и премахват съдържание и изображения, идентифицирани от изкуствен интелект (AI) като злоупотреба. Да очакваме ли тотален контрол на чата между потребителите?
Претекстът на борба срещу сексуалното насилие над деца
Европейската комисия предлага създаване на Център за предотвратяване и борба със сексуалното насилие над деца. Задачата на този център ще бъде „да поддържа база данни с показатели за откриване на случаи на насилие (хешове и показатели въз основа на анализа на изкуствен интелект…), за да се гарантира „правилното идентифициране на материалите“.
Сега действащата система за контрол се основава на доброволното откриване и докладване от страна на компаниите-доставчици и функционира с временно решение, което изтича скоро. След създаването на новия център на доставчиците ще бъде изпращана „бележка за засичане“ на открито зловредно, според критериите, съдържание, а те ще трябва да анализират групата съобщения и да докладват съдържанието към центъра.
Новият център трябва да предостави индикаторите за откриване на вредното съдържание, което да инструктира доставчиците за това какво съдържание е незаконно в ЕС.
Под претекста на борба срещу сексуалното насилие на деца (което е благородна кауза) обаче се прокарва първият прецедент за пълно генерално следене на чатове на населението, заобикалящо законодателствата на държавите-членки във връзка с използването на т.нар. Специални разузнавателни средства. Днес ще бъде този повод, утре защо да не се разшири?
Неслучайно това предложение бе разкритикувано най-вече от правозащитниците в сферата на личните данни и го сравниха с практиките за следене на населението в Китай.
Защото най-трудната задача на центъра ще е да намали риска от изтичането на данни при комуникацията между държавите от ЕС и доставчиците на услуги. Също така, за да може центърът да е в ролята на посредник между доставчиците и правоприлагащите органи, той трябва да е независим от „потенциално надделяващи частни и политически интереси“.
Пътят от докладването на съмнителни чатове до тоталното шпиониране
Основна роля в откриването и докладването на зловредно съдържание играят доставчиците. Всички сигнали, които са постъпвали до този момент са от един-единствен доставчик – Facebook (сега Meta). От ЕС настояват „обществото да задължи всички технологични дружества в Европа да подават сигнали пред компетентните органи“ и също изискват от доставчиците „да съобщават за случаи на сприятеляване с цел сексуална злоупотреба“.
В кампанията си относно новото законодателство от ЕС поясняват, че тъй като насилниците извършват престъпленията си „зад заключени врати, но публикуват доказателствата онлайн“, сигналите не идват от обезпокоени съседи, а най-вече от компаниите, управляващи цифровите пространства. Разследванията се базирали на материалите от компаниите, но много малко от тях търсели активно съдържание за разследване. Това налагало въвеждането на задължението за подаване на сигнали.
Какво е обаче обезпокоителното около този на пръв поглед толкова важен законопроект с толкова належаща нужда от контрол и предотвратяване на насилието над деца?
Съобщава се, че Центърът за предотвратяване на насилие над децата „ще работи в тясно сътрудничество с партньори извън ЕС, включително подобни центрове в САЩ, Канада и Австралия.“ От тук започват и притесненията. Дали „добрите практики“ и „съвети“ от центрове като този в Австралия например ще са полезни за нас.
Както беше анонсирано неотдавна в материал на Богари Медия, именно в Австралия правоприлагащите органи получиха подобни безпрецедентни права. Там със закон се позволи на AFP (Австралийска федерална полиция) и ACIC (Австралийска комисия за криминално разузнаване) да контролират с извънредни правомощия цифровата информация на австралийските интернет-потребители за целите на обществената сигурност.
На тяхно разположение се предоставят три нови заповеди: да наблюдават онлайн дейността, без да разследват или обвиняват дадено лице в престъпление; да „превземат“ акаунти; да променят техните данни, които след това да бъдат използвани като доказателство в наказателно производство.
Този законопроект беше остро критикуван от „Зелените за правосъдие“ и те настояваха за балансиране на правомощията със стабилна рамка за правата на човека, която да защити обикновените хора от злоупотреба с правомощията.
Те призоваха: „Тъй като нашите закони се развиват, за да се борят с киберпрестъпността, нашите човешки права също трябва да се развиват, за да ни предпазят от злоупотреби с власт, свързани с кибернетичното пространство.“
Обхватът на новите правомощия е непропорционален на заплахите
Според експерти контролът на чата в борбата със злоупотребите с деца е прекомерен подход. Несъмнено е и абсолютно задължително да се инвестира в превенция и борба с насилието над деца в интернет-платформите и социалните медии, но въвеждането на такъв безпрецедентен инструмент за наблюдение е доста спорно в сравнение с минималния шанс за успех по отношение на набелязаната цел.
Проектът планира да проучи цялото комуникационно съдържание от нашите устройства и да го използва в случай на подозрение. Това би било атака срещу всяка поверителност на общуването онлайн, но би ли помогнало на децата в риск?
Според компютърни специалисти педофилите, които са обект на преследване от Европейската комисия, не използват месинджърите, които се планира да бъдат шпионирани от доставчиците на онлайн-услуги. Месинджърите са напълно неподходящи за обмен на големи колекции от файлове и затова престъпниците прибягват до използването на публични хостери за файлове или платформи в даркнет-а. Специалисти алармират, че преди да бъде качен на публични хостери, материалът обикновено се криптира, което прави автоматичните сканирания безполезни.
Но освен това не е ли по-ефективно да се предприемат действия за закрила на децата от сексуално съдържание на първо място, тъй като това е основната причина те да стават жертва на такова насилие? Вместо това се „борим“ срещу неблагополучния резултат, докато в същото време извращения на деца се излъчват онлайн. След като мейнстриймът промотира „сексуално образование“, което поощрява децата да „избират пола си“ и да се „сексуализират“ възможно най-рано и се надигат опити за легализация на педофилията, как да очакваме ефективност в борбата срещу сексуално насилие над деца?
Фалшивите „разпознавания“
Неправилното идентифициране на материали от изкуствения интелект, който ще сканира за незаконно съдържание, би довело до планини от „фалшиви данни“. Например в Германия над половин милиард съобщения се изпращат всеки ден. Това увеличава вероятността да се събират данни за съдържание на напълно законни изображения и съобщения. Дали и къде изтичат тези съобщения и кой ги преглежда? Освен това преглеждането на целия този маркиран материал би затруднило същинската разследваща работа на органите.
Личната неприкосновеност
Контролът на чата би спрял две основни права – потребителите губят контрол върху това какви данни споделят и с кого и губят доверието в собствените си устройства.
Опасенията са, че такава система за следене лесно може да бъде разширена след въвеждането ѝ и може да се превърне в основа за всеобхватна инфраструктура за цензура и наблюдение, с която да се злоупотребява от всеки, който има контрол върху нея.
