Експериментално, такава практика вече съществува. Поне в Китай, от 2015 година изкуственият интелект се „самообучава“, наблюдавайки решенията на всички съдилища в Китай, нарочно обединени в централизирана мрежа.
Новото е, че вече е прието решение, всички съдебни дела да се водят или консултират задължително от Изкуствен интелект. Ако съдия или адвокат не се съобрази с решението на Изкуствения интелект, трябва да подаде мотивирано становище.
„Изкуственият интелект се използва във всички кътчета на китайската правна система и има роля във всяка присъда“, според Върховния народен съд в Пекин.
„Интелигентният съд SoS (система от системи) вече се свързва с бюрото на всеки работещ съдия в цялата страна“, каза Xu Jianfeng, директор на информационния център на върховния съд в доклад, публикуван на 12 юли 2022 г. в Strategic Study of CAE, официално списание, управлявано от Китайската инженерна академия. В доклада на списанието се казва, че изкуственият интелект е намалил средното натоварване на съдиите с над една трета и е спестил на китайските граждани 1,7 милиарда работни часа от 2019 до 2021 г.
„Измамената блондинка“
Сигурно се сещате за немалко моменти по сериалите, когато невярната любовница открива, че всичките ѝ кредитни карти внезапно са блокирани от „милото“ и се налага да не ползва никакви обществени ресурси и удобства.
Де да беше само по сериалите, но неотдавна в Китай държавата използва централизираната база данни за ваксинации, като напълно неправомерно смени статуса и отне правото на пътуване на стотици хора, възнамеряващи да протестират пред банка за блокираните си сметки! Сега си представете свят, в който тази елиминация се извършва от Изкуствен интелект, само защото дадени хора са се „разшавали“…
По същия начин влиянието на „интелигентния съд“ се простира далеч отвъд съдебната зала. Нови информационни портали му дават директен достъп до огромната база данни, поддържана от полицията, прокуратурата и някои държавни агенции. Това позволява на „интелигентния съд“ да работи с мощната китайска „социална кредитна система“, за да забрани на човек, който например отказва да плати дълг, да използва самолет, високоскоростен влак, хотели или други социални услуги.
Конкретен пример за съдията – изкуствен интелект може да открива и конфискува имуществото на осъден почти моментално, като го предлага на онлайн-търг.
Джан Линхан, професор по право в Китайския университет по политически науки и право в Пекин, предупреждава, че интелигентната съдебна система, изградена с дълбокото участие на китайските технологични гиганти, би прехвърлила твърде много власт в ръцете на няколко технически експерти, които са писали кода, разработвали алгоритми или контролирали базата данни. „Трябва да сме нащрек за ерозията на съдебната власт от технологичните компании и капитала“, добави тя.
Когато корупцията и заобикалянето на честността не са посадени и поляти в самите души на народа, всеки опит механично да се пресече корупцията дава само нови разклонения на главата на змея. Zero Trust, антикорупционен изкуствен интелект, създаден от Китайската академия на науките за наблюдение на социалните връзки на държавните служители, е внедрен в някои градове, предизвиквайки силна съпротива от страна на местните власти.
Изкуственият интелект става и прокурор
Това е естественото чедо на бременната с данни система за социален кредит на Китай. Освен рестрикции в безлични системи като интернет-доставката, възможността за пътуване в чужбина и прочее, друго си е ако данните от доносите и непослушанието ни породят директно обвинение. Както се казва – „прокуратурата се самосезира“!
Китайски учени разработват програмиран „прокурор“, който може да повдигне собствени обвинения. Машината е „обучена“ с помощта на повече от 17 000 случая от 2015 г. до 2020 г. Досега тя може да идентифицира и повдигне обвинения за осемте най-често срещани престъпления в Шанхай.
Те са измами с кредитни карти, провеждане на хазартни операции, опасно шофиране, умишлено нараняване, възпрепятстване на служебни задължения, кражба, измама и „предизвикване на кавги и причиняване на неприятности“ – общо обвинение, което често се използва за задушаване на несъгласието.
Сами се досещате, че всеки, който не иска да носи маска или емоционално ще поспори с държавните органи, ще влезе в последната категория.
Ако някой има нерви и сили, може да прочете спомените на баба Съба Вазова за клането в Сопот и там ще установи, че майчиният плач понякога е възпирал дори ятаганите на тия, които са смятали да ги използват! Предадем ли обаче Човешкото да се подтиска и обуздава от машина, ние се самоубиваме като цивилизация.
Приемем ли, че административни решения, които обезправяват нашия събрат-човек, трябва да стоят по-високо от състраданието, от творческата превенция, тогава в сърцата ни навлиза проказата на безчувствието. А тя, освен че е безпощадна, е и заразна.
Каква е позицията на европейското право
Без съмнение доста европейски институции и политици лакомо се облизват, наблюдавайки опитния полигон на Китай относно затягане юздите на населението чрез все по-дигитални средства. Със сигурност обезправяването на такава огромна нация среща прекалено малко възмутени реакции от т.нар. „демократични общества“.
Доста съмнително е, че именно там първоначално се тестват неприемливи за нашата етика и морал тенденции, преди да бъдат внедрени и към Европа. Пример са дизайнерските бебета, за които Богари медия вече писа, както и много други неща.
Но за момента има няколко постановки на правото, които европейската съдебна система не може да заобиколи, което трябва да оценим и опазим.
Според Резолюция на Европейския парламент от 6 октомври 2021 г. относно изкуствения интелект в наказателното право и използването му от полицията и съдебните органи по наказателноправни въпроси (2020/2016(INI)) не е допустимо, което и съдебно решение да бъде издадено без персонална отговорност – на конкретен човек или юридическо лице.
Също така, набляга се на изискването, че системите с ИИ следва по най-добър начин да гарантират, че са проектирани по такъв начин, че винаги да могат да бъдат затворени от човешки оператор.
Приложенията с ИИ могат да предложат големи възможности в областта на правоприлагането, по-специално за подобряване на работните методи на правоприлагащите и съдебните органи, както и за по-ефективна борба с определени видове престъпления, по-специално финансовите престъпления, изпирането на пари и финансирането на тероризма, сексуалното насилие над деца онлайн и експлоатацията на деца, както и някои видове киберпрестъпления, като по този начин допринасят за безопасността и сигурността на гражданите на ЕС.
Всичко това обаче предполага значителни рискове за основните права на хората и затова всякакво общо приложение на ИИ за целите на масовото наблюдение би било непропорционално.
Напомня се, че физическите лица имат право не само да бъдат правилно идентифицирани, но имат правото и да не бъдат идентифицирани изобщо, освен ако това не се изисква от закона с оглед на императивни и легитимни обществени интереси.
Дали и кога тези “императивни и легитимни обществени интереси” ще бъдат използвани като основание за въвеждане на подобна система, можем само да гадаем. Но покрай пандемията научихме едно – лесно могат да се използват такива вратички, точно както със “спешното разрешение” за пускане на ковид ваксините на пазара. Всичко е въпрос на тълкуване.
Според резолюцията никакви системи с ИИ, използвани в областта на правоприлагането и от съдебната система, не следва да бъдат в състояние да вредят на физическата неприкосновеност на човека, нито да предоставят права или налагат правни задължения на физически лица.
Опитът с подобни случаи в Съединените щати
Интересен е моментът с т.нар. „полицейско прогнозиране“. Няколко града в Съединените щати са прекратили използването на системи за прогнозиране на полицейската дейност поради липсата на ефективност, дискриминационен ефект и практически неуспех и вместо това са се върнали към полицейска дейност в сътрудничество с местните общности. Това е довело до спад в процентите на престъпност.
Ето защо ЕП се противопоставя на използването от правоприлагащите органи на ИИ за изготвяне на поведенчески прогнози за физически лица или групи въз основа на минало поведение, принадлежност към дадена група, местоположение, или други подобни характеристики, с които се прави опит за идентифициране на лица, за които има вероятност да извършат престъпление.
Но тепърва предстои да видим дали законодателството на ЕС не е просто параван, за да “узакони” и легитимира ползването на изкуствения интелект в частния сектор в определени сфери, за които така и хората не разбират. Но едно остава в главата на европееца – че има права.
Тук е важно да споделим, че се водят наченки на дискусия за регулация относно категоризация на различни типове ИИ (или това, което мейнстрийма нарича изкуствен интелект) – съответно кои са разрешени, кои не. Но на юристите е ясно, че както при всяка нова технология – регулацията идва с 10 години закъснение. Тоест вече технологията се е прилагала значително време и вече е въпрос на легитимация.
Изкуственият интелект на финалната права
Още сме в началото, ще кажете, каква финална права… Ама то е хубаво именно като сме в началото да видим и докъде може да се докараме, ако се използва изкуствен интелект с жестокост, изключваща естествения такъв!
Изследователи в източната китайска провинция Анхуей твърдят, че са разработили устройство, което може да определи лоялността към управляващата Китайска комунистическа партия (ККП), използвайки сканиране изражението и мимиките на лицето.
Кратко видео, качено в Weibo акаунта на Hefei Comprehensive National Science Center на 30 юни, казва, че проектът е пример за „изкуствен интелект, който дава възможност за партийно изграждане“.
„Това оборудване е вид интелигентна идеология, използваща технология на ИИ за извличане и интегриране на изражения на лицето, показания на ЕЕГ и проводимост на кожата, … което прави възможно установяването на нивата на концентрация, разпознаване и овладяване на идеологическото и политическо образование, така че да се разбере по-добре неговата ефективност“, се казва в описанието.
В такъв момент не мога да не цитирам описанието на задължителните минути на „мразене“, описани от Дж. Оруел в „1984“. Как ли биха искали някои съвременни властници тази книга да не беше написана…
„В някакъв момент на проблясък Уинстън установи, че и той крещи с другите и яростно рита по краката на стола. Най-ужасното в Двеминутката на омразата бе не това, че си задължен да играеш роля, а напротив, че е невъзможно да ѝ се съпротивляваш. След първите трийсет секунди не бяха необходими никакви преструвки. Като електрически ток през цялата група преминаваше отвратителен екстаз на страх и мъст, желание да убиваш, измъчваш, да разбиваш лица с ковашки чук, което пряко волята му превръщаше всекиго в гримасничещ, крещящ безумец. Но обхваналата ги омраза беше абстрактно, неконкретно чувство, което можеше да бъде прехвърлено от един обект на друг като пламъка на горелка.“
В крайна сметка, „за“ или „против“ ИИ в съдебната система?
Както стана дума и в аргументите по-горе, всяко облекчаване на бумащината, всяко ускоряване на правосъдния процес изглежда би било от полза. Нерядко се казва, че забавеното правосъдие е фактически отказ от правосъдие. С това се аргументират всички радетели на масовата дигитализация. Включително политически сили и у нас.
Но е добре да помним, че дигитализацията води и до рязка централизация. Защото в съвременния технологичен свят управлява този, който притежава данните. Данните са новото злато. А злоупотребата с тях може да е така скрита, че обществото даже да не забележи.
Тоест в крайна сметка е добре да вземем предвид потенциалните рискове за злоупотреба. И дали заради едното удобство, не се лишаваме най-ценното – свободата? Балансът е труден, но важен.
По отношение на приложението на ИИ в правосъдната система
Както се забелязва, все по-малко усилия на учени, политици и общественици се хвърлят, престъпленията изобщо да не бъдат извършвани. Приложението на принципа на превенция чрез образование, поощряване на добротворство, добра възпитателна среда за подрастващите.
Ако се погледнат най-често нарушаваните правни норми от наказателното законодателство, ще се види, че или те са във форма, непоносима и невъзможна за изпълнение, или в морала на една нация липсват устоите, които до преди сто години са правели това престъпление рядко и срамно – като начин на решаване на „проблема“.
Именно това показва и реалния проблем в правосъдието, което обяснява и нездравия опит за разрешаването му чрез това, което наричат “изкуствен интелект” – правосъдието като израз на някакви правила и съвсем откъснати от понятието справедливост. И пак, третира се резултатът (последствията), а не коренът. Същото като да търсиш да притъпиш болката от раната, вместо да търсиш изцелението й.
Откакто политик в затвора не влиза, откакто масовите убийци са център на медийното внимание, развратниците са интервюирани от сутрин до вечер, а за измамниците се пишат книги като „Кралицата на криптовалутата“, няма как да се учудваме, че новите поколения дръзват да действат в много посоки без оглед на правото на другия.
