Изкуственият интелект и съдебната практика

0
372

 Интелигентните системи навлизат бързо, но съдебната практика е ограничена, подчертават авторите на тази публикация Бисера Занкова и Анелия Димова.

Бързото развитие на изкуствения интелект (ИИ) поставя остро въпроса  за анализ и оценка на последиците от него от всички органи и организации.

В световен план  на Международния форум за Интернет управление IGF 2024  г.  (15-19 декември 2024 г., Риад) беше представена Декларацията от Хамбург относно ИИ и целите за устойчиво развитие като инициатива, насочена към преодоляване на пропастта между ИИ и динамиката на развитието на технологиите. По-специално документът се концентрира върху екологичната устойчивост на ИИ, достъпа до ИИ инфраструктура в развиващите се страни и структурите за управление на ИИ. Декларацията от Хамбург трябва да бъде на масата на дискусиите по време на конференцията за устойчивост в Хамбург (2-3 юни 2025 г.) и на IGF 2025 г.в Норвегия.

В дневния ред на срещата беше и наскоро сключената Конвенция на Съвета на Европа за ИИ, правата на човека, демокрацията и върховенството на закона, която би могла да служи като глобален стандарт за постигане на баланс между иновациите и защитата на правата на човека.

Рисковете за задълбочаване на неравенствата беше друга фокусна точка, придружена с призиви за намиране на решения за справяне с разделението на ИИ между развитите и развиващите се нации. Дискусиите подчертаха значението на изграждането на местни ИИ екосистеми, насърчаване на развитието на капацитет в глобалния юг и осигуряване на справедлив достъп до ИИ инфраструктура. С нарастването на опасенията относно прозрачността и отчетността на ИИ етичните принципи на Организацията за цифрово сътрудничество (Digital Cooperation Organization) беше пример за смекчаване на обществените рискове, породени от високоинтелигентните системи.

Въздействието на изкуствения интелект върху образованието беше централна тема на младежката среща на IGF.

В европейски мащаб най-значимото явление в ЕС в областта на ИИ остава Законът за ИИ – Регламент (ЕС) 2024/1689 на Европейския парламент и на Съвета от 13 юни 2024 година за установяване на хармонизирани правила относно изкуствения интелект и за изменение на регламенти (ЕО) № 300/2008, (ЕС) № 167/2013, (ЕС) № 168/2013, (ЕС) 2018/858, (ЕС) 2018/1139 и (ЕС) 2019/2144 и директиви 2014/90/ЕС, (ЕС) 2016/797 и (ЕС) 2020/1828 (Акт за изкуствения интелект)  Една от целите е да се подобри функционирането на вътрешния пазар чрез ясен набор от норми за разработване, маркетинг и използване на ИИ в съответствие с ценностите на ЕС. В същото време предложението е и част от по-голямата стратегия на ЕС за установяване на европейски цифров суверенитет, която се превърна в основен, макар и противоречив, ръководен принцип за лидерството и стратегическата автономност на Европа в цифровата област. Като изгражда своята „цифрова крепост“, ЕС се надява да компенсира недостатъците и да се конкурира пълноценно със САЩ и Китай в глобалната надпревара за разработване на нови технологии.

Независимо от единното законово регулиране някои европейски страни реагират и самостоятелно на определени проблеми. След ChatGPT, разработен от OpenAI и подкрепен от Microsoft, стартиран през ноември 2022 г., Италия е първата държава в ЕС, която забрани софтуера и започна разследвания на OpenAI по отношение на предполагаеми нарушения на законите на ЕС за защита на данните и за липса на проверка на възрастта на потребителите. Сед като OpenAI отстрани предполагаемите пропуски, Италия оттегли забраната си, но прецедентът за възможността за фрагментиран подход в целия ЕС остава. През 2023 г. бяха въведени почти 800 изменения в предложението на ЕК, за да се даде тласък на закона. Очаква се за повечето разпоредби Законът за ИИ да влезе в сила преди 2026 г.

Същевременно, на фона на широкото навлизане на ИИ технологиите, съдебната практика на ЕС по тези въпроси е ограничена. Въпреки това Съдът на Европейския съюз (СЕС) направи преценка на използването на ИИ системи от държавните органи в даденото преюдициално заключение по делото Ligue des droits humains, което е полезна илюстрация как ЕС се опитва да приспособи новите компютърни технологии към утвърдени фундаментални ценности.В центъра на съдебното обсъждане бяха Директива (ЕС) 2016/681 на Европейския парламент и на Съвета от 27 април 2016 г. относно използването на резервационни данни на пътниците с цел предотвратяване, разкриване, разследване и наказателно преследване на терористични престъпления и тежки престъпления  (Директива PNR) и още две директиви на ЕС. Директивата PNR позволява на звената за информация за пътниците да обработват резервационни данни за идентифициране на лица, които може да са замесени в терористични или тежки престъпления, така че от тях да се изисква да преминат допълнителен преглед преди качване на борда за полет; да изискват предоставяне на достъп до и обработка на такива данни за предотвратяване, разследване и наказателно преследване на тероризъм и тежки престъпления; и да анализират данните, за да актуализират критериите, които трябва да се използват за идентифициране на лица, които може да са замесени в тероризъм или в друго сериозно престъпление. В Ligue des droits humains Съдът „поправя“ PNR директивата чрез тълкуване, съответстващо на Хартата  за основните права на ЕС и без да засяга нейната валидност, значително променя допустимия мащаб и обхвата на практиката за сигурност на данните на пътниците в целия съюз.

Съдът отбеляза, че използването на ИИ в самообучаващи се системи (или в машинно обучение) е изключено в цитирната област. Мотивите са, че ИИ може да променя без човешка намеса или да преразглежда оценката на процеса и по-специално критериите за оценка, както и тежестта на тези критерии. Освен това Съдът на ЕС смята, че непрозрачността, която характеризира начина, по който работи ИИ, може да направи невъзможно разбирането на причините, поради които дадена програма идентифицира конкретно лице като потенциално замесено в тероризъм или в сериозно престъпление. При тези обстоятелства използването на ИИ може да лиши гражданите от правото им на ефективна съдебна защита и да ги изложи на дискриминация.

Това решение потвърждава, че повечето институции на ЕС са съгласни да направят използването на новите технологии съвместими с основните права на техните граждани. Интересното обаче е, че наред с повторното формулиране на неприкосновеността на личния живот и защитата на личните данни, решението разширява проверката на използването на ИИ и спрямо две други основни права – правото на ефективна съдебна защита и правото за недискриминация.

 

Линкове :

https://intgovforum.org/en/content/igf-2024

IGF 2024 dedicated web page          

https://dco.org/

https://eur-lex.europa.eu/legal-content/BG/TXT/?uri=CELEX:32024R1689

https://eur-lex.europa.eu/legal-content/BG/TXT/?uri=CELEX:32016L0681

Коментари

comments