Изкуственият интелект - може ли да бъде заплаха за юристите?
Ако още днес не се опитаме да очертаем граници, в които да използваме технологиите, то поетапно може да станем ненужни
Изкуственият интелект - може ли да бъде заплаха за юристите?

Мариана Тодорова, доктор по футурология, главен асистент в Института за обществата и знанието към БАН.

Наскоро "Форбс" публикува статия със заглавието: "Ще извади ли изкуственият интелект адвокатите от бизнеса им?". В нея обаче се разглежда повече техническият аспект на въпроса. Но по-значимите въпроси, които аз биха искала да засегна, изобщо не са коментират.

На базата на днешните възможности на тесния изкуствен интелект* се очертава нарастващият брой на нишите, които той постепенно ще заеме в юридическата работа. По целия свят проблемите в правосъдието са подобни, макар и в различен мащаб – затлачени от дела съдилища, пренатоварени съдии или обществени защитници, неизпълнени присъди и пр.

В тези случаи изкуственият интелект наистина може да помогне. В САЩ вече се използва изкуствен интелект за правен дю дилиджънс/надлежна проверка, провеждане на изследвания и обработката на получените от тях данни, остойностяване на часовете работата и пр.

В бъдеще вероятно ще се възприема като лоша правна практика липсата на употреба на софтуер с изкуствен интелект. Аргументът е, че можем да направим аналогия между юрист, който в края на 20 век би ползвал само лист и химикалка и такъв, който разполага с компютър. В новата ситуация вече ще става въпрос за асиметрия в силите, подобно на това, което ще се случва в бъдещето на войните.

В чисто военен аспект се очаква бъдещите бойни действия да се водят от форми на изкуствен интелект. Умни дронове, самолети, подводници и роботи – убийци ще са новите оръжия. Заради скоростта на обработка на информацията в контролните и командни пунктове от изкуствения интелект много скоро след това ще се наложи неговото използване и за взимане на решение. Симетричност в бързината на обработка на постъпващите данни ще има спрямо два изкуствени интелекта, тъй като човешкият мозък не притежава такъв капацитет. Подобни процеси ще се наблюдават и в правната система - съобразно нужното време и ефективността на анализа на огромни правни масиви и съответно на решаването на казуси, особено в прецедентното право. Същото се отнася и за подпомагането на замяната на субективността на анализа на съдебните заседатели с този на един безпристрастен и непредубеден алгоритъм.  Разбира се, вече има доказателства, че конструираният на принципа на машинното обучение изкуствен интелект показва както идеологически, така и расистки предразсъдъци, (използвайки системата за разпознаване на лице за търсене на престъпници, той двойно по-често предполага, че те са чернокожи) но това е обект за дискусия от друго естество.

Въпрос на кратък хоризонт е изкуственият интелект, имплементиран в правото, да се превърне в конкурентно предимство. Неслучайно Естония обмисля да внедри първия съдия с изкуствен интелект (който ще "отсъжда" само за дребни искания под 7 хил. евро) и това не е изненадващо, защото в Хонг Конг от около 2 години съществува борд на директорите с изкуствен интелект на компания за рискови инвестиции. И в двата случая се касае до взимане на решения чрез отсъждане на базата на наличната информация.

Подобно на системата за социален кредит, която Китай предвижда да въведе (да следи чрез камери хората и съответно да ги награждава или наказва спрямо поведението им) се работи и по проекти, чрез които алгоритми да наблюдават езика на тялото, мимики на лицето, кръвно налягане и пулс като индикатори за участниците в съдебните процеси, които в пъти ще са по-благонадеждни от детектора на лъжата. Всичките изброени дотук приложения са само опции, чрез които може да се подобри, но и дехуманизира правораздавателният процес.

Истинското и голямо предизвикателство обаче ще бъде дали всички експерти, ангажирани в сферата на правото, ще могат адекватно и своевременно да запълват всичките огромни правни празнини, които ще се отварят в следствие на експоненциалното развитие на технологиите. Ако не успеят, те от само себе си ще станат ненужни. Предизвикателствата ще бъдат навсякъде – политика, икономика, социални системи, медицина, генно инженерство, войни и пр., а решенията не могат да бъдат основани само на досегашния човешки опит.

Сложните и заплетени казуси вече са тук. Нека вземем за пример автономните коли. Те субект или собственост са? Кой би бил виновен при инцидент с такъв автомобил – собственикът й, производителят, софтуерният инженер или самият алгоритъм – изкуствен интелект? В едно малко по-далечно бъдеще самият той (изкуственият интелект), базиран в превозно средство, комуникирайки си чрез системата на Интернет на нещата с всичко и всички, може да реши при неизбежен инцидент да рискува живота не на възрастен човек, защото коефициентът му на интелигентност го доближава до гениалността, а на дете, тъй като в проследения му геном се откриват предразположения към тежки заболявания. Това би било изцяло рационален избор, който ни подсказва чрез себе си какви биха били бъдещите етично-правни постановки. Можем да продължим с въпросите: как правото ще регулира доембрионалната селекция, подобряването на гените и опцията за "дизайн бебета"? Ще може ли да се тълкува по нов начин концепцията за родителство, ако хипотетично ще е възможно да се роди дете с гените на трима, четирима и повече родители? А порасналото дете ще може ли да държи съдебно-отговорни родителите си за избора, който те са направили преди то да се роди, ако не съвпада с вкуса и нагласите му? Тези казуси могат ли изобщо да са обект само на национално законодателство или по-скоро това ще породи необходимостта от създаването на една глобална правна система? Ще оцелее ли изобщо прецедентното право, защото ежедневно ще има хиляди нововъзникнали прецеденти, които може би ще могат единствено да се регулират принципно, чрез закони?

Как данните от разчитането на генома, което вече е факт, ще бъдат ползвани така, че това да не доведе до социална, трудова и здравна дискриминация? В момента тече ускорен процес по учредяване на банки за такава информация и събирането й, тъй като тя е необходима за развитието на изкуствения интелект чрез машинно и дълбоко обучение. Но тя ще е и безценен източник за работодатели и всякакъв тип здравни и социални осигурителни фондове.

Кой ще отговаря за неправилно, от гледна точка на морала, но свръхрационално, решение на изкуствения интелект?

Дотук дискутирахме само проявлението на тесния изкуствен интелект като "Кортана", "Сири и Алекса". Дори не загатнахме темата за общия или супер изкуствен интелект, който съответно ще e равностоен на нас или превъзхождащ ни.

Ако още днес не се опитаме да очертаем граници, (не регулации) в които да използваме технологиите, то поетапно може да станем ненужни, преди да сме открили нов смисъл и заместители на базисни институти, като "образование", "професия", "семейство", "държава" и др. Неслучайно, израелският изследовател Ювал Харари предсказва възникването на феномена "даннизъм" (datism), който обуславя сливането на цялото многообразие от политика, икономика, религии, социални системи в едно заради ефективността и "лесните решения".

*Нарича се така, защото е създаден да адресира ограничени, единични задачи. Голяма част от сега функциониращите системи на изкуствен интелект са именно тесен изкуствен интелект, който изпълнява ясно дефинирана задача/и.

Мариана Тодорова е доктор по футурология и главен асистент в Института за обществата и знанието към БАН. Била е народен представител в 43-то НС. Има специализации в Харвард Кенеди Скуул, Държавния департамент на САЩ и Китайската академия за управление. Представител на глобалния тинк-танк: "Милениум проджект" в България. Участва в множество конференции по футуристика. През юни предстои да излезе първата й книга в САЩ съвместно с американския футуролог Теодор Гордън.

Коментари от FACEBOOK
Коментари от правен свят
   Започни с:  Първите  |  Последните  
1
Владимиров
|
нерегистриран
02 май 2019, 11:26
5
-7
Изключително интересна гледна точка и хипотеза за бъдещето! Дали в България е приложима - има крещяща нужда от конкуренция между човека и софтуера при субективното решаване на дела в последните години.

2
ГПК
|
нерегистриран
02 май 2019, 11:30
10
-3
Изкуствен интелект спокойно може да разглежда заповедните производства, които по съществото си са за безспорни вземания, вкл. няма да има проблем и да търси неравноправни клаузи. Нашия ВСС и законодател вместо да мисли да ги маха от ниво съд на ниво администрация, да ги премести за решаване от компютър.
3
бай лозан
|
нерегистриран
02 май 2019, 11:43
12
-6
Лозан отдавна трябваше да бъде сменен с изкуствен интелект...повече работа щеше да свърши.
4
Румяна Тодорова
|
нерегистриран
02 май 2019, 12:08
4
-16
Юристите напоследък са заплаха за хората, така че би било добре да бъдат игнорирани от изкуствен интелект. Още повече, че сте посочили пилотни такива проекти, в държави, които са много по-напред от нас. Ние такива примери трябва да следваме, а не да зяпаме вечно Румъния или другите балкански бивши комунистически страни. Направо се изумявам като започмен да се учим едни от други, държави на дъното на класациите. Естония е пример!!!
5
Какво е футуролог?
|
нерегистриран
02 май 2019, 18:48
7
-4
Откога футурологията се разви в България, откога несбъднали се неща (слухове и хипотези) влияят на хората, повече от случилите се? Автентичната тъпота на д-р Мариана Тодорова ( за футурология ли се харчат нашите пари от феодалната крепост БАН), харчат пари всеки път надминава изкуствения интелект. Правен свят, малцина са останали, но все още има физици, химици, представители на точните науки не на световно, а на над световно ниво в БАН.
6
Арахангел /Михаил/
|
нерегистриран
02 май 2019, 19:48
3
-4
Ами то няма нищо лошо - ще се преквалифицирате!
8
#2
|
нерегистриран
03 май 2019, 00:53
6
0
Ама всички ЗП ли са "за безспорни вземания", или просто така, да върви раздумката?
9
RRR
|
нерегистриран
03 май 2019, 10:22
9
0
Има едно нещо, на което ИИ никога няма да може да бъде обучен или да се самообучи - нюанси му казват.
10
|
нерегистриран
07 май 2019, 16:28
2
0
Великите книги са написани на лист с химикалка, дори и сега големите съвременни писатели казват, че пишат на лист...така че тази хубава футуристка да не славослови толкова компютрите.
11
|
нерегистриран
08 май 2019, 06:59
2
0
Абсурд. Няма как да се творят различни актове за сходни случаи.
ТВОЯТ КОМЕНТАР
Име
Коментар
Снимка 1
Снимка 2
Снимка 3
Снимка 4
Снимка 5
Снимка 6
Въведете буквите и цифрите от кода в дясно