Может ли искусственный интеллект подготовить материал для защиты обвиняемого в суде?
Некоторые эксперты уверены — использование ИИ в оружейных технологиях уменьшит число человеческих ошибок в ситуациях, связанных с жизнью или смертью. В свою очередь сторонники использования судебно-медицинских алгоритмов утверждают, что они приведут к более объективной оценке данных с места преступления, снижению количества заключенных и устранению неправомерных приговоров.
И, хотя ИИ часто называют технологией, которая способна решить многие мировые проблемы и привести человечество к лучшему будущему, она не лишена недостатков.
Зачем правосудию нужен ИИ?
Год назад в США возобновили проект по использованию искусственного интеллекта в суде, ранее его приостановили из-за пандемии. Специальный алгоритм оценки рисков дает судьям рекомендации: отпустить под Залог или заключить под стражу человека, который находится под следствием, писал The Wall Street Journal.
Конечно, сначала ИИ нужно обучить. Для этого в 2017 году следственное управление предоставило двум исследовательским компаниям базу данных более чем по 1,6 млн уголовных дел с 2009 по 2015 год.
Там была информация о людях, которая находилась под следствием, их возрасте, поле, месте жительства, расовой, этнической принадлежности, а также о преступлениях, в которых они подозревались. Также там были детали, при сопоставлении которых можно было сделать вывод, придет человек на суд или попробует скрыться.
К примеру, добровольно ли человек сообщал номер телефона и адрес полицейским при задержании. Те, кто делал это добровольно, чаще являлись в суд самостоятельно.
В итоге появилась система, которая, по первоначальным оценкам разработчиков, должна была существенно сократить предвзятость судей при принятии решений в зависимости от расовой и этнической принадлежности подследственных. Систему запустили в ноябре 2019 года.
Как ошибался ИИ
Ранее в США уже несколько раз пытались использовать похожие системы — и их результаты оказались неоднозначными. Как пишет Wired, в 2014 году в Нью-Джерси запустили пилотный проект, благодаря которому нагрузка на тюрьмы действительно сократилась почти наполовину. Однако проблему расового неравенства эта система не смогла решить.
Например, в 2014 году чернокожую девушку арестовали за преступление, которые больше всего было похоже на недоразумение. Бриша Борден взяла непристегнутый детский синий велосипед Huffy. Она попыталась прокатиться на нем по улице в пригороде Форт-Лодердейла, а после бросила. Но было поздно — соседи вызвали полицию.
Спустя какое-то время 41-летний белый мужчина Вернон Пратер был задержан за кражу инструментов на сумму $86,35 в том же округе. Он был более опытным преступником, уже не раз осужденным за вооруженное ограбление, за что отбыл пять лет лишения свободы.
И все же что-то странное произошло, когда Борден и Пратер оказались под стражей. Компьютерная программа, которая предсказывала вероятность совершения каждым из них будущего преступления, сделала удивительный вывод. Борден, чернокожую девушку, — отнесли к высокой категории риска. Белого мужчину Пратера, который уже был судим, ИИ отнес к группе низкого риска.
В июле прошлого года 27 ученых и исследователей из ведущих американских университетов, в том числе Гарварда, Принстона, Колумбийского университета и Массачусетского технологического института, опубликовали открытое письмо, в котором выразили «серьезные опасения» в связи с неточностями, которые могут лежать в основе алгоритмов, используемых для оценки рисков в отношении того или иного подследственного.
Кроме того, ИИ иногда влияет на результаты судебно-медицинской экспертизы. И вот тут проблема становится еще острее.
За каждым ИИ стоит человек
Любая технология уязвима: у нее те же недостатки, что и у людей, которые ее разрабатывают. Примером этого факта является судебное дело в округе Колумбия в 2017 году. Тогда анонимного ответчика представляла поверенная Службы общественных защитников Рэйчел Чикурел.
Прокурор в этом деле первоначально согласился на условный срок в качестве справедливого приговора для ее клиента. Однако потом пришел судебно-медицинский отчет, в котором специальный алгоритм «обвинил» ответчика.
Тогда прокурор передумал и попросил судью поместить обвиняемого в заключение под стражу для несовершеннолетних.
Адвокат ответчика потребовала, чтобы ее команде показали механизмы, которые лежали в основе отчета. Она обнаружила, что сама технология вообще не рассматривалась какой-либо независимой судебной или научной организацией. А сами результаты в некоторой степени основывались на предвзятых с расовой точки зрения данных.
Благодаря стараниям Чикурел судья исключил заключение из дела. Но некорректное программное обеспечение могло так же легко остаться незамеченным, как это часто бывает в уголовных процессах в США.
Что кроется за судебными алгоритмами
Многих людей тревожит и возмущает, что судебные алгоритмы, которые влияют на то, будет ли человек свободен или нет, совершенно непрозрачны.
Почему же так происходит? Компании, которые разрабатывают алгоритмы, часто заявляют, что их методологии, исходные коды и процессы тестирования должны оставаться открытыми и защищаться законом об интеллектуальной собственности.
Они не объясняют, как работает их ИИ, чтобы никто не смог украсть их технология; разработчики пытаются защитить коммерческую тайну.
Но когда эти алгоритмы скрыты от перекрестного допроса в зале суда, обвиняемые вынуждены признать действительность и надежность программ, используемых для предоставления доказательств. Довериться ИИ, который тоже ошибается. Ведь его создают люди.
Чтобы решить проблему, в 2019 году член палаты представителей США Марк Такано (штат Калифорния) представил «Закон о правосудии в судебных алгоритмах в 2019 году». Его цель — обеспечить защиту гражданских прав обвиняемых в уголовных делах и регулирование использования ИИ в судебной экспертизе.
Такано повторно представил законопроект в начале этого года вместе с Дуайтом Эвансом, также членом палаты представителей США (Пенсильвания). Политики уверены, что обеспечение большей прозрачности с помощью технологии обеспечит соблюдение гражданских прав людей во время судебного разбирательства.
Примут ли закон, покажет время.
Редкое исключение, когда компании пришлось раскрыть судебные алгоритмы, стало требование Апелляционного суда штата Нью-Джерси. Он приказал компании Cybergenetics, которая производит судебно-медицинское программное обеспечение, предоставить юридической группе ответчика доступ к исходному коду программы анализа ДНК.
Но такой случай — скорее исключение, чем правило.
Так в чем же проблема?
Алгоритмы машинного обучения отлично подходят для поиска закономерностей в данных. Дайте им достаточно статистики о преступности, и они найдут интересные закономерности в наборе данных.
Но, как справедливо отмечает MIT Technology Review, человеческая интерпретация этой информации часто может «превратить коррелятивное понимание в причинно-следственные механизмы оценки», потенциально искажая реальность.
Это опасная ловушка.
Судебно-медицинские алгоритмы, которые используются для определения вины или невиновности человека в суде, должны оценить со всех сторон. В конце концов от этого зависит судьба человека.
- Читать далее
- Вакцина от COVID-19 не гарантирует полной защиты из-за особенностей иммунитета
- Судмедэксперты восстановили лица трех египетских мумий
- Посмотрите на гибридную яхту с футуристичным дизайном
Власти подготовили план привлечения искусственного интеллекта в суды — РБК
В «Сколково» подготовили концепцию машиночитаемого права. Его внедрение позволит снизить затраты граждан на юристов, а также трансформировать сферу контрольно-надзорной деятельности государства, полагают разработчики
Сергей Савостьянов / ТАСС
Рабочая группа «Нормативное регулирование» при АНО «Цифровая экономика» одобрила концепцию машиночитаемого, то есть понятного для алгоритмов, права и направила ее в Минэкономразвития для подготовки к принятию, сообщили РБК в пресс-службе «Сколково».
«Математическая логика при применении норм права способна существенным образом трансформировать сферу контрольно-надзорной деятельности государства, сделать более предсказуемым и комфортным деловой климат, что способно повлиять на рост инвестиций и экономический рост», — полагают авторы проекта.
Как рассказал РБК вице-президент по развитию и планированию фонда «Сколково» Сергей Израйлит, есть несколько направлений, на которые такие технологии могут повлиять. Так, с их помощью у граждан появится возможность разбираться с разными правовыми документами.
«Подписание договоров, предоставление согласий на обработку персональных данных, выполнение требований различных административных процедур для гражданина может упроститься за счет того, что его программное обеспечение, софт, сможет воспринимать и обрабатывать правовую информацию», — пояснил Израйлит.
Однако в более далекой перспективе эти технологии, по его мнению, позволят повысить качество предоставления услуг, в том числе на цифровых платформах. «Повысится качество защиты интересов гражданина на таких платформах, в том числе при возникновении споров, судебных разбирательств и связанных с ними последствий», — отметил он.
Израйлит также считает, что машиночитаемое право позволит сократить затраты граждан на юристов. «Машиночитаемое право позволяет объединять, систематизировать информацию.
Например, о том, какие у вас обязательства сейчас действуют, какие сроки исполнения этих обязательств, поданы ли против вас иски, какие они, как подготовить линию защиты», — пояснил Израйлит.
В результате в типовых случаях машиночитаемое право позволит «резко снизить стоимость защиты своих интересов», отметил он.
Искусственный интеллект в судопроизводстве
09 апреля 2019
Адвокаты и юристы прокомментировали доклад Виктора Момотова о судебной власти в условиях современных цифровых технологий
Можно ли автоматизировать весь процесс отправления правосудия, то есть заменить судью компьютерной программой или нейросетью?
09.04.2019 | Новая адвокатская газета | Марина Нагорная
- Эксперты «АГ» обсудили возможность замены судьи нейросетью, высказались относительно применения в судах общей юрисдикции системы видео-конференц-связи и оценили качество работы ГАС «Правосудие».
- 4 апреля в ходе пленарного заседания VI Московского юридического форума «Российская Правовая система в условиях четвертой промышленной революции» председатель Совета судей России Виктор Момотов выступил с докладом на тему «Судебная власть в условиях современных цифровых технологий».
- Виктор Момотов отметил, что одними из ключевых элементов четвертой промышленной революции являются «повсеместное внедрение современных технологий в экономику и социально-политическую жизнь, перевод в цифровую форму почти всех общественных коммуникаций и отношений».
По его мнению, применение современных технологий придаст новый импульс таким базовым принципам судопроизводства, как независимость судей, законность, доступность правосудия, рассмотрение дел в разумные сроки, состязательность, открытость и гласность. «Применительно к каждому из этих положений судебная власть в лице Верховного Суда выступает с конкретными модернизационными предложениями», – указал председатель Совета судей.
Об автоматизированном распределении дел, видео-конференц-связи и электронном документообороте
Виктор Момотов отметил, что повышению независимости судей будет способствовать внедрение автоматизированных систем распределения дел между судьями, позволяющих формировать судебные составы с помощью компьютерной программы с учетом уровня нагрузки и специализации каждого судьи.
«Это позволит исключить любые предположения о возможном участии человеческого фактора в формировании состава суда.
Данные системы будут в обязательном порядке применяться с 1 сентября 2019 года – соответствующий закон, подготовленный при участии судейского сообщества, принят в прошлом году по инициативе президента», – подчеркнул он.
Председатель Совета судей указал, что в настоящее время все федеральные суды оборудованы системами видео-конференц-связи, позволяющей дистанционно участвовать в судебном процессе.
Советник ФПА РФ Елена Авакян положительно отнеслась к тому, что Совет судей признает необходимость диджитализации процесса и электронного распределения дел. «Обращает на себя внимание, что приведенные доводы относятся только к судам общей юрисдикции.
Было бы справедливо отметить, что система видео-конференц-связи со сторонами, а не с СИЗО, как сегодня, в основном реализована в системе судов общей юрисдикции, в арбитражной системе существует с 2010 года (в некоторых судах и с 2008 г.), равно как и электронное распределение дел между судьями.
Однако тот факт, что эти наилучшие практики внедряются в суды общей юрисдикции, не может не радовать», – отметила Елена Авакян.
Виктор Момотов указал, что повысить доступность правосудия и сократить сроки судопроизводства позволит внедрение в судебную деятельность электронного документооборота, цифровых механизмов передачи информации.
По его мнению, активно развивается электронное правосудие, которое существенно упрощает и ускоряет подачу документов, снижает временные и финансовые затраты сторон, облегчает ознакомление с материалами дела и работу по подготовке процессуальной позиции.
Также он отметил, что с целью оптимизации процедуры истребования дел из нижестоящих судов и экономии бюджетных средств, а также обеспечения неизменности и сохранности материалов дел судейским сообществом поставлен на обсуждение вопрос о переводе в электронную форму обмена документами между судами. «Применение новых технологических решений, например блокчейн-технологий, станет заслоном от любых недобросовестных действий», – подчеркнул он.
Партнер АБ «Бартолиус» Сергей Гревцов по этому поводу отметил, что ранее неоднократно упоминал о том, что система электронной подачи документов в судах общей юрисдикции работает некачественно, в связи с чем все юридическое сообщество, по его словам, по старинке использует электронную почту.
Нейросеть вместо судьи
Председатель Совета судей указал, что в последние годы в экспертной среде все чаще обсуждается вопрос о том, можно ли автоматизировать весь процесс отправления правосудия, т.е.
заменить судью компьютерной программой или нейросетью, способной анализировать фактические обстоятельства дела, давать им правовую оценку и выносить соответствующее решение.
В Китае, США, Великобритании, Франции и некоторых других странах такие программы уже начинают использоваться, однако в настоящий момент они служат вспомогательным инструментом для анализа документов и не заменяют собой судью.
Виктор Момотов напомнил, что в декабре 2018 года появился первый международный акт, специально посвященный использованию искусственного интеллекта в правосудии, – Европейская этическая хартия о применении искусственного интеллекта в судебных системах, утвержденная Европейской комиссией по эффективности правосудия Совета Европы.
Он отметил, что в Хартии сформулированы пять принципов применения искусственного интеллекта, при этом особый интерес представляет принцип пользовательского контроля, согласно которому судья должен иметь возможность не согласиться с решением, предложенным искусственным интеллектом, и принять собственное решение по делу, а участнику спора должны быть предоставлены возможность прямого обращения к суду без применения искусственного интеллекта и право оспорить решение, принятое последним.
Ранее, комментируя принятую Хартию, директор по акселерации юридических технологий Фонда «Сколково» Антон Пронин указывал, что имеющиеся вопросы дискриминации, поставленные в документе, могут вызвать некоторые осложнения.
«Проблема, которую я вижу в Хартии, заключается в том, что практически в любых накопленных массивах данных, с которыми работает искусственный интеллект, можно узреть дискриминацию какого-либо рода. Конечно, это зависит от того, какой тон или характер заложен в данных, – отмечает он.
– Если вдруг выяснится на большом объеме данных, что по какой-то категории преступлений, скажем, женщин оправдывали чаще чем мужчин, то это будет являться паттерном для искусственного интеллекта (он так обучился). И на базе этого паттерна он и далее будет применять решения».
Председатель Совета судей указал, что процессуальное законодательство требует от судьи при оценке доказательств руководствоваться своим внутренним убеждением, которое является гораздо более сложной категорией, чем программные алгоритмы.
В зависимости от конкретных обстоятельств одни и те же доказательства могут быть в одном деле отвергнуты, а в другом деле, наоборот, приняты за основу.
«Поэтому говорить о замене судьи искусственным интеллектом как минимум преждевременно, а скорее всего невозможно», – посчитал Виктор Момотов.
Он отметил, что при рассмотрении бесспорных требований в приказном производстве не исключается применение искусственного интеллекта, поскольку такая работа не связана с анализом правоотношений сторон и в большей степени носит технический характер. Председатель Совета судей добавил, что в некоторых регионах такие системы уже внедряются.
Наш комментарий:
Роман Речкин, ИНТЕЛЛЕКТ-С, специально для «Новой адвокатской газеты»:
Мнение Виктора Момотова о том, что разумные и справедливые судебные постановления могут выносить только судьи-люди, вызывает серьезное сомнение. Решения российских судей зачастую необъяснимы с точки зрения здравого смысла и человечности, запредельно формальны.
Речкин Роман ВалерьевичСтарший партнер
Старший партнер Группы правовых компаний ИНТЕЛЛЕКТ-С Роман Речкин считает, что то, как российские судьи оценивают обстоятельства дела, вызывает у общества массу вопросов. В качестве примера он указал на постановление, которым судья назначил 25 суток ареста за пост 77-летнему Льву Пономареву.
«Также неясно, какой «разумностью» и «справедливостью» руководствовалась судья Мосгорсуда, ограничившаяся снижением в апелляции срока его ареста до 16 суток, тем самым признав сам арест пожилого человека справедливым и разумным наказанием.
И таких случаев, когда приговор российского суда абсурден, неразумен и даже просто нелеп, можно вспомнить массу», – указал Юрист.
По его мнению, не более «разумным» и «справедливым» было решение Тимирязевского районного суда г. Москвы, которым на 4,5 года за разбой был осужден 28-летний Антон Мамаев. «»Разбойник» при этом страдает прогрессирующей спинальной мышечной атрофией, передвигается на инвалидном кресле и весит всего 18 кг.
Но это не помешало суду продержать его под арестом полгода, а потом приговорить к колонии. Это дело вызвало резонанс, и под его влиянием инвалида отпустили на свободу.
Но в суде при этом настаивали на справедливости прежнего приговора, поскольку «заболевание Мамаева не входит в специальный перечень, по которому лишение свободы не должно применяться в качестве наказания»», – рассказал Роман Речкин.
«Поэтому мнение Виктора Момотова о том, что разумные и справедливые судебные постановления могут выносить только судьи-люди, вызывает серьезное сомнение. Решения российских судей зачастую необъяснимы с точки зрения здравого смысла и человечности, запредельно формальны.
При этом все сомнения и неясности толкуются в пользу государства, бюджета, правоохранительных органов.
В такой ситуации введение судей-роботов чем-то недопустимым уже не кажется, другое дело, что вопрос изменения принципов формирования российского судейского корпуса с искусственным интеллектом, конечно, прямо не связан», – указал юрист.
По мнению члена Совета АП г. Москвы, руководителя практики АК «Аснис и партнеры» МГКА Дмитрия Кравченко, было бы странным отрицать ценность цифровизации и новых технологий во всех сферах жизнедеятельности, в том числе в области правосудия.
«Вместе с тем я полагаю необходимым двигаться последовательно: когда стороны на сегодняшний день каждый раз при кассационном обжаловании должны получать на руки заверенные и сшитые секретарем копии судебных актов, когда архивный документ можно получить два раза в неделю в строго отведенные часы или когда для получения судебного акта апелляции или протокола надо дождаться, когда дело физически поступит в первую инстанцию, говорить об искусственном интеллекте явно несколько преждевременно. К задачам более высокого порядка я бы переходил только после того, как пройдены базовые вопросы», – отметил адвокат.
Дмитрий Кравченко указал, что настороженно относится к автоматизированному правосудию: «Правосудие предполагает наличие правового спора, и у меня есть огромные сомнения, что сегодняшний искусственный интеллект сможет его правильно разрешить.
Другое дело, что бесспорные вопросы не должны доходить до этапа правосудия в этом смысле. Вроде бы речь ведется об этом, но это несколько разные терминологические подходы.
И введение «автоматического правосудия» как понятия и как института, на мой взгляд, может быть на сегодняшнем этапе довольно опасным», – отметил он.
О картотеках судебных решений
Говоря о цифровых технологиях, Виктор Момотов указал, что в настоящее время в Банке решений судов общей юрисдикции, созданном на базе ГАС «Правосудие», содержится примерно 50 млн судебных актов, а в Банке решений арбитражных судов системы «Мой арбитр» – свыше 37 млн. Для удобства пользователей предусмотрена возможность поиска по тексту судебных актов, по категориям дел и по иным параметрам.
По его мнению, это огромный массив юридической информации, который не только обеспечивает максимальную открытость правосудия, но и активно используется для изучения судебной практики по конкретному вопросу и формулирования правовой позиции по делу.
Роман Речкин указал, что сложно не согласиться с Виктором Момотовым в том, что будущее судебного делопроизводства – это электронный документооборот.
«И российская судебная система в этом вопросе выглядит очень достойно за счет эффективно работающей системы электронного документооборота, реализованной ВАС РФ в системе «Мой Арбитр».
Более того, «Мой Арбитр» на сегодня не имеет аналогов в мире, опережая по функционалу, удобству работы и полноте аналогичные системы любых иных стран, включая Германию и Великобританию.
Тем разительнее диспаритет системы «Мой Арбитр» с применяемой судами общей юрисдикции ГАС «Правосудие» – неполной, неэффективной, плохо работающей. В дополнение к этому существует и системная проблема с размещением судами общей юрисдикции принятых судебных актов», – отметил юрист.
Он указал: обращая внимание на приведенную статистику о размещении судебных актов, необходимо учитывать, что суды общей юрисдикции рассматривают в год почти в 12 раз больше дел, чем арбитражные (например, за 2017 г.
в суды общей юрисдикции поступило 22,6 млн исковых заявлений, против 1,9 млн исков – в арбитражные суды), но судебных актов судов общей юрисдикции в Интернете размещено всего лишь в 1,35 раза больше.
«Вопрос с отставанием цифровизации судов общей юрисдикции, как в отношении применяемой ими системы ГАС «Правосудие», так и в отношении систематического неисполнения требования закона о размещении судебных актов, нужно озвучивать и решать, а не обходить молчанием», – подчеркнул Роман Речкин.
Сергей Гревцов считает, что поиск по судебным актам как в арбитражных судах, так и в судах общей юрисдикции равносилен «поиску иголки в стоге сена». По мнению адвоката, имеются явные недочеты в алгоритме поиска и ограниченности его функционала. Именно поэтому сейчас и набирают популярность такие сервисы, как Сaselook и Консультант (сервис поиска по архиву судов общей юрисдикции).
Адвокаты программы «Человек и Закон» – консультации юристов
Идея заменить человека на машину пришла американскому судье Энтони Капице, который рассматривает дела о лишении родительских прав.
У него в производстве постоянно находится свыше 30 материалов и, понятное дело, запомнить все тонкости отношений внутри каждой семьи просто невозможно.
Робот в мантии, как утверждают разработчики, вскоре, может прийти не смену человеку, как и во многих других сферах деятельности. Впрочем, опытные юристы уверенны, искусственный интеллект, ни судей, ни адвокатов без работы не оставит.
«Сама по себе возможность применения электронного помощника при рассмотрении ряда дел, далеко не нова.
Он может облегчить принятие некоторых решений, ведь наши суды перегружены работой, а потому не каждый человек в мантии может помнить все аргументы той или иной стороны.
Однако, принимать конечное решение должен именно человек. Машина лучше запоминает, но вершить судьбы людей не должна», — считает уголовный адвокат Марс Тарасов.
С одной стороны, искусственный интеллект стремится проникнуть во все сферы нашей жизни, понемногу догоняя человеческий.
И если машина с успехом заменяет рабочего на производстве, то почему не может сделать этого в зале суда? Многие говорят о продажности и невнимательности представителей этой ветви власти, а компьютер может сделать точный анализ и вынести разумное, верное решение, руководствуясь разумом, а не сердцем, которого, из-за особенностей конструкции, не имеет.
«Судья выносит решение, руководствуясь законами, профессиональным самосознанием и внутренним убеждением. Это то, чем искусственный интеллект пока похвастать не может. Не бывает двух одинаковых преступлений и только человек может разобраться в мотивах их совершения», — говорит уголовный адвокат Марс Тарасов.
Услышать факты и зафиксировать их компьютер может лучше человека, а вот провести оценку доказательств ему не под силу. Люди руководствуются не только цифрами и холодным разумом, но и сердцем.
Ещё не известно, кто будет писать программы для машины: чтобы надеть мантию, необходимо образование, возраст, юридический и житейский опыт, а создать необходимый алгоритм, возможно, поручат неопытному программисту, который в жизни не сталкивался с системой правосудия.
Стоит отметить, что искусственный интеллект обучаемый, и прогрессирует с каждым днём, но пока, стучать молотком придётся живому существу с его ошибками и предрассудками.
«Возможно, для Соединённых штатов, где существует прецедентное право, позволяющее выносить решение на основе актов, принятых и 10 и 100 лет назад, вполне пригодится электронный помощник, который может проверить архивы.
Эта система имеет ряд плюсов и минусов, но в нашей стране практика складывается по-другому: каждое дело рассматривается индивидуально, а шаблона или алгоритма не предусмотрено», — уверен уголовный адвокат Марс Тарасов.
Искусственный интеллект в суде, боты-юристы и краудфандинг правовых споров – как начинается LegalTech-революция | Rusbase
В октябре 2016 года весь юридический мир взорвала новость о том, что создан алгоритм, угадывающий решения Страсбургского суда с вероятностью до 79%. Создатели алгоритма, ученые из США и Великобритании, уверены, что со временем он будет востребован при отборе и сортировке дел по важности.
Что это: научный эксперимент или начало LegalTech-революции?
О том, как новые технологии проникают в юриспруденцию рассказывает Ирина Цветкова, основатель Platforma и практикующий юрист.
Искусственный интеллект в суде, боты-юристы и краудфандинг правовых споров – как начинается LegalTech-революция Виктория Кравченко
Считается, что инновации в юридической отрасли — больной вопрос прежде всего для самих юристов. Они продают человеко-часы, а внедрение технологий не только упростит бизнес, но и снизит маржинальность. Идея юридических сервисов именно в том и заключается: сделать юридические Услуги понятнее, доступнее и дешевле.
Сейчас технологии в юридической сфере развиваются по следующим направлениям: автоматизация типовых юридических услуг, рост юридических онлайн-сервисов для клиентов, переход системы правосудия в онлайн, а также создание решений на основе искусственного интеллекта.
1. Боты-юристы и конструкторы
В России главной новостью юридической сферы в 2016 году стал запуск «Сбербанком» робота-юриста, который будет оформлять исковые заявления.
Нововведение повлечет за собой сокращение трех тысяч сотрудников банка.
Да, банк предложит возможность переобучения потерявшим работу сотрудникам, тем не менее «Сбербанк» не скрывает, что в будущем планирует запускать целый ряд подобных роботов.
Область права удобна для автоматизации. Типовые функции, которые выполняются юристом изо дня в день, будут в первую очередь автоматизированы.
Причем автоматизацией занимаются не только крупнейшие российские компании, но новые сервисы, где клиенты самостоятельно и онлайн могут подготовить несложное Исковое заявление, составить Договор, зарегистрировать бизнес, задекларировать доходы. Отличный пример — российский онлайн-конструктор документов FreshDoc.
Прекрасно подходят для автоматизации какой-либо одной функции боты в мессенджерах.
Например, Autolaywer, бот компании ГлавстрахКонтроль, поможет сформировать жалобу в страховую компанию на самую распространенную ошибку — неправильно определенный коэффициент бонус-малус для ОСАГО.
Для составления претензии бот предлагает ответить на несколько вопросов: были ли зафиксированы аварии в прошлом, имеются какие-либо скидки и так далее. Эти же вопросы юрист задаст на консультации.
Только юрист возьмет 3–5 тысяч рублей, а боту деньги не нужны.
На Украине юристы lexnet.io в конце декабря 2016 года начали использовать телеграмм-бота для регистрации бизнеса: теперь бот проверяет название компании, помогает выбрать систему налогообложения и запрашивает фото или сканы документов клиента.
Однако и конструкторы, и боты выступают лишь как полезный инструмент, упрощают первый шаг в решении вопроса, но не обладают экспертизой профессионального юриста.
2. Онлайн-юристы и краудфандинг в судебных процессах
Юридические интернет-сервисы для клиентов Pravoved.ru или 48 Prav.ru объединяют широкую базу юристов, которые консультируют по типовым вопросам. Главное преимущество – юридическую консультацию можно получить онлайн, без потери времени.
По мере роста доверия к юридическим онлайн-сервисам, увеличится количество пользователей. Это как с рынком такси — нужен технологический рывок, чтобы сервис стал доступнее.
Именно поэтому юридические консультации переходят в мобайл, например, одобренный Иннополисом сервис ConsApp для круглосуточной консультации с юристом в режиме онлайн-чата.
Если кейс серьезный и требует дополнительного финансирования, то можно воспользоваться краудфандинговыми платформами для привлечения инвестиций в судебные процессы. Это касается в первую очередь коммерческих споров или социально-значимых случаев.
Крупнейшие корпорации обслуживаются топовыми юридическими фирмами, и мало кто рискует вступить с ними в конфликт, предвидя значительные судебные издержки.
Поэтому сервисы по привлечению инвестиций, такие как американский LexShares или российская Platforma, помогут предпринимателям или компаниям-андердогам вступить в спор с гигантами. Инвестор покрывает все юридические расходы и при выигрыше дела получает процент от суммы к взысканию.
Кроме того, Platforma подыскивает адвокатов, работающих по модели no win no fee, когда адвокат получает вознаграждение только в случае выигрыша дела и взыскания денег истцом.
Для поиска финансирования социально-значимых дел есть, например, британский краудфандинговый сервис СrowdJustice. Он был запущен в Америке недавно из-за иммиграционного закона нового президента.
Двум братьям из Йемена, имевшим визу США, отказали во въезде на территорию страны из-за нового указа. Требовалось собрать 15 тысяч долларов для старта рассмотрения их дела.
Сумму собрали очень быстро, и уже через 10 дней молодые люди получили право ступить на землю Америки.
Таким образом, даже если у самого истца нет денег для судебного процесса через подобные сервисы инвестиции можно получить у третьей стороны.
3. Правосудие онлайн
Взаимодействие с судебными органами тоже переходит в онлайн. Еще в 2011 году, пользуясь сервисом «Мой Арбитр», можно было подать заявление в арбитражный суд РФ через интернет. С 2017 года Московский городской суд и районные суды Москвы начали принимать документы в электронном суде через портал mos-gorsud.ru.
Благодаря этому нововведению появится возможность подавать любые процессуальные документы в электронном виде от гражданских исков до жалоб на приговоры. В рамках развития системы электронного правосудия планируется видео и аудио-фиксация всех заседаний. Так что ждем заседаний, слушаний и прений сторон по скайпу.
Важно отметить, что сервисы arbitr.tu и casebook собирают данные о результатах дел и судебных процессов. Следующий шаг здесь – предиктивная аналитика, то есть прогноз вероятности того или иного дела.
4. Юрист с искусственным интеллектом
В США в 2016 было несколько примечальных кейсов внедрения ИИ в сферу права. Так юридическая фирма Baker & Hostetler наняла робота-юриста, работающего на основе искусственного интеллекта.
Росс, разработанный IBM на базе компьютера Watson, будет возглавлять отдел по делам банкротства.
Другая команда американских разработчиков создала алгоритм, который способен предсказать верное решение Верховного суда США в 70% случаев.
В России тоже зарождаются проекты в сфере ИИ-технологий и предиктивной аналитики. Их используют разработчики сервиса Casebook, чтобы рассчитывать вероятность исхода и продолжительности того или иного дела.
Кроме того, в скором будущем разработчики Casebook обещают запустить предсказание банкротства компаний на основе machine learning-технологий. Еще один перспективный проект родился в Казани.
Студенты местного университета создают робота-юриста, способного наподобие американского алгоритма предсказать решения суда.
Legaltech революция
Я уверена, что сейчас происходит настоящая legaltech революция. Она, безусловно, сделает юридические услуги доступнее и коренным образом изменит саму работу юристов.
Мир стремительно меняется, появляются совершенно новые явления нашей жизни, а значит и новые сферы для регулирования в юридическом поле: беспилотные автомобили, изобретения, созданные искусственным интеллектом, права роботов. Так что работа у юристов будет всегда.
Судей разгрузит, взяток не возьмет: как будет работать ИИ в российских судах — Газета.Ru
В Госдуме предложили расширить пилотный проект по использованию искусственного интеллекта в судах на решения по административным взысканиям за нарушение правил дорожного движения.
Эксперты считают, что подобное упрощение документооборота значительно разгрузит судей и поможет им посвящать больше времени серьезным делам.
А вот до полноценного участия роботов в процессах, по их прогнозам, еще минимум 10 лет.
- 25 мая председатель Совета судей РФ Виктор Момотов заявил о запуске пилотного проекта по привлечению искусственного интеллекта (ИИ) к вынесению судебных решений.
- «В этом году в Белгородской области запустили пилотный проект — к трем участкам мировых судей подключили ИИ для подготовки судебных приказов по взысканию налоговых задолженностей», — цитирует его РИА «Новости».
- В Госдуме считают, что практику можно расширить и на вопросы государственной экспертизы дорожного движения.
«Безболезненно искусственному интеллекту можно поручить все налоговые споры, а также оспаривание решений органов власти — например, решений государственной экспертизы дорожного движения. Подчеркну, речь идет о небольших суммах и простых спорах — то есть в данном случае мы говорим о налоговых спорах и административных взысканиях за нарушения правил дорожного движения.
Можно было бы запустить «пилот» и посмотреть, как это работает», — сказал «Газете.Ru» зампред Комитета Госдумы по безопасности и противодействию коррупции Анатолий Выборный.
Госдума может рассмотреть проект о расширении вышеуказанного пилотного проекта уже осенью, добавил он.
Однако окончательное решение всегда будет за федеральным судьей, отметил парламентарий. Если возникнут сомнения в справедливости решения ИИ, его можно оспорить и рассматривать дело будет уже человек. «Поэтому гарантии законности и обоснованности в этом вопросе не вызывают никаких беспокойств», — резюмировал Выборный.
Использование искусственного интеллекта для принятия простых решений, по его словам, существенно разгрузит судей. «Сегодня судья в России за день работает над сотней дел, перегруз огромный. В Америке такая нагрузка рассчитана чуть ли не на полгода. Нам нужно заботиться о том, чтобы наши судьи рассматривали серьезные важные дела вдумчиво», — сказал он.
В целом, налоговые споры отличаются своей спецификой и требуют значительного времени у суда для выяснения всех обстоятельств, рассказала член Ассоциации юристов России (АЮР) Мария Спиридонова.
«На настоящий момент передавать ИИ функции по рассмотрению и разрешению дел по взысканию налогов преждевременно.
Однако если речь идет о нововведениях, применяемых в нескольких участках мировых судей в Белгородской области, где ИИ используется для подготовки судебных приказов о взыскании задолженности по налогам, то можно утверждать, что они своевременны и необходимы.
В порядке приказного производства рассматриваются требования бесспорного характера, что исключает необходимость непосредственного участия судьи в рассмотрении дела и составлении проекта судебного приказа и проверки банковских реквизитов», — отметила она.
По ее словам, ИИ может быть использован для анализа процессуальных документов, поиска применимых норм права, обработки правоприменительной практики, автоматической загрузки судебных актов в открытый доступ.
«При этом на сегодняшний день вопрос использования искусственного интеллекта в судопроизводстве не урегулирован, в законодательстве отсутствуют нормы, регламентирующие порядок его применения», — заявила юрист.
«Упрощенный документооборот»
Пилотный проект в Белгородской области — это, по сути, упрощение документооборота, пояснил федеральный судья в отставке, заслуженный юрист России Сергей Пашин.
«Это работа оформительская. «Пилот» призван упростить даже не работу судей, а их помощников, которые заняты, в основном, описыванием подобного рода решений.
Однако на судье все равно лежит ответственность за соответствие решений закону.
Это немного напоминает автотехнические экспертизы, которые тоже проводятся с использованием компьютерных программ, но ответственность несет человек-Эксперт», — уточнил он.
По мнению юриста, переложить на ИИ можно по большей части вопросы гражданского судопроизводства, где действуют всякого рода упрощенные формы процесса. «Что касается уголовного судопроизводства – это гораздо сложнее», — подчеркнул он.
Похожей позиции придерживается и Глава общественного совета при МВД России Анатолий Кучерена.
«У меня нет никаких сомнений, что мы пойдем в использовании искусственного интеллекта дальше, но это возможно не во всех вопросах, особенно если речь идет о сложных уголовных делах. Человеческий фактор должен присутствовать, а технологии могут быть помощниками», — считает эксперт.
Сам же пилотный проект Кучерена оценил положительно. ИИ разгрузит судей от рутинных вопросов и излишней нагрузки, сказал он.
На текущий момент искусственный интеллект не выполняет непосредственно функций судьи, пояснил ведущий юрист Объединенного юридического центра «Парфенон» Павел Уткин. Его максимум – это расчет задолженностей при их наличии, проверка документов и платежных реквизитов, а также подготовка юридической документации.
То есть фактически это работа, которую в определенной степени выполняют помощники судьи, только ИИ делает это быстрее и здесь нет фактора человеческой ошибки или коррупции, уточнил юрист. Непосредственно о том, что ИИ может заменить судью, на данный момент разговоров нет и вряд ли они начнутся.
«Что касается работы ИИ в правоохранительных органах и анализе не только налоговых споров, но и уголовных, то на настройку такого помощника уйдет очень много времени и денежных средств – как минимум на обеспечение хранения всех материалов, нормативно-правовых актов, кодексов, на основе которых он сможет делать какие-то выводы.
Кроме того, не стоит забывать, что в России более 95% приговоров – обвинительные. И не потому, что более 95% людей, оказавшихся на скамье подсудимых, действительно виновны, а потому, что так работает система.
Подключение такого помощника может очень сильно эту систему расшатать, поэтому о том, что ИИ будет помогать при расследовании или выступать инструментом анализа при слушаниях, не может идти и речи.
До этого еще как минимум лет 8-10», — подытожил Уткин.
«До новой эры далеко»
«ИИ — это система, имитирующая такие человеческие активности как рассуждение, сопоставление, созидание. Главным преимуществом ИИ является то, что он не подвержен недостаткам и слабостям, которые связаны с человеческим фактором: ИИ непредвзят и максимально эффективен.
У ИИ не может быть плохого настроения, он не забудет проверить информацию в какой-либо базе потому, что его отвлек звонок по мобильному телефону, в конце концов ему незачем брать взятки — а это очень серьезный козырь», — объяснил создатель цифровой платформы для анализа больших данных «Глаз Бога» Евгений Антипов.
Внедрение систем на основе ИИ, по его мнению, позволяет в разы повысить скорость решения различных задач. Причем, такая система будет постоянно находиться в режиме самостоятельного обучения.
При этом искусственный интеллект эффективен лишь в связке с человеком, подчеркнул директор по корпоративным продажам ESET в России Антон Пономарев.
«В кибербезопасности искусственный интеллект показывает наивысшие результаты только при взаимодействии с человеком.
В эксперименте по предсказыванию развития хакерских атак отдельно ИИ и отдельно люди-аналитики показали меньшие результаты, чем ИИ и человек в одной команде.
Уверен, что картина будет характерна для любой сферы, где от итогового решения зависит многое – судьба человека, его жизнь и свобода», — рассказал он.
Машинное обучение ограничено правилами, созданными руками человека, предупредил эксперт. А человеку свойственны ложные предубеждения, слабости, ошибки и неосведомленность. Поэтому на данный момент искусственный интеллект ограничен человеческим восприятием действительности.
«До новой эры, когда ИИ будет независим от человеческого фактора, еще далеко. Истинный ИИ должен быть безграничен и может делать что угодно, а при правильном обучении будет справедливым и беспристрастным», — заключил Пономарев.