Лента новостей
На НТВ вышла новая рубрика адвоката Рубена Маркарьяна «Дата в праве»
Судебная медицина, раздел имущества и правовой статус граждан
Судебный процесс – в учебном формате
Мнения
Эффект плодотворного сотрудничества
Интервью
Закон создан для блага человечества и справедливости
Необходимо учитывать риски использования ИИ адвокатами
Советник ФПА РФ Ольга Шварц выступила на заседании секции «Искусственный интеллект» Совета по развитию цифровой экономики при Совете Федерации Федерального Собрания Российской Федерации
19 июня в рамках заседания секции «Искусственный интеллект» Совета по развитию цифровой экономики при Совете Федерации Федерального Собрания Российской Федерации (далее – Секция) состоялось экспертное обсуждение актуальных вопросов правоприменения в сфере искусственного интеллекта (ИИ). В обсуждении приняли участие представители органов государственной власти, банковской сферы, юридического и научного сообществ. Федеральную палату адвокатов Российской Федерации на мероприятии представляла советник ФПА РФ Ольга Шварц. В своем выступлении она остановилась на рисках использования ИИ адвокатами, которые были выявлены в зарубежных юрисдикциях, и способах управления этими рисками. Изучение зарубежного опыта помогает при разработке рекомендаций по использованию ИИ российскими адвокатами, над которыми работают в ФПА РФ, отметила Ольга Шварц.
Заседание Секции было посвящено обсуждению актуальных проблем и вопросов в сфере правоприменения по делам, связанным с использованием технологий ИИ, а также формируемой судебной практики в России и за рубежом.
Открыл мероприятие сенатор Российской Федерации, заместитель председателя Совета по развитию цифровой экономики при Совете Федерации Артем Шейкин. В своем приветственном слове он заострил внимание на том, что в настоящее время размер страны, ее ресурсы уже не являются столь значимым преимуществом, как раньше. Сейчас лидерство определяет то, насколько успешно в государстве проходит цифровизация, как в нем развиваются технологии, в том числе технологии ИИ. «Тема сегодняшней нашей дискуссии, она, я считаю, очень актуальная, поскольку правоприменительная практика серьезно опережает регуляторику. На государственном уровне у нас уже ведется работа, и мы формируем системные подходы к регулированию», – отметил сенатор, напомнив, что Минцифры России был подготовлен законопроект об искусственном интеллекте, который сейчас широко обсуждается.
С приветствием выступил также руководитель Секции, кандидат юридических наук, член Независимой научной группы по ИИ при ООН, управляющий директор Центра человекоцентричного ИИ ПАО Сбербанк Андрей Незнамов. Он выразил признательность Совету Федерации Федерального Собрания Российской Федерации, предоставившему трибуну для встречи экспертов, представителей органов власти и научного сообщества, для обсуждения актуальных вопросов в сфере ИИ. Далее Андрей Незнамов выступил в качестве модератора дискуссии.
В выступлениях участников заседания Секции были подняты вопросы о практике рассмотрения судами дел, связанных с использованием технологий ИИ, о проекте Федерального закона «О поддержке развития технологий искусственного интеллекта в Российской Федерации», о регулировании ИИ на финансовом рынке, о концепции нормативного регулирования использования ИИ, о модели регулирования ИИ, о проблемах правообладания в технологиях с использованием ИИ, о защите прав человека в эпоху ИИ, о защите интеллектуальных прав при использовании ИИ, а также о правоприменении в сфере ИИ и другие.
Советник ФПА РФ Ольга Шварц для своего выступления выбрала тему «Международный опыт регулирования использования ИИ адвокатами». Она отметила, что адвокатами очень широко используются элементы ИИ, в том числе большие языковые модели. Тем не менее, несмотря на удобство ИИ для анализа судебной практики и подготовки документов, использование этих технологий сопряжено с серьезными профессиональными рисками, которые уже приводят к дисциплинарной ответственности адвокатов за рубежом. Поэтому руководящие органы адвокатских сообществ многих стран начали принимать рекомендации по вопросу использования искусственного интеллекта адвокатами.
Спикер сообщила, что Федеральная палата адвокатов Российской Федерации также приступила к разработке рекомендаций для российских адвокатов, опираясь в том числе на изучение зарубежного опыта. Для этого создана специальная рабочая группа, пояснила она.
Ольга Шварц остановилась на рисках использования ИИ, которые были выявлены в зарубежных юрисдикциях, и способах управления этими рисками. Во-первых, существует риск галлюцинирования ИИ (использование в ответах выдуманных ссылок и фактов), поэтому обязательным условием работы с ИИ должна стать тщательная проверка результатов человеком.
Во-вторых, необходимо учитывать риски нарушения авторских прав при обучении моделей и возможность проявления расовой или половой дискриминации, заложенной в алгоритмах ИИ.
В-третьих, существует риск нарушения адвокатской тайны при загрузке сведений о доверителе в публичные модели ИИ. Оптимальным решением, по мнению советника ФПА РФ, может стать использование обезличенных данных для загрузки в публичные модели ИИ или внедрение локальных моделей ИИ внутри защищенного контура крупных адвокатских образований.
В-четвертых, существует риск возникновения «информационного беспорядка», когда увеличение количества запросов к ИИ вызывает рост генерации недостоверных ответов со стороны ИИ.
Подводя итоги обсуждения, Андрей Незнамов обратил внимание на формирующуюся «агентизацию экономики». Он отметил, что на недавнем Петербургском международном экономическом форуме был представлен ряд платформ, в которых ИИ-агенты взаимодействуют между собой, совершая при этом юридически значимые действия. «Значит, мы приходим в очень важную эпоху, которую до сих пор не рассматривали – эпоху, где нам нужно дать юридическую квалификацию фактически автономным действиям программных алгоритмов», – заключил он и предложил желающим из участников заседания Секции войти во вновь создаваемую рабочую группу, которая будет заниматься оценкой юридических последствий появления и деятельности ИИ-агентов, а также исследовать целесообразность корректировки законодательства в связи с этой деятельностью.
Завершил заседание Секции заместитель председателя Совета по развитию цифровой экономики при Совете Федерации Артем Шейкин, отметивший яркую дискуссию, которая состоялась в рамках мероприятия.
Сергей Гусев