Полностью «самостоятельное» транспортное средство создать невозможно, считает кандидат технических наук Ольга Ускова.

Водитель должен иметь возможность в любой момент взять ситуацию под свой контроль, подчеркивает эксперт.

О том, сможет ли человек когда-нибудь полностью доверить свою жизнь машине, в интервью «Росбалту» рассказала Ольга Ускова, кандидат технических наук, президент Национальной ассоциации инноваций и развития информационных технологий, зав. кафедрой инженерной кибернетики Национального исследовательского технологического университета «МИСиС».

 — Ольга Анатольевна, вы уже 9 лет занимаетесь разработкой систем искусственного интеллекта для первых отечественных беспилотных автомобилей. И однажды заметили, что такой автомобиль, по сути, из вещества становится существом. А как это?

 — Вдохнуть в автомобиль душу, конечно, нельзя. Но снабдить его искусственным интеллектом вполне реально, причем уже в недалеком будущем. Этим мы сейчас и занимаемся. В каком-то смысле «умный» автомобиль действительно становится существом: он как бы начинает мыслить, принимать решения, реагировать на внешние раздражители.

Сегодня интенсивно развиваются три ключевых направления в создании технологических разработок, обеспечивающих «одушевление» машин. Первое — техническое 3D-зрение беспилотника. То есть в идеале — полный аналог работы человеческого зрительного аппарата.

 — Как именно достигается 3D-зрение в ваших интеллектуальных системах?

 — Они имитируют работу глаза и смогут работать в сложных погодных условиях и на дорогах плохого качества, в том числе там, где нет дорожной разметки и четко выделенного полотна, освещенного солнцем. Видеокамеры, установленные в кабине машины, «ловят» встречные объекты и анализируют их.

Мы используем принцип, в основе которого лежит метод внутреннего самоподобия дорожной сцены. То есть научились выявлять наиболее общие, фундаментальные признаки, присущие дорожному полотну, будь это автомагистраль, проселочная или грунтовая дорога. Это позволяет распознавать дорогу с высокой точностью и обеспечивать устойчивую работу разработанных на основе новой технологии алгоритмов на различных конфигурациях полотна и в разных условиях: на поворотах, подъемах, спусках, в ночное время, а также в неблагоприятных погодных и климатических условиях. Система выстраивает из набора изображений объемный виртуальный коридор, в рамках которого четко видно, что, например, обозначенная двумя колеями в снегу полоса — это именно дорога.

Кроме того, в 3D-зрении беспилотника используется свойство гиппокампа — части мозга, которая отвечает за краткосрочную память. То есть за все то, что вы видели, осознали, но через несколько секунд забыли, сбросили из памяти как ненужные использованные данные. Например, вы ведете автомобиль и краем глаза видите, что на расстоянии 200 м впереди нетрезвый человек движется в направлении дороги. Однако вы на этом не фокусируетесь. Эта помеха не является объектом вашего рассмотрения, поскольку пьяный не находится на дорожном полотне или обочине и, по вашим расчетам, не успеет до него дойти. Вместе с тем мозг на основе существующей практики и вашего опыта как водителя сообщает о том, что идет неадекватный человек и, теоретически, он может выпрыгнуть под колеса. Поэтому, если вы аккуратный водитель, то на всякий случай либо перестроитесь в другой ряд с целью избежать наезда, либо притормозите, чтобы иметь возможность для маневра. Эта особенность человеческого мозга была запрограммирована в виде отдельной системы, которая обеспечивает безопасность движения на дорогах, особенно в городской местности, за счет того что хранит и анализирует больше данных, чем дают сами дороги.

Третье направление — нейронная сеть глубокого обучения искусственного интеллекта, анализ и управление ситуацией на дороге. Иначе говоря, все, что дает опыт и интуицию автоматическому водителю. По сути — почти человеческие поведенческие реакции, когда надо в доли секунды принимать решение по выбору действий в соответствии с полученной информацией.

Кстати, эта задача считается одной из самых сложных, поскольку тут действует бесконечное количество алгоритмов. К примеру, как робот должен реагировать на ситуацию, когда между автомобилями внезапно пролетает крупная птица, или если, скажем, на дорогу выскакивает кот, а вдогонку за ним выезжает бабушка в инвалидной коляске и начинает, выписывая «восьмерки» на полотне, ловить руками кота? А ведь это не выдумка. Таких случаев, зафиксированных видеорегистраторами, множество. Запланировать на 100% все те неожиданности, которые происходят на дороге, нельзя. Можно лишь дать системе наиболее адекватные формулировки для принятия решений и поведения в нестандартной ситуации.

 — В США уже произошло первое и пока единственное ДТП со смертельным исходом с участием автомобиля под управлением компьютерной системы. 7 мая 2016 года автомобиль Tesla Model S с включенной системой автопилота протаранил на перекрестке тягач с прицепом. Водитель Tesla не успел взять управление на себя и погиб. О чем вам говорит этот случай?

 — Мне кажется, что в этой аварии существенную роль сыграли две ключевых ошибки. Первая — из области рекламы. Не надо рекламировать беспилотность до того, как она реально достигнута. Это сбивает с толку потребителя, и он убирает руки с руля. Хотя во всех документах, сопровождавших попавшую в ДПТ «Теслу», было написано, что водитель не имеет права убрать руки с рулевого колеса.

Второй момент — ошибка математики. В дорожной ситуации имел место довольно простой случай: фургон пересекал дорогу перед движущимся автомобилем. Но грузовик был светло-серого цвета, и небо тоже было серое, поэтому фургон слился с ним с точки зрения системы. И она не просигнализировала о наличии объекта на дороге.
 
 — В 2015 году представители концерна Tesla объявили, что их автомобили будут полностью автономны и смогут без вмешательства водителя выполнять все основные действия в процессе езды. В том числе, самостоятельно двигаться по дорогам общего пользования, высчитывать безопасную дистанцию до соседнего транспортного средства, замедлять и ускорять свое движение, обгонять впереди идущие машины и перестраиваться с одной полосы в другую. Когда такие заявления прозвучали, нашлось немало водителей-экстремалов, которые во время движения пересаживались на заднее сиденье и снимали на видео, как автомобиль самостоятельно мчится по хайвею…

 — На автомобилях Tesla до последнего времени была установлена система помощи водителю израильской компании Mobileye (о прекращении сотрудничества между Mobileye и Tesla было объявлено в июле 2016 году), прямые контакты с которой имеют более 20 автопроизводителей, в том числе Volvo и Mercedes-Benz. В ней предусмотрен, например, режим «хайвей пайлот» — это когда на четко размеченном хайвее автопилот не занимается направлением движения, а только анализирует расстояние до ближайших машин. При правильном использовании этого режима, в принципе, действительно можно ехать с разрешенной скоростью и не держаться за руль. Но это запрещено законом во всех странах мира. К тому же, если водитель так поступает, то совершает заведомую ошибку — поскольку в любой момент на дороге может произойти какая-то непредвиденная ситуация.

— Помимо этого, гендиректор Tesla Илон Маск предупреждает, что тут есть и реальная опасность для всего человечества, поскольку неправильный алгоритм или даже одно ошибочное решение распространится на все беспилотники, связанные между собой по беспроводной сети, и это может спровоцировать тысячи ДТП с человеческими жертвами.

 — Как мы видели на примере теракта в Ницце, малообразованный накачанный наркотиками фанатик за рулем грузовика гораздо опаснее, чем защищенный программами безопасности робот. На взлом системы безопасности робота требуется очень серьезный ресурс, а чтобы опоить или обколоть отдельно взятого человека и совершить теракт, — намного меньше.

Но, в любом случае, мы против управления автомобилем из «облака». Технологии должны устанавливаться на конкретную, отдельно взятую машину — вместе с соответствующей защитой.

Понятно, что аварии с беспилотниками все равно будут происходить. Но главная задача — добиться, чтобы не было хотя бы смертей.

 — Так или иначе, беспилотные автомобили появятся на наших дорогах уже в ближайшем будущем. Какие функции в их управлении останутся за человеком, а что возьмет на себя автопилот?


 — Сейчас водитель беспилотника обладает всеми необходимыми ему подсказками — это парковка, система удержания полосы, «хайвей пайлот» и т.п. Однако машина не имеет права перехватить управление. То есть руки водителя должны быть на руле, и он в любой момент обязан иметь возможность вмешаться в ситуацию.

Следующий уровень — когда система ведет машину, а вы можете отдохнуть. Пока он не достижим. В 2018—2019 годах у нас и у Mobileye появится полноценный режим «трафик пайлот» — система управления машиной в пробке, а также ряд других. Но руки с руля убирать будет все равно нельзя.

 — Почему?

 — Беспилотные технологии еще недостаточно обкатаны. Кроме того, правила дорожного движения во всех странах не предусматривают наличие смешанного трафика — когда робот и неробот движутся в одном потоке. За год или за два эту задачу полностью не решить.

Беседовал Владимир Воскресенский