— Станут ли автопилоты настолько точны и надежны, что производители машин возьмут на себя ответственность за их работу, разрешив тем самым вопрос «кого сделать крайним»?
— Мы уже запустили пилотный проект Drive Me для автолюбителей Швеции, чтобы они могли ездить в автономном режиме на некоторых дорогах. Получено разрешение от властей Гетеборга — если что-то случится во время беспилотного передвижения по вине техники, издержки покроет Volvo. Думаю, этот подход станет нормой и для других автокомпаний. Ведь во время автономного движения люди хотят тратить время не на контроль за адекватностью робота, а на другие занятия. При этом ответственность на машину возложить нельзя — значит, отвечать должен тот, кто ее сделал.
— Как на беспилотники смотрят страховые компании?
— Страховка для автомобилей с автономным управлением будет стоить гораздо ниже, чем для обычных. Потенциально ремонт беспилотников окажется дороже, но если вы посмотрите на статистику тестов, то почти все ДТП самоуправляемых машин с обычным транспортом происходят как раз по вине человека.
— Так ли необходимы беспилотникам высококачественные карты? Могут ли машины сами оцифровывать маршруты?
— Процесс глубокого обучения без карт теоретически возможен, но на практике небезопасен. Гораздо лучше, когда система опирается на точную картографию. Идеальный вариант, если работают оба процесса: автопилот в движении по мере «прощупывания» окружения сравнивает данные с картой и, если замечает расхождение, сообщает об этом в облако. Так «первичная» карта в дата-центре сможет постоянно обновляться самими беспилотниками.
— Не пора ли перемещать глубокое обучение беспилотников в регионы со сложными условиями (грязь, осадки, разбитые дороги)?
— Насколько я знаю, именно в этом направлении уже работает Яндекс в России. Но мы должны быть последовательными. Сейчас ведется много испытательной работы на автомагистралях. Формально там не нужно думать о пешеходах, дорожная разметка четкая, все движутся в одном направлении и не бывает перекрестков. Добившись полной надежности здесь, сможем двигаться дальше, а заодно — заслужим доверие клиентов. Далее нейросети научат идентифицировать не только полосы дорожной разметки, машины и людей, но и дорожные знаки, обочины, открытые пространства. Это все необходимо, чтобы автопилот продолжал работать по ряду других визуальных подсказок, когда машина съезжает с размеченной дороги.
— Что будет, если автономный автомобиль, интеллект которого обучен в Калифорнии, «переселить» на улицы Пекина, Стамбула или Каира с враждебной культурой вождения?
— Конечно, сначала создается некое универсальное решение, но существуют и разные правила ПДД. В Калифорнии, например, можно поворачивать направо на красный свет, в Германии нельзя. Знаки написаны на разных языках, отличаются правила проезда перекрестков... Глубокое обучение в сочетании с подгрузкой адаптированного программного обеспечения под каждую страну позволит беспилотникам верно интерпретировать местные условия. Но электроника вряд ли будет учитывать агрессивный стиль вождения или имитировать хамство на дорогах. В «подстройке» темперамента роботов под трафик нет необходимости, ведь пассажиры в автономном транспорте перестанут обращать внимание на пробки и светофоры — они будут смотреть фильмы, говорить по телефону, писать письма, работать. Станет путь на 5-10 минут дольше ввиду спокойного ритма — что с того? Вы уже выиграли куда больше из-за того, что не нужно постоянно жать на газ и тормоз, следить за дорогой и другими участниками.
— Датчики, бывает, ломаются, процессоры горят... Не требуется ли системам автономного управления многократное резервирование?
— Зависит от уровня автономности. Когда мы говорим о Level 3, в котором действия системы страхует водитель, в дополнительной аппаратной подстраховке смысла нет. С переходом к Level 4, когда человек может спать, резервная система потребуется. А на пятом уровне, когда водитель окончательно превращается в пассажира и вообще лишается органов управления, возможно, придется подстраховать и резервную систему. Для этого мы и внедряем в свои платформы «избыточность». Если идут два одинаковых процесса, то и ошибки будут одни и те же — внезапная проблема не будет решена. А вот когда параллельно работает нескольких процессов по разным типам обработки — одна подсистема, предположим, распознает объекты, другая — открытое пространство — то сверка данных позволит распознать момент, когда что-то идет не так, и разрешить конфликт по сигналам резервной системы с другим алгоритмом работы. Также и с сенсорами. Если на какую-то из камер попадает грязь, недостаток информации восполняется другими сенсорами и камерами. В такой момент машина выдает предупреждение и определяет — возможно ли дальнейшее движение. Но ключевой момент — наличие запасных вариантов.
— А вдруг сам главный «мозг» выйдет из строя? Не придется ли на этот случай ставить на автомобили сразу два суперкомпьютера?
— Да, такое возможно, некоторые разработчики дублируют и «мозг».
— Но это будет весьма дорогая штука.
— Конечно, два iPhone стоят вдвое дороже одного. Но я не вижу прямой связи между затратами на «железо» и конечной ценой автомобиля. Для примера, Tesla устанавливает нашу платформу Drive PX в каждую машину. Вам, как потребителю, еще при покупке автомобиля оставляют право решать — платить за автопилот или нет. Если он не нужен, никто не будет вынимать начинку и камеры. Если нужен — его просто включат через софт. В любом случае выгода для производителя заключается в том, что каждая машина независимо от вашего выбора собирает дорожные данные для облака и тестирует алгоритмы автономности в фоновом режиме. А пользователь этого даже не замечает, ведь на самом деле автомобиль находится под его контролем.
— Не станут ли беспилотники «автопсихами», если из дата-центра им зальют вирусную программу? Такое может произойти по вине хакеров?
— В теории это возможно, если кто-то внутри компании захочет дискредитировать автомобили своей марки вредоносным кодом, но на деле, как вы понимаете, это скорее вопрос внутреннего контроля и безопасности. Что касается защиты от взлома, то я вижу следующее. Сами автопроизводители проблему безопасности всерьез пока не рассматривали, считая бортовую электронику закрытой системой (даже когда начали добавлять модемы, Wi-Fi, Bluetooth и разные беспроводные датчики внутри самой машины). Но мы же пришли из компьютерной индустрии, где применяются самые передовые технологии кибербезопасности: шифрование, авторизация, специальные ключи, файерволы для разделения систем, виртуализация, искусственный интеллект для слежения, системы мониторинга обновления. Эти знания мы стараемся донести и до автопрома, предоставляя заодно инструменты и ресурсы. Другой вопрос, как они этим воспользуются...