Как нейросети могут навредить водителям из России?

Авто Mail.ru выяснил у экспертов, чем обернется подключение нейросетей к автострахованию и каршерингу

Искусственный интеллект и другие передовые технологии, с которыми мы давно и прочно ассоциируем будущее человечества, часто вызывают опасения из разряда «а что если машины захватят власть и поработят людей»?

Поэтому, когда стало известно о планах подключения нейросетей у нас в России к таким обыденным процессам, как удаленное определение повреждений машины по фотографиям и оценка ущерба, коим прочат успех в сферах страхования, каршеринга и продажи автомобилей с пробегом, мы сразу же отправились к независимым экспертам с вопросами о рисках, точности и уязвимости подобных систем.

Чем рискуют водители и компании, привлекая к работе нейросети?

«У клиентов компании не возникает никаких рисков, — уверена руководитель Центра исследований и работы с большими данными „Ренессанс страхование“ Александра Григорьева. — В конце концов, даже если они не согласны с оценкой своего ущерба, полученной автоматически, то могут высказать претензию, и случай будет рассмотрен в ручном режиме. Для страховщика же основной риск состоит в том, что ошибки нейросети, невыгодные для страховой компании, могут остаться незамеченными».

Источник: depositphotos.com

«Пока продукт накапливает базу по оценке возможных скрытых повреждений, основной риск для пользователей сервиса может заключаться в неполной оценке повреждений автомобиля, — считает эксперт в области урегулирования страховых случаев по автотранспорту Егор Остроушко. — Это повлечет за собой „двойную“ нагрузку на пользователя тем, что ему все равно придется совершить визит в страховую или оценочную компанию».

Какие повреждения машины может распознать нейросеть и как она это делает?

«Распознавание повреждений можно разделить на две части: распознавание частей/зон автомобиля и распознавание самих повреждений, — поясняет эксперт по работе с большими данными в области страхования Александра Григорьева. — Просто повреждения без локализации — это бесполезная информация. С первой задачей удается справиться с довольно высоким уровнем точности. Особенно для распространённых типов кузова. Вторая задача сложней. Блики, грязь, отражения, тени и т.д. сложно отличить от мелких вмятин и царапин. С расстояния 1-2 метра это не всегда под силу даже опытному автомобилисту.

К тому же, сами повреждения могут иметь очень разнообразный вид: вмятины, царапины, сколы, отсутствие частей автомобиля, битые фары и стекла, изломы, разъевшиеся щели. С точки зрения компьютерного зрения, перечисленные вещи выглядят совершенно по-разному. С более крупными повреждениями удается справляться лучше, но, на практике, мелкие повреждения — более важный сегмент, т. к. с ними обращаются чаще всего».

Насколько точны и эффективны в своей работе нейросети на самом деле?

«Насколько точно это будет работать покажет практика. Естественно найдутся помехи в виде грязи, снега, освещения и, что важно, камер на которые все фиксируется, — рассказал директор по развитию международной сети автосервисов FIT SERVICE Александр Гараньков. — Опираясь на то, что мы сегодня видим при разработке собственных продуктов, в которых есть процесс фотографирования автомобиля, в частности, в FIT Check, большое влияние оказывает качество камеры. Конечно, мы делаем большую ставку на аппаратное обеспечение процесса, но не у каждого будет с собой новый IPhone, который позволит максимально качественно снять повреждения».

«На сегодня искусственный интеллект по стандартизированной маске фото автомобиля распознает не менее 85% автомобильных марок и модификаций. По фотографиям наружных повреждений точность распознавания близится к 95%, что является весьма хорошим показателем, так как не менее 50% страховых случаев в стране — это именно наружные повреждения автомобиля, — считает эксперт Егор Остроушко. — Таким образом, синергия обучаемого искусственного интеллекта на скрытые повреждения и практически полноценная работа по внешним — даст очень хороший эффект для потребителя услуги на временном лаге 2022-2023 гг.»

Какие у нейросетей уязвимости и могут ли ими воспользоваться мошенники?

«Если у мошенника есть полный доступ к нейросети и ко всем ее параметрам (которых десятки миллионов), то можно придумать способы обмануть систему, — полагает эксперт „Ренессанс страхования“ Александра Григорьева. — Например, так отредактировать фото, чтобы автоматически расчетная стоимость ремонта была в разы больше истиной. Однако скорее всего, такое фото будет мгновенно распознаваться живым сотрудником как странное. А крупные выплаты проходят дополнительные проверки человеком, мелкие же не принесут мошенникам большой выгоды.

Источник: depositphotos.com

К тому же, придется одинаково отредактировать весь комплект, что может оказаться совсем не просто. И при любом обновлении системы все придется делать заново, для чего сначала потребуется украсть новую версию нейросети. Если же учесть, что такая система состоит из множества нейросетей (и других моделей машинного обучения), вспомогательных баз данных и прочего, то такой сценарий кажется малореалистичным.

Если у мошенника нет доступа к самой сети, но есть возможность прогонять фотографии и смотреть на результаты, то у него появляется шанс научиться правильно редактировать фото для максимизации ущерба. Это придется делать методом проб и ошибок, что будет весьма трудоемко. К тому же, редактирование фото почти неизбежно оставляет следы, которые можно научить распознавать другую нейросеть».

«Преждевременно говорить о заинтересованности мошенников в такой системе, — полагает директор по развитию сети автосервисов Александр Гараньков. — Поскольку пока не ясно — зачем это вообще мошенникам? Через систему скорее всего будут пропускать повреждения по мелким ДТП и неосторожности водителя, а крупные и более сложные аварии скорее всего через эту систему не пойдут. А именно в этом сегменте ДТП чаще всего пытаются применить какие-то мошеннические действия».

Подпишитесь на нас