Waymo отзывает почти 4000 робота­кси из-за бага

Waymo отзывает почти 4000 своих беспилотных такси: из-за ошибки в программном обеспечении как минимум 13 машин въехали на участки трасс, закрытые на ремонт. Компания подала добровольный отзыв в Национальное управление безопасности дорожного движения США (NHTSA) и говорит, что поправку к софту сейчас разрабатывают. Пострадавших нет.

Картина вполне конкретная. Машины не распознавали знаки закрытия съездов и предупреждения о дорожных работах на трассах. По данным заявки, софт либо ставил в приоритет объезд других опасностей на дороге, либо вовсе не видел зону работ. Шесть случаев произошли в Финиксе в апреле, ещё семь — в районе Сан-Франциско в мае. После того как 18 мая сразу несколько машин въехали в активные зоны ремонта, Waymo на следующий день сняла все робота­кси с трасс, а 8 июня совет по безопасности компании решил объявить отзыв.

Почему программный «отзыв» — это другое

Когда обычный автопроизводитель отзывает машины, обычно речь о замене физической детали. Здесь же «дефект» — это поведение, зашитое в модель вождения: система систематически неверно считывала определённый тип дорожной ситуации. Waymo заявила, что «нашла зону для улучшения в работе вблизи зон ремонта на трассах», и исправление приедет обновлением по воздуху, а не визитом в сервис. Это и есть новая форма автомобильной безопасности: и опасный изъян, и его починка живут в коде.

Что это значит для вас

Если вы ездите в таком такси, успокаивает порядок событий: Waymo сама заранее сообщила регуляторам и сняла машины с трасс ещё до того, как отзыв оформили, — а не после аварии, которая вынудила бы это сделать. Отрезвляет другое: это уже шестой отзыв Waymo с начала работы, и спусковым крючком стала бытовая вещь — дорожные работы. Беспилотники реально хороши в рутинных 99% и всё ещё спотыкаются о странные пограничные случаи, которые человек проходит не задумываясь.

Моя оценка: примерно так и должно выглядеть ответственное внедрение — заметить закономерность, сообщить о ней, остановить парк, пропатчить модель. Следить стоит не за тем, ошибаются ли автономные авто — они будут ошибаться. А за тем, продолжают ли компании быстро выносить эти ошибки наружу, а не замалчивать их. По этому счёту добровольный отзыв с разложенными по полочкам случаями — это обнадёживающая версия плохой новости.