Waymo отзывает почти 4000 роботакси из-за проблемы на автостраде

Waymo отзывает почти 4000 беспилотных такси после того, как программная ошибка привела к тому, что по меньшей мере 13 из них заехали в закрытые зоны дорожных работ на автострадах. Компания подала уведомление о добровольном отзыве в Национальное управление безопасностью движения на трассах (NHTSA) и работает над обновлением ПО для устранения проблемы. О пострадавших не сообщается.

Во всех этих случаях наши автомобили неправильно распознавали знаки закрытия съезда и предупреждающие знаки о дорожных работах на автострадах. Либо они уделяли чрезмерное внимание избеганию других опасностей на трассе, либо вообще не замечали зону строительства. Шесть из этих случаев произошли в Финиксе в апреле, а семь — в районе Сан-Франциско в мае. После серии случаев заезда автомобилей в активные зоны строительства 18 мая мы на следующий день убрали все наши роботакси с автострад, а 8 июня наш совет по безопасности решил, что отзыв целесообразен.

1Почему программный «отзыв» — это другое

Обычно, когда автопроизводитель объявляет отзыв, речь идёт о каком-то механическом узле, который нужно исправить. В данном случае «дефект» — это паттерн поведения, заложенный в модель автономного вождения автомобиля, из-за которого он раз за разом неправильно интерпретировал определённый тип сценария. Мы «нашли возможность для улучшения работы в зонах строительства на автострадах» и выпускаем обновление ПО по воздуху, чтобы это исправить, вместо того чтобы отправлять машины обратно к дилеру. Это будущее автомобильной безопасности: дефекты и их исправления существуют в софте.

2Что это значит для вас

Для тех, кто может оказаться пассажиром одного из этих автомобилей, обнадёживает, что Waymo опередила проблему, сообщив о ней местным и федеральным властям и убрав машины с дороги ещё до вступления отзыва в силу. Но немного тревожно видеть, что это уже шестой отзыв Waymo с момента запуска, и причиной стало самое обычное явление — дорожные работы. Беспилотные автомобили прекрасно справляются с рутинными 99 процентами ситуаций, но иногда спотыкаются на странном 1 проценте, который люди воспринимают как само собой разумеющееся.

Моё мнение: это довольно хороший пример того, как должно происходить ответственное развёртывание беспилотных автомобилей — выявить тенденцию, сообщить о ней, остановить флот, обновить модель. Вопрос не в том, будут ли беспилотники ошибаться — они будут, — а в том, продолжат ли компании, которые их создают, публично сообщать об этих ошибках. Добровольный отзыв с подробностями инцидентов — это хорошая новость.