105 беспилотных автомобилей отзывают, потому что они не распознают дым как угрозу безопасности

Компании Zoox пришлось экстренно отозвать 105 машин после того, как в июне её беспилотное такси заехало в зону пожара, не сумев распознать дым (редкий случай) и затормозив прямо над огнём. Из-за этого потребовалось вмешательство удалённого оператора, которому пришлось вручную сдать машину назад, пока вокруг огня расставляли конусы.

Системам ИИ часто трудно даются аномалии (необычные явления вроде дыма или хаотичная обстановка на месте пожара), зато с более привычными сценариями они справляются. NHTSA уже отмечало, что блокировка машин экстренных служб беспилотниками вызывает беспокойство, и рост парка беспилотных автомобилей только усиливает эту напряжённость.