Маршрут от Claude увёл подростка на скалу, спасать пришлось вертолётом

16-летний подросток из-под Ванкувера Брайс Винсент Гаурилюк спросил у ИИ-чат-бота Claude от Anthropic маршрут для похода на Crown Mountain. Claude направил его на Widowmaker Arete — крутой скальный участок, для которого нужно альпинистское снаряжение, которого у него не было. Он застрял на уступе шириной в пять футов и вызвал полицию. Полиция оповестила North Shore Rescue, волонтёрскую горноспасательную команду, которая отследила его телефон и отправила вертолёт. Двух спасателей высадили над ним, и один из них провёл его к месту, откуда вертолёт поднял его на лебёдке. Он не пострадал. Гаурилюк сказал, что не винит Claude и берёт ответственность на себя; при планировании маршрута он также пользовался Google Maps и AllTrails — двумя картографическими приложениями.

Руководитель спасательной операции Пол Марки сказал, что Claude на самом деле не знает местность. ИИ не заменит опыт и здравый смысл на маршруте, сказал он. Anthropic не ответили на запрос о комментарии. Гаурилюк говорит, что продолжит заниматься скалолазанием, но больше никогда не будет использовать ИИ для планирования маршрутов.