Waymo самоврядні автомобілі знову прориваються у затоплені ділянки, Robotaxi припиняє роботу у чотирьох містах

Waymo вже здійснив відкликання 3 791 автомобіля-роботаксі, призупинивши обслуговування у чотирьох містах, включаючи Атланту, через те, що програмне забезпечення автомобілів не могло розпізнати затоплені ділянки дороги. Після аварії у Сан-Антоніо у квітні, коли автомобіль врізався у потік води, 21 травня у Атланті сталася подібна ситуація.
(Передісторія: Waymo заблокував швидку допомогу, яка їхала на місце стрілянини, швидка: ситуація погіршується)
(Додатковий контекст: Тестовий запуск роботаксі Tesla у Техасі, автоматичні таксі з автопілотом змагаються з позиціями Waymo та Uber)

Зміст статті

Перемикач

• Від Сан-Антоніо до Атланти: одна й та сама помилка, повторюється за два місяці
• Приклади, що не можна виправити оновленням програмного забезпечення: структурний дефіцит навчальних даних AI
• Втручання NHTSA та ланцюг розслідувань: проблеми Waymo — не лише технічні

Технології автономних автомобілів у лабораторіях Кремнієвої долини займаються складними рішеннями — розпізнаванням пішоходів за мілісекунди, прогнозуванням поведінки на перехрестях. Але у Техасі після сильного дощу, роботаксі Waymo зіштовхнулися з більш простим, але критичним питанням.

Від Сан-Антоніо до Атланти: одна й та сама помилка, повторюється за два місяці

Початок події — 20 квітня. Один із роботаксі Waymo у Техасі у Сан-Антоніо заїхав у затоплену ділянку дороги і був змитий у річку. Ця аварія привернула увагу NHTSA (Національної адміністрації безпеки дорожнього руху США), а також змусила Waymo замислитися над структурними проблемами у своєму програмному забезпеченні.

12 травня Waymo оголосив про відкликання 3 791 автомобіля-роботаксі, але це не був звичайний відклик для ремонту у сервісних центрах. Це був OTA-оновлення — безпосередньо через мережу, без необхідності їхати до сервісу, — що дозволяло оновлювати програмне забезпечення дистанційно.

При цьому, Waymo визнав, що це — тимчасовий захід: у зонах високого ризику затоплення та у визначені часи забороняється або обмежується рух автомобілів, але «кінцева рішення» ще не знайдено.

Ще не встигли оголосити, як 21 травня у Атланті сталася нова аварія. Один із роботаксі без пасажирів заїхав у затоплену вулицю, застряг на майже годину, і лише за допомогою евакуатора вдалося його витягти. Того дня дощ був настільки сильним, що вода затопила вулиці, але Національна служба погоди (NWS) ще не встигла оголосити попередження про повінь.

Це означає, що OTA-оновлення, яке обмежувало рух у «зонах високого ризику», у цій швидкоплинній локальній грозі втратило свою силу.

Після інциденту Waymo оголосив про припинення роботи у Атланті, Сан-Антоніо, Далласі та Х’юстоні.

Приклади, що не можна виправити оновленням програмного забезпечення: структурний дефіцит навчальних даних AI

Щоб зрозуміти, чому Waymo знову і знову потрапляє у ту саму пастку, потрібно повернутися до суті технології автономних автомобілів.

Системи сприйняття роботаксі залежать від великої кількості маркованих даних для навчання: де можна їхати, де перешкоди, де межі смуг. У розподілі даних 99% випадків — це «сухі, звичайні дороги». Затоплені ділянки — це edge case (крайовий випадок): рідкісні ситуації, які не охоплені достатньо у навчальних даних.

Проблема у тому, що коли сенсори роботаксі (камери + LiDAR) фіксують затоплення, їх відбиття дуже схоже на мокру асфальтовану дорогу. Модель, яка не була явно навчена розпізнавати «цей сценарій — небезпечний», не робить помилок у класифікації — вона просто не була спроектована для того, щоб натискати на гальма у такій ситуації.

OTA-оновлення Waymo намагається обійти цю проблему за допомогою «геозон + часових обмежень»: у зонах високого ризику затоплення та у визначені часи заборонити або обмежити рух. Логіка сама по собі не має проблем, але вона базується на передумові: попереджувальні системи мають працювати швидше за реальність. А випадки у Атланті 21 травня показали, що швидкість грози може перевищити швидкість сповіщень NWS і тригери геозон.

Waymo працює у 11 містах США, включаючи Сан-Франциско, Лос-Анджелес, Фенікс, Остін, Маямі. Зупинка роботи у чотирьох з них означає, що понад третина операційної території тимчасово припинена. Це не лише локальна проблема, а системний ризик, оскільки вся автопарка працює на одній і тій самій логіці.

Втручання NHTSA та ланцюг розслідувань: проблеми Waymo — не лише технічні

Затоплення — не єдина проблема, з якою стикається Waymo у регулюванні.

Крім відкликання через затоплення, NHTSA та NTSB (Національна рада з безпеки транспорту США) спільно розслідують ще одну проблему: повторне порушення правил зупинки біля шкільних автобусів. За законами штатів, автомобілі мають зупинятися поруч із шкільним автобусом із увімкненими шлагбаумами, але автомобілі Waymo у Остіні неодноразово порушували цю вимогу. Після внесених коригувань проблема залишилася, і 15 травня NHTSA повторно запитала документи щодо цього.

У той самий час, 23 січня цього року, у Лос-Анджелесі у Санта-Моніці один із роботаксі на низькій швидкості близько 10 км/год збив дитину, спричинивши легкі травми. Місце інциденту — поруч із школою.

NHTSA у заяві зазначила, що «у разі необхідності вживатиме заходів» щодо затоплень. Це натяк на те, що регулятор зберігає за собою право на додаткові заходи — включно з вимогою більш жорстких відкликань, тимчасовим припиненням дозволів у окремих містах або навіть відтермінуванням розширення у нові міста.

Обіцянка автономних автомобілів ніколи не полягала у тому, щоб бути «кращими за людину у всіх ситуаціях», а у тому, щоб бути «статистично безпечнішими та надійнішими». Але статистична перевага не може приховати провалів у крайових випадках.

Кожного разу, коли роботаксі заїжджає у затоплення, зупиняє швидку допомогу або обганяє шкільний автобус, — це нагадування про одне: масштабне комерційне впровадження фактично означає, що реальний світ стає тренувальним майданчиком для виявлення прогалин у даних.