Как курьеры взломали ИИ Pizza Hut

Сеть Pizza Hut обязала франчайзи внедрить ИИ-платформу Dragontail, чтобы оптимизировать доставку и сократить время ожидания. На практике система принесла обратный эффект.

Dragontail отдавала водителям DoorDash слишком много данных, в том числе время выхода пиццы из печи. Курьеры быстро сообразили, что выгоднее подождать 15 минут, накопить пачку соседних заказов и развезти их одним рейсом. Для водителя это лишние деньги за час, для клиента, остывшая коробка и испорченное впечатление.

Кроме этого, через Dragontail стала видна сумма чаевых по умолчанию и способ оплаты. Невыгодные заказы курьеры просто не брали, отсюда отмены, задержки и волна негативных отзывов. ИИ, который должен был ускорить логистику, фактически дал внешним водителям инструмент для отбора самых жирных заказов.

Итог посчитал франчайзи Chaac Pizza Northeast, управляющий 111 ресторанами в нескольких штатах. Компания требует с Pizza Hut 100 миллионов долларов компенсации. По её данным, после внедрения системы продажи в ключевых регионах рухнули: в Нью-Йорке рост с +10,19% свалился до -9,78%.

История полезная для всех, кто внедряет ИИ в операционку. Алгоритм оптимизирует ровно ту метрику, которую ему задали, и не учитывает, что у курьера, ресторана и платформы интересы расходятся. Любая лишняя строчка данных, отданная наружу, может превратиться в рычаг против самого бизнеса.

Источник: https://x.com/zavtracast/status/2056618044563017917