Тренды
Новый тренд: AI –провалы
Внедрение AI не всегда приводит к успеху. Многие компании вынуждены признавать провалы или неудачи во внедрении искусственного интеллекта в бизнес-процессы. Ниже собрали наиболее яркие примеры, о которых стало известно в последнее время.
Pizza Hat. Оптимизация доставки с помощью ИИ привела к катастрофе. ИИ получил доступ к данным о кухне и времени готовности заказов. В результате объединять доставки, выбирать более комплексные маршруты. Для курьеров это было рационально. Но в итоге пицца остывала, время доставки росло, а показатели сервиса ухудшались.
Uber. Компания массово закупила доступ к Claude и другим моделям, начала стимулировать сотрудников использовать ИИ буквально везде, а потом обнаружила, что счета растут быстрее, чем польза. По сообщениям прессы Uber израсходовал свой годовой бюджет на некоторые AI-инструменты уже к концу апреля.
Amazon. Фирменный ИИ-помощник внес некорректные правки в код, из-за чего некоторые из ключевых сервисов компании упали почти на 13 часов. В итоге компания жестко ограничила автономность ИИ. Менеджмент вернул строгий человеческий контроль, признав, что слепое доверие алгоритмам наносит прямой ущерб инфраструктуре.
Ниже сводная таблица причин отказа или ограничения использования AI в бизнесе.
Источник: анализ публикаций в деловых СМИ
Uber. Компания массово закупила доступ к Claude и другим моделям, начала стимулировать сотрудников использовать ИИ буквально везде, а потом обнаружила, что счета растут быстрее, чем польза. По сообщениям прессы Uber израсходовал свой годовой бюджет на некоторые AI-инструменты уже к концу апреля.
Amazon. Фирменный ИИ-помощник внес некорректные правки в код, из-за чего некоторые из ключевых сервисов компании упали почти на 13 часов. В итоге компания жестко ограничила автономность ИИ. Менеджмент вернул строгий человеческий контроль, признав, что слепое доверие алгоритмам наносит прямой ущерб инфраструктуре.
Ниже сводная таблица причин отказа или ограничения использования AI в бизнесе.
| Тип вреда для бизнеса | Что пошло не так | Последствия для компаний |
| Финансовое истощение | "Токенмаксинг" и отсуствие лимитов на запросы к LLM | Счета на миллионы долларов без роста выручки |
| Операционные сбои | Глупые ошибки ИИ-агентов в простейших процессах | Потеря лояльности клиентов, хаос на местах (пример Pizza Hat) |
| Крах безопасности | ИИ-агенты получали доступ к базам данных и случайно стирали их или получали доступ к конфиденциальной информации | Экстренное отключение ИИ от внутренних систем |
| Кадровый тупик | Увольнение джуниоров ради ИИ привело к потере контроля над кодом и процессами | Компании вынуждены нанимать людей обратно (тренд на "человечность") |
Источник: анализ публикаций в деловых СМИ