Блог аитоматон · Бенчмарки

ИИ на первой линии поддержки: что показал эксперимент на 5 тысячах операторов

Ассистент подсказывает оператору, а не отвечает клиенту сам. Разбираем журнальные цифры, разброс эффекта по стажу и границы переносимости — спокойно и с источниками.

Вечер. Очередь чатов растёт, новички тонут в типовых вопросах, а опытные тратят часы на одно и то же. Владелец думает: «А если дать каждому оператору подсказчика?» Один реальный эксперимент проверил именно это.

КороткоВ журнальной версии эксперимента (QJE, 2025) ассистент на базе GPT-3 подсказывал 5 172 операторам поддержки: число решённых обращений в час выросло на 15%. Менее опытные улучшили скорость и качество, у самых опытных качество немного снизилось. Это усиление команды, а не замена: большинство операторов работало с Филиппин, и переносить выводы нужно осторожно.

Что именно измеряли в эксперименте на пяти тысячах операторов?

Исследователи подключали операторам чат-поддержки ассистента на базе GPT-3: он следил за диалогом и предлагал ответы, а оператор решал — отправить, поправить или проигнорировать. Метрика — число решённых обращений в час. Всего в журнальной выборке 5 172 оператора одной компании бизнес-софта; внедрение шло поэтапно, а не как чистый рандомизированный эксперимент.

Дизайн простой и честный: одна и та же очередь чатов, одни и те же клиенты, разница лишь в том, что у части операторов рядом подсказчик. Оператор остаётся ответственным за разговор. Именно поэтому результат читается как эффект усиления команды, а не как замена людей машиной.

Что важно для переноса выводов: это одна компания англоязычной поддержки программного обеспечения, ассистент подсказывает оператору, а не отвечает клиенту сам. Дальше разберём, кому помогло сильнее и почему цифры нельзя копировать один в один.

Задача · владелец компании с поддержкой в чатах

Когда очередь чатов растёт, новички тонут в типовых вопросах, а опытные тратят часы на одно и то же, я хочу дать каждому оператору подсказчика и понять, что это реально даёт, чтобы усилить команду без найма и оставить решения за людьми.

+15%
решённых обращений в час: средний эффект доступа к ассистенту, 5 172 оператора, журнальная версияQJE 140(2) / NBER WP 31161 · 2025-05

Как связано с вашей задачейЭто эффект подсказчика у оператора, а не автопилота у клиента. Ваш эффект будет своим: его надо мерить на своих диалогах.

g = −0,23
связка «человек + ИИ» хуже лучшего из двух; при этом лучше человека в одиночку (g = +0,64)Nature Human Behaviour 2024 · 2024-10-28

Как связано с вашей задачейСвязка выигрывает не автоматически, а когда процесс разделён: рутину — модели, решение — человеку.

81,7%
лидер голосового трека τ³-Voice: примерно каждая пятая задача провалена (снимок 12.10.2026)taubench.com · 2026-10-12

Как связано с вашей задачейГолосовой агент уже силён, но работает со страховкой человека — так же устроена и наша подача.

Кому помогло сильнее: новичкам или опытным?

Журнальная версия показывает разброс: менее опытные операторы улучшают и скорость, и качество ответов. У самых опытных скорость растёт немного, а качество немного снижается — подсказки усредняют их сильные стороны. Точных процентов прироста новичков журнальная версия в нашем источнике не даёт, поэтому приводим эффект словами, а не цифрами.

Группа Что изменилось Что это значит для команды
Менее опытные Растут и скорость, и качество Подсказчик быстрее доводит новичка до уровня команды
Самые опытные Скорость растёт немного, качество немного снижается Готовые формулировки иногда хуже их собственных
Вся выборка +15% решённых обращений в час Среднее складывается из очень разных эффектов

Среднее +15% — это именно среднее: за ним стоят разные судьбы. Новичок с подсказчиком быстрее выходит на рабочий темп, а у сильного оператора готовые формулировки иногда проигрывают его собственным. Поэтому смотреть только на среднее — значит пропустить главное: эффект зависит от стажа и стартового уровня.

На наш взгляд, здесь нет мистики: подсказки переносят приёмы команды тем, у кого их ещё мало, а тем, у кого приёмы уже свои и отточенные, они почти не добавляют. Вывод для найма и обучения простой: ассистент сильнее всего там, где люди только входят в работу, а опытным он нужен скорее как разгрузка от рутины.

Почему эти цифры нельзя переносить один в один?

Выборка — одна компания англоязычной поддержки ПО, ассистент на GPT-3 лишь подсказывал оператору, а внедрение шло поэтапно, а не как чистый случайный эксперимент. Большинство операторов работало с Филиппин, о чём напоминает доклад CERRE. Другая страна, язык и процессы — другой эффект, и это нормально.

Вторые источники подтверждают картину, а не раздувают её. Записка МВФ SDN/2024/001 «Gen-AI: Artificial Intelligence and the Future of Work» включает этот эксперимент в разбор влияния генеративного ИИ на труд, а доклад CERRE «Navigating the Revolution» (январь 2025) прямо фиксирует состав выборки: большинство операторов — с Филиппин, меньшие группы — из США и других стран.

Что толкает уйти от старого

Очередь чатов растёт, новички долго входят в темп, найм новых операторов дорог.

Что притягивает к новому

Подсказчик рядом с оператором: типовые ответы быстрее, новички растут, в эксперименте — +15% в час.

Что тревожит

«У нас другой язык и другие клиенты — вдруг не сработает». Справедливо: выборка англоязычная, эффект надо мерить на своих диалогах.

Что удерживает на привычном

«Операторы и так справляются». Справляются, но ценой перегруза опытных и долгого входа новичков — это видно по очереди.

Честная рамка такая: бенчмарк задаёт направление, а не обещание. Другая страна, другой язык, другие процессы — и цифра будет другой. Поэтому единственный по-настоящему переносимый вывод эксперимента — про формат (подсказчик у оператора, решение за человеком), а величину эффекта каждая компания меряет сама, на своих диалогах и своей метрике.

Когда связка «человек + ИИ» работает, а когда нет?

Мета-анализ 106 экспериментов в Nature Human Behaviour (2024) даёт честный итог: в среднем связка хуже лучшего из двух по отдельности (g = −0,23), но лучше человека в одиночку (g = +0,64). В задачах решений связка проигрывает (g = −0,27), в создании контента — выигрывает. Вывод: роли надо распределять по задаче.

Разложим врезку полностью. В базу вошли 106 экспериментов и 370 эффектов за 2020 — июнь 2023 года. Средний эффект связки против лучшего из двух по отдельности — g = −0,23 при интервале от −0,39 до −0,07: в среднем пара «человек + ИИ» не дотягивает до сильнейшего участника. Но против человека в одиночку связка уверенно выигрывает: g = +0,64.

Дальше — по типам задач. В принятии решений связка проигрывает: g = −0,27. В создании контента — выигрывает, хотя и скромно: g = +0,19, эффект статистически незначимый. И важная деталь: когда в паре сильнее человек, синергия положительная (g = +0,46), а когда сильнее модель — отрицательная (g = −0,54). Разброс между исследованиями огромный (I² = 97,7%).

Ограничения честно указаны авторами: работы в основном до бума генеративных моделей, и более чем в 95% случаев финальное решение принимал человек. Лишь три эксперимента заранее делили подзадачи между человеком и моделью. Вывод для первой линии прямой: не сваливать всё в одну кучу, а распределять роли по задаче — типовое и скоростное модели, решение и ответственность человеку.

Почему даже сильный голосовой агент пока работает с человеком?

Свежий снимок лидерборда taubench.com (12.10.2026): лидеры текстового τ²-bench держат 85,4–87,9%, а лучший голосовой агент трека τ³-Voice — 81,7%. То есть примерно каждая пятая голосовая задача провалена. По-казахски добавляется распознавание: ошибка 6,3% на чтении и 36,8% на спонтанной речи. Поэтому человек остаётся в контуре: агент ведёт диалог, а сложное передаёт сотруднику.

Полезен контекст. На момент статьи τ²-bench лидеры держали лишь 34–49% в телекоме, а режим, где действует и клиент, срезал результат на 18–25%. Старые домены с тех пор сильно выросли, но Sierra в ответ добавила тяжёлые треки — банковский с базой знаний и голосовой, где лидеры держат 55–82%. В феврале 2026 авторы исправили более 50 задач, поэтому старые и новые баллы напрямую не сравнимы.

Текстовый τ²-bench

Диалог агента поддержки с пользователем, которого играет языковая модель. Успех — совпадение итогового состояния с эталоном, надёжность меряют серией попыток. Домены синтетические, язык английский — это проверка техники, а не вашей поддержки.

Голосовой τ³-Voice

Голосовой трек на четыре домена: лидер держит 81,7%, то есть проваливает примерно каждую пятую задачу. Голос добавляет перебивания, шумы и акценты — всё то, чего нет в тексте. Поэтому голосовой агент работает с человеком на подстраховке.

Казахская речь KSC2

Первый открытый корпус такого масштаба: около 1128 часов и более 520 тысяч фраз, включая переключение между казахским и русским. Распознавание чтения — 6,3% ошибок, спонтанной телеречи — 36,8%. Для колл-центра это главная цифра: живая речь в разы грязнее чтения.

Для Казахстана вывод прямой: смешанная речь и спонтанность — нормальный рабочий режим, а не исключение. Агент ведёт диалог и готовит черновик, а всё, что он расслышал неуверенно или что пахнет спором и деньгами, уходит человеку. Так ошибки ловятся до клиента, а не после.

Как усилить первую линию, не заменяя команду?

Формула из исследований одна: модель берёт типовое и скоростное, человек — решения, деньги и сложные случаи. В аитоматон это чат-агент на первой линии, голосовой агент на входящих и платформа как общий контур. Спорное всегда уходит сотруднику с сутью вопроса. Никаких обещаний процентов: эффект меряем на ваших диалогах.

На практике это выглядит так. Первая линия — типовые вопросы, уточнения, запись и маршрутизация — уходит ИИ-агенту в чатах: он отвечает за секунды и готовит карточку с историей. Входящие звонки берёт голосовой агент, а всё сходится в платформе: каждый диалог привязан к сделке, у каждого виден ответственный и вся история.

  1. Отдайте агенту типовоеЧастые вопросы, уточнения, запись и маршрутизация: что повторяется каждый день, то первым уходит агенту.
  2. Опишите границуДеньги, скидки, возвраты и споры — только человек. Агент передаёт такие обращения сотруднику с именем клиента и сутью вопроса.
  3. Включите человека в контурСотрудник проверяет сложное, журнал показывает, кто писал: агент или человек. Ответственность всегда на людях.
  4. Меряйте на своих диалогахСчитайте свои решённые обращения в час, скорость и качество до и после. Сколько стоит один пропущенный звонок, помогает прикинуть наш калькулятор в рубрике «Полезное».

Как проходит одно обращение с усиленной первой линией

  1. ВходящееКлиент пишет или звонит сам

    Входящее обращение попадает в общий контур, агент отвечает за секунды и уточняет запрос.

  2. УчётКаждое касание записано

    Диалог привязан к сделке и карточке клиента: видно источник, ответственного и всю историю.

  3. Повторное касаниеВозврат внутри диалога

    Напоминание или возврат к замолчавшему — только в начатом им разговоре, без холодных баз.

  4. ИтогИтог в истории

    Спорное ушло человеку с сутью вопроса, итог виден в карточке и в аналитике по каналам.

Как цифры связаны с вашей задачей

  1. Цифра+15% в час в эксперименте на 5 172 операторах
    Что это значит для васПодсказчик ускоряет первую линию, новички растут быстрее.
    Что отвечает в аитоматонЧат- и голосовой агенты на первой линии, сложное — человеку.
    ЦенностьКоманда закрывает больше обращений тем же составом.
  2. Цифраg = −0,23: связка выигрывает не автоматически
    Что это значит для васПара «человек + ИИ» сильна, только когда роли разделены.
    Что отвечает в аитоматонГраницы агента и передача сотруднику с сутью вопроса.
    ЦенностьМодель — скорость, человек — решение и ответственность.
  3. Цифра81,7% у лучшего голосового; 6,3% против 36,8% в распознавании
    Что это значит для васОшибки — нормальная часть картины, а не сюрприз.
    Что отвечает в аитоматонЧеловек в контуре и журнал: видно, кто писал — агент или сотрудник.
    ЦенностьОшибки ловятся до клиента, а не после.

Итог простой. Эксперимент на пяти тысячах операторов — аргумент за усиление, а не за замену: подсказчик рядом с человеком даёт больше, чем автопилот вместо него. Роли делятся по задаче, границы — по ответственности, а эффект — меряется на своих данных, а не занимается из чужих статей.

Частые вопросы

Что за эксперимент на пяти тысячах операторов поддержки?

Работа Brynjolfsson, Li и Raymond: ассистент на базе GPT-3 подсказывал операторам чат-поддержки, решение оставалось за человеком. В журнальной версии (QJE, 2025) — 5 172 оператора и +15% решённых обращений в час в среднем.

Кому помог ИИ-ассистент сильнее — новичкам или опытным?

По журнальной версии менее опытные улучшили и скорость, и качество. У самых опытных скорость выросла немного, а качество немного снизилось: готовые подсказки усредняют сильные стороны. Точных процентов прироста новичков журнальная версия не даёт.

Почему результаты эксперимента могут не повториться в моей компании?

Это одна англоязычная компания, ассистент лишь подсказывал, внедрение шло поэтапно, а большинство операторов — с Филиппин. Другие страна, язык и процессы дадут другой эффект: бенчмарк задаёт направление, величину меряйте на своих диалогах.

Когда связка «человек + ИИ» проигрывает?

По мета-анализу Nature Human Behaviour (2024) связка в среднем хуже лучшего из двух (g = −0,23), а в задачах принятия решений проигрывает (g = −0,27). Зато лучше человека в одиночку (g = +0,64). Вывод: роли распределяются по задаче.

Справится ли голосовой ИИ-агент без сотрудника?

Пока нет. Лидер голосового трека τ³-Voice набирает 81,7% — примерно каждая пятая задача провалена. А по-казахски спонтанную речь распознать в разы труднее, чем чтение. Поэтому агент ведёт диалог, а сложное передаёт человеку.

Что всё это значит для поддержки в моей компании?

Усиление, а не замена: типовое и скоростное — модели, решения и ответственность — людям. Начните с агента на первой линии под контролем сотрудников и меряйте эффект на своих диалогах с первых недель, а не ждите чужих процентов.

Посмотрите на своих данных

Три дня бесплатно или демо с разбором вашего процесса.

Обновлено: