|

Как понять, что ИИ-консультант работает: простая таблица для оценки результата

Автор: Александра Зыбина

Алексендра Зыбина

Помощник ответил клиенту и получил телефон. Что можно записать в отчёт: «ИИ работает», «получен контакт» или «выросли продажи»?

Второе утверждение можно проверить по диалогу. Для первого нужно определить, что именно считали работой. А для третьего — посмотреть, что произошло после передачи контакта человеку.

Разобраться помогает таблица, в которой видны отдельные этапы обращения. Она нужна до красивого итогового процента: сначала фиксируем наблюдения, затем делаем выводы.

Определите участок работы

Для MosCarFinance, компании по аренде и выкупу автомобилей, я создала ИИ-консультанта для обращений с Авито и сама подключила Битрикс24 по API. Консультант уточняет запрос, получает телефон, проверяет дубли и передаёт данные в CRM.

В замере 59 ночных диалогов конверсия в получение телефона составила 56%. Это результат конкретного действия в конкретной выборке. Он не показывает число оплаченных сделок и не позволяет сам по себе рассчитать окупаемость.

Так и стоит сформулировать задачу перед проверкой: «Ассистент должен уточнить обращение, получить нужные данные и передать их для продолжения работы». Если в вашем процессе требуется другое действие, изменится и критерий результата. Например, для помощника интернет-магазина это может быть ответ на вопрос о комплектации с передачей сложного случая сотруднику.

Выберите, что будет одной строкой

Не смешивайте сообщения, диалоги и покупателей. Один человек может написать десять сообщений, оставить телефон дважды и попасть в CRM уже существующим контактом.

Для проверки диалогов одна строка может соответствовать одному выбранному диалогу с внутренним идентификатором. Для анализа уникальных обращений понадобятся правила объединения повторов. Их нужно зафиксировать до подсчёта: иначе число результатов начнёт меняться вместе со способом группировки.

Запишите границы выборки: период, канал, часы, включённые обращения и причины исключения. Тестовые диалоги, спам и повторы не стоит удалять из таблицы бесследно. Отметьте, почему конкретная строка не вошла в итоговый расчёт.

Соберите таблицу движения обращения

Ниже шаблон, который можно повторить в таблице или CRM. Это предлагаемая структура учёта, а не выгрузка MosCarFinance.

ПолеЧто фиксироватьЗачем
Идентификатор обращенияВнутренний номер без публикации персональных данныхНайти исходный диалог и проверить подсчёт
Дата, время, каналПараметры попадания в выборкуНе сравнивать разные условия незаметно для себя
Включено в расчётДа/нет и причина исключенияВидеть состав знаменателя
Телефон полученДа/нет; при необходимости отдельно корректность контактаИзмерить конкретное действие ассистента
Передача в CRMСоздана или найдена карточка, есть нужные поляПроверить передачу данных, а не только текст ответа
ДубльНайден ли существующий контакт, по какому правилуНе выдавать повторную запись за нового клиента
Продолжение сотрудникомКто принял обращение и когда продолжил общениеНайти разрыв после работы ИИ
Следующий этапКвалификация, предложение, отказ или другой статус вашего процессаВидеть движение по воронке
Сделка и оплатаПодтверждённые события и суммы; неизвестное отмечать отдельноНе подменять продажи контактами
Ошибка или ручная доработкаЧто пришлось исправить и сколько работы потребовалосьОценить качество и затраты на сопровождение

Набор статусов должен соответствовать вашему бизнесу. Не нужно добавлять «назначена встреча», если у вас нет такого этапа. И не ставьте «нет оплаты», если вы просто не получили данные об оплате: отсутствие результата и отсутствие сведений о нём — разные состояния.

Посчитайте показатели каждого этапа

Конверсия в получение телефона считается так:

Число включённых обращений, в которых получен телефон / число всех включённых обращений × 100%.

Долю корректных передач в CRM можно считать от обращений с телефоном, если именно они должны передаваться. Конверсию в оплату — от обращений, контактов или предложений. В каждом случае подпишите знаменатель. Два процента с разными знаменателями нельзя читать как одну и ту же метрику.

Для опубликованного результата MosCarFinance подтверждены размер выборки 59 ночных диалогов и 56% получения телефона. Точные количества по дальнейшим стадиям в этом замере не представлены. Поэтому заполнять их расчётными предположениями нельзя. В частности, по округлённому проценту не нужно восстанавливать точное число контактов и выдавать его за исходное наблюдение.

К итоговой цифре добавляйте подпись: что считали, за какой период, на какой выборке и в каких условиях. Это короткое пояснение защищает управленческое решение лучше, чем слово «эффективность» без расшифровки.

Не сравнивайте ночь с общим средним без проверки

Если до внедрения сотрудники обрабатывали обращения днём, а ИИ проверяли ночью, прямое сравнение процентов будет неполным. Могут различаться состав аудитории, типы вопросов, предложения, скорость ответа и правила исключения повторов.

Чтобы оценить изменение, сначала приведите условия к сопоставимому виду. Зафиксируйте одинаковое действие, единицу наблюдения и правила расчёта. Затем проверьте различия между группами. Даже после этого небольшой замер лучше считать ограниченным наблюдением, а не гарантией результата при любом объёме и канале.

Неудачные диалоги тоже нужны в таблице. Иногда итог портит не формулировка помощника, а отсутствие сведений о продукте, неверная передача в CRM или задержка продолжения разговора. По одному общему проценту эти причины не различить.

Отдельно соберите расходы

В MosCarFinance ФОТ изменился с 200 до 60 тысяч рублей в месяц. Разница составляет 140 тысяч рублей. Это изменение фонда оплаты труда, а не подтверждённая чистая экономия всего проекта: расходы на ИИ нужно учитывать отдельно.

Для похожего расчёта соберите четыре группы затрат:

  • Разработка, настройка, интеграция и подготовка исходных материалов.
  • Подписки, использование моделей, инфраструктура и другие регулярные платежи.
  • Сопровождение: проверка диалогов, обновление данных, исправления и работа людей.
  • Сохранённые расходы прежнего процесса, включая продолжение общения после передачи контакта.

Разовые и ежемесячные затраты покажите раздельно. Если распределяете разовые вложения на несколько месяцев, подпишите выбранный период. Время сотрудников тоже нужно сравнивать до и после: проверка работы существовала и до автоматизации, её нельзя автоматически принять за ноль.

Чтобы говорить об окупаемости за счёт дополнительных продаж, потребуются сведения об оплаченных сделках, маржинальном результате и расходах. Число полученных телефонов этих данных не заменяет.

Используйте таблицу для следующего решения

После проверки у руководителя должно появиться не только число, но и понятное действие. Например:

  • ИИ получает контакты, но карточки неполные — проверить состав передачи и обязательные поля.
  • Передача корректна, а сотрудник не продолжает разговор — разобраться с ответственностью и порядком обработки.
  • Ответы содержат неверные условия — обновить исходные сведения и повторить проверку на таких вопросах.
  • Контакты есть, но данных о сделках нет — сначала наладить учёт следующих этапов, затем оценивать продажи.

Это примеры диагностических ситуаций, не результаты проверок MosCarFinance. Их задача — показать, как связать наблюдение с работой команды.

Начните с одного канала и одной функции ассистента. Сохраните исходные диалоги в доступном ответственным сотрудникам месте, опишите правила выборки, заполните таблицу и проверьте несколько строк вручную. Когда определения и данные согласованы, общий показатель станет понятнее. А главное — будет видно, что нужно улучшать дальше.

Об авторе и проектах: zybina-aleksandra.ru