Во многих компаниях, в том числе и аутсорс, тестировщик воспринимается как человек, который приходит, сверяет фактический результат с ожидаемым и уходит. Наша же задача как аутсорс компании, которая занимается заказной разработкой, не просто продавать часы тестировщиков и делать так, чтобы багов не было, а предоставлять клиентам инструмент, показывающий, что и как протестировано, на каком уровне качество и как его контролировать. Это особенно актуально на стадиях проекта, когда они уже не MVP и становятся бизнес-критичными.
До внедрения TMS процесс тестирования был довольно локальным — QA и команды внутри проектов самостоятельно определяли насколько плотно покрывать проверками функционал, где и как эти проверки хранить, какой выбирать формат для отчетов по регрессам. Такой подход имеет право на существование, но он не масштабируется, неудобен в случае усиления команды новыми участниками и совершенно непрозрачен для клиентов. Мы решили перейти от подхода «у каждого свое» к централизованной и прозрачной для всех стейкхолдеров системе.
Как выбирали TMS и почему выбрали Test IT
Мы перебрали почти всё, что есть на рынке РФ. Основными критериями были: цена, удобство для ручного тестирования, красивые и понятные отчёты, интеграции с автотестами и поддержка. Сравнительная табличка ниже. Несмотря на то, что Test IT в нашей выборке был одним из самых дорогих решений, он бесспорно выиграл по удобству, качеству отчетов, наличию дашбордов и возможности объединять результаты ручных и автоматизированных тестов. Дополнительным жирным плюсом оказалась, внезапно, их команда продаж. Я довольно долго мучал ребят своими вопросами, а они стоически мне помогали и по настройке дашбордов, и по пробрасыванию автотестов в TMS, и по управлению лицензиями, и в целом по адаптации системы под наши нужды.
Сравнение TMS
Название |
Стоимость в год облако (10 лицензий) |
Стоимость в год сервер (10 лицензий) |
Плюсы |
Минусы |
Итог |
Опенсорс (Testlink, Kiwi TCMS, TestCaseDB) |
- |
- |
Бесплатно |
UX/UI на уровне 2000 года |
Категоричное нет |
Ситечко |
- |
70.000 разово |
Бесплатно в облаке |
Пользоваться так же неудобно, как и с опенсорсными решениями, но еще и непонятно |
Категоричное нет |
DOQA |
117.000 |
336.000 (разово) |
Очень простая и интуитивно понятная |
Забагованная, очень далека по функционалу от топов, автотесты сами по себе живут, нет дашбордов |
Дешево, но недостаточно функционала + явные баги |
TEST IT |
365.475 |
472.953 |
Жирнющий функционал, популярная в настоящий момент, отчеты понятные и презентабельные, ориентация в первую очередь на ручные тесты |
Бывают подтормаживания в интерфейсе |
Если на цену не смотреть, то основные потребности отлично закроет |
qatools (allure testops) |
468.000 |
479.820 |
удобно накидывать проверки названиями через enter, генерация тесткейсов из автотестов, красивые яндексные отчеты |
Заточена в первую очередь под автотесты, отчеты не такие понятные для заказчика, в сравнении с Test IT |
Если не бежим сломя голову в автотесты, то будем забивать гвозди микроскопом |
Свой велосипед |
??? |
??? |
Будет все то, что нам нужно и ничего лишнего |
Нужно планировать, рисовать дизайны, разрабатывать, тестировать, поддерживать |
По предварительной оценке решили, что это будет дороже, чем использовать готовый продукт |
Как мы внедрением занимались
Путь от идеи «нам нужна TMS» до текущего состояния можно условно разделить на три этапа: выбор решения, внедрение и последующее использование.
С выбором всё было относительно просто — собрали таблицу сравнения, взвесили плюсы и минусы, приняли решение. А вот внедрение оказалось куда более многоуровневым процессом. До этого TMS в компании не использовалась, и для многих коллег сам подход был новым — не все понимали, зачем нужна система управления тестированием и как с ней работать.
Мы начали с подготовки: провели внутренний воркшоп с Q&A‑сессией для всех сотрудников, где объяснили не только сам инструмент Test IT, но и базовый подход к построению тестовой модели. В дополнение к воркшопу подготовили пошаговую инструкцию, как работать с системой и как интегрировать её в повседневные процессы.
Сразу после — выдали лицензии всей QA‑команде, чтобы можно было на практике изучить инструмент. Новые проекты начали вести сразу в Test IT, старые — переносили из Google Docs. Чтобы облегчить миграцию, мы сделали шаблон чеклиста в Google Таблицах, адаптированный под формат Test IT. QA нужно было лишь привести свои существующие проверки к этому шаблону, после чего загрузить их в систему и доработать при необходимости.
Импорт/экспорт тестов между системами — тема всегда непростая, но в нашем случае всё прошло достаточно гладко: большинство проверок изначально велись в Google Таблицах в виде чеклистов, и у нас не было громоздких структур или кастомных полей, которые требовалось бы переносить.
Что у нас есть уже сейчас
Каждый проект разработки живет в своем проекте в TMS. У проектов есть как сама тестовая модель, так и настроенные дашборды, по которым мы отслеживаем обогащение проекта тестами и их прогоны.

По каждой фиче или доработке мы добавляем новые проверки и актуализируем старые. После каждого регрессионного или смоук тестирования, QA генерируют отчеты с результатами, с которыми могут ознакомиться как сама команда, так и наши клиенты.

Перед демо выгружаем проверенные кейсы, делаем отчёт заказчику
Какую ценность приносит TMS нашим заказчикам
Радикально повышается прозрачность работы QA: наши клиенты видят, как мы проверяем продукт.
Мы можем показать реальный объем работ по тестированию, а не просто «мы полдня тестировали перед релизом, нашли баги, зафиксили».
Клиент становится активным участником процесса разработки и понимает, что именно было протестировано и зачем.
У клиента появляется удобный рычаг управления качеством и понимание, за что он платит. Становятся понятны для всех сторон ситуации, когда надо увеличить объем тестирования, а где появляется относительно безопасная возможность им немного пожертвовать в угоду скорости.
Как мы планируем масштабировать это дальше
Test IT у нас уже активно используется более чем на 15 проектах. Следующие наши шаги направлены на дальнейшее развитие культуры обеспечения качества:
Включение отчетов по тестированию и дашбордов проектов в релизные демонстрации на Demo.
Интеграция автотестов с TMS, чтобы всё было в одном месте и можно было сокращать время на ручное тестирование с учетом регулярных запусков автотестов.
Продолжаем прокачивать TMS как интерфейс QA‑команды: и для менеджеров, и для заказчиков, и для команды разработки.