в чем писать тест кейсы
Пишем максимально эффективный тест-кейс
Что такое тест-кейс?
Тест-кейс — это профессиональная документация тестировщика, последовательность действий направленная на проверку какого-либо функционала, описывающая как придти к фактическому результату.
Набор тест-кейсов называют тест-комплектом. Иногда тест-набор путают с тест-планом. Тест-план описывает какие работы, как и когда должны быть проведены в рамках тестирования продукта, а так же что необходимо для их выполнения.
Зачем нужны тест-кейсы?
Атрибуты тест-кейса
Любой тест-кейс обязательно включает в себя:
Не обязательно, но желательно добавить в тест-кейс атрибут история редактирования — это сильно облегчит вам жизнь. Лаконичный журнал изменений, где отраженно: кем, как, и когда был изменен тест-кейс.
Что еще необходимо знать, перед созданием тест-кейса?
Во-первых, каждый выполненный тест-кейс, дает нам один из трех результатов:
1.Положительный результат, если фактический результат равен ожидаемому результату,
2.Отрицательный результат, если фактический результат не равен ожидаемому результату. В этом случае, найдена ошибка.
3.Выполнение теста блокировано, если после одного из шагов продолжение теста невозможно. В этом случае так же, найдена ошибка.
Во-вторых, одним тест-кейсом проверяется одна конкретная вещь, и для этой вещи должен быть только один ожидаемый результат.
Чего не должно быть в тест-кейсе
1. Зависимостей от других тест-кейсов;
2. Нечеткой формулировки шагов или ожидаемого результата;
3. Отсутствия необходимой для прохождения тест-кейса информации;
4. Излишней детализации.
Первого следует избегать, потому что: связанный тест-кейс всегда может быть удален из-за ненадобности или он может быть изменен, в этом случае, станет непонятно как исполнить тест-кейс в которому, есть ссылки.
Так же из-за зависимости тест-кейсов, может возникнуть ощущение, что тестируемый продукт уже приведет к нужному состоянию благодаря выполнению связанных тест-кейсов.
Со вторым думаю все ясно. Если описание шагов или ожидаемое результата будет не четким, то это блокирует прохождение тест-кейса.
В тест-кейса должно быть вся информация, которая необходима для его прохождения. Например, если мы проверяем окно логина на сайте, значит нам понадобится логин и пароль, иначе прохождение этого сценария будет невозможно.
Так же не следует слишком детализировать кейс. Например, если мы проверяем возможность создания комментария, то не стоит писать в каком угле экрана должно быть окно логина. Избыточная информация только затрудняет прохождение тест-кейса.
10 лучших систем управления тест-кейсами в 2019 году
Всегда при работе со сложными программными системами мы сталкиваемся с необходимостью создания большого количества проектно-технической документации. Ее структурный состав в большинстве случаев одинаковый: это специальные требования к разнообразным подсистемам, детальное описание архитектур, программного кода, API, структур данных и алгоритмов, а также многочисленные проектные планы, отчеты и прочее.
Идея любого проекта начинается с детального планирования. Руководителю отдела тестирования необходимо собрать сплоченную команду, рационально распределить текущие обязанности, назначить внутри команды задачи для выполнения, подобрать необходимый базис проверенных технических инструментов, которыми будет пользоваться каждый ее участник в течение всего цикла тестирования ПО.
Выбор техник и программ всегда обусловлен сравнением текущих характеристик, стоимости и отзывов о данном продукте. Так, чтобы подобрать наиболее подходящий инструмент для управления тест-кейсами, можно руководствоваться такими принципами:
На основе всего вышеизложенного выделим десятку наиболее эффективных и популярных в 2019 году инструментов для управления тест-кейсами.
TestRail
Продукт TestRail (разработчик Gurick Software GmbH Company) – пожалуй, наиболее успешный продукт из всего перечня того, что было выпущено данной фирмой, начиная с 2004 года.
Преимущество TestRail заключается в том, что весь заявленный функционал реализован довольно качественно и имеет большое число настроек.
Сервис обладает весьма интересным и логически понятным интерфейсом, все кнопки и поля располагаются в интуитивно понятном сегменте.
Кроме создания качественных тест-кейсов, в TestRail можно:
TestLink
Единственная система управления тест-кейсами из всего списка предоставленных приложений с открытым программным обеспечением, благодаря чему она и попала в наш список. У этой системы очень простой графический интерфейс и «рабочий» дизайн без лишних изысков.
Несмотря на то, что при установке системы могут возникнуть некоторые сложности, данным сервисом пользуются многие разработчики и QA-специалисты. Первый этап жизненного цикла начинается с построения проекта, добавления выбранных исполнителей и назначения им соответствующих ролей. В принципе все так же, как и в других инструментах.
Еще немного технических возможностей:
Jira+Zephyr
Конечно, эти инструменты спокойно можно рассматривать и по отдельности. К примеру, у JIRA есть парочка полезных решений для тест-кейсов, но в сочетании с Zephyr всем желающим открывается очень эффективная и многогранная система управления тест-кейсами.
Большинство IT-специалистов знает об JIRA, как об эффективной системе отслеживания ошибок, которая всецело нацелена на полнейший контроль за выполнением задач, работой с дефектами и прочими вспомогательными возможностями. Zephyr – один из многочисленных плагинов для JIRA, который максимально увеличивает ее технические возможности.
Если использовать подобное сочетание, можно получить первоклассный сервис с максимальным набором полезных функций, таких как:
Основной козырь связки Jira+Zephyr – бюджетная стоимость и большой спектр технических возможностей.
PractiTest
Следующим в нашем списке будет PractiTest – популярный облачный сервис. С его помощью пользователь может:
Данное приложение запросто можно интегрировать c JIRA, Pivotal Tracker, Redmine, Bugzilla и другими популярными системами. С его помощью можно прогонять автоматизированные тесты с использованием библиотек Selenium или же взаимодействовать посредством внешнего API.
qTest
Приложение разработано фирмой QASymphony. Его базовая задача – помогать не только команде тестировщиков, но и остальным членам группы разработчиков. Очень многие QA-специалисты ценят приложение за простой и понятный визуальный интерфейс.
Мы рассмотрели 5 наиболее продвинутых и популярных систем для управления тест-кейсами, которые используются в аутсорсинге тестирования. Теперь же можно более детально расписать возможности некоторых из них.
TestRail: немного больше чем система управления
К тому, что было описано выше касательно этой системы, можно добавить следующее: при работе с приложением, у пользователя есть возможность запросто импортировать ранее созданные тест-кейсы, отфильтровав их по наиболее важным (базовым) критериям.
С TestRail появляется уникальная возможность одновременного импорта до нескольких тысяч взаимосвязанных тест-кейсов, что очень сильно экономит время на поэтапное внедрение системы управления тест-кейсами в ваш проект.
Можно выделить такие важные функции TestRail:
В общем можно смело говорить о том, что продукт TestRail играет важную роль для ведения тестовой документации и учета результатов выполнения тестов.
Тест кейс (test case)
ТЕСТ КЕЙС (TEST CASE) – это комплекс исходных данных, условий и ожидаемых результатов, разработанный с целью проверки требуемого свойства продукта. Test cases, собранные в последовательность для достижения некоторой цели образуют test suite (набор тестов).
Еще одно определение test case — это спецификация входных данных, условий выполнения, процедуры тестирования и ожидаемых результатов, которые определяют один тест, который должен быть выполнен для достижения конкретной цели тестирования программного обеспечения, например для выполнения определенного пути программы или для проверки соответствия определенному требованию
Содержание
Чтобы больше прояснить ситуацию с терминами и определениями, давайте сопоставим некоторые термины касательно этой темы:
В общем, мы дали основные определения понятий теперь пришло время поговорить про составление тест кейсов, показать пример тест кейса на конкретном примере. Начнем, пожалуй, с вопроса: почему написание тест кейсов не простое занятие, зачем нужно создание тест кейсов и продолжим вопросом как составлять тест кейсы. Виды тест кейсов в данной статье рассматривать не будем, потому что это тема отдельного поста и касаться он будет классификации тестирования в целом. Сразу хочу отметить, учитывая специфику темы, что некоторые слова будут написаны на английском языке.
В чем сложность написания тест кейсов?
Признаться честно, разработка тест кейсов не совсем приятное для многих тестировщиков занятие. И эта неприязнь легко поддается объяснению, ведь их создание требует от Software Testing Engineer следующего:
Примечание: Существует мнение, что мозг поглощает около 20% питательных веществ, при том, что занимает около 2% от всего организма. Возможно, поэтому наше «серое вещество», желая сэкономить энергию, предлагает посмотреть любимый сериал, а не обдумать какую-либо проблему.
Не смотря на внушительное количество отрицательных моментов в создании тест кейсов, все же плюсы от их создания компенсируют все недостатки. Давайте перечислим причины, которые позволяют говорить, что написание тест кейсов это не пустая трата времени.
Зачем нужно написание тест кейсов?
Как мы отмечали выше создание тестов не простое занятие для большинства нестировщиков. Тем не менее, позитивные свойства качественных тест кейсов заключаются в том, что они позволяют:
Также, тест кейсы, тест план и его тест стратегия, могут использоваться как источник информации для следующих проектов. В дополнение к сказанному, кейс тестирование, помогает удовлетворить требования заказчика. Часто заказчик проверяет кейсы, иногда нет. Но в целом на большинстве проектов кейсы должны быть.
Как писать тест кейсы?
Чтобы написать хороший хорошие тест кейсы в целом и каждый отдельно взятый test case в частности, тестировщику необходимо ответить на несколько основополагающих вопросов:
Теперь давайте детализируем каждый из вопросов, для более полного понимания.
Подробный или общий тест кейс?
Пример оформления 1
Тест кейс 1 | Тест кейс 2 | ||
---|---|---|---|
1.In the field A, type 2 2.In the field B, type 3 4.Check value of the field C | 4. The value is 5. | 1. Verify that the program sums A and B correctly | 1. It is so. |
Плюсы и минусы
Пример оформления 2
Тест кейс | ||||||||||||||||||
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
Summing A and B 1.In the field A, enter valid integer 2.In the field B, enter valid integer 4.Check value of the field C Плюсы и минусы Позитивные или негативные тест кейсы?Что касается этого вопроса, то здесь следует помнить несколько простых принципа: Помня эти принципы, тестировщику проще не совершить крен в ту или иную сторону будь-то при написании тест кейсов игры или use case testing. Простые или сложные тест кейсы?Начиная разработку ТК сотруднику необходимо помнить, следующую последовательность разработки, а потом и выполнения тестов: Такая очередность позволяет оптимизировать процесс написания и в дальнейшем легче определять приоритет тест кейса. Независимые или объединенные тест кейсы?В данной ситуации нет однозначного ответа да этот вопрос, все зависит от конкретного проекта. Поэтому просто перечислим типичные характеристики данных тест кейсов Независимые: Объединенные: Помня эти особенности легче сделать выбор в ту или иную сторону, находясь перед выбором. Best practices тест кейсы: Теперь пришло время поговорить про поля тест кейса и характерные атрибуты. Что может являться атрибутом тест кейса?Мы написали про основные принципы того, как составлять тест кейсы, теперь давайте разберемся, какая же должна быть структура тест кейса.
Следует отметить, что атрибуты тест кейса могут отличаться в зависимости от компании и инструмента, с помощью которого данные тесты создаются, поэтому мы перечислим наиболее распространенные атрибуты тест кейса: Написание тест кейсов: примерыДля лучшего понимания, того, как составляются тест кейсы, представляю для скачки специфический тест кейс задания, которое было выполнено во время прохождения учебных курсов. Скачать тест кейс пример оформления в формате xlsx Что такое тест кейс: пример и чек-лист тест кейсов для начинающих тестировщиков, которые подойдут каждомуВы хотите узнать, по какой форме писать тест кейсы и увидеть пример правильного тест кейса? Мы собрали чек-лист из примеров и формы, как написать грамотный тест кейс по шаблону. В этом материале о тест кейсах вы узнаете:Что такое тест кейсТест кейс — это проверка работоспособности программы или проекта. Тест кейсы нужны, чтобы члены команды могли проверить программу и познакомиться с ней, не читая весь код, а изучив только тест кейс.
Форма тест кейса: из чего состоит тест кейс и поля в тест кейсахУ стандартного тест кейса есть 5 частей, то есть 5 атрибутов тест кейса: Вот пример тест кейса: Тест кейс №1 Логин — test, пароль — test Появляется сообщение об успешном выполнении тест кейса «Пользователь уведомлен о снижении заряда» Как написать хороший тест кейс: правила и форма хороших тест кейсовУ тест кейса может быть 3 вида результатов: Существуют 6 правил проведения тест кейсов: Типичные ошибки при написании тест кейсовАбстрактное название тест кейса Плохо: Уведомление пользователя о заряде Повелительное наклонение в тест кейсе Плохо: зайди на сайт; нажми на кнопку Не кликабельные ссылки Лишние детали в тест кейсе Плохо: нажмите на красную кнопку с надписью «Войти» в верхнем правом углу экрана, под меню. Недостаток деталей для проведения тест кейса Плохо: перейти в режим разработчика
Системы управления тест кейсами. Какую выбрать для немедленной работы?Как будем искать систему?В чем сложность выбора?Во-первых система должна нравиться и удовлетворять вашим предпочтениям. Например: легкое и простое создание кейсов, гибкая настройка (кастомизация), удобство использования, определите для себя, какая система должна быть? Не подходят 100%TestLink. Плюсы открытое ПО. Минусы: морально и физически устарела, при установке могут возникнуть сложности, сложная или невозможная интеграция с Jira. TXT, DOC, XLSX. Плюсы: Бесплатно, можно сразу планировать работу, можно создавать черновики тест-кейсов, использовать как архив или заготовки. Минусы: никакой интеграции, нет контроля и учета времени. Testia Tarantula. Плюсы: бесплатная. Минусы: плохая отчетность, нет интеграции, нет кастомизации. Qtest. Триал версия только под заказ. Practitest. Дорогая. TestLodge. Будет отдельный абзац, см. ниже Фавориты YouTube и статей: TestRail, Zephyr for Jira, QASEZephyr for JiraНачнем с того, что Зефир – это не самостоятельная программа, это плагин для Jira. Поэтому, если вы не используете Jira, она вам скорее всего сразу же не подойдет. Отдельно из минусов отмечу, что посмотреть на YouTube обзор без знания английского не получится, так, я смотрел туториал на этом канале, а он на «индийском» английском. Ну очень много всего нужно сделать чтоб что-то заработало. Хорошая интеграция, красивые красочные отчеты, но сделана не для людей, пока заполняешь все обязательные поля для создания тест кейса, а затем столько же, а точнее, даже и больше полей, чтоб запустить тест ран, проходит много времени, а поля обязательные. Если коротко, то просмотрел 90 минут видео-туториала, в котором к тест рану так и не приступили. Усложненная система написания тест-кейсов. – это и хорошо и плохо одновременно. Т.к. инструмент очень мощный, то и времени и внимания требует к себе очень много. Подход к проверкам учитывает всё время, потраченное на написание тест-кейса и включает в себя: Review Story, Write Test Case, Execute Test Case всё происходит в виде тасок и подтасок на панели Скрам в формате спринтов. TestRailЧестно, очень долгое время боготворил эту систему, т.к. отзывы везде положительные, так с энтузиазмом сравнивают с Zephyr For Jira на многих ресурсах, в т.ч. в статьях на HABR. Ну что ж, раз ее так расхваливают, значит нужно брать тестовый период и пробовать заполнять репозиторий, и назначать себе тест-раны. Но только уже при составлении тест-кейсов сразу нашелся непоправимый минус, который поменял мой взгляд на TestRail – нельзя помечать пройденный шаг. Еще один минус – тестовый период, мне кажется очень короткий. Я уже примерно месяц выбираю инструмент для хранения кейсов – и честно скажу – это достаточно сложная задача, т.к. тебе нужно опробовать все или почти все системы и дать объективный ответ, почему ты сделал такой выбор. В целом, у TestRail достаточно большой список интеграций: Slack, Jira, GitHub и др. Инструмент достаточно мощный, но, к сожалению, мне не подошел. А TestLodge чем не угодила?Ну с Лоджем, очень интересно, после рассмотрения TestRail и QASE – Lodge кажется очень не доработанным, мало того, я вам скажу, что функционала в блокноте (NotePad) может и не больше, но вот Excel 100% может Lodge переплюнуть, т.к. в составленных мною кейсах в Excel – имеется возможность напротив каждого шага ставить резолюцию и прохождении или непрохождении каждого шага, например, я реализовывал данную фичу заливкой разных цветов – Зеленый – passed, Красный – Failed, Фиолетовый – Blocked и т.д., т.к. количество цветов не ограничено. Давайте перечислим минусы TestLodge: Ввод шагов сплошным текстом Естественно, мы не можем на каждом шаге оставлять резолюцию пройден он или пропущен или вообще здесь БАГ Ожидаемый результат указывается только один при прохождении всех шагов Резолюция прохождения кейса описывается всего тремя сценариями – PASS, FAIL, SKIP Система QASEНеожиданно, после долгих скитаний по ресурсам интернет-статей видео на ютюб, случайно в одной из статей на аж 8м месте нашел неприметную систему QASE. Удивительно, что такая хорошая (на мой взгляд) система оказалась недооценена и о ней так мало информации. Самый большой плюс, помимо ее бесплатности – это возможность оставлять резолюции с комментариями на каждом шаге тест-кейса. Давайте оформим плюсы системы в виде списка, так будет нагляднее. Для каждого шага есть поле для вводных данных, а также ожидаемый результат, что позволяет сделать более широкое покрытие тест-кейсами (включать микро-сценарии по ранее заведенным ошибкам), а также более подробно описать каждый шаг, а самое главное – что мы от него ожидаем. У каждого шага можно выбрать одно из 4х состояний (Скрин 1): Pass, Fail, Skip, Block – это позволяет тест-кейсу быть более гибким, в него можно включить «экзотические сценарии» (без фанатизма), основанные и выявленные на фоне ранее заведенных ошибок. По опыту работы в Яндексе асессор-тестировщиком могу сказать, что это ужасно удобный функционал, т.к. шаг, на котором выявлено несоответствие сразу заносится в баг репорт, а также заносится окружение, стенд, и ранее пройденные шаги, вам остается придумать и написать правильный заголовок. Для каждого шага можно написать комментарий. У каждого тест-кейса может быть 5 состояний (Скрин 2): Passed, Failed, Blocked, Skiped, Invalid (такое редко, но бывает, Когда тест кейс есть, но он сломан или не актуален). Программа бесплатна (до 3-х пользователей). Имеется возможность кастомизации. Поиск по ключевым словам, которые ранее сами занесете. Скрин 1 – Комментарий и статус к каждому шагу Скрин 2 – Возможность выбирать статусы тест-кейса
|