Как отслеживать бенчмарки Rust Criterion в CI

Everett Pompeii

Everett Pompeii


Теперь, когда вы узнали как проводить бенчмаркинг кода на Rust с помощью Criterionn, давайте посмотрим, как отслеживать эти бенчмарки в CI. Непрерывный бенчмаркинг — это практика запуска бенчмарков для каждого набора изменений, чтобы убедиться, что изменения не вводят регрессии производительности. Самый простой способ реализовать Непрерывный бенчмаркинг с бенчмарками Criterion — использовать Bencher.

Что такое Bencher?

Bencher - это набор инструментов для непрерывного тестирования производительности. Когда-нибудь регрессия производительности влияла на ваших пользователей? Bencher мог бы предотвратить это. Bencher позволяет вам обнаруживать и предотвращать регрессии производительности до того, как они попадут в продакшн.

  • Запустить: Запустите свои тесты производительности локально или в CI, используя ваши любимые инструменты для этого. CLI bencher просто оборачивает ваш существующий аппарат тестирования и сохраняет его результаты.
  • Отслеживать: Отслеживайте результаты ваших тестов производительности со временем. Мониторите, запрашивайте и строите графики результатов с помощью веб-консоли Bencher на основе ветки исходного кода, испытательного стенда и меры.
  • Поймать: Отлавливайте регрессии производительности в CI. Bencher использует инструменты аналитики, работающие по последнему слову техники, чтобы обнаружить регрессии производительности, прежде чем они попадут в продакшн.

По тем же причинам, по которым модульные тесты запускаются в CI, чтобы предотвратить регрессии функций, тесты производительности должны быть запущены в CI с Bencher, чтобы предотвратить регрессии производительности. Ошибки производительности – это тоже ошибки!

Шаги для Bencher Cloud

  1. Создайте учетную запись Bencher Cloud.
  2. Создайте API-токен и добавьте его в ваш CI как секрет.
  3. Создайте рабочий процесс для вашего CI, как GitHub Actions или GitLab CI/CD.
  4. Установите Bencher CLI в вашем рабочем процессе CI.
  5. Запустите ваши тесты производительности с помощью bencher run подкоманды в вашем рабочем процессе CI, используя адаптер rust_criterion.

Шаги для Bencher Self-Hosted

  1. Создайте экземпляр Bencher Self-Hosted.
  2. Зарегистрируйте аккаунт на вашем экземпляре Bencher Self-Hosted.
  3. Создайте API токен и добавьте его в CI как секрет.
  4. Создайте рабочий процесс для вашего CI, например GitHub Actions или GitLab CI/CD.
  5. Установите Bencher CLI в ваш CI рабочий процесс. Убедитесь, что версия CLI соответствует версии вашего экземпляра Bencher Self-Hosted.
  6. Запустите ваши бенчмарки с помощью bencher run подкоманды в вашем CI рабочем процессе, используя адаптер rust_criterion и указывая опцию --host на URL вашего экземпляра Bencher Self-Hosted.

🦀 Rust Criterion

Адаптер Rust Criterion (rust_criterion) ожидает вывод Criterion. Измеряется latency (то есть наносекунды (ns)). lower_value и upper_value являются нижней и верхней границами либо наклона (если доступно), либо среднего значения (если нет) (то есть value) соответственно.

Terminal window
bencher run --adapter rust_criterion "cargo bench"

Track your benchmarks in CI

Have you ever had a performance regression impact your users? Bencher could have prevented that from happening with continuous benchmarking.

🤖 Этот документ был автоматически создан OpenAI GPT-4. Оно может быть неточным и содержать ошибки. Если вы обнаружите какие-либо ошибки, откройте проблему на GitHub.