Wie man Rust libtest bench Benchmarks im CI verfolgt

Everett Pompeii

Now, da Sie wie man Rust-Code mit libtest bench benchmarkt, sehen wir uns an, wie man diese Benchmarks im CI verfolgt. Kontinuierliches Benchmarking ist die Praxis, Benchmarks bei jedem Änderungssatz durchzuführen, um sicherzustellen, dass die Änderungen keine Leistungseinbußen verursachen. Der einfachste Weg, kontinuierliches Benchmarking mit Criterion-Benchmarks umzusetzen, ist die Verwendung von Bencher.

Was ist Bencher?

Bencher ist eine Suite von kontinuierlichen Benchmarking-Tools. Hatten Sie jemals eine Performance Regression, die Ihre Nutzer beeinflusste? Bencher hätte das verhindern können. Bencher ermöglicht es Ihnen, Leistungsregressionen vorher zu erkennen und zu verhindern, bevor sie in die Produktion gelangen.

• Ausführen: Führen Sie Ihre Benchmarks lokal oder in CI mit Ihren bevorzugten Benchmarking-Tools aus. Das bencher CLI umfasst einfach Ihr vorhandenes Benchmark-Harness und speichert die Ergebnisse.
• Verfolgen: Verfolgen Sie die Ergebnisse Ihrer Benchmarks im Laufe der Zeit. Überwachen, abfragen und grafisch darstellen der Ergebnisse mit der Bencher Web Konsole auf Basis des Quellzweigs, Testbetts und Maßnahme.
• Auffangen: Fangen Sie Leistungsregressionen in CI ab. Bencher verwendet modernste, anpassbare Analysen, um Leistungsregressionen zu erkennen, bevor sie in die Produktion gelangen.

Aus denselben Gründen, warum Unit Tests in CI laufen, um Feature Regressionen zu verhindern, sollten Benchmarks in CI mit Bencher ausgeführt werden, um Leistungsregressionen zu verhindern. Performance-Bugs sind Fehler!

Schritte für Bencher Cloud

1. Erstellen Sie ein Bencher Cloud-Konto.
2. Erstellen Sie ein API-Token und fügen Sie es Ihrem CI als Geheimnis hinzu.
3. Erstellen Sie einen Workflow für Ihr CI, wie GitHub Actions oder GitLab CI/CD.
4. Installieren Sie die Bencher CLI in Ihrem CI-Workflow.
5. Führen Sie Ihre Benchmarks mit dem bencher run Unterbefehl in Ihrem CI-Workflow mit dem rust_bench Adapter aus.

Schritte für die Bencher-Self-Hosted

1. Erstellen Sie eine Bencher Self-Hosted Instanz.
2. Erstellen Sie ein Konto auf Ihrer Bencher Self-Hosted Instanz.
3. Erstellen Sie ein API-Token und fügen Sie es als Geheimnis zu Ihrem CI hinzu.
4. Erstellen Sie einen Workflow für Ihr CI, wie GitHub Actions oder GitLab CI/CD.
5. Installieren Sie die Bencher-CLI in Ihrem CI-Workflow. Stellen Sie sicher, dass die CLI-Version mit der Version Ihrer Bencher Self-Hosted Instanz übereinstimmt.
6. Führen Sie Ihre Benchmarks mit dem bencher run Unterbefehl in Ihrem CI-Workflow aus, indem Sie den rust_bench Adapter verwenden und die Option --host auf die URL Ihrer Bencher Self-Hosted Instanz setzen.

🦀 Rust Bench

Der Rust Bench Adapter (rust_bench) erwartet eine Ausgabe von libtest bench. Die latency Messung (d.h. Nanosekunden (ns)) wird erfasst. Der lower_value und upper_value sind die Abweichungen unterhalb und oberhalb des Medians (d.h. value) jeweils.

bencher run --adapter rust_bench "cargo +nightly bench"