Wie man benutzerdefinierte Rust-Benchmarks in der CI verfolgt

Everett Pompeii

Now, da Sie wie man ein benutzerdefiniertes Benchmarking-Harness in Rust aufbaut, sehen wir uns an, wie man diese Benchmarks im CI verfolgt. Kontinuierliches Benchmarking ist die Praxis, Benchmarks bei jedem Änderungssatz durchzuführen, um sicherzustellen, dass die Änderungen keine Leistungseinbußen verursachen. Der einfachste Weg, kontinuierliches Benchmarking mit benutzerdefiniertes-Benchmarks umzusetzen, ist die Verwendung von Bencher.

Was ist Bencher?

Bencher ist eine Suite von kontinuierlichen Benchmarking-Tools. Hatten Sie jemals eine Performance Regression, die Ihre Nutzer beeinflusste? Bencher hätte das verhindern können. Bencher ermöglicht es Ihnen, Leistungsregressionen vorher zu erkennen und zu verhindern, bevor sie in die Produktion gelangen.

• Ausführen: Führen Sie Ihre Benchmarks lokal oder in CI mit Ihren bevorzugten Benchmarking-Tools aus. Das bencher CLI umfasst einfach Ihr vorhandenes Benchmark-Harness und speichert die Ergebnisse.
• Verfolgen: Verfolgen Sie die Ergebnisse Ihrer Benchmarks im Laufe der Zeit. Überwachen, abfragen und grafisch darstellen der Ergebnisse mit der Bencher Web Konsole auf Basis des Quellzweigs, Testbetts und Maßnahme.
• Auffangen: Fangen Sie Leistungsregressionen in CI ab. Bencher verwendet modernste, anpassbare Analysen, um Leistungsregressionen zu erkennen, bevor sie in die Produktion gelangen.

Aus denselben Gründen, warum Unit Tests in CI laufen, um Feature Regressionen zu verhindern, sollten Benchmarks in CI mit Bencher ausgeführt werden, um Leistungsregressionen zu verhindern. Performance-Bugs sind Fehler!

Schritte für Bencher Cloud

1. Erstellen Sie ein Bencher Cloud-Konto.
2. Erstellen Sie ein API-Token und fügen Sie es Ihrem CI als Geheimnis hinzu.
3. Erstellen Sie einen Workflow für Ihr CI, wie GitHub Actions oder GitLab CI/CD.
4. Installieren Sie die Bencher CLI in Ihrem CI-Workflow.
5. Führen Sie Ihre Benchmarks mit dem bencher run Unterbefehl in Ihrem CI-Workflow mit dem json Adapter aus.

Schritte für die Bencher-Self-Hosted

1. Erstellen Sie eine Bencher Self-Hosted Instanz.
2. Erstellen Sie ein Konto auf Ihrer Bencher Self-Hosted Instanz.
3. Erstellen Sie ein API-Token und fügen Sie es als Geheimnis zu Ihrem CI hinzu.
4. Erstellen Sie einen Workflow für Ihr CI, wie GitHub Actions oder GitLab CI/CD.
5. Installieren Sie die Bencher-CLI in Ihrem CI-Workflow. Stellen Sie sicher, dass die CLI-Version mit der Version Ihrer Bencher Self-Hosted Instanz übereinstimmt.
6. Führen Sie Ihre Benchmarks mit dem bencher run Unterbefehl in Ihrem CI-Workflow aus, indem Sie den json Adapter verwenden und die Option --host auf die URL Ihrer Bencher Self-Hosted Instanz setzen.

{…} JSON

Der JSON-Adapter (json) erwartet Bencher Metric Format (BMF) JSON. Er ist perfekt für die Integration von benutzerdefinierten Benchmark-Harnesses mit Bencher geeignet. Für weitere Details siehe wie man benutzerdefinierte Benchmarks verfolgt und die BMF JSON Referenz.

bencher run --adapter json "cargo bench"