Migration von Solr zu Opensearch
May 06 2023
Migration von 100 Millionen Dokumenten von Solr zu OpenSearch
Wir haben solr für unsere E-Commerce-Such-/Feed-/Autosuggest-/Personalisierungs-Anwendungsfälle verwendet. Herausforderungen mit Solr-Cluster ELK wird jetzt mit elastischer Premium-Lizenz geliefert.
Wir haben solr für unsere E-Commerce-Such-/Feed-/Autosuggest-/Personalisierungs-Anwendungsfälle verwendet.
Herausforderungen mit Solr-Cluster
- Die Verwaltung der Solr-Infrastruktur (Zookeeper, JVM, GC-Analyse usw.) ist eine Herausforderung. Im Allgemeinen benötigen wir dafür einen dedizierten Entwickler (SRE/SDE-3).
- Upgrade auf eine neuere stabile Version. Weniger Community-Support für kritische Probleme.
ELK wird jetzt mit elastischer Premium-Lizenz geliefert. Also haben wir uns für Opensearch entschieden, da es Open Source ist. Es basiert auf der Version Elasticsearch 7.10. Es hat eine Apache-Lizenz.
Große Herausforderungen
- Vorhandener Code hatte Designprobleme. Eng gekoppelt mit solr. Microservice-Architektur und Abhängigkeit von mehreren Diensten.
- Große Clustergröße in einigen Regionen und landesweite Einführungen.
- Wir haben Terraform für die Clusterbildung von OpenSearch in allen Regionen verwendet.
- Für den Code haben wir Factory Design Pattern und Adapter Design Pattern verwendet.
- Parallele Datenaufnahme in Opensearch & Solr.
- Migration von Deltadaten opensearch & solr durch unseren Neuindizierungsservice.
- Start eines Dienstes nach dem anderen mit Unterstützung für Opensearch und Solr
- Sobald die Schritte 1 bis 5 fertig waren. Wir haben den länderweisen Start und die Überwachung auf newRelic geplant.
Größter Engpass : Es ging um die Wahl der AWS-Maschine des Knotentyps c5. Wir haben es durch Benchmarking behoben und uns für c6g entschieden.
Ergebnis
Wir haben über 100 Millionen Dokumente ohne Ausfallzeiten erfolgreich von Solr zu OpenSearch migriert. Die Migration umfasste über 100 Knoten auf Solr und OpenSearch. Außerdem konnten wir ca. 0,8 Mio. USD einsparen.
Referenz
- Fabrikdesignmuster
- Terraform
- Offene Suche
- Solr
- Designmuster für Adapter

![Was ist überhaupt eine verknüpfte Liste? [Teil 1]](https://post.nghiatu.com/assets/images/m/max/724/1*Xokk6XOjWyIGCBujkJsCzQ.jpeg)



































