HNSW<\/a><\/noindex> (Hierarchische Navigierbare Kleinstadtgrafen). Dies ist ein hierarchisches Modell, das es erm\u00f6glicht, innerhalb von wenigen Millisekunden die N n\u00e4chstgelegenen Vektoren f\u00fcr den Nutzer aus einer Millionen-Datenbank zu finden. Vorab indizieren wir unsere gesamte Dokumentendatenbank offline. Da die Suche im Index recht schnell ist, k\u00f6nnen wir bei Vorhandensein mehrerer starker Einbettungen mehrere Indizes erstellen (je einen f\u00fcr jede Einbettung) und in Echtzeit auf jeden von ihnen zugreifen.<\/p>\nWir verf\u00fcgen \u00fcber Zehntausende von Dokumenten f\u00fcr jeden Benutzer. Das ist immer noch eine gro\u00dfe Menge, um s\u00e4mtliche Merkmale zu z\u00e4hlen, daher wenden wir in diesem Schritt ein leichtes Ranking an \u2013 ein vereinfachtes Modell eines schweren Rankings mit weniger Merkmalen. Die Aufgabe besteht darin, vorherzusagen, welche Dokumente bei dem schwereren Modell in der Spitze landen werden. Die Dokumente mit den h\u00f6chsten Vorhersagen werden in dem schweren Modell verwendet, das hei\u00dft in der finalen Ranking-Phase. Dieser Ansatz erm\u00f6glicht es, die Anzahl der f\u00fcr den Benutzer betrachteten Dokumente in nur wenigen Millisekunden von Millionen auf Tausende zu reduzieren.<\/p>\n
ALS-Schritt zur Laufzeit<\/h2>\n \nWie ber\u00fccksichtigt man das Benutzer-Feedback sofort nach dem Klick?<\/b><\/p>\n
Ein wichtiger Faktor in Empfehlungen ist die Reaktionszeit auf das Feedback des Nutzers. Dies ist besonders wichtig f\u00fcr neue Nutzer: Wenn jemand anf\u00e4ngt, das Empfehlungssystem zu nutzen, erh\u00e4lt er einen nicht personalisierten Feed mit einer Vielzahl von Dokumenten zu unterschiedlichen Themen. Sobald er seinen ersten Klick macht, ist es wichtig, sofort darauf zu reagieren und sich an seinen Interessen zu orientieren. Wenn alle Faktoren offline berechnet werden, wird eine schnelle Reaktion des Systems aufgrund von Verz\u00f6gerungen unm\u00f6glich. Daher ist es notwendig, die Aktionen der Nutzer in Echtzeit zu verarbeiten. Zu diesem Zweck verwenden wir den ALS-Schritt zur Laufzeit, um die Vektorrepr\u00e4sentation des Nutzers zu erstellen.<\/p>\n
Angenommen, wir haben f\u00fcr alle Dokumente eine Vektorrepr\u00e4sentation. Zum Beispiel k\u00f6nnen wir offline aus dem Text eines Artikels Embeddings mit ELMo, BERT oder anderen Modellen des maschinellen Lernens erstellen. Wie k\u00f6nnen wir die Vektorrepr\u00e4sentation der Nutzer im selben Raum basierend auf ihren Interaktionen im System erhalten?<\/p>\n
Der allgemeine Grundsatz zur Bildung und Zerlegung der Nutzer-Dokument-Matrix<\/b>Angenommen, wir haben m Nutzer und n Dokumente. F\u00fcr einige Nutzer ist ihre Beziehung zu bestimmten Dokumenten bekannt. Diese Informationen k\u00f6nnen wir in einer m x n-Matrix darstellen: Die Zeilen entsprechen den Nutzern und die Spalten den Dokumenten. Da die meisten Dokumente von einer Person nicht gesehen wurden, bleiben viele Zellen der Matrix leer, w\u00e4hrend andere ausgef\u00fcllt sind. F\u00fcr jedes Ereignis (Gef\u00e4llt mir, gef\u00e4llt mir nicht, Klicken) sieht die Matrix einen bestimmten Wert vor \u2013 in unserem vereinfachten Modell entspricht ein \"Gef\u00e4llt mir\" der 1 und ein \"Gef\u00e4llt mir nicht\" der -1.<\/p>\n
Wir zerlegen die Matrix in zwei Matrizen: P (m x d) und Q (d x n), wobei d die Dimension der Vektordarstellung ist (in der Regel eine kleine Zahl). Daher hat jedes Objekt einen d-dimensionalen Vektor (f\u00fcr den Nutzer ist das die Zeile in der Matrix P, f\u00fcr das Dokument die Spalte in der Matrix Q). Diese Vektoren sind die Embeddings der entsprechenden Objekte. Um vorherzusagen, ob einem Nutzer ein Dokument gefallen wird, multiplizieren wir einfach ihre Embeddings.<\/p>\n
\nHier ist rui - die Interaktion des Benutzers u mit dem Dokument i, qi - der Vektor des Dokuments i, pu - der Vektor des Benutzers u.<\/p>\n
Der optimale Vektor des Benutzers aus Sicht des mittleren quadratischen Fehlers (bei festen Dokumentvektoren) wird analytisch durch die L\u00f6sung der entsprechenden linearen Regression ermittelt.<\/p>\n
Dies wird als \"ALS-Schritt\" bezeichnet. Der Algorithmus selbst besteht darin, dass wir abwechselnd eine der Matrizen (Benutzer und Artikel) fixieren und die andere aktualisieren, um die optimale L\u00f6sung zu finden.<\/p>\n
Gl\u00fccklicherweise ist das Finden der Vektor-Darstellung des Benutzers eine ziemlich schnelle Operation, die zur Laufzeit unter Verwendung von Vektor-Befehlen durchgef\u00fchrt werden kann. Dieser Trick erm\u00f6glicht es, das Benutzer-Feedback sofort in die Rangfolge einzubeziehen. Das gleiche Embedding kann auch im kNN-Index verwendet werden, um die Auswahl der Kandidaten zu verbessern.<\/p>\n
Verteilte kollaborative Filterung<\/h2>\n \nWie kann man inkrementelle verteilte Matrixfaktorisierung durchf\u00fchren und schnell die Vektor-Darstellung neuer Artikel finden?<\/b><\/p>\n
Inhalte sind nicht die einzige Quelle f\u00fcr Empfehlungsdaten. Eine weitere wichtige Quelle ist die kollaborative Information. Gute Hinweise f\u00fcr das Ranking k\u00f6nnen traditionell aus der Zerlegung der Nutzer-Dokument-Matrix gewonnen werden. Bei dem Versuch, eine solche Zerlegung durchzuf\u00fchren, sind wir jedoch auf Probleme gesto\u00dfen:<\/p>\n
1. Wir haben Millionen von Dokumenten und zehn Millionen Nutzer. Die Matrix passt nicht vollst\u00e4ndig auf eine einzige Maschine, und die Zerlegung w\u00fcrde sehr lange dauern.
Um die genannten Probleme zu l\u00f6sen, haben wir eine verteilte Matrixfaktorierung benutzer-dokument mit h\u00e4ufigen, inkrementellen Updates umgesetzt. Wie funktioniert das genau?<\/p>\n
Angenommen, wir haben einen Cluster aus N Maschinen (N in den Hunderten) und wollen eine verteilte Faktorierung einer Matrix durchf\u00fchren, die nicht auf einer Maschine Platz hat. Die Frage ist, wie wir diese Faktorisierung so ausf\u00fchren, dass eine ausreichende Datenmenge auf jeder Maschine vorhanden ist und die Berechnungen unabh\u00e4ngig voneinander stattfinden k\u00f6nnen. <\/p>\n
Dieser Trick kann \u00fcber mehrere Epochen hinweg zur Konvergenz des Modells wiederholt werden, indem abwechselnd die feste Matrix ver\u00e4ndert wird. Doch selbst dann kann die Zerlegung der Matrix mehrere Stunden in Anspruch nehmen. Und das l\u00f6st nicht das Problem, dass man schnell die Embeddings neuer Dokumente erhalten und die Embeddings derjenigen aktualisieren muss, zu denen w\u00e4hrend des Modelltrainings nur begrenzte Informationen vorlagen. <\/p>\n
Die Implementierung eines schnellen inkrementellen Updates des Modells hat uns geholfen. Angenommen, wir haben ein aktuelles trainiertes Modell. Seit seiner Schulung sind neue Artikel erschienen, mit denen unsere Benutzer interagiert haben, sowie Artikel, die w\u00e4hrend des Trainings nur geringf\u00fcgig genutzt wurden. Um schnell die Embeddings solcher Artikel zu erhalten, verwenden wir die Benutzer-Embeddings, die w\u00e4hrend des ersten gro\u00dfen Trainings des Modells generiert wurden, und f\u00fchren einen Schritt ALS (Alternating Least Squares) durch, um die Dokumentmatrix bei konstanter Benutzermatrix zu berechnen. Dadurch k\u00f6nnen wir die Embeddings ziemlich schnell erhalten \u2013 innerhalb von Minuten nach der Ver\u00f6ffentlichung eines Dokuments \u2013 und die Embeddings neuer Dokumente h\u00e4ufig aktualisieren.<\/p>\n
Um Empfehlungen sofort in Echtzeit auf die Handlungen der Benutzer abzustimmen, verwenden wir keine Offline-Benutzer-Embeddings. Stattdessen setzen wir den ALS-Schritt ein und erhalten den aktuellsten Benutzervektor.<\/p>\n
\u00dcbertragung auf ein anderes Domaingebiet<\/h2>\n \nWie kann man das Nutzerfeedback zu Textartikeln nutzen, um eine Vektordarstellung von Videos zu erstellen?<\/b><\/p>\n
Urspr\u00fcnglich haben wir nur Textartikel empfohlen, weshalb viele unserer Algorithmen auf diese Art von Inhalten optimiert sind. Bei der Einf\u00fchrung von Inhalten anderer Typen stie\u00dfen wir jedoch auf die Notwendigkeit, die Modelle anzupassen. Wie haben wir diese Herausforderung am Beispiel von Videos gel\u00f6st? Eine M\u00f6glichkeit w\u00e4re, alle Modelle von Grund auf neu zu trainieren. Das dauert jedoch lange und einige Algorithmen sind auf eine gro\u00dfe Menge an Trainingsdaten angewiesen, die f\u00fcr neue Inhaltstypen in den ersten Phasen seiner Nutzung auf dem Dienst noch nicht in ausreichendem Ma\u00dfe vorhanden sind.<\/p>\n
Wir haben einen anderen Weg eingeschlagen und Textmodelle f\u00fcr Videos wiederverwendet. Bei der Erstellung von Vektorrepr\u00e4sentationen f\u00fcr Videos haben wir denselben ALS-Trick verwendet. Wir haben die Vektorrepr\u00e4sentation der Nutzer basierend auf Textartikeln genommen und einen ALS-Schritt unternommen, indem wir Informationen \u00fcber Videoansichten eingesetzt haben. So erhielten wir m\u00fchelos die Vektorrepr\u00e4sentation des Videos. Zur Laufzeit berechnen wir einfach die \u00c4hnlichkeit zwischen dem Benutzervektor, der auf Textartikeln basiert, und dem Video-Vektor.<\/p>\n
Fazit<\/h2>\n \nDie Entwicklung des Kernsystems f\u00fcr Echtzeitempfehlungen ist mit vielen Herausforderungen verbunden. Es ist erforderlich, Daten schnell zu verarbeiten und ML-Methoden anzuwenden, um diese Daten effektiv zu nutzen; komplexe verteilte Systeme zu bauen, die in der Lage sind, Nutzerinformationen und neue Inhalte in minimaler Zeit zu verarbeiten; und viele weitere Aufgaben.<\/p>\n
In dem aktuellen System, dessen Ger\u00e4t ich beschrieben habe, w\u00e4chst die Qualit\u00e4t der Empfehlungen f\u00fcr den Nutzer mit seiner Aktivit\u00e4t und Verweildauer im Dienst. Doch hier liegt auch die gr\u00f6\u00dfte Herausforderung: Es f\u00e4llt dem System schwer, sofort die Interessen eines Menschen zu erkennen, der wenig mit den Inhalten interagiert hat. Die Verbesserung der Empfehlungen f\u00fcr neue Nutzer ist unser zentrales Anliegen. Wir werden weiterhin die Algorithmen optimieren, damit relevante Inhalte schneller in den Feed gelangen und irrelevante nicht angezeigt werden.habr.com<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"\u041c\u0435\u043d\u044f \u0437\u043e\u0432\u0443\u0442 \u041f\u0430\u0432\u0435\u043b \u041f\u0430\u0440\u0445\u043e\u043c\u0435\u043d\u043a\u043e, \u044f ML-\u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0447\u0438\u043a. \u0412 \u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u044f \u0445\u043e\u0442\u0435\u043b \u0431\u044b \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u0430\u0442\u044c \u043e\u0431 \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u0435 \u0441\u0435\u0440\u0432\u0438\u0441\u0430 \u042f\u043d\u0434\u0435\u043a\u0441.\u0414\u0437\u0435\u043d \u0438 \u043f\u043e\u0434\u0435\u043b\u0438\u0442\u044c\u0441\u044f \u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u0438\u043c\u0438 \u0443\u043b\u0443\u0447\u0448\u0435\u043d\u0438\u044f\u043c\u0438, \u0432\u043d\u0435\u0434\u0440\u0435\u043d\u0438\u0435 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043f\u043e\u0437\u0432\u043e\u043b\u0438\u043b\u043e \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0442\u044c \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0430\u0446\u0438\u0439. \u0418\u0437 \u043f\u043e\u0441\u0442\u0430 \u0432\u044b \u0443\u0437\u043d\u0430\u0435\u0442\u0435, \u043a\u0430\u043a \u0432\u0441\u0435\u0433\u043e \u0437\u0430 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043c\u0438\u043b\u043b\u0438\u0441\u0435\u043a\u0443\u043d\u0434 \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u044c \u0441\u0440\u0435\u0434\u0438 \u043c\u0438\u043b\u043b\u0438\u043e\u043d\u043e\u0432 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u0432 \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u0440\u0435\u043b\u0435\u0432\u0430\u043d\u0442\u043d\u044b\u0435 \u0434\u043b\u044f \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f; \u043a\u0430\u043a \u0434\u0435\u043b\u0430\u0442\u044c \u043d\u0435\u043f\u0440\u0435\u0440\u044b\u0432\u043d\u043e\u0435 \u0440\u0430\u0437\u043b\u043e\u0436\u0435\u043d\u0438\u0435 \u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u043c\u0430\u0442\u0440\u0438\u0446\u044b (\u0441\u043e\u0441\u0442\u043e\u044f\u0449\u0435\u0439 \u0438\u0437 \u043c\u0438\u043b\u043b\u0438\u043e\u043d\u043e\u0432 \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432 \u0438 […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":71853,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[688],"tags":[],"class_list":["post-71852","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-administrirovanie"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t
![\"Wie](\"\/wp-content\/uploads\/2020\/02\/d63caf9162ca3533548fdef9cd740c24.png\")