EP-4738194-A1 - METHOD FOR PREDICTING A TIME COURSE OF A PHYSICAL TARGET VARIABLE BY MEANS OF A MACHINE LEARNING MODEL
Abstract
Verschiedene Aspekte betreffen ein Verfahren (100)aufweisend: Bereitstellen (102) multivariater Sensordaten, die für jede einer Vielzahl von physikalischen Größen jeweilige Sensordaten aufweisen, welche einen Zeitverlauf der physikalischen Größe repräsentieren, wobei jeder physikalischen Größe eine jeweilige Textbeschreibung zugeordnet ist, welche diese und deren eine Messumgebung beschreibt; für jede physikalische Größe (104): Aufteilen der jeweiligen Sensordaten in eine jeweilige Vielzahl von Sensordatensegmenten; für jedes Sensordatensegment der Vielzahl von Sensordatensegmenten: Ermitteln einer jeweiligen Sensordatensegmentrepräsentation, welche das Sensordatensegment repräsentiert und welche eine vordefinierte Dimension aufweist, Ermitteln eines jeweiligen Eingabeelementes unter Verwendung der jeweiligen Sensordatensegmentrepräsentation, zeitbezogener Positionsinformationen, welche eine Position des Sensordatensegments innerhalb des Zeitraums repräsentieren, und der jeweiligen Textbeschreibung der physikalischen Größe; Vorhersagen (106) des Zeitverlaufs der physikalischen Zielgröße mittels des maschinellen Lernmodells in Reaktion auf eine Eingabe aller Eingabeelemente und mindestens einer Zielgrößen-Abfrage, welche eine Position des vorherzusagenden Zeitverlaufs innerhalb des Zeitraums und eine Textbeschreibung der physikalischen Zielgröße repräsentiert, in das maschinelle Lernmodell.
Inventors
- Gerwinn, Sebastian
- Moshkovitz, Michal
- Schiegg, Martin
Assignees
- Robert Bosch GmbH
Dates
- Publication Date
- 20260506
- Application Date
- 20241104
Claims (10)
- Verfahren (100) zum Vorhersagen eines Zeitverlaufs (214) einer physikalischen Zielgröße mittels eines maschinellen Lernmodells (212), das Verfahren (100) aufweisend: Bereitstellen (102) multivariater Sensordaten, die einem Zeitraum zugeordnet sind und für jede physikalische Größe einer Vielzahl von physikalischen Größen jeweilige Sensordaten (210) aufweisen, welche einen Zeitverlauf der physikalischen Größe in dem Zeitraum repräsentieren, wobei jeder physikalischen Größe eine jeweilige Textbeschreibung zugeordnet ist, welche die physikalische Größe beschreibt; für jede physikalische Größe der Vielzahl von physikalischen Größen (104): • Aufteilen der jeweiligen Sensordaten in eine jeweilige Vielzahl von Sensordatensegmenten; • für jedes Sensordatensegment der Vielzahl von Sensordatensegmenten: ∘ Ermitteln einer jeweiligen Sensordatensegmentrepräsentation, welche das Sensordatensegment repräsentiert und welche (unabhängig von der Anzahl an Datenpunkten des Sensordatensegmentes) eine vordefinierte Dimension aufweist, ∘ Ermitteln eines jeweiligen Eingabeelementes unter Verwendung der jeweiligen Sensordatensegmentrepräsentation, zeitbezogener Positionsinformationen, welche eine Position des Sensordatensegments innerhalb des Zeitraums repräsentieren, und der jeweiligen Textbeschreibung der physikalischen Größe; Vorhersagen (106) des Zeitverlaufs (214) der physikalischen Zielgröße mittels des maschinellen Lernmodells (212) in Reaktion auf eine Eingabe aller Eingabeelemente und mindestens einer Zielgrößen-Abfrage, welche eine Position des vorherzusagenden Zeitverlaufs (214) innerhalb des Zeitraums und eine Textbeschreibung der physikalischen Zielgröße repräsentiert, in das maschinelle Lernmodell (212).
- Verfahren (100) gemäß Anspruch 1, wobei die jeweilige Vielzahl von Sensordatensegmenten zumindest einer physikalischen Größe zumindest zwei Sensordatensegmente mit einer voneinander verschiedenen Anzahl an Datenpunkten aufweist.
- Verfahren (100) gemäß Anspruch 1 oder 2, wobei die zeitbezogenen Positionsinformationen einen Startzeitpunkt und einen Endzeitpunkt innerhalb des Zeitraums repräsentieren.
- Verfahren (100) gemäß einem der Ansprüche 1 bis 3, wobei das maschinelle Lernmodell (212) ein Transformer-Modell aufweist, dessen Encoder (212-1) und/oder Decoder (212-2) eine Aufmerksamkeitsschicht aufweist, welcher alle Eingabeelemente zugeführt werden.
- Verfahren (100) gemäß einem der Ansprüche 1 bis 4, wobei die jeweilige Sensordatensegmentrepräsentation für ein Sensordatensegment mittels einer Aufmerksamkeitseinheit, welche einen gelernten sensordatensegment-spezifischen Parametervektor als Abfrage und das Sensordatensegment als Schlüssel und als Wert aufweist, ermittelt wird; und/oder wobei das jeweilige Eingabeelement unter Verwendung der jeweiligen Sensordatensegmentrepräsentation, einer jeweiligen Positionsrepräsentation und der jeweiligen Textbeschreibung der physikalischen Größe ermittelt wird, wobei die Positionsrepräsentation mittels einer Aufmerksamkeitseinheit, welche einen gelernten positions-spezifischen Parametervektor als Abfrage und die zeitbezogenen Positionsinformationen als Schlüssel und als Wert aufweist, ermittelt wird.
- Verfahren (100) gemäß einem der Ansprüche 1 bis 5, wobei das maschinelle Lernmodell (212) ein Transformer-Modell aufweist, dessen ein oder mehreren Aufmerksamkeitsschichten im Encoder (212-1) und/oder Decoder (212-2) eine Aufmerksamkeitseinheit aufweist, welcher die Zielgrößen-Abfrage zugeführt wird.
- System (200), aufweisend: • eine Vorrichtung (202), die eingerichtet ist, den technischen Prozess auszuführen; • ein oder mehrere Sensoren (208) zum Erfassen der multivariaten Sensordaten (210); und • eine Steuervorrichtung (204), die eingerichtet ist, den Zeitverlauf (214) der physikalischen Zielgröße gemäß einem der Ansprüche 1 bis 6 vorherzusagen und den technischen Prozess unter Berücksichtigung der Vorhersage zu steuern.
- Datenverarbeitungseinheit, die eingerichtet ist, das Verfahren gemäß einem der Ansprüche 1 bis 6 auszuführen.
- Computerprogramm mit Befehlen, die, wenn sie durch einen Prozessor ausgeführt werden, bewirken, dass der Prozessor das Verfahren (100) gemäß einem der Ansprüche 1 bis 6 durchführt.
- Computerlesbares Medium, das Befehle speichert, die, wenn sie durch einen Prozessor ausgeführt werden, bewirken, dass der Prozessor das Verfahren (100) gemäß einem der Ansprüche 1 bis 6 durchführt.
Description
Stand der Technik Für verschiedene technische (z.B. physikalische oder chemische) Prozesse kann es wünschenswert sein, einen Zeitverlauf einer physikalischen Größe anhand multivariater Zeitreihendaten anderer physikalischer Größen vorherzusagen und/oder anhand der multivariaten Zeitreihendaten mehrerer physikalischer Größen eine Anomalie vorherzusagen. Zum Beispiel kann es wünschenswert sein, einen Gesundheitszustand (engl.: state-of-health) oder eine Wasserstoffbeladung einer Brennstoffzelle anhand eines Zeitverlaufs von Stromstärke und Spannung vorherzusagen, oder im Falle einer Bohrmaschine anhand eines Zeitverlaufs von Stromstärke und Spannung vorherzusagen, welches Material gebohrt wird, oder eine Anomalie anhand des Zeitverlaufs von Stromstärke und Spannung vorherzusagen, etc. Üblicherweise kann hierzu ein maschinelles Lernmodell für genau einen Anwendungsfall (z.B. für das Vorhersagen des Gesundheitszustands der Brennstoffzelle) trainiert werden. Offenbarung der Erfindung Die vorliegende Offenbarung bezieht sich auf ein Verfahren zum Vorhersagen eines Zeitverlaufs einer physikalischen Zielgröße mittels eines maschinellen Lernmodells anhand multivariater Sensordaten, wobei die multivariaten Sensordaten unregelmäßig abgetastete Sensordaten sein können. Werden Sensordaten unterschiedlicher Sensoren erfasst, so können diese voneinander verschiedene Abtastraten aufweisen. Auch können in manchen Sensordaten Datenpunkte fehlen (z.B. aufgrund eines Messfehlers oder da diese aufgrund einer zu hohen Unsicherheit entfernt werden, etc.). Auch können Zeitabschnitte, in denen Sensordaten vorliegen, voneinander verschiedene Zeitdauern aufweisen. Anschaulich kann es vorkommen, dass nicht jeder Datenpunkt in ersten Sensordaten bijektiv einem Datenpunkt in von den ersten Sensordaten verschiedenen zweiten Sensordaten zugeordnet werden kann. Das hierin beschriebene Verfahren ermöglicht die Vorhersage des Zeitverlaufs der physikalischen Zielgröße auch in solchen Fällen unregelmäßiger Sensordaten. Dies wird beispielsweise dadurch erreicht, dass die Sensordaten in Sensordatensegmente aufgeteilt werden und dann für jedes Sensordatensegment eine jeweilige Sensordatensegmentrepräsentation ermittelt wird, die für alle Sensordatensegmente die gleiche vordefinierte Dimension aufweist. Damit ist die Dimension Sensordatensegmentrepräsentation von der Regelmäßigkeit (z.B. der Abtastrate, dem Vorhandensein von Datenpunkten, etc.) der Datenpunkte des Sensordatensegmentes unabhängig. Auch kann das hierin beschriebene maschinelle Lernmodell für die Vorhersage einer jeweiligen physikalischen Zielgröße einer Vielzahl von verschiedenen Aufgaben mit zumindest teilweise unterschiedlichen physikalischen Größen trainiert worden sein. Dadurch können beispielsweise die physikalischen Gesetze, welche über die verschiedenen Aufgaben hinweg gelten, effizient gelernt worden sein. Ein solches Trainieren ist gerade dadurch erst möglich, dass das hierin beschriebene Verfahren unregelmäßiger multivariate Sensordaten verarbeiten kann. Verschiedene Aspekte betreffen ein Verfahren zum Vorhersagen eines Zeitverlaufs einer physikalischen Zielgröße mittels eines maschinellen Lernmodells, das Verfahren aufweisend: Bereitstellen multivariater Sensordaten, die einem Zeitraum zugeordnet sind und für jede physikalische Größe einer Vielzahl von physikalischen Grö-ßen jeweilige Sensordaten aufweisen, welche einen Zeitverlauf der physikalischen Größe in dem Zeitraum repräsentieren, wobei jeder physikalischen Größe eine jeweilige Textbeschreibung zugeordnet ist, welche die physikalische Größe (und optional ferner eine Messumgebung, in der die jeweiligen Sensordaten erfasst wurden) (als Text) beschreibt; für jede physikalische Größe der Vielzahl von physikalischen Größen: Aufteilen der jeweiligen Sensordaten in eine jeweilige Vielzahl von (z.B. disjunkten) Sensordatensegmenten; für jedes Sensordatensegment der Vielzahl von Sensordatensegmenten: Ermitteln einer jeweiligen Sensordatensegmentrepräsentation, welche das Sensordatensegment repräsentiert und welche (unabhängig von einer Anzahl an Datenpunkten des Sensordatensegmentes) eine vordefinierte Dimension aufweist, Ermitteln eines jeweiligen Eingabeelementes unter Verwendung der jeweiligen Sensordatensegmentrepräsentation, zeitbezogener Positionsinformationen, welche eine (z.B. zeitliche) Position des Sensordatensegments innerhalb des Zeitraums repräsentieren, und der jeweiligen Textbeschreibung der physikalischen Größe; Vorhersagen des Zeitverlaufs der physikalischen Zielgröße mittels des maschinellen Lernmodells in Reaktion auf eine Eingabe aller Eingabeelemente und mindestens einer Zielgrößen-Abfrage, welche eine (z.B. zeitliche) Position des vorherzusagenden Zeitverlaufs innerhalb des Zeitraums und eine Textbeschreibung der physikalischen Zielgröße repräsentiert, in das maschinelle Lernmodell. Im Folgenden werden verschiedene Ausführungsbeispiele angegeben. Beispiel 1 ist das Verfahren zum Vorhersagen des Zeitver