Ein computer-implementiertes Verfahren zum Überwachen eines künstlichen tiefen neuronalen Netzwerks (22) umfasst das Zuführen von Eingabedaten (30) an das zu überwachende trainierte tiefe neuronale Netzwerk (22), um daraus Ausgabedaten (34) und Aktivierungskartendaten (36) zu erhalten und das Zuführen der Eingabedaten (30), der Ausgabedaten (34) und der Aktivierungskartendaten (36) an einen computer-implementierten Netzwerkbeobachter (24). Der Netzwerkbeobachter (24) erzeugt Maskierungsdaten (40) aus den Aktivierungskartendaten (36) und/oder den Eingabedaten und/oder den Ausgabedaten; maskiert die Aktivierungskartendaten (36) anhand der Maskierungsdaten (40), um maskierte Aktivierungskartendaten (36) zu erhalten, wobei die maskierten Aktivierungskartendaten (44) unmaskierte Aktivierungswerte und maskierte Aktivierungswerte enthalten; und ermittelt einen Outlier Score (26) für die Ausgabedaten (34) anhand der maskierten Aktivierungskartendaten (36), wobei beim Ermitteln des Outlier Scores (26) lediglich die unmaskierten Werte berücksichtigt werden. Der Outlier Score (26) ist ein Zahlenwert und gibt an, in welchem Umfang die ermittelte Ausgabe von einem typischen Fall abweicht.

    A computer-implemented method for monitoring an artificial deep neural network (22) comprises supplying input data (30) to the trained deep neural network (22) to be monitored, in order to obtain therefrom output data (34) and activation map data (36), and supplying the input data (30), the output data (34) and the activation map data (36) to a computer-implemented network observer (24). The network observer (24) generates masking data (40) from the activation map data (36) and/or the input data and/or the output data; masks the activation map data (36) using the masking data (40), in order to obtain masked activation map data (36), wherein the masked activation map data (44) contains unmasked activation values and masked activation values; and determines an outlier score (26) for the output data (34) using the masked activation map data (36), wherein only the unmasked values are taken into account when determining the outlier score (26). The outlier score (26) is a numerical value and indicates the extent to which the determined output deviates from a typical case.


    Zugriff

    Download


    Exportieren, teilen und zitieren



    Titel :

    Computer-implementiertes Verfahren zum Überwachen eines tiefen neuronalen Netzwerks und dessen Anwendungen


    Beteiligte:

    Erscheinungsdatum :

    14.08.2024


    Medientyp :

    Patent


    Format :

    Elektronische Ressource


    Sprache :

    Deutsch


    Klassifikation :

    IPC:    G06V / G06N COMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS , Rechnersysteme, basierend auf spezifischen Rechenmodellen / B60W CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION , Gemeinsame Steuerung oder Regelung von Fahrzeug-Unteraggregaten verschiedenen Typs oder verschiedener Funktion



    COMPUTER-IMPLEMENTIERTES VERFAHREN ZUM ÜBERWACHEN EINES TIEFEN NEURONALEN NETZWERKS UND DESSEN ANWENDUNGEN

    SCHWALBE GESINA / KARG MICHELLE / LOYAL ANTJE ELISABETH | Europäisches Patentamt | 2024

    Freier Zugriff

    Training eines tiefen konvolutionellen neuronalen Netzwerks für individuelle Routen

    SHIVAMURTHY SWAROOP KAGGERE | Europäisches Patentamt | 2020

    Freier Zugriff

    Verfahren zum Überwachen eines adaptiven Netzwerks

    KÖNIGSEDER THOMAS / NEFF ALBRECHT | Europäisches Patentamt | 2020

    Freier Zugriff

    Verfahren zum Trainieren eines neuronalen Netzwerks

    BIRK MARKUS / BIEL STEFFEN | Europäisches Patentamt | 2024

    Freier Zugriff

    Verfahren zum Validieren eines neuronalen Netzwerks

    BIEL STEFFEN / BIRK MARKUS | Europäisches Patentamt | 2025

    Freier Zugriff