Diplomová práce

Explaining Features of LSTM Model Learned on Human Motion Data

Bc. Tomáš Jevočin
Anotace

Cieľom práce je vysvetliť, aké features sa model neurónovej siete LSTM naučil na základe údajov o kostre ľudského pohybu. Na získanie usporiadania dôležitosti deep features aplikujeme DeepSHAP. Následne použijeme LRP upravené pre architektúru LSTM na získanie vstupného mapovania relevancie pre ľubovoľný fixný feature, ktorý môžeme vizualizovať. Získané usporiadania funkcií potom vyhodnotíme pomocou …více

Abstract

The thesis aims to explain what features an LSTM neural network model learned on top of human motion skeleton data. We apply DeepSHAP to obtain deep feature importance ordering. We then use LRP adjusted for LSTM architecture to acquire input relevance mapping for any fixed feature, which we can visualize. We then evaluate the obtained feature orderings with the help of a 1-NN model trained and evaluated …více

Klíčová slova
Explainable AI Explainability Human Motion Data Deep Feature Analysis Feature Visualisation SHAP DeepSHAP LRP RNN LSTM
Zadání práce
Human skeleton data constitute a simplified representation of human motion in the form of 3D trajectories of important body joints. One of the most important operations is the classification of such spatio-temporal data. Although many deep-learning classification techniques exist, they do not typically provide any explanation of how the output was determined. The objective of this thesis is to investigate relevant explainability methods and propose an approach to explaining what features have been learned from the skeleton data by a Long Short-Term Memory (LSTM) classification model. The given explainability approach will be experimentally evaluated on the HDM05 dataset.
Administrativní informace
Práce zkontrolována:
18. 12. 2023 17:56, doc. RNDr. Jan Sedmidubský, Ph.D., učo 60474
Plný text práce
1 MB / soubor PDF
Přílohy (1)
Jazyk práce
angličtina angličtina
Termín obhajoby
8. 2. 2024
Práce byla úspěšně obhájena

Vedoucí

doc. RNDr. Jan Sedmidubský, Ph.D., učo 60474
KSUZD FI MU

Oponent

prof. Ing. Pavel Zezula, CSc., učo 47485
KSUZD FI MU
Citovat tuto práci
Masarykova univerzita Fakulta informatiky
Studijní program
Plán
Zpracování a analýza rozsáhlých dat

Práce na příbuzné téma

Seznam prací, které mají shodná klíčová slova.

Podobné práce

  • Přidání souboru

    Soubor nebo složku lze nahrát pomocí tlačítka Přidat.

  • Další operace se soubory

    Podrobnosti lze zjistit označením příslušného řádku.

  • Pohled pro experty

    Pro častou práci je možné zvolit režim Více možností.

  • Vyhledávání souborů

    Vyhledávaný výraz můžete zadat přímo do adresního řádku.

  • Rychlý přístup k souborům

    Pomocí funkce Nedávné je možné se rychle vrátit k právě prohlíženým souborům. Oblíbené soubory je také možné označit Hvězdičkou.