Bakalářská práce

Vysvětlitelnost modelů pro zpracování obrazu pomocí lokální selekce vlastností

Explainability of Image Processing Models using Local Feature Selection

David Halmazňa
Anotace

Hluboké neuronové sítě dosahují špičkových výsledků v řadě úloh počítačového vidění, jejich netransparentní způsob rozhodování však komplikuje nasazení v citlivých oblastech, jako je lékařské zobrazování nebo autonomní řízení. Současné black-box metody vysvětlitelné umělé inteligence (XAI) zpravidla produkují rozptýlené teplotní mapy nebo nespojité segmenty, jež je obtížné interpretovat jako ucelený …více

Abstract

Deep neural networks achieve state-of-the-art performance across many vision tasks, but their opaque decision-making limits adoption in high-stakes domains such as medical imaging and autonomous driving. Existing black-box Explainable AI (XAI) methods typically produce scattered heatmaps or disconnected segments that are difficult to interpret as a coherent structural reason for a prediction. This …více

Klíčová slova
vysvětlitelná AI zpracování obrazu selekce příznaků strojové učení neuronové sítě explainable AI image processing feature selection machine learning neural networks
Zadání práce
Cílem práce je navrhnout a implementovat algoritmus vysvětlující chování modelů pro zpracování obrazu. Jedná se o modifikaci a rozšíření metody LIME, které by mohlo vést k vylepšení reflexe prostorového uspořádání částí vstupního obrázku. Student se zapojí do aktivního výzkumu; v jeho rámci navrhne modifikovaný algoritmus, vytvoří prototypovou implementaci a porovná je s existujícími metodami. Výsledný systém bude aplikován na modely natrénované na obecných obrázcích z databáze ImageNet a modely trénované pro diagnostiku v digitální patologii. Součástí práce bude také popis teorie (např. teorie informace) použité pro návrh algoritmu a jeho zhodnocení.
Administrativní informace
Práce zkontrolována:
11. 6. 2026 17:09, doc. RNDr. Tomáš Brázdil, Ph.D., MBA, učo 4074
Plný text práce
27,1 MB / soubor PDF
Přílohy (1)
Jazyk práce
angličtina angličtina
Termín obhajoby
18. 6. 2026
Práce byla úspěšně obhájena

Vedoucí

doc. RNDr. Tomáš Brázdil, Ph.D., MBA, učo 4074
KSUZD FI MU

Oponent

Mgr. Markéta Barać Makarová, učo 468063
HEALTH FSpS MU

Konzultant

Mgr. Ondřej Pokora, Ph.D., učo 42536
ÚMS Ústavy PřF MU
Citovat tuto práci
Masarykova univerzita Přírodovědecká fakulta
Studijní program
Plán
Modelování a výpočty

Práce na příbuzné téma

Seznam prací, které mají shodná klíčová slova.

Podobné práce

  • Přidání souboru

    Soubor nebo složku lze nahrát pomocí tlačítka Přidat.

  • Další operace se soubory

    Podrobnosti lze zjistit označením příslušného řádku.

  • Pohled pro experty

    Pro častou práci je možné zvolit režim Více možností.

  • Vyhledávání souborů

    Vyhledávaný výraz můžete zadat přímo do adresního řádku.

  • Rychlý přístup k souborům

    Pomocí funkce Nedávné je možné se rychle vrátit k právě prohlíženým souborům. Oblíbené soubory je také možné označit Hvězdičkou.