Diplomová práce

Part-of-Speech Tagging Using Neural Networks

Bc. et Bc. Martin Frodl, učo 324406
Anotace

Značkování slovních druhů, tj. proces přiřazování značek slovních druhů jednotlivým slovům ve větách, má značné množství aplikací v oblasti zpracování přirozeného jazyka. Představuje důležitý mezikrok v dalších úlohách, jakými je např. syntaktická analýza nebo strojový překlad. Neuronové sítě představují jeden z méně typických přístupů ke značková\-ní slovních druhů a bývají v učebnicích nezřídka opomíjeny …více

Abstract

Part-of-speech tagging, the process of assigning parts of speech to words in sentences, has a vast field of applications in natural language processing. It constitutes an important intermediate step in other tasks such as syntactic analysis or machine translation. Out of the methods that have been employed in solving this problem, neural networks belong to the rather non-typical ones, being often neglected …více

Zadání práce
Neural networks have been subject to controversy ever since the concept was first introduced in the mid-20th century. As time went by, they turned out to be a powerful tool for solving a number of machine learning tasks including pattern recognition, classification, regression and other. For some tasks, neural networks achieve significantly better results than traditional methods. On the other hand, employing neural networks in other tasks shows little or no improvement compared to the conventional methods. As regards the problem of part-of-speech tagging, numerous attempts to make use of neural networks have been made in the last few decades. A number of different configurations have been tested, from a simple perceptron trainer to multilayer feedforward networks, from pure neural networks to various mixed approaches employing other methods (e.g. Hidden Markov Models) as well. At least in some cases (e.g. Schmid's NetTagger), the neural-network-based tagger was able to level or even beat the state-of-the-art accuracy. The main goal of the thesis is to implement a neural-network-based part-of-speech tagger. This software tool will be able to read a manually tagged training corpus from which it will automatically learn rules for assigning tags to tokens; the trained tagger will in turn be able to tag an arbitrary corpus in given language. The learning algorithm should make use of the mechanisms used in the training of neural networks; nevertheless, it can combine other approaches like Hidden Markov Models or Conditional Random Fields as well. In addition to the implementation part, the thesis will also review the most notable attempts to employ neural networks in part-of-speech tagging made up to this point.
Práce zkontrolována:
20. 1. 2014 10:58, doc. Mgr. Pavel Rychlý, Ph.D., učo 3692
Jazyk práce
angličtina angličtina
Termín obhajoby
10. 2. 2014
Práce byla úspěšně obhájena

Vedoucí

doc. Mgr. Pavel Rychlý, Ph.D., učo 3692
KSUZD FI MU

Oponent

RNDr. Pavel Šmerk, Ph.D., učo 3880
CVT FI MU

Literatura

  • HAJIČ, Jan; Jan RAAB a Miroslav SPOUSTA. Semi-supervised training for the averaged perceptron POS tagger. In Proceedings of the 12th Conference of the European Chapter of the Association for Computational Linguistics. Association for Computational Linguistics, 2009.

  • Přidání souboru

    Soubor nebo složku lze nahrát pomocí tlačítka Přidat.
  • Další operace se soubory

    Podrobnosti lze zjistit označením příslušného řádku.
  • Pohled pro experty

    Pro častou práci je možné zvolit režim Více možností.
  • Vyhledávání souborů

    Vyhledávaný výraz můžete zadat přímo do adresního řádku.
  • Rychlý přístup k souborům

    Pomocí funkce Nedávné je možné se rychle vrátit k právě prohlíženým souborům. Oblíbené soubory je také možné označit Hvězdičkou.