Core problém v lineární aproximační úloze Ax aproximuje b s jednou pravou stranou

Filip Jágr

Bachelor's thesis

The core problem within a linear approximation problem Ax approximates b, with the single right-hand side

Abstract:

Tato bakalářská práce se zabývá problematikou řešení lineárních aproximačních úloh ve smyslu tzv. úplných nejmenších čtverců (TLS, z anlického total least squares). V úvodu se seznámíme s velmi důležitým nástrojem, kterým je singulární rozklad (SVD, z anglického singular value decomposition). Dále v práci popíšeme možné přístupy k řešení lineárních aproximačních úloh. Nejprve stručně zopakujeme běžně známý přístup přeformulování úlohy na tzv. (klasický) problém nejmenších čtverců, neboli lineární regresi. V kontrastu k tomu zavedeme úplný problém nejmenších čtverců, neboli tzv. ortogonální regresi. Dokážeme, že ne vždy má lineární aproximační úloha řešení ve smyslu TLS. Tento důkaz provedeme pomocí ortogonální tranformace původní úlohy, tj. změny báze souřadného systému, ve kterém je úloha zformulovaná, na blokově diagonální tvar. Tato transformace povede přímo k definici tzv. core problému. Zmíníme, že core problém lze zapsat ve dvou typických tvarech, pomocí SVD tvaru a pomocí bidiagonálního tvaru. V závěrečné části popíšeme software vytvořený v prostředí Matlab, který dokáže generovat pseudonáhodné lineární aproximační úlohy předepsaných rozměrů obsahující core problém předepsaných vlastností. Smyslem tohoto softwaru je vytvoření databáze úloh pro statistické testy. To však již není součástí této práce.

Abstract:

This bachelor thesis deals with solving linear approximation problems in the sense of the so-called total least squares (TLS). In the beginning we introduce one of the most important tools, the singular value decomposition (SVD). Then we briefly describe possible approaches to solving such problem. First approach is the commonly known (ordinary) least squares formulation (or problem) also know as linear regression. We are particularly interested in the second approach, the total least squares formulation (or problem) also know as orthogonal regression. We show that the linear approximation problem may not have a solution in the sense TLS. This can be show using orthogonal transformations of the original problem, i.e., by changing coordinate systems in which the problem is formulated, so that the transformed problem has a block diagonal form. This transformation leads directly to the definition of the so-called core problem. We mention that the core problem can be written in two typical forms, in the SVD form and in the bidiagonal form. In the final section, we describe a software tool that we developed in Matlab, which can generate pseudo-random linear approximation problems with given dimensions and containing a core problem with prescribed properties. The aim of this tool is to assemble a database of such problems, which will be used for futher statistcal testing. This, however, is not part of this thesis.

Keywords

singulární rozklad (SVD), (klasický) problém nejmenších čtverců (LS), úplný problém nejmenších čtverců (TLS), ortogonální regrese, ortogonální transformace, core problém, SVD tvar core problému, bidiagonální tvar core problému

Language used: Czech

Date on which the thesis was submitted / produced: 29. 4. 2015

Accessible from:: 29. 4. 2015

Thesis defence

• Supervisor: Ing. Martin Plešinger, Ph.D.

Technical University of Liberec

Faculty of Sciences, Humanities and Education

Bachelor programme / field:
Mathematics / Mathematics