Machines and racism: Setting modern ethical standards for artificial intelligence

Matyáš Douda

Master's thesis

Stroje a rasismus - Stanovení moderních etických standardů pro umělou inteligenci

Abstract:

Tato diplomová práce si klade tři cíle. Být podpůrným materiálem pro diskuze o regulaci umělé inteligence za pomocí aktuálních dat analyzovat současný stav zákonů největších států světa s hypotézou o jejich kritickém stavu a pomoct vytvořit klasifikaci některých definicích v rámci pojmů umělé inteligence, protože chybí. Čtenář získá základní teoretické znalosti o kapitolách z umělé inteligence od základů přes současné možnosti využití až po aktuální témata a vysvětlení, proč je umělá inteligence pozitivním fenoménem, který je ale třeba regulovat. Poté bude představen rasismus z dvou úhlů pohledu. Začne se klasickým pojetím rasismu mezi lidmi, protože umělé modely využívají data, co lidé vytváří i s jejich zaujetími. Poté bude kladen důraz na příčiny rasismu a jaké jsou pozitivní efekty jeho potlačování. Následovat bude krátký úvod do problematiky, proč může být umělá inteligence považována za rasistickou and představení různých druhů zaujetí, které mohou být odraženy v jejím životním cyklu. Na závěr teoretické části budou představeny dva skutečné příklady rasismu umělé inteligence, které dále poukáží na nutnost regulace, která bude na míru šitá nové technologii. V praktické části jsou analyzovány samotné zákony a úřední dokumenty a bude zkoumáno, do jaké míry následují metriky vyplývající z teoretické části této práce. Výsledkem je zamítnutí hypotézy o značně negativním stavu světových zákonů nicméně je nalezen prostor pro zlepšení a jsou podána konkrétní doporučení pro jejich dosažení.

Abstract:

This master's thesis aims to achieve three goals. Support discussions for talks about AI regulations with the state of art data, analyze what is the current state of laws in the largest countries of the world, with the hypothesis being that it is critical and help create classification methods for AI-related definitions, as it is lacking. The reader will get the theoretical basis of AI-related topics from the basics to use cases and the most recent important topics, along with an explanation that AI is a positive thing that, however, needs to be regulated. Afterward, racism will be introduced from two points of view. It will start with classic racism between humans, as human-made data with all of its biases can later be used as a source for a model. Emphasis will be made on why people are racist and what are the positive effects of restraining racism. It will be followed by an introduction to why AI can be considered racist and different kinds of bias that can come into play during all phases of its development and operation. At the end of the theoretical part, two real-life cases of AI racism will be introduced to solidify further the need to create rulesets that will address new challenges caused by the technology. In the practical part of the paper, I analyze AI laws and white papers to inspect how much they meet the conditions set up by the theory of this paper. In conclusion, the hypothesis of a troubling state of the matter has not been accepted, albeit room for improvement has been found, and recommendations have been given.

Keywords

Etika, Zákon, Umělá Inteligence, Rasismus, Zaujatost

Keywords

Ehics, Law, Artificial Intelligence, Racism, Bias

Language used: English

Date on which the thesis was submitted / produced: 27. 6. 2023

Thesis defence

• Date of defence: 4. 10. 2023
• Supervisor: Miroslav Vacura
• Reader: Petr Špecián

Vysoká škola ekonomická v Praze

Master programme:
Kognitivní informatika