Interdisciplinární spolupráce v zájmu vývoje etické a společensky prospěšné umělé inteligence

Ing. Lucie STEWART

Master's thesis

Interdisciplinary cooperation with the aim of developing ethical and socially responsible artificial intelligence

Abstract:

Cílem práce je zodpovědět na výzkumnou otázku: Jaké kontrolní mechanismy ovlivňují výzkum a výstupy v projektech využívajících nebo vyvíjejících umělou inteligenci, aby byly v souladu s etickými principy? Potřeba nalézt odpověď na tuto otázku vyplývá z praxe autorky, která je manažerkou výzkumných projeků na Katedře počítačů ČVUT FEL. Pokrok ve výzkumu umělé inteligence (UI) , vývoji a aplikaci UI v rámci spolupráce s dalšími vědeckými obory, výzkumnými oblastmi a tématy, je velmi rychlý. Přináší nové příležitosti, ale i hrozby, které je ve výzkumu potřeba reflektovat, a to nejen po technické stránce a zkoumáním společenských dopadů těchto technologií, ale i z hlediska managementu vědeckých projektů, příležitostí zapojení se do mezinárodních výzkumných konsorcií a partnerství, a výzev, které to klade na nejvyšší management výzkumných organizací, interní procesy a schopnost flexibilně reagovat na požadavky v oblasti vzdělávání, kontroly, zajištění, posílení a podpory vědecké integrity a management rizik a aktivní zapojení se do mezinárodních a národních struktur a organizací. Práce vychází z teorie v oblasti etiky UI a jejího postupného přenosu do reálného vědeckého prostředí - v rámci empirického výzkumu (rozhovory) a později aplikací v praxi. O etické otázky vědci zájem mají a nečekaným pozitivním výstupem tohoto výzkumu bylo založení neformální skupiny Responsible AI, která diskutuje témata spojená s etikou UI v rámci pravidelných schůzek. Praktickým výstupem je potom lepší schopnost autorky zapojit se do přípravné fáze vědeckých projektů (tzv. pre-award) právě v oblasti evaluace etických otázek spojených s výzkumem a vývojem UI, impaktu a prevence rizik.

Abstract:

The main goal of this diploma thesis is to answer the research question: Which control mechanisms influence research and outcomes of the research projects in the field of Artificial Intelligence (AI) in order to make sure the ethical principles are fully respected. The author works as a project manager and administrator (RMA) at the Department of Computer Science, at CTU FEE in Prague, thus the interest and choice of the research question. Navigating the rapid progress in the field of AI research, its development and applications in cooperation with other research disciplines is challenging. There are many opportunities but also threaths that need to be reflected in the responsible approach to research in order to find technical solutions in line with the ethical principles, and to learn and understand social dimension and impact of the AI. There are also challenges from the point of view of the research management and new opportunities to join international research consortia and partnerships, as well as the challenges for the top management of research institutions, internal processes and their ability to react accordingly to the requirements in the field of education, management and control, support of responsible research and innovation and risk management, and active participation in the international and national research support structures and organisations. The author's theoretical study in the field of AI ethics led to a gradual transfer of this topic into the research environment at the Department in the form of interviews and discussions about AI ethics with the researchers and, as a practical outcome, an informal Responsible AI group was set up. The researchers are interested in the ethical dimension of their work and some of them regularly meet to discuss many related topics and current issues within the group. Another practical outcome is an improvement of author's knowledge and experience with the AI ethics field in order to provide better support to the scientists during the pre-award stage of the grant proposal application process to eliminate potential risks and increase positive impact of their research.

Keywords

Etika, umělá inteligence, interdisciplinární spolupráce, výzkum, vývoj, inovace, management vědy, VaVaI, odpovědný výzkum a inovace, RRI

Language used: Czech

Date on which the thesis was submitted / produced: 2. 4. 2024

Thesis defence

• Supervisor: Mgr. Tomáš Dvořák, Ph.D.

Palacký University Olomouc

Faculty of Arts

Master programme / field:
Management vědy / Science management