An Ethical Evaluation of Artificial Intelligence in Higher Education: A User-Experience Approach

Kamila Steinbartová

Diplomová práce

Etická evaluace umělé inteligence ve vysokoškolském vzdělávání na základě uživatelských zkušeností

Anotace:

S rozšiřováním technologií umělé inteligence (AI) ve vysokoškolském vzdělávání roste potřeba zabývat se etickými důsledky jejich užívání. Tato magisterská práce využívá přístup založený na uživatelských zkušenostech k hodnocení etických důsledků umělé inteligence ve vzdělávání (AIED). AIED zahrnuje různorodé aplikace využívající umělou inteligenci jak k vyučování, tak k učení se. Studie využívá kombinovaný metodologický přístup spojující kvalitativní a kvantitativní výzkumné techniky s cílem dosáhnout komplexního porozumění zkušenostem studentů s AIED. Na základě literární rešerše a pilotního šetření zahrnujícího 10 polostrukturovaných rozhovorů bylo identifikováno 13 nejčastěji používaných kategorií AIED mezi vysokoškolskými studenty, včetně korektorů gramatiky a pravopisu, strojových překladačů, nástrojů pro parafrázování a aplikací pro výuku jazyků. Na základě online výzkumu provedeného mezi 301 vysokoškolskými studenty bylo zjištěno, že většina vysokoškolských studentů (77 %) používá aplikace AIED pravidelně, což poukazuje na rozsáhlé využití a současný význam AIED v dnešním vysokoškolském vzdělávání. Na základě výsledků výzkumu bylo dále zjištěno, že průměrná úroveň dodržování deseti etických zásad Aikena a Epsteina u AIED je 59 %. Zásada 1, která zdůrazňuje důležitost navrhování AIED tak, aby byli uživatelé motivování a aby bylo předcházeno demoralizaci, vykazovala nejvyšší úroveň dodržování, a to 69 %. Naopak zásada 2, která se zaměřuje na podporu kolaborativního učení a lidské interakce prostřednictvím AIED, vykázala nejnižší míru dodržování, a to 44 %. Bylo zjištěno, že oblast původu respondentů má významný vliv na jejich zkušenosti, přičemž respondenti z východní Evropy uváděli průměrně vyšší úroveň dodržování zásad než respondenti ze Severní Ameriky. Studie dále zjistila statisticky významný vztah mezi četností používání korektorů gramatiky a pravopisu a vnímaným dodržováním etických zásad. Respondenti, kteří gramatické korektory pravidelně používali, průměrně uváděli vyšší měli vyšší hodnocení dodržování než ti, kteří je nepoužívali. Zjištění této studie představují krok směrem k rozvoji a prosazování etických kodexů a postupů pro vývoj a používání AIED ve vysokoškolském vzdělávání.

Abstract:

As artificial intelligence (AI) technology becomes increasingly prevalent in higher education, there is a growing need to address the ethical implications of its use. This master's thesis takes a user-experience approach to evaluate the ethical implications of artificial intelligence in education (AIED), which encompasses a variety of AI-powered applications used in teaching and learning. The study employs a mixed-methods approach, combining qualitative and quantitative research techniques, to gain a comprehensive understanding of the student experience with AIED. A literature review and a pilot test including 10 semi-structured interviews identified the 13 most commonly used categories of AIED among university students, including grammar and spelling correctors, machine translators, paraphrasing tools, and language learning applications. The online survey conducted among 301 university students discovered that the majority of university students (77%) use AIED applications on a regular basis, highlighting the widespread use and present relevance of AIED in today’s higher education. Additionally, based on the results of the survey, the average adherence level of AIED to Aiken and Epstein's ten ethical principles was found to be 59%. Principle 1, which stresses the importance of designing AIED to encourage user motivation and prevent demoralization, exhibited the highest adherence rate of 69%. By contrast, principle 2, which focuses on promoting collaborative learning and human interaction through AIED, showed the lowest adherence rate of 44%. The respondents’ area of origin was found to have a significant impact, with Eastern European respondents reporting higher adherence means than those from North America. Furthermore, the study finds a statistically significant relationship between the frequency of use of intelligent grammar correctors and perceived adherence to the ethical principles, as respondents who regularly used grammar correctors had a higher adherence rating than those who did not. This study’s findings provide a stepping stone towards the development and enforcement of better ethics guidelines and practices for the development and use of AIED in higher education.

Klíčová slova

AI, vysokoškolské vzdělávání, umělá inteligence ve vzdělávání, dodržování etických zásad, etické kodexy, AIED

Keywords

artificial intelligence in education, adherence to ethical principles, ethical guidelines and practices, higher education, AI, AIED

Jazyk práce: angličtina

Datum vytvoření / odevzdání či podání práce: 1. 5. 2023

Obhajoba závěrečné práce

• Obhajoba proběhla 1. 6. 2023
• Vedoucí: Ondřej Vadinský
• Oponent: Tomáš Sigmund

Vysoká škola ekonomická v Praze

Magisterský studijní program:
Kognitivní informatika