Credit Score Prediction Using CART Algorithm in Python

Mathew Francis

Master's thesis

Abstract:

V této práci je cílem vytvořit model kreditního scoringu, který může banka použít k predikci bonity nových zákazníků. Bereme v úvahu datový soubor Home Equity, který obsahuje základní údaje a údaje o výkonnosti úvěrů pro více než 5 900 úvěrů na bydlení. Ke zlepšení přesnosti skórování z velkých datových sad lze použít několik algoritmů strojového učení. V této studii jsme použili algoritmus CART, abychom vytvořili model, který předpovídá, zda je žadatel schopen splatit půjčku či nikoli. Pomocí technik strojového učení, jako je CART, můžeme vyvinout přesnější modely, které nám pomohou vyhodnotit bonitu žadatelů o úvěr. K tomu jsme pro vývoj modelů použili Python. V konečném důsledku je přesné hodnocení úvěru rozhodující pro proces půjčování a pomáhá minimalizovat rizika spojená s poskytováním úvěru. V této práci jsme vyvinuli 4 modely pro predikci kreditního skóre, 1. model jsou data bez vyvažování, 2. je vyvážený datový model, 3. náhodný model při vzorkování a 4. náhodný nad vzorkováním aplikace a proces, který jsme vysvětlili v aplikační části v práci také metody jako ladění hyperparametrů a výběr důležitých vlastností. Vyhodnotili jsme výkon modelu pomocí různých metrik, včetně přesnosti, přesnosti, vyvolání a skóre F1. Po vyvinutí a vyhodnocení výsledků veškeré přesnosti modelu jsme zjistili, že vyvážená data nám poskytují nejpřesnější predikci kreditního skóre. Model funguje nejlépe predikcí ve formě binárního a ve formě kreditního skóre, máme přesnost 83 % pro testovací sadu a 87 % pro vlakovou soupravu při predikci binární formy a 92 % v případě predikce kreditního skóre . Stále existují způsoby, jak zlepšit přesnost, protože přesnost kreditního skóre je důležitá. Pokud dokážeme zlepšit skóre přesnosti predikce binárních forem, můžeme nakonec také zlepšit skóre přesnosti kreditních skóre.

Abstract:

In this thesis, the objective is to create a credit scoring model that can be used by a bank to predict the creditworthiness of new customers. We consider the Home Equity dataset, which contains baseline and loan performance data for over 5,900 home equity loans. To improve the accuracy of scoring from large datasets, several machine learning algorithms can be applied. In this study, we adopted the CART algorithm to build a model that predicts whether the applicant can pay back the loan or not. By using machine learning techniques like CART, we can develop more precise models to help us evaluate the creditworthiness of loan applicants. For this we have used Python for developing the models. Ultimately, accurate credit scoring is critical to the lending process and helps to minimize the risks associated with granting credit. We have developed 4 models in this thesis to predict the credit score the 1st model is data without balancing, 2nd is balanced data model, 3rd random under sampling model and 4th random over sampling the application and the process we have explained in the application part of the thesis also the methods like tuning hyperparameters and important feature selection. We have evaluate the performance of the model using various metrics, including accuracy, precision, recall, and F1-score. After developing and evaluating the results of all the model’s accuracy we found that the balanced data provides us with the highest accuracy prediction of credit scores. The model works best predicting in the form of binary and in the form of credit scores, we have the accuracy as 83% for the test set and 87% for the train set while predicting the binary form and 92 % in case of credit score prediction. There are still ways to improve the accuracy, as the accuracy of the credit score is important. If we can improve the accuracy score of the binary form prediction, we can ultimately improve the accuracy score of the credit scores too.

Keywords

Kreditní hodnocení, předpovědět, bonita, Náhodný výběr vzorků, Náhodné pod vzorkováním, Vyvážená data, Nevyvážená data, VOZÍK, Rozhodovací strom, Zákazníci, Banka, Půjčka, Přesnost, hodnocení

Keywords

Credit scoring, predict, Creditworthiness, Random over sampling, Random under sampling, Balanced data, Unbalanced data, CART, Decision tree, Customers, Bank, Loan, Accuracy, evaluation

Language used: English

Date on which the thesis was submitted / produced: 21. 4. 2023

Thesis defence

• Date of defence: 22. 5. 2023
• Supervisor: Tomáš Tichý
• Reader: Aleš Kresta

VSB – Technical University of Ostrava

Ekonomická fakulta

Master programme:
Finance