Analýza a rozšíření ochranných mechanismů knihovny Talsec Security

Bc. Tomáš Soukal

Master's thesis

Analysis and Extension of Talsec Security

Abstract:

V první části práce je představen ekosystém mobilních zařízení se systémem Android. Kvůli nedostatečné SW podpoře jsou zařízení zranitelná a aplikace se nemohou spoléhat na integritu a bezpečnost běhového prostředí. K tomuto problému se přidává navíc mnoho hrozeb, kterým musí aplikace čelit v případě cíleného útoku. Jako řešení se prosazují bezpečnostní knihovny, které integrují nespočet kontrol pro odrážení hrozeb a umožňují aplikaci reagovat na hrozby nalezené. V práci byly zdokumentovány typické ochranné mechanismy a byla ověřena jejich přítomnost a provedení ve zkoumané knihovně Talsec Security, na kterou bylo nahlíženo jako na černou skříňku. Byl proveden pasivní útok statickou modifikací kódu knihovny, kterým byl odstraněn mechanismus detekující hookování kódu. Aktivní útok byl navržen pomocí hookování, využívaje zjištěné slabiny, kterou je centralizace mechanismů. Byla implementována sada nástrojů pro testování zranitelností, která umožňuje různými způsoby provádět útoky vůči některým existujícím mechanismům. Knihovna Talsec Security plní svou funkci dobře. Poskytuje spoustu vhodně zvolených kontrol, nenarušuje soukromí uživatele a dbá na zpětnou kompatibilitu.

Abstract:

The thesis begins with the introduction of the Android device ecosystem. The SW support is insufficient and it makes devices more vulnerable. Applications can't rely on the integrity and the security of the underlying runtime environment. This problem is further increased by other threats in case of targeted attacks. Security libraries are commonly used as a solution incorporating countermeasures for known threats. They are responsible for taking an action if a threat is detected. The thesis documents commonly provided countermeasures, whose presence was verified and evaluated in the examined library Talsec Security. The work was performed by the black box testing without any source code. There was a passive attack developed against the hooking protection by a binary code patching. There was identified a design vulnerability caused by the high coupling. The aforementioned hooking protection was successfully defeated again thanks to this vulnerability. Selected present defense mechanisms can be altered by the toolset, which was developed along with the hooking attack. Talsec Security library has proven working well. The huge set of included defenses is well-balanced without violating the users' privacy. The backward compatibility is maintained as well.

Keywords

Android, RASP, security, obfuscation, reverse engineering, blackbox

Language used: Czech

Date on which the thesis was submitted / produced: 7. 1. 2021

Thesis defence

• Date of defence: 12. 2. 2021
• Supervisor: doc. RNDr. Tomáš Pitner, Ph.D.
• Reader: Mgr. Ondřej Gabrhelík

Masaryk University

Faculty of Informatics

Master programme / field:
Applied Informatics / Applied Informatics