AI – Szerzői jogi kérdések
OTP ELTE LAB TÉMÁK 2024/2025 2.félév
2025. 02. 03.
1. Incidens menedzsment
1.1. Honeypot tervezése (valós gépek architektúrái alapján), statisztikai adatgyűjtés tervezése, prototípus készítés.
A cél a potenciális internetes támadások vizsgálata érdekében a state-of-the-art Honeypot rendszerek architektúráinak elemzése és a banki alkalmazásokhoz legalkalmasabb új megoldások tervezése és validálása. A hallgató megtervez egy megvalósítandó honeypot rendszert és kidolgozza a prototípusát. Kapcsolódó feladat a logolás megvalósítása és az eredmények feldolgozásának előkészítése is.
1.2. Adathalász weboldalak felderítése
Internetes források és keresők segítségével adathalász vagy potenciálisan adathalász oldalak keresése, felderítése. OTP márkával visszaélő és OTP ügyfelekre potenciálisan veszélyt jelentő oldalak azonosítása.
1.3. Adathalász és kártékony weboldalak monitorozása
Cél a korábban felderített potenciálisan adathalász oldalak monitorozása, és az azokon bekövetkező változások figyelése, elemzése, az OTP-t érintő adathalász tartalmak felismerése. Takedown folyamatok elindítása. A hallgató feladata lesz egy olyan megoldás készítése, amely alkalmas a potenciálisan adathalász oldalak hatékony felismerésére, kategorizálására és a tevékenység logolására.
1.4. Adathalász oldalak adatainak strukturált tárolása és technikai elemzése
Cél a felderített adathalász oldalakból egy későbbiekben elemezhető adatbázis építése az oldalról a lehető legtöbb információ eltárolásával (időbeli változásokkal is).
1.5. Adathalász tevékenységek elemzése
Cél az adatok bejuttatása, majd a felhasználásuk alapján történő információszerzés az elkövetői csoportokról
1.6. Adathalász bejelentő felület
Cél egy olyan publikus felület kialakítása, ahol az állampolgárok jelenteni tudják, ha kapnak adathalász vagy gyanús tartalmakat. A bejelentés felülete legyen intuitív, kényelmes, akár több felület is biztosítható (pl.: webes, SMS, azonnali üzenetküldő). A megadott adatokat elemezni kell és ezek jelenthetik a bemenetét a monitorozó, elemző alrendszereknek.
1.7. Tranzakciós csalások detektálása MI használatával
Cél egy mesterséges intelligencián alapuló hatékony tranzakciós csalásfigyelő rendszer kialakítása.
1.8. Számlaszámok megbízhatóságának értékelése
A kutatás feladata, hogy egy számlaszámról megállapítsa, hogy mennyire megbízható. Kiemelten is fontos az ismert és nagy szervekhez, cégekhez (pl.: NAV, MÁK, szolgáltatók) tartozó, akár egyedi számlaszámok felismerése, és megbízhatónak jelölése. A kutatás során lehet adatbázisokat, webes tartalmakat és mesterséges intelligencia algoritmusokat is alkalmazni.
1.9. Rosszindulatú MI használat detektálása
A hallgató prototípust készít, amivel rosszindulatú használatot lehet detektálni a nagy nyelvi modellekre épülő MI rendszerek esetén. A megoldások között előnyt élveznek az MI-n alapuló megoldások.
1.10. Mesterséges intelligencia által generált tartalmak detektálása
A hallgató megismerkedik a különböző MI és az ezek detektálására létrehozott rendszerekkel, kiemelten is a hang és képalapú „deep fake” vizsgálatával. A hallgató feladata továbbá olyan MI rendszerek keresése és megismerése, amelyek alkalmasak lehetnek arcfelismerésre és képesek felismerni a csalásokat. Ez a téma szorosan kapcsolódik az Arcfelismerésen alapuló azonosítási megoldások kutatása témához, így a két témán dolgozó hallgatóknak szorosan együtt kell dolgozniuk.
2. Pénzügyi csalások elleni védelmi megoldások kutatása
Cél az elkövetők által használt eszközök és módszerek megismerése, valamint a védelmi megoldások erősítése és új védelmi megoldások kutatása
2.1. Új és meglévő ügyfélazonosítási módszerek kutatása és vizsgálata
A projekt célja az ügyfelek azonosítására használt technológiák megismerése, gyengeségeik és erősségeik feltérképezése, tesztelése, valamint lehetséges új technológiák prototípusainak elkészítése.
2.2. Felhasználói interakciót nem igénylő MFA módszerek kutatása
A cél olyan MFA módszerek kutatása, amelyek nem igényelnek felhasználói interakciót a működésükhöz, így bevezetésük egyszerű, de a banki műveletek biztonságát növelik.
2.3. Arcfelismerésen alapuló azonosítási megoldások kutatása
A cél megismerni a piacon elérhető arcfelimerés alapú azonosítást lehetővé tévő rendszereket és ezeket összehasonlítani biztonsági szempontból. Ez a téma szorosan kapcsolódik a Mesterséges intelligencia által generált tartalmak detektálása témához, így a két témán dolgozó hallgatóknak szorosan együtt kell dolgozniuk.
2.4. Android alapú rendszerek biztonsági tesztelése
A cél megismerkedni az Android alkalmazások biztonsági tesztelésével (reverse engineering, pentest).
2.5. Webes függőségek elemzése
Honlapok tesztelése biztonsági szempontból, kiemelten is a külső függőségekre és beágyazott kódokra.
3. Kockázatmenedzsment
3.1. Gyakorlatban alkalmazható posztkvantum megoldások elemzése
A cél biztonságkritikus banki alkalmazási területek azonosítása posztkvantum kriptográfia bevezetésének szükségessége szempontjából, kockázatelemzés és költségmodellek kidolgozása. Melyek azok a területek, ahol már bevezethető lenne egy kvantumtámadásnak ellenálló kriptográfiai algoritmus, különös tekintettel a mobilos alkalmazásokra.
3.2. Posztkvantum megoldások vizsgálata digitálisok aláírás esetében
Annak a vizsgálata, hogy a digitálisan aláírt dokumentumokra mekkora veszélyt jelent a Q-nap, miként lehet az ellen védekezni, hogy a digitális aláírással ellátott dokumentumok elveszítsék a hitelességüket.
3.3. Kvantum kommunikáció
Cél megismerkedni a jelenlegi kutatások általi lehetőségekkel. A hallgató megismerkedik a kvantum kommunikációs eljárásokkal és ír egy tanulmányt, amelyben elemzi ezek gyakorlati megvalósíthatóságát.
3.4. MI biztonsági tesztelési módszertan kidolgozása
A kutatás célja egy olyan módszertan kidolgozása, amely az MI rendszerek biztonsági kontrolljainak a megkerülhetőségét vizsgálja. A hallgató a kutatás során kialakított módszertant felhasználva biztonsági ajánlást készít LLM rendszerek teszteléséhez.
3.5. MI modell tanulási halmazának tesztelése
A cél egy olyan módszertan vagy PoC rendszer kidolgozása, amely lehetővé teszi, hogy megállapítsuk, hogy egy nagy nyelvi modellen alapuló rendszerből milyen adatokat lehet kiszedni, milyen adatok lehetnek benne, kiemelten is a személyes és egyéb érzékeny betanító adatokra.
3.6. Forráskód könyvtárak megbízhatóságának értékelése
Az interneten számos forráskód és forráskönyvtár érhető el, ezeknek viszont a megbízhatósága, karbantarthatósága, nyelve és jogi státusza mind eltérő. A hallgató feladata olyan keresési módszerek, megoldások kutatása, amely lehetővé teszi a keresést megadott kritériumok alapján (pl. nyelv, jogi státusz, cél), és a találatokat biztonsági szempontok alapján is értékeli (pl. kommitok száma, karbantartok száma, CVE-k, letöltések száma, kódelemzés).
3.7. Federált tanulás
Az MI rendszerek betanítása hatalmas mennyiségű adatot igényel. Biztonsági és jogi okokból a centrális tanítás nem mindig megoldható. A hallgató feladata a federált tanulási algoritmusokkal való ismerkedés és a lehetséges banki alkalmazások felkutatása.
4. Governance
4.1. MI tanítás és visszakérdezés időben változó tartalmak esetében
A cél egy időben változó dokumentumhalmaz (például jogszabály, belső szabályzó dokumentumok, kondíciók) keresésére alkalmas MI alapú rendszer megtervezése, PoC kód előállítása. Fontos, hogy a rendszer értelmezni tudja, hogy melyik időpillanatban mi volt érvényben, ne csak az aktuális állapotot tartsa nyilván.
4.2. KIBERLAB kutatások jogi problémáinak a vizsgálata
A hallgató a többi, főleg műszaki téma megismerése után azok jogi vonatkozásait feltérképezi, összegyűjti és elemzi az azokra vonatkozó hatályos hazai, uniós és nemzetközi vonatkozó jogszabályokat. Megnézi, hogy mely területek a legkockázatosabbak jogi szempontból egy bank működése során és ezek hogyan vannak szabályozva, melyek a szabályozatlan, kockázatos területek.
5. Egyéb
5.1. News crawler
A projekt fő célja egy hírelemző MI-rendszer fejlesztése, ami az IT-biztonság szempontjából releváns híreket letölti, értékeli, osztályozza, majd a kiemelten fontosokat megjeleníti.
A hallgató feladata egy automatikus IT-biztonsági hír-, illetve cikkletöltő program/script megírása a félév során, amit majd később fel lehet használni a rendszerhez. Erre léteznek már megoldások, de a teljesítéshez saját fejlesztésű, jól működő megoldást kell létrehozni.
5.2. AI API Prompt Engineering
A félév során a hallgató feladata megtalálni azokat a pontos kifejezéseket, utasításokat, amiket megadva egy nyílt MI-rendszernek megfelelő összefoglalást lehet kapni egy IT-biztonsági cikkről, hírről. A híreket ezen felül kategorizálni kell, csoportosítani az azonos témában megjelent cikkeket, és kiemelni az azonos illetve különböző információkat belőle.
5.3. Szabadon választható témák
Azoknak a hallgatóknak, akiknek van érdekes saját kibervédelmi kutatási ötletük, vegyék fel velünk bátran a kapcsolatot, és a fentiektől eltérő témákat is szívesen indítunk.
Legfrissebb bejegyzéseink:
Kérdésed van?
A kutatólaborral kapcsolatos szakmai kérdések esetén a kovacs.attila@inf.elte.hu címen lehet keresni minket, szívesen segítünk.