A mesterséges intelligencia, a gépi tanulás és az adatelemzés eredményei egyre elterjedtebben használtak szolgáltatásként, beépített módon komplex, mindennapi célokat megvalósító informatikai rendszerekben. Ezen informatikai rendszerek üzembiztonsága azonban jelenleg gyakran nem megoldott,  mivel helyes működésükre tipikusan nincs garancia, fejlesztési/tesztelési módszereik nem ismertek, robusztus működésük nem biztosított, és szándékos vagy véletlen bemeneti adathibák ellen nem védettek. A megbízhatóság növelésére sokrétű kutatási és szabályozási aktivitás irányul, amely új etikai, jogi, technológiai és elméleti megközelítésekhez vezetett a társadalmi szintű kockázatok kezelésére.

A tárgy célkitűzése a megbízható adatelemzés, gépi tanulás, és mesterséges intelligencia megközelítéseinek, fogalmainak és mérnöki gyakorlatának a bemutatása. A tárgy áttekinti az intelligens algoritmusok informatikai rendszerekbe történő integrálásának kérdéseit is, műszaki jellegű feladatok adatalapú megoldásának módszereit, és ezek integrációját a fejlesztési/üzemeltetési folyamatokba.

A tárgy bemutatja az adatelemzés és mesterséges intelligencia társadalmi szintű felhasználásának emberközpontú megközelítését, annak etikai hátterét, jogi szabályozását, szabványokban történő megjelenését, és jó mérnöki gyakorlatban való megjelenését. Mind az adatelemzés, mind az MI esetében bemutatja az értelmezhetőség, a magyarázhatóság, a tesztelhetőség és az érzékenységvizsgálat lehetőségeit és korlátait. Ismerteti az adatelemzési munkafolyamatának és egy MI szolgáltatás/termék létrehozásának az életciklusának az átfogó formalizálását, speciálisan azok blokklánc eszközökkel hitelesített dokumentálását és az eredmény auditálását.

Az előadások részletes tematikája:

1. A megbízhatóság és üzembiztonság alapfogalmai és értelmezésük az adatelemzés és a mesterséges intelligencia területén. A megbízható adatelemzés és mesterséges intelligencia megközelítései, az emberközpontú mesterséges intelligencia. Az etikus adatelemzés és etikus MI etikai háttere, jogi szabályozásai, szabványosítása és jó mérnöki gyakorlatban való megjelenései.
2. Az adat megbízhatósága/minősége. Intelligens módszerek bemenetének előállítása és ellenőrzése: Feltáró adatelemzés céljai és alkalmazása. Adatminőség mérése, adatok feldolgozása, tidy data, ETL / ELT keretrendszerek, automatizált adatfeldolgozás és -megjelenítés. Mérnöki feltételezések felhasználása adatelemzésben: oksági, időbeli és topologikus kapcsolatok figyelembevétele.
3. Az adat megértése és magyarázhatósága adatvizualizációval: összehasonlítás, trendelemzés, kiugró értékek keresése, kapcsolatok meghatározása, csoportosítás. Vizualizáció felhasználási esetei és ezek támogató technológiái: monitorozás/dashboard, üzleti jelentés, alternatívák/hipotézisek kiértékelése, megismételhető kutatás.
4. Adatelemzési és gépi tanulási modellek kiértékelése, tesztelése, és garantálása: teljesítménymetrikák definiálása, alternatívák kiértékelése, eredmények és paraméterezés kiértékelésének vizuális támogatása. Érzékenységvizsgálat, változók fontosságának vizsgálata.
5. Az adatelemzés életciklusa. Felhő alapú rendszerek. Blokklánc alkalmazása adatok megosztásának folyamatában.
6. Kvalitatív modellek használata megbízható rendszerek felépítésének és változásainak leírására. Kvalitatív modellek/modellrészletek validálása mért adatok alapján.
7. Adat alapú modellalkotás: Folyamatbányászat (process mining) módszerei és alkalmazásai: modellalkotás, konformanciavizsgálat, logelemzés, fraud detection. Üzleti szabályrendszerek adatalapú paraméterezése, szabálybányászat.
8. Intelligens tanuló módszerek felhasználása kritikus rendszerekben. Hibatűrő minták alkalmazása. Tesztgenerálás MI szolgáltatásokhoz.
9. Megbízható és magyarázható mesterséges intelligencia: fekete és fehér doboz megközelítések. Valószínűségi és oksági modellek.
10. Megbízható valószínűségi, oksági, döntéselméleti, és kontrafaktuális érvelés.
11. Értelmezhető MI modellek a megbízható MI formalizálásában: magyarázhatóság, hasznosság, igazságosság.
12. Fehér doboz modellek életciklusa, auditálás, modellek kiértékelése és kockázatelemzése: ALTAI megközelítés, modellek elfogadásának/átvételének folyamata, analitikus/hibrid módszerek, modelltesztelés, magyarázatgenerálás.
13. Fekete doboz modellek magyarázhatósága,  egyszerűbb modellek származtatása
14. Megbízható ember-gép hibrid rendszerek, „human in the loop" megközelítés, megbízható multiágens rendszerek.

A gyakorlatok részletes tematikája:

1. Adatminőség kiértékelése, bemeneti adatok vizsgálata/transzformálása, data profiling.
2. Vizuális feltáró adatelemzés, automatizált vizualizáció származtatás.
3. Folyamatbányászat alkalmazása modellalkotásban és -validációban.
4. Tesztgenerálás AI modellek fekete doboz teszteléséhez.
5. Modellek érzékenységvizsgálata, változók hatáserősségének vizsgálata, CP, PDP, Shapley DALEX.
6. Értelmezhető modellek származtatása, függetlenségek és oksági relációk reprezentálása
7. Magyarázatgenerálás módjai, logikai, valószínűségi és oksági magyarázatok generálása.