Fachbereich Informatik

Prof. Dr. Gjergji Kasneci

Nach meiner Promotion in Graph-based Mining und Retrieval am Max-Planck-Institut für Informatik in Saarbrücken (2009) kam ich als  Postdoktorand zu Microsoft Research Cambridge, Großbritannien, wo ich an Verfahren der probabilistischen Inferenz in Wissensdatenbanken arbeitete. 2011 trat ich dem Hasso-Plattner-Institut in Potsdam bei und leitete dort die Forschungsgruppe "Web Mining und Analytics". Mitte 2014 bin ich in die SCHUFA Holding AG eingetreten, wo ich von April 2017 bis April 2022 die Position des CTO innehatte und den Bereich "Innovation und strategische Analyse" leitete. Seit 2018 leite ich zudem die Forschungsgruppe "Data Science und Analytics" an der Universität Tübingen.

Forschungsinteressen

  • Data engineering and analytics
  • Explainable analytics on very large tabular data sets
  • Uncertainty quantification and drift detection in online learning and streaming applications
  • Algorithmic recourse / counterfactual explanations
  • Analysis of fairness and bias in Machine Learning applications
  • Quality assurance of Machine Learning applications

Publikationen

2023

ChatGPT for Good? On Opportunities and Challenges of Large Language Models for Education von Enkelejda Kasneci et al. Preprint.

Language Models are Realistic Tabular Data Generators von Vadim Borisov, Kathrin Sessler, Tobias Leemann, Martin Pawelczyk und Gjergji Kasneci. International Conference on Learning Representations (ICLR). Zur Veröffentlichung angenommen.

On the Trade-Off between Actionable Explanations and the Right to be Forgotten von Martin Pawelczyk, Tobias Leemann, Asia Biega und Gjergji KasneciInternational Conference on Learning Representations (ICLR). Zur Veröffentlichung angenommen.

Probabilistically Robust Recourse: Navigating the Trade-offs between Costs and Robustness in Algorithmic Recourse von Martin Pawelczyk, Teresa Datta, Johannes van-den-Heuvel, Gjergji Kasneci und Himabindu Lakkaraju. International Conference on Learning Representations (ICLR). Zur Veröffentlichung angenommen.

2022

Deep Neural Networks and Tabular Data: A Survey von Vadim Borisov, Tobias Leemann, Kathrin Sessler, Johannes Haug, Martin Pawelczyk und Gjergji Kasneci wurde bei IEEE Transactions on Neural Networks and Learning Systems (TNNLS) angenommen.

Interventional SHAP Values and Interaction Values for Piecewise Linear Regression Trees von Artjom Zern, Klaus Broelemann, und Gjergji Kasneci wurde bei AAAI 2023 angenommen.

I Prefer not to Say: Operationalizing Fair and User-guided Data Minimization von Tobias Leemann, Martin Pawelczyk, Christian Thomas Eberle und Gjergji Kasneci wurde beim NeuIPS22 Workshop on Algorithmic Fairness through the Lens of Causality and Privacy angenommen.

On the Trade-Off between Actionable Explanations and the Right to be Forgotten von Martin Pawelczyk, Tobias Leemann, Asia Biega und Gjergji Kasneci wurde beim NeuIPS22 Workshop on Trustworthy and Socially Responsible Machine Learning angenommen.

Change Detection for Local Explainability in Evolving Data Streams von Johannes Haug, Alexander Braun, Stefan Zürn und Gjergji Kasneci wurde bei CIKM 2022 angenommen (github).

Disentangling Embedding Spaces with Minimal Distributional Assumptions von Tobias Leemann, Michael KirchhofYao RongEnkelejda Kasneci and Gjergji Kasneci wurde als Preprint auf arXiv veröffentlicht.

Regressive Saccadic Eye Movements on Fake News von Efe Bozkir, Gjergji Kasneci, Sonja Utz und Enkelejda Kasneci wurde bei ETRA 2022 angenommen.

A Constistent and Efficient Evaluation Strategy for Attribution Methods von Yao Rong*, Tobias Leemann*, Vadim Borisov, Gjergji Kasneci und Enkelejda Kasneci wurde bei der International Conference on Machine Learning (ICML) 2022 angenommen.

Fairness in Agreement with European Values: An Interdisciplinary Perspective on AI Regulation von Alejandra Bringas Colmenarejo, Luca Nannini, Alisa Rieger, Kristen Marie Scott, Xuan Zhao, Gourab Patro, Gjergji Kasneci und Katharina Kinder-Kurlanda wurde bei AIES 2022 angenommen.

Standardized Evaluation of Machine Learning Methods for Evolving Data Streams von Johannes Haug, Effi Tramountani und Gjergji Kasneci wurde auf arXiv veröffentlicht. Das zugehörige float-evaluation Framework (Python) ist auf Github oder Pypi verfügbar.

Coherence Evaluation of Visual Concepts with Objects and Language von Tobias Leemann, Yao Rong, Stefan Kraft, Enkelejda Kasneci und Gjergji Kasneci wurde beim ICLR2022 Workshop on Objects, Structure and Causality vorgestellt.

Algorithmic recourse in the face of noisy human responses von Martin Pawelczyk, Teresa Datta, Johannes van-den-Heuvel, Gjergji Kasneci und Himabindu Lakkaraju wurde beim ICLR2022 Workshop on Socially Responsible Machine Learning vorgestellt.

Disentangling Algorithmic Recourse von Martin Pawelczyk, Lea Tiyavorabun und Gjergji Kasneci wurde beim ICLR2022 on Socially Responsible Machine Learning vorgestellt.

Dynamic Model Tree for Interpretable Data Stream Learning von Johannes Haug, Klaus Broelemann und Gjergji Kasneci wurde bei ICDE 2022 angenommen (github).

Do your eye movements reveal your performance on an IQ test? A study linking eye movements and socio-demographic information to fluid intelligence von Enkelejda KasneciGjergji Kasneci, Ulrich Trautwein, Tobias Appel, Maike Tibus, Susanne M. Jaeggi & Peter Gerjets wurde beim PLOS ONE Journal angenommen.

2021

Aggregating the Gaussian Experts' Predictions via Undirected Graphical Models von Hamed Jalali und Gjergji Kasneci wurde bei IEEE BigComp 2022 angenommen.

Model Selection in Local Approximation Gaussian Processes: A Markov Random Fields Approach von Hamed Jalali, Martin Pawelczyk und Gjergji Kasneci bei IEEE International Conference on Big Data 2021 angenommen.

Gaussian Graphical Models as an Ensemble Method for Distributed Gaussian Processes von Hamed Jalali und Gjergji Kasneci wurde bei OPT2021: 13th Annual Workshop on Optimization for Machine Learning @ NeurIPS 2021 angenommen.

SPARROW: Semantically Coherent Prototypes for Image Classification von Stefan Kraft, Klaus Broelemann, Andreas Theissler und Gjergji Kasneci wurde bei BMVC 2021 angenommen.

A Robust Unsupervised Ensemble of Feature-Based Explanations using Restricted Boltzmann Machines von Vadim Borisov, Johannes Meier, Johan Van den Heuvel, Hamed Jalali und Gjergji Kasneci wurde beim Workshop zu eXplainable AI approaches for debugging and diagnosis @ NeurIPS 2021 angenommen.

Deep Neural Networks and Tabular Data: A Survey von Vadim Borisov, Tobias Leemann, Kathrin Seßler, Johannes Haug, Martin Pawelczyk, und Gjergji Kasneci wurde auf arXiv veröffentlicht.

CARLA: A Python Library to Benchmark Algorithmic Recourse and Counterfactual Explanation Algorithms von Martin Pawelczyk, Sascha Bielawski, Johan Van den Heuvel, Tobias Richter und Gjergji Kasneci wurde bei NeurIPS 2021 (Datasets and Benchmarks Track) angenommen (github).

TEyeD: Over 20 million real-world eye images with Pupil, Eyelid, and Iris 2D and 3D Segmentations, 2D and 3D Landmarks, 3D Eyeball, Gaze Vector, and Eye Movement Types von Wolfgang Fuhl, Gjergji Kasneci und Enkelejda Kasneci wurde bei ISMAR 2021 angenommen (dataset).

TüEyeQ, a rich IQ test performance data set with eye movement, educational and socio-demographic information von Enkelejda Kasneci, Gjergji Kasneci, Tobias Appel, Johannes Haug, Franz Wortha, Maike Tibus, Ulrich Trautwein und Peter Gerjets wurde beim Nature Scientific Data Journal (8, 2021) angenommen (dataset, github)

On Baselines for Local Feature Attributions von Johannes Haug, Stefan Zürn, Peter El-Jiz und Gjergji Kasneci wurde beim Workshop zu Explainably Agency in AI @ AAAI 2021 angenommen (Abstract, .bib-file, github)

2020

Aggregating Dependent Gaussian Experts in Local Approximation von Hamed Jalali und Gjergji Kasneci wurde bei ICPR 2020 angenommen (ein Link zum Paper folgt in Kürze).

Learning Parameter Distributions to Detect Concept Drift in Data Streams von Johannes Haug und Gjergji Kasneci wurde bei ICPR 2020 angenommen (Abstract, .bib-file, github).

Leveraging Model Inherent Variable Importance for Stable Online Feature Selection von Johannes Haug, Martin Pawelczyk, Klaus Broelemann und Gjergji Kasneci wurde bei KDD 2020 angenommen (Abstract, .bib-file, github).

On Learning Invariant Counterfactual Explanations under Predictive Multiplicity von Martin Pawelczyk, Klaus Broelemann und Gjergji Kasneci wurde bei UAI 2020 angenommen (Abstract, .bib-file).

A MinHash Approach for Fast Scanpath Classification von David Geisler, Nora Castner, Gjergji Kasneci und Enkelejda Kasneci wurde bei ETRA 2020 angenommen und gewann den Best-Paper Award (Abstract.bib-file).

PLAY: A Profiled Linear Weighting Scheme for Understanding the Influence of Input Variables on the Output of a Deep Artificial Neural Network von Torsten Dietl, Gjergji Kasneci, Johannes Fürnkranz and Eneldo Loza Mencía wurde bei Archives of Data Science, Series A angenommen (Abstract, .bib-file).

Learning Model Agnostic Counterfactual Explanations for Tabular Data von Martin Pawelczyk, Klaus Broelemann und Gjergji Kasneci wurde bei WWW 2020 angenommen (Abstract.bib-file).

Bias in Data-driven AI Systems - An Introductory Survey von Ntoutsi et al. wurde bei WIRE's Data Mining and Knowledge Discovery Journal akzeptiert. Dies ist unsere erste multidisziplinäre Publikation im Kontext des EU "NoBias" Projekts (Abstract, .bib-file).

Training Decision Trees as Replacement for Convolution Layers von Wolfgang Fuhl, Gjergji Kasneci, Wolfgang Rosenstiel und Enkelejda Kasneci wurde bei AAAI 2020 angenommen und ist derzeit auf arXiv veröffentlicht (Abstract, .bib-file).

2019

Towards User Empowerment (2019) von Martin Pawelczyk, Johannes Haug, Klaus Broelemann und Gjergji Kasneci wurde beim NeurIPS 2019 (HCML workshop) angenommen und auf arXiv veröffentlicht (Abstract, .bib-file).

CancelOut: A Layer for Feature Selection in Deep Neural Networks (2019) von Vadim Borisov, Johannes Haug und Gjergji Kasneci wurde bei ICANN 2019 veröffentlicht (Abstract, .bib-file).

A Gradient-Based Split Criterion for Highly Accurate and Transparent Model Trees (2019) von Klaus Broelemann und Gjergji Kasneci wurde bei IJCAI 2019 veröffentlicht (Abstract, .bib-file).

Validation Loss for Landmark Detection (2019) von Wolfgang FuhlThomas Kübler, Rene Alexander Lotz, Gjergji Kasneci, Wolfgang Rosenstiel und Enkelejda Kasneci wurde als Preprint bei arXiv veröffentlicht (Abstract, .bib-file).