Ein Forschungsteam an der Uni Passau untersucht sogenannte „moralische Halluzinationen“ bei KI. Dabei geht es um Fälle, in denen Sprachmodelle wie ChatGPT bei ethischen Fragen zwar plausible, aber falsche oder verzerrte Antworten geben können. Gerade wenn Menschen KI als Ratgeber nutzen, kann das zu verzerrten moralischen Einschätzungen führen. Ziel des Projekts ist es, diese Fehler besser zu erkennen und künftig automatisch zu markieren. Das Projekt wird von der Deutschen Forschungsgemeinschaft für drei Jahre gefördert.