Kreativitaet und Kontrolle

MA SIGB 05 LV 2 Evaluation und Qualitätsentwicklung

Präsenzlehrveranstaltung mit bis zu 25% E-Learning-Anteil

Qualitätsentwicklung und Evaluation sind wichtig für Leitungsaufgaben in den Arbeitsfeldern Soziales, Inklusion, Gesundheit und Bildung. Wird etwas zu Unrecht vorrangig mit Planerfüllung, Überwachung und Kontrolle in Verbindung gebracht. Kann wirklich hilfreich sein. Die Arbeit beschäftigt sich dabei mit den einschlägigen theoretischen Vorgaben und untersucht die Praxis in verschiedenen Berufsfeldern.

Die Modulabschließenden Prüfungen finden voraussichtlich in der zweiten und dritten Januarwoche zu den Zeiten des Seminars von Herrn Oltmanns Seminars bzw. dieses Seminars statt. Die Präsentationen werden in Arbeitsgruppen erarbeitet und vorgestellt. Wir werden beide die Prüfungen abnehmen. Sie können sich also zwar für einen der Prüfer in der Anmeldung entscheiden. Aber das ändert daran nichts, dass wir uns beide die Präsentationen anhören/anschauen.

Sie werden Projektanträge an die Aktion Mensch vorstellen. Jeder Projektantrag muss auch ein Evaluationskonzept enthalten. Es ist sehr sinnvoll, die Präsenzsitzungen (auch) dafür zu nutzen, die Präsentationen in Sachen Evaluation zu besprechen.

Dieses Seminar findet als Präsenzseminar statt. Zusätzlich haben Sie auch die Option, über Podcasts wichtige Inhalte der jeweiligen Seminarsitzungen zu erarbeiten, z. B. dann wenn Sie erkrankt sind oder sich in Quarantäne befinden. Die Podcasts lade ich normalerweise am Donnerstag nach den jeweiligen Sitzungen im Nachhinein hoch.

Bitte beachten Sie, dass die Podcasts dieses Seminars umfänglich auf die Tabellen der Forschungsmethoden-Materialsammlung zurückgreifen.

Erste Sitzung

Für die erste Sitzung ist ein Einleitung in den Themenbereich Evaluation und Qualitätsentwicklung geplant.

Begruessung


Evaluationsstandards der Deutschen Gesellschaft für Evaluation nach Bortz/Döring (2009)
1. Nützlichkeit, d.h. an den Interessen der Evaluationsnutzer ausgerichtet, Interessen und Bedürfnisse berücksichtigen, vertrauenswürdige & kompetente Evaluatoren, klare & verständliche Berichte
2. Durchführbarkeit, d.h.: realistisch, gut durchdacht, diplomatisch & kostenbewusst arbeiten / Störungen minimieren / Interessenkonflikte vermeiden
3. Korrektheit: ethisch & fachlich korrekt vorgehen / dem Wohlergehen der betroffenen Personen ausreichend Raum geben / Stärken & Schwächen fair beschreiben / alle beteiligten Personen über Ergebnisse informieren
4. Genauigkeit: fachlich angemessene Informationen ermitteln / Programm korrekt dokumentieren / zuverlässige Informationsquellen nutzen / qualitative und quantitative Informationen verwenden / unparteilich & fair berichten

Evaluation – eine kritische Einführung

Zweite, dritte, vierte und fünfte Sitzung

Die zweite, dritte und vierte Sitzungen werden sich mit dem Thema Gütekriterien befassen. Lernziel: Testverfahren bewerten und auswählen können. Wichtig sind Kenntnisse in diesem Bereich, weil Testbefunde in Evaluationsstudien manchmal belegen sollen, wie wirksam eine Intervention war. Und meistens ist es besser bestehende und erforschte Instrumente zu verwenden als sich selbst Instrumente zusammenzubasteln. Auch bei dieser Aufgabe helfen Kenntnisse in Sache Gütekriterien ungemein.

Eigentlich ist die Bewertung von Testverfahren nicht kompliziert, wenn man sich in Sachen Forschungsmethoden auskennt.

Testverfahren als Erhebungsinstrument in der Evaluation

Weil man Testverfahren nur bewerten lernt, wenn man dies tut, werden wir uns gemeinsam einige Testverfahren anschauen, um Standards wie Objektivität, Reliabilität, Validität und Fairness anwenden zu können.

Tab 21: Variablen, die einen Einfluss auf den IQ haben – Befunde der kulturvergleichenden IQ-Forschung nach Mand 2012
Geschlecht
Alter
Einkommen
Wirtschaftliches Umfeld
Bildungsstand
Erwerbstätigkeit und Arbeitslosigkeit
Geschwister
Kriminalität
soziale Herkunft
Gesundheitsvariablen: z. B. ADHS und PTBS
Politische Orientierung
Regionale bzw. ethnische Herkunft
Tab 22: Der Einfluss von Testverfahren in kulturvergleichenden IQ Studien (Wicherts 2010) in Untersuchungen zum mittleren IQ in Subsaharastaaten Afrikas
K-ABC: 
WISC-R: 
Draw-A-Man 
WAIS-R/WAIS III
CFT 
IQ 73
IQ 75
IQ77,7
IQ 79
IQ86,7

Tab 23: Empfehlungen des Bayrischen Landesjugendamts zur gutachterlichen Stellungnahme bei der Feststellung seelischer Behinderungen. www.blja.bayern.de/Textoffice/Gesetze/Textsammlung_SGB_VIII/TextOfficeSGBVIII_§_035a.htm Zugriff am 28.2.2007
1.1 Untersuchungen und Angaben zum „Klinisch-psychiatrischen Syndrom“ (Achse 1): Das Gutachten soll eine Angabe darüber enthalten, ob eine psychische Störung im Sinne eines „klinisch-psychiatrischen Syndroms“ vorliegt. Soweit es diagnostisch möglich ist, soll eine Aussage darüber erfolgen, in welcher Weise ggf. die psychische Störung im Zusammenhang mit einer Teilleistungsschwäche des Kindes oder Jugendlichen steht. …
1.2 Zu den „umschriebenen Entwicklungsstörungen der schulischen Fertigkeiten“ (Achse 2,siehe Seite 3) … gehören u. a. die „Lese- und Rechtschreibstörung“ (Legasthenie) und die Rechenstörung (Dyskalkulie). … Umschriebene Entwicklungsstörungen schulischer Fertigkeiten sind als seelische Behinderung oder drohende seelische Behinderung zu werten, wenn zur Funktionsstörung ein soziales Integrationsrisiko hinzukommt, so daß die Entwicklung des Kindes oder Jugendlichen und seine Eingliederung in die Gesellschaft aller Voraussicht nach beeinträchtigt wird. … Im Gutachten sind die Verfahren und die Ergebnisse zu benennen, nach denen die Diagnose der Entwicklungsstörung des Lesens und Rechtschreibens bzw. der Rechenstörung oder anderer Teilleistungsschwächen festgestellt wurden. … Das Gutachten muß Angaben über das schulische/berufliche Versagen im Lesen und Rechtschreiben enthalten. Grundlage dafür sind z.B. schulische Stellungnahmen und Schulzeugnisse, mangelhafte und ungenügende Diktatnoten. … Der Prozentrang im Rechtschreib- bzw. Lesetest sollte < 10 % entsprechen. Aufgrund der Fehlerstreuung der Testverfahren ist dieser Prozentrang nicht als strikte obere Grenze, sondern als Richtwert zu verstehen, der im Rahmen der übrigen diagnostischen Befunde zu bewerten ist. …
1.3 Angaben zum Intelligenzniveau (Achse 3):Unverzichtbar sind Angaben zur allgemeinen Intelligenzentwicklung. Dazu muß im Gutachten das angewandte Verfahren benannt werden. Als geeignete Verfahren bieten sich an: HAWIK-R, Kaufmann-Test, Adaptives-Intelligenzdiagnostikum (AID), CFT1 und CFT20. Liegen die Testwerte bei CFT1 bzw. CFT20 im unteren Durchschnittsbereich (IQ 85 bis 95), so empfiehlt es sich eine Überprüfung mit den Verfahren HAWIKR oder Kaufmann-Test bzw. AID, um eine allgemeine Intelligenzminderung auszuschließen. Nach den Kriterien von ICD-10 ist für die Feststellung der Entwicklungsstörung ein Intelligenzquotient > 70 vorauszusetzen.Das Gutachten muß eine Beurteilung darüber enthalten, inwieweit eine Diskrepanz zwischen der allgemeinen intellektuellen Begabung und dem Versagen im Lesen und Rechtschreiben bzw. im Rechnen besteht. ….
1.4 Angaben zur Körperlichen Symptomatik“ (Achse 4 Das Gutachten muß eine Aussage darüber enthalten, daß eine neurologische Erkrankung (z.B. Epilepsie, Cerebralparese), Sinnesbehinderungen (vor allem im Bereich des Sehens und Hörens) sowie andere körperliche Beeinträchtigungen als Ursache für das Versagen im Lesen, Rechtschreiben bzw. Rechnen ausgeschlossen sind. …
1.5 Angaben zu „Aktuellen abnormen psychosozialen Umständen“ (Achse 5):Die gutachterliche Untersuchung soll die Kenntnis der psychosozialen Lebensumstände des betroffenen Kindes und Jugendlichen einschließen. … Ergänzend zu den Klassifikationskategorien, wie sie im Multiaxialen Klassifikationsschema der Achse 5 angeführt sind, muß überprüft sein, inwieweit eine schulische Förderung des Kindes erfolgt ist (spezielle Stützkurse seitens der Schule, Hausaufgabenhilfe, wesentliche Fehlzeiten usw.). Hilfreich ist eine Aussage darüber, aus welchen Gründen die familiären und innerschulischen Bemühungen nicht ausgereicht haben. Es ist zu verdeutlichen, daß eine außerschulische und außerfamiliäre Behandlung (z.B. „Legasthenietherapie“, „Rechentherapie“) erforderlich und geeignet ist, um die genannten Störungen und damit die (drohende) seelische Behinderung wirksam zu mildern und die soziale und schulische bzw. berufliche Eingliederung zu stützen.1.6 Angaben zur „Globalbeurteilung der psychosozialen Anpassung“ (Achse 6):Das Gutachten muß dazu Stellung nehmen, inwieweit die psychosoziale Anpassung des Kindes bzw. Jugendlichen zum Begutachtungszeitpunkt beeinträchtigt ist.
Verfahren zur Feststellung sonderpädagogischen Förderbedarfs und die Bedeutung kulturvergleichender IQ Forschung

Sechste und siebte Sitzung

Die Beschäftigung mit diagnostischen Instrumenten ist nun abgeschlossen. Sie müssten entsprechend in der Lage sein, für die Evaluation geeignete Instrumente auszuwählen und dabei Werte wie Reliabilität, Standardmessfehler und prognostische Validität zu berücksichtigen. In einem zweiten Teil des Evaluationsseminars geht es nun um einschlägige Evaluationsstudien in ausgewählten Bereichen.

Die Sitzung vom 27.11. stellt eine Evaluationsstudie aus der Elementarpädagogik vor. Es geht um das Konzept der bewegungsorientierten Sprachbildung. Zunächst erkläre ich, wie Kinder lesen und schreiben lernen – denn die Literacyentwicklung beginnt tatsächlich nicht etwa in der Schule, sondern bereits in den ersten Lebensmonaten. Dabei ist es sinnvoll sich zunächst mit der Frage zu beschäftigen, wie monolinguale Kinder ohne Behinderungen bzw. ohne Beeinträchtigung durch Störungsbilder lesen und schreiben lernen.

Evaluation von Konzepten zur Sprachbildung im Elementarbereich

In einem zweiten Schritt betrachtet das Seminar eine über Pedocs frei verfügbare Diss von Madeira-Firmino (2015) :

Bewegungsorientierte Sprachbildung in der frühen Kindheit. Eine
empirische Studie zur bewegungsorientierten Sprachbildung im Krippenalltag unter Berücksichtigung familiärer Einbindung

Achte Sitzung

Auswirkungen von Migration auf den Schulerfolg in Deutschland

Kinder aus Familien mit Migrationsgeschichte haben ziemlich häufig Probleme in den deutschen Schulen. Einigermaßen klar ist aber, dass dies nicht für jedes Kind gilt. Und das ist ganz sicher nicht eine Variable, die wirksam wird, sondern das sind viele Variable. Migration wirkt also in einem multikausalen Geschehen auf den Schulerfolg.

Migration und Schulerfolg

Tab 46: Erklärungsmodelle für schlechte Lese-/Schreibkompetenzen von Kindern mit Migrationshintergrund in deutschen Schulen
Erweiterte Schwellen/Interdependenzhypothesie in Anlehnung an Cummings: Bilinguale Kinder müssen in ihrer ersten Sprache ein Mindestniveau erreicht haben, damit sie in ihrer zweiten Sprache angemessene Entwicklungsschritte machen können
Lese-Schreibentwicklung enthält für bilinguale Kinder höhere Entwicklungsanforderungen (z. B. Mand 2008): Phonetisches Problem, Wortschatzproblem, Grammatikproblem)
Mand 2012: Bilinguale Kinder entwickeln in Deutschland vor allem deshalb Lese-/Schreibprobleme, weil sie besonders häufig aus armen Familien stammen. Das entscheidende Problem ist also nicht die Bilingualität. Sondern das entscheidende Problem ist die Armut. 

Tab 48 Mand 2018 / Befunde aus der Dortmunder Wortschatzstudie: Testergebnisse aus Brennpunktkitas und Brennpunktschulen des Ruhrgebiets



AWST RdeutschAWST Rrussisch 
( angegeben sind die t-Werte, die der deutschen Eichstichprobe entsprechen)
 
HSP 1 +Richtige WörterStolperwörter Richtige Sätze
Arithmetisches Mittel (t-Wert)32.0525.03 148.3418,36
D. n. D.
entspricht Prozentrang32.17620
N43294745
Tab 50 Rechtschreibfehler, die bei der phonetischen Schreibung entstehen (Mand 2012)
HundChnt, Chunt, Hnt, Homt, Hon, Hond, Hont, Hot, Hout, Ht, htot, Hunnt, Hunt, Hut, Ont, Unt, Uont 
MäuseMaas, Maosl, Maoz, Mas, Mass, Maise, Mauise, Meas, Mese, Meise, Meuise, Meus, Meusä, Meusä, Meusae, Meuse, Meusee, Meusse, Meusu Moeuse, Moisä, Moise, Moisen Mojse, Mösä, Möse, Mose, Mosen, Mosi, Moze, Mouse, Moyse, Mse, Muise,
Mujse, Mulse,

Das ist nicht das erste Mal, das ich der Frage nachgegangen bin, ob kommunale Daten wie Arbeitslosenquote oder Anteil von Bürgern nicht deutscher Staatsbürgerschaft Auswirkungen auf Förderschulquoten haben. Den Anfang macht eine Studie, die ich 2006 in der Zeitschrift für Heilpädagogik veröffentlich habe (Mand, J.: Integration für die Kinder der Mittelschicht – Förderschulen für die Kinder der Arbeitslosen und Ausländer). Und Anfang des Jahres 2023 lassen sich noch immer solche Zusammenhänge finden.

Kinder mit nicht deutscher Staatsbürgerschaft schneiden sehr unterschiedlich in Schulen NRWs ab. Am schlechtesten der hier untersuchten Nationen schneiden Kinder mit serbischer Staatsbürgerschaft ab. Besser als die Kinder mit deutscher Staatsbürgerschaft sind die Schüler mit vietnamesischer Staatsbürgerschaft.

Was ist die Aufgabe für die Teilnehmer*innen?

Bitte bewerten Sie die Evaluationsstudie von Konerding 2021 (Das grapho-phonologische Trainingsprogramm Lautarium bei Lese- Rechtschreibschwierigkeiten – Effekte in der Intervention und Prävention). Sie finden diese Studie bei FIS-Bildung. Ihre Frage: Ist es auf Basis der Befunde dieser Studie sinnvoll, das Lautarium für die Förderung von bilingualen Kindern einzusetzen?

Neunte Sitzung

Zunächst werden die Studierenden gebeten, ein Evaluationskonzept für die Lehrveranstaltungbewertung in der fiktiven Fachhochschule Glückstadt zu entwickeln. Die Vorschläge werden in einem zweiten Schritt konfrontiert mit Befunden der Evaluationsforschung zum Thema Lehrveranstaltungsbewertung und in einem dritten Schritt mit dem Vorgehen in der EvH verglichen.

Hier ein passender Podcast aus dem letzten WS:

Lehrveranstaltungsbewertung Teil 1

Lehrveranstaltungsbewertung Teil 2

Lehrveranstaltungsbewertung Teil 3

Zehnte und elfte Sitzung

Die zehnte und elfte Sitzung bereiten die Podcasts der modulabschließenden Prüfungen vor.

Zwölfte, dreizehnte und vierzehnte Sitzung

Die Januarsitzungen dieses Seminars werden ausschließlich für die Präsentationen verwendet.

Diese lade ich Podcast für Podcast hoch, wenn ich Zeit gefunden habe, mir die Podcasts anzuhören und die Podcast auch so sind, dass man sie hochladen kann.

Bitte geben Sie mir etwas Zeit. Das sind wirklich viele Podcasts und das ist nicht das einzige Seminar, in dem ich diese Prüfungsform anbiete. Ich höre sie mir über mehrere Tage hinweg an und melde mich per Mail bei Ihnen, sobald ich Ihren Podcast bearbeitet habe.

Schreibe einen Kommentar