Wissenschaft, Studien, Evidenz

Wissenschaftliche Studien

Beispiel: Ein neues Medikament

Eine neue Tablette soll gegen Erkältungen helfen.

Studie für neues Medikament

Gruppe von Patienten (z.B. 100), zufällig(!) aufgeteilt in 2 Gruppen.

Eine Gruppe erhält Medikament, andere Gruppe (Kontrollgruppe) erhält Placebo.

Messen von Krankheitsdauer in beiden Gruppen.

Kontrolliert

Kontrollgruppe: Wir brauchen etwas zum Vergleichen.

Randomisiert

Zufällige verteilung der Teilnehmer in Gruppen.

Wichtig, da sonst andere Unterschiede bei den Teilnehmern das Ergebnis beeinflussen können.

Verblindet

Insbesondere bei medizinischen Studien relevant: Wenn möglich sollten Teilnehmer nicht wissen, in welcher Gruppe sie sind.

Manchmal schwierig (Akupunktur, Operationen) oder unmöglich (Psychotherapie).

RCT

Randomized controlled trial

RCT - nicht nur in der Medizin

RCTs sind vor allem aus der Medizin bekannt, aber nicht darauf beschränkt.

RCTs sind in vielen Fällen sinnvoll, wenn Dinge miteinander verglichen werden sollen, und sollten viel häufiger eingesetzt werden.

Beobachtungsdaten

Beispiel: Wir haben einen großen, existierenden Datensatz über Ernährungsgewohnheiten von Menschen und medizinische Daten.

Denkbare Studie: Leben Menschen, die viel Olivenöl essen, länger?

Korrelation ≠ Kausalität

Angenommen wir stellen fest: Menschen, die viel Olivenöl essen, leben länger.

Daraus lässt sich *nicht* schließen, dass Olivenöl gesund ist.

Korrelation zwischen X und Y

Mögliche Interpretationen:

  • X verursacht Y.
  • Y verursacht X.
  • Es gibt einen weiteren, unbekannten Faktor Z, der X und Y verursacht (Confounder).
  • Zufall / statistisches Rauschen.
  • Eine Mischung aus allem.

http://www.tylervigen.com/spurious-correlations

Studien auf Basis von existierenden Daten können keine Kausalzusammenhänge belegen.

Es ist begrenzt möglich, bekannte Confounder auszuschließen, aber man muss immer mit unbekannten Confoundern rechnen.

Notwendig?

In manchen Fällen ist es unpraktikabel oder unethisch, RCTs durchzuführen (Rauchen, Ernährung), daher Rückgriff auf Beobachtungsdaten.

Trotzdem: Die Daten werden dadurch nicht besser.

Metaanalyse

Viele Studien

Metaanalysen fassen die Ergebnisse aller verwertbaren Studien zu einem Thema zusammen.

Metaanalysen

Wir sind nicht interessiert am Ergebnis einzelner Studien, sondern an einer Zusammenfassung aller Studien zu einem Thema.

Metaanalysen natürlich nicht perfekt

  • In den seltensten Fällen ist Methodik völlig identisch.
  • Es muss eine Vorauswahl getroffen werden ("Schrottstudien" aussortieren), sinnvolle Kriterien wichtig.
  • Publication Bias (dazu später mehr).
  • Wissenschaftliche Publikationen

    Wissenschaftliche Studien werden üblicherweise in entsprechenden Fachzeitschriften publiziert. (Bekannteste: Nature, Science).

    Peer Review

    Andere Wissenschaftler aus dem selben Fachgebiet (üblicherweise 2) prüfen Studie auf Korrektheit, evtl. Feedback an Autor und Überarbeitung.

    Retraction

    Rückzug ("Retraction") von Studien bei gravierenden Fehlern, Betrug, verletzung von Regeln.

    Paywall oder Open Access

    Paywalls: Oft relativ hohe Gebühren für Einblick in Studie.

    Viel Bewegung in Richtung "Open Access", aber trotzdem immer noch sehr viel hinter Paywalls.

    Paywalls

    Sehr umstritten: Unis zahlen doppelt, sie bezahlen die Autoren der Studien und zahlen später für's Vorhalten der Publikationen.

    Hohe Gewinnmargen der Wissenschaftsverlage, keine Bezahlung der Studienautoren.

    sci-hub

    Russische Webseite, die freien Download von vielen Paywall-Papers erlaubt.

    Peer Review

    • Man sollte Peer Review nicht überhöhen. Ein Peer Review ist kein Garant für eine gute Studie.
    • Viele Diskussion über Peer Review und neue Ansätze (offene Reviews, Post-Publication Review).

    Peer Review und Publikation werden oft je nach Fachgebiet unterschiedlich gehandhabt.

    In manchen Bereichen sind Konferenzen wichtiger als Fachzeitschriften (bspw. IT-Sicherheit, Krypto).

    Preprints

    Problem: Publikationsprozess ist sehr langsam (Monate bis zu 1 Jahr nicht unüblich).

    Preprint: Paper wird unmittelbar bei einem preprint-Service im Internet veröffentlicht, Peer Review und formale Publikation später. (Üblich in Mathematik, Physik, Kryptographie.)

    Eldar, Shor, Arxiv, 2016-11-21

    Regev, Cryptographic Algorithms mailing list, 2016-11-24

    RCT, Beobachtungsstudie, Korrelation/Kausalität, Metaanalyse, Forest Plot, Peer Review, Retraction, Open Access, Preprint