Mein Review-Prozess

Mein Review-Prozess (schematische Darstellung)

Ich habe versucht, meinen Review-Prozess möglichst systematisch und effizient zu gestalten. Dank einer Lehrveranstaltung konnte ich mich bereits selbst intensiv mit dem Thema Literary-Reviewing (Link zum Essay) beschäftigen.

Strukturierter Prozess.

Mich hat der Prozess des Reviewing nach Grounded Theory (Wolfswinkel et al, 2013) fasziniert, daher habe ich meine Systematik dieser Idee angelehnt, insbesondere die ersten Schritte, also den Retrieval Prozess. Mich erinnert diese Methodik an den so genannten „Double Diamond“, der unter anderem im Design Thinking (vg. West et al, 2018) angewendet wird.

Step 1: Primärrecherche

Man beginnt, sich via Google-Scholar und Scopus in das Thema einzulesen, versucht relevante Monographien zu identifizieren, Kapitel in Lehrbüchern, um die Semantik und die Begriffsontologien des relevanten Feldes zu identifizieren. Das ist wesentlich, um in Folge für den ersten Schritt der Suche zu einem sinnvollen Suchbegriff zu kommen. Ich habe nach längerem Hin- und Her damit begonnen:

TITLE-ABS-KEY ( brand AND ( equity OR value OR strength ) AND (NPO or Nonprofit OR Non-Profit OR charity) ) 

Damit konnte eine Liste von 280 Ergebnissen als RIS-File aus Scopus exportiert werden.

Step 2: erstes Konkretisieren

Das „Eindicken“ der Quellenvielfalt passiert mit Hilfe des Tools ASReview (van de Schoot at al, 2023), das ich auf einem Ubuntu-Linux-System daheim installiert habe. Dabei wird, unterstützt von einem KI-System die Relevanz der Quellen anhand ihrer Abstracts und Titel bewertet, so dass man in kürzerer Zeit die relevanten von den nicht-relevanten Quellen sortieren kann. Nach der Durchsicht haben sich für die weitere Recherche 38 relevante Quellen ergeben, die in weiterer Folge als „Ursprung“ für den nächsten Schritt dienen. Besonders praktisch finde ich die Visualisierungen und Statistik.

Nach dem Export der Datenfiles zum Import in Citavi wurden aus den Files die DOI gelesen und daraus eine Scopus Abfrage erstellt, die nur diese DOI beinhaltet.

Step 3: Vorwärts- und Rückwärtsreferenzen

Nun werden in Scopus sämtliche Dokumente gesucht, die einerseits auf diese Liste referenzieren, wo also aus Sicht der vorliegenden Liste nach vorne referenziert wurden.

Screenshot von Scopus

Die Referenzen von oder auf die Artikel sind im „…“ Menü unter „View cited by“ und „View References“ zu finden.

Diese Liste wird gespeichert, danach sucht man alle Referenzen, die in der ursprünglichen Liste verwendet wurden, also – wieder aus Sicht der Primärliste – nach hinten, also Rückwärtsreferenzierungen. Auch diese Liste wird gespeichert. Nach der Kombination dieser Files Wir kommen in meinem Fasll auf knapp über 2.000 Quellen – ASReview kann nur ein einzelnes File lesen – kann der nächste Schritt beginnen.

Step 4: Zweite Reviewphase

Diese Phase läuft analog zur Phase 2, wobei man relativ rasch merkt, ab wann die Quellen keinerlei Relevanz mehr haben. Bei mir war es nach 500 der 1749 Artikel klar, dass keinerlei interessante Titel bzw. Abstracts mehr geliefert wurden. Wir haben die 1.749 Quellen auf 85 mit Relevanz für das Feld eingedampft. Hier eine schematische Übersicht, wie diese unterstützende Software funktioniert. (N.N.,2022)

Unterschiede zwischen klassischem Reviewing und der Unterstützung durch Active Learning Models

Step 5: Download und Zusammenfassung

Für diesen letzten Schritt habe ich einerseits ein Framework aus R und Bibliometrix (Aria, Cuccurullo, 2017) verwendet, um einen raschen bibliometrischen Überblick über die Quellen zu erhalten und andererseits einen Retrieval und Abstraktionsprozess entwickelt, für den es ein ready-made Python-Script und zwei selbst erstellte Skripte benötigt.

Die Details dazu werde ich gerne in einem weiteren Artikel beschreiben.

Literatur

  • Aria, M. & Cuccurullo, C. (2017) bibliometrix: An R-tool for comprehensive science mapping analysis, Journal of Informetrics, 11(4), pp 959-975, Elsevier. DOI: 10.1016/j.joi.2017.08.007
  • N.N.(2022): Active Learnng Explained. Blogbeitrag auf https://asreview.nl/blog/active-learning-explained/ Zugriff am 8.6.2024.
  • van de Schoot, R., de Bruin, J., Schram, R. et al. (2021): An open source machine learning framework for efficient and transparent systematic reviews. Nat Mach Intell 3, 125–133 .
    DOI: 10.1038/s42256-020-00287-7
  • Wolfswinkel, Joost F.; Furtmueller, Elfi; Wilderom, Celeste P. M. (2013): Using grounded theory as a method for rigorously reviewing literature. In: European Journal of Information Systems 22 (1), S. 45–55. DOI: 10.1057/ejis.2011.51.
  • West, Jonathan, Fusari, Gianpaolo, Raby, Elizabeth, Alwani, Ralf, Meldaikyte, Gabriele, Wojdecka, Anna and Matthews, Ed,(2018) Book Section, Developing the Double Diamond Process for Implementation In: Barron, Dierdre and Seemann, Kurt, (eds.) Design4Health, Melbourne. Proceedings of the Fourth International Conference on Design4Health 2017, 4 – 7 Dec 2017, Melbourne, Victoria, Australia. Sheffield Hallam University and Swinburne University of Technology, pp. 310-312. ISBN 978-0-6480892-1-6