Schlagwort-Archive: opr

Optimierung des Open Peer Review-Verfahrens

Die Informationspraxis setzt zur Qualitätssicherung ein Open Peer Review-Verfahren (OPR) ein. Nach den ersten Erfahrungen und Rückmeldungen aus der Community zeigen sich einige Punkte, die überdacht, diskutiert und eventuell verbessert werden können.

Kommentare und Reviews

Grundsätzlich sind uns alle sachlichen Kommentare im Rahmen des OPR willkommen. Die im Blog abgegebenen Kommentare werden von der Redaktion gesammelt und zum Abschluss des Verfahrens an die Autorinnen und Autoren weitergeleitet. Die Hinweise auf falsch zugeordnete Zitate, auf fehlende Angaben, nicht aktuelle Zahlen etc. sind nützlich und dienen der Verbesserung der Beiträge. Diese Kommentare ersetzen jedoch nicht eine eingehende Prüfung des Beitrags im Rahmen eines ordentlichen Reviews.

Die Kommentare werden – wie in einem früheren Blogbeitrag bereits erläutert – oft nicht auf der Plattform abgegeben, sondern auf allen möglichen Kanälen – von Twitter bis zu eigenen Blogs und direkten Mails an die Autorinnen und Autoren. Es ist der Redaktion nicht möglich, diese verteilten Rückmeldungen und Kommentare zu sammeln und den Autorinnen und Autoren zukommen zu lassen. Es ist also für die Transparenz des Vorgangs und die Möglichkeit der Rückmeldung an die Autorinnen und Autoren wichtig, dass die Kommentare auf der dafür vorgesehenen Plattform, im Blog der Informationspraxis, eingereicht werden.

Diese Kommentare können das ordentliche Review also nicht ersetzen. Es ist deshalb für den Erfolg des OPR entscheidend, dass die Artikel gründlich und strukturiert begutachtet werden. Was verstehen wir unter einem „richtigen“ Review?

„Ordentliches“ Open Peer Review

Ein klassisches Review erfolgt auf der Basis von Fragen, die den Gutachterinnen und Gutachtern in der Regel durch die Redaktion bereitgestellt werden. Das Review soll sicherstellen, dass es sich um originale Forschung handelt, dass Quellen korrekt zitiert werden, dass die eingesetzten Methoden überprüfbare Ergebnisse liefern, dass der Beitrag wissenschaftlichen Kriterien genügt usw. Auch die Informationspraxis bietet eine solche Hilfestellung für Reviewerinnen und Reviewer in Form von Richtlinien für GutachterInnen. Wir stellen uns ein „richtiges“ Review im Sinne des OPR so vor, dass sich eine Fachperson des Beitrags annimmt, ihn nach diesen Richtlinien begutachtet und dieses Review unter seinem Namen als Kommentar ins Blog hochlädt. Ein Beispiel dafür gibt Beat Mattmann in seinem Kommentar zum Beitrag von Mumenthaler/Schuldt. Der Unterschied zum klassischen Peer Review besteht primär darin, dass das Review nicht anonym erfolgt und dass es offen einsehbar ist. In den Punkten Genauigkeit, Kompetenz und Sachlichkeit sollte ein Open Peer Review jedoch dem klassischen ebenbürtig sein.

Verpflichtung zu OPR

Wir möchten daran festhalten, dass Autorinnen und Autoren sich freiwillig dem OPR-Verfahren unterziehen können. Wer einen Fachartikel einreicht, kann also wählen, ob er ein klassisches oder das Open Peer Review-Verfahren durchlaufen soll. Wir finden, dass wir möglichst keine Autorinnen und Autoren abschrecken möchten. Wir sind noch dabei (mit wir ist hier die ganze Community gemeint), Erfahrungen mit dem OPR zu sammeln. Die Redaktion hat Verständnis dafür, falls jemand lieber auf ein klassisches Review setzt und sich nicht dem öffentlichen Verfahren aussetzen möchte. Allerdings möchten wir das Verfahren einheitlich gestalten (siehe oben) und bei den publizierten Artikeln angeben, welches Review sie durchlaufen haben.

Der Open-Peer-Review-Eid

Nora Schmidt hat uns einen Vorschlag zur Verbesserung des OPR hingewiesen. In: Aleksic J, Alexa A, Attwood TK et al. An Open Science Peer Review Oath, F1000Research 2015, 3:271, http://dx.doi.org/10.12688/f1000research.5686.2 wird ein OPR-Eid vorgeschlagen, den wir gerne für das Open Peer Review-Verfahren der Informationspraxis übernehmen würden (eigene Übersetzung aus dem Englischen):

  1. Prinzip: Ich werde mein Review mit meinem Namen unterzeichnen.
  2. Prinzip: Ich werde mit Integrität begutachten.
  3. Prinzip: Ich werde das Review als Dialog mit der Autorin/dem Autor behandeln; Ich werde insbesondere konstruktive Kritik üben.
  4. Prinzip: Ich werde eine Botschafterin/ein Botschafter für die Praxis von offener Wissenschaft sein.

Wer sich an dieser „Verschwörung“ beteiligen möchte, ist also herzlich eingeladen: Begutachen Sie Beiträge aus Ihrem Fachgebiet und stellen Sie Ihr Review der Öffentlichkeit zur Verfügung.

Erste Erfahrungen mit Open Peer Review

Seit rund einer Woche sind die ersten drei Beiträge im Open Peer Review-Verfahren als Preprint im Blog der Informationspraxis veröffentlicht. Es wäre übertrieben zu sagen, das OPR sei erfolgreich gestartet. Ein gründliches Review benötigt seine Zeit, und wir haben dafür ja auch vier Wochen vorgesehen. Es gab aber bereits erste Reaktionen, und deshalb erlaube ich mir auch erste Gedanken dazu.

Zunächst die Erfolgsmeldung: ja, es gab tatsächlich einen fachlichen Kommentar auf einen der Beiträge in der Kommentarfunktion des Blogs. So haben wir uns das vorgestellt: Bemerkungen zu Fehlern oder Verbesserungsvorschläge werden hier als Kommentar geäussert. Diese Kommentare wird die Redaktion sammeln und dann kommentiert an die Autorinnen und Autoren nach Abschluss des OPR schicken. Zur Erinnerung: OPR soll das klassische Peer Review ersetzen. Sie dürfen sich also ruhig angesprochen fühlen, wenn Sie ein Thema interessiert und den Beitrag eingehend korrigieren und kommentieren möchten.

Neben dem offiziellen Weg zeichnen sich auch einige andere Kanäle ab, auf denen Kommentare geäussert werden, die zum Open Peer Review zählen können: Da gibt es ein direktes Mail an den Autor/die Autorin, in dem gewisse Informationen berichtigt werden. Dieser Kanal ist kein offener. Aber vielleicht wird dieser Weg öfter genutzt, weil man sich (als Kommentator/Kritiker) nicht öffentlich äussern will, sondern sein Anliegen direkt der Auorin/dem Autor unterbreiten will. Das ist zwar nicht eigentlich OPR, aber der Qualitätssicherung dient dies auch.

Dann gab es eine Diskussion auf Twitter. Hier hat ein zitierter Autor bemerkt, dass etwas nicht stimmen kann. In der Diskussion mit anderen Usern auf Twitter hat sich dann herausgestellt, dass das Zitat einem falschen Autor zugewiesen wurde. So wurde der Fehler erkannt, und der Autor wird dies in der Überarbeitung korrigieren. Ich finde dieses OPR via Twitter spannend, auch wenn es nicht der eigentlich beabsichtigte Weg ist…

IMG_1112

Screenshot: Diskussion auf Twitter zu Beitrag im OPR

Und schliesslich hat heute Klaus Graf in seinem Blog alle drei Beiträge einer eingehenden Kritik unterzogen. Klaus Graf misstraut erklärtermassen der Moderation des Blogs der Informationspraxis. Deshalb veröffentlicht er seine Kritik in seinem eigenen Blog und bittet die Redaktion per Mail darum, die Autorinnen und Autoren darüber in Kenntnis zu setzen. Wie wir schon verlautbart haben, geht es bei der Moderation der Kommentare im Blog darum, die AutorInnen zu schützen. Wir haben die erklärte Absicht, auch Personen aus der Fachpraxis und Studierende als AutorInnen für die Informationspraxis zu gewinnen. Wenn man bei seinem ersten Publikationsversuch dann öffentlich zerpflückt wird, ist das nicht im Sinn der Sache. Wobei ich mir durchaus vorstellen kann, dass wir den Artikel einer Erstautorin/eines Erstautors bereits vor der Veröffentlichung im OPR etwas genauer anschauen und eine erste Überarbeitung verlangen oder allenfalls einen Beitrag zurückweisen, um den oben genannten Effekt der Demotivation und Demoralisierung zu vermeiden.

Inhaltlich sind Klaus Grafs Kommentare und Korrekturen ganz im Sinne des OPR. Genau so stelle ich mir Kommentare im Rahmen des OPR vor – bis auf die Einleitungen, in denen Klaus Graf aufzeigt, wie er zu den einzelnen Autorinnen und Autoren steht. Ich erwarte einfach, dass die Kommentare sachlich sind (was sie mir durchaus scheinen Ergänzung vom 6.3.: eine Präzisierung dazu findet sich im Kommentar unten). Wir müssen davon ausgehen, dass ReviewerInnen und AutorInnen sich in unserer überschaubaren Community kennen und dass es hier Sympathien und Animositäten gibt. Gerade deshalb macht ja das klassische Peer Review wenig Sinn, da die Anonymität nicht gewährleistet werden kann.

Klaus Graf spricht in seinem Tweet zum Blogpost von „erheblichen redaktionellen Mängeln in Informationspraxis“. Aus meiner Sicht handelt es sich bei den von ihm angesprochenen Kritikpunkten jedoch nicht um redaktionelle Mängel, sondern um beabsichtigte Elemente (vielleicht Risiken und Nebenwirkungen) des Open Peer Review-Prozesses. Im Vorfeld prüfen wir eingegangene Fachartikel nur formal (passt der Beitrag zur Informationspraxis) und orthografisch (siehe Beschreibung des OPR-Verfahrens der Informationspraxis). Danach geht der Beitrag als Preprint in die öffentliche Begutachtung. Wobei wir nicht behaupten, dass dies der Weisheit letzter Schluss sei. Wir sind dabei, erste Erfahrungen mit OPR zu sammeln. Und wir sind bereit, das Verfahren anzupassen, wenn sich dies als sinnvoll oder nötig erweisen sollte. Das könnte bedeuten, dass wir vor dem OPR ein gründlicheres Review durch Redaktion oder GutachterIn durchführen lassen oder dass wir uns sogar komplett vom OPR verabschieden, wenn es mittelfristig keinen Mehrwert erzeugt.

Deshalb möchten wir Sie alle ermuntern, für das OPR-Verfahren Verantwortung zu übernehmen und Beiträge zu kommentieren, die Sie inhaltlich ansprechen!

 

Etappenziel erreicht!

Im Juni 2014, bei der Gründungsversammlung in Bremen, starteten wir das ambitionierte Projekt Informationspraxis, das mit der Veröffentlichung der ersten Beiträge die erste Etappe auf einem hoffentlich langen gemeinsamen Weg genommen hat.

Gemäß unserem Motto ‚einfach machen‘, haben wir uns eher zufällig zusammengefunden und sind ohne weitere Vorkenntnisse und ohne Organisation in das Abenteuer gestartet. Genau genommen hatten wir zwar eine Idee, aber eigentlich keinen Plan.

Zur Erinnerung: Wir, das waren zunächst fünf Personen, die in der Welt der OA-Zeitschriften  neue Wege gehen wollten. Schauen wir einmal, wo wir heute mit unserem Konzept stehen und was  alles noch zu tun bleibt.

Veröffentlichung
Fachbeiträge veröffentlichen wir nach Rücksprache mit den AutorInnen zunächst als Preprint im Blog im Open Peer Review. Vier Wochen lang besteht jeweils die Möglichkeit die Beiträge zu kommentieren. Anschließend erhalten die AutorInnen den Beitrag und die eingegangenen Kommentare zugesandt und haben dann die Möglichkeit, ggf. Überarbeitungen vorzunehmen. Danach werden die Beiträge endgültig bei Informationspraxis veröffentlicht und erscheinen in der nächsten vorgesehenen Ausgabe. Aktuell werden drei Fachartikel parallel im Open Peer Review zur offenen Begutachtung veröffentlicht:

Tagungs- und Werkstattberichte, Kurzbeiträge und andere Formen von Beiträgen werden nach fachlicher Begutachtung direkt bei Informationspraxis veröffentlicht.

Erste Ausgabe
Wir hatten angekündigt, dass wir zunächst die Artikel für die erste Ausgabe sammeln wollten, um sie dann gemeinsam zu veröffentlichen. Angesichts der bereits entstandenen Verzögerung werden wir nun auch bei der ersten Ausgabe so vorgehen, wie es für die späteren geplant war: wir veröffentlichen laufend Beiträge, sobald sie geprüft, freigegeben und in den benötigten Formaten bereitstehen. Nach einem bestimmten Zeitraum (angedacht ist ein vierteljährliches Erscheinen) fassen wir alle Artikel zur nächsten Ausgabe zusammen. Wer also noch vor Ende Februar einen Fachartikel oder vor Mitte März einen Kurzbeitrag einreicht, kann noch für die erste Ausgabe berücksichtigt werden.

AutorInnen/Beiträge
Die bislang bei Informationspraxis angenommenen Beiträge entsprechen der angestrebten Bandbreite, sind von hoher Aktualität und haben durchweg einen klaren Praxisbezug. Das mit der Einreichung der Beiträge ausgesprochene Vertrauen in eine im Aufbau befindliche Zeitschrift wissen wir übrigens sehr zu schätzen. Einen herzlichen Dank dafür an die Autorinnen und Autoren!

Redaktionsworkflow
Niemand vom Kernteam konnte vor Beginn bei Informationspraxis auf nennenswerte Erfahrungen mit redaktioneller Arbeit oder mit Open Journal Systems (OJS) zurückgreifen. Daher war sowohl eine Einarbeitung in das System als auch in die Feinheiten und Fallstricke des Redaktionsworkflows notwendig. Zwar hatte die UB Heidelberg uns eine Testinstallation zur Verfügung gestellt, mit der wir den ‚Ernstfall‘ üben konnten, aber es zeigte sich, dass eine Anzahl von Details erst unter realen Bedingungen offensichtlich wird. Inzwischen haben wir etwas mehr Sicherheit im Umgang mit dem System gewonnen. Bevor wir allerdings ‚Experten‘ für OJS werden, liegen (hoffentlich!) noch Unmengen an großartigen Beiträgen von Ihnen/Euch zur Bearbeitung an.

Begutachtung
Ganz klar anvisiertes Ziel war es, ein Open Peer Review für Fachartikel durchzuführen. An diesem Punkt gab es vermutlich die meisten Diskussionen, und der Prozess wird nach den ersten offenen Begutachtungen ganz sicher auch weiter optimiert werden können. Die Diskussion, so hoffen wir, wird nach den ersten Erfahrungen dann mit der Community gemeinsam weiter geführt.

Zur Entscheidung, die Veröffentlichung der Beiträge für das Open Peer Review ins Blog auszulagern, kam es, weil wir bei OJS keine ausreichende Möglichkeit sehen, Kommentare angemessen zu moderieren. Der Schutz der AutorInnen vor unangemessenen Kommentaren muss nach unserer Überzeugung aber unbedingt gewährleistet sein. OJS bietet lediglich die Option, die Kommentarfunktion entweder ein- oder auszuschalten und ist somit für ein Open Peer Review, unserer Auffassung nach, nicht geeignet.

Technik
Von Anfang an gab es von vielen Seiten Hilfe und Unterstützung. Dafür möchten wir uns an dieser Stelle bei allen nochmals herzlich bedanken!

Das Corporate Design hat Ulf Witt entworfen. Er wird es gemeinsam mit uns weiter entwickeln und steht uns bei Fragen dazu mit Rat und Tat zur Seite. Die Kolleginnen und Kollegen der UB Heidelberg, die für uns die Zeitschrift hosten und bei Fragen immer ansprechbar sind: Dankeschön! Ihr seid klasse. Das CSS für unsere Seiten hat Hendrik Bunke implementiert. Ohne seine Hilfe säßen wir vielleicht noch immer mit einer Handvoll Grafiken etwas ratlos da.

Das Blog Informationspraxis wird von der HTW Chur gehostet, ebenso wird dort auch die Lizenz für unsere Projektmanagementplattform ‚Basecamp‘ zur Verfügung gestellt.

Auch wenn eine automatisierte Konvertierung von Dokumenten in HTML, wie wir es grundsätzlich anstreben, zum jetzigen Zeitpunkt noch nicht möglich ist, bleibt es unser erklärtes Ziel, alle Beiträge standardmäßig in den Formaten PDF, HTML und EPUB zu veröffentlichen.

Kommunikation
Das Kernteam von Informationspraxis hatte zu Beginn eigentlich nur zwei Dinge gemeinsam: Wir kommen alle aus dem BID-Bereich und wir wollten diese Zeitschrift machen. Somit dient die Kommunikation untereinander ebenso dem gegenseitigen Kennenlernen wie auch der sachbezogenen Auseinandersetzung und gemeinsamen Planung des Projekts. Da wir alle Informationspraxis nebenberuflich betreiben, gestaltet sich die Terminfindung für gemeinsame Redaktionsbesprechungen oftmals schwierig. Bedenkt man all diese Umstände, haben wir allen Grund den Start der Veröffentlichungen nun mit Ihnen/Euch gemeinsam zu feiern!

Wie geht es weiter?
Spannend ist nun zunächst zu beobachten, wie das Open Review verlaufen wird. Nach einiger Zeit sehen wir vielleicht schon ein wenig klarer, wohin der Weg damit führen kann.

Weiterhin bleibt die Dokumentenkonvertierung eine offene Baustelle, an der wir auf jeden Fall dranbleiben.

Außerdem möchten wir gerne mehr von Euch/Ihnen dafür gewinnen, aktiv bei Informationspraxis mitzumachen, auch in der Redaktion. Wer also Lust und Zeit für dieses spannende Projekt mitbringt, ist herzlich dazu eingeladen!