"Offener Brief von KI-Forscher:innen: Schutz vor Vergeltung gefordert"

Ent­wick­le­r:in­nen wollen vor den Risiken künstlicher Intelligenz warnen dürfen. Viele fürchten die Reaktion der Konzerne auf interne Kritik.

Eine Gruppe von KI-Forscher:innen, darunter mehrere ehemalige Angestellte der ChatGPT-Firma OpenAI, fordert das Recht ein, die Öffentlichkeit über Gefahren der Software warnen zu dürfen. Der aktuelle Schutz für Whistleblower reiche nicht aus, betonten die Ex­per­t:in­nen in einem am Dienstag veröffentlichten offenen Brief.

Denn dieser sei vor allem auf illegale Aktivitäten von Firmen ausgerichtet – aber bei künstlicher Intelligenz gebe es in vielen Fällen noch keine rechtlichen Vorgaben. „Einige von uns fürchten zu Recht Vergeltungsmaßnahmen, da es bereits solche Fälle in der Branche gab.“

Ein Beispiel dafür wurde nur wenig später bekannt: Der ehemalige OpenAI-Forscher Leopold Aschenbrenner sagte dem Dwarkesh Podcast, er sei gefeuert worden, nachdem er sich beim Verwaltungsrat der Firma über KI-Sicherheit besorgt gezeigt habe.

Die For­sche­r:in­nen riefen die Unternehmen mit fortgeschrittenen KI-Modellen auf, vier Grundsätze zu befolgen. Dazu gehört, den Mit­ar­bei­te­r:in­nen nicht negative Äußerungen über ihre Arbeitgeber zu verbieten. Jüngst wurde bekannt, dass OpenAI ehemaligen Mitarbeitenden mit dem Verfall ihrer Aktienoptionen drohte, wenn sie die Firma „verunglimpfen“ sollten. OpenAI-Chef Sam Altman entschuldigte sich und ließ die Klausel, von der er nichts gewusst habe, streichen. Er behauptete auch, sie sei nie angewendet worden. [...]

Eine Sprecherin von OpenAI sagte zu dem Brief, das Unternehmen glaube an eine „wissenschaftliche Herangehensweise an Risiken der Technologie“. Mit­ar­bei­te­r:in­nen stehe frei, auch anonym ihre Sorgen zu teilen. Zugleich dürften dabei aber vertrauliche Informationen nicht öffentlich gemacht werden, die dadurch in die falschen Hände geraten könnten. [...]