Microsofts neuer KI-Redakteur blamiert sich direkt
Microsoft ersetzt MSN-Redakteure durch KI-Software. Das hat jetzt eine erste negative Konsequenz für den Tech-Konzern, die zeigt, welche großen Auswirkungen eine kleine Automatisierung haben kann.
Zum 30. Juni laufen die Verträge von mindestens 75 News-Redakteuren des Informationsportals MSN aus. Microsoft möchte die Redakteure durch eine KI-Software ersetzen: Sie soll relevante News von Microsofts Publishing-Partnern erkennen und für das Nachrichtenportal MSN optimieren, etwa mit umgetexteten Überschriften oder besseren Fotos.
Die KI-Software werde bereits seit Monaten getestet und soll nun breiter eingesetzt werden, sagt ein entlassener Redakteur gegenüber der Seattle Times.
Jetzt hat Microsoft alle Hände voll zu tun, die KI-Software zu regulieren: Erst verwechselt sie zwei Menschen gemischter Herkunft in einem Artikel über Rassismuserfahrungen. Dann will sie die negative Berichterstattung über ihren eigenen Fehler auf MSN veröffentlichen.
Rassistische Vorurteile in News-KI?
Ein Independent-Artikel berichtet über Rassismuserfahrungen des Litte Mix Bandmitglieds Jade Thirlwall. Die KI übernimmt die News für MSN, tauscht allerdings das Titelbild aus. Auf dem ist anschließend nicht mehr Jade Thirlwall zu sehen, sondern ihre Bandkollegin Leigh-Anne Pinnock – beide Künstlerinnen sind gemischter Herkunft.
Erst nachdem Thirlwall bei Instagram auf den Fall aufmerksam macht, fällt der Fehler bei Microsoft auf. Ein menschlicher Redakteur tauscht anschließend das Bild aus.
Jade Thirlwall machte auf die KI-Verwechslung in einer Instagram-Story aufmerksam. | Bild: Screenshot via The Guardian
Wie es zu dem Fehler kam, ist bisher nicht klar. Falsche Meta-Daten in den Bildern könnten die Ursache der Verwechslung sein, sodass dieser ursprünglich womöglich ein menschlicher Irrtum zugrunde liegt.
Allerdings hätten menschliche MSN-Redakteure die Chance gehabt, den Fehler vor der Veröffentlichung zu entdecken. Die KI-Software übernahm das menschliche Versagen ungeprüft.
KI sabotiert Microsofts Schadensbegrenzung
Für Microsoft war der KI-Fall damit noch nicht erledigt: Der KI-Redakteur bewertete die Berichterstattung über den eigenen Fehler als interessant für MSN-Leser – und plante konsequenterweise die Veröffentlichung kritischer Artikel über seinen Fehltritt auf der eigenen Plattform. Verantwortliche bei MSN verordneten die Löschung der kritischen News durch die menschlichen Redakteure.
Besonders absurd: Vor der Veröffentlichung eines Guardian-Artikels über den Fall wurden die MSN-Redakteure gewarnt, dass sie mit einem negativen Artikel im Guardian rechnen müssten, der über rassistische Vorurteile in der KI-Software berichte, die bald ihre Arbeit übernehmen werde.
Die menschlichen Redakteure sollten wachsam sein und jede Version des Artikels löschen, die der KI-Redakteur auswählt. Es sei außerdem möglich, dass der KI-Redakteur die Entscheidung der menschlichen Redakteure ignoriere und versuche, den Artikel erneut zu veröffentlichen.
Mit anderen Worten: Die menschlichen Redakteure sollten die KI zensieren, die sie ersetzen wird. Die Berichterstattung der KI wiederum lieferte das beste Argument für den Job der menschlichen Redakteure.
Via: The Guardian, Titelbild: The Guardian
Weiterlesen über Künstliche Intelligenz:
- IBM entwickelt und verkauft keine KI-Gesichtserkennung mehr
- Deepmind: Weniger Hype, mehr Wissenschaft
- Google BLEURT klingt komisch, soll aber KI helfen
Filed under: KI und Arbeit,KI und Kultur,Künstliche Intelligenz,Medien,Sprach-KI,Wandel - @ 9. Juni 2020 17:22