Wenn KI entscheidet, was erlaubt ist: Die neuen Wächter über unser Wissen
Ein Claude-Nutzer lässt einen iranischen Medienbericht übersetzen. Darin erklärt ein hochrangiger iranischer Militärvertreter, BBC Persian, Iran International und Radio Farda könnten als militärische Ziele betrachtet werden. Kurz darauf wird sein Konto gesperrt. Anthropic nennt als Begründung Verstöße im Bereich „Gewalt, Extremismus oder Waffendesign“.
Der Nutzer hatte den Inhalt jedoch nicht verfasst und auch keine Hilfe für einen Angriff verlangt. Er wollte ihn übersetzen.
Den Bericht gibt's hier. Das macht Google Translate cleverer. Wenn ich bestimmte heissere Texte übersetzen lassen will, dann geht zuverlässig translate.google.com kaputt. Ich helfe mir dann aus, indem ich Teile des Textes da rein kopiere. Dann geht es plötzlich wieder.