>b's weblog

Die Entwicklung von Künstlicher Intelligenz ist maßgeblich von Inhalten aus dem Internet abhängig. Denn die Daten, mit denen sie trainiert werden, stammen aus Magazinen, Blogs, Foren und Plattformen wie Reddit. Wie eine neue Studie nun zeigt, macht dies Sprachmodelle angreifbar. Denn bereits wenige manipulierte Daten können Hintertüren in den Modellen platzieren, die Angreifer später ausnutzen können.

Den Bericht gibt's hier. Garbage in, garbage out.