{"id":3245,"date":"2025-01-16T10:52:38","date_gmt":"2025-01-16T09:52:38","guid":{"rendered":"https:\/\/secret-cow-level.de\/wordpress\/?p=3245"},"modified":"2025-01-16T10:52:41","modified_gmt":"2025-01-16T09:52:41","slug":"garbage-in-garbage-out-bias-in-ki-systemen","status":"publish","type":"post","link":"https:\/\/secret-cow-level.de\/wordpress\/2025\/01\/garbage-in-garbage-out-bias-in-ki-systemen\/","title":{"rendered":"Garbage in, Garbage out \u2013 Bias in KI-Systemen"},"content":{"rendered":"\n

Verzerrte Daten f\u00fchren zu verzerrten Entscheidungen. Das mag trivial klingen, aber die Auswirkungen auf KI-Systeme sind es nicht. Daten sind das Herzst\u00fcck von KI. Und wenn die Daten schon ein bisschen schief sind, wird das Ergebnis nicht gerade. Kurz: Garbage in, Garbage out<\/strong>. \ud83d\uddd1\ufe0f<\/p>\n\n\n\n

Am Institut f\u00fcr Interaktive Systeme (ISy)<\/a> der Technischen Hochschule L\u00fcbeck nutzen und entwickeln wir KI-basierte Anwendungen und wollen das auch in Zukunft immer mehr tun \u2013 vom generierten Beschreibungstext bis hin zu Empfehlungssystemen. Wie sich Verzerrungen, sog. Biases, auf unsere Projekte auswirken<\/strong>, war das Thema eines Workshops<\/strong>, den ich im Rahmen unserer KI-Themenreihe gestaltet habe.<\/p>\n

Slides zum Nach- und besser Machen als OER<\/h2>\n

<\/a><\/form>
\"Bias<\/td> Lorenz, Anja<\/span>: Bias in KI-Systemen<\/a><\/span>. 2025<\/span>.<\/span> (Typ: Workshop<\/span> | Abstract<\/a><\/span> | Links<\/a><\/span> | BibTeX<\/a><\/span>)<\/span>
@workshop{Lorenz2025,
\r\ntitle = {Bias in KI-Systemen},
\r\nauthor = {Anja Lorenz},
\r\nurl = {https:\/\/doi.org\/10.5281\/zenodo.14669796
\r\nhttps:\/\/kurzlinks.de\/isy-bias-workshop
\r\nhttps:\/\/secret-cow-level.de\/wordpress\/2025\/01\/garbage-in-garbage-out-bias-in-ki-systemen\/},
\r\nyear  = {2025},
\r\ndate = {2025-01-15},
\r\nurldate = {2025-01-15},
\r\nabstract = {Verzerrte Daten f\u00fchren zu verzerrten Entscheidungen, oder kurz: Garbage in, Garbage out. Am Institut f\u00fcr Interaktive Systeme nutzen und entwickeln wir auch selbst Anwendungen, die auf KI-Technologien basieren. Daher sollten wir uns bewusst sein, dass diese immer Verzerrungen (Biases) unterliegen.
\r\n
\r\nIm Workshop steigen wir allgemein in das Thema ein und reflektieren, welche Konsequenzen das f\u00fcr unsere Arbeit hat. Wir lernen die Methoden \"Diversity Personas\" und \"De-Biasing durch Prompting\" kennen und schauen, inwieweit sie uns beim Erkennen und Abmildern von Biases helfen k\u00f6nnen.},
\r\nhowpublished = {Teil einer internen Workshop-Reihe am Institut f\u00fcr Interaktive Systeme der TH L\u00fcbeck},
\r\nkeywords = {},
\r\npubstate = {published},
\r\ntppubtype = {workshop}
\r\n}
\r\n<\/pre><\/div>
Schlie\u00dfen<\/a><\/p><\/div>
Verzerrte Daten f\u00fchren zu verzerrten Entscheidungen, oder kurz: Garbage in, Garbage out. Am Institut f\u00fcr Interaktive Systeme nutzen und entwickeln wir auch selbst Anwendungen, die auf KI-Technologien basieren. Daher sollten wir uns bewusst sein, dass diese immer Verzerrungen (Biases) unterliegen.
\r\n
\r\nIm Workshop steigen wir allgemein in das Thema ein und reflektieren, welche Konsequenzen das f\u00fcr unsere Arbeit hat. Wir lernen die Methoden "Diversity Personas" und "De-Biasing durch Prompting" kennen und schauen, inwieweit sie uns beim Erkennen und Abmildern von Biases helfen k\u00f6nnen.<\/div>
Schlie\u00dfen<\/a><\/p><\/div>