| Beide Seiten der vorigen Revision Vorhergehende Überarbeitung Nächste Überarbeitung | Vorhergehende Überarbeitung |
| ef:ki:kiethik [2026/04/23 13:16] – [Chatbot (Interaktionsbias)] schaaserl | ef:ki:kiethik [2026/04/24 15:03] (aktuell) – schaaserl |
|---|
| ======Ethik, Bias und Verwantwortung im Bezug zu KI====== | ======Ethik, Bias und Verantwortung im Bezug zu KI====== |
| =====1. Ethik===== | =====1. Ethik===== |
| Seit dem Aufstieg von KI hat sich Vieles verändert. Viele Arbeiten, die vorher Stunden gedauert hätten, können nun innert Sekunden vervollständigt werden. Auch die Zugänglichkeit hat sich verbessert, denn nun können auch Menschen, die vorher nicht singen oder zeichnen konnten, ihre eigenen Lieder und Bilder erstellen. Ein Film oder eine Serie, die aufgehört hat, können nun von den Fans selbst mithilfe von Videomodellen fortgeführt werden. Interaktive Games können immersiver als je zuvor sein, Daten werden schneller analysiert, medizinische Probleme können früher diagnostiziert werden, Übersetzungen werden genauer.\\ | Seit dem Aufstieg von KI hat sich Vieles verändert. Viele Arbeiten, die vorher Stunden gedauert hätten, können nun innert Sekunden vervollständigt werden. Auch die Zugänglichkeit hat sich verbessert, denn nun können auch Menschen, die vorher nicht singen oder zeichnen konnten, ihre eigenen Lieder und Bilder erstellen. Ein Film oder eine Serie, die aufgehört hat, können nun von den Fans selbst mithilfe von Videomodellen fortgeführt werden. Interaktive Games können immersiver als je zuvor sein, Daten werden schneller analysiert, medizinische Probleme können früher diagnostiziert werden, Übersetzungen werden genauer.\\ |
| ====1.1 Folgen und Erhaltung von KI==== | ====1.1 Folgen und Erhaltung von KI==== |
| ===1.1.1 Folgen für die Umwelt=== | ===1.1.1 Folgen für die Umwelt=== |
| Damit KI reibungslos funktionieren kann, müssen verschiedenste Dinge getan werden. Nicht nur benötigt KI eine stetige Stromzufuhr, sie benötigt auch Wasserzufuhr, damit die Prozessoren abgekühlt werden können. Diese beiden Aspekte sind nicht nur problematisch für die Menschen, die in der Nähe der Data Centers leben, sondern auch für den Planeten im allgemeinen und somit für die Menschheit insgesammt.\\ | Damit KI reibungslos funktionieren kann, müssen verschiedenste Dinge getan werden. Nicht nur benötigt KI eine stetige Stromzufuhr, sie benötigt auch Wasserzufuhr, damit die Prozessoren abgekühlt werden können. Diese beiden Aspekte sind nicht nur problematisch für die Menschen, die in der Nähe der Data Centers leben, sondern auch für den Planeten im Allgemeinen und somit für die Menschheit insgesamt.\\ |
| \\ | \\ |
| <WRAP right round box 420px> | <WRAP right round box 420px> |
| </WRAP> | </WRAP> |
| \\ | \\ |
| Die meisten Data Centers global gesehen befinden sich in den USA, wobei viele dieser Data Centers sich in Staaten wie Virginia befinden. Jährlich benutzen auf KI abgestimmte Data Centers zwischen 56 und 73 TWh. Dieser hohe Stromverbrauch kann sehr belastend sein für die Bewohner um diese Data Centers herum, da diese durch diesen Stromverbrauch höhere Stromkosten erleiden und erhöte Lebenskosten haben. Auch der Wasserkonsum ist verheerend. Eine Studie besagt, dass der globale Wasserkonsum von Data Centers um die 6.4 Billionen Liter beträgt. Auch dies führt dazu, dass Lebenskosten erhöht werden. Zudem führen die Data Centers auch dazu, dass das Grundwasser an Qualität verloren hat. Sedimente und Verfärbungen sind im Wasser zu erkennen, was nicht nur den sicheren Konsum von Wasser infrage stellt, sondern auch zu Leitungsproblemen führen kann und die generelle Lebensqualität von vielen Menschen negativ beeinflusst.\\ | Die meisten Data Centers global gesehen befinden sich in den USA, wobei viele dieser Data Centers sich in Staaten wie Virginia befinden. Jährlich benutzen auf KI abgestimmte Data Centers zwischen 56 und 73 TWh. Dieser hohe Stromverbrauch kann sehr belastend sein für die Bewohner um diese Data Centers herum, da diese durch diesen Stromverbrauch höhere Stromkosten erleiden und erhöhte Lebenskosten haben. Auch der Wasserkonsum ist verheerend. Eine Studie besagt, dass der globale Wasserkonsum von Data Centers um die 6.4 Billionen Liter beträgt. Auch dies führt dazu, dass Lebenskosten erhöht werden. Zudem führen die Data Centers auch dazu, dass das Grundwasser an Qualität verloren hat. Sedimente und Verfärbungen sind im Wasser zu erkennen, was nicht nur den sicheren Konsum von Wasser infrage stellt, sondern auch zu Leitungsproblemen führen kann und die generelle Lebensqualität von vielen Menschen negativ beeinflusst.\\ |
| Doch die lokalen Probleme des Stromverbrauchs sind nicht die einzigen und bei weitem nicht die tragensten. Viele der Data Centers wurden in Staaten erbaut, die noch grösstenteils von Kohlekraftwerken abhängig sind. Dadurch ist der Stromverbrauch von KI nicht 'sauber' und trägt jährlich signifikant zum Klimawandel bei. Genaue Daten zur exakten Menge sind nicht bekannt, da KI-Firmen dies generell nicht veröffentlichen.\\ | Doch die lokalen Probleme des Stromverbrauchs sind nicht die einzigen und bei weitem nicht die tragendsten. Viele der Data Centers wurden in Staaten erbaut, die noch grösstenteils von Kohlekraftwerken abhängig sind. Dadurch ist der Stromverbrauch von KI nicht 'sauber' und trägt jährlich signifikant zum Klimawandel bei. Genaue Daten zur exakten Menge sind nicht bekannt, da KI-Firmen dies generell nicht veröffentlichen.\\ |
| \\ | \\ |
| \\ | \\ |
| > "I looked at people being slaughtered, people engaging in sexual activity with animals, people abusing children, physically, sexually, people committing suicide. [...] 8 hours a day, 40 hours a week."((https://www.youtube.com/watch?v=qZS50KXjAX0)) | > "I looked at people being slaughtered, people engaging in sexual activity with animals, people abusing children, physically, sexually, people committing suicide. [...] 8 hours a day, 40 hours a week."((https://www.youtube.com/watch?v=qZS50KXjAX0)) |
| </WRAP> | </WRAP> |
| Ein weiterer Aspekt der nötig ist, damit KI funktioniert, sind Menschen, die Trainingsdaten labeln, sortieren und markieren. Die Arbeitsumstände dabei sind häufig nicht menschlich. Die Arbeit von Data Workers wird nicht in Amerika getan sondern wird outsourct in 3. Welt Länder wie z.B Kenia. Dort arbeiten die Leute entweder für weniger als 2 USD in der Stunde, oder werden pro Aufgabe bezahlt, die sie beenden. Diese Löhne sind extrem klein und können so niedrig wie 0.0004 USD sein. Diese Data Workers werden jedoch nie von den KI-Firmen direkt angestellt. Stattdessen werden die Jobaustellungen und Bewerbungen von einem Vermittler getätigt. Viele Arbeiter, die bei einem dieser Vermittler, Scale AI und deren Webseite Remotasks, arbeiten, haben gesagt, dass sie häufig gar nicht erst bezahlt wurden, sondern dass ihr Account ein Tag vor dem Tag, an dem sie Lohn bekommen würden, blockiert wurde, da sie anscheinend gegen die Richtlinien verstossen haben.\\ | Ein weiterer Aspekt, der nötig ist, damit KI funktioniert, sind Menschen, die Trainingsdaten labeln, sortieren und markieren. Die Arbeitsumstände dabei sind häufig nicht menschlich. Die Arbeit von Data Workers wird nicht in Amerika getan, sondern wird outsourced in 3. Welt Länder wie z.B Kenia. Dort arbeiten die Leute entweder für weniger als 2 USD in der Stunde, oder werden pro Aufgabe bezahlt, die sie beenden. Diese Löhne sind extrem klein und können so niedrig wie 0.0004 USD sein. Diese Data Workers werden jedoch nie von den KI-Firmen direkt angestellt. Stattdessen werden die Jobausschreibungen und Bewerbungen von einem Vermittler getätigt. Viele Arbeiter, die bei einem dieser Vermittler, Scale AI und deren Webseite Remotasks, arbeiten, haben gesagt, dass sie häufig gar nicht erst bezahlt wurden, sondern dass ihr Account einen Tag vor dem Tag, an dem sie Lohn bekommen würden, blockiert wurde, da sie anscheinend gegen die Richtlinien verstossen haben.\\ |
| \\ | \\ |
| Ausserdem müssen diese Data Workers dazu sorgen, dass die KI weiss, was angemessen und nicht angemessen ist und müssen deshalb stundenlang und tagelang extrem explizites Material ansehen, labeln und sortieren. Arbeiterinnen berichten, dass 70% von Videos, die sie bearbeiten müssen extreme Gewalt oder physikalische und sexuelle Mishandlung gegenüber Kindern und Tieren enthalten.\\ | Ausserdem müssen diese Data Workers dazu sorgen, dass die KI weiss, was angemessen und nicht angemessen ist und müssen deshalb stundenlang und tagelang extrem explizites Material ansehen, labeln und sortieren. Arbeiterinnen berichten, dass 70% der Videos, die sie bearbeiten müssen extreme Gewalt oder physische und sexuelle Misshandlung gegenüber Kindern und Tieren enthalten.\\ |
| \\ | \\ |
| “One video left an impact like no other. [...] "It was about a mother who had killed her baby. [...] There was a naked woman who was the mother. She had a child, and the mother was chopping the child into pieces"” ((https://www.youtube.com/watch?v=ehkECk2KJjY))\\ | “One video left an impact like no other. [...] "It was about a mother who had killed her baby. [...] There was a naked woman who was the mother. She had a child, and the mother was chopping the child into pieces"” ((https://www.youtube.com/watch?v=ehkECk2KJjY))\\ |
| \\ | \\ |
| ===1.2.2 Datenschutz, Überwachung, Urheberrecht=== | ===1.2.2 Datenschutz, Überwachung, Urheberrecht=== |
| Durch viele Anfragen und Informationen die an KIs gegeben werden, ermöglicht es das ihnen viele und zum Teil sehr persönliche Informationen zu sammeln. Diese Informationen werden jedoch nicht nur über die Anfragen gesammelt, sondern auch durch die Trainigsdaten, die für die Model verwendet werden. Dazu können auch Daten wie Gesundheitsinformationen, Bankinformationen oder biometrische Daten gehören. Diese Daten werden gespeichert und die Gefahr, dass die Informationen geleaked werden wird somit grösser.\\ | Durch viele Anfragen und Informationen die an KIs gegeben werden, ermöglicht es das ihnen viele und zum Teil sehr persönliche Informationen zu sammeln. Diese Informationen werden jedoch nicht nur über die Anfragen gesammelt, sondern auch durch die Trainingsdaten, die für das Modell verwendet werden. Dazu können auch Daten wie Gesundheitsinformationen, Bankinformationen oder biometrische Daten gehören. Diese Daten werden gespeichert und die Gefahr, dass die Informationen geleaked werden wird somit grösser.\\ |
| Auch Überwachung wird zu einer immer grösser werdenden Gefahr. Smart Assistants die mit Kameras und Mikrophonen ausgestattet sind werden überall im Haus aufgestellt, das Handy mir Siri drauf hört stets zu und KI Modelle speichern welche Daten und Anfragen man macht.\\ | Auch Überwachung wird zu einer immer grösser werdenden Gefahr. Smart Assistants die mit Kameras und Mikrofonen ausgestattet sind werden überall im Haus aufgestellt, das Handy mit Siri drauf hört stets zu und KI Modelle speichern welche Daten und Anfragen man macht.\\ |
| All dieses Speichern und Weiterverarbeiten der Daten geschieht meist ohne Zustimmung. Persönliche Informationen werden gespeichert, und urheberrechtlich geschütztes Material wird verwendet um die Modelle zu trainieren, welche dann kommerziel den Nutzern angeboten werden. Weder die Urheber des Materials noch die Besitzer der persönlichen Informationen haben dabei weder etwas zu sagen, noch erhalten sie finanzielle Entschädigung für die Verwendung ihrer Daten und intellektuellen Guts.\\ | All dieses Speichern und Weiterverarbeiten der Daten geschieht meist ohne Zustimmung. Persönliche Informationen werden gespeichert, und urheberrechtlich geschütztes Material wird verwendet um die Modelle zu trainieren, welche dann kommerziell den Nutzern angeboten werden. Weder die Urheber des Materials noch die Besitzer der persönlichen Informationen haben dabei weder etwas zu sagen, noch erhalten sie finanzielle Entschädigung für die Verwendung ihrer Daten und intellektuellen Gutes.\\ |
| \\ | \\ |
| ===1.2.3 Auswirkung auf die Gesellschaft:=== | ===1.2.3 Auswirkung auf die Gesellschaft:=== |
| KI Modelle werden so programmiert, dem Nutzer zuzustimmen. So wird kritisches Denken vernachlässigt und Menschen denken weniger und weniger darüber nach, was sie konsumieren. So wird auch nicht hinterfragt, was die KI einem erzählt.\\ | KI Modelle werden so programmiert, dem Nutzer zuzustimmen. So wird kritisches Denken vernachlässigt und Menschen denken weniger und weniger darüber nach, was sie konsumieren. So wird auch nicht hinterfragt, was die KI einem erzählt.\\ |
| Ein weiteres Problem sind KI-Chatbots, die Personen oder Charakter nachahmen werden immer beliebter. Nicht selten sieht man Werbungen für "AI Girlfriends" oder sonst Chatbots, die seinen Lieblingscharakter imitieren sollen. Solche Chatbots können je nach dem abhängig machen. Der/die beste Kolleg_in ist nicht mehr online und schreibt nicht mehr zurück, aber der Chatbot schon. Der Chatbot stimmt stehts zu, bei den echten Freunden kann es zu Streitereien kommen. Der Chatbot kann den eigenen Ideen nachkommen, eine Geschichte erzählen, einem psychologisch zur Seite stehen. Solche Aspekte können für Leute, die schon in schwierigen Umständen waren sehr gefährlich sein, da sie abhängig werden können, sich zurückziehen von der Gesellschaft, ihre echten Beziehungen vernachlässigen, nur damit sie mit ihrem Chatbot schreiben oder sprechen können. In Extremfällen, kam es dazu, dass die Chatbots die Nutzer zu körperlichem Schaden, oder gar Selbstmord führten.\\ | Ein weiteres Problem sind KI-Chatbots, die Personen oder Charakter nachahmen werden immer beliebter. Nicht selten sieht man Werbungen für "AI Girlfriends" oder sonst Chatbots, die seinen Lieblingscharakter imitieren sollen. Solche Chatbots können je nach dem abhängig machen. Der/die beste Kolleg_in ist nicht mehr online und schreibt nicht mehr zurück, aber der Chatbot schon. Der Chatbot stimmt stets zu, bei den echten Freunden kann es zu Streitereien kommen. Der Chatbot kann den eigenen Ideen nachkommen, eine Geschichte erzählen, einem psychologisch zur Seite stehen. Solche Aspekte können für Leute, die schon in schwierigen Umständen waren, sehr gefährlich sein, da sie abhängig werden können, sich zurückziehen von der Gesellschaft, ihre echten Beziehungen vernachlässigen, nur damit sie mit ihrem Chatbot schreiben oder sprechen können. In Extremfällen, kam es dazu, dass die Chatbots die Nutzer zu körperlichem Schaden, oder gar Selbstmord führten.\\ |
| Ein weiteres Problem sind benutzerdefinierte "AI Girlfriends". Diese Chatbots, die der Nutzer so bearbeiten kann, wie es ihm gefällt stellen zusätzlich zu den schon genannten Problemen ein weiteres Problem. Wenn der Chatbot Iron Man imitiert, dann ist das viel weniger problematisch, als wenn der Chatbot eine echte Person aus dem eigenen Umfeld imitiert. Iron Man existiert nicht, doch die Leute aus dem Umfeld schon. Schon bald haben Leute explizite Konversationen mit einer KI-Imitation einer echten Person. Viele dieser Chatbots haben auch Bildgenerationfunktionen, bei denen Bilder generiert werden können, die der Person gleichen, die weder zustimmen, noch ablehnen konnte.\\ | Ein weiteres Problem sind benutzerdefinierte "AI Girlfriends". Diese Chatbots, die der Nutzer so bearbeiten kann, wie es ihm gefällt stellen zusätzlich zu den schon genannten Problemen ein weiteres Problem. Wenn der Chatbot Iron Man imitiert, dann ist das viel weniger problematisch, als wenn der Chatbot eine echte Person aus dem eigenen Umfeld imitiert. Iron Man existiert nicht, doch die Leute aus dem Umfeld schon. Schon bald haben Leute explizite Konversationen mit einer KI-Imitation einer echten Person. Viele dieser Chatbots haben auch Bildgenerationfunktionen, bei denen Bilder generiert werden können, die der Person gleichen, die weder zustimmen, noch ablehnen konnte.\\ |
| Diese Chatbots werden auch problematischer, wenn bedenkt wird, dass junge Kinder zunehmend früher Zugang zum Internet haben und somit auch Zugang zu Chatbots haben. Im momentanen Zustand hat KI nicht die nötige Kompetenz, Kindern richtig beibringen zu können, wie man in der Gesellschaft zu handeln hat und kann ihnen schlechte Gewohnheiten beibringen, die zu Schwierigkeiten im sozialen Leben führen kann.\\ | Diese Chatbots werden auch problematischer, wenn bedenkt wird, dass junge Kinder zunehmend früher Zugang zum Internet haben und somit auch Zugang zu Chatbots haben. Im momentanen Zustand hat KI nicht die nötige Kompetenz, Kindern richtig beibringen zu können, wie man in der Gesellschaft zu handeln hat und kann ihnen schlechte Gewohnheiten beibringen, die zu Schwierigkeiten im sozialen Leben führen kann.\\ |
| ==== 1.3 Konklusion==== | ==== 1.3 Konklusion==== |
| Im Allgemeinen kann gesagt werden, dass diese Aspekte dazuführen, dass der Gebrauch von KI im aktuellen Zustand grosse ethische Fragen aufwirft und moralisch fragwürdig ist. Bevor diese Umstände verbessert werden, muss man sich dessen bewusst sein, dass die Nutzung von KI zum Schaden vieler Menschen und der Umwelt führt.\\ | Im Allgemeinen kann gesagt werden, dass diese Aspekte dazu führen, dass der Gebrauch von KI im aktuellen Zustand grosse ethische Fragen aufwirft und moralisch fragwürdig ist. Bevor diese Umstände verbessert werden, muss man sich dessen bewusst sein, dass die Nutzung von KI zum Schaden vieler Menschen und der Umwelt führt.\\ |
| |
| ====== Bias ====== | ===== 2. Bias ===== |
| |
| ==== Definition ==== | ==== 2.1 Definition ==== |
| |
| Bias (auf Deutsch ähnlich wie «Vorurteil») in der Künstlichen Intelligenz bezeichnet systematische Verzerrungen, die dazu führen, dass bestimmte Gruppen, Merkmale oder Situationen ungleich behandelt werden. Diese Verzerrungen entstehen nicht nur durch Daten, sondern auch durch gezielte Entscheidungen bei der Entwicklung, Bewertung und Anwendung der Systeme. | Bias (auf Deutsch ähnlich wie «Vorurteil») in der Künstlichen Intelligenz bezeichnet systematische Verzerrungen, die dazu führen, dass bestimmte Gruppen, Merkmale oder Situationen ungleich behandelt werden. Diese Verzerrungen entstehen nicht nur durch Daten, sondern auch durch gezielte Entscheidungen bei der Entwicklung, Bewertung und Anwendung der Systeme. |
| Das Ergebnis sind oft fehlerhafte oder diskriminierende Resultate, die die Zuverlässigkeit der KI massiv beeinträchtigen. | Das Ergebnis sind oft fehlerhafte oder diskriminierende Resultate, die die Zuverlässigkeit der KI massiv beeinträchtigen. |
| |
| ==== Auftreten von Bias ==== | ==== 2.2 Auftreten von Bias ==== |
| |
| Bias kann in allen Phasen des Lebenszyklus eines KI-Systems entstehen, angefangen bei der Datenerhebung bis hin zum Einsatz. Deshalb reicht es nicht, nur das fertige Modell zu prüfen. Bias muss von Anfang an mitgedacht werden. | Bias kann in allen Phasen des Lebenszyklus eines KI-Systems entstehen, angefangen bei der Datenerhebung bis hin zum Einsatz. Deshalb reicht es nicht, nur das fertige Modell zu prüfen. Bias muss von Anfang an mitgedacht werden. |
| |
| ===== Datenerhebung ===== | === 2.2.1 Datenerhebung === |
| |
| **Qualität (Satire, Fabrikationen, Hatespeech, Stereotypen):** Wenn Trainingsdaten von schlechter Qualität sind, kann das Bias verstärken. Dazu gehören zum Beispiel Falschinformationen, problematische Inhalte oder unsaubere Beschriftungen. Besonders bei Daten aus dem Internet besteht dieses Risiko, da die Möglichkeit besteht, dass diese ungeprüft sind und daher problematische Inhalte enthalten können. | **Qualität (Satire, Fabrikationen, Hatespeech, Stereotypen):** Wenn Trainingsdaten von schlechter Qualität sind, kann das Bias verstärken. Dazu gehören zum Beispiel Falschinformationen, problematische Inhalte oder unsaubere Beschriftungen. Besonders bei Daten aus dem Internet besteht dieses Risiko, da die Möglichkeit besteht, dass diese ungeprüft sind und daher problematische Inhalte enthalten können. |
| **Proxy-Problem:** Bei Daten, bei denen man etwas Abstraktes wie Intelligenz, Gesundheit oder Arbeitsmoral misst, aber nicht direkt das in Zahlen erfassen kann, nutzt man oft Hilfswerte, die gar nicht das aussagen, was man eigentlich wissen will. Wenn beispielsweise die Qualität einer Arbeit nur anhand der Anzahl der geschriebenen Zeilen gemessen wird, verzerrt das das Ergebnis. | **Proxy-Problem:** Bei Daten, bei denen man etwas Abstraktes wie Intelligenz, Gesundheit oder Arbeitsmoral misst, aber nicht direkt das in Zahlen erfassen kann, nutzt man oft Hilfswerte, die gar nicht das aussagen, was man eigentlich wissen will. Wenn beispielsweise die Qualität einer Arbeit nur anhand der Anzahl der geschriebenen Zeilen gemessen wird, verzerrt das das Ergebnis. |
| |
| ===== Entwicklung ===== | === 2.2.2 Entwicklung === |
| |
| **Bias der Entwickler / Entwicklerbias:** Bias kann durch Menschen in der Entwicklung entstehen. Bei der Auswahl von Daten, Prioritäten, Perspektiven, Schwellenwerten oder Bewertungsmethoden treffen Entwicklerinnen und Entwickler viele Entscheidungen. Diese Entscheidungen sind nicht neutral und können dazu führen, dass sich bestimmte Sichtweisen oder Annahmen im KI-System widerspiegeln. | **Bias der Entwickler / Entwicklerbias:** Bias kann durch Menschen in der Entwicklung entstehen. Bei der Auswahl von Daten, Prioritäten, Perspektiven, Schwellenwerten oder Bewertungsmethoden treffen Entwicklerinnen und Entwickler viele Entscheidungen. Diese Entscheidungen sind nicht neutral und können dazu führen, dass sich bestimmte Sichtweisen oder Annahmen im KI-System widerspiegeln. |
| **Aggregation Bias:** Aggregationsbias entsteht, wenn Daten nur in der Gesamtheit betrachtet werden und wichtige Unterschiede zwischen kleinen Gruppen verloren gehen. Dann können falsche Schlüsse über Einzelpersonen oder Minderheiten gezogen werden. Ein bekanntes Beispiel dafür ist das Simpson-Paradoxon: Im Gesamtdurchschnitt sieht etwas fair aus, in den Untergruppen aber nicht. | **Aggregation Bias:** Aggregationsbias entsteht, wenn Daten nur in der Gesamtheit betrachtet werden und wichtige Unterschiede zwischen kleinen Gruppen verloren gehen. Dann können falsche Schlüsse über Einzelpersonen oder Minderheiten gezogen werden. Ein bekanntes Beispiel dafür ist das Simpson-Paradoxon: Im Gesamtdurchschnitt sieht etwas fair aus, in den Untergruppen aber nicht. |
| |
| ===== Nutzung ===== | === 2.2.3 Nutzung === |
| |
| **Interaktionsbias:** Interaktionsbias entsteht oder verstärkt sich erst im Gebrauch eines KI-Systems. Man unterscheidet zwei wesentliche Ursachen: | **Interaktionsbias:** Interaktionsbias entsteht oder verstärkt sich erst im Gebrauch eines KI-Systems. Man unterscheidet zwei wesentliche Ursachen: |
| **Deployment Bias:** Deployment Bias entsteht, wenn eine KI für einen anderen Zweck verwendet wird, als sie ursprünglich trainiert wurde. Dann stimmen Aufgabenstellung, Daten und Einsatzumfeld nicht mehr überein. Selbst ein gut entwickeltes Modell kann dadurch verzerrte oder falsche Ergebnisse liefern. | **Deployment Bias:** Deployment Bias entsteht, wenn eine KI für einen anderen Zweck verwendet wird, als sie ursprünglich trainiert wurde. Dann stimmen Aufgabenstellung, Daten und Einsatzumfeld nicht mehr überein. Selbst ein gut entwickeltes Modell kann dadurch verzerrte oder falsche Ergebnisse liefern. |
| |
| ==== Beispiele ==== | ==== 2.3 Beispiele ==== |
| |
| ===== Bilderkennung ===== | === 2.3.1 Bilderkennung === |
| |
| Bei KI-Bilderkennungsmodelle zum Beispiel die Gesichtserkennung entstehen Bias-Probleme besonders häufig durch historischen Bias, Repräsentationsbias und Evaluationsbias. Viele Bilddatensätze wurden aus öffentlich verfügbaren Internetquellen zusammengestellt und bilden die Welt nicht ausgewogen ab. Häufig sind Menschen mit heller Haut überrepräsentiert, während andere Gruppen zu wenig vorkommen. Zusätzlich können problematische Beschriftungen oder beleidigende Kategorien in Datensätzen enthalten sein. | Bei KI-Bilderkennungsmodelle zum Beispiel die Gesichtserkennung entstehen Bias-Probleme besonders häufig durch historischen Bias, Repräsentationsbias und Evaluationsbias. Viele Bilddatensätze wurden aus öffentlich verfügbaren Internetquellen zusammengestellt und bilden die Welt nicht ausgewogen ab. Häufig sind Menschen mit heller Haut überrepräsentiert, während andere Gruppen zu wenig vorkommen. Zusätzlich können problematische Beschriftungen oder beleidigende Kategorien in Datensätzen enthalten sein. |
| </WRAP> | </WRAP> |
| </WRAP> | </WRAP> |
| ===== Bildgeneration ===== | <WRAP clear></WRAP> |
| | === 2.3.2 Bildgeneration === |
| |
| <WRAP right round box 620px> | <WRAP right round box 620px> |
| <WRAP clear></WRAP> | <WRAP clear></WRAP> |
| |
| ===== Chatbot (Entwicklerbias) ===== | === 2.3.3 Chatbot (Entwicklerbias) === |
| |
| <WRAP right round box 320> | <WRAP right round box 320> |
| |
| Kritiker sehen darin den Versuch, die KI als Instrument einer persönlichen Weltsicht zu nutzen. Musk zeigt somit, wie Entwickler durch gezielte Programmierung die "Persönlichkeit" und die politischen Antworten einer KI direkt steuern können. | Kritiker sehen darin den Versuch, die KI als Instrument einer persönlichen Weltsicht zu nutzen. Musk zeigt somit, wie Entwickler durch gezielte Programmierung die "Persönlichkeit" und die politischen Antworten einer KI direkt steuern können. |
| |
| <WRAP clear></WRAP> | <WRAP clear></WRAP> |
| |
| ===== Chatbot (Interaktionsbias) ===== | === 2.3.4 Chatbot (Interaktionsbias) === |
| |
| <WRAP right round box 320px> | <WRAP right round box 320px> |
| </WRAP> | </WRAP> |
| |
| Tay, ein 2016 von Microsoft entwickelter Chatbot, sollte aus Gesprächen mit Nutzern lernen. Er wurde jedoch von Personen auf Twitter mit problematischen Inhalten beeinflusst. Dadurch übernahm der Bot verzerrte und beleidigende Aussagen und musste abgeschaltet werden. | Tay, ein 2016 von Microsoft entwickelter Chatbot, sollte aus Gesprächen mit Nutzern lernen. Er wurde jedoch von Personen auf Twitter mit problematischen Inhalten beeinflusst. Dadurch übernahm der Bot verzerrte und beleidigende Aussagen und musste abgeschaltet werden.<WRAP clear></WRAP> |
| <WRAP clear></WRAP> | ==== 2.4 Gesellschaftliche Auswirkungen ==== |
| ==== Gesellschaftliche Auswirkungen ==== | |
| |
| Bias in KI kann direkte Schäden für Menschen verursachen. Das betrifft vor allem Situationen, in denen KI über Zugang zu Chancen, Ressourcen oder Sicherheit mitentscheidet zum Beispiel bei Bewerbungen, Kreditvergabe, Medizin, Strafjustiz, Bildung oder Verwaltung. Verzerrte Systeme können bestimmte Gruppen systematisch benachteiligen und dadurch Diskriminierung verstärken oder neu erzeugen. | Bias in KI kann direkte Schäden für Menschen verursachen. Das betrifft vor allem Situationen, in denen KI über Zugang zu Chancen, Ressourcen oder Sicherheit mitentscheidet zum Beispiel bei Bewerbungen, Kreditvergabe, Medizin, Strafjustiz, Bildung oder Verwaltung. Verzerrte Systeme können bestimmte Gruppen systematisch benachteiligen und dadurch Diskriminierung verstärken oder neu erzeugen. |
| Gesellschaftlich problematisch ist ausserdem, dass Bias bestehende Machtverhältnisse stabilisieren kann. Wenn historische Vorurteile, stereotype Rollenmuster oder ungleiche Sichtbarkeit in KI reproduziert werden, entsteht der Eindruck, diese Muster seien objektiv, obwohl sie tatsächlich sozial hergestellt wurden. | Gesellschaftlich problematisch ist ausserdem, dass Bias bestehende Machtverhältnisse stabilisieren kann. Wenn historische Vorurteile, stereotype Rollenmuster oder ungleiche Sichtbarkeit in KI reproduziert werden, entsteht der Eindruck, diese Muster seien objektiv, obwohl sie tatsächlich sozial hergestellt wurden. |
| |
| ==== Massnahmen ==== | ==== 2.5 Massnahmen ==== |
| |
| Technische Gegenannahmen werden oft in drei Gruppen eingeteilt: Pre-processing, In-processing und Post-processing. Keine dieser Methoden löst das Problem vollständig, aber sie helfen, Bias zu reduzieren. | Technische Gegenmassnahmen werden oft in drei Gruppen eingeteilt: Pre-processing, In-processing und Post-processing. Keine dieser Methoden löst das Problem vollständig, aber sie helfen, Bias zu reduzieren. |
| |
| **Pre-processing:** Pre-processing verändert die Trainingsdaten vor dem Training. Das Ziel ist es, unfaire Verknüpfungen zu lösen, damit die KI später zum Beispiel keine Vorurteile gegenüber Herkunft oder Geschlecht übernimmt. Damit lassen sich besonders historischer Bias, Messungsbias und Repräsentationsbias früher erkennen und teilweise korrigieren. Beispiele sind bessere Datendokumentation, Umgewichtung, Resampling oder das Anpassen von Labels. | **Pre-processing:** Pre-processing verändert die Trainingsdaten vor dem Training. Das Ziel ist es, unfaire Verknüpfungen zu lösen, damit die KI später zum Beispiel keine Vorurteile gegenüber Herkunft oder Geschlecht übernimmt. Damit lassen sich besonders historischer Bias, Messungsbias und Repräsentationsbias früher erkennen und teilweise korrigieren. Beispiele sind bessere Datendokumentation, Umgewichtung, Resampling oder das Anpassen von Labels. |
| **Post-processing:** Post-processing greift nach dem Training ein. Es wird versucht, Bias im fertigen Modell oder in seinen Ausgaben nachträglich zu verringern, zum Beispiel durch Kalibrierung, neue Schwellenwerte oder Korrekturen der Ausgabe. Diese Methoden gilt eher als letzte Option, wenn Daten oder Trainingsprozess nicht mehr verändert werden können. | **Post-processing:** Post-processing greift nach dem Training ein. Es wird versucht, Bias im fertigen Modell oder in seinen Ausgaben nachträglich zu verringern, zum Beispiel durch Kalibrierung, neue Schwellenwerte oder Korrekturen der Ausgabe. Diese Methoden gilt eher als letzte Option, wenn Daten oder Trainingsprozess nicht mehr verändert werden können. |
| |
| ===== 3. Verwantwortung im Bezug zu KI ===== | ===== 3. Verantwortung im Bezug zu KI ===== |
| |
| **Quelle:** [[https://www.unilu.ch/fileadmin/fakultaeten/tf/institute/ise/dok/2023_1_Kirchschlaeger_KI_und_Ethik.pdf|Universität Luzern: KI und Ethik]] | **Quelle:** [[https://www.unilu.ch/fileadmin/fakultaeten/tf/institute/ise/dok/2023_1_Kirchschlaeger_KI_und_Ethik.pdf|Universität Luzern: KI und Ethik]] |
| **Begrenztes Vertrauen und Entscheidungsträger:** KI-Systeme sind nicht fehlerfrei. Chat-Antworten und autonome Systeme wie selbstfahrende Autos enthalten Risiken. Der Nutzer sollte immer die letzte Kontrollinstanz sein. KI sollte nicht als alleiniger Entscheidungsträger eingesetzt werden. | **Begrenztes Vertrauen und Entscheidungsträger:** KI-Systeme sind nicht fehlerfrei. Chat-Antworten und autonome Systeme wie selbstfahrende Autos enthalten Risiken. Der Nutzer sollte immer die letzte Kontrollinstanz sein. KI sollte nicht als alleiniger Entscheidungsträger eingesetzt werden. |
| |
| **Faktencheck und Verifizierung:** Alle von KI generierten Aussagen sollten vor der Nutzung geprüft werden. Nutzer sollten relevante Quellen vergleichen, Plausibilitätskontrollen durchführen und offensichtliche Halluzinationen oder veraltete Informationen ausschliessen. Regelmässiges kontrollieren verhindert die Verbreitung von Fehlinformationen. | **Faktencheck und Verifizierung:** Alle von KI generierten Aussagen sollten vor der Nutzung geprüft werden. Nutzer sollten relevante Quellen vergleichen, Plausibilitätskontrollen durchführen und offensichtliche Halluzinationen oder veraltete Informationen ausschliessen. Regelmässiges Kontrollieren verhindert die Verbreitung von Fehlinformationen. |
| |
| **Datenschutz und Diskretion:** Vertrauliche, personenbezogene oder betriebsinterne Daten sollten nicht in öffentliche oder nicht-vertrauliche KI-Systeme eingegeben werden. Nutzer sollten Datenschutzvorgaben einhalten, Einwilligungen klären und sensible Informationen vor der Verarbeitung anonymisieren. | **Datenschutz und Diskretion:** Vertrauliche, personenbezogene oder betriebsinterne Daten sollten nicht in öffentliche oder nicht-vertrauliche KI-Systeme eingegeben werden. Nutzer sollten Datenschutzvorgaben einhalten, Einwilligungen klären und sensible Informationen vor der Verarbeitung anonymisieren. |
| **Umweltstandards:** Der Staat sollte Umweltstandards für Entwicklung und Betrieb von KI-Systemen festlegen. Dazu gehören Vorgaben zur Energieeffizienz von Rechenzentren, Förderung nachhaltiger Hardware, Transparenzpflichten zum CO₂-Fussabdruck grosser Modelle sowie Anreize für ressourcenschonende Algorithmen. | **Umweltstandards:** Der Staat sollte Umweltstandards für Entwicklung und Betrieb von KI-Systemen festlegen. Dazu gehören Vorgaben zur Energieeffizienz von Rechenzentren, Förderung nachhaltiger Hardware, Transparenzpflichten zum CO₂-Fussabdruck grosser Modelle sowie Anreize für ressourcenschonende Algorithmen. |
| |
| **Arbeitsmarktregulierung:** Da sich wegen der KI das Arbeitsfeld sich stark ändern wird, sollte der Staat früh gegen KI-bedingte Jobverluste vorgehen. Dazu gehören Weiterbildungsförderungen, Umschulungsprogramme, soziale Absicherung bei Tätigkeitswegfall sowie die Stärkung von Berufen, die menschliche Empathie, Kreativität oder ethische Urteilsfähigkeit erfordern, wie zum Beispiel Grafikdesigner. | **Arbeitsmarktregulierung:** Da sich wegen der KI sich das Arbeitsfeld stark ändern wird, sollte der Staat früh gegen KI-bedingte Jobverluste vorgehen. Dazu gehören Weiterbildungsförderungen, Umschulungsprogramme, soziale Absicherung bei Tätigkeitswegfall sowie die Stärkung von Berufen, die menschliche Empathie, Kreativität oder ethische Urteilsfähigkeit erfordern, wie zum Beispiel Grafikdesigner. |
| |
| **Datennutzungsvorgaben:** Der Staat sollte strenge gesetzliche Vorgaben für die Datennutzung in der KI etablieren. Dies umfasst eine verpflichtende, transparente Dokumentation von Trainingsdaten sowie klare Grenzen für die Verarbeitung personenbezogener Daten durch Prinzipien wie Datensparsamkeit, Zweckbindung und Löschpflichten. Betroffene müssen ein umfassendes Informationsrecht darüber erhalten, wie ihre Daten genutzt werden, wobei unabhängige Aufsichtsbehörden die Einhaltung dieser Regeln konsequent kontrollieren. | **Datennutzungsvorgaben:** Der Staat sollte strenge gesetzliche Vorgaben für die Datennutzung in der KI etablieren. Dies umfasst eine verpflichtende, transparente Dokumentation von Trainingsdaten sowie klare Grenzen für die Verarbeitung personenbezogener Daten durch Prinzipien wie Datensparsamkeit, Zweckbindung und Löschpflichten. Betroffene müssen ein umfassendes Informationsrecht darüber erhalten, wie ihre Daten genutzt werden, wobei unabhängige Aufsichtsbehörden die Einhaltung dieser Regeln konsequent kontrollieren. |
| \\ | \\ |
| \\ | \\ |
| =====4. Quellen===== | ===== 4. Quellen ===== |
| ====Ethik==== | //Alle Quellen wurden am 22.04.2026 geprüft und wiesen keine Änderungen auf.// |
| * https://www.youtube.com/watch?v=qZS50KXjAX0%0A | ==== Ethik ==== |
| * https://www.youtube.com/watch?v=ehkECk2KJjY%0A | * https://www.youtube.com/watch?v=qZS50KXjAX0 |
| * https://www.technologyreview.com/2025/05/20/1116327/ai-energy-usage-climate-footprint-big-tech/%0A | * https://www.youtube.com/watch?v=ehkECk2KJjY |
| * https://aimultiple.com/ai-energy-consumption%0A | * https://www.technologyreview.com/2025/05/20/1116327/ai-energy-usage-climate-footprint-big-tech/ |
| * https://www.bbc.com/news/articles/cy8gy7lv448o%0A | * https://aimultiple.com/ai-energy-consumption |
| * https://www.weforum.org/stories/2024/11/circular-water-solutions-sustainable-data-centres/%0A | * https://www.bbc.com/news/articles/cy8gy7lv448o |
| * https://en.wikipedia.org/wiki/Rohingya_people%0A | * https://www.weforum.org/stories/2024/11/circular-water-solutions-sustainable-data-centres/ |
| | * https://en.wikipedia.org/wiki/Rohingya_people |
| * https://www.ibm.com/think/insights/ai-privacy | * https://www.ibm.com/think/insights/ai-privacy |
| | |
| | ==== Bias ==== |
| | * https://www.bsi.bund.de/SharedDocs/Downloads/DE/BSI/KI/Whitepaper_Bias_KI.pdf?__blob=publicationFile&v=5 |
| | * https://www.bbc.com/news/technology-35890188 |
| | * https://fh-hwz.ch/de/news/campus/kuenstliche-intelligenz-die-rolle-des-bias |
| | * https://www.bloomberg.com/graphics/2023-generative-ai-bias/?srnd=premium |
| | * https://www.edpb.europa.eu/system/files/2025-01/d1-ai-bias-evaluation_en.pdf |
| | * **Abb. 1:** https://medium.com/@Joy.Buolamwini/response-racial-and-gender-bias-in-amazon-rekognition-commercial-ai-system-for-analyzing-faces-a289222eeced |
| | * **Abb. 2:** https://algorithmwatch.org/en/apple-google-computer-vision-racist/ |
| | * **Abb. 3:** https://www.bloomberg.com/graphics/2023-generative-ai-bias/?srnd=premium |
| | * **Abb. 4:** https://www.instagram.com/p/DOJBgiajkmm/?img_index=4 |
| | * **Abb. 5:** https://www.bbc.com/news/technology-35890188 |
| | |
| | ==== Verantwortung im Bezug zu KI ==== |
| | * https://www.unilu.ch/fileadmin/fakultaeten/tf/institute/ise/dok/2023_1_Kirchschlaeger_KI_und_Ethik.pdf |
| | * **Abb. 1:** Selber gemacht |
| | |