Eine Frauenquote für die KI-Forschung

Künstliche Intelligenz ist im Prinzip nichts Neues. Es gibt viele KI-Systeme, etwa in der Medizin, um bessere Diagnosen erzielen zu können, oder Digital Farming, um die Landwirtschaft effizienter zu gestalten. KI-Systeme wurden bereits 1945 definiert. Die Fortschritte heutzutage sind jedoch so enorm, die Rechenleistung so unfassbar groß, und die Geräte so gut entwickelt, dass wir eine neue Dimension erreicht haben. Bei ChatGPT handelt es sich − anders als die anderen genannten Beispiele − um generative KI-Tools. Dabei gibt es fast keinen Unterschied mehr zwischen vom Menschen und von der Maschine generierten Inhalten. Diese Dialogfähigkeit der KI zeichnet sich als Meilenstein in der Entwicklung aus, nicht nur Text-basiert, sondern auch bereits in Videos und Audios. KI ist zweifelsohne als Akteurin in unserer Gesellschaft angekommen.

Wir Frauen müssen jetzt etwas tun, damit KIs frauengerecht gestaltet werden. Die Daten, auf die die KIs wie ChatGPT zugreifen, sind völlig unstrukturiert und nicht sehr vielfältig. Und hier liegt auch das große Problem: Es kommt zu Verzerrungen. Wir sprechen dabei vom Weird Sample, sprich westliche, gebildete, industrialisierte, reiche und demokratische Gesellschaften werden abgebildet. Der Bias zeigt sich in einem Gender-Bias. Wenn man ChatGPT etwa bittet, ein Bild von einem CEO zu generieren, ist die Wahrscheinlichkeit hoch, dass ein westlicher Mann im Anzug gezeigt wird und nicht eine Frau. Dass KI auch nicht repräsentativ ist, zeigt sich im Racial Bias. Da die KI aus historischen, also vergangenen Daten lernt, ist sie kein Abbild unserer gesamten Gesellschaft und verstärkt sehr stark Stereotype. KI-Tools wie ChatGPT werden mit unstrukturierten Daten gefüttert und trainiert, was im Output zu Bias und Verzerrungen führt.

Wenn der Datensatz, der zum Trainieren der KI verwendet wird, mehr Beispiele von Ärzten, die häufig als männlich dargestellt werden, enthält, die Krankenschwestern, die häufig als weiblich dargestellt werden, anschreien, könnte das Modell lernen, dass solche Interaktionen häufig oder akzeptabel sind. KI-Systeme, die auf solchen Daten trainiert werden, können unbewusst geschlechtsbezogene oder berufliche Stereotypen verstärken.

Die Datensätze müssten vielfältiger aufbereitet werden. Wir müssen in Europa Werte für die KI definieren, wie etwa Gerechtigkeit und Gleichberechtigung. Das betrifft im Grund nicht nur Frauen, sondern die Diversität der Gesellschaft allgemein. Es gab etwa das Problem, dass Desinfektionsgeräte nur weiße Hände erkannt haben, keine schwarzen. Wir müssen eine KI erstellen, die besser ist und die die Diversität fördert.

Das beginnt in den Entwicklungsteams, die müssen diverser sein und bestimmte Werte in der KI verankern. Zudem sollte überlegt werden, wie Trainingsdaten überprüft und verbessert werden können, um Verzerrungen zu minimieren. Es ist wichtig, Mechanismen einzuführen und KI-Modelle regelmäßig auf Fairness und Verzerrung zu testen.

ChatGPT aus den USA, Microsoft mit CoPilot. Google hat mit Gemini die meisten Daten, die derzeit noch kostenfrei sind, allerdings kostenpflichtig werden könnten, von Apple weiß man noch nicht so genau, was geplant ist, und Amazon hat natürlich auch sehr viele Daten.

Es gibt schon Opensource-KIs, bei denen der Code und die Methoden öffentlich zugänglich sind, was zur Transparenz und zur breiten Beteiligung an der Entwicklung beiträgt. Dies könnte auch einen Beitrag leisten, dass KI-Technologien gerechter und zugänglicher gestaltet werden. Aber ja, die meisten entstehen in privaten Unternehmen, die ihre eigene KI entwickeln und betreiben. Diese Unternehmen haben meist starke Ressourcen, um große Datensätze zu sammeln, wie etwa Google, und die komplexen Algorithmen zu entwickeln.

Möglichkeiten wären Frauenquoten und verpflichtende Diversitätsberichte. Frauenquoten wären ein nützliches Instrument, kurz- bis mittelfristige Veränderungen zu fördern. Solch eine Quote sollte jedoch Teil einer umfassenderen Strategie sein, die darauf abzielt, strukturelle Ungleichheiten in der technischen Bildung und Karriereentwicklung anzugehen. Zudem der Ausbau von Schulungs- und Weiterbildungsmöglichkeiten, damit mehr Frauen sich für die sogenannten MINT-Fächer und infolgedessen für MINT-Berufe interessieren. Da fängt es schon in der Schule an. Es gibt viel zu wenige Angebote, um Frauen für die technische Sparte zu begeistern beziehungsweise diese umzuschulen. Auch Netzwerke wie Women in AI können Rolemodels vor den Vorhang holen und so Frauen motivieren, sich mehr damit auseinanderzusetzen. Ansonsten benötigt es praktische und laufende Überprüfung von KI-Modellen und die Testung in Forschungsprojekten.

Ein Ansatz könnte sein, dass Unternehmen, um glaubwürdig in Zeiten von KI/Digitalisierung sein zu können, einen Code of Conduct, also eine Guideline für den Einsatz von KI definieren, damit intern, aber auch extern klar ist, wie sie damit umgehen, welche Folgen es hat und wie sie den menschzentrierten Ansatz umsetzen.

Der EU-AI-Act ist der erste Vorschlag, Künstliche Intelligenz zu regulieren und so globale Standards zu setzen. Und Europa ist gerade dabei, sich darauf zu einigen. Dieses Regelwerk kategorisiert KI-Systeme basierend auf ihrem Risiko für die Gesellschaft, von geringem Risiko bis hin zu inakzeptablen Risiken. Ein Hauptaugenmerk liegt auf der Gewährleistung der Sicherheit und der Grundrechte der Menschen. Ein zentraler Punkt des Gesetzes ist das Konzept der menschlichen Aufsicht − also wir Menschen sind immer im Loop. Ziel ist es, Technologien zu fördern, die transparent, nachvollziehbar und verantwortungsvoll sind.

Wie er in der Praxis integriert wird, und wie weitreichend dies sein wird, kann man zum jetzigen Zeitpunkt noch nicht sehen, aber er liefert einen wichtigen Beitrag zur Transparenz. Der EU-AI-Act klassifiziert KI-Systeme nach Risikostufen und legt für jede Kategorie spezifische Anforderungen fest. Dieser Ansatz soll sicherstellen, dass strengere Regelungen für Anwendungen gelten, die potenziell höhere Risiken bergen, wie etwa biometrische Überwachung oder KI in der Strafjustiz. Die Implementierung der Werte wird noch auf der Ebene der Unternehmen und Entwicklung wichtig sein. Aber es ist der erste Schritt in die richtige Richtung.

Es gibt viele Forschungsprojekte. Jede Uni/FH macht etwas zu KI, aber auch Forschungsinstitute. Gefördert werden die Projekte zum Beispiel von der Österreichischen Forschungsförderungsgesellschaft oder es gibt viel Geld von der EU für Initiativen. Bei uns wird derzeit an einer ethisch fairen KI geforscht.

Prinzipiell kommen immer Berichte heraus, die sich Unternehmen durchlesen und die Erkenntnisse umsetzen können. Die Berichte und Ergebnisse werden öffentlich gemacht. Das Wichtigste ist aber, dass im Entwicklungs- und Anwendungskontext geforscht wird. Daraus werden lehrreiche und geschlossene Use Cases entstehen. Es ist notwendig, dass wir Use Cases entwickeln, um zu wissen, wie die Implementierung von EU-konformen AIs aussehen kann, um Empfehlungssysteme zu entwickeln.

Ja, um sicherzustellen, dass die Entwicklungen den ethischen Standards entsprechen. Die Technologie-Treiber sollte man auch fragen, wie viele Daten wirklich notwendig bei der Entwicklung sind, Stichwort Datensparsamkeit. Brauche ich wirklich zwingend Daten über Geschlecht oder Alter für mein Ergebnis? KI-Systeme sollten transparent und ihre Entscheidungsprozesse nachvollziehbar sein, um Vertrauen bei den Nutzern zu schaffen und eine verantwortungsvolle Nutzung zu gewährleisten. Dies ist besonders wichtig in kritischen Bereichen wie der Medizin oder der Rechtsprechung, wo Entscheidungen erhebliche Auswirkungen haben können. Denn mit der zunehmenden Leistungsfähigkeit steigt auch das missbräuchliche Anwenden von KI-Systemen - daher muss man sensibilisiert sein und dem entgegenwirken.