Frauen sind bei KI-Nutzung oft zurückhaltender. Mit guten Gründen. Worauf es bei KI-Kompetenz ankommt, hat Barbara Wimmer zusammengetragen.
Künstliche Intelligenz (KI) ist längst im Alltag angekommen. So verwendet etwa eine Foto-App am Smartphone in der Regel KI. Algorithmen bestimmen, welche Postings wir auf Social Media zu sehen bekommen. Generative KI-Chatbots wie ChatGPT beantworten Fragen, schreiben Texte, helfen beim Formulieren, erstellen Bilder und begleiteten immer mehr Menschen täglich. Die Skepsis vieler Menschen gegenüber der Technologie ist dennoch groß.
Und sie ist durchaus berechtigt. KI-Systeme steigern den weltweiten Energiebedarf überdurchschnittlich. Ein Großteil der Technologie stammt aus den USA von Riesenkonzernen wie OpenAI und Anthropic, die sich ohne Rücksicht auf Verluste einen harten Wettstreit liefern. Dadurch werden ethische Risiken wie Datenschutz und Voreingenommenheit in den Daten oft bewusst in Kauf genommen, um schneller am Markt zu sein als die Konkurrenz. „KI-Chatbots sind Märchenmaschinen“, gibt Medienpädagogin Barbara Buchegger im an.schläge-Gespräch zu bedenken. Sie seien darauf ausgelegt, Antworten so zu formulieren, „dass es uns Menschen gefällt und wir es auch glauben wollen“.
Eine flüssig formulierte Antwort auf eine Frage ist aber bekanntlich nicht immer richtig. KI kann Fakten erfinden (das nennt man „halluzinieren“), Quellen falsch wiedergeben, hat oft nicht die aktuellsten Informationen, oder kann Informationen miteinander vermischen. Deshalb gilt: Je wichtiger eine Information für einen ist, desto sorgfältiger sollte sie überprüft werden. Sie sollte immer zugleich auf Wahrheit und Aktualität geprüft werden. Denn selbst wenn eine Information einmal richtig war, kann sich das Zeit zum Zeitpunkt der Abfrage schon wieder verändert haben.
KI ist keine Suchmaschine
Mittlerweile sind sich sehr viele Expert*innen jedoch einig, dass generative KI nicht mehr verschwinden wird, sondern ihr Einsatz früher oder später zu den digitalen Kernkompetenzen gehören wird. Spätestens seit KI-Ergebnisse in die Suchmaschine von Google integriert wurden, kommen noch mehr Menschen als zuvor damit in Berührung. Buchegger beobachtet jedoch insbesondere bei Frauen der mittleren und älteren Generationen derzeit noch eine größere Zurückhaltung gegenüber KI. Sie plädiert ausdrücklich dafür, KI-Systeme spielerisch auszuprobieren, dabei keine Angst vor Fehlern zu haben und eigene Anwendungsfälle zu entdecken. „Ganz viele haben noch gar keinen Anlass gesehen, warum sie sich damit beschäftigen sollen oder welchen Mehrwert das überhaupt haben kann“, sagt die Medienpädagogin.
Dabei ist die klassische Suche mit KI eigentlich kein besonders guter Anwendungszweck. Viele Menschen verwenden ChatGPT inzwischen genauso wie Google. Genau hier sieht Buchegger aber eine der größten Gefahren, weil Chatbots darauf ausgelegt seien, möglichst überzeugend zu antworten – unabhängig vom Wahrheitsgehalt.
Verschiedene Quellen befragen
Mittlerweile gibt es jedoch ein Gerichtsurteil aus München, das besagt, dass Google als Betreiber von KI-Systemen direkt dafür haften soll, wenn Falschbehauptungen in den KI-Suchergebnissen aufgestellt werden. Bei wiederkehrenden Falschbehauptungen würden dann auch hohe Geldstrafen drohen.
Buchegger empfiehlt, Informationen nicht nur in einem einzigen KI-Chatbot (wie ChatGPT) nachzuschlagen. Sie selbst recherchiert mit mehreren Tools und kombiniert klassische Suchmaschinen mit verschiedenen Chatbots wie ChatGPT, Mistral, Claude oder Lumo. Das liefere unterschiedliche Quellen und Perspektiven. Mistral und Lumo sind europäische Alternativen von KI-Chatbots zu den großen US-Tech-Konzernen. Mit Duck.AI gibt es zudem eine KI-Suche, bei der die Suchergebnisse nicht personalisiert sind.
Für manche Aufgaben hält die Medienpädagogin generative Chatbots dagegen für ausgesprochen nützlich. Besonders gut funktionieren sie, wenn es darum geht, Texte zu strukturieren, Ideen zu sammeln oder sich einen Überblick über ein Thema zu verschaffen.
Weniger geeignet sei sie hingegen für Themen, bei denen absolute Genauigkeit gefragt ist: Etwa bei medizinischen Diagnosen, Gesetzesänderungen oder juristischen Fragen. „Ich brauche wirklich viel Fachwissen, um KI bei Fachfragen richtig zu nutzen“, sagt Buchegger. Nur wer sich in einem Thema bereits auskenne, könne beurteilen, ob eine Antwort plausibel sei.
KI lernt unsere Vorurteile
Ein weit verbreiteter Irrtum sei die Annahme, dass KI objektiv arbeite. Tatsächlich spiegle sie die Gesellschaft wider, aus deren Daten sie gelernt hat. „Alle Diskriminierungen, die wir auch sonst erleben, sind auch hier wunderbar zu finden“, sagt Buchegger. Besonders sichtbar werde das etwa bei der Bildgenerierung. Wer eine Führungskraft darstellen lasse, bekomme häufig einen Mann präsentiert. Eine Lehrkraft erscheine dagegen oft als Frau. Rollenbilder, die Frauen seit Jahrzehnten begleiten, setzen sich auch in der digitalen Welt fort. Hier kann man selbst gezielt gegensteuern, indem man seine Prompts möglichst genau formuliert. Wenn man etwa Bilder von weiblichen Führungskräften erhalten möchte, muss man das dem System vorgeben.
Erstaunlich gut seien jedoch viele der Antworten, bei denen es um psychologische Ratschläge und Hilfestellungen im Alltag gehe, so die Expertin. Sie habe beobachtet, dass sich vor allem jüngere Frauen häufiger Ratschläge von Chatbots holen würden. Diese würden meistens äußerst adäquat sein, so die Expertin.
Gefährlich werde es aber, wenn junge Mädchen mit ChatGPT wie mit einer Freundin plaudern. Denn KI-Chatbots seien keinesfalls vertrauliche Gesprächspartnerinnen. Wer persönliche Informationen eingibt, verliere die Kontrolle darüber. Die Daten können etwa für Trainingszwecke verwendet werden, oder im Hintergrund mit dem persönlichen Profil verknüpft bleiben. „Ich verliere dabei die Hoheit über meine Daten“, warnt Buchegger. Gerade weil KI oft so verständnisvoll und empathisch wirkt, vergessen manche Nutzer*innen, dass sie mit einem technischen System sprechen und nicht mit einem Menschen.
Studien zeigen, dass KI-Chatbots außerdem häufig queere Vorurteile verstärken, veraltete Geschlechterstereotype bedienen oder sogar potenziell schädliche Antworten geben, wenn es um intime Fragen zur eigenen Geschlechtsidentität geht. Dabei könnten KI-Chatbots queeren Menschen generell dabei helfen, indem sie einen sicheren Raum zum Üben von Coming-out-Gesprächen bieten.
Technik selbstbewusst nutzen
Fluch und Segen zugleich ist es auch, dass sich KI-Chatbots derzeit noch stark im Wandel befinden. Ergo: Tipps, die wir heute geben, könnten schon morgen überholt sein, weil sich die technischen Systeme rasant weiterentwickeln.
Digitale Kompetenz bedeute heutzutage weit mehr, als einen guten Prompt schreiben zu können. Sie bedeutet, Vorurteile zu erkennen, Informationen kritisch zu hinterfragen, die eigenen Daten zu schützen und sich nicht von einem Chatbot blenden zu lassen.