Weihnachtsvorlesung zum Thema KI
Professor Michael Guckert klärt 150 Gäste über Chancen und Risiken der Technologie auf
Künstliche Intelligenz (KI) treibt die Wirtschaft an, erleichtert uns das Leben, kann unsere Gesundheit und sogar unser Klima schützen. Aber KI birgt auch Gefahren, ein unkontrollierter und allzu blauäugiger Umgang könnte schwerwiegende Folgen haben für unsere Freiheit und Demokratie. Um die Chancen und Risiken von KI ging es in der öffentlichen Weihnachtsvorlesung von StudiumPlus. Rund 150 Gäste aus Unternehmen, Institutionen, Hochschule und Schulen haben in der Stadthalle Wetzlar den Vortrag von Prof. Dr. Michael Guckert verfolgt, Mitglied des StudiumPlus-Direktoriums und des Vorstands von hessian.ai, dem Hessischen Zentrum für Künstliche Intelligenz.
Ob der Sprachassistent im Handy, die Verkehrszeichenerkennung im Auto oder die Kaufvorschläge durch Amazon und Co. – künstliche Intelligenz ist längst Teil unseres Alltags. Doch erst der Start des Chatbots ChatGPT vor einem Jahr hat der Technologie zum echten Durchbruch verholfen und eine Art Bewusstsein für KI und deren Möglichkeiten geschaffen. Guckert, Professor für Praktische Informatik und Wirtschaftsinformatik an der Technischen Hochschule Mittelhessen (THM) sowie Studiengangsleiter für Softwaretechnologie bei StudiumPlus, spannte den Bogen von der KI-Historie bis zu möglichen Zukunftsszenarien, informierte über Funktionen, Möglichkeiten und Grenzen, über die Gefahren von Deepfakes und Regelwerke wie den AI Act der Europäischen Union.
qualität der Datenbasis entscheidend
Die Idee, sich durch ein künstliches Wesen oder eine Maschine selbst zu übertreffen, beschäftige die Menschen schon seit der Antike, berichtete Guckert. Der Begriff künstliche Intelligenz wurde 1956 geprägt. Mussten erste, stark regelhafte KI-Systeme noch aufwändig mit tausenden Daten trainiert werden, so wurden diese inzwischen abgelöst von generativen Systemen der zweiten KI-Welle, zu der auch ChatGPT zählt. Die dritte KI-Welle sei noch weitgehend Zukunftsmusik, sie werde die Symbiose zwischen Mensch und Maschine weiterentwickeln und Systeme hervorbringen, die erklären, abstrahieren und schlussfolgern können. Guckert: „Wir werden neue Assistenzsysteme sehen, mit denen wir interagieren, reden, denen wir Fragen stellen. Das wird selbstverständlich für uns werden.“
Die Zuverlässigkeit aller KI-Generationen und -Systeme hänge von der Qualität ihrer Daten ab, machte der Experte deutlich. Es bestehe die Gefahr von Fehlern mit zum Teil unabsehbaren Folgen. So könne KI z.B. ganze Bevölkerungsgruppen durch in Daten angelegte Vorurteile diskriminieren. Den sogenannten Bias-Effekt machte Guckert an einem System für Rückfallprognosen bei Straftätern deutlich. KI per se sei weder gut noch böse, sagte Guckert: „KI kann aber nicht fair sein, wenn die Daten nicht fair sind. Die KI sucht lediglich nach Korrelationen.“ Er riet zu einem bewussten Umgang, dazu brauche es Aufklärung und Regeln. So solle etwa ChatGPT als Textgenerator eingesetzt werden, aber nicht als Nachschlagewerk.
„Helle und der dunklen Seite der Macht“
Die Gefahren der Manipulation und Überwachung von Menschen durch missbräuchlichen KI-Einsatz beschäftigen den europäischen Gesetzgeber. Zur Regulierung des KI-Einsatzes seien im AI Act der Europäischen Union sensible Bereiche wie etwa das Social Scoring und medizinische Anwendungen definiert worden, in denen KI nicht eingesetzt werden darf, so Guckert. Er sprach von „der hellen und der dunklen Seite der Macht“. Von steigender Produktivität, neuen Geschäftsmodellen und Ressourcenschonung, aber auch von neuen Monopolen, Abhängigkeiten, Deepfakes und dem „Aufweichen von Wahrheiten“. Es brauche die Kontrolle durch die Wissenschaft und die Medien, damit man KI-Systemen auch in Zukunft vertrauen könne, mahnte der Experte.
Im Anschluss an die Weihnachtsvorlesung tauschten sich die Gäste beim vorweihnachtlichen Get-together im Foyer aus. Zur öffentlichen Weihnachtsvorlesung lädt StudiumPlus alljährlich in der Adventszeit ein, das nächste Mal am 5. Dezember 2024 in der Stadthalle Wetzlar.
