Zur Zukunft der Humanistischen Union: Bürgerrechte und Künstliche Intelligenz
Die Mitgliederversammlung der Humanistischen Union 2023 (vgl. hierzu den Bericht in den Mitteilungen Nr. 250) hat gezeigt, dass das strukturelle Finanzdefizit und ein kontinuierlicher Rückgang der Mitgliederzahlen ein manifestes Problem des Vereins sind. Klar wurde auch, dass hier der (eigentlich personell zu kleine) Bundesvorstand gefragt ist, mit einem (teilweise) neuen Modus Operandi entsprechende Maßnahmen zur Stabilisierung und Zukunftsfähigkeit der ältesten deutschen Bürgerrechtsorganisation zu liefern. Diese Maßnahmen sind sowohl inhaltlicher als auch organisatorischer Art und sollen in den kommenden zwei bis drei Jahren realisiert werden.
Beispielsweise hat die Bundesgeschäftsführung in diesem Jahr den Podcast Bürgerrechte aktuell entwickelt (vgl. hierzu den entsprechenden Artikel in dieser Ausgabe), um die Kernthemen unserer Bürgerrechtsarbeit kurz und allgemeinverständlich zu vermitteln und so eventuell auch neue Mitglieder oder Spenden zu gewinnen. Zudem betreut die Bundesgeschäftsführung nun neben einem Twitter-Konto auch ein Mastodon- und ein Bluesky-Konto, um unsere Reichweite in sozialen Netzwerken zu erweitern.
Bevor wir unsere konkreten Überlegungen, die wir, die Mitglieder des Bundesvorstands, in den vergangenen Monaten zusammen mit der Bundesgeschäftsführung angestellt haben, dazu präsentieren, wie wir darüber hinaus die HU zukunftsfähig machen wollen, möchten wir auch auf das Angebot des neuen Arbeitskreises Quo vadis, HU? hinweisen, in welchem Mitglieder mit ihren Anliegen und Ideen zur Konsolidierung der HU werden mitwirken können (vgl. hierzu den Aufruf in diesem Heft).
Inhaltliche Ausrichtung
Als Themenschwerpunkt hat der Bundesvorstand das Thema Bürgerrechte und Künstliche Intelligenz gewählt. Das hat mehrere zusammenhängende Gründe: Erstens ist das Thema von hoher aktueller gesamtgesellschaftlicher Relevanz, da verschiedenste Menschen- und Bürgerrechte von den neuen und noch kommenden Entwicklungen der KI betroffen sind und der bürgerrechtlich verträglichen Regelung oder Anpassung bedürfen. Kaum ein Lebensbereich bleibt unbetroffen, und die Fortentwicklung der KI lässt sich nicht aufhalten, sodass unsere Frage nach der bürgerrechtlichen Verträglichkeit eine der Fragen der Stunde ist. Die rasante Entwicklung von KI bietet so zwar technische Innovationen, bringt aber gleichzeitig ethische und bürgerrechtliche Bedenken mit sich. Zweitens bietet dies die Möglichkeit, sich nicht nur auf einzelne grundrechtliche Aspekte der KI zu beschränken, wie dies spezialisiertere Organisationen tun würden, sondern interdisziplinär zu denken und so in HU-Tradition eine breite Vielfalt an bürgerrechtlichen Themen abzubilden, zu bündeln und mit der entsprechenden Expertise aus dem Verein – vornehmlich Bundesvorstand und Beirat – in Bezug auf KI zu bestücken. Drittens ist die Beziehung von Bürgerrechten und KI eine dialektische und komplexe Thematik. KI kann – unter bestimmten politischen, sozialen und juristischen Umständen – grundrechtskonform und den Menschen nützlich sein. Unter anderen Umständen ist sie schädlich. Hier kann die HU versuchen, mit ausgewogenen technikneutralen Urteilen den öffentlichen Diskurs mit einer differenzierten Kritik zu bereichern und so womöglich auch die öffentliche Sichtbarkeit des Vereins zu erhöhen.
Neben diesem Themenschwerpunkt werden die anderen klassischen Themen (wie die Trennung von Staat und Kirche) weiterhin bearbeitet – wenn auch nicht vom Bundesvorstand in der gleichen Intensität.
Zu den bürgerrechtlichen Implikationen der KI haben wir 13 Thesen entwickelt:
(1) Künstliche Intelligenz wird sich aus technischer Sicht auf absehbare Zeit als „schwache“ KI entwickeln und ist damit „nur“ eine neue Methode der Informatik, die allerdings wesentlich leistungsfähiger ist als die zuvor genutzten, rein algorithmisch programmierten Systeme. „Starke“ KI ist derzeit Science-Fiction.
(2) Künstliche Intelligenz wird im Verbund mit weiteren Technologien zu einer (weiteren) Machtkonzentration führen. Bereits seit einiger Zeit beobachten wir eine Entwicklung hin zu einem Überwachungskapitalismus und einer Monopolbildung mit damit verbundenen Abhängigkeiten durch technische Entwicklungen wie Plattformen, Cloud-Technologie und Big Data, die durch KI weiter beschleunigt wird.
(3) Künstliche Intelligenz macht es möglich, (personenbezogene) Daten umfassend auszuwerten und durch die Auswertung von Mustern in den Daten weitgehende Erkenntnisse zu gewinnen. Damit fördert sie die Möglichkeit behördlicher Überwachung und einen Überwachungsstaat. Staatliche Überwachung ist das Spiegelbild zur Überwachung durch Technologiekonzerne (Überwachungskapitalismus).
Weltweit ist zu beobachten, wie verschiedene Regierungen KI-gestützte Überwachungstechnologien nutzen, um ihre Macht auszubauen und die Kontrolle über die Bevölkerung zu verstärken. Der AI-Act der Europäischen Union konzentriert sich hauptsächlich auf die Regulierung der zivilen Nutzung von KI und legt Standards für Transparenz, Sicherheit und die Vermeidung von Diskriminierung fest. Zudem ist darin aber der staatliche Gebrauch biometrischer Massenüberwachung zur Strafverfolgung vorgesehen, was die Privatsphäre und Versammlungsfreiheit beeinflusst.
Die Zuverlässigkeit von Technologien wie der Gesichtserkennung und deren Anfälligkeit für Fehlinterpretationen stellen aber ein signifikantes Risiko dar. Fehlinterpretationen durch Algorithmen können zu ungerechtfertigten Beschuldigungen führen, während die massive Datensammlung die Privatsphäre untergräbt und das Risiko von Datenlecks und Missbrauch erhöht.
(4) Künstliche Intelligenz erhöht in Verbindung mit dem Strukturwandel der Öffentlichkeit in Sozialen Medien die Möglichkeiten politischer Beeinflussung:
- Zusammen mit Big Data lassen sich weitgehende Erkenntnisse über Menschen gewinnen, die zur Beeinflussung (Microtargeting) genutzt werden können. Durch diese detaillierten Kenntnisse können politische Botschaften auf einzelne Personen maßgeschneidert werden.
- Soziale Medien begünstigen die Verbreitung von Falschinformationen, mit denen politischer Einfluss ausgeübt wird. Durch KI-generierte Deepfakes wird dies verstärkt, wenn solche Falschinformationen durch (gefälschte) Bilder verstärkt werden.
(5) Damit verwandt ist der Einsatz Künstlicher Intelligenz für die Generierung von Betrug und Spam. Auch dies fördert einen Vertrauensverlust in die Medien und gefährdet damit den öffentlichen Diskurs.
(6) Ergebnisse Künstlicher Intelligenz können aufgrund der Komplexität der zugrundeliegenden Daten kaum nachvoll-zogen werden und führen zu intransparenten (politischen) Entscheidungen. Werden solche Entscheidungen auf KI abgestützt, müssen sie erklärt werden; durch Verfahren der erklärbaren KI (Explainable AI, XAI) müssen dafür technisch die Voraussetzungen geschaffen werden. Dies wird verschärft, wenn KI-Systeme in sensiblen gesellschaftlichen Bereichen eingesetzt werden (zum Beispiel bei Strafverfolgung, Kreditvergabe, öffentlicher Wohlfahrt, sozialer Kontrolle etc.). Damit verbunden ist beispielsweise der Einsatz von KI zu Predictive Policing.
(7) Künstliche Intelligenz ist für „gute“ Ergebnisse auf eine hohe Datenqualität angewiesen. Empfehlungen und Entscheidungen basieren in der Regel auf Daten der Vergangenheit und schreiben diese fort. In die Daten sind soziale Gegebenheiten der Vergangenheit eingeschrieben und führen unter Umständen zu einem Bias, der behoben werden muss.
(8) Künstliche Intelligenz wird durch das Militär in mehreren Bereichen genutzt:
- Autonome Waffensysteme, die sich selbst ihre Ziele suchen und in letzter Konsequenz über Leben und Tod „entscheiden“. Neben klassischen Waffensystemen, die autonom agieren, werden inzwischen sich selbst koordinierende Systeme („Drohnenschwärme“) entwickelt, bei denen sich viele Kleinstwaffen gemeinsam koordinieren und ihre Ziele suchen.
- Damit verbunden ist die Erkennung von gegnerischen Angriffen durch Auswertung von Mustern, einschließlich der Freund-Feind-Erkennung.
- Künstliche Intelligenz kann auch für die Erhöhung der Effizienz des Tötens durch automatisierte Operationsplanung und Zielfestlegung eingesetzt werden, indem geeignete Angriffsziele automatisiert ermittelt werden.
(9) Künstliche Intelligenz wird zu einer (weiteren) Umstrukturierung des Arbeitsmarkts und der Umgestaltung der Arbeit – mit dem Ziel der Steigerung der Produktivität – führen. Gegenüber früherer Automatisierung sind davon zunehmend auch geistige Tätigkeiten betroffen. Einerseits kann dies Arbeit attraktiver machen, indem eintönige, repetitive Aufgaben wegfallen. Andererseits kann es zum Wegfall, mindestens aber zu einer massiven Umgestaltung von Arbeitsplätzen führen und damit zu Überforderung und Jobverlust. Produktivitätssteigerungen kommen erfahrungsgemäß nicht den Arbeitenden, sondern den Anteilseignerinnen und -eignern zu Gute. In diesem Kontext muss geistige Arbeit der Zukunft gestaltet werden. Zusätzlich ergeben sich Überwachungspotenziale auch in der Arbeitswelt, beispielsweise beim Einsatz von People Analytics in der Personalauswahl und -beurteilung.
(10) Künstliche Intelligenz wird sich auf die Bildung auswirken – sowohl primär, da es entsprechender Qualifikationen bedarf, die neuen Techniken zu verstehen und zu nutzen, als auch sekundär, wenn sich Bildungsinhalte und die Form der Vermittlung und Leistungskontrolle verändern.
Lernprozesse sind allein durch KI und ohne menschliche analoge Kommunikation nicht dauerhaft möglich. Das bedeutet nicht, dass der Einsatz technischer Medien Lernen verunmöglicht. Aber eingeschränkte Austauschprozesse bedeuten in der Konsequenz eingeschränkte Lernmöglichkeiten. Isolierte Menschen wissen weniger. So kann KI in der Verwaltung an Schulen (und andernorts) sinnvoll verwendet werden, etwa um automatisierte Stundenpläne zu generieren und als Lernhilfe hilfreich sein, solange es nur eine Ergänzung zum dialogischen Lernen von Mensch zu Mensch ist.
Deutschland ist internationaler Kritik dahingehend ausgesetzt, dass es in diesem reichen Land enorme Differenzen zwischen Armut und Reichtum gibt. Gleichzeitig erfolgt seit drei Jahrzehnten ein Rückzug des Staates aus seinen Aufgaben. Die öffentliche Daseinsfürsorge wird marginalisiert. Deutlich erkennbar wird dieser Prozess unter anderem an der Verwahrlosung öffentlicher Einrichtungen wie Schulen und Krankenhäuser. Mit der Verwahrlosung gesellschaftlich relevanter Infrastruktur wird der Ruf nach ökonomischer Effizienz laut. Personaleinsparungen könnten erfolgen, indem die pädagogische Arbeit von der Betreuungsarbeit zu trennen sei. Letztere müsse nicht von akademisch qualifiziertem Personal vorgenommen werden, könne also auch entsprechend geringer bezahlt werden. Mit der gleichen Argumentation wird bereits der Einsatz elektronischer Lernprogramme diskutiert – auch unter Einsatz von KI: In deutlich größeren Lerngruppen könnten Schülerinnen und Schüler mit weniger Lehrkräften mittels des Einsatzes von elektronischen Lernprogrammen „selbstorganisiert“ lernen. Lehrkräfte übernähmen in diesem Szenario die Funktion von Moderierenden. Exklusive und teure Privatschulen werben dagegen mit Klassengrößen von maximal zwölf Schülerinnen und Schülern. Es steht zu befürchten, dass die Schulen der Zukunft ihre Dienstleistungen auf einem Markt anbieten: Wer es sich leisten kann, kauft für seine Kinder in dialogischen Prozessen erworbenes Wissen. Den verbleibenden 99 Prozent bleiben die elektronischen Lernprogramme der öffentlichen Schulen. In diesem Szenario wäre das Menschenrecht auf Bildung ausgehebelt.
Hinzu kommt noch die strittige Frage, ob KI-Anwendungen mit einem großen Datenpool dazu verwendet werden sollen, damit Lehrkräfte fächerübergreifende Auffälligkeiten von Schülerinnen und Schülern früh erkennen, um dann pädagogisch umsichtig reagieren zu können. Dies bietet das Potenzial einer besseren Betreuung, auch bei Problemen, die ansonsten nicht oder nicht ausreichend Beachtung finden. Gleichzeitig bedeute das eine problematische digitale Überwachung des Schülerverhaltens und der Leistungen. Zuletzt besteht auch die Gefahr der Kommerzialisierung der Bildung durch IT-Firmen, die ihre KI-Anwendungen und –Netzwerke an die Schulen bringen.
(11) Die heutigen Systeme der Künstlichen Intelligenz basieren auf einer umfassenden Datenbasis („Big Data“). Diese Daten fließen in die Modelle ein und werden damit zur Erzeugung der Ergebnisse der KI genutzt – häufig unentgeltlich. Die Betreiber eignen sich so die geistigen Leistungen anderer an und kommerzialisieren sie im eigenen Interesse.
(12) Die Verarbeitung der Daten für Künstliche Intelligenz findet in großen Rechenzentren statt, die einen erheblichen Energieverbrauch aufweisen. Angesichts der (exponentiell) wachsenden Zahl und Größe der KI-Systeme wird auch der Energieverbrauch entsprechend wachsen. und damit die KI auch einen signifikanten Beitrag zum Klimawandel leisten.
(13) Übergreifend ist die Frage, inwiefern technologische durch KI relevant für demokratische Prozesse sind? Wird an der Schnittstelle von Technologie und Gesellschaft die Technik der alleinige „Akteur“? Es muss unter demokratischen Gesichtspunkten untersucht werden, wie eine Verbindung aus durch Technologie beförderten Handlungsmöglichkeiten, ökonomischen Anreizen, politischen Regulierungen und gesellschaftlichen Nutzungspraktiken Veränderungsimpulse auf politischer Ebene erzeugt. Auch unter diesem Aspekt sind Veränderungen bei der Struktur und Dynamik demokratischer Öffentlichkeit und demokratischen Regierens bedeutsam, die durch generative KI erzeugt werden. Und es ist zu prüfen, inwiefern KI mittel- oder langfristig die demokratische Teilhabe für die Bürgerschaft verändert.
Konkret will der Bundesvorstand somit folgende Themen erfassen:
- KI und Bildung
- KI und Medien
- KI und Strafverfolgung
- KI und innere Sicherheit/Überwachung
- KI und Datenschutz
- KI und Arbeit
- KI und Urheberrecht
- KI und Militär
- KI und politische Kommunikation
- KI und Medizin(-ethik), Gesundheits-daten
- Diskriminierung durch Bias in den Daten der KI versus Gleichbehandlung
- KI und demokratische Kontrolle
Organisatorische Ausrichtung
Dieser interdisziplinäre Themenschwer-punkt lässt sich nicht ohne Weiteres realisieren. Im Rahmen unserer bisherigen Formate sind dazu vorgänge-Artikel (vgl. auch das vorgänge-Heft Nr. 242 zum Thema Künstliche Intelligenz und Menschenrechte), Podcastfolgen und digitale Veranstaltungsformate kostengünstig möglich. Doch um darüber hinaus an Sichtbarkeit zu gewinnen, muss die Humanistische Union aktiver werden. Dies will der Bundes-vorstand zusammen mit der Bundesgeschäftsführung mit einzuwerbenden Projektmitteln – entweder für ein Großprojekt oder einzeln für verschiedene Teilbereiche – und Kooperationen mit befreundeten Organisationen ermöglichen. Projektmittel decken keine laufenden Kosten ab, werden also allein nicht dazu geeignet sein, die Finanzsituation des Vereins zu stabilisieren. Jedoch können durch erfolgreiche sichtbare Projekte (oder Kampagnen) Spenden und Neumitglieder gewonnen werden.
Je nach Erfolg bei der Drittmittelakquise streben Bundesvorstand und –geschäftsführung die folgenden Veranstaltungsformate an:
- Vorträge (hybrid oder rein digital).
- Podiumsdiskussionen (hybrid, in Berlin).
- „Meet the Expert“ (in Präsenz): Ähnlich dem Format „Meet the Scientist“ erklären hier in Kurzvorträgen von je zehn Minuten Expertinnen und Experten etwas zu ihrer bürgerrechtlichen Arbeit und beantworten Fragen. Da hier mehrere Sessions hintereinander erfolgen, wird das Ganze kurzweilig und Besuchende können auch nur für ein oder zwei Runden anwesend sein. Dieses Format ist unverbindlicher und niedrigschwelliger, und man kommt ins gemeinsame Gespräch mit den Vortragenden.
- „Human Rights Slam“ (in Präsenz): Die Formatidee wurde von Philip Dingeldey entwickelt. Ähnlich einem Poetry Slam oder Science Slam treten hier einige Expertinnen und Experten, menschenrechtlich Engagierte oder Aktivistinnen und Aktivisten aus dem menschen-rechtlichen Bereich mit unterhalt-samen Kurzvorträgen in einem Wettbewerb gegeneinander an, wobei das Publikum am Ende einen Gewinner/ eine Gewinnerin kürt. Jedes Hilfsmittel (in Form von Exponaten, Präsentation oder Kostümen) ist erlaubt.
- Workshops zu ausgewählten Themen wie Desinformation (in Präsenz).
- Konferenz (hybrid, vorzugsweise in Berlin); eventuell als HU-Kon.
- Infostände auf weiteren Konferenzen.
Diese Formate haben den Vorteil, dass verschiedene Formate verschiedenes Publikum ansprechen und die Humanistische Union so ihre Bandbreite an Zuhörenden und Interessierten erhöhen kann. Weiterhin handelt es sich dabei um eine Mischung aus traditionellen und erprobten Formaten und neuen, vergleichsweise niedrigschwelligen, Formaten mit einem gewissen Unterhaltungscharakter. Zudem ergibt sich hier nicht nur die Möglichkeit, Ergebnisse oder Forderungen zu präsentieren, sondern teilweise auch einen Wissensaustausch zwischen zivilgesellschaftlichen Organisationen, Wissenschaftlerinnen und Wissenschaftlern sowie Betroffenen oder interessierten Menschen mit ihren jeweiligen Erfahrungen (als Expertinnen und Experten in eigener Sache) zu erreichen.
Darüber hinaus, dies ist auch abhängig von der Art und Größe einzuwerbender Drittmittel, können wir uns zwei Publikationsformen vorstellen: einen Sammelband zum Thema Bürgerrechte und KI sowie einen Blog, der auch Online-Kampagnen ermöglichen soll. Für einen Blog müssten für die Redaktion auch Stellenmittel für die Förderdauer eingeworben werden.
Wir freuen uns auf Ihre Rückmeldungen, Ihre Anmerkungen und Ihre Kritik auf diese Ideen und kommen dazu gern mit Ihnen ins Gespräch.