v1.0 Diese Untertitel sind live produziert. Permanent unter Beobachtung stehen. Wo immer man ist, was immer man tut. Eine künstliche Intelligenz erfasst sogar die Gefühle der Menschen. Willst du einen Kaffee? In der ZDF-Serie "Concordia" haben sich die Bewohner dieser fiktiven Stadt der Zukunft genau dafür entschieden. Denn Überwachung in jeder Konsequenz bedeutet für sie Sicherheit vor Kriminalität. Im Hintergrund sorgen Menschen dafür, dass die Überwachung nicht missbraucht wird, eigentlich ein perfektes, sicheres System. Aber das Problem ist niemals die Technologie. Es ist die Absicht der Menschen, die sie nutzen. Überwachung durch künstliche Intelligenz, wie in der ZDF-Serie "Concordia". Ist das unsere Zukunft? Und wie real ist diese Zukunft für uns bereits heute? * Intro-Musik * Dauerhafte Videoüberwachung? Mein erster Impuls ist, da fühle ich mich unwohl, denn irgendwie ist es ja schon ein Eingriff in meine Privatsphäre. Wollen wir wirklich von diesen unsichtbaren Augen auf Schritt und Tritt beobachtet werden? Doch nach Anschlägen, wie den furchtbaren Messerattacken im Juni 2024 in Mannheim oder im August in Solingen, wird der Ruf nach Überwachung lauter. Viele Menschen in Deutschland fühlen sich nicht mehr sicher, egal ob in Bahn oder Bus oder bei Großveranstaltungen. Da wünscht man sich mehr Sicherheit. Vielleicht sogar mit Hilfe von künstlicher Intelligenz, denn die warnt, bevor etwas passiert. Und hier? Auch in Tiefgaragen geht es mir besser, wenn ich weiß, dass überall Kameras installiert sind. Da könnte mir im Notfall jemand zur Hilfe eilen. Wie eigentlich in jeder dunklen Ecke. Besonders die düsteren Bereiche rund um die Bahnhöfe bereiten oft ein mulmiges Gefühl. Und wirklich passieren hier überdurchschnittlich häufig Gewaltdelikte. Eine Videoüberwachung könnte helfen, damit im Krisenfall rasch die Polizei eingreifen kann. So die Hoffnung. Auf dem Mannheimer Marktplatz wurde im Juni 2024 ein Polizist bei einem Messerangriff tödlich verletzt. Alles geschah sehr schnell. Auch mit Videoüberwachung hätte die Tat nicht verhindert werden können. Eine Ausnahmesituation, meint die Polizei Mannheims, und hält Kameras weiterhin für wichtig, um Gewalttaten zu verhindern. Im Fokus stehen mehrere Plätze in der Innenstadt, die als Kriminalitätsbrennpunkte gelten. 68 Videokameras sollen hier für mehr Sicherheit sorgen. Vom Überwachungsraum aus kann man die Kameras zum Teil individuell ansteuern. Das Problem? Es ist schlicht unmöglich, 24 Stunden alle Monitore mit allen Details im Blick zu behalten. Dr. Markus Müller vom Fraunhofer-Institut und Kriminalrat Hendrik Nees, der Leiter des Projektes Videoschutz Mannheim, arbeiten seit 2018 an einem System, das automatisch Gewaltdelikte erkennt. Künstliche Intelligenz soll dabei eine entscheidende Rolle spielen, wenn sie lernt, Gewalttaten selbstständig auszumachen. Die große Herausforderung, was für uns sofort augenfällig ist, hat für die KI erst einmal keine Bedeutung. Darauf muss sie trainiert werden. Dr. Müller und sein Team kooperieren deshalb mit Polizeiausbildern. Sie stellen Gewaltdelikte im Überwachungsbereich der Kameras möglichst realistisch nach. So soll das System lernen, Gewalttaten wie Treten und Schlagen zu erkennen und von harmlosen Kontakten wie einer Umarmung zu unterscheiden. Allerdings dürfen Personen im öffentlichen Raum nicht klar erkennbar gefilmt werden. Das widerspricht dem Datenschutz. Schon einige Male gab es in Deutschland Versuche, durch Überwachung mit Gesichtserkennung für mehr Sicherheit zu sorgen. Doch Personendaten dürfen hier nur in absoluten Ausnahmefällen erhoben werden. Aus diesem Grund suchten Dr. Müller und sein Team nach einer neutralen Form. Nur das Verhalten, aber keine Persönlichkeitsmerkmale soll die KI erfassen. Strichfiguren könnten die Lösung sein. Eine Strichfigur hat keine Identität, kein Geschlecht, keine Hautfarbe, keine Herkunft, keine Religionszugehörigkeit, keine politischen Ansinnen und so weiter und so fort. Und das passt ja genau bei uns rein. Das System wird nun mit Strichfiguren trainiert. Je mehr Daten, desto besser. Nach der ersten Trainingsphase kann das System bereits verschiedene Szenarien selbst unterscheiden. Wie hier zwischen einem Angriff und einer stürmischen Begrüßung. Noch ist das System allerdings fehleranfällig. Von den 68 Videokameras sind aktuell 16 mit dem KI-Überwachungssystem verbunden. Bis Ende 2025 sollen alle festen Kameras daran angeschlossen sein. Die KI wird seit mehr als zwei Jahren parallel zum laufenden Betrieb trainiert. So kann sie ihre Algorithmen stetig verbessern und dazulernen. Bemerkt das KI-System eine mögliche Gewalttat setzt es eine Warnmeldung ab. Der Algorithmus ist für uns eher wie ein Filter, der uns solche Sequenzen heraussucht. Letztendlich entscheidet immer ein Polizeibeamter, ob die Polizei tätig wird und wie sie tätig wird. Das KI-System ist nicht mit dem Internet verbunden, kann also von außen nicht gehackt werden. Nach der Trainingsphase soll es 2025 in den täglichen Einsatz gehen. Längerfristig ist das Ziel, dass die Beamten nur dann erkennbare Realbilder der Menschen gezeigt bekommen, wenn die KI eine Straftat signalisiert. Eigentlich sind diese Bilder für die KI bedeutungslos. Das sind nur verschiedene helle und farbige Punkte. Wenn man sie allerdings darauf trainiert, bestimmte Muster zu erkennen, beginnt die Maschine eigenständig Schlüsse zu ziehen. So kann sie beispielsweise lernen zu erkennen, ob eine Person gewalttätig ist. Das ist doch erstmal beruhigend für das Sicherheitsgefühl. Aber auch eine KI kann sich irren. Und wie kann man sich vor dem Missbrauch dieser Daten schützen? Ich bin verabredet mit Matthias Spielkamp. Er ist der Mitbegründer und Geschäftsführer der Menschenrechts- und Datenschutzorganisation AlgorithmWatch. Ihre Arbeit besteht darin, die gesellschaftlichen Folgen der Nutzung von KI zu untersuchen. So, mal gucken. Da ist er. Ich grüße Sie Herr Spielkamp. Hallo Herr Lesch. Was halten Sie von dem Überwachungsprojekt in Mannheim? Also der Erfassung nur mit Strichfiguren. Ist das eine Option für die Überwachung des öffentlichen Raumes? Dieser Einsatz in Mannheim, der ist wirklich an der Grenze. Das heißt also, die geben sich schon Mühe, das so zu machen, dass jetzt nicht die Anonymität etwa der Menschen automatisch aufgehoben wird. Was ich daran trotzdem hochproblematisch finde, ist diese Normalisierung von Überwachung im öffentlichen Raum. Das heißt, wir sollen uns alle daran gewöhnen, dass ständig irgendwelche Kameras auf uns gerichtet sind, die versuchen zu erkennen, ob wir Unsinn treiben oder nicht. Und das ist einfach eine grundlose Verdächtigung aller Menschen in der Öffentlichkeit, die wir ablehnen. Im Juni 2024 hat die EU zum ersten Mal ein Gesetz zur Regulierung von KI verabschiedet, den sogenannten AI-Act. Verboten sind unter anderem biometrische Überwachungssysteme, die Rückschlüsse auf besonders sensible Merkmale wie Hautfarbe oder sexuelle Ausrichtung zulassen. Zudem das sogenannte Social Scoring, also die Bewertung von Sozialverhalten und die Überwachung von Emotionen und Aufmerksamkeit am Arbeitsplatz sind nicht erlaubt. Und Gesichtserkennung soll nur in akuten Ausnahmefällen, also bei der Suche eines Straftäters, gestattet sein. Ist das kein Schritt in die richtige Richtung? Es stehen durchaus Regelungen in der KI-Verordnung, für die wir uns eingesetzt haben und bei denen wir froh sind, dass sie es auch im Gesetz sind. Aber nehmen wir die Emotionserkennung, eigentlich sollte das grundsätzlich verboten werden, weil es stark in unsere Persönlichkeitsrechte eingreift. Und jetzt ist der Einsatz nur am Arbeitsplatz und der Bildung verboten. Das sind halt ziemliche Löcher, die da drin stecken. Und genauso verhält es sich auch bei der biometrischen Überwachung. Frau Faeser, die Innenministerin, hat eben vorgeschlagen, dass Gesichtserkennung doch weitreichend genutzt werden sollte, um Straftäter zu identifizieren. Sie begründet das mit Terrorismusgefahr und dergleichen und das sind ja immer die Gründe dafür. Aber es gab die Verabredung dazu, dass diese permanente Verwendung von biometrischer Erkennung im öffentlichen Raum mit unseren Grundrechten nicht in Übereinstimmung zu bringen ist. Und das wird jetzt versucht aufzuweichen und dem müssen wir widerstehen. Herr Spielkamp, vielen Dank und alles Gute. Sehr gerne. Nach den furchtbaren Gewalttaten von Solingen und Mannheim diskutiert man, ob man nicht viel mehr Einsatzmöglichkeiten von KI für die Überwachung erlauben sollte: Gesichtserkennung oder das Scannen von Nachrichten und Social-Media-Posts. Die Meinungen gehen da durchaus auseinander. Aber wir müssen uns entscheiden, welche Freiheitsrechte wir dafür aufgeben wollen. Noch schwieriger wird die Lage, wenn in Zukunft die Systeme komplexer werden und sie uns parallel auf verschiedenen Ebenen überwachen. In der Serie "Concordia" ist das bereits Alltag. Die Überwachungs-KI beschränkt sich nicht auf reine Beobachtung der Menschen, sondern analysiert gleichzeitig ihre Stimmung und ihre Gefühle. Sind das nur Zukunftsvisionen? Das Team um Professor Björn Schuller, Lehrstuhlinhaber an der TU München für KI und Medizin, forschen an intelligenter Audioanalyse. Beispielsweise an einer KI, die erkennt, ob ein Redner überzeugt. Ein prominentes Beispiel ist der Apple-Gründer Steve Jobs. Er begeisterte die Zuhörer bei seinen Auftritten. Eine künstliche Intelligenz soll nun lernen, wichtige Merkmale für ausdrucksstarke Reden wie Erregung und Emotion selbstständig zu bewerten. Dr. Shahin Amiriparian trainiert die KI, indem er per Hand verschiedene Vorträge bewertet. Wie hoch ist der Arousal, also der Erregungsgrad? Und wie positiv oder negativ die Valenz, die Emotion des Redners? Fortlaufend werden seine Einschätzungen aufgezeichnet. Das Ziel ist es, die KI mit möglichst vielen Rednerbeispielen zu trainieren. Neben der Programmierung ein entscheidender Schritt zur automatischen Emotionserkennung durch die KI. Anhand vieler Beispiele, wie hier eines Vortrags von Steve Jobs, sucht die KI nun eigenständig, Zusammenhänge zu finden. Wie hier zwischen high oder low Arousal und Messwerten der Audioqualität. Letztlich lernt sie so, Merkmale zu erkennen, die einen guten von einem schlechten Redner unterscheiden. Eine KI zur Emotionserkennung, zusammen mit Professor Schuller, will ich mir das mal anschauen. Hier wertet eine KI zeitgleich jeden Satz unserer Unterhaltung aus. Ist die Stimmung positiv oder negativ? Jetzt könnte ich versuchen, ärgerlich zu werden. Dann muss er hier oben links in die Ecke gehen. Ja, oh mein Gott, das funktioniert ja überhaupt nicht, gell. Das ist ja ein Kracher, aber wie schön. Also high Arousal mit positive Balance. Bei einem Lachen war es wunderbar zu sehen. Genau. Oh mein Gott, das funktioniert ja überhaupt nicht, gell. Das System funktioniert gut, wenn die Emotionen klar erkennbar sind, aber noch eingeschränkt, wenn es um Nuancen in der Stimme geht. Wie lässt sich die maschinelle Emotionserfassung, das Affective Computing, noch verbessern? Ein Weg ist mehr und verschiedene Merkmale zu erkennen, zum Beispiel mit einer Kamera. Monica Gonzales macht sich bereit für einen Vortrag. Am Ende soll die KI ihr Auftreten und ihre Wirkung beurteilen. Die Stimme wird beispielsweise in Hinblick auf Tonhöhe und Erregung analysiert. Mit Hilfe des Kamerabildes werden die Körperhaltung, die Mimik, der Blick und die Muskelspannung aufgezeichnet. In Zukunft will man noch mehr Kriterien erfassen lassen. Zum Beispiel winzige Änderungen des Gesichtsausdrucks, die wir bewusst nicht kontrollieren können. Am Ende des Versuchs gibt die KI eine positive Einschätzung. Mit Charisma-Werten, die ein Stück über dem Durchschnitt liegen. Ich hätte ja nie im Leben gedacht, dass man so deutlich auf der Algorithmen-Seite unsere Emotionen so abbilden kann. Also dieses affective Computing ist eigentlich eine ganz neue Dimension. Auf jeden Fall. Die Sprachassistenten variieren die Emotionen teils in der Stimme. Aber sie reagieren noch nicht richtig auf Emotionen. Das wird viel mehr kommen. Wir verwenden Machine-Learning, um die Emotionen quasi zu erkennen, um sie dann auch abbilden zu können oder richtig zu reagieren. Was sind die typischen Anwendungsfelder von Affective Computing? Ganz klassisch hat man eben immer an Mensch-Maschine-Kommunikation gedacht: Ich spreche mit der Maschine und die versteht meine Emotionen. Wir gehen ganz stark in die Richtung Medizin. Das heißt, wir gehen bis in die Depressionserkennung und allgemein Wohlbefinden mitverfolgen. Auch beim Sport zum Beispiel, um Überlastungen zu merken. Das ist ja durchaus ein Bereich, den ihr da jetzt durchforstet, der für unser Miteinander von ganz, ganz großer Bedeutung ist. Absolut. Tatsächlich kann man sich auch vorstellen, dass die KI zum Beispiel später Gespräche mitführt. Das heißt, sie gibt mir dezent eine Warnung: Du bist gerade zu aggressiv oder das funktioniert nicht. Also kann man sich vorstellen, wenn ein Ehepaar streitet, ist in der Zukunft vielleicht die KI mit dabei und sagt, "Nein, er war wirklich aggressiv". Jetzt gibt es einen Bereich, da scheint es ja ganz besonders interessant zu sein: Der Automobilbereich. Warum ist die Automobilindustrie so interessiert an Affective Computing im Auto? Solange wir noch selber das Auto steuern, spielt Emotion eine lebenswichtige Rolle. Wenn wir wütend oder müde werden, sind wir gefährdet, gefährden andere. In der Zukunft haben wir jetzt auch die Fahrt ohne Selbststeuern. Dann kann das Auto zum Beispiel erkennen: Wann wird mir schlecht, wann bin ich nicht mehr zufrieden mit dem Fahrstil? Vielen Dank. Bis dahin. Die Konzerne träumen von einem System, das uns kennt. Das persönlich auf uns eingeht und uns in vielerlei Hinsicht unterstützt. Das auf unsere Gesundheit aufpasst, uns Ratschläge gibt, ja vielleicht sogar als Gesprächspartner dient. Auf Grundlage von Affective Computing rückt eine KI als persönlicher Assistent in den nächsten Jahren in erreichbare Dimensionen. Aber wie jede Medaille hat auch diese zwei Seiten. Denn wenn ein System unser Verhalten und unsere Sprache lesen kann, dann ist der Weg nicht mehr weit, das umzudrehen. Heißt, KI-Systeme, die immer besser werden, sich quasi menschlich verhalten. Mit teilweise erschreckenden Ergebnissen. Bei der Parlamentswahl in Indien im Juni 2024 siegt Premier Narendra Modi zum dritten Mal. Im Wahlkampf davor haben die Parteien mit allen Mitteln gekämpft. Viele Inhalte wurden aggressiv über Social Media verbreitet, darunter auch immer wieder gefälschte Tonaufzeichnungen und Videos. Veröffentlicht sogar oft von den Parteien selbst. Einige Politiker lassen zum Beispiel bewusst ihre Stimme klonen. Eine KI ruft nun mit der Klonstimme potenzielle Wähler an und unterhält sich mit ihnen. Ein Unterschied von Klon und Original ist nur sehr schwer erkennbar. Solche Voice-Klone sollen millionenfach eingesetzt worden sein. Und der Effekt? Die meisten Menschen schenken gefakten Aussagen oder Videos dann Glauben, wenn bestätigt wird, wovon sie eh schon überzeugt sind. Im US-amerikanischen Wahlkampf scheint das Phänomen Deepfake weniger verbreitet. Doch auch hier gilt, dass die Fakes meistens Vorurteile stärken und selten Grundüberzeugungen ändern. Das eigentliche Problem bei mehr Fake News und Deepfakes ist, dass sie auf Dauer eine allgemeine Atmosphäre des Misstrauens erzeugen. Dass man nichts und niemanden mehr richtig vertrauen kann. Eine schwierige Basis für ein demokratisches Miteinander. Mittelfristig stellt sich allerdings die Frage, ob die Bedrohungen durch KI für die Gesellschaft nicht aus einer ganz anderen Richtung kommen werden. Geht die größte Gefahr vielleicht doch nicht von den Menschen, sondern von den Maschinen selbst aus? Klar ist, die Entwicklungen schreiten rasant voran. Im ersten Halbjahr 2024 sorgen Werbevideos von KI-Anwendungen für einen Hype nach dem anderen. Zum Beispiel wird von der Firma Open AI demonstriert, wie die KI einem Blinden erklärt, was in London zu sehen ist. Die aktuelle Roboter-Generation der Firma Boston Dynamics bewegt sich anscheinend eigenständig und mühelos durch die Welt. Und bei Figure One interagiert die Maschine vermeintlich wie ein Mensch. Großkonzerne wie Google kündigen die Einführung sogenannter Agents an. Verschiedene spezialisierte KI-Systeme, die uns unterstützen sollen und auch untereinander kommunizieren können. KIs, die miteinander und dazu zunehmend selbstständig arbeiten? Wo soll das hinführen? Professor Schuller forscht seit über 20 Jahren an der KI in Deutschland und in England. Für ihn sind vor allem zwei Gründe für die aktuelle Entwicklungsgeschwindigkeit verantwortlich. Mithilfe ganz unterschiedlicher Daten wie Bilder, Texte, Videos, Musik, Formeln und Programmiercodes trainieren die globalen Player wie Open AI oder Google ihre Systeme. Es sind unglaublich große Datenmengen. Der riesige Input an Daten ist entscheidend, wenn er mit einem zweiten Faktor kombiniert wird: Brutal Force, auf Deutsch rohe Gewalt. Rohe Gewalt an Rechenpower. Hier im Leibniz Rechenzentrum in Garching bei München steht dafür eins der weltweit schnellsten Rechensysteme. Ohne den gewaltigen Zuwachs an Rechenpower in den letzten Jahren würde es nicht den aktuellen KI-Hype geben. Da ist sich Professor Schuller sicher. Für ihn und seine Kollegen eine Chance, aber auch Herausforderung. Denn je größer und komplexer die Systeme werden, desto schwerer können die Entwickler genau nachvollziehen, wie die KI zu ihren Ergebnissen kommt. Und wenn die KIs immer mehr miteinander vernetzt werden oder sich sogar selbst vernetzen, könnte in Zukunft eine Artificial General Intelligence, kurz AGI, eine Art Superintelligenz entstehen. Die AGI wäre potenziell in der Lage, eigenständig Schlüsse zu ziehen und Entscheidungen unabhängig von ihren menschlichen Nutzern zu treffen. Im Extremfall sogar gegen deren Willen. Wie siehst du das? Ist der Hype gerechtfertigt oder kann man immer noch sagen, haltet mal den Ball flach es ist nur Technologie und wir wissen, was wir tun? Wir haben oft die Sachen, die so auf dem Konsumentenmarkt Hype auslösen, im Labor eher ein Jahrzehnt vorher schon teilweise erlebt gehabt. Diesmal muss ich sagen, ich bin auch beeindruckt, weil erstmal haben wir diese Beschleunigung der Entwicklung und dann zeigt es einfach, was große Datenmengen wirklich für einen Unterschied machen können. Irgendwann wird eine Ebene erreicht sein, wo die KI sich unabhängig macht von denjenigen, die ursprünglich dafür gesorgt haben, dass sie überhaupt in die Welt gekommen ist. AGI, ist das dann Fluch und Segen? Wie würdest du das so balancieren? Was müssen wir da erwarten? Der Segen ist erstmal, dass wir uns riesige Durchbrüche in fast allen Forschungsfeldern davon versprechen können, weil wir jetzt dieses Hintergrundwissen haben, eine KI, die uns mithilft zu denken. Wir könnten interdisziplinäre neue Ansätze finden, die uns dann zum Beispiel in der Medizin, in der Klimafrage und in anderen Bereichen Antworten liefern können, auf die wir vielleicht so nicht gekommen wären. Aber wir wären immer noch diejenigen, die entscheiden, was zu tun ist. Also AGI wäre immer noch eine Empfehlungsinstitution, oder? Also die Frage, ab wann, wenn ich das mal salopp sagen darf, gleitet es uns aus der Hand, ist natürlich schon eine sehr drängende. Weil wir müssen davon ausgehen, dass wir vielleicht irgendwann nicht mehr die intelligenteste Spezies auf Erden sind. Und das ist ein völlig neuer Punkt in der Geschichte der Welt. Diese Konsequenzen sind jetzt relativ schwer abschätzbar. Vielen Dank. Ob Finanzmarkt oder Energieversorgung, zur Steuerung und Regulierung setzt man immer öfter automatische KI-Systeme ein. Die Folgen könnten dramatisch sein, wenn wir die Kontrolle verlieren. Vom Börsencrash bis zum Blackout. Optimisten sehen aber auch große Chancen für die KI zum Beispiel in der medizinischen Forschung. Bei der Bekämpfung von Krankheiten wie Alzheimer und Krebs könnte künstliche Intelligenz eine große Rolle spielen, so vielleicht viele Leben retten. Aber die Tech-Branche steht vor einer großen Herausforderung. Denn jede KI-Aktion braucht riesige Rechenkapazitäten, kostet viel Energie und erwirtschaftet nur selten einen entsprechenden Gewinn. Da stellt sich schon die Frage, worum geht es hier eigentlich? Geht es um eine bessere Welt oder geht es um das Erreichen von maximalen Profit? Außerdem dürfen wir nicht vergessen, es gibt Länder, in denen KI zur Machtsicherung missbraucht wird. Russland und China sind da prominente Beispiele. Wir werden in Zukunft immer schwerer kontrollieren können, wer uns wie überwacht und was mit unseren Daten eigentlich wirklich geschieht. Umso drängender ist die Frage nach unabhängigen Institutionen, die die zukünftigen Entwicklungen von KI reglementieren. Die Frage ist nur wie? 2023 finden die ersten globalen Konferenzen zur KI-Sicherheit statt. Politiker beraten sich, wie man KI unter Kontrolle behalten kann und den Tech-Konzernen nicht die alleinige Führung überlässt. Das Problem? Großkonzerne setzen gewaltige Ressourcen bei der Entwicklung von KI ein. Damit die Staaten sowohl technisch als auch inhaltlich mithalten können, müssen sie selbst in gewaltige Rechenpower und große Forschungskapazitäten investieren. 2024 werden, wie durch den AI-Act der EU, erste Ansätze zur internationalen Regulierung aufgestellt. Zum Beispiel rücken die Themen generelle Überwachung und KI-gesteuerte Waffen immer mehr in den Fokus. Doch entscheidend ist, zukünftige Entwicklungen von KI auch grundsätzlich zu reglementieren. Denn Forschende prophezeien, AGI könnte die letzte Erfindung der Menschheit sein. Weil niemand weiß, wie eine AGI der Zukunft funktionieren, welche Fähigkeiten sie entwickeln wird. Deswegen sollten wir uns mit grundlegenden Regulierungsmaßnahmen vorbereiten, um nicht überrascht zu werden. Wie zum Beispiel wichtige Entwicklungsschritte und auch Fehlschläge zumindest für staatliche Stellen zugänglich machen. Es muss nachvollziehbar bleiben, wie die KI zu Entscheidungen kommt. Und die Implementierung einer Art Notfall-Aus-Funktion bei den großen KI-Systemen. Alles nur Panikmacher? Nicht für den Papst. Das Treffen der G7-Staaten im Juni 2024. Das erste Mal in der 50-jährigen Geschichte nimmt der Papst an der Runde teil. Dabei geht es ihm nicht um Themen wie Flüchtlinge, Glauben oder Krieg, sondern um die Zukunft der künstlichen Intelligenz. Er fordert, dass wir die Kontrolle über die KI nicht aus der Hand geben dürfen, weil sonst die Würde des Menschen auf dem Spiel steht. Sind wir bald nicht mehr die intelligenteste Spezies auf Erden? Übernimmt die KI die Vormachtstellung? Mittelfristig wird uns die künstliche Intelligenz überflügeln mit ihrer Fähigkeit, Daten zu sammeln und zu durchdringen, aber auch mit ihren Fähigkeiten, neue Lösungen zu finden. So viel ist klar. Aber wir Menschen sollten ganz andere Qualitäten nicht aus den Augen verlieren. Denn wir sind das Wesen, das sich neue Ziele setzt. Immer wieder neue. Das sich hinterfragen kann: Wer sind wir? Wer wollen wir sein? In welcher Welt wollen wir leben? Mit welcher Moral? Mit welchen Werten? Mit welchen Freiheitsräumen? Und wir sind das Wesen, das Verantwortung übernimmt. All das gehört zu dem, was wir die Würde des Menschen nennen. Und unsere Würde sollten wir uns niemals von irgendeiner Technologie aus der Hand nehmen lassen.