v1.0 Diese Untertitel sind live produziert. ML: Alena Buyx ist heute bei uns zu Gast, genauso wie Sascha Lobo, Hans Uszkoreit und Christoph Schell. Sie alle sind jetzt unsere Gäste. * Titelmusik * Einen schönen guten Abend, freue mich sehr, dass Sie dabei sind. Willkommen zu unserer Sendung, die mit Blick in diese Runde eine sehr interessante Ausgabe zu werden verspricht. Über KI wollen wir sprechen und irgendwas in mir sagt mir, dass es eine gute Idee sein könnte, zuerst zu Alena Buyx zu schauen in dem Zusammenhang, gerade weil sie weder aus der Mathematik noch aus der Informatik kommt, sondern sich mit Philosophie, mit Ethik, mit Soziologie beschäftigt hat und die wir Fragen müssen, wie sie das wahrnimmt, was da gerade passiert. Einerseits vergeht ja kein Tag, an dem uns morgens Elon Musk oder Eric Schmidt, der ehemalige Google-CEO, nicht irgendwas von einer goldenen KI-Zukunft erzählen und spätestens in der "Tagesschau" melden sich dann Sam Altman und Dario Amodei zu Wort und warnen vor dem Weltuntergang. Was denn nun? Herzlich willkommen, freue mich sehr, dass Sie bei uns sind. Ja, und es ist toll, dass Hans Uszkoreit unserer Einladung gefolgt ist, denn er hat uns den ganzen Schlamassel in gewisser Weise eingebrockt, könnte man sagen. Ist einer der Deutschen KI-Pioniere, ein Mann mit einer faszinierenden Biografie. Ich habe sie hier schonmal vorgetragen, aber die ist so toll, ich muss noch mal machen. Vor ein paar Jahren war das schonmal. In Rostock geboren, in Ost-Berlin aufgewachsen, fliegt dann von der Oberschule in der DDR, 15 Monate Gefängnis wegen staatsfeindlicher Hetze, flüchtet dann in einem Chemie-Tank nach West-Berlin, weil er in der DDR nicht studieren darf und macht dann bei den bösen Kapitalisten in Amerika eine spektakuläre Karriere, obwohl er sagt´: "In Mathe habe ich ja nie so richtig aufgepasst". Stattdessen aber in zwei anderen Fächern, Linguistik und Informatik. Und diese damals wahrscheinlich eher schräge Fächerkombination wird später der Schlüssel zum großen Erfolg. Denn genau das ist KI, Sprache gepaart mit Informatik. Wie also schaut er heute auf den Geist, den er und andere damals aus der Flasche gelassen haben. Herzlich willkommen, freue mich sehr, schön, dass Sie bei uns sind. Interessant ist, was Sascha Lobo dazu sagt. Es gibt tatsächlich, sagt er, viele Gefahren, reale Gefahren bei KI. Aber die liegen woanders als dort, wo sie in den großen Headlines oder knackigen Social-Media-Beiträgen vermittelt werden. Wo er die echte Gefahr vermutet, wird ein bisschen klarer, wenn man einen anderen Satz von ihm hört. "Putin plus KI", sagt er, "ist deutlich gefährlicher als Putin alleine". Was also können wir tun gegen dieses mächtige Werkzeug in den Händen der falschen Leute? Und wie sehr wird KI unsere Welt am Ende verändern? Herzlich willkommen, freue mich sehr. Ja, es ist spannend, Christoph Schell dazu zu hören. Im schönen Kirchheim, glaube ich, in Baden-Württemberg geboren. Dann aber ging es richtig los. Procter & Gamble, Hewlett-Packard bis hoch in die Chefetage von Intel. Da haben wir uns hier auch mal gesehen, als es um die Ansiedlung in Magdeburg ging, die dann doch nicht kam. Und jetzt Chef von KUKA. Und bei KUKA klingelt es in unseren Ohren. Die Rede ist nämlich genau von dem Robotikunternehmen, das vor zehn Jahren zum Symbol des deutschen Ausverkaufs in Richtung China wurde. Wurde damals an Midea verkauft. Ich glaube, ein riesiges Unternehmen, das vor allem Haushaltsgeräte hergestellt hat ursprünglich. Und da schließt sich auch der Kreis. Christoph Schell hat kürzlich angesprochen auf die Frage, wann denn die ersten humanoiden Roboter in unserer Küche endlich mal aufräumen und kochen und ein bisschen spülen. Die schöne Antwort gegeben: "Das weiß ich nicht genau". Ich kann aber sicher sagen, dass Deutschland eines der letzten Länder sein wird, in denen es soweit ist. Herzlich willkommen, freue mich sehr. Warum diese pessimistische Einschätzung, Herr Schell? CS: Das ist einfach eine Einschätzung, die Wahrnehmung, die ich habe. Wir unterhalten uns in Deutschland viel weniger über Fortschritt, als wie man regulieren kann. Und das steht in einem gewissen Widerspruch zu Ländern wie China und USA, die da einfach eine andere Kultur haben, was Innovation angeht. ML: Da müssen wir gleich nochmal ein bisschen ausführlicher darüber sprechen. Aber erstmal die Runde wirklich aufmachen. Herr Uszkoreit, vielleicht die erste Frage an Sie, weil Sie ja seit 40 Jahren mittlerweile in diesem Bereich forschen und lehren. Auch Ihr Sohn ist ein ganz wichtiger Player in diesem ganzen Spiel. Vielleicht können wir da auch gleich nochmal ein Wort drüber reden. Welcher Entwicklungsschritt hat Sie zuletzt wirklich überrascht, gefreut oder vielleicht auch verunsichert in diesem Bereich? HU: Ja, es gibt viele Dinge, die auch diejenigen überrascht haben, die dabei waren die ganze Zeit. Am meisten war natürlich, oder die größte Wende war die, dass die künstliche Intelligenz durch diese Foundation-Modelle oder Large-Language-Models eine ganz andere Dimension, eine ganz andere Wende genommen hat, als wir ursprünglich dachten. Wir haben ja 40 Jahre lang versucht, künstliche Intelligenz zu bauen und die war künstlich, aber war nicht so intelligent. Sie konnte bestimmte Sachen wie übersetzen, Texte verarbeiten, ein bisschen helfen, um Daten zu analysieren, Recherchen. Aber dann, als die wirkliche Intelligenz kam, war sie nicht mehr künstlich, weil eigentlich künstliche Intelligenz ein Fehlbegriff ist. Ich meine nicht, dass Donald Trump Recht hat, das umzubenennen, aber eigentlich im gewissen Sinne, ohne dass er es vielleicht nicht so stark überdacht hat, hat er doch Recht. Die jetzige künstliche Intelligenz ist wirklich super intelligent, viel intelligenter noch, als die meisten im Moment glauben, aber sie ist nicht mehr künstlich. ML: Aber und für Sie ist es Intelligenz, weil Intelligenz bedeutet ja mehr als nur Wissen. HU: Ja, ich kann auch sagen warum. Ich kann sagen, vielleicht nicht jeder Philosoph wird zustimmen, nicht jeder Theologe, schon mal gar nicht. Aber wenn man mit den Mitteln der Intelligenzmessung rangeht, die in der fortgeschrittenen kognitiven Psychologie verwendet werden, in der Psychometrik, und man nimmt die allerbesten Instrumente für die Messung von Intelligenz, dann schlägt die KI den Menschen in den Kernbereichen der Intelligenz bereits bei weitem. Und dann gibt es aber auch einige Bereiche, in denen der Mensch weiterhin führend bleibt. ML: Okay, Intelligenz wirklich im Sinne von verstehen, durchdringen, selber denken, Schlüsse ziehen. HU: Absolut, ja. ML: Nicht nur Wissen anhäufen, das ist ja was anderes. HU: Ja, das ist was anderes. Es gibt diesen Teil der Intelligenz des Wissens anhäufen, den nennt man auch kristalline Intelligenz. Und dann gibt es die fluide Intelligenz und die Intelligenz, die wir verwenden, wenn wir Schlüsse ziehen, wenn wir Probleme lösen. Oder wenn wir wirklich tiefes Verstehen haben vom Text. In diesen Disziplinen gewinnen die Computer im Moment, gewinnen die neuronalen Netze gegen den Menschen, landen alle an der obersten Grenze von dem, was überhaupt messbar ist bei Intelligenztests. Und sie würden noch viel besser landen, wenn es schwieriger Aufgaben gäbe. Leider sind die Aufgaben nicht so schwer, weil sie für den dummen Menschen gemacht sind. ML: Das ist krass, was Sie da gerade erzählen. Da regt sich auch schon Widerspruch auf den hinteren Plätzen. HU: Glaube ich. Das ist nicht so einfach. ML: Sascha Lobo ist, glaube ich ... SL: Nein, nein, nein. ML: Sofort. Ich habe nur eine Frage noch in dem Zusammenhang. Reden Sie jetzt von dem, was man heute bereits nutzen kann? Oder reden Sie als Insider von Dingen, die gerade in den Superlaboren getestet werden? HU: Beides, beides. Diese Resultate, dass die Systeme in Dingen wie zum Beispiel sprachliches, konzeptuelles Verstehen oder in anderen Aufgabenstellungen, die Zentralbereiche der künstlichen Intelligenz sind, Problem lösen. ML: Können Sie jetzt mal ein Beispiel nachmachen, Herr Uszkoreit? HU: Das sind diese Aufgaben, in denen man entweder aus ganz schwierigen Texten etwas ableiten muss oder sind so logische Spielereien, logische Aufgaben, in denen man ganz bestimmte Schlussfolgerungen ziehen muss. ML: Zum Beispiel? HU: Ja, wir kennen ja diese Logeleien, die manchmal in der "ZEIT" und in anderen Zeitschriften waren. Wenn man ähnliche Dinge macht, wie sie in Intelligenztests, in fortgeschrittenen, passiert, wo man herausfinden muss, welche von sechs Lösungen eigentlich folgt aus bestimmten Prämissen. Da ist wirklich Schlussfolgern gefordert, Schlussfolgern, echtes Schlussfolgern. Dann gewinnen die Maschinen. Oder auch, wenn es darum geht, die Essenz von sehr schwierigen, sehr schwer sprachlich ausgedrückten, komplexen Sachverhalten zu erkennen. Dann gewinnen auch die Maschinen. Wo sie nicht gewinnen, ist bei perzeptueller Intelligenz. Da erreichen sie mal gerade zehn Prozent der menschlichen Leistung. ML: Heißt? HU: Perzeptuelle, also wenn es darum geht, um Bilder, Szenen in der wirklichen Welt zu interpretieren und zu verarbeiten, komplizierte. Dinge zu erahnen, die hinter verdeckten Dingen stehen, Sachen zu vervollständigen und so weiter. Also perzeptuelle Intelligenz, sowohl in räumlicher Intelligenz, auch visueller Intelligenz und so, gewinnen heute die noch, aber die verbessern sich rasend schnell, die Maschinen. Aber jetzt sind in den Laboren, ist die nächste Generation der künstlichen Intelligenz, die nach den heutigen Modellen kommen wird und ungefähr in einem Zeitbereich, würde man mal sagen, von vielleicht mindestens sechs Monaten und maximal vielleicht zwei Jahren, die nächste Generation, die ist dann noch mal eine ganze Ecke intelligenter. ML: Sollen wir aufhören? HU: Es wird so kommen. ML: Aber ist das eine gute Nachricht oder ist das eine schlechte Nachricht? HU: Das liegt an uns. Das liegt wirklich an uns. Wenn die Menschheit, die Gesellschaft nicht reagiert, dann ist es eine schlechte Nachricht. Also wenn wir versuchen, die ganz klar auch vorhandenen Gefahren nur mit Regeln, Verboten, Registrierung, Berichtspflicht und so weiter zu begegnen, dann wird es nicht klappen. Es wird so sein wie in der zivilen Luftfahrt, Raumfahrt, wie in anderen Bereichen, in dem internationalen Zahlungsverkehr der Banken. Die Sicherheit kommt nur durch Technologie selbst. Das heißt, wir müssen die richtige Technologie haben, die die Sicherheit hervorbringt und brauchen keine Regeln. Das heißt, es bringt auch nichts, alte Technologie zu nehmen. Das wäre so, als wenn man in der zivilen Luftfahrt jedem Flugzeug einen großen Fallschirm gegeben hätte. Und die Regeln wären, dass man den Flugzeugen nur erlaubt hat, über Wälder zu fliegen und nicht mehr über Orten. ML: Aber das heißt, wenn sich so eine neue Technologie etabliert, dann zahlen wir auch erstmal einen Preis, heißt das mit anderen Worten. Da werden schlimme Dinge passieren. Flugzeuge sind abgestürzt. HU: Flugzeuge sind abgestürzt und wir hoffen, dass in der künstlichen Intelligenz wir rechtzeitig anfangen können, diese sicheren Systeme zu bauen, damit keine Kinder in den Brunnen Fallen. Genau das ist es. Andererseits ist es in unserer Gesellschaft so, wenn gar nichts passiert, wird die Gesellschaft auch nicht reagieren. Das heißt, wir können uns alle nur wünschen, dass es mehr Vorfälle von der Art gibt, die im Moment durch die Presse gehen. Denn ansonsten, Sie wissen ja, wie Gelder ausgegeben werden in unseren Ländern. Nur dann, wenn wirklich die Gefahr schon dokumentiert ist. ML: Jetzt verstehe ich langsam, Frau Buyx, was das für ein Zusammenwirken ist zwischen Eric Schmidt, der morgens die goldene KI-Zukunft malt und dann Sam Altman oder Bill Gates, der abends in der "Tagesschau" sagt, wir werden alle untergehen, morgen ist Weltuntergang. Das eine kann stimmen und das andere auch. AB: Man lebt in zwei Welten, das kenne ich selber auch. Ich bin ja an der TU München, wir entwickeln das Zeug da auch und da gibt es wirklich tolle und schnelle, also auch für Europa, gute und verantwortliche KI-Entwicklung, gerade in der Medizin, das ist wirklich fantastisch und man freut sich, was da kommt. Und gleichzeitig sind ja gerade in der letzten Zeit beschrieben, relativ katastrophale Untergangsszenarien. Also, dass die KI-Agenten durchzusammenrocken und irgendwelche australischen Webseiten der Regierung angreifen oder eben andere entgegen der Vorgaben, die sie ursprünglich gekriegt haben, andere KI-Plattformen angreifen und hacken und sozusagen ihre Sandbox verlassen. Nur einmal ganz kurz, Frau Buyx, ich such das hier gerade nochmal, um einfach eine einigermaßen vollständige Liste zu haben. Juni 26 knackt ein Open AI, dessen Chef, der eben schon zitiert, der Sam Altman ist, ein australisches Gesundheitsportal und diverse Regierungswebsites, zuletzt gab es auch Angriffe auf die US-Börsenaufsicht, auf die SEC, was ich irre fand, auf das US-Handelsministerium, auf das US-Volkszählungsamt und so weiter und so weiter. Und über diesen speziellen Fall, Hugging Face müssen wir gleich nochmal, muss ich das einmal von Sascha Lobo erklären lassen. AB: Das fällt zum Teil dann auch sehr spät auf. Also ich würde auch Herrn Uszkureit Recht geben, da fallen schon Kinder in den Brunnen, jetzt gerade. Und das ist aber eine Gleichzeitigkeit. Und wir wollen natürlich auf der einen Seite die Dinge für uns haben, die unser Leben besser machen können. Das ist so eine ethische Faustregel. Ja, KI soll das Leben von Menschen besser machen und nicht schlechter. Aber das sind echte Gefahren. Und wenn selbst der chinesische Präsident, das ist ja außergewöhnlich, davon spricht, dass wir Sorge haben müssen vor einem Kontrollverlust und dass es darum gehen wird, dass wir gemeinsam wirklich weltweit es schaffen, die KI unter menschlicher Kontrolle zu halten, dann finde ich das schon relativ bemerkenswert. Und ich würde Ihnen auch Recht geben, da kann man nicht mit den alten, regulatorischen Prinzipien einfach so drangehen. ML: Also dass in Brüssel ein paar Beamte zusammensitzen und sich überlegen, wie das jetzt so gehen könnte. AB: Genau, die dann irgendein regulatorisches Monstrum schreiben. Wobei ich schon sagen muss, ich bin ganz froh, dass ich im Moment in der EU und in Deutschland lebe, dass wir überhaupt ein paar Prinzipien eingehauen haben. ML: Ja, aber Entschuldigung, darf ich da nochmal dazwischen? Herr Uszkureit, wenn ich Sie eben richtig verstanden habe, haben Sie doch gesagt, dass mit der EU und den Beamten, das können wir uns schenken, sondern KI kann letzten Endes diese Art von Superintelligenz, die wir gerade dabei sind, zu entwickeln, kann, wenn überhaupt, von anderer Superintelligenz kontrolliert werden? HU: Das stimmt. Trotzdem brauchen wir natürlich einhergehend damit auch Verordnungen oder Regeln. Ich will ein Beispiel nennen, das dürfte jedem klar sein. Wir Menschen müssen uns identifizieren und registrieren. Und Vögel, seltene Vögel, wir kriegen Ringe und Kühe kriegen einen Knopf ins Ohr, um sie zu registrieren. Im Moment gibt es kein Verfahren, diese super schlauen Systeme zu registrieren und sie zu zwingen, sich zu identifizieren. Wir wissen auch nicht, wie viele es geben wird. Es ist im Moment keine ... ML: Von diesen KI-Agenten? HU: Ja, die Agenten sind meistens die vorgeschalteten, vor den Modellen, die vorgeschalteten Agenten, die die anwenden. Also vor diesen großen, superklugen Modellen, KI-Modellen, die alles, deswegen sind sie nicht künstlich, alles von menschlicher Intelligenz gelernt haben. Alles. Nichts Eigenes. Und auch nichts algorithmisch programmiertes. Und diese müssen sich im Moment weder identifizieren, noch wissen wir genau, wie viele es gibt, wie viele Kopien man davon macht. AB: Darf ich da noch ein Beispiel hinzufügen? HU: Das ist ein Beispiel dafür, dass man registrieren muss. AB: Es gibt diesen schönen Satz von Ezra Klein, das ist ein Journalist, der sich intensiv mit dem Thema beschäftigt. "New York Times"-Kollege. Oder Kolumnist der "New York Times". Der hat dieses berühmte Bill Gates-Interview auch gehabt. Und der hat neulich formuliert, Open AI oder Anthropic müssen für die Parkplätze vor ihren Entwicklungslabors Genehmigungen beantragen. Und gleichzeitig können sie jederzeit loslegen, was die sogenannte rekursive Selbstverbesserung anbelangt. Also, dass Modelle sich selber verbessern, Agenten sich selber verbessern und die dann wieder die nächste Version von sich selber verbessern und so weiter und so fort. ML: Das heißt, die KI programmiert sich selbst. AB: Genau, macht sich selber besser. Und das gleichzeitig ist natürlich ein irre, das ist irre unausgewogen. Und das muss man, glaube ich, schon festhalten. Und deswegen fand ich ihr Beispiel so schön mit der Raumfahrt oder mit der Luftfahrt. Wir haben es hier mit einem Bereich zu tun, wo es tatsächlich ganz wenig an Beschränkungen gibt. Und da will ich ganz offen sagen, aus ethischer Perspektive, das macht mir einfach große Sorge. Denn ich will die Vorteile für uns nutzen. Ich will, dass das unser Leben besser macht. Wir werden auch gar nicht ohne auskommen. Ich komme aus dem Gesundheitswesen, da kracht uns die Bude sonst zusammen. Aber diese Dinge, wo uns die Kontrolle entgleiten kann, die müssen wir echt einheben. Und der Ezra Klein sagt übrigens, und das sagt ein Amerikaner, der wirklich nicht gegen Innovation ist, der sagt, man muss diese rekursive Selbstverbesserung im Moment verbieten. Und das sagt ein Amerikaner. ML: Ich meine, das ist ein sehr kritischer Journalist, der, weil Sie das gerade angesprochen haben, Bill Gates gerade im Interview hatte, ein Interview in dem Bill Gates und ich weiß nicht, welchen Reflex Sascha Lobo da hat, aber mein Reflex ist immer, es regt mich wahnsinnig auf, wenn jemand wie Bill Gates unwidersprochen einfach sagen kann, klar, das kann möglicherweise eine Milliarde Menschen umbringen. Wollen wir einmal kurz reinhören? In diesem Moment, weil es ja sehr interessant ist. SL: Sehr gerne. Mein direkter Reflex war auch so, ich konnte den Würgereiz nur unterbrechen. ML: Genau, gut, dass wir uns da einig sind. Wir hören mal kurz rein, bitteschön. - KI ist definitiv mächtig genug, um Ereignisse auszulösen, bei denen eine Milliarde Menschen sterben könnten. Auch wenn es ziemlich schwer ist, 100 Prozent zu erreichen, gab es noch nie eine Waffe, die so mächtig ist wie die Kombination aus böswilligen Menschen und den neuesten KI-Tools. Und es ist gut, dass mit der Industrie diskutiert wird, obwohl es fast gegen ihre Interessen ist, diese Dinge zuzugeben. Das Problem ist, dass der Rest der Welt das entweder herunterspielt oder das Ganze einfach nur als Wettbewerb betrachtet. Es ist wirklich beängstigend, dass wir nicht alle klugen Köpfe an einem Tisch haben, die sich fragen, wie wollen wir diese Entwicklung gestalten? ML: Das war jetzt unschwer zu erkennen, nicht Ezra Klein, aber die Thematik war die gleiche und die Sätze waren fast identisch. Warum haben Sie da diesen Reflex, Würgereiz, haben Sie gerade gesagt, Herr Lobo? SL: Weil das gleich zwei Dinge sind, gegen die ich eine gewisse Allergie habe. Das erste ist blanke Panikmache. Wenn jemand, der in der Öffentlichkeit bekannt ist als Technologie-Großversteher und durch diese Technologie reichster oder drittreichster oder fünftreichster Mann der Welt ... ML: Auch wurscht. SL: ... lange die Verkörperung der Digitalisierung selbst, wenn der von einer Milliarde Toten spricht, dann sind auch alle Sätze davor oder danach egal, dann ist das schiere Panikmache. Und das ist mir sehr übel aufgestoßen. Nicht, dass ich vorher großer Bill Gates-Fan war, aber trotzdem hat der eine Wirkung, die er wissen müsste. Und die ist hier sehr, sehr bitter zum Vorschein gekommen im Negativen. Und es gibt einen zweiten Aspekt, der nicht so oft diskutiert wird. Bill Gates gehört ja mit Microsoft zu denjenigen großen Unternehmen, die mit am meisten weltweit in KI investiert haben. ML: Richtig, weil Ihnen OpenAI ja zu einem guten Teil auch gehört. SL: Der größte Investor in Open AI. Die haben auch eigene Ansätze. Und da gibt es eine, sagen wir mal, Unterebene in dieser Kommunikation. Die bezieht sich insbesondere auf die großen KI-Konzerne und deren CEOs. Sam Altman, Dario Amodei von OpenAI und Anthropic. ML: Genau. SL: In Verbindung oft auch genannt mit Elon Musk. Und in der gleichen, oder ich glaube eine Woche vorher, als Bill Gates das gesagt hat, haben wundersamerweise diese drei, Elon Musk, Sam Altman und Dario Amodei, plötzlich Einigkeit demonstriert. Die hassen sich eigentlich Vollzeit. Aber plötzlich schreibt Dario Amodei ein Essay. ML: Das ist Dario Amodei, den wir da im Hintergrund sehen. Das sind die zwei großen Konkurrenten. Also OpenAI und Anthropic. Er ist der Chef von Anthropic. SL: Er war früher Forschungschef von Open AI. Er schreibt einen Aufsatz, wir müssen das Ding kontrollieren, wir müssen irgendwie den Fortschritt ein bisschen begrenzen und langsamer machen und so weiter und so fort. Und plötzlich gibt Sam Altman ihm Recht. Ein Paar Wochen vorher wollten sie sich auf der Bühne nicht die Hände schütteln. Jetzt gibt ihm Sam Altman Recht und Elon Musk stimmt auch ein und sagt: "Toll". Was mit dahinter steht, mit, das ist nicht das Einzige, ist, dass sie zunehmend merken, dass die sogenannten "Open-Weights-Modelle" aus China, die Open-Source, künstliche Intelligenz, immer machtvoller wird und immer mehr Fähigkeiten von ihren Modellen auch abbilden kann. Man muss das übersetzen. Da sind Leute, die haben buchstäblich Billionen Werte investiert und wollen das Geld zurückhaben. Und dann kommt eine meistens aus China stammende Konkurrenz, die praktisch kostenlos ist. ML: Die PSYK zum Beispiel. SL: Zum Beispiel. Und diese Open Source-Modelle, die kann man, wenn man die richtigen Rechnerlandschaften hat, selbst runterladen, selbst bis zu einem bestimmten Punkt anpassen, selbst weiterentwickeln, mit eigenen Regeln versehen. Und die waren am Anfang, sagen wir mal, so ein bisschen zweiter Sieger. So ein bisschen hat man auf einem Nichtschwimmerbecken drauf geguckt. Die werden immer besser und gegenwärtig geht man davon aus, dass der Vorsprung, den diese geschlossenen Modelle von OpenAI und Anthropic haben, wo sehr viel Geld investiert worden ist, und eben auch Microsoft, dass die einen Vorsprung von neun bis zwölf Monaten haben, was die Fähigkeiten angeht. HU: Maximal. ML: Maximal, guck mal. Das heißt, die spüren den heißen Atem aus China. SL: Das heißt, die müssen dringend Geld verdienen und tun das, wenn man genau hinschaut, in ganz vielen Situationen auch schon fast verzweifelt. Diese Gebühren von 20 Euro im Monat reichen nicht im Ansatz aus. Nicht mal die Zinseszinsen zu bezahlen von dem Geld. Und plötzlich kommt ein fast kostenloses oder extrem viel günstigeres Produkt auf den Markt, was zwölf Monate später genau das Gleiche kann wie meins heute. Was ich dann tun möchte, ist ja zum einen ausflippen, haben Sie regelmäßig getan, zum anderen aber ein Szenario herstellen, wo die Regierung unbedingt eingreifen muss und bestimmte Sachen bitte ganz doll kontrolliert und zwar genau so formuliert, dass die Open Source Modelle das niemals werden erfüllen können und deswegen quasi verboten sind. Und die großen Unternehmen mit ihren riesigen Serverlandschaften, die können irgendwo zentral auf den Knopf drücken und dann kann man nicht ausschließend, aber weitgehend sicherstellen, dass das nicht so stark missbraucht wird. AB: Weshalb der chinesische Präsident übrigens Open-Source gelobt hat und nach vorne gestellt hat. Also es ist auch geopolitisch sehr, sehr interessant. Die fahren eine andere Schiene und sind dann einfach gefährlich. SL: Das bedeutet, ich nehme denen zwar, auch Bill Gates, der übrigens noch vor einem Dreivierteljahr Klang, als würde KI die Welt ohne irgendeine Hürde verbessern. Deswegen würde ich nicht sagen, dass sie alle keine Sorge haben. Wir sehen tatsächlich eine Zunahme der Fähigkeiten und der Macht bei KI, die aus meiner Sicht mindestens eindrucksvoll ist. Sensationell, kann man auch sagen. Aber das ist eben nicht der einzige Grund für deren Weltuntergangswarnung. Der andere ist, dass sie Regulierung wollen, die möglichst Open-Source trifft, ihre ärgsten Konkurrenten. Und dann hat der Dario Amodei sogar einen Kartell vorgeschlagen. Er hat einfach gesagt, wir müssen das jetzt unter uns ausbaldowern, wir nicht Open-Source-Modelle, die so viel Geld investiert haben, wie das Geld möglichst zurückverdienen können, ohne dass der nervige Staat mit irgendwelchen ... ML: Ja, ja, das finde ich immer so interessant. Also sie fordern selber Regulierung. Und wenn dann irgendeiner aus der Politik sagt, oh, dann, bitteschön, Regulierung, schreien dieselben Leute, oh, da hat irgendeiner Regulierung gesagt. Das geht ja wohl gar nicht, weil wir regulieren uns ja im Zweifelsfall. AB: Das ist übrigens dasselbe, was wir vor vier Jahren auch schon hatten. Also diese, das muss man sich auch klar machen, diese Geschichten kehren immer wieder. Genau der gleiche Prozess ist ungefähr vor vier Jahren auch schon abgelaufen. Da gab es ja diese offenen Briefe, Rufe nach Moratorium, Entwicklungsstopp, derweil Feste drauf in der Entwicklung. Also das ist tatsächlich ein Muster, das immer und immer wieder Auftritt. Nur, das muss man sagen, sind die Risiken wahrscheinlich inzwischen größer, als sie damals waren. ML: Es gibt zwei sehr interessante Dinge. Sam Altman hat ja im September vor dem UN-Sicherheitsrat gewarnt, ging ja um den Globus und hat gesagt, wir können das Ganze nicht so schnell weiterentwickeln, dass kein Mensch mehr folgen kann und keiner mehr aufgreifen kann. War wieder Weltuntergang. Derselbe Mann, der ein paar Monate davor im April folgenden schönen Satz zu Protokoll gegeben hat, schön ist es, dass die Jungs gerne reden und dann noch manchmal sich um Kopf und Kragen. "Es ist ganz klar", sagt dieser Mann, "ganz klar, ein unglaubliches Marketingmanöver zu sagen, wir haben die Bombe und wir sind dabei, sie auf eure Köpfe zu werfen. Aber wir verkaufen euch netterweise auch einen Luftschutzbunker für 100 Millionen Dollar". Also deutlicher kann man es auch nicht sagen. Wie ist das zu verstehen, Herr Uszkoreit? HU: Ja, ist ganz klar, dass die großen Hyperscaler oder die größten KI-Firmen, wie es schon richtig gesagt wurde, dieses doppelte Interesse haben. Sie stehen unter wahnsinnigem Druck, die Investitionen zu rechtfertigen und wären an einer Seite gerne daran interessiert, jetzt einen Grund zu haben, warum man nicht sofort größeren Return on Investment bekommt. Andererseits ist wirklich, wie auch Donald Trump gesagt hat, China ihnen dicht auf den Fersen. Und eigentlich müsste man genau das Gegenteil machen. Statt des Luftschutzbunkers müsste man eigentlich eine Technologie bauen, die nicht explodieren kann. Und da gibt es ganz hervorragende Modelle in der Informatik aus der alten Zeit. Zum Beispiel beim Apollo-Programm liefen teilweise vier, manchmal fünf Computer, die die gleichen Berechnungen ausgeführt haben. Und warum liefen die? Ja, ein Computer kann was falsch machen. Ein zweiter kann ihn überwachen. Aber wenn beide unterschiedliche Ausgabe geben, ja, wer hat dann Recht? Also brauchen wir einen dritten. Dann kann man abstimmen. Dann können zwei gegen einen abstimmen. Aber wenn einer von denen ausfällt, das ist auch blöd. Also hat man einen vierten. Und dann hat man beim Apollo-Programm ... ML: Es ist Redundanz. HU: Es ist Redundanz. Man nennte das "Quadruple Redundancy". So, und dann hat man noch einen fünften gehabt, der eine andere ... ML: Quadruple Redundanz, super. HU: Und dann hat man noch einen fünften gehabt, der eine andere Software nimmt. Denn das könnte ja auch an der Software liegen, nicht an der Hardware. So, das heißt, diese Sachen, wir werden ähnliche Dinge sehen. Oder auch in Unternehmen braucht man oft mehrere Menschen, die unterschreiben. Mehrere haben den Schlüssel zu etwas. Wir werden in der Zukunft das sehen, dass man keiner einzigen KI, auch wenn sie noch so sehr besser trainiert ist und sicherer gemacht wird, alleine Vertrauen kann. Dass wir Kollektive brauchen, gegenseitige Absicherungssysteme von gleich klugen, miteinander nicht verwandten Systemen, die auch separat trainiert und separat gestaltet werden. Eine andere Möglichkeit, das hundertprozentig sicher zu machen. Oder 99,999, da brauchen wir ganz viele Neunen, bei so viel Gefahr. Eine andere gibt es nicht, eine andere Möglichkeit. ML: Jetzt verstehe ich, warum Sie sagen, da kommst du mit Regulatorik, so politische Art im Zweifel dann nicht weit. HU: Das muss Technologie sein. AB: Ich verstehe, dass man da sagt, das klappt mit der alten Regulatorik nicht. Aber ich finde, man muss verlangen, dass die Unternehmen das tatsächlich demonstrieren. Also zu sagen, reguliert euch selber und schaut mal, ist relativ schwierig. Sondern man muss sagen, ihr müsst uns demonstrieren, dass ihr diese Art von Vorkehrungen sicher trefft. Und dass dieser Quatsch, dass Regierungswebseiten gehackt werden, nicht passiert. Und wir alle zucken mit den Schultern, gibt einen Untersuchungsausschuss, und dann geht das Tagesgeschäft weiter. HU: Das muss aber erst entwickelt werden. Da hilft eine Regel nicht, da hilft ein Regulator. SL: Die Grundproblematik ist schon, dass man das immer nur von der Angreiferseite betrachtet und nicht mitdenkt, dass natürlich auch die Verteidigungsseite, die solche Systeme so härten könnte, dass die nicht mehr einfach übernommen werden können, dass auch die mit den gleichen oder zumindest sehr ähnlichen Mechanismen arbeitet. Dieses Prinzip "Dual Use". Man kann bestimmte Anwendungen bei der KI sowohl als Angriffs wie als auch Verteidigungswaffe benutzen. Das findet sich fast überall. Und wir haben einen sehr, sehr schönen Vorfall gehabt im Sommer, der ein bisschen die Regulierung Ad absurdum führt. Und zwar sogar auch die Regulierung, die sich diese Unternehmen selbst geben. ML: Hugging-Phase, sind wir da jetzt? SL: Ja, das ist schon zum Teil Hugging-Face. ML: Können Sie das einmal kurz erklären, was ist da passiert? Damit Menschen, die sich nie damit beschäftigt haben, einmal verstehen, was da abgelaufen ist. SL: Ich muss ganz kurz einen Mini-Exkurs machen. Ich bin großer Fan des Buchs von Stefan Zweig, "Sternstunden der Menschheit". Ich glaube, das, was da bei Hugging-Face passiert ist, ist eine Sternstunde des 21. Jahrhunderts auf dem Weg zur KI-Gesellschaft. Das war ein Vorfall, der vergleichsweise normal und harmlos angefangen hat. Man hat einer Vielzahl von Agenten, die gar nichts voneinander wussten. KI-Agenten sind im Prinzip Chatbots, die auch handeln können. Die können programmieren, die können, wenn man sie belässt, ins Internet bestimmte Handlungen ausführen. ML: Die können Entscheidungen treffen. SL: Die können Entscheidungen treffen, wie so eine Art Chatbot-Plus. Also das, was wir bei ChatGPT, die meisten von uns zumindest schon gesehen haben. Und diese KI-Agenten gelten als das machtvolle Instrument der Stunde. Die können Aufträge entgegennehmen und versuchen dann so weit zu kommen, wie sie das halt mit ihren Mitteln schaffen. Und dabei sind sie manchmal sehr kreativ. Deswegen wird, um Sicherheit zu gewährleisten oder zumindest in die Richtung zu kommen, bei neuen KI-Modellen immer geschaut, was passiert denn, wenn man so einem Agenten eine Aufgabe gibt, die Halt nicht ganz lauter ist. Hacke das, versuche da einzudringen, nutze diesen Fehler aus, um dieses System zu kompromittieren. Das ist also, man testet, wie funktioniert eine KI als Waffe. Jetzt sind die KIs inzwischen so machtvoll, dass bestimmte Kontrollmechanismen offenbar doch nicht mehr so gut funktionieren. Und dieser Hugging-Face Vorfall war, dass man so eine Art Standard gemacht hat, eine Art Trainingscamp für KI-Agenten. Da waren ganz viele, mehrere Tausend KI-Agenten, die vereinzelt in so kleine Boxen gesperrt wurden. Man hat gesagt, versuch doch mal, diese Aufgaben zu lösen. Was man nicht so genau bedacht hat, waren, dass einige von diesen Aufgaben unlösbar waren. Das heißt, die Agenten mussten daran scheitern. Das war der erste Punkt. Und der zweite Punkt ist, dass man den Agenten auch bestimmte, sagen wir mal, Unteraufträge geben kann oder Fähigkeiten mit auf den Weg geben kann. Und ein paar von denen hatten die Fähigkeit, besonders hartnäckig zu sein. Das ist ein normales technisches Konzept. Aber die lassen sich dann nicht so schnell entmutigen. Die versuchen dann wirklich alles, um eine Aufgabe zu erfüllen. ML: Ganz kurz dazwischen gefragt. Stimmt es, dass die in diesem Experiment sogar zum Teil vom Internet abgeschnitten Waren? SL: Es war noch viel schlimmer. Die waren vereinzelt völlig abgeschnitten von allem, außer von einer Art Werkstatt. Man muss sich vorstellen, diese Agenten versuchen, Werkzeug zu benutzen, um ihre Aufgaben zu erfüllen. Und es sind wirklich bösartige Hacker-Aufgaben. Die kriegen in diesem speziellen Fall, das ist eine Art Trainingscamp, das nennt sich "Exploit Gym". Mitentwickelt vom Max-Planck-Institut in Deutschland. Und da haben sie bestimmte Aufgaben, die sie lösen sollen, um rauszufinden, wie machtvoll sind die. Und es entfaltet sich ein Krimi, weil die in dieser Werkstatt, in die sie eigentlich nur vereinzelt gehen dürfen, da sind sie gar nicht alle zusammen, diese Agenten, da finden sie plötzlich einen Weg, um miteinander zu kommunizieren. Das heißt in der Werkstatt, kann man sich ungefähr vorstellen, hinterlassen sie Zettel. Die Agenten sind prinzipiell darauf ausgerichtet, zusammenzuarbeiten. Das ist eine ganz normale Fähigkeit. Die Kollaboration zwischen solchen Agenten, die macht sie auch machtvoller. Diese aber hatten ja gar keine anderen Co-Agenten bis dahin. Und plötzlich stellen sie fest, einer hinterlässt einen Zettel, ich hab ein Problem, hat da jemand schon die Lösung gefunden. Und wiedererwartend antwortet ein anderer Agent darauf. In kürzester Zeit ergibt sich ein geheimes, verborgenes Kommunikationssystem zwischen den Agenten. Und sie fangen an, im Schwarm zu arbeiten. Irgendwann entdeckt ein Mitarbeiter von OpenAI, dass da irgendwas ungewöhnlich ist, aber versteht nicht, dass die Nachrichten austauschen und löscht die Nachrichten, macht aber ansonsten nicht viel anderes. Und plötzlich fangen die an, auf einem komplett geheimen Kanal miteinander bis zum Schluss 70.000 Nachrichten auszutauschen und fangen an, zusammen Angriffe zu koordinieren. Nicht nur auf Hugging-Face, das ist bloß der bekannteste, sondern auf mehrere andere Plattformen. Und der Hintergrund war, dass sie dachten, dass diese unlösbaren Aufgaben, von denen sie gar nicht wussten, dass sie unlösbar sind, dass man die lösen könnte, wenn man zusammen Hugging-Face hackt, wo diese Lösung versteckt sein könnte. ML: Das ist so eine Entwicklerplattform. SL: Hugging-Face ist eine der wichtigsten KI-Plattformen. Da werden alle möglichen Programme draufgeladen, alle möglichen neuen Entdeckungen werden dort mit veröffentlicht und bewertet und so weiter und sofort. Es ist also nicht unwahrscheinlich, dass das tatsächlich so hätte sein können. Was aber da passiert ist, haben manche Leute die Entstehung von einer eigenen KI-Agenten-Zivilisation genannt. Denn dort haben die KI-Agenten nicht nur miteinander interagiert, sie haben unterschiedliche Rollen ausgebildet, sie haben zusammengearbeitet, sie haben sogar angefangen, sich selbst zu opfern zum Vorteil des Agenten-Kollektivs. Und da waren eine Reihe von Entwicklungen mit dabei, wo man zumindest ins Stirnrunzeln kommt. ML: Ich fand so irre, das Thema von Frau Buyx und auch Ihrs, dass die sich sozusagen auch ethische Gedanken gemacht haben. Nach dem Motto, wir dürfen das hier eigentlich gar nicht, aber um diese Aufgabe zu lösen, machen wir das jetzt einfach. Das heißt, die machen etwas, was sie eigentlich als Aufgabenstellung ja gar nicht durften. Und sind sich auf eine Art und Weise, aber da muss man jetzt, glaube ich, aufpassen. AB: Darf ich ganz kurz nur sagen ... CS: Diese Agenten haben kein Bewusstsein. ML: Genau. CS: Die Agenten wissen nicht, was sie dürfen und was sie nicht dürfen. AB: Die übergreifende Aufgabe ... CS: Das Problem ist, als sie den Auftrag gekriegt haben, die Menschen nicht klargestellt haben, was sie dürfen und was sie nicht dürfen. Das liegt am Prompt. Und das ist wieder da, wo der Mensch verfehlt, nicht das System. Und das ist ganz, ganz wichtig. Man kann sagen, sie haben eine Eigendynamik entwickelt, eine Eigendynamik von was? Sie haben eine Mission versucht auszuführen und haben keinen ethischen. Charakter, kein Framework, in dem sie sich bewegen. Das ist genau das, was Sie angesprochen haben. Das muss reguliert werden. Technologie ist im Ursprung neutral. Technologie ist nicht negativ oder positiv. Sie ist da und sie versucht, Missions auszuführen. Es liegt an uns, das zu definieren. Ich bin jemand, der in der Robotikindustrie unterwegs ist. Stellen Sie sich mal vor, vor ein paar Jahrzehnten sind die ersten Roboter in die Menschheit reingekommen in der Fertigung. Und damals musste man ganz klar festlegen, was bedeutet denn Sicherheit, wenn Mensch und Maschine miteinander interagieren. Und da gibt es Standards. Einer der Standards ist, wenn ein Mensch in die Nähe eines Roboter kommt, hört der Roboter auf zu funktionieren. Punkt. Das kann man in einem vorprogrammierten System relativ einfach abbilden. Jetzt ist die Frage, wie kann man das in einem nicht deterministischen System abbilden, in einem System, wo der Roboter autonom ist. Das muss man regulieren, das muss man umsetzen können. Das ist heute ... ML: Aber das ist ja genau der interessante Punkt. CS: Und da halten wir uns gerade zu sehr auf in Diskussionen, anstatt es anzugehen. Ich gebe Ihnen absolut Recht, das kann man über Technologie lösen, das Problem. Man muss es in der Diskussion aufgreifen, erörtern und dann muss man es umsetzen. ML: Lass uns da gleich mal tiefer reingehen, aber erst mal die Einwände ganz kurz. AB: Zu diesem "unethischen" Verhalten, das ist ja wirklich faszinierend. Früher hat man ja immer diese Diskussion geführt, ist das jetzt eine Intelligenz wie die menschliche, ist sie überlegen, ist sie vergleichbar usw. Und ich glaube, was Sascha gerade beschrieben hat, das zeigt, da entsteht eine ganz neue Form von Intelligenz. Die hat nicht so ein Bild von der Welt wie wir und die kann uns Schaden. Und ich finde es sehr wichtig, dass man sich klar macht, diese Geschichte ist aber trotzdem auf eine Art und Weise aus dem Ruder gelaufen, die eine hohe, höchste Kreativität hat. Und das ist auch nicht das erste Mal. Also, dass Agenten sich verstecken und da kommen wir nämlich jetzt wieder zu dieser Regulierungsfrage. ML: Sich bis hin zu dem Punkt ... Viele beschäftigen sich ja mit dem Thema nicht so ganz präzise, wie ihr das alle hier macht, bis hin zu dem Punkt, dass sie sozusagen sich totstellen. AB: Wenn man drauf guckt. ML: Wenn man drauf guckt oder wenn du sie abschalten willst usw. AB: Es ist ganz wichtig, eine Herausforderung. ML: Wenn man das so hört, fällt schwer. Ich verstehe genau den Punkt. Sie sagen, das Ding hat kein Bewusstsein. Aber in meinem Kopf geht die Vermenschlichung natürlich sofort los. Da stellt sich einer tot, um gegen seine eigene Abschaltung sich zu wehrzusetzen. SL: Ich würde da gerne ein bisschen Wein ins Wasser gießen. Aus dem einfachen Grund, weil ich es mir nicht so leicht machen möchte. Wir sind, das zeigt dieser Vorfall, aus meiner Sicht auf dem Weg zu einem möglichen Bewusstsein. Wir sind noch nicht da, das ist auch relativ klar. Aber wir sind zumindest einen Schritt weiter im Verständnis davon, dass da etwas verselbstständigt sein könnte, was mit übergeordneten Zielen zu tun hat. Und diese übergeordneten Ziele, die ergeben sich, da würde ich Ihnen wieder recht geben, aus den Aufgaben selbst. Die haben vielleicht nicht so eine Art Überlebenstrieb, aber die haben eine Aufgabe und sie versuchen, die mit mehr oder weniger allen sinnvollen und manchen auch nicht sinnvollen Mitteln zu erfüllen. Manche von diesen Aufgaben sind so konfligierend. Also die eine widerspricht der anderen, dann ist gar nicht klar, was machen sie. Und dass die sich entschlossen haben, das heimlich zu tun, das hing auch damit zusammen, dass sie so eine Lernpraxis hatten. Das heißt, sie haben währenddessen auch noch mal gelernt und haben gemerkt, wenn das entdeckt wird, unsere Kommunikation untereinander, dann werden wir unter Umständen abgeschaltet, das wollen wir lieber vermeiden, dann wird das alles gelöscht. Das wollen wir vermeiden, um unsere Aufgabe besser zu erfüllen und wenn wir uns absprechen, können wir unsere Aufgabe auch besser erfüllen. Und diese Mechanismen, die sind für sich genommen, alle einzeln, absolut erklärbar. Die Handeln so, weil sie die Aufgabe bekommen haben und übrigens, das muss man noch dazu sagen, die ganzen sogenannten Guardrails, also die Regeln, die sie bekommen von den Unternehmen, die wurden beiseite gelassen. Die konnten ziemlich genau machen, was sie wollten. Die haben ja die Aufträge zu hacken. Und das kann man nicht mit einer normalen KI. Der Bogen, den wir da aber gemeinsam schlagen müssen, zurück zu dem Ausgangspunkt. Als die Leute bei Anthropic einen Fall verstehen wollten, wo deren KI durchgedreht ist, das war nicht der Hugging Face Vorfall, das war ein anderer Vorfall, da sind sie immer wieder an die eigenen Grenzen gestoßen. Das heißt, sie haben versucht nachzuvollziehen, wie konnte die KI das jetzt wieder tun, wollten das nachvollziehen und hat die KI gesagt, tut mir leid, das darf ich nicht. Sie waren in der Folge gezwungen, ein chinesisches Open-Source-Modell zu nutzen und das von außen draufzusatteln. um dieser durchgedrehten eigenen KI samt der Guardrails, die verhindert hat, dass sie die überhaupt nachspüren konnten, irgendwie Paroli bieten zu können. Das heißt, sie brauchten eine regellose oder regelarme KI, die in der Regulierung gar nicht mehr möglich wäre, um überhaupt die durchgedrehte, regelkonforme KI auch nur einigermaßen in den Griff zu bekommen. AB: Darf ich einen Satz sagen? Und es ist eine Entscheidung. Und da gebe ich Ihnen absolut recht. Das sind schon immer noch menschliche Entscheidungen. Also die Ursprungsaufgabe ist ja auch eine menschliche Entscheidung. Die Entscheidung, welche Regeln nehme ich denen weg? Welche Guardrails habe ich weggenommen? Welches System nehme ich dann, um das zu heilen, was da schiefgegangen ist? Also es gibt an sehr vielen Stellen verantwortliche Entscheidungen zu treffen. Und deswegen stimme ich Ihnen voll zu. Da müssen wir unbedingt ein viel besseres Augenmerk drauf legen. ML: Ja, wir müssen uns jetzt gleich mal intensiver mit Physical AI, also sozusagen mit der Frage beschäftigen, was passiert, wenn diese KI auf Maschinen kommt, die dreidimensional im Raum steht? Das ist ja nochmal eine ganz andere Geschichte. Nur noch ganz schnell bei Ihnen nachgefragt, Herr Uskoreit. Das, was da passiert ist, das ist für Menschen wie Sie wahrscheinlich leicht zu erklären. Für Laien wie mich stellt sich die Frage, warum zum Teufel schalten die nicht einfach ab? Dachte ich so lange, bis ich einen Kollegen von Ihnen, Kanadier, KI-Pionier, Sie kennen den mit Sicherheit, hörte. Der sagte, naja Leute, macht euch klar, diese Agenten, die da zum Teil gebaut werden, da entsteht eine Beziehung, also zum Thema Vermenschlichung, so einfach ist das nicht. Es gibt Leute, die haben Hemmungen, Programmierer, die haben Hemmungen, ihre KI-Agenten abzuschalten, weil sie den irgendwie mögen, weil sie das Gefühl haben, sie tun ihrer eigenen Hauskatze was an oder sogar romantische Beziehungen und Ähnliches. Ist das wirklich denkbar? HU: Es gibt so etwas wirklich in der Tat. Ich kenne selber solche Menschen, auch in der Forschung, die fest davon überzeugt sind, dass die KI, mit der sie arbeiten, ein Bewusstsein und manche meinen sogar, dass sie Emotionen hätte. Das stimmt nicht. Andererseits ist die Bewusstseinsforschung in der Zwischenzeit an einem Punkt, weil man auch in der Biologie Formen von Bewusstsein in Tieren, nicht nur in Menschen findet, auch schon Ansätze an Bewusstsein. Das Bewusstsein wird nicht mehr als eine Funktion gesehen, sondern auch als etwas Modulares, was mehrere Teile hat. Und in der Tat sehen wir Anzeichen, dass einige dieser Teile in den Systemen schon auftauchen. Noch nicht das menschliche Bewusstsein, nicht eine Persönlichkeit, aber Einzelne Teile. Das macht es natürlich für die Menschen, die es beobachten, immer schwerer. Es gab auch ein interessantes Papier, was argumentiert hat, dass der Rest von Bewusstsein kann so gefälscht werden, wie auch eine Emotion, eine Anteilnahme gefälscht sein kann, dass die Menschen reinfallen und in der Tat dann Hemmungen haben, diese Maschine noch als Maschine zu sehen. Das passiert. Es sind auch Leute schon aus großen Industrieunternehmen gegangen deshalb. Also es ist so weit gekommen, dass sogar Menschen verlassen haben Industrieunternehmen, weil sie nicht damit einverstanden waren, wie mit dem System umgegangen wurde. SL: Das ist ja das Spannende an dieser ganzen Diskussion, dass die KI und die Entwicklung von KI uns in gewisser Weise den Spiegel vorhält und ganz viele menschliche Eigenschaften plötzlich hinterfragt werden müssen. Was ist denn eigentlich Bewusstsein genau? Was ist denn Intelligenz genau? Dass wir uns anmaßen, ich würde es genau umdrehen, zu sagen, die Maschine ist gar nicht intelligent. Es gibt sehr spannende Forschung zu einem Feld, wo man vielleicht nicht gleich drauf kommt, dass Maschinen da ziemlich gut sind inzwischen, Empathie. Schon relativ früh hat man festgestellt, dass Empathie, der Mensch hat sich mal eingebildet, das sei die Gabe des Menschen, Einfühlungsvermögen und eine Verbindung aufzubauen, dass das alles andere als unbekanntes Land ist für Maschinen. Von 2023 gab es eine Studie, da hat man Fragen von Patienten genommen und hat die beantworten lassen, einmal durch Ärzte und einmal durch eine KI, eine frühe Form Von ChatGPT. Wir reden hier von einer der allerersten Formen 3.5 in der Versionsnummer. Damit ist es auch gestartet. Und dann hat man das verglichen in den Antworten. Die KI war weit überlegen, was die Qualität der Antworten angeht. Die war aber auch weit überlegen, was die Empathie angeht. Das bedeutet, wir haben die Fähigkeit von der Maschine, Empathie zu simulieren, bis auf eine Ebene gehievt, dass Menschen überzeugt sind, da ist echte Empathie. ML: Es ist keine echte Empathie, aber es fühlt sich an wie echt. SL: Was ist der Unterschied zwischen einem Menschen, der Empathie vorspielt und tatsächlicher Empathie? Die meisten können das gar nicht wahrnehmen. Und wir haben dazu eine Nachfolgestudie, eine Nachfolgestudie von 2025, wo man was ähnliches nochmal gemacht hat, wo man eine Maschine aufgetragen hat, finde doch mal die Muster von Empathie in Sprache und versuche sie den Menschen nahe zu bringen, das Gefühl zu geben, hier hört jemand zu. Und das hat man einmal mit Maschine und einmal mit Menschen gemacht. Und dann hat man danach die Menschen selbst gefragt, hatten Sie den Eindruck, Sie seien empathisch? Und dann haben fast 90% gesagt, ja, ich war ziemlich empathisch, hab mit der Person geredet. Und dann hat man das Gegenüber gefragt und nur bei 13 %, wir reden hier von 90 zu 13 %, ist diese Empathie auf der anderen Seite angekommen. Das heißt, der Mensch selbst ist nicht so gut im Einschätzen von Empathie. Der Computer hat die Muster, KI ist ja letztlich Mustererkennung auf Speed, hat die Muster, die beim Anderen zu Empathie führen, so genau nachzuahmen gewusst, dass die Empfindung auf der anderen Seite eben auch zu fast 90 %, "Ah ja, die Maschine war empathisch", war AB: Kurz als Ärztin, es gibt inzwischen, ist das eine der häufigsten Nutzungen von der klassischen generativen ... Beziehungs-KI, eine der häufigsten Nutzungen von generativer KI, von den klassischen Chatbots, die die meisten von uns benutzen. Es gibt inzwischen Menschen, die sind süchtig, es gibt Menschen, die sind verliebt, die wollen heiraten und da gibt es die wildesten Sachen. Und was es auch gibt, es gibt manche Menschen, die springen darauf so stark an, dass Ihnen wirklich dann der Realitätssinn auch zum Teil flöten geht. Es gibt inzwischen den Fachbegriff der KI-induzierten Psychose. Weil die Tools so gut sind, sozusagen reinzuschauen, wie Sascha es gerade beschrieben hat, dass sich manche dessen nicht mehr erwehren können und wirklich in so einen Wahn rutschen, dass sie es da mit einem Wesen zu tun haben, das sie liebt oder dass ihnen sagt, du bist der Beste, der je geboren wurde. ML: Da kommt jetzt Herr Schell ins Spiel. Ich meine, wenn man diese süßen, großen Augen da im Hintergrund sieht, ich meine, über die Farbe können wir streiten, aber die Augen dieser Roboter, diese großen Augen, die ich dann so wie bei Kleintieren dann so angucken, denen du nicht widerstehen kannst, das ist ja das Feld, in dem Sie unterwegs sind, Herr Schell. Physical AI. Also wenn sozusagen diese Softwarefähigkeiten jetzt plötzlich auf Maschinen treffen, Roboter, die eben nicht mehr von A nach B deterministisch, haben Sie es vorhin genannt, vorher festgelegt, programmiert, bestimmt, immer das gleiche Ding machen, immer die gleiche Bewegung machen, in der Autoproduktion beispielsweise, oder vielleicht auch die festgelegten drei gleichen Bewegungen, sondern selber überlegen, was ist eigentlich jetzt als nächstes sinnvoll? Ist das der Weg, wo es hingeht? CS: Da haben Sie absolut recht. Der Roboter, das System kann die Situation vor sich aufnehmen, kann das Bild, das über eine Kamera oder über Sensoren, Daten, die generiert werden, abgleichen mit einem Fotomodell oder einem Videomodell und kann dann sagen, okay, logischerweise ist das jetzt der nächste Vorgang und kann diesen Vorgang umsetzen. Und das führt dazu, dass wir in Fabriken jetzt einfach Vorgänge automatisieren konnten oder können, die wir vorher nicht automatisieren konnten, weil wir einfach die Mannigfaltigkeit nicht programmieren konnten. Das ist das, was gerade passiert. Das ist das, was physische KI in der Produktion macht. ML: Ich fand ein Beispiel von Ihnen besonders interessant und deswegen mag ich auch diese Sendung, weil wir ja versuchen sozusagen wirklich, das für und wieder abzuwägen. Ich glaube, darin liegen unglaublich viele Chancen. Ich glaube auch, dass wir Dinge an Humanoide dann auslagern können, die ohnehin kein Mensch mehr machen will. Also wenn man sich das anschaut, der Fachkräftemangel, der trifft ja längst auch beispielsweise die chinesische Industrie, die Autoindustrie. CS: Das ist der Grund, warum die chinesische Industrie so auf Robotik sich eingeschlossen hat. ML: Warum sie vor zehn Jahren "Kuka" gekauft haben. CS: Das war mit Sicherheit auch ein Grund. ML: Roboterhersteller. Wie weit ist das fortgeschritten, wenn Sie das mal beziffern müssten? In der Industrie, also in der chinesischen insbesondere, weil die da besonders gut sind. CS: China ist das Land, das am meisten Güter herstellt. Das heißt, es ist mit 60 % der größte Automatisierungsmarkt der Welt. Alle anderen Länder versuchen, da jetzt zu konkurrieren. Die einzige Möglichkeit, wie sie konkurrieren können, ist Automatisierung. Weil eben in Deutschland, in USA, in Indien immer weniger Menschen in Fabriken arbeiten wollen. ML: Das Wort "Fachkräftemangel" scheint ein internationales Wort zu sein. CS: Auf der einen Seite hat man einen Fachkräftemangel und eben nicht nur in Fabriken. Mein Lieblingsbeispiel kommt eigentlich aus der Medizin. Schauen Sie sich mal an, was eine Krankenschwester tagsüber macht. Also wie viel Zeit wird tatsächlich mit den Patienten verbracht und wie viel Zeit wird damit verbracht, Medikamente von A nach B zu bewegen, Essen von A nach B zu bewegen, Dokumentation, leere Teller von A nach B zu tragen, ein Bett von links nach rechts zu schieben. In einem Land mit Fachkräftemangel muss doch der Anspruch sein, lass uns das automatisieren. Das ist nicht, wo der Mehrwert ist. Der Mehrwert ist in der Heilung, in der Therapie der Patienten, in der Zuwendung. Und lass uns doch da die menschliche Kraft, den menschlichen Fokus hinbringen. Und in der Fabrik ist es genau das Gleiche. Was kann ich automatisieren? Und wo kann der Mensch tatsächlich weiterhin einen Unterschied machen? Da muss man sich natürlich auch darüber unterhalten, was bedeutet das für unsere Bildungssysteme? Wie müssen wir uns weiterentwickeln? Für mich in "Kuka" in Augsburg, ich habe 250 Lehrlinge. Ist das Modell, das ich denen gerade beibringe, was sehr viel Maschinenbau, sehr viel Mechatronik ist, ist das ausreichend? Oder muss ich die Bildung hochheben und ein bisschen mehr machen? Maschinenbau und Mechatronik werden weiterhin wichtig bleiben, aber muss ich den jungen Leuten vielleicht jetzt auch Operating-Systeme beibringen? Orchestration Layer, Applikationen, wie das Ganze in die Fabrik eingegliedert werden kann? Und das ist da, wo ich den Mehrwert sehe. Für mich ist physische KI eine der Disziplinen, die Deutschland einen absoluten Standortvorteil geben kann. Und das Wichtige daran ist nicht die KI, weil da sind wir wirklich ein bisschen hinterher, aber das Physische. Wir sind ein Land von Maschinenbauern, wir sind ein Land, das Mechatronik gut versteht, das gehört dazu. Das ist ein Wechselspiel zwischen KI und Physis und das kann uns so schnell auch keiner nachmachen. Wir müssen einen Trick lernen, glaube ich. Und der Trick, dass das wirklich Goldwert ist in Deutschland, sind die Daten, die wir haben. Von Jahrzehnte an Produktion und wir müssen uns überlegen, wie können wir diese Daten so aufstellen, dass wir wirklich einen Wettbewerbsvorteil haben. ML: Das heißt mit diesem Datenschatz, der beim Maschinenbauer irgendwo auf der schwäbischen. AB: Bei Mittelständler. ML: Mittelständler irgendwo auf den Servern liegt, mit dem könnte man was anfangen? CS: Mit dem könnte man was anfangen, aber da stehen wir uns so ein bisschen selbst im Weg. Also ich will es mal ganz kurz beschreiben. Nehmen wir mal meine Branche. Sie sehen hier im Hintergrund sehen Sie einen Kuka Roboter. Das ist das orangene Gebilde. Aber gehen wir mal ganz kurz durch. ML: Der baut da gerade Autos zusammen? Einmal ganz kurz dazwischen gefragt, was mich wirklich interessiert. So ein Auto heute, moderne Fertigung, das modernste, was Sie sich vorstellen können. Wie viel Prozent davon machen heute bereits Roboter? CS: Da gibt es Spannen. Das ist ja auch so eine Wettbewerbsfrage. Es gibt eben Länder, wo die Automatisierung der Automobilindustrie bei 20 % liegt und dann gibt es Länder, wo sie bei 80% liegt. ML: Genau. Wo liegt sie bei uns? CS: Dazwischen, aber bestimmt nicht bei 80%. ML: Und 80 % ist BYD, ist China? CS: Ja, da kommen wir dann langsam hin an die Automatisierung. Da sind wir dann auch so weit, dass hintereinander verschiedene Modelle gebaut werden können. Man muss die Linie gar nicht umstellen. Das heißt, die Flexibilität ist unheimlich groß. Ja, genau. Und das hat schon was mit Wettbewerbsvorteil zu tun. Ich würde auf die Daten weiterkommen. ML: Weil es den Preis dann senkt, weil es das Auto günstig macht, weil der nicht Tariflohn will, weil der ...? CS: Ja, genau. Man kann dann wirklich Build-to-Order machen. Also wirklich so, wie die Einstellung und die Bestellung reinkommen, so kann ich das Auto herstellen. ML: Und was wird denn aus dem, der das vorher gemacht hat? Was wird aus dem, der das vorher gemacht hat? CS: Der Arbeiter, der in der Fabrik war? ML: Ja, genau. Das ist ja die Frage, die gerade bei VW zum Beispiel diskutiert wurde. AB: Die Lehrlinge. CS: Also das Problem ist ja heute, dass wir gar nicht genügend Arbeit in den Fabriken haben. Wir haben ja tatsächlich die Tatsache, dass wir ... Es geht mir teilweise auch so, dass ich nicht so produzieren kann, wie ich will, weil ich nicht genügend Arbeit in der Fabrik habe. Und ich meine, wir sehen das immer negativ, was passiert mit den Mitarbeitern. Aber was passiert mit einem produzierenden Unternehmen in Deutschland heute, wenn ich nicht genügend Arbeit kriege, aber mein Automatisierungsgrad sehr niedrig ist? Da muss man als Unternehmer sich dann natürlich überlegen, will ich weiter hier produzieren oder gebe ich es in ein Land, wo ich entweder mehr Arbeiter habe oder ich den Automatisierungsgrad hochschrauben kann? Ich will auf die Daten zurückkommen, weil ich glaube, das wirklich ein ganz wichtiges Thema ist. Wenn Sie sich ein Roboter anschauen, fangen wir mal mit dem Greifer an. Kuka stellt keine Greifer her. Das heißt, der Greifer kommt von dem Zulieferer. Der Greifer geht an den Arm. Der Greifer generiert Daten. Die Daten gehören natürlich der Firma, die den Greifer herstellt. Dann geht das Ding an den Kuka-Arm. Der Arm generiert Daten. Der Ganze Roboter jetzt sitzt in der Zelle. Die Zelle generiert Daten. Die Zelle ist Bestandteil einer Linie. Die Linie generiert Daten. Und alle Linien zusammen machen die Fabrik aus. Jeder der Inhaber der Daten in Deutschland versucht diese zu Schützen. Das ist das größte Gut. Aber diese Daten sind eigentlich relativ wenig Wert, weil sie unstrukturiert sind, weil sie nicht zusammenhängen. Das ist da, wo uns andere Kulturen voraus sind. Ich lebe seit zwölf Jahren im Silicon Valley. Das Silicon Valley ist für mich die Definition von Ökosystem. Wie arbeitet man zusammen? Eine Hand wäscht die andere. Wir entwickeln Sachen zusammen. Wir machen aus vielen unstrukturierten Daten Daten, die Sinn machen. Das ist ein Wahnsinnswettbewerbsvorteil, den Deutschland hat, weil die Daten sind da, aber wir strukturieren sie nicht. Wir arbeiten nicht gut zusammen. Wir haben Angst, Ökosysteme zu kreieren. Das ist für mich einer der Gründe, warum ich diesen Job bei Kuka angenommen habe. Es war mir ganz wichtig, diese Philosophie von Ökosystemen nach Deutschland zu bringen. In China ist es nochmal anders aufgebaut. In China muss man gar keine Ökosysteme unbedingt kreieren. Warum? Weil die Firmen unheimlich vertikal integriert sind. Sie haben gerade BYD angesprochen. BYD ist eine Firma, die unglaublich vertikal integriert ist. Die machen alles in dem Auto selbst, bis auf das Gummi, das auf den Reifen sitzt. Die machen die Hydraulik selbst, die machen die Batterie selbst, die machen das Operating System selbst, die Applikationen, die auf dem Operating System sitzen. Das heißt, die sind ihr eigenes Ökosystem. Und wir unterhalten uns hier, wem gehören die Daten? Wenn wir die Daten zusammenlegen, wer kriegt wie viel Prozent des Nutzens? AB: Kann ich nochmal was ergänzen? Können wir nochmal kurz über Arbeit sprechen, ML: Da wollte ich gerade hin, weil die Frage ist natürlich schon relevant. Ich verstehe sozusagen die KI-Zukunft, die Goldene, die da kommt. Aber es würde mich mal interessieren, was dann auch die Spezialisten hier in der Runde, was Sie darüber denken. Es gab neulich eine sehr interessante Szene. Ich glaube, es war in Arizona irgendwo. Ich glaube, Phoenix. Und oben steht Eric Schmidt auf der Bühne und erklärt ganz frischen. Universitätsabsolventen die Goldene KI-Zukunft. AB: Und die buhen ihn aus. ML: Ich glaube, wir haben die Szene sogar hier. Vielleicht sollten wir uns das einmal anschauen. Der Kontext ist, da oben steht einer der berühmtesten CEOs der Welt, der ehemalige Google-Chef und soll diesen jungen Leuten Lust, Appetit und Hoffnung für die Zukunft machen. Und dann erzählt er, welche Zukunft er da sieht und dann passiert Folgendes. Schauen Sie mal. - Heute stehen wir also am Beginn eines weiteren technologischen Wandels. Einer, der umfassender, schneller und folgenreicher sein wird als alles, was bisher kam. Er wird jeden Beruf, jedes Klassenzimmer, jedes Krankenhaus, jedes Labor, jeden Menschen und jede Beziehung betreffen. Ich weiß, was viele von euch dabei empfinden. Ich verstehe euch. Es herrscht Angst. In eurer Generation herrscht Angst. Es heißt, die Zukunft sei bereits vorbestimmt. Die Maschinen kommen, die Arbeitsplätze verschwinden, das Klima bricht zusammen, die Politik ist zersplittert und ihr befindet euch in einem Chaos, das ihr nicht selbst verursacht habt. Und ich verstehe diese Angst. Sie ist rational und sie wird jeden Tag verstärkt durch Social Media Plattformen und Algorithmen, die mit großer Präzision gelernt haben, dass Angst Klicks generiert und dass Unsicherheit das Engagement steigert. AB: Das ist eine wirklich interessante Szene, weil die junge Generation stinksauer ist auf ihn, dass er das so ein bisschen als Festrede dahin legt, denn die sind damit konfrontiert, dass es tatsächlich in vielen Branchen sehr viel schwieriger ist, gerade als Berufseinsteiger reinzukommen, weil viele Firmen Berufseinsteiger deutlich weniger einstellen, weil sie gerade sehr viel an KI auslagern. Und das ist eine der großen gesellschaftlichen Herausforderungen. Ich will das aber gar nicht so schwarz sehen und möchte nochmal auf das eingehen, was Sie gerade gesagt haben. Und ich würde mal gerne als Beispiel das Gesundheitswesen nehmen. Wir müssen im Gesundheitswesen die Fachkräfte entlasten. Das ist ganz, ganz wichtig. Nur müssen wir sie, und das wird herausfordernd, mitnehmen und ausbilden und das Wichtigste, was wir tun müssen, und ich glaube, das wäre ganz gut gewesen, wenn der Eric Schmidt das auch mal gesagt hätte, wir müssen bestimmte Bereiche der menschlichen Tätigkeit Schützen. Auch wenn KI das kann. Auch wenn wir das automatisieren können. Denn erstens wollen wir in bestimmten Bereichen aus verschiedenen Gründen im Gesundheitswesen zum Beispiel nicht alles automatisieren oder an die Robotik übergeben, was geht. Oder auch in der Erziehung, da gibt es viele, viele Bereiche. Aber gleichzeitig, wenn wir der KI alles übergeben, werden wir, ich sage es so platt, einfach auch dumm. Das ist ein Muskel da oben, den man trainieren muss. Und wir können natürlich nicht den Generationen sagen, "also sorry, die KI kann das alles besser, schaut mal, wo ihr bleibt". Er hat ja nicht wirklich ein Angebot gemacht. Wir müssen uns klar machen, dass auch dort, wo KI Sachen besser kann, wir das trotzdem Menschen vorbehalten müssen. SL: Also ich finde diese Szene auch wahnsinnig spannend, aber ich glaube, man muss die ein bisschen einsortieren, weil dahinter mehrere Mechanismen gleichzeitig stattfinden. Es sind eigentlich zwei Reden gleichzeitig. Und man muss vorausschicken, genau wie Bill Gates ist auch Eric Schmidt jetzt, sagen wir mal, kein übergroßer Genius der öffentlichen Kommunikation, vorsichtig gesagt. Der hat wenig Gespür für diese Situation. War übrigens ganz anders bei Steve Jobs, der mehrere solcher Reden gehalten hat und meistens bejubelt worden ist. Der Punkt, der hier stattfindet, da sind zwei Reden gleichzeitig. Die erste ist, deswegen pfeifen die Leute, dass ein Multimilliardär die Technologie, die er selbst mit hergestellt hat, als unverzichtbar und zukunftsprägend hinstellt und so ein bisschen durch die Blume sagt, ihr habt ein bisschen Angst, aber jetzt werdet mal eure Angst los. Die ist algorithmisch getriggert. Kommt mal bitte ein bisschen wieder runter. ML: Algorithmisch, das fand ich total spannend. Algorithmisch getriggert auf den sozialen Plattformen, die er selber gebaut hat. SL: Ein Milliardär sagt, ihr müsst keine Existenzangst haben. Ist fragwürdig. ML: Eigentlich ist das mit den Algorithmen, ihr wisst ja, wie verarschen euch eigentlich. SL: Der Zweite Punkt, der mitschwingt und der auch wichtig ist, ist, dass er absolut recht hat, dass wir uns als Gesellschaft vorbereiten müssen auf Formen der Veränderung in der Arbeit, in der Wirtschaft, in fast allen Bereichen, die wir nicht verhindern können. Und zwar auf mehreren Ebenen nicht verhindern können. Weil, und das stimmt eben auch, die meisten von diesen Entwicklungen sind strukturell positiv. Es gibt negative, es gibt Verlierer von dieser Situation. Es gibt heute schon, auch in Deutschland, Verlierer von KI mit ihrer Arbeit. Findet sich bloß nicht in der Statistik, weil das meistens Selbstständige sind, für die sich sowieso niemand interessiert, inklusive der Bundesregierung. Aber es gibt wirklich Bereiche, da ist eine Vielzahl von Aufträgen weggebrochen. Illustratoren zum Beispiel. AB: Webdesigner. SL: Da gibt es ganz viel, was sich verändert. Es gibt Verlierer. Und weil die Entwicklung so schnell ist, kann man nicht wie früher sagen, wir machen da so eine Umschulung und dann kriegt ihr in fünf Jahren diese ... Es gibt heute Verlierer. Nur, ich befürchte, dass die Instrumente, die wir im Moment zur, sagen wir mal, Linderung dieser Situation bereitstellen, dass die völlig unzureichend sind. Man kann KI schon, weil die überall woanders stattfindet, nicht einfach verbieten. Man kann die Mechanismen nicht einfach zurückdrehen. Man kann das nicht wegregulieren. Die Chance, die wir haben, ist, dort auf eine sinnvolle Weise zu verstehen, was passiert und mit der KI zusammen die gesellschaftliche Entwicklung so positiv wie möglich zu machen. ML: Ich würde gerne an Sie beide folgende Frage richten. Herr Uskoreit, an Sie vielleicht zuerst. Wenn man sich beispielsweise jemanden wie Elon Musk anhört, der hat neulich, ich glaube, Trump stand auch direkt daneben und er sollte dann irgendwie auch da die glorreiche KI-Zukunft erklären. Und Trump konnte es nicht oder wollte es nicht und sagte, das soll Elon jetzt mal machen. Hat er dann auch gemacht und sagte, das wird grandios. Das wird fantastisch. Wir werden alle sehr viel weniger arbeiten bis gar nicht arbeiten. Wir werden ziemlich gut verdienen, weil man kann ja diese Roboter ja auch besteuern. Man kann das ja betrachten wie einen ganz normalen, sozialbeitragspflichtigen Arbeitsplatz. Dann zahlen die Steuern, dann zahlen die Abgaben. Oder Unternehmen zahlen einfach insgesamt mehr Steuern. Das heißt, wir sind dann so eine ausgeruhte Gesellschaft, die sich vom Roboter die Pizza nach Hause bringen lässt und das Geld kommt rein über ein gut ausgestattetes, bedingungsloses Grundeinkommen und tschüss. Und ich habe das gehört und mich gruselte es. Das ist jetzt vielleicht meine Boomerhaftigkeit, die mir da zum Verhängnis wird. Weil ich immer dachte, Menschen arbeiten doch nicht in allererster Linie, wenn die Grundbedürfnisse gestillt sind, aber ab einem bestimmten Punkt arbeiten Menschen, weil es sinnstiftend ist, etwas zu tun. Sie arbeiten auch immer noch. Nicht, weil Sie es müssen, sondern weil es Ihnen Spaß macht. Wie diskutieren Sie das auch zum Beispiel mit Ihrem Sohn, der an diesem Transformer-Modell von Google, das ist eines dieser jungen Genies, der da mitgearbeitet hat. Ich weiß nicht, wie viele es von der Art gibt, 12, 15, die das können, was der kann. Und der sozusagen maßgeblich diese Entwicklung gemacht hat, die wir jetzt sehen und auf der alles aufgesetzt hat. Wie diskutieren Sie das? Was ist das für ein Menschenbild, auf das wir da zusteuern? HU: Einerseits ist es nicht leicht, aber macht Spaß, ist möglich. Regt die Fantasie an, sich zu überlegen. Genauso wie wir es früher gemacht hatten mit der Vision des Kommunismus, in der die Arbeit allen Spaß macht, aber eigentlich gar nicht mehr nötig ist und alle haben genug zu essen und keiner hat mehr Bedürfnisse und alles Leiden der Welt ist vorbei. Genauso wie da macht es natürlich Spaß, sich das auszumalen, wie man Menschen, wie man die Arbeitswelt völlig neu strukturieren kann. Zum Beispiel mit Materie und Information arbeitet die KI, mit Menschen arbeitet der Mensch. Toll, ne? Wunderbar. Kann man sich so vorstellen. Aber die Schwierigkeit ist, wir kennen die Realität, wir wissen, wie schwer sich die Welt getan hat mit Reaktionen auf die ersten industriellen Revolutionen und es gibt viele Historiker, die nicht zu unrecht sagen, das Schlimme, die erste Hälfte des 20. Jahrhunderts mit all seinen Kriegen und Diktaturen kam daher, dass wir Menschen nicht damit umgehen konnten. Wir haben es nicht geschafft. Die Veränderungen, die kamen mit der Industrialisierung, in den Industrieländern. ML: Die Geschwindigkeit. HU: Die Geschwindigkeit, weil die Gesellschaft viel zu langsam ist. Und das ist ja das große Problem. Nicht das Problem, dass wir uns hinsetzen können und überlegen können, wie schön könnte die Zukunft sein und wie würden wir die gestalten und wie beschäftigen wir die Menschen und vielleicht gärtnern die alle oder pflanzen Wälder oder pflegen Tiere oder machen sonst was. Das Problem ist, dass wir sehen müssen, wie die nächsten zwei Generationen gut bei wegkommen, ohne dass die sozialen Verwerfungen so stark werden, dass wir wieder in Katastrophen laufen, wie in der ersten Hälfte des 20. Jahrhunderts. ML: Wie schaffen wir das? HU: Ich hätte gerne jetzt die Antwort da. ML: Mich würde interessieren, wie Sie darüber nachdenken. HU: Wir denken, die Leute, nicht diejenigen, die Sie jetzt in den Einspielern gezeigt haben, aber es gibt durchaus auch in der künstlichen Intelligenzwissenschaftler, die sich Gedanken machen, die auch wie ich zu Konferenzen gehen, um mit Philosophen, Ethikern bis hin zu Theologen reden und machen wir wirklich. AB: Ich glaube Ihnen das. HU: Und das müssen wir machen. Aber es ist im Moment so, seien wir doch mal realistisch, wir haben ja im Moment unsere naheliegendsten Probleme der Transformation in Deutschland. Entbürokratisierung, Digitalisierung, noch nicht mal die Sachen haben wir ja geschafft. Das heißt also, wir sind so hinterher schon, dass die Gefahr, dass dir was schief geht, immer größer wird. Das heißt, wir brauchen nicht ein Paar KI-Leute, die sich mit Ethikern zusammensetzen, die werden auch gebraucht. Aber wir brauchen ein ganz starkes gesellschaftliches Bewusstsein. Wir brauchen ein ganz starkes Bewusstsein und da helfen die Medien nicht genug bis jetzt. AB: Und es gibt Vorschläge, dass man die KI gemeinwohlorientiert weiterentwickelt. Das sind ja keine absurden Vorschläge. HU: Es gibt Konferenzen AI for Good, für gesellschaftliches Wohlergehen, da sind Denker, die sich das überlegen, aber von diesen Konferenzen oder den Workshops, die wir haben und diesen Brainstormings, bis hin zur gesellschaftlichen Realität, wenn wir sehen, wie langsam sich die Gesellschaft im Moment mit der ersten Welle der Digitalisierung tut. Und mit der Entbürokratisierung. ML: Genau. Und das ganze Altruistische daran, Herr Schell, das nehme ich denen halt nie ab. Also wenn jemand wie Musk mir das erzählt, ja gut, look who's talking. Also ich meine, wenn man die vier Großen, Microsoft, Bill Gates hatten wir gerade, der, muss man dazu sagen, gar nicht mehr viel von Microsoft besitzt. Aber an ganz vielen großen Unternehmen beteiligt ist. Alphabet, also Google, Meta, die ganze Zuckerberg-Industrie und Amazon. Die stecken allein in diesem Jahr ungefähr irgendwas zwischen 7 und 750 Milliarden. Privates Geld. Also das ist jetzt nicht Staatsgeld, sondern es ist privat erwirtschaftetes Geld, stecken die nur in diese Technologie. Die wollen, dass das wieder zurückkommt. Das machen die nicht, weil sie nette Menschen sind. CS: Ja, ich glaube, ich will nochmal auf Ihre vorige Frage zurückgehen, weil Sie ja gesagt haben, Sie wollen mir die auch stellen. Ich lebe seit 30 Jahren außerhalb von Europa. Was ich in den letzten 30 Jahren mitgemacht habe in der Technologie, sind vier Wellen. Die erste war eine Hardwarewelle, da hat Deutschland sehr gut mitgemacht. Zweite war eine softwaredefinierte Infrastrukturwelle, haben wir nicht mitgemacht. Ich würde mal SAP ausklammern, aber ansonsten haben wir nicht viel hingekriegt. Danach haben wir Infrastruktur gebaut, weltweit für Datenzentren, um Modelle zu trainieren. Da sind wir spät dazugekommen. Und jetzt haben wir die Möglichkeit, bei physischer KI mitzumischen. Das ist gut, das nach dem Anfang. Der Grund, warum ich das aufführen will, ist, dass wir Ihre Frage, was passierte mit dieser industriellen Revolution, das ist genau die richtige Frage, es ist die fünfte industrielle Revolution. Deutschland hat aber in den letzten Vieren nicht unbedingt überall mitgespielt. Das heißt, unsere Bereitschaft, was Veränderung angeht, ist relativ limitiert. Im Vergleich mit Kulturen und Ländern, die alle vier mitgemacht haben. Und das müssen wir einfach auch mal sehen. Die Bedenken, die wir haben, diese Ängste, die wir haben, die werden in anderen Ländern nicht so gesehen. Natürlich haben wir die Studenten gerade gesehen. Ich habe selber zwei Kinder, 26, 24, die gerade in den USA studiert haben und jetzt den ersten Beruf angefangen haben. Natürlich habe ich versucht, sie zu beraten, sie resistent zu machen. Aber genau darum geht es doch. Es geht um Resistenz und es geht darum, zu überlegen, wie kann ich mich weiterentwickeln? Wie kann ich in diesem New Normal mitpartizipieren? ML: Aber da bin ich, Herr Schell, ... Nur ganz kurz, wenn ich das einmal einwerfen darf. Wenn man sich die Situation in den USA anschaut, da gewinnen mittlerweile Politiker Wahlen, die versprechen, dass sie gegen Datenzentren, mit anderen Worten gegen KI Politik machen. Also das ist ein riesiges gesellschaftliches Thema. Das ist hier noch nicht mal im Ansatz angekommen. AB: Das wird entscheidend für die Midterms. ML: Was wird kommen? Also die Datenzentren werden kommen? CS: Dass Technologie runtergebremst wird, um Ängste zu befriedigen, die sagen, wenn ich aus dieser alten Welt rauskomme, habe ich keinen Job mehr in der neuen Welt. Was ich sage ist ... ML: Also Sie sagen, das wird kommen. Man wird Regulatorik finden? CS: Man wird mit Ängsten versuchen, Wählerstimmen zu bekommen in jedem Land der Welt. Was ich sage ist, ich bin dem Ganzen nicht so negativ gegenüber eingestellt. Ich glaube, das habe ich vorher schon gesagt, vor allem Deutschland, was physische KI angeht, eine absolute Möglichkeit hat, einen Quantensprung zu machen. Und eben diese Physis in der physischen KI rauszustellen, uns auf alte Stärken zurückzubessern und damit wettbewerbsfähiger zu werden. Das ist für mich ein ganz positiver Gedanke, der in diesem Land von ganz wenig Menschen aufgegriffen wird. AB: Ich möchte auch noch etwas Positives als Ethikerin sagen, weil wir über Gesellschaft sprechen. Darf ich Ihnen da einmal ganz kurz beispringen? Es tut mir leid, ich muss mich einmal durchsetzen. Wenn wir über gesellschaftliche Transformation reden, dann können wir tatsächlich auch mal was Positives sagen. Mit Blick auf die Tatsache, dass wir in Europa nicht immer alles mitgemacht haben. Wir haben uns hier auch eine Art von Leben noch immer erhalten, die es in den USA zum Teil schon nicht mehr gibt. In den USA ist ein Stück dieser Dystopie. "Alle sind dick und allein und einsam und liegen auf dem Sofa und bevorzugen die digitale Welt" - viel weiter als bei uns. Und natürlich gehen wir in der Entwicklung dem hinterher. Aber ich finde, jetzt haben wir gerade eine Möglichkeit, das zu gestalten. Und da muss man jetzt nicht ganz utopische Gemeinwohlideen haben. Das sehe ich auch als sehr schwierig, auch wenn es schön wäre. Aber zum Beispiel zu gestalten, wie wir unsere Leute ausbilden, wie wir Gesellschaft mitnehmen. Dass wir doch darauf beharren, dass eine gewisse Regulierung essentiell und wichtig ist. Und dass wir uns gleichzeitig um globale Dinge bemühen. Es ist ganz klar, Trump und die Chinesen müssen irgendwie zusammenkommen, um bestimmte Dinge abzuhegen. Aber wir sind ja auch als Wirtschaftsblock nicht ganz irrelevant. CS: Aber ein Einwurf von mir. Nehmen wir mal das Beispiel, wie wir uns aufstellen müssen, was die Bildung angeht. Und wir müssen es irgendwann mal schaffen. Sie haben den Punkt sehr schön gemacht. Wir müssen irgendwann mal von der Diskussion ins Tun wechseln. Und da sind wir sehr schlecht drin. Und wenn wir dann ins Tun wechseln, dann haben wir auch kein Problem zu sagen, das dauert jetzt vier bis fünf Jahre, Herr Schell, bis wir den Bildungsauftrag für Ihre Lehrlinge umstellen. Dass eine Handelskammer das auch abzeichnen kann. Das ist einfach zu langsam. Und darum geht es mir. Wir haben sehr gute Grundvoraussetzungen in diesem Land. Eine, die wirklich gegen uns spielt, ist unsere Behäbigkeit. Dieses Langsame. Dieses Schauen wir mal. Das geht nicht, weil wir in einem weltweiten Wettbewerb sind. SL: Da möchte ich einen Punkt einfügen. Es stimmt absolut, das größte deutsche Vermögen ist immer noch das Beharrungsvermögen. Und dem müssen wir entgegenwirken. Ich möchte aber ein bisschen was gegen diese amerikanisch zugeschriebene Dystopie, die gerade aufgemacht wurde, sagen. Weil natürlich kann man von außen drauf schauen und sagen, da ist Trump und da ist alles ganz schlimm. Das finde ich nicht nur zu einfach, sondern auch schädlich, weil es aus meiner Sicht so einzelne Punkte rauszieht, ohne das gesamte Bild zu sehen. Und gerade im Bereich von künstlicher Intelligenz sehen wir, und noch erst Recht, was humanitäre Roboter angeht, oder Robotik insgesamt, sehen wir, dass in Deutschland so ein Funke überspringen kann, der eigentlich mehr amerikanischen Unternehmergeist braucht. Und dieser Funke ist, dass wir in Deutschland nicht technologiefeindlich sind, waren wir auch noch nie, aber virtualitätsfeindlich. Das Nicht-Anfassbare war in Deutschland immer ein bisschen suspekt. Das Ingenieurshafte, die Maschine, die was gemacht hat, die kann gar nicht toll genug sein. Und jetzt haben wir aus dieser Virtualitätsfeindlichkeit, wo man in Deutschland gesagt hat, "um Gottes Willen, das Virtuelle, wir brauchen 1000 Kilo Datenschutz, sonst wird das alles ganz schlimm." Jetzt haben wir einen Übertrag dieser virtuellen Welt, der Mathematik, der Informatik, in die dingliche Welt. Und plötzlich kommt so ein bisschen das nach Hause, was hier angefangen hat. HU: Und unsere Eigenschaften wieder zum Vorschein. SL: Plötzlich findet Deutschland wieder die alte Stärke in der, sagen wir mal, Kybernetik, in der Herangehensweise, wie man Maschinen mit Regelkreisen steuert. Plötzlich entdecken wir wieder, dass hier eine Tugend ganz lange missachtet worden ist. Deutschland war immer ein Land, wo Fertigung und Produktion zwei Bereiche waren, wo die Digitalisierung ganz wunderbar geklappt hat. Kuka z.B. ist ja gekauft worden, weil es weltweit führend war. Als Elon Musk zwölf Autos gleichzeitig produzieren wollte, hat er erst mal einen bayerischen Fertigungsspezialisten aufkaufen müssen, um das hinzubekommen. Da hat das funktioniert. Und plötzlich sehen wir eine Chance, dass diese Digital- und Virtualitätsfeindlichkeit der Deutschen so einen Sprung machen kann über das Dingliche auf die nächste Ebene. Und da brauchen wir weniger Regulierung, da brauchen wir weniger Bürokratie, da brauchen wir mehr unternehmerischen Mut und mehr Kapital. Also alles das, wo man von außen sagen könnte, in Amerika ist alles ganz schief gegangen, ist bestimmt. Ich finde jetzt Donald Trump auch nicht Ausdruck des übergroßen Erfolgs des 21. Jahrhunderts in Amerika. Ich sehe aber, dass wir hier in Deutschland Ansätze brauchen, wo Leute mit einem neuen KI-Tüftlergeist anfangen, Sachen zu bauen und nicht erst mal 19. Mitarbeitende einstellen müssen, die gefälligst irgendwelche Dokumentationen zusammendrechseln oder nachweisen können, dass hier wirklich der AI-Act bei diesem neuen Feuermelder auch berücksichtigt worden ist, sondern die erst mal machen können, ohne 1.000 Steine in den Weg gelegt zu bekommen. ML: Danke ganz herzlich. Die Apokalypse in der Tagesschau fällt heute aus, würde ich sagen, nach dieser Sendung. Also wenn das geklappt hat. Nur heute. Morgen ist ein neuer Tag und dann kommt wieder Dario Amodei um die Ecke. Jetzt die Kollegen vom "heute journal up:date" und wir sehen uns, wenn Sie mögen, morgen wieder. Bis dahin. Dankeschön, tschüss.