Wenn KI-Firmen vor KI warnen

Das Transkript wird automatisiert erstellt

Caspar:
Hallo und herzlich willkommen. Schön, dass ihr wieder eingeschaltet habt. Hier ist euer wöchentlicher Lieblings-Tech-News-Podcast. Und neben mir, ich bin Caspar, ist noch jemand anderes zugeschaltet. Hallo Elli.

Elli:
Hello. Na?

Caspar:
Ja, Elli und ich, wir wollen mit euch über nichts Geringeres reden als den Weltuntergang in dieser Episode. Kleiner Spoiler, so schlimm wird es gar nicht. Wer weiß, wer weiß. Wir können aber nicht drum rum, weil das Thema die Tech-News und auch die Tech-Bubble seit spätestens Samstagabend wild beschäftigt. Wir haben uns aber überlegt, dass wir nicht so tief eintauchen wollen, dass das als Input irgendwie ausreicht, sondern dass das eine normale News ist und wir haben auch noch ein paar andere News drumherum. Deswegen wird das eine News-Flash-Episode.

Elli:
Yes, insgesamt lässt sich das Ganze wohl so zusammenfassen. Drama, Drama, Drama und zum Ende noch Vulkanausbrüche.

Caspar:
Das hast du sehr schön gesagt. Deswegen anschnallen, die Plätze einnehmen, es wird heiß und wir fangen an mit den Updates.

Elli:
Also man muss sagen, dafür, dass wir jetzt Drama, Drama, Drama angekündigt haben, wird zum Update relativ langweilig, denn es geht um Ausweise und es geht um Sachen, die auf sich warten lassen.

Caspar:
Ja, okay. Gut, wenn du es so erzählst, aber lass mich euch mal mitnehmen. Es ist so ein ganz bisschen WTF. Also, Elli, ich weiß nicht, ob du diese digitale Ausweisfunktion von dem echten Perso schon mal benutzt hast.

Elli:
Teilweise habe ich die benutzt. Und dann natürlich, wie man das so macht, den PIN vergessen. Und dann musste ich zum Einwohner-Meldeamt oder zu mir neuen PIN geben. Habe ich schon mal gemacht, alles davon.

Caspar:
Ich habe das auch schon gemacht, auch erst heute wieder. Ich musste mich bei Elster anmelden. Das kann man unter anderem mit dieser Alperso-Funktion. Und wir müssen ganz kurz auswählen, wie das technisch funktioniert, um euch zu erzählen, was das Update oder das Mini-WTF da dran ist. Es gibt eine Smartphone-App für diesen digitalen Ausweis. Da hält man den Ausweis dran. Der hat ja so einen NFC-Chip und Smartphones können das lesen. Jetzt bin ich aber am PC und möchte mich dort ausweisen digital. Deswegen brauche ich dort auch noch eine App. Und mein Smartphone sagt dann, wenn ich den Person da dran halte, den PC, das ist die Person, die davor sitzt. Ich hoffe, man kann mir noch einigermaßen folgen. Das Problem ist, das funktioniert bei Windows wunderbar in der Windows-App. Beim Mac auch, allerdings nur mit älteren Macs mit Intel-Prozessoren. Ihr wisst ja, Apple hat schon eine ganze Weile auf die eigenen M-Chips umgestellt bei Mac. Dort gibt es die Ausweis-App auch, aber die ist bisher noch nicht angepasst für diese neuen Apple-Chips.

Elli:
Deswegen gibt es eine Übersetzungsschicht namens Rosetta, die Intel-Apps für diese M-Chips übersetzt. Ja, kommt jetzt aber ein Problem dazu, denn diese Rosetta-Übersetzungsschicht, die hat Apple mit den neuen, gerade veröffentlichten Mac OS 27 Golden Gate abgeschafft. Und das heißt, zapp, zapp, das war's mit der Ausweis-App auf den neuesten von den neuen Geräten.

Caspar:
Eigentlich hat Govenicus, das ist die Firma, die diese Ausweis-App für den Bund, umgesetzt und programmiert, eigentlich hat Govenicus gesagt, dass man eigentlich ein entsprechendes Update schon lange veröffentlichen wollte bzw. hat es schon lange angekündigt. Aber bisher ist noch nichts passiert. Das Update ist noch nicht da. Der Weg ist aktuell, dass Nutzerinnen und Nutzer, die das an einem neueren Mac dann machen wollen, manuell noch quasi Rosetta wieder hinzufügen müssen. Das ist dann aber eine natürliche Hürde, eine zusätzliche. Und wenn das technisch eh schon so ein bisschen herausfordernd ist, mit diesem e-Perso umzugehen, ist das nicht so richtig gut. Also falls ihr so ein Mac habt und mit diesem digitalen Ausweis-App irgendwie gerade nicht zurechtkommt, wir müssen noch ein bisschen warten, bis das Update kommt. Eine Sprecherin von Governus hat gegenüber Golem gesagt, dass man mit Hochdruck an der Fertigstellung arbeitet und spätestens Mitte Oktober mit einer Veröffentlichung von dem Update rechnet. Mal schauen, mal gucken, ob das dann passiert.

Elli:
Du hast sie gerade Governus genannt, du hast das Ikus unterschlagen.

Caspar:
Ach, Entschuldigung. Governikus. Ja, guck, das wollen wir so nicht stehen lassen.

Elli:
Tja, und wie schaffen wir da jetzt, also es ist schon ein kleines What the Fuck, hast du gesagt, aber wir haben noch ein größeres. Was haben wir noch dabei? Und da geht es jetzt von Computern zu Fernsehern.

Caspar:
Ja, so richtig klassisch für die, also zu den Dingern, die im Wohnzimmer stehen. Oh oh.

Elli:
Man muss ja jetzt schon sagen, dieses Update war doch eher nischig, weil vermutlich die wenigsten von euch da draußen einen entsprechenden Rechner, mit dem es jetzt Probleme gibt, besitzen. Aber vielleicht haben ein paar mehr von euch einen LG-Fernseher.

Caspar:
Dann lohnt es sich jetzt, sich mit dem WTF ein bisschen auseinanderzusetzen und um euch zu erklären, warum, müssen wir einmal kurz anderthalb Wochen in die Vergangenheit gehen. Da ist nämlich ein YouTube-Video veröffentlicht worden auf dem Kanal Gamers Nexus, und dieser Kanal hat zusammen mit Level One Text, das ist auch ein YouTube-Kanal und mit Security-Forscherinnen und Forschern gleich mehrere aktuelle LG OLED-Fernseher. Also OLED ist ja eine der aktuellen Technologien, was den Fernseher betrifft, untersucht. Und dabei ging es um verschiedene Dinge, unter anderem um das verbaute Mikro. Und es ging darum, welche Daten diese Fernseher so erfassen und wohin sie geschickt werden.

Elli:
Und um zu gucken, was da jetzt alles so passiert ist, haben sich die Forschenden ACR angeschaut. Automatic Content Recognition ist das. Ist das jetzt LG-spezifisch? Nein. Und geheim ist es auch nicht besonders. Es bedeutet einfach, dass der Fernseher digitale Fingerabdrücke von Inhalten erstellt und deswegen erkennen kann, okay, was läuft denn da gerade?

Caspar:
Ja, und das ist tatsächlich auch relativ invasiv, weil das nämlich auch für externe Quellen funktioniert. Also nehmen wir mal an, ihr habt zum Beispiel eine Playstation oder eine Xbox an eurem Fernseher angeschlossen über HDMI, dann kann dieses ACR erkennen, welches Spiel ihr da drauf gerade spielt oder welchen Film ihr gerade guckt, indem es entsprechende Snapshots macht, teilweise auch Screenshots und über das Audiosignal abgreift, was da denn gerade so läuft.

Elli:
Ach, Audiosignal, sagst du. Na, da gucken wir doch mal genauer hin.

Caspar:
Ja, Game As Nexus hat sich nämlich auch mal ein bisschen das Thema Mikrofone angeguckt und hat rausgefunden, dass es Sprachtranskripte, also die Verschriftlichung von gesprochenem Wort im Klartext auf diesen Fernsehen gibt. Und sie haben auch demonstriert, dass sie das Mikrofon auf einem Fernseher aktivieren konnten, obwohl der einen schwarzen Bildschirm hatte bzw. Im Standby war, also obwohl das Gerät offiziell nicht richtig eingeschaltet war, sondern ihr kennt das, dieses rote Lämpchen leuchtet ja oft bei Fernsehen, wenn die aus sind, aber noch im Standby.

Elli:
Jetzt muss man dazu sagen, die haben da schon sich ein bisschen reingebastelt in diesen Fernseher, beziehungsweise um es technisch korrekt auszudrücken, der Fernseher war kompromittiert. Sie haben ihn also manipuliert. Das ist das, was man eigentlich jetzt so klassischerweise nicht mit dem eigenen Fernseher macht, wenn man den zu Hause stehen hat. Aber sie zeigen damit, dass es da eine Sicherheitslücke gibt und dass so ein LG-TV theoretisch in ein Abführgerät verwandelt werden könnte.

Caspar:
Sie sagen nicht, dass das LG massenhaft getan hat, aber dass das durch eine Sicherheitslücke halt möglich wäre. Und was den Forschenden auch noch aufgefallen ist, dass der Fernseher oder dieser LG-Fernseher das lokale Netzwerk durchsuchen, wenn ihr die mit dem WLAN bei euch zu Hause verbindet und guckt, was noch für andere Geräte so bei euch im Netz sind. Also zum Beispiel, welches Smartphone ihr habt, welche Smartwatch vielleicht dort auftaucht, welche Computer sie erkennen können, welche WLAN-Router ihr nutzt. Das kann man alles analysieren, wenn man im gleichen WLAN ist. Und wenn ihr den Fernseher dort einbindet, funktioniert das entsprechend auch.

Elli:
Okay, also jetzt kann man das theoretisch mit diesen Fernsehern machen und wir können, wie bei den meisten technischen Geräten, gibt es Möglichkeiten, die zu missbrauchen, zum Beispiel wenn man als bösartiger Hacker unterwegs ist und da irgendjemandem schaden möchte. Die Kritik richtet sich in diesen Videos zur Untersuchung jetzt aber durchaus auch an LG selbst. Warum das denn?

Caspar:
Genau, weil LG eben nicht nur Fernseher verkauft, baut und verkauft, sondern sie betreiben auch die sogenannte LG Ad Solutions als Tochterfirma und das ist ihr eigenes Werbeunternehmen. Und LG Ad Solutions vermarktet unter anderem Informationen darüber, was Menschen auf LG Fernsehern ansehen. Das versprechen sie quasi als Verkaufsargument. Wenn ihr unsere Firma bucht, können wir euch Informationen darüber geben, was Leute auf dem Fernsehen ansehen. Das Unternehmen beschreibt selbst, dass sie Zielgruppen anhand von Sendungen, Apps, Streamingdiensten, Konsolen, Nutzung Intensität, also wie lange wird was geguckt und geografische Regionen festlegen können. Und zwar können diese ACR-Daten, die wir dort gerade erwähnt haben, laut Beschreibung auch mit weiteren Datensätzen kombiniert werden.

Elli:
Also diese Kombi aus LG verkauft Werbung bzw. Werbedaten und... Wenn man so ein bisschen was anstellt mit den Geräten von LG, dann können die auch mal zuhören, ohne dass man das aktiv mitbekommt. Das hat irgendwie ein Geschmäckle. Was sagt denn LG dazu?

Caspar:
Die haben sich inzwischen, nachdem dieses Video dann doch auch ziemlich große Kreise gezogen hat, inzwischen dazu geäußert. Beim Tracking ist es so, dass LG generell bestätigt, dass sie ACR nutzen. Das ist jetzt auch nicht so unendlich überraschend, weil das machen tatsächlich auch andere Fernsehersteller. Sie betonen aber, dass die Funktion nur mit Zustimmung der Nutzerinnen und Nutzer aktiv sei. Also müsst ihr mal eventuell, falls ihr einen LG-Fernseher habt, in eure Einstellungen gucken, was da zum Thema Tracking und Werbetracking und ACR vielleicht drinsteht. GamerNexus hat inzwischen auch schon auf die Reaktion von LG reagiert, also Reaction of Reaction quasi, wie man das im modernen Internet so sagt. Und GamerNexus widerspricht LG. Bei der Frage, welche Daten genau erfasst werden und dass die später dann doch übertragen werden würden, egal ob Nutzerinnen das aktiviert hätten oder nicht.

Elli:
Und es gibt noch was, wo sich das Statement von LG und Gamers Nexus nicht ganz einig sind. LG bestreitet natürlich, dass man durch das Mikrofon dauerhaft mithören würde. Klar, Sprachdaten würden erst nach Aktivierungswort oder Tastendruck verarbeitet, und lokal ausgewertete Aufnahmen würden dann auch wieder gelöscht. Gamers Nexus sagt jetzt aber... Diese Darstellung ist in Teilen unvollständig beziehungsweise widersprüchlich.

Caspar:
Genau, also auch an dem Punkt Aussage gegen Aussage. Und noch so ein bisschen offen bleibt auch die Frage, auch in dem Statement von LG. Die gehen nämlich nicht ganz klar auf den Vorwurf ein, dass dieses ACR auch Screenshots macht von dem, was sie auf dem Fernseher guckt. Und sie gehen nicht genau darauf ein, wie diese zusammengeführten Tracking-Daten, an die Werbepartner weitergegeben werden. Und wie vollständig da drin auch Nutzerdaten enthalten sind und Nutzerendaten und wie das ist, wenn die wieder gelöscht werden und wann die wieder gelöscht werden und so. Das bleibt alles so ein bisschen arg schwammig in dem Statement von LG.

Elli:
Wenn ihr also einen LG-Fernseher zu Hause habt und sagt, das interessiert mich jetzt doch mal genauer, dann empfiehlt sich an der Stelle weiterführend quasi zum einen ein Blick in die Nutzungsbedingungen. Das ist immer mal ganz spannend, auch wenn man die bei den AGBs meistens drückt auf, ich habe gelesen, ohne sie gelesen zu haben. Aber macht das vielleicht mal an der Stelle und guckt mal, was da so drin steht und auch, was ihr aktiviert habt vielleicht und was man noch deaktivieren könnte. Und wie gesagt, wenn ihr weiter ins Thema eintauchen möchtet, dann guckt mal bei Gamers Nexus vorbei, bei den Reaktionen inklusive Statement und so weiter und so fort, wenn ihr euch das ganze Drama geben wollt.

Caspar:
Und stellt euch die Frage zum Schluss noch, muss mein LG-Fernseher oder generell mein Fernseher, das trifft ja auch andere Hersteller, muss der im Internet sein? Also wenn ihr darüber Streaming-Dienste guckt, würde ich natürlich sagen, ja, weil sonst geht es nicht. Wenn ihr aber zum Beispiel einen Stick angesteckt habt, zum Beispiel von Google oder Amazon, dann hat der ja schon WLAN, aber auch euer Fernseher, das nicht auch noch. Da könnt ihr dann auch nochmal überlegen, ob ihr das vielleicht wieder deaktiviert, das WLAN. So, genug zu Fernsehern.

Elli:
Ja, aber ich würde sagen, wir bleiben direkt beim Drama, oder?

Caspar:
Ja, ich finde auch Weltuntergang ist ein ziemlich gutes Drama, oder?

Elli:
Ja. An der Stelle ein kurzer Disclaimer. Es kann sein, dass wir an der einen oder anderen Stelle heute mal mit ein bisschen spitzer Zunge unterwegs sind und so weiter. Aber wir stellen am Ende der ganzen Sache natürlich auch nochmal die Quintessenz raus. Es wird viel Drama geben und wir werden das natürlich auch ein bisschen hops nehmen, weil manchmal muss man das machen, um so sehr dramatische Sachen irgendwie zu verpacken. Aber wir gucken am Ende nochmal relativ nüchtern auch drauf.

Caspar:
Ja, und gleich wird auch noch klar, warum wir das Wort Weltuntergang so relativ easy peasy hier in den Mund nehmen. Wir sind nicht die Ersten, die das getan haben in dieser Debatte. Es ist nämlich auch eine Debatte, die da gerade entbrannt ist. Nämlich ausgerechnet ja doch die größten Konkurrenten der KI-Branche. Die haben sich plötzlich scheinbar zusammengetan und haben sich überlegt, lass uns doch mal beim Thema KI-Entwicklung auf die Bremse treten.

Elli:
Damit haben wir zwei untypische Dinge in einem Stichpunkt, nämlich A, dass sich KI-Anbieter zusammentun, eher untypisch. Man kennt ja eher das Wettrüsten der KI-Anbieter und auf der anderen Seite Wettrüsten. Jetzt wollen sie auf die Bremse treten. Was ist denn da los?

Caspar:
Ja, und diese ganze Debatte neben diesen zwei wunderbar schon seltsamen Aspekten hat sich inzwischen so hochgeschaukelt, dass wir zwischenzeitlich in der Medienwelt, unter anderem auch darüber gesprochen haben und in der ganzen Tech-Welt, umso Kleinigkeiten wie Auslöschung der Menschheit durch KI, und sogar die schlimmsten Befürchtungen, dass das quasi bis 2030 schon passiert. Direkt schon mal ein Hinweis vorneweg, keine Sorge, nein, das wird nicht passieren. Das ist absolut überzogen. Es gibt Risiken, über die werden wir auch gleich noch sprechen. Das heißt, wir werden das Ganze ja auch nochmal ernst betrachten. Aber dass bis 2030 eine KI im Sinne von Terminator und der T, was ist das, 3000? Ich weiß es gerade gar nicht, kommt und Arnold Schwarzenegger löscht die Menschheit aus, das wird nicht passieren. Das können wir euch schon mal als Sorge nehmen.

Elli:
Wir gucken aber mal drauf, woher denn jetzt der, also was denn jetzt der Stein des Anstoßes quasi war und ob das wirklich, also dann kamen scheinbar spontane Reaktionen und dann waren die aber doch nicht so spontan darauf. Naja, der Stein des Anstoßes. Angefangen hat die aktuelle Debatte unter anderem mit mehreren Sicherheitsvorfällen. Ein besonders mit Aufmerksamkeit bedachtes Thema war ein Experiment mit KI-Agenten von OpenAI. Was hat man sich gedacht? Die Systeme von OpenAI bzw. Die KI-Agenten sollten Sicherheitslücken finden und haben sich dabei dann aber anders als geplant verhalten und teilweise auch Systeme der Plattform Hugging Face, angegriffen, die gar nicht Teil von ihrem Auftrag waren.

Caspar:
Wir haben hier im Podcast schon mal kurz drüber gesprochen, haben es angerissen. Der konkrete wirkliche Schaden, der blieb einigermaßen begrenzt. Es ist jetzt nicht so, dass HikingFace plötzlich dann nicht mehr lief oder so, sondern sie haben halt versucht, sich in die Plattform reinzuhacken. Der Fall hat aber in der Branche dann doch für ziemlich viel Aufsehen gesorgt und für Warnsignale, weil dann nämlich autonome KI-Agenten unterwegs waren, und sich Zugriff auf Computernetzwerke und andere Werkzeuge verschafft haben, auf die sie eigentlich keinen Zugriff haben sollten. Und deswegen wirft das natürlich die Frage auf, was passiert, wenn so ein autonomer KI-Agent, beziehungsweise in dem Fall 1200, also ein ganzer Schwarm von KI-Agenten, eine Aufgabe ein bisschen anders interpretiert, als das vorhergesehen war. Und wer schon mal mit KI gechattet hat, weiß, dass die oft Dinge mal ein bisschen anders interpretiert als man selber. Ja, was passiert, wenn das einem relativ mächtigen autonomen Schwarm passiert?

Elli:
Spannenderweise ist das ja irgendwie gefühlt schon vor dem KI-Boom, den wir jetzt erleben, war das schon immer so eine Frage, was passiert, wenn die Maschinen irgendwann und so weiter und so fort. Naja, jetzt gab es aber mal wieder einen Stein des Anstoßes für die Debatte und am Wochenende hat sich der Chef von Antropic, also einer der KI-Firmen, zu Wort gemeldet, Dario Amodé, das ist der Antropic-Chef. Er hat gefordert, die Branche müsse das Tempo an der Spitze der KI-Entwicklung drosseln, damit Sicherheitsforschung und Kontrollmechanismen überhaupt noch hinterherkommen können. Genau.

Caspar:
Besondere Sorge. macht eben die sogenannte rekursive Selbstverbesserung. Was heißt das? Da geht es darum, dass sehr leistungsfähige KI-Systeme künftig sich selber verbessern könnten, beziehungsweise noch bessere KI-Systeme erschaffen könnten und das eine Geschwindigkeit und einen Kreislauf annimmt, bei dem Sicherheitsforschende und Regularien gar nicht mehr hinterherkommen, weil die Entwicklung einfach so schnell wird und so rasant wird.

Elli:
Amodey hat deswegen mehrere Maßnahmen vorgeschlagen. Und zwar findet er, unabhängige Prüfer sollten dauerhaft Zugang zu großen KI-Laboren und den Modellen von KI-Anbietern bekommen. Außerdem sollen sich Unternehmen auf gemeinsame Sicherheitsstandards verständigen und langfristig soll man auch grenzübergreifend, also verschiedene Staaten, international zusammenarbeiten. Und das, was er da gesagt hat, wurde dann auch aus der Tech-Bubble verstärkt. Kommen wir aber gleich zu. Vorher noch eine andere Sache, die wir kurz einschieben oder ein anderes Ereignis. Kein Konzernchef, sondern ein Mitarbeiter. Und wir bleiben bei Anthropic, also der Firma, wo Amodey Chef ist. Da gab es nämlich letzte Woche auch einen Vorfall, der so ein bisschen für Aufregung gesorgt hat oder zumindest beleuchtet wurde. Denn der Wissenschaftler Jacob Coxon, der hat vorher schon bei OpenAI gearbeitet, ist dann zu Anthropic gewechselt und der hat jetzt ziemlich öffentlichkeitswirksam gekündigt. Denn, Jacob Coxon sagt, die aktuellen KI-Entwicklungen seien prädestiniert, komplett aus dem Ruder zu laufen und könnten eine Gefahr für die Menschheit darstellen. Also bläst er so ein bisschen ins gleiche Horn. Nur halt anders.

Caspar:
Ja, anders und mit der Stimme eines Wissenschaftlers. Jetzt wird es aber spannend, weil sich dann die Entwicklungen ja nicht überschlagen, aber da haben sich Entwicklungen aufgeteilt, die ich so auch nicht vorher gesagt hätte im ersten Moment.

Elli:
Während Jacob Coxon also gekündigt hat und gesagt hat, ich lasse den Bums jetzt mal bleiben, zumindest für diese Unternehmen, haben natürlich auch die Konzernchefs der anderen KI-Anbieter was zu sagen gehabt und tatsächlich haben die Dario Amodey in seinem Statement zugestimmt. Und OpenAI-Chef Sam Altman unterstützt die Idee und hat angekündigt, man möchte ebenfalls unabhängige Prüfer ins Unternehmen lassen. Und sogar Elon Musk hat geschrieben, Dario is right. Außerdem der Google-Deep-Mind-Chef Demis Hassabis, der hält die ganze Richtung auch grundsätzlich für nicht verkehrt. So viel Einigkeit?

Caspar:
Selten.

Elli:
Das ist verblüffend.

Caspar:
Das ist bemerkenswert sogar. Google gibt mir halt noch einen kleinen Einschub, das ist Googles KI-Spezialfirma quasi oder Laborabteilung. Die haben natürlich sehr viel mit zu tun. Also es ist bemerkenswert, dass Firmen wie OpenAI, Antropic, Google und XAI gleichzeitig, diesen eigentlich extrem teuren Wettlauf, in dem sie eigentlich stehen, um leistungsfähige Modelle, dass sie denen unterbrechen wollen. Und eigentlich überziehen die sich, die können sich nicht ausstehen, die überziehen sich regelmäßig mit Klagen. X hat OpenAI erst neulich verklagt und solche Dinge. Jetzt schließen sich diese total im Konkurrent stehenden, sich gegenseitig verklagenden Firmen aber plötzlich zusammen und sagen, ja, okay, diesen Wettlauf, den sollten wir vielleicht mal ein bisschen eindämmen, ein bisschen begrenzen. So ein bisschen merkwürdig klingt das, finde ich.

Elli:
Wir behalten das mal im Hinterkopf und klopfen erst mal diese Warnungen, die da ausgesprochen wurden, beziehungsweise diese Sorgen ein bisschen auf deren Realitätsgehalt ab. Wir haben jetzt auf der einen Seite natürlich die Konzernchefs, die sich plötzlich sehr einig sind und warnen, warnen. Wir haben aber eben auch einen Wissenschaftler, der schon zwei dieser großen, Konzerne von innen gesehen hat und sich von OpenAI hin zu einem anderen, nämlich Anthropic, gewendet hat, der als ethisch bewusster gilt teilweise in der Branche. Anthropic stellt sich immer so ein bisschen dar, als okay, wir gucken nochmal extra besorgt auf das Thema Ethik und was dürfen unsere Modelle. Das heißt, da hat er schon mal den ersten Schritt gegangen und jetzt hat er gesagt, so, ich lasse die Finger davon, das ist hier alles, das ist mir zu heiß. Stellt sich natürlich die Frage, was sagen andere Köpfe dazu?

Caspar:
Ja, da gibt es ganz unterschiedliche Einschätzungen, vor allem aber auch Entwarnungen. Wir haben mal zwei Stimmen rausgesucht. Einmal Thorsten Holz vom Max-Planck-Institut für Sicherheit und Privatsphäre. Der sagt zum Beispiel in einem veröffentlichten Text vom Max-Platt-Institut, dass die Szenarien, in denen KI in den kommenden Jahren die Menschheit auslöscht, dafür gäbe es derzeit keine belastbaren wissenschaftlichen Grundlagen und erhält Prozentangaben zum Ausschlossungsrisiko. Die werden nämlich auch in der Debatte sehr viel, 20 Prozent, 5 Prozent, bis 2030 sind wir alle tot, so nach dem Motto. Die sagt er, da gibt es keine empirische berechnende Wahrscheinlichkeiten. Also das ist alles nicht vorhersehbar, sagt er.

Elli:
Das ist ja schön und gut. Er sagt, es ist nicht vorhersehbar. Das ist jetzt aber noch keine Entwarnung, oder?

Caspar:
Nein, er sagt auch, dass man die Sicherheitsdiskussion, also die Diskussion darüber, was diese KI-Agenten anstellen können und dass das zu IT-Sicherheitsproblemen führt…, Die würde er nicht komplett als Panikmacher abtun, weil KI-Agenten können heute bereits selbstständig Software bedienen. Das haben wir ja auch bei diesen Vorfällen bemerkt. Sie können Programme schreiben, Stichwort Vibe-Coding, da sind sie super drin. Und sie können Sicherheitslücken nicht nur auffinden, sie können sie auch ausnutzen. Auch das ist ja passiert, als diese Agenten Hugging Face gehackt haben. Und das seien schon konkrete Risiken, bei denen so klassische IT-Sicherheitsprinzipien immer noch gelten müssten. Also möglichst wenig Zugriffsrechte zum Beispiel für Agenten, genau überlegen, was die dürfen und was nicht. Wir müssen überwachen, was die tun. Wir müssen nachvollziehbare Aktionen hinbekommen und wir müssen die Möglichkeit haben, solche Systeme jederzeit abzuschalten. Also er sagt durchaus, Weltuntergang, das ist ein bisschen Humbug. Die Risiken, die gibt es aber durchaus.

Elli:
Okay, na gut, jetzt haben aber die KI-Firmen ja gesagt so, ey, wir lassen Prüfer bei uns in die Systeme und die können dann da drauf gucken. Das ist doch super, oder?

Caspar:
Ja, es gibt andere deutsche Forscherinnen und Forscher, die kritisieren wiederum diese vorgeschlagene Selbstkontrolle. Besonders die Idee von den Firmen, diese ausgewählten Prüferinnen und Prüfer einzusetzen, die wird skeptisch gesehen, unter anderem vom Tübinger KI-Forscher Philipp Henning. Der formuliert sogar ziemlich drastisch. Der sagt, jede deutsche Großküche hat schärfere Kontrollsysteme als das, was die KI-Anbieter da vorschlagen.

Elli:
Das stimmt. Zumindest wüsste ich jetzt nicht, dass Großküchen sich selber aussuchen können, welcher Lebensmittelkontrolleur zu ihnen kommt.

Caspar:
Genau, richtig. Und wann.

Elli:
Also jetzt mal ganz vorsichtig formulieren. Gut, okay. Also wir sehen schon, die Befürchtungen an sich. Also wir gehen mal weg vom Weltuntergang, aber Kritik an der schnellen Entwicklung, die da gerade stattfindet, ist durchaus berechtigt. Und die Ideen, die die Konzerne dazu jetzt mitgebracht haben, sind so semi-positiv zu betrachten, sagen wir es mal so. Aber natürlich, nachdem jetzt Konzernchefs sich geäußert haben, mehr oder weniger spontan, dazu kommen wir wie gesagt gleich noch, es gab auch ein, zwei Politiker, die da noch was zu sagen hatten.

Caspar:
Es hat sich unter anderem zu Wort gemeldet Ex-US-Präsident Barack Obama und der fordert seine Partei, nämlich die Demokraten, auf klaren politischen Rahmen für KI zu entwickeln. Und wenig überraschend, US-Präsident Donald Trump lehnt das ab. Er sei gegen eine verlangsamte Entwicklung und argumentiert vor allem mit dem Wettbewerb, in dem man stehen würde mit China. Man könne da gar nicht irgendwie sagen, wir machen das nicht.

Elli:
Kleiner Einschub zu Donald Trump. Und da hat er dann von einem Hoax gesprochen, der gute Herr Trump, also von einem großen Schwindel, was die KI-Bedenken angeht.

Caspar:
Und das passt ganz gut, weil wir jetzt nochmal ein bisschen zu den Tech Bros zurückkehren. Am Dienstag sind nämlich noch weitere Informationen dazu gekommen, was diese spontanen Absprachen betrifft. OpenAI hat nämlich auf Anfrage bestätigt, dass die öffentliche Reaktion auf diesen Aufschlag von Daria Amadei, also diesen Text, den er veröffentlicht hat, Die war offenbar gar nicht ganz so spontan, wie sie vielleicht gewirkt hat.

Elli:
Der Politikchef von OpenAI, Chris Lehane, hat nämlich erklärt, dass OpenAI, Entropic und Google DeepMind schon seit mehreren Wochen miteinander über KI-Sicherheit im Gespräch sind. Berichten zufolge arbeiten die Unternehmen unter anderem eben an gemeinsamen Standards für die Branche. Und OpenAI unterstützt inzwischen außerdem einen Teil des sogenannten Frontier Act, der große KI-Labore dazu verpflichten würde, unabhängige Prüforganisationen Zugang zu ihren Unternehmen und Modellen zu gewähren. An der Stelle kann man vielleicht sagen, warum machen die das? Okay, einerseits als Firma möchte man sich gerne präsentieren von wegen, ja, wir kümmern uns drum, wir nehmen das ernst. Auf der anderen Seite ist es natürlich immer ganz schön, wenn man schon Regulierung irgendwie so als lästiges Element hat, dann doch zu versuchen, die irgendwie proaktiv mitzugestalten.

Caspar:
Ja, und sich auch hinstellen kann, so nach dem Motto, wir sind diejenigen, die diese KI entwickeln, aber wir wissen dann auch, wie wir sie wieder quasi einhegen. Das ist ja auch marketingtechnisch gar nicht so verkehrt. Ja, die Frage bleibt aber am Ende natürlich, wenn diese Kontrollen eingeführt werden, wer kontrolliert am Ende die Kontrolleure? Wo sind die angesiedelt? Ist das eine staatliche Aufgabe? Wie sieht das aus? Ja, es bleiben so ein bisschen Zweifel, vor allem auch, was diese freiwillige Absprache ja betrifft, haben wir auch schon gesehen, ob das auch ausreicht, dass die Unternehmen miteinander reden. Ich persönlich habe da so meine Zweifel, ob das ausreicht. Ich glaube, man müsste da auch regulatorisch ein bisschen was vorschreiben.

Elli:
Wir können abschließend zu dieser News quasi sagen, Aktionen wie die Kündigung von Jacob Coxen sind durchaus mehr als Unkenrufe. Bei den Unternehmensstatements lässt sich dagegen schwer sagen, wie viel echte Sorge vor einem Weltuntergang in Statements mitschwingt, wenn diese Statements auch ein hervorragendes Marketinginstrument abgeben.

Caspar:
Genau. Und ihr nehmt hoffentlich mit, wenn die KI-Branche über wieder Weltuntergang spricht, dass das nicht so schnell passiert. Es zwar Risiken gibt, die wir auch ernst nehmen müssten, aber jetzt nicht alle morgen in Depressionen verfallen, weil angeblich die KI uns umbringt.

Elli:
Denn man muss, kurz nochmal Ergänzung zu diesem Marketingstand, man muss ja auch sagen, wenn man als Unternehmen sagt, hey, das, was wir erschaffen haben, könnte so krass und so mächtig sein, dass wir euch davor schützen müssen. Damit beweicheräuchert man sich in gewissen Blasen ja durchaus auch sehr selbst. Weil man dann sagt, das, was wir geschaffen haben, ist richtig krass.

Caspar:
Ja, und man muss ja auch sagen, die ganze Welt redet jetzt gerade wieder über diese Firmen und über ihre Modelle. Wir ja auch.

Elli:
Aber es gibt dazu auch ganz, ganz viel gute Literatur. Es gibt super viele Bücher, die man dazu lesen kann. Könnte man eigentlich auch einen ganzen Input mal füllen oder so eine Leseempfehlungssendung oder sowas.

Caspar:
Buchclub, Silicon Weekly Buchclub.

Elli:
Den Buchclub ersparen wir euch für heute und wir hüpfen von der Weltuntergangsdebatte zu einem Klapptelefon unten in der Uhr. Naja.

Caspar:
Ja, aber auch eine Debatte. Also wir bleiben. Es ist eine Debattensendung heute. Wir wollen einmal ganz kurz in der zweiten News im Newsflash über das Apple-Event vergangene Woche sprechen. Keine Sorge, beziehungsweise was heißt keine Sorge, das ist jetzt fast eine Woche her. Wir werden jetzt nicht anfangen nochmal alles über iPhone Duo, das erste Fall-Smartphone von Apple aufzurollen. Das machen wir nicht, weil das schon im Internet eigentlich alles zu erzählt wurde. Deswegen, wenn ihr euch für diesen Teil der Keynote interessiert, den Apple da vorgestellt hat, schaut einfach mal im Netz nach. Da gibt es sehr, sehr viel zum iPhone Duo. Da werdet ihr alles zu finden.

Elli:
Aber wir gucken uns jetzt eben ausgewählterweise ein paar Funktionen der neuen Apple Watch Modelle an. Denn es geht schon wieder ums Zuhören.

Caspar:
Ja, und was darf KI? Deswegen haben wir das rausgegriffen. Es geht um sogenannte Audio-Funktionen der neuen Apple Watches. Jetzt kann man sich sagen, hä, ist ein Smartwatch am Handgelenk, was hat das mit Audio zu tun? Naja, keine Sorge, wir nehmen euch da mit, wir dröseln das auf. Es geht um eine Funktion, die zu einem späteren Zeitpunkt im Jahr kommen soll. Apple hat das noch nicht genau festgelegt, wann. Es ist dieses berühmte Later This Year und wohl auch nur erstmal in den USA. Trotzdem ist da draußen eine weltweite Debatte geworden rund um diese neue Audio-Funktion.

Elli:
Wir nennen das Kind mal beim Namen. Die Funktion selbst heißt Audio Intelligence.

Caspar:
Hört ja auch schon wieder AI. Apple hat ja schon AI in Apple Intelligence umbenannt und natürlich ist es jetzt auch Audio Intelligence.

Elli:
Ach cool, ja, naja. Also, worum geht's? Was macht Audio Intelligence? Die Uhr kann ihre Umgebung akustisch wahrnehmen. Die Watch kann zum Beispiel Geräusche wie Sirenen, Alarme oder Babygeschrei erkennen und Nutzer darauf aufmerksam machen. Besonders für gehörlose Menschen oder schwerhörige Menschen kann das an sich sehr hilfreich sein. Aber zum Beispiel auch, wenn man im Noise-Canceling-Bereich unterwegs ist und das selber gerade nicht mitbekommt vielleicht.

Caspar:
Genau, dass zum Beispiel der Feueralarm losgegangen ist, dann wäre es nicht verkehrt, wenn die Uhr einen kurz antippt und sagt, übrigens, ich glaube, hier ist ein Alarm gerade am Tröten.

Elli:
Genau, da ist man sich jetzt noch relativ einig, zumindest auch so in der Netz-Community. Das ist gut, das kann man mal machen. Spannender wird es dann bei der zweiten Audio-Intelligence-Funktion namens Live Rewind. Dabei hält die Apple Watch fortlaufend einen kurzen Audiopuffer von ungefähr 15 Sekunden vor. Wenn man das jetzt so abstrakt beschreibt, kann ich mir da jetzt nicht so viel darunter vorstellen. Caspar, du bist der Apple-User. Nimm uns mal mit, wie das funktionieren würde.

Caspar:
Ich habe ein Beispiel aus meinem Alltag mitgebracht, wo das helfen würde. Ich pendel nämlich mit der Bahn zur Arbeit und ich trage dabei immer geräuschunterdrückende Kopfhörer. Die setze ich mir quasi auf, sobald ich den Bahnhof betrete und erst wieder ab, als wenn ich beim anderen Bahnhof raus bin.

Caspar:
Und manchmal passiert es dann, dass ich eine Durchsage im Zug zu spät mitbekomme. Und wenn ich bis dann die Kopfhörer abgenommen habe, ist die Durchsage durch oder zumindest der wichtige Teil durch. Und dann kann ich mich an einen der anderen Fahrgäste wenden und fragen, was war oder ich sage halt einfach, es war nicht so wichtig und gucke in der App nach. Also diese neue Live Rewind Funktion, die, naja, Speichern ist ein schwieriges Wort, die nimmt, auch Aufnehmen ist ein schwieriges Wort, wir kommen da gleich noch zu, warum ich so schau mich rumlamiere hier. 15 Sekunden kann ich zurückspulen mit dieser Funktion, das heißt, ich kann die Digital Crown, also diese Uhrenkrone auf der Seite doppelt antippen und dann kann ich das, was die letzten 15 Sekunden um mich herum gesprochen wurde, zurück transkribieren lassen. Also ich könnte zum Beispiel die Durchsage, die ich verpasst habe, mir als Text anzeigen lassen. Wichtig dabei, und deswegen habe ich so rumlamentiert, die Uhr nimmt jetzt nicht durchgängig permanent stundenweise oder 24 Stunden am Tag Audio auf, sondern in der Uhr drin, im Prozessor ist ein extra Bereich eingerichtet, der auch verschlüsselt ist. Da laufen 15 Sekunden quasi immer durch und erst in dem Moment, wo ich die Krone drücke, wird quasi pausiert und gesagt, Okay, die letzten 15 Sekunden, die gucke ich mir jetzt nochmal an, sie werden transkribiert und mir angezeigt. Und das ist diese Live-Rewind-Funktion.

Elli:
Okay, klingt immer noch einigermaßen nützlich, aber ich kann schon verstehen, warum Leute das nicht ganz so cool finden teilweise.

Caspar:
Aber das ist noch gar nicht das, was die meiste Reaktion ausgelöst hat. Es gibt noch eine dritte Funktion und die heißt Siri Recap.

Elli:
Bei Siri Recap kann die Apple Watch über einen längeren Zeitraum Gespräche in ihrer Umgebung berücksichtigen und daraus Notizen bzw. Zusammenfassungen erstellen. Man kann festlegen, wann oder wo diese Funktion aktiv sein soll, theoretisch also auch über große Teile des Tages. Apple sagt ausdrücklich, dass dabei keine dauerhaften Audioaufnahmen gespeichert werden. Die Audiodaten werden verarbeitet und anschließend wieder gelöscht. Die entstandenen Zusammenfassungen werden Ende-zu-Ende verschlüsselt gespeichert und standardmäßig nach einer Woche auch wieder gelöscht. Aber sie entstehen halt. Und da geht es los mit der Kritik.

Caspar:
Genau. Technisch versucht Apple relativ viel zu tun, um Datenschutzprobleme zu vermeiden. Die Audiodateien sollen, wenn möglich, lokal verarbeitet werden. Apple selbst sagt auch, sie haben keinen Zugriff darauf und so weiter und so fort. Trotzdem haben die Funktionen natürlich eine ziemliche Debatte ausgelöst, die ich auch gut verstehen kann, Weil der Kritikpunkt bedeutet, er lautet jetzt im Grunde, eigentlich hört die Apple Watch die ganze Zeit zu, und ich kann das nicht unbedingt verhindern, wenn jemand mit einer Apple Watch jetzt durch die Gegend läuft und sich zum Beispiel mit mir trifft. Und die Frage ist jetzt eine viel größere, was passiert eigentlich gesellschaftlich, wenn es normal wird, dass solche Geräte Gespräche in der Umgebung automatisch analysieren.

Elli:
Und an der Stelle geht es von Apple weg und von der Apple Watch an sich hin zu der großen Debatte eben. Ich kann ja für meine eigene Apple Watch, wenn ich eine hätte, könnte ich ja entscheiden, das Ganze aus- oder einzuschalten, je nachdem. Aber die Person, die mir gegenüber sitzt, mit der ich in der Bahn, im Büro oder beim Abendessen rede, die hat diese Entscheidung möglicherweise gar nicht getroffen, gar nicht mitbekommen, und kriegt vielleicht auch gar nicht mit, dass aus dem Gespräch gerade eine Zusammenfassung entsteht.

Caspar:
Ja, und dann kommt auch noch eine rechtliche Frage dazu. Eine klassische heimliche Audioaufnahme, die ist juristisch relativ klar einzuordnen, die ist verboten. Aber was ist denn, wenn das Gerät das Audio ja nur lokal verarbeitet? Ich kann das Audio ja gar nicht hören, was diese Serie-Zusammenfassung nutzt, weil es sofort auch gelöscht wird danach. Aber ich kann ja die Text-Zusammenfassung mir angucken und die wird ja erzeugt und gespeichert und zusammengefasst. Und das ist ein Grenzfall und ich bin kein Jurist, also falls jemand von euch Jura studiert hat und sich damit auskennt, wäre interessant. Ich glaube, das ist juristisch nicht ganz so einfach geregelt.

Elli:
Also Vermutung meinerseits jetzt nur, ich vermute, dass da eben jetzt juristisch nochmal an entsprechenden Fällen nachgezogen wird. Wenn es die ersten Schlagen gibt in dem Bereich, werden die ersten Präzedenzfälle quasi verhandelt. An sich ist das ja aber was, was wir jetzt gerade schon beobachten. Wir haben das auch mit den Meta-Brillen, also mit denen kann man ja auch filmen und Fotos machen und so weiter. Ähnliche Debatten wurden schon geführt, als Smartphones immer mehr und mehr auf den Markt kamen. Weil auch da die Frage war, was ist, wenn mich jemand damit aufnimmt? Was ist, wenn jemand heimlich Bilder macht? Für diese Fälle gab es jetzt in den vergangenen Jahren zig Urteile und zig juristische Rahmen, die geschaffen wurden. Ich vermute, dass das jetzt eben ein Bereich sein wird, wo man einfach wieder nachziehen muss.

Caspar:
Ja, es wäre halt ein bisschen schade. Also es gibt ja schon Städte, die überlegen, ob sie zum Beispiel im Nahverkehr smarte Brillen verbieten mit Kamerafunktionen. Es wäre jetzt schade, wenn jemand, der eine Apple Watch hat, die Zukunft in der Bahn nicht mehr sitzen kann. Also das sind alles so Debatten, die jetzt demnächst einmal losgetreten werden. Ich bin auch gespannt, ob Apple nach dieser Kritikwelle, die dann aufgekommen ist, die Funktion auch wirklich so einführen wird oder nur einzelne Abschnitte davon, wo zum Beispiel dieses Sirenen-Ding oder Türklingel feststellen oder schreiendes Baby. Das ist ja was anderes als die anderen Funktionen. Mal gucken, was da so passiert. Wenn ihr was hört, dann sprechen wir natürlich in den Updates auch darüber.

Elli:
Und auch da muss man sagen, es gibt ja genügend Gadgets und Funktionen, wo wir eine Trennung haben zwischen was ist in den USA möglich zum Beispiel und was im europäischen Raum.

Caspar:
Ist die Frage. Ja, KI-Funktionen sind ja hier von Apple sowieso so ein Thema. Wir werden ja auch erstmal keine bekommen, weil die EU-Kommission mit Apple ja im Konflikt steht. Also Apple mit der EU-Kommission, so muss man es ja sagen. Mal gucken, ob diese Audio, also dieses AI, Audio Intelligence, ob das auch wirklich nach Europa kommt und in welcher Form. Aber auch das behalten wir im Blick für euch.

Elli:
Dann würde ich sagen, habe ich noch einen Beef mitgebracht zum Schluss in unserem Newsflash, bevor wir zu Vulkanen gehen. Ja, es geht zurück zu OpenAI. Wir kommen nicht umhin. Es geht aber nicht um den Weltuntergang, sondern um komplexe Mathe-Probleme.

Caspar:
Ah ja, ja. Mit wem streitet sich denn OpenAI? Was ist denn genau passiert?

Elli:
Also, Wunder, oh Wunder, wenn es darum geht, die Nase beim Lösen großer mathematischer Probleme vorn zu haben, dann scheint die Einigkeit, die OpenAI und Entropic beim Weltuntergangsszenario noch hatten, nicht mehr vorzuherrschen.

Caspar:
Im Gegenteil. Ah, guck an, sie streiten sich also doch noch, dann bin ich ja beruhigt.

Elli:
Ja, wir starten mal mit einem kurzen Umriss der Ereignisse und ich stelle euch Tristan Buckmaster vor. Der ist Mathematiker. Ich zeichne ihn euch kurz in euren Kopf. Er ist Anfang 40, weiß, hat einen Bart und dunkelbraune Locken. Backmeister ist Professor an der New York University und geforscht hat er in den letzten Monaten unter anderem mit Levin Alpöge. Ich spreche es wahrscheinlich ganz falsch aus, es tut mir leid, Levent Alpöge ist unter anderem türkische Abstimmung, das heißt, da kommt das Ö irgendwie her, geforscht haben die beiden zu den sogenannten Navier-Stokes-Gleichungen. Ganz kurzer Exkurs. Ich wollte gerade fragen. Ich spreche es runter, weil ich, also, wir wissen alle, dass ich da...

Caspar:
Wer jetzt vom Fach ist, möge bitte kurz die Ohren zuhalten. Genau. Wir bitten um Entschuldigung.

Elli:
Die Navier-Stokes-Gleichungen bilden Bewegungen von Fluiden, also Wasser, Luft und Flüssigkeiten ab. Und die Mathematik fragt sich seit Jahrzehnten, ob es irgendwelche Extremszenarien gibt, in denen diese Gleichungen für die Bewegungen nicht mehr gelten. Die beiden Mathematiker haben also dazu wie viele andere geforscht und versucht, sich an das sogenannte Blow-up-Szenario ranzutasten, also das hypothetische Szenario, in dem die Gleichungen ausgehebelt werden.

Caspar:
Sie haben sich rechnerisch daran getastet und, Überraschung, wenn man das heutzutage tut in den Jahren 2025 und 2026, dann nutzt man für eine solche Arbeit natürlich auch KI. Unter anderem Claude von Entropic und Codex von OpenAI. Das sind die Programmiersprachmodelle von den beiden Anbietern, die sich aber natürlich auch mit solchen mathematischen Modellen ganz gut beschäftigen können.

Elli:
Levent Alpöge arbeitet übrigens auch bei Anthropic, aber muss man dazu sagen, Backmaster schreibt dazu in einem vor kurzem veröffentlichten Statement, seine und Alpöges Zusammenarbeit sei eine rein persönliche Zusammenarbeit, Zitat gewesen. Die Arbeitgeber der beiden hätten da nichts mitzumischen gehabt. Behalten wir jetzt mal so im Hinterkopf, weil das wird gleich noch wichtig.

Caspar:
Letzte Woche Dienstag am 8. September veröffentlichten Backmaster und Alphöge Arbeiten zu drei Aspekten ihrer Forschung. Und Backmaster gibt auch ein vierseitiges schriftliches Statement dazu ab. Unter anderem schreibt er darin, er hätte die Arbeit eigentlich gerne noch glatt gezogen und dass sie in ihrer jetzigen Form veröffentlicht wurde, sei unter anderem dem Druck durch äußere Faktoren geschuldet. Da kommen wir gleich noch zu. Und denen die Spannungsbogen müssen wir noch kurz aufrechthalten.

Elli:
Ja, wenig später, wir klicken mal ein bisschen weiter durchs Internet, finden wir auf dem Unternehmensblog von OpenAI einen Artikel mit der Überschrift, zum Navier Stokes Millennium Preis Problem. Der Millennium Preis ist übrigens ein sehr, sehr hoch dotierter Preis, der darauf abzielt quasi, wenn jemand dieses Navier Stokes Problem löst, dann wird man entsprechend mit diesem Preis belohnt. Also OpenAI hat in seiner Überschrift dieses Navier-Stokes-Problem drin und der erste Satz des Blogartikels beginnt mit, wir stellen eine Lösung vor.

Caspar:
Inwieweit das, was OpenAI da vorgestellt hat, wirklich eine Lösung für dieses Navier-Stokes-Problem ist, das wird in der mathematischen Community heiß diskutiert. Eine Überprüfung steht auch noch aus. Einig ist man sich aber, das, was OpenAI da mit Hilfe künstlicher Intelligenz durchexerziert hat, ist durchaus beeindruckend.

Elli:
Wir ersparen euch jetzt mal die Einzelheiten zu dem, was OpenAI gemacht hat. Wenn ihr tief in der Mathe-Materie drin seid, dann guckt euch das Ganze mal an und macht euch ein Bild davon. Ist bestimmt spannend. Wir gucken aber auf eine ethische Diskussion, die sich aufmacht und nochmal zurück auf das Statement von Tristan Buckmaster. Der sagt nämlich, kurz zusammengefasst in seinem Statement.

Caspar:
Und OpenIA habe mit der Forschung begonnen, nachdem durchgesickert war, woran er und Alphöge arbeiten. Und im Austausch mit OpenIA sei ihm auch tatsächlich eine Zusammenarbeit nahegelegt worden, wenn er und Alphöge als Mitautor, aus dem Projekt streiche, weil der nun mal bei der Konkurrenzfirma arbeite. Also man sei auf ihn zugegangen und hätte gesagt, guck mal, wir arbeiten hier zusammen, wenn du den anderen aus der Autorenschaft rausstreichst.

Elli:
Ja, beziehungsweise er hat sich proaktiv an OpenAI gewandt und dann hat sich das Ganze so entwickelt. Ihr könnt euch, das Statement ist wirklich interessant, sind vier Seiten. Super spannend auch zu lesen. Ein bisschen, also auch wenn ihr auf so, weiß ich nicht, nicht Trash-TV, weil man muss auch sagen, in seinem Statement ist er sehr höflich und sehr reflektiert und so weiter.

Caspar:
Wissenschaftler halt.

Elli:
Ist schon juicy. Wissenschaftler, aber juicy. Ja. Duckmaster vermutet außerdem, dass OpenAI auf die Prompts zurückgegriffen haben könnte oder beziehungsweise auf das, was er und Alpöge bei Codex eben so eingegeben und berechnet haben.

Caspar:
OpenAI stellt das Ganze natürlich ein bisschen anders dar. Man habe interne Ressourcen erst auf das Navier-Stokes-Problem konzentriert, nachdem KI-Agenten unabhängig ein Ergebnis zu einem verwandten Problem gefunden hätten. Also nach dem Motto, unsere Agenten haben ein anderes Problem schon mal angefangen, dann haben wir uns darauf halt auch dann drauf konzentriert.

Elli:
Man betont, die Beweise in den Arbeiten, die würden sich ja auch unterscheiden. Also es sei ja auch nicht das Gleiche wie das, was Buckmaster und Alpöge da gemacht hätten. Man kann wohl nicht ausschließen von Seiten OpenAI, dass anonymisierte Nutzungsdaten zur Verbesserung der eigenen Modelle beigetragen haben könnten. Ein kleiner Einschub an der Stelle, es steht ja auch in den AGBs von OpenAI, dass teilweise Daten genutzt werden, um die Modelle zu verbessern. Aber man will nicht auf spezifische Nutzerdaten zugegriffen haben. Das ist so die Seite von OpenAI. Ja, ihr seht also, da ist der Beef groß und natürlich auch für die mathematische Community ist das ein bisschen eine größere Sache. Denn auf der einen Seite hat man gemerkt, okay, mit KI ist super viel möglich. OpenAI hat große Dinge da vermutlich geleistet. Das wird jetzt alles noch angeguckt, aber es ist schon eine spannende Entwicklung, die sich da auftut. Und auf der anderen Seite, Leute, die jetzt mit Programmen von OpenAI wie mit Codex arbeiten, fragen sich, wer weiß, wie viel zu Recht, naja, kann ich meine Sachen da wirklich noch eingeben oder wird mir dann auch auf kurz oder lang alles quasi ein bisschen geklaut von der KI?

Caspar:
Ja.

Elli:
Und man hat natürlich dann auch die Darstellung von beiden Parteien, von OpenAI und von Bugmaster, wie diese ganze Sache gelaufen ist hinsichtlich der potenziellen Zusammenarbeit und streicht man dann den einen Namen raus. Backmaster sagt in seinem Statement, da soll es Druck und unschönen Wortwechsel gegeben haben. Das wiederum wird teilweise bestritten von OpenAI. Ihr seht schon, langer Rattenschwanz für die Wissenschafts-Community. Super, super spannend. Wie geht man mit sowas um? Mittlerweile gab es auch einen offenen Brief von MathematikerInnen zu der ganzen Thematik. Dachte ich, lasse ich euch auch mal da. Es ist juicy, es ist aber auch super spannend, was so Wissenschaft an sich angeht und so Grundlagenforschung vor allem und so mathematische Forschung. Jetzt seid ihr im Bilde.

Caspar:
Naja und auch wir, ich sag mal, Nichtwissenschaftlerinnen und Wissenschaftler und Otto-Normal-Verbraucherinnen können ja was daraus mitnehmen, nämlich immer mal wieder in Erinnerung rufen, die KI wird mit dem trainiert, was wir da eingeben. Also nicht alle entwickeln wir jetzt tiefe mathematische Lösungen für jahrhundertealte Probleme. Das nicht. Und wir versuchen auch nicht irgendwelche Preisgelder alle zu gewinnen. Aber trotzdem ist es ja nicht so verkehrt, mal kurz darüber nachzudenken. Das, was ich da reinschmeiße, wird weiterverarbeitet und unter anderem auch fürs Modelltraining genutzt und teilweise ja auch, vor allem, wenn ich einen kostenlosen Account habe, für personalisierte Werbung. Das hatten wir hier ja auch schon mal besprochen. Behaltet das einfach im Hinterkopf, wenn ihr KI wohl nutzt.

Elli:
Übrigens, apropos Preisgeld noch, dazu hat OpenAI auch was gesagt. Sollte das, was die veröffentlicht haben, als Beweis anerkannt werden und als Lösung des Navier-Stocks-Problem, will man das Preisgeld nicht beanspruchen, das darauf ausgesetzt ist. Ja, ich weiß jetzt nicht, ob das die Unruhen in der wissenschaftlichen Community in irgendeiner Weise besänftigen könnte. Ich habe da so meine Zweifel.

Caspar:
Wahrscheinlich nicht.

Elli:
Apropos Unruhen, zum Schluss.

Caspar:
Oh, oh, was für eine Überleitung. Vulkanausbrüche, wie wäre es? Da geht es auch sehr unruhig zu, das stimmt. Das ist unser dritter Vulkan in der guten Nachricht. Wir hatten den Vesuv, wir haben über Drohnen, über Vulkane gesprochen, die die Vorhersage erleichtern sollen. Und jetzt haben wir wieder Vulkane und wieder Vorhersagen.

Elli:
Toll. Die Frage ist so ein bisschen, können wir Vulkanausbrüche bald so vorhersagen wie das Wetter?

Caspar:
Bisher funktioniert es leider nämlich sehr eingeschränkt. Ein Vulkan kann durchaus anfangen zu rumoren, die Erde kann beben, es können Gase austreten. Und trotzdem kann es sein, dass der Vulkan nicht ausbricht. Normalerweise sind das ja alles so Intizien, oh, da tut sich was, da ist demnächst mal ein Ausbruch, der bevorsteht.

Elli:
Laut Forschung endet tatsächlich nur ungefähr die Hälfte von solchen auffälligen Unruhephasen in einer Eruption, also in einem Vulkanausbruch. Aber jetzt gibt es Ideen, wie wir deutlich besser darin werden, vorauszusagen, bei welchen dieser Unruhephasen tatsächlich eine Eruption kommt.

Caspar:
Genau. Es gibt einige sehr gut erforschte Vulkane, wie den Stromboli oder den Ätna. Dort können WissenschaftlerInnen aktuell schon Stunden im Voraus erkennen, ob so ein Ausbruch bevorsteht. Und auf Hawaii und Island lässt sich teilweise sogar sehr genau verfolgen, wie Magma unterirdisch durch die Erdkruste wandert und auch dort relativ gut abschätzen, wo es wann aus der Oberfläche kommt. Jetzt kommt aber moderne Technik ins Spiel und zwar kommen wir auch zu der eigentlichen guten Nachricht, nämlich dem Forschungsprojekt Expecting the Unexpected. Das finde ich einen sehr schönen Titel für so ein Forschungsprojekt. Dort untersuchen Wissenschaftler eben mehrere Vulkane in der östlichen Karibik. Ein sehr schönes Forschungsgebiet fällt mir da an der Stelle gerade auf, würde ich auch mitmachen. Und es geht darum, dass sie hunderte Seismometer in dieser Region ausgeteilt haben und sogar Glasfaserkabel nutzen, um winzigste Erdbeben aufzuzeichnen.

Elli:
Diese Datenmengen, die dann eben aufgezeichnet werden, werden ausgewertet mit Machine Learning. Die Programme suchen nach sehr kleinen Veränderungen in den Erdbebenmustern, die Menschen in dieser Datenmenge kaum erkennen könnten. Ich muss da an unsere Herz-Good-News denken. Auch da ging es ja um sehr kleine Muster, die den Menschen vielleicht nicht so auffallen, aber dann eben beim Machine Learning doch zum Vorschein kommen oder doch markiert werden können. Damit konnten Forscher bislang bereits unbekannte Wege entdecken, auf denen sich Magma unter Vulkan bewegt.

Caspar:
Das Ziel von dem Ganzen ist aber tatsächlich noch ambitionierter. Die Wissenschaft will verstehen, welche physikalischen Prozesse dafür sorgen, dass eine Magmakammer als ruhig oder als die bricht hier jeden Moment aus eingestuft werden kann, weil die ja eigentlich von außen bisher schwer vorhersehbar sind. Und das will man eben mit dieser Berechnung und den Modellen und diesem Expecting and Unexpected ändern.

Elli:
Wenn man diesen Wechsel irgendwann genauer einschätzen kann, dann könnten Vulkanwarnungen irgendwann tatsächlich so ein bisschen mehr wie Wettervorhersagen aussehen. Nicht nur ist es gerade unruhig, sondern es besteht eine bestimmte Wahrscheinlichkeit für einen Ausbruch und das könnte so und so ablaufen. Wir haben aber natürlich ein Aber mit dabei.

Caspar:
Ich wollte gerade sagen, ein Aber gibt es. Wir sind noch ein ganzes Stück entfernt, dass das so einfach wird wie Wetterbericht. Aber das sollte man definitiv weiter erforschen, weil um nochmal eine Zahl mitzubringen, weltweit leben rund 800 Millionen Menschen im Umkreis von 100 Kilometern um aktive Vulkane und jede einzelne Stunde Vorwarnzeit kann bei diesen Menschen Leben retten. Und deswegen ist es eine gute Nachricht, dass man das weiter erforscht und vielleicht in naher Zukunft dann einfach sehr früh schon vorher sagen kann, ihr solltet lieber mal eure Region evakuieren, weil da könnte was passieren.

Elli:
Ja, und damit würde ich sagen, machen wir für heute den Deckel drauf. Wir hören uns dann nächste Woche wieder.

Caspar:
Yes.

Elli:
Vielleicht mit ein bisschen weniger Drama.

Caspar:
Ja, ich sage mal so, das liegt nicht an uns. Das können wir der Tech-Welt als Aufgabe mal mitgeben. Sich ein bisschen zu beruhigen, ein bisschen weniger Weltuntergang, ein bisschen weniger ausspionieren, ein bisschen weniger belauschen im doppelten Sinne. Also reißt euch am Riemen, liebe Tech-Welt. Dann wird die nächste Sendung ein bisschen weniger dramatisch.

Elli:
Ja, nicht ihr da draußen, die Tech-Welt.

Caspar:
Nein, nein, genau, die Tech-Welt.

Elli:
Aber wir gucken mal. Wir treffen ja hier immer die Auswahl, was wir mit reinnehmen. Vielleicht lassen wir auch nicht mal ganz so viel Drama mit rein. Wobei spannend war es ja schon.

Caspar:
Ja, das musste jetzt mal eine Drama-Sendung sein.

Elli:
Ich würde sagen, ich hoffe, ihr habt euer Popcorn aufgegessen. Wir haben am Anfang zwar nicht gesagt, dass ihr euch das dazuholen sollt, aber wisst ihr Bescheid. bei uns.

Caspar:
Ich schreibe es in die Shownote als erster Satz. Holt euch Popcorn.

Elli:
Und wir hören uns dann nächste Woche wieder. Macht's gut.

Caspar:
Tschüss.

Elli:
Das war's schon wieder für diese Woche. Folgt.