Warum die USA plötzlich nervös auf chinesische KI schauen

Das Transkript wird automatisiert erstellt

Jingles:
Silicon Weekly. Der Tech-Podcast mit den wichtigsten News der Woche. Für dich eingeordnet von Elli, Stella und Caspar.

Stella:
Ihr seid wieder am Start, wenn wir euch mitnehmen durch einen Ritt durch allerlei Tech-News. Und jetzt habe ich auch meine störenden Hintergrundgeräusche ausgemacht. Was hältst du denn an? Hast du es nicht gehört?

Caspar:
Nee, ich habe es nicht gehört.

Stella:
Hier kam noch so eine Notification rein, dann ist doch alles ganz wunderbar.

Caspar:
Ja, sodass die Leute wieder denken, sie haben eine Mail bekommen. Das kenne ich.

Stella:
Das ist immer fies, ne?

Caspar:
Das hört man immer mal wieder bei einem Podcast, dass man plötzlich so denkt, oh, da ist eine Mail. Achso, das war ein Podcast.

Stella:
Oder was weiß ich, irgendwelche Teams-Geräusche oder so.

Caspar:
Aber gut, dass du mich daran erinnerst. Ich mache hier auch mal den Nicht-Stören-Modus an. Das ist gar keine schlechte Idee, Stella. Guck mal, Housekeeping direkt zu Beginn.

Stella:
So, und ich würde sagen, ihr macht euch doch vielleicht auch mal den Nichtstören-Modus an. Ich hoffe, wenn ihr uns hört, legt ihr euch vielleicht gerade in den Schatten, entspannt euch ein bisschen.

Caspar:
Oh ja, kühles Getränk.

Stella:
Lehmt euch einfach zurück, ein kühles Getränk, ein Eis. Würde ich ja auch persönlich empfehlen. Wir haben jetzt noch mal einige Updates mitgebracht. Wir haben mal ein ganz anderes WTF, um euch vielleicht schon mal auf unsere Sommerpause einzustimmen. Es geht um, ich wollte gerade sagen, sexy Murmeltiere.

Caspar:
Es wird erotisch. Sagen wir mal so.

Stella:
Erotisch. Wir haben einen Input, da wenden wir uns einem Klassiker zu, nämlich der künstlichen Intelligenz. Und natürlich darf die gute Nachricht, wo wir mal wieder auf die Wissenschaft schauen, auch nicht fehlen. Aber lasst uns direkt loslegen, bevor es auch Caspar im Dachgeschoss zu warm wird. Das wollen wir ja verhindern. Und Reminder, trinkt genug. Also falls ihr heute vielleicht noch nicht so viel getrunken habt, ist das jetzt euer Signal. Mindestens im Wasser. Caspar, es gibt ja irgendwie so Meldungen, die überraschen mich tatsächlich im Tech-Bereich. Und dann, also viele überraschen mich auch nicht, gebe ich ehrlich zu, aber die, die hat mich überrascht, das Update, was wir mitgebracht haben. Wie war es bei dir?

Caspar:
Ja, bei mir auch, wo ich sagte, hä, das kann, das versteht, wieso? Es geht um Vata, Stella. Ich weiß nicht, wie es dir geht. Ich habe sofort an Knopfzellenbatterien gedacht, du wahrscheinlich auch. Ja, der Klassiker. Ich habe hier, ich halte es mal in die Kamera, Stella sieht es auch. Ich habe hier zufälligerweise direkt vor mir auch eine entsprechende Doppel-A-Batterie liegen. Varta kennt ihr wahrscheinlich alle. Ich wusste aber nicht, wie alt die Firma ist. Die gibt es nämlich tatsächlich schon seit 1887. Und ich wusste auch nicht, wofür dieser Name Varta steht. Der steht nämlich für Vertrieb, Aufladung, Reparatur, Transportabler, Akkumulatoren. Wunderschön. Also ich bin froh, dass wir das mit Warte abkürzen und jedes Mal laut aussprechen müssen.

Stella:
Und das kurze News-Update heute ist, dieser, Caspar, du hast es gesagt, traditionsreiche Batteriehersteller, der hat beim Amtsgericht Stuttgart ein Insolvenzverfahren in Eigenveranwaltung beantragt. Was man aber auch dazu sagen muss, diese Batterien, wo Caspar ja auch gerade zumindest mir dieses, wir sollten einen Videopodcast machen, dann würdet ihr es auch sehen, das Beispiel präsentiert hat, die sind nicht von dem Insolvenzverfahren betroffen. Ich glaube, das müssen wir vielleicht noch einmal ein bisschen erklären, weil jetzt kommt tatsächlich auch plötzlich die US-Firma Apple mit rein.

Caspar:
Weil Vata tatsächlich nicht nur die Knopfzellenbatterien und diese AAA- und AA-Batterien herstellt, so wie die meisten von uns sie kennen, sondern die haben auch noch mehrere andere Geschäftsfelder. Und das Problem ist, dass da eine schwächelnde Nachfrage herrscht und dass ein Großkunde abgesprungen ist. Und da kommen wir tatsächlich zu Apple. Die haben nämlich mit Varta zusammengearbeitet, unter anderem für die Akkus fürs iPhone und auch wenn ihr mal so ein AirTag aufschraubt, da sind zum Beispiel auch diese Knopfzellenbatterien von Varta in der Regel drin. Das heißt, die waren großer, großer Kunde und die sind jetzt abgesprungen, weil sie nämlich Konkurrenz aus Fernost von Varta quasi genommen haben und zu denen drüber wechseln, weil die günstiger sind. Und dann hat Warta auch noch Probleme bei Lieferketten und ähnliche Dinge. Ja, und ich habe gesagt, sie machen nicht nur Haushaltsbatterien, sie machen nämlich auch oder sie haben versucht, ins E-Auto-Batterie-Segment einzusteigen. Das ist aber für Vata immer ein Nischenprodukt geblieben. Das war natürlich die Idee, das zu einem großen, großen Markt auszubauen, weil wir wissen ja alle, E-Mobilität ist die Mobilität der Zukunft. Zumindest für viele Menschen da draußen. Ich wusste gerade lang. Ja, nein, heute hat der Verkehrsminister der Neue auch schon wieder gesagt, das Verbrenner aus war ein Fehler. Darüber wollen wir heute nicht reden.

Caspar:
Aber wie gesagt, Warta hat versucht, in diesen E-Automarkt zu wechseln, der ja nun vor allem auch ansteigt und wächst hoffentlich und hat hauptsächlich zum Beispiel für Hybridfahrzeuge Batterien herstellen wollen. Aber der einzige bekannte Kunde von Warta in diesem Bereich war Porsche und auch war, weil das irgendwie nie groß geworden ist und sich auch nicht durchgesetzt hat. Allerdings hat Varta da zum Beispiel sehr viel Geld reingesteckt in die Entwicklung, in Fabriken, in Know-how und so weiter und so fort. Und da das nicht funktioniert hat und auch noch Apple abgesprungen ist, sind schlicht und ergreifend die Spielräume von Varta finanzieller Art in den letzten Monaten immer enger geworden. Und auch Geldgeber wie zum Beispiel die Deutsche Bank und verschiedene Finanzinvestoren, die haben keine getragfähige Gesamtlösung mehr gesehen, wie es heißt. Ja und deswegen, wie gesagt, die Insolvenz. Es gibt Pläne des Geschäfts mit Haushaltsbatterien, also den Knopfzellen und so weiter und so fort, herauszulösen und dafür eine neue Eigentümerstruktur zu schaffen. Ja, mal gucken, wie das weitergeht. Wir schauen immer mal wieder auf Vater drauf. Und eine Insolvenz an sich ist ja auch noch nicht das Ende von der Firma. Es ist ein drohendes Signal, aber daraus kann man sich ja trotzdem herausretten, und kann sagen, wir schaffen das wieder raus. Insofern, wir gucken mal drauf, ob diese Traditionsfirma bestehen bleibt und wie das weitergeht.

Stella:
Und wir haben auch noch ein zweites Update für euch. Es geht nämlich um die KI-Kennzeichnungspflicht in der Europäischen Union. Und ab August gelten eben neue Transparenzregeln für künstliche Intelligenz. Das heißt, ihr hört uns jetzt diese Woche vielleicht noch so bis zum 31. Juli. Die Folge kommt ja am 30. Juli raus. Und dementsprechend dann zeitnah wird das Ganze auch Gültigkeit sein. Nein, jetzt finde ich auch in den Schlagzeilen wirkst manchmal ganz schön so, als müsste jeder KI-generierte Inhalt gekennzeichnet werden. Und hier in dem Update wollten wir euch nochmal kurz einen Überblick geben, dass das eben nicht so ist, sondern was jetzt quasi unter diese Kennzeichnungspflicht fällt.

Caspar:
Ja, so eine grobe Faustregel ist... Diese Kennzeichnungspflicht gilt vor allem da, wo Menschen durch KI getäuscht werden könnten. Also etwa bei Deepfakes, also Bilder, die mit Realität verwechselt werden könnten oder auch zum Beispiel falsche Stimmen oder solche Geschichten. Das ist das, was die EU im Blick hat und das muss dann in Zukunft gekennzeichnet werden. Aber nicht nur die Leute, die Dinge veröffentlichen, auch die Anbieter von KI-Systemen, die müssen ihren Modellen künftig, technisch, die müssen die so umbauen, dass KI-generierte Inhalte besser erkennbar sind. Wir haben hier ja auch schon mal über digitale Wasserzeichen gesprochen und solche Dinge, was zum Beispiel Google gerade umsetzt. Das heißt, in dem Bereich gilt diese Kennzeichnungspflicht.

Stella:
Vielleicht auch wichtig für die Nutzenden im Alltag, würde ich sagen, ändert sich selber beim Umgang mit KI wahrscheinlich erst mal wenig. Wer jetzt zum Beispiel das Ganze zum Recherchieren nutzt, damit Texte überarbeiten lässt, KI zum Recherchieren nutzt, vielleicht mal irgendeinen Abschnitt überarbeiten lässt, euch Feedback geben lässt, dann müsst ihr sowas nicht kennzeichnen. Also ihr müsst jetzt nicht jeden Text, wo was weiß ich, was die KI euch bei einer Überschrift in dem Sinne geholfen hat, dass ihr euch Vorschläge gemacht habt, die ihr dann angepasst habt, da müsst ihr jetzt nicht dran schreiben, dass das KI generiert ist.

Caspar:
Warum kann das trotzdem für euch interessant sein und warum haben wir euch das mitgebracht? Naja, weil ihr in Zukunft wahrscheinlich häufiger über so einen Hinweis KI generiert oder mit KI erstellt stoßen werdet. Das wird jetzt nämlich zunehmen, weil zum Beispiel große Anbieter oder zum Beispiel auch Werbeanbieter, ich habe das jetzt schon häufiger gesehen, ich weiß nicht, wie das geht Stella, manchmal saß man vor einer Weile vor Werbung und hat gedacht, das ist doch eigentlich KI generiert, hat aber keinen Hinweis gehabt. Jetzt inzwischen steht er immer ganz klein in der Ecke. Zum Beispiel bei einem Plakat habe ich neulich an der Bushaltestelle gesehen, dann auch KI generiert. Solche Hinweise sind jetzt in Zukunft halt dann entsprechend nötig. Und die sollen euch einfach helfen, einzuschätzen, was eine authentische Aufnahme ist, was vielleicht künstlich ist. Und in diese Richtung werdet ihr in Zukunft dann einfach mehr sehen.

Stella:
Jetzt haben wir euch einiges an Updates mitgebracht, auch recht ausführlich. Mensch, viel, viel erklärt. Ja. Wir haben ja geteasert, beziehungsweise ich habe gesagt, wir haben was mitgebracht mit sexy Wombeltieren. Ich denke, wir sollten das jetzt im WTF einmal auflösen.

Caspar:
Na gut, dann reden wir einmal über Wombeltiere. WTF Es ist ein WTF ganz ohne Elon Musk, ohne Meta. Wir haben uns gedacht, wir machen heute mal ein bisschen was zum Schmunzeln und schlagen uns mal nicht vor ein Setzen mit der flachen Hand gegen die Stirn. Vielleicht fangen wir mal so an. Wenn wir euch von der Plattform Onlyfans erzählen, dann denken die meisten wahrscheinlich von euch an zum Beispiel erotische Inhalte von KreatörInnen, die dort Fotos und Videos von sich hochladen, in der Regel erotischen Content und demgegen Abos verkaufen. Kleiner Funfact, so war Onlyfans eigentlich gar nicht gedacht ursprünglich. Im Namen steckt ja auch schon Fan mit drin. Die Idee war eigentlich mal, statt Nackedei-Bilder dort die Möglichkeit zu bieten, dass Promis ihren Fans quasi gegen Bezahlung exklusive Inhalte anbieten können. Sei das ein Einbring im Privatleben, vor Verkauf von irgendwelchen Konzerten oder solche Dinge. Inzwischen, das hat aber als Geschäftsmodell nicht so richtig funktioniert und inzwischen ist das Geschäftsmodell halt ein kleines bisschen ein anderes.

Stella:
Das ist aber noch nicht unser WTF, sondern das war nur die kurze Einleitung, sondern das WTF ist halt nun, dass Hummeltiere ein Onlyfans-Account haben. Und ja, das ist jetzt auch kein Spitzname oder was weiß ich was, sondern wir meinen, diese eigentlich postierlichen süßen Nageltiere leben in Europa, in Eurasien, Nordamerika, von denen reden wir. Und jetzt wird es noch kurioser und deswegen, ich weiß, Caspar hat den Link reingeschickt in unsere eine Gruppe und hat gesagt, hier, das müssen wir machen. Ist das unser WTF? Und da war die Einigkeit schnell vorhanden, denn das Ganze passiert auch noch im Namen der Wissenschaft. Und ihr habt bestimmt viele Fragezeichen im Kopf. Wir lösen nacheinander auf.

Caspar:
Die hatte ich auch, als ich den Artikel gelesen habe. Ja, also es geht um ein Forschungsteam aus den USA. Die hat den Account Only Marms gestartet. Das ist ein Wortspiel aus Onlyfans und dem englischen Wort für Murmeltiere, nämlich Marmots, Only Marms. Und der Hintergrund, das Ganze klingt jetzt erstmal sehr lustig, aber der Hintergrund ist eigentlich gar nicht so lustig, weil warum gibt es diesen Account? Weil die Gelbbauchmurmeltiere, das ist die genaue Rasse, um die es geht, die lebt in den Rocky Mountains und die werden tatsächlich schon seit 1962 wissenschaftlich untersucht und beobachtet, und das ist tatsächlich die längste Langzeitstudie ihrer Art überhaupt, die es gibt in diesem Zeitraum. Aber doch wir wissen alle, die US-Regierung, die hat es nicht ganz so mit dem Thema Wissenschaft unter Donald Trump und die hat jetzt viele Forschungsgelder gekürzt oder ganz komplett gestrichen und in dem Fall auch bei diesem Projekt, dem fehlt jetzt nämlich das Geld.

Stella:
Und da war dann eben die Idee der Forschenden, die dann auch letztendlich zu dem Account geführt hat. Ja, wenn Menschen so generell für exklusive Inhalte bezahlen, dann ja vielleicht auch für quasi exklusive Murmeltierinhalte. Und so ist dann dieser besagte OnlyFans Account eben gestartet. Und was es dort gibt, sind exklusive Fotos und Videos der flauschigen Magetiere. Also es ist ja eigentlich so ein bisschen back to the roots, Caspar, von dem, was du mal für OnlyFans ursprünglich gedacht hattest. Jetzt muss man sich aber ganz, ja, also ich glaube, zu Beginn des Accounts gab es dann doch schon ein Problem.

Caspar:
Ja, das hat der Leiter des Forschungsprojekts der New York Times nämlich erzählt. Der wollte nämlich diesen OnlyFans-Account einrichten und dafür muss man sich verifizieren. Ja, und deswegen hat er seinen Führerschein dort hochgeladen und die Plattform hat das dann aber abgelehnt. Warum? Weil, Überraschung, das Gesicht auf dem Ausweis sah nicht so aus wie die Gesichter von den hochgeladenen Fotos, was ja Murmeltiere waren. Dementsprechend hat dann OnlyFans gesagt, das kann nicht stimmen. Zum Glück hat dann ein E-Mail-Verkehr ausgereicht zwischen diesem Projektleiter und OnlyFans, dass der geschrieben hat, was die Idee war, warum er sich angemeldet hat und so. Und dann ging das relativ schnell, dass dann tatsächlich dieser Account dann freigeschaltet wurde und sie das Projekt dann starten konnte.

Stella:
Mich hätte immer interessiert, ob in der E-Mail da entstand, Entschuldigung, das sind nicht Sie, das sind Murmeltiere oder so, aber gut, das wissen wir nicht.

Caspar:
Es wird leider ein echtes, es wird ein automatisiertes System gewesen sein. Ich hätte gerne Menschen gesehen, der sich dieses Führersteinfoto anguckt und dann die Murmeltierfotos. Dem wäre, glaube ich, früher schon aufgefallen, dass da aber das nicht stimmt.

Stella:
Aber jetzt gibt es ja schon ein Aber dabei, denn das Geld, was bisher damit zusammengekommen sind, das sind so ein paar hundert Dollar. Das ist zu wenig, um eben diese jahrzehntelange Forschung dauerhaft zu finanzieren. Jetzt gibt es ja aber internationale Aufmerksamkeit für das Forschungsprojekt. Ja, also ich glaube, Caspar, wir hätten beide nicht gedacht. Nee, es ist eine Premiere. Das ist jetzt hier keine Schleichwerbung oder sonst was. Aber falls ihr euch für diesen OnlyFans-Account interessiert, dann findet ihr den Link in den Shownotes.

Caspar:
Genau, lasst doch da gerne ein Abo da. Ist eine Premiere, dass wir bei Silicon Weekly auf einen OnlyFans-Account verweisen. Wir packen den Link in die Shownotes direkt zu einem Account. Ich bin mal gespannt, ob das was mit der Folge macht, ob wir bei Apple dann irgendwie runterzensiert werden oder so. Mal gucken, wir werden berichten, wenn wir aus der Sommerpause zurück sind, ob das irgendwelchen Einfluss auf unsere Aufrufe hatte. Ja, quasi apropos, naja, Zensur ist es ja nicht, wenn wir ein bisschen runtergestuft werden wegen dem OnlyFans Account in den Show Notes. Aber wir haben ein Thema, was so ein bisschen mit Zensur zu tun hat. Und ja, und KI, wir gucken mal, was wir, wir sagen euch gleich, was wir vorbereitet haben.

Stella:
Oh, Caspar, da hast du aber eine große Kurve gewählt.

Caspar:
Ja, wie immer.

Stella:
Wir wollen eigentlich mit euch über künstliche Intelligenz sprechen und gucken uns dafür heute auch KI-Modelle gezielt an. Vielleicht, was man dazu sagen muss, besonders liegt heute der Fokus eigentlich auf dem, was gerade in China passiert bei künstlicher Intelligenz. Kleiner Spoiler, das ist sehr viel. Wir erklären euch auch, warum denn jetzt die USA so nervös auf diese KI-Entwicklung eben schauen. Aber wir müssen eben, und das meinte Caspar auch, in dem Kontext über Zensur und politische Einflüsse sprechen. Ihr merkt, wir haben uns vor der Sommerpause nochmal einen richtigen Blog vorgenommen. Aber es gibt wie immer einen aktuellen Aufhänger und der heißt Chemie K3.

Caspar:
Genau. Und keine Sorge, wir werden jetzt nicht irgendwelche Modellfähigkeiten runterrattern. Ihr kennt uns. Wir machen das möglichst spannend für euch und machen das mit einem größeren Blick auf das Thema. Ja, Chemie K3. Von der chinesischen Firma Moonshot AI. Die haben Ende Juli ihr neuestes Modell, das heißt nämlich eben Kimi K3 vorgestellt. Und ich weiß nicht, wie es dir geht, Stella. Ich kannte die Firma vorher nicht. Hattest du von Moonshot AI schon mal was gehört?

Stella:
Nur in dem Kimi-Kontext.

Caspar:
Ja.

Stella:
Aber also auch nicht so, dass ich bis jetzt zum Beispiel da irgendwas ausprobiert habe oder so.

Caspar:
Nee, also mir waren sie auch unbekannt. Arsche auf mein Haupt. Vielleicht gibt es jetzt einige von euch, die sagen, ha, wieso? Die kennt man doch schon eine Weile. weil die sind tatsächlich auch schon ein bisschen im AI-Game drin. Das ist jetzt nicht komplett neu. Kimi K3, das ist jetzt wie gesagt ihr neuestes Modell. Die haben davor schon welche veröffentlicht. Das ist ein chinesisches KI-Unternehmen aus Peking. Und dieses Besondere und Neue an K3 ist, das ist nicht einfach nur der nächste Chatbot, so nach dem Motto, wie man das immer mal wieder kennt, dass jemand ein neues Modell vorstellt und so weiter und so fort, sondern das ist ein sogenanntes Open Weight Modell. Es ist multimodal. Es ist ein Reasoning-Modell. Es kann Coding und es ist als agentisches Modell positioniert von Moonshot Air.

Stella:
Caspar kann sehr schön sehr viele Begriffe kurz aneinanderreihen, die wir jetzt aber auch einmal ganz kurz erklären.

Caspar:
Wir müssen ein bisschen was erklären, ja.

Stella:
Genau, wir machen das ganz entspannt der Reihe nach. Also, ich glaube, mit der erste war Multimodal. Und das bedeutet jetzt erstmal einfach, das Modell kann nicht nur Text verarbeiten, sondern zum Beispiel auch Bilder und Videos, Spoiler. Das können nicht alle Modelle. Deswegen ist das schon auch was Besonderes oder was, was wir eben extra erwähnen. So Caspar, next one, Reasoning.

Caspar:
Ja, Reasoning bedeutet, dass das Modell, und das bitte jetzt mit ganz großen Anführungszeichen vorstellen, nachdenken kann, bevor es eine Antwort gibt. Wir wissen, eine künstliche Intelligenz ist keine echte Intelligenz. Der jetzt quasi zu sagen, sie kann nachdenken, ist eine Vermenschlichung. Aber es ist tatsächlich so, dass das Modell anfängt, eine Art Denkprozess zu starten. Was ist die Anfrage wirklich? Was möchte damit erreicht werden? Was muss ich dafür tun, um es durchzuführen? Das kennt ihr von zum Beispiel ChatGPT oder Cloud. Da kann man das einstellen und manchmal machen das die Modelle auch selber. Vielleicht habt ihr mal eine Anfrage gestellt, wo ihr gemerkt habt, ihr habt nicht sofort eine Antwort bekommen, sondern ihr seht, dass erstmal so Dinge irgendwie passieren, dass zum Beispiel eine Webbesuche stattfindet, dass erstmal nochmal Sachen zusammengesammelt werden. Das ist so ein Reasoning-Fall und dann dauert es halt immer ein bisschen länger, bis die Antwort kommt. Die sind dann in der Regel aber auch ein bisschen besser und ausführlicher, als wenn eine sofort schnelle Antwort kommt.

Stella:
Genau, also vielleicht stellt euch das einfach so vor, dass eben dieses Modell dann in der Lage ist, so verschiedene Datenpunkte selbstständig auch miteinander zu verknüpfen.

Caspar:
Genau.

Stella:
Das heißt also, Caspar, du hast es gerade gesagt, weil ich glaube Coding und agentisch, Coding generell eben das Erstellen von Code für Software, also sprich Software-Sprache nutzen und daraus das Erstellen. Und rein agentisch hast du ja eben auch eingangs erklärt, dass es eben automatisch quasi funktioniert, ohne dass ich immer sage, was passiert. Heißt eben, die Modelle, die können so gesehen können, übrigens in Anführungszeichen, weil es gibt auch noch die Halluzination, das heißt die Fehlinformationen, die da eingespielt werden, aber programmieren und selbstständig diese Aufgaben ausführen. Und wir haben noch einen Begriff ganz dabei gehabt am Anfang, ganz dabei gehabt, ja, am Anfang dabei gehabt und das ist Open Rate. Kann man eigentlich genauso auch ähnlich übersetzen, offene Gewichtung. Das beschreibt so eine Art von künstlicher Intelligenz, bei der EntwicklerInnen eben das Gehören, wieder in ganz großen Anführungszeichen des Modells, also sprich diese ganzen fertigen Programmdateien mit allen gelernten Parametern öffentlich zugänglich machen. Sprich, dieser ganze Kram, der da drin steckt und letztendlich dafür sorgt, dass diese einzelnen Datenpunkte überhaupt miteinander verbunden werden können, der ist dann eben zugänglich.

Caspar:
Genau, das kann man sich am ehesten, wir haben manchmal so ein paar Bilder euch mitgebracht, am ehesten mit einem Restaurant sich irgendwie erklären. Bei einem normalen Spitzenrestaurant, wenn ihr da hingeht, dann werdet ihr bekocht, dann gibt es tolles leckeres Eps-Essen, aber diese Küche wird euch nie das Rezept verraten, weil das eben geheim ist. Und ihr seid komplett von einem Restaurant abhängig. Wenn ihr sagt, oh, das ist so lecker, was die da kochen, ich will das nochmal essen, dann müsst ihr halt nochmal hingehen. Bei Open Weight würde das heißen, das Restaurant veröffentlicht das vollständige Rezept mit allen Mengenangaben und jeder und jede von uns kann es zu Hause nachkochen, verändern oder verbessern oder an Details irgendwie anpassen. Wenn man zum Beispiel sagt, ich mag keine Rosinen, die lasse ich dann raus oder sowas. Das ist dann problemlos möglich bei Open Weight quasi.

Stella:
Caspar Kaiserschmarrn mit oder ohne Rosinen?

Caspar:
Ohne.

Stella:
Wir müssen uns dann nochmal überlegen. Also ich, gut, das sehe ich anders. Aber gut, gucken wir auf was anderes nochmal. Nämlich, vielleicht habt ihr jetzt auch direkt den Begriff Open Source im Kopf. Und das ist eben nicht dasselbe wie Open Raid, sondern Open Raid bedeutet, dass so diese fertigen Modellgewichte eben frei verfügbar sind. Caspar hat es gerade das Rezept genannt. Aber, um bei dem Restaurantbeispiel zu bleiben, ihr wisst nicht genau, welche Tomaten drin waren oder welche Rosinensorte im Kaiserschmarrn. Das heißt, die genauen Zutaten kennt ihr nicht, beziehungsweise ihr kennt nicht die exakten Datensätze oder auch Programmiercodes, die dann eben im Modell quasi verwendet worden sind, um das Ganze zu trainieren.

Caspar:
Ja, oder auf welche Schule der Koch gegangen ist und solche Dinge. Also es ist, Open Source kann nochmal deutlich weitergehen und Open Source ist ja auch ein Lizenzthema, Open Wide ist auch nicht unbedingt eine Lizenzgeschichte, also da muss man aufpassen, das klingt zwar sehr ähnlich, aber ist nicht unbedingt das gleiche. So, zurück zu K3. Jetzt haben wir ganz viel über Begriffe geredet, die mit diesem Modell zusammenhängen, jetzt haben wir aber auch schon gehört, das schlägt gerade relativ ein, weil nämlich K3 tatsächlich gleich drei Debatten irgendwie los tritt. Die erste ist nämlich, wie gut sind chinesische KI-Modelle inzwischen, weil das ist ja eine Frage von Führung im KI-Bereich irgendwie, haben die Chinesen da schon aufgeholt. Dann die zweite Frage, haben die chinesischen Hersteller es geschafft, durch sogenannte Distillation von US-Modellen aufzuholen? Dazu gleich mehr, auch was das ist und was das bedeutet. Und dann noch die dritte Diskussion, die irgendwie seitdem aufgekommen ist, seit K3 veröffentlicht wurde, sollten die USA und vielleicht auch Europa chinesische Open-Wild-Modelle einschränken aus bestimmten Gründen? Da kommen wir gleich zu. Lasst uns aber vielleicht mal mit den USA anfangen und warum die gerade relativ empfindlich auf K3 und dessen Veröffentlichung reagieren.

Stella:
Also generell K3 ist nicht das erste größere KI-Modell aus China, was eben für Aufmerksamkeit sorgt. Es gab vorher schon Modelle auch von der Firma oder Kimi-Modelle. Vielleicht erinnert ihr euch auch noch an DeepSeq. Das Modell, das war ja auch mal ein ganz heißer Talk of the Town in der Tech-Welt, weil es wohl eben mit vergleichsweise sehr wenig Ressourcenaufwand trainiert worden ist. Und bei K3 ist es jetzt eben so, dass da auch viele größere Diskussionen und, viele heftige Reaktionen in den USA ausgelöst werden als bei DeepSeq. Und jetzt fragen wir uns natürlich, ja, was ist denn da jetzt los? Weil jetzt erstmal, also nüchtern betrachtet, ist Kimi K3 einfach ein neues Modell eines chinesischen Startups, die ein Modell veröffentlichen, wie es ganz, ganz viele andere KI-Firmen gerade am laufenden Band tun. Also ich weiß gar nicht, wie oft irgendwo pro Woche eine Meldung kommt, hier ein neues Modell. Deswegen an sich ist das ehrlich gesagt jetzt gar nicht so aufregend, dass es ein neues Modell gibt. Aber K3 trifft eben, man könnte sagen, mehrere empfindliche Punkte, generell so in dieser amerikanischen KI-Strategie und der erste Punkt ist. Ich nehme jetzt einfach mal vorweg, ich glaube, der ist ja offensichtlich, die USA fürchten natürlich um ihren technologischen Vorsprung, den sie sich ja damit verschiedenen Firmen weltweit aufbauen wollen.

Caspar:
Ja, weil lange ging man in Washington und im Silicon Valley auch noch davon aus, dass man im Vergleich zu China mehrere Monate oder Jahre noch voraus ist, dass Chinesen also wirklich noch zurückliegen. Chemie K3 stellt diese Annahme aber zumindest jetzt in Frage. Das Modell erreicht nach ersten Tests in mehreren Bereichen das Niveau von führenden amerikanischen Systemen. Moonshot AI, also die Firma dahinter, die räumt selbst ein, dass K3 insgesamt noch hinter den allerstärksten geschlossenen Modells, zum Beispiel von OpenAI und Anthropic, liegt. Also es schafft es nicht, sie zu überholen. Trotzdem ist man offenbar nah genug dran, um für viele Anwendungsbereiche zumindest eine Alternative zu sein. Und das Entscheidende, und jetzt kommt es, warum es die Geschäftsmodelle von den USA.

Caspar:
Bedroht, K3 soll nicht nur ähnlich leistungsfähig sein, es soll auch sehr viel günstiger sein und wir wissen ja, dass das Thema Geld und KI in den letzten Monaten auch ein großes Thema geworden ist, weil die amerikanischen Modelle zum Beispiel immer teurer werden. Und Chemica 3 ist halt eben auch als Open-Wade-Modell veröffentlicht, was wir euch ja eben auch erzählt haben. Das heißt, Unternehmen können es weltweit herunterladen, auf eigenen Servern betreiben, wenn sie gut genuhe Hardware haben, es entsprechend auch für ihre Bedürfnisse anpassen und diese Gewichtungen entsprechend einstellen und es in ihre eigenen Produkte einbauen. Und das ist natürlich etwas, was zum Beispiel mit vielen Open-Wade-Modellen so nicht funktioniert. Es gibt da auch Open-Wade-Modelle, allerdings halt eben die großen, mächtigen Modelle sind das eben nicht.

Caspar:
Und K3 bedroht mit all dem zusammen schon so ein bisschen oder zumindest stellt es in Frage, diese technische und logische Führungsrolle, die die USA im KI-Bereich haben und die KI-Unternehmen in den USA auch für sich beanspruchen. Ja, der OpenAI und der Entropic mit ihren geschlossenen Modellen, die kriegen jetzt natürlich so ein bisschen Sorge, wenn sie auf K3 gucken.

Stella:
Genau, aber ich glaube, das müssen wir noch einmal kurz ergänzen. Warum kriegen die denn Sorge? Caspar, du hast es angerissen. Geschlossene Modelle, weil die Geschäftsmodelle eben von diesen beiden, insbesondere von Antropic, OpenAI rennt da ja auch gerade regelrecht hinterher, weil die eher im Privatbereich stark sind. Aber was wollen die Unternehmen? Die dicken Unternehmenskunden wiederum, die dann nämlich zum Beispiel Abonnements abschließen, die irgendwie auch zahlen für die Schnittstellen, also die APIs. Dafür können sie dann hohe Preise abrufen, wenn das Ganze dann auch in die Ökosysteme eingebaut ist. Und jetzt, was man ja gerade sieht, ist ja auch parallel dazu, ist noch ein anderes Thema, vielleicht für einen Input im September, die Tendenz, dass vielleicht Unternehmen eben nicht zu einem Anbieter gehen, sondern sich genau solche Open-Wide-Modelle eben schnappen, und selber schauen, okay, ich habe die Infrastruktur, darauf kann ich sie selber laufen lassen, auch ein bisschen mich zumindest unabhängiger in bestimmten Bereichen verhalten, als zum Beispiel bei diesen Abonnements, um die es da geht. Dementsprechend, ja, ist es nicht nur eine sicherheitspolitische Reaktion, die da passiert, sondern auch eine wirtschaftspolitische, wo man in den USA und bei US-Firmen, Und gerade dezent nervös wird.

Caspar:
Wir haben Open-Welt jetzt schon mehrfach angesprochen. Das sorgt auch noch für einen weiteren Punkt, den die USA kritisch beobachten, nämlich die Verbreitung des Modells.

Caspar:
Auch nochmal überlegen, Open-AI, Entropic, die haben geschlossene Modelle, bei denen kann man sich einen Account machen und kann sich dann anmelden und kann die nutzen. Aber alles bleibt auf den Servern des Anbieters. Und bei Open-Welt-Modellen, da kannst du halt zum Beispiel, wenn die Modellgewichte veröffentlicht wurden und die Modelle, dann kannst du die Modelle kopieren, du kannst sie runterladen, du kannst sie verarbeiten, du kannst sie weiterverarbeiten. Es gibt Communities, die sich bilden, die damit arbeiten, die sie fortentwickeln. Das heißt, du kannst nicht einfach einen großen Knopf drücken und diese Modelle zum Beispiel wieder einfangen. Wenn die einmal quasi raus sind und die Leute sie runtergeladen haben, kannst du ihnen sie ja nicht mehr wegnehmen. Und wir erinnern uns an die Debatte, die wir vor einigen Wochen und Monate, noch nicht vor einigen Wochen hatten, nämlich rund um Fable Five und Mythos Five. Das waren ja Modelle, die die US-Regierung kurzzeitig zurückgezogen hat durch einen Brief an Andropic und gesagt hat, die sind uns zu gefährlich, die dürft ihr nicht veröffentlichen und auch nicht außerhalb der USA jemandem geben. Zwischen ist Faible 5 wieder zurück. Und auch Mythos kann von Sicherheitsforschenden genutzt werden. Aber zwischenzeitlich war das halt gesperrt. Und das ging ja zum Beispiel mit, Chemie K3 nicht. Weil wenn das einmal in der Welt ist und die Leute sich runtergeladen haben, dann ist es im Internet. Und du kannst nicht das Ganze in der Welt löschen und die Leute das Modell wieder wegnehmen. Das heißt, das ist auch so ein Punkt, wo die USA sagen, hui, das ist schwierig für uns.

Stella:
Und eben, ich habe ja selber gesagt, da geht es auch bei diesen ganzen Bedenken um das Thema Sicherheitspolitisches oder auch konkret um Sicherheitsbedenken. Und da ist eine Frage zum Beispiel, ob eben chinesische Anbieter vielleicht absichtlich oder unabsichtlich Sicherheitslücken in dem Modell hinterlassen haben. Und wir haben ja auch erklärt, dass wir eben trotz Open Rate nicht sehen können, was zum Beispiel genau die Trainingsdaten sind. Das heißt, es ist eben auch nicht sichtbar, ob vielleicht da manipulierte Inhalte drin sind. Und manipuliert man zum Beispiel, dass man quasi in diesen Trainingsdaten, in dem Training so versteckte Verhaltensweisen hinterlegen kann. Was weiß ich, drückt das jetzt sehr vereinfacht aus. Stellt euch das vor, wie zum Beispiel mit bestimmten Codes oder eben Reaktionen auf bestimmte Eingaben etc. Das nennt man in der Fachsprache Backdoors und das ist eben eine Sicherheitsgefahr.

Caspar:
Ja, und wenn wir jetzt überlegen, dass, also Chemika 3 gibt es zum Selbernutzen, aber es gibt es auch eben beim chinesischen Anbieter in der Cloud nutzbar, so wie bei JetGPT auch und Antropic auch. Und dann ist natürlich die Frage, wenn jetzt ein Unternehmen diese Variante nutzt, die Cloud-Variante, dann landen die Daten natürlich auf chinesischen Servern, auf den Servern des Anbieters. Und da muss man natürlich schon fragen, wo landen da die Daten, wo werden sie gespeichert, wer hat darauf Zugriff, kann der chinesische Staat zum Beispiel darauf zugreifen. Das sind dann alles für IT-Sicherheitsbeauftragte zum Beispiel Horrorvorstellungen. Das heißt, da hat man dann auch Sicherheitsbedenken schlicht und ergreifend, was den Ort der Daten betrifft.

Stella:
Und wir haben noch einen Punkt, den finalen Punkt dann zu dieser Frage, warum die USA so empfindlich auf Katar reagieren. Und das ist jetzt, muss man auch klar sagen, erstmal ein Vorwurf. Und zwar, dass eben die chinesischen Unternehmen die Modelle mithilfe der amerikanischen Modelle entwickelt hätten.

Caspar:
Genau, ich habe ihn eben schon mal genannt, den Begriff. Und da kommen wir jetzt auch hin, nämlich die Distillation. Weil einfach gesagt funktioniert das so, ein Modell stellt einem leistungsfähigen Modell sehr viele Fragen. Also das neue Modell stellt dem alten Modell, was sehr leistungsfähig ist, immer wieder Fragen. Die Antworten von dem großen Modell werden gesammelt und anschließend genutzt, um das neue Modell zu trainieren oder zu verbessern. Und das Verfahren ist an sich nichts ungewöhnlich. Das machen KI-Forschende immer mal wieder und schon lange. Strittig wird es dann, wenn ein Unternehmen dafür massenhaft die Ausgabe eines Konkurrenzmodells nutzt und dabei dessen Nutzungsbedingungen umgeht, weil das Modell zum Beispiel sagt, solche Distillation ist mit uns nicht erlaubt. Und genau das ist jetzt der Vorwurf, den Antropic gegenüber mehreren chinesischen Unternehmen hat, Die sagen nämlich, unter anderem Alibaba, das ist eine andere chinesische Firma, habe solche Distillationsangriffe, nennt sich das dann auch, durchgeführt.

Caspar:
Und auch Moonshot AI wird von amerikanischer Seite vorgeworfen, K3 eben mit den Ausgaben von Entropic-Modellen trainiert und gefüttert zu haben. Und die US-Regierung hat diese Linie inzwischen aufgegriffen, also diesen Vorwurf und Moonshot öffentlich mit dem Vorwurf der Distillation in Verbindung gebracht. Allerdings, um hier auch sauer zu bleiben, das handelt sich aktuell um Vorwürfe. Es gibt aktuell keine öffentlich zugänglichen Benchmark-Werte, die beweisen könnten, dass die Modelle vom anderen quasi kopiert wurden oder damit trainiert wurden.

Caspar:
Und auch, dass die Modelle ähnliche Fähigkeiten haben, reicht noch nicht als Beweis, dass das so war. Wir wissen natürlich nicht, ob es intern irgendwelche Beweise gibt, ob Antropic da irgendwas nachweisen kann, aber öffentlich zumindest ist bis Redaktionsschluss noch nichts da gewesen.

Stella:
Wir können jetzt nach diesem ersten Block erstmal festhalten, dass China, was die KI-Modelle angeht, offensichtlich ziemlich aufgeholt hat gegen den sehr dominierenden, den Markt im Westen dominierenden US-Anbieter. Und deshalb würden wir jetzt im nächsten Schritt erstmal darauf gucken, hey, wie ist denn China so konkurrenzfähig geworden in diesem Jahr auch sehr harten Kampf? Vielleicht muss man auch daran denken, in den USA oder aus den USA heraus gibt es ja schon länger auch diese Ausfuhrbeschränkungen für bestimmte Chips, dass sie keine Hochleistungsschips bekommen. Dementsprechend, also dieses Thema ist ja schon länger in der Welt, das heißt die Bedingungen könnte man sagen wurden erschwert, die Bedingungen zur Entwicklung und dennoch ist es ja jetzt so, dass wir eben, wie wir in den ersten Fragen jetzt schon so ein bisschen erörtert haben, gezeigt haben, okay. Da ist echt Druck dahinter. Also, woran liegt das?

Caspar:
Ja, ein ganz großer Unterschied, glaube ich, zu früher ist, dass die chinesischen, Anbieter nicht mehr versuchen, einfach nur amerikanische Modelle nachzubauen. Also, dass sie sich quasi Chachipiti angucken und sagen, das müssen unsere Modelle auch können. Sondern China ist inzwischen dazu übergegangen, eine eigene, für das Land ganz typische oder dazu passende Strategie zu starten. In den USA ist es so, dass wir Einzelunternehmen haben, zum Beispiel Open Air, Entropic, Google und die sind marktwirtschaftlich. Das heißt, die betrachten KI auch als Markt, um Geld zu verdienen. In China ist das Ganze zunehmend eine strategische Infrastruktur. Also China sagt als Land auch, okay, KI ist schön und gut, um Geld zu verdienen, aber das ist inzwischen so wichtig, dass wir das als Infrastruktur sehen und deswegen entsprechend auch handeln. Denn KI soll dort also nicht nur Geld verdienen, sondern es soll zum Beispiel auch die Industrie modernisieren. Es soll unabhängiger vom Westen machen, weil während der Westen unabhängiger von China werden möchte, möchte auch China unabhängiger vom Westen werden, weil die zum Beispiel viele Technologien immer noch einkaufen und soll langfristig die technologische Souveränität des Landes sichern. Also nach dem Motto, wenn wir eigene gute KI-Modelle haben, brauchen wir die von den USA nicht einkaufen und deswegen investieren sowohl der Staat als auch die Unternehmen inzwischen gemeinsam enorme Summen und das halt eben mit so einem größeren Rahmen auf das Thema drauf geguckt und nicht nur auf die einzelnen Unternehmen.

Stella:
Und ich habe es ja eben schon mal ganz kurz angerissen. Es ist seit Jahren so, dass die USA eben versuchen, Chinas KI-Entwicklung durch Exportkontrollen so ein bisschen zu bremsen, aufzuhalten. Heißt konkret, dass sie keinen Zugang zu den leistungsfähigsten Nvidia-Chips haben und auch nicht zur modernen Halbleiter-Fertigung. Ich weiß gar nicht, ob wir es ja auch schon mal im Podcast besprochen hatten, aber da gibt es ja verschiedene Exportbeschränkungen in dieser ganzen Branche. Und Hoffnung dahinter war ganz kurz, ohne die Spitzenschips kann China eben nicht Modelle entwickeln, die ja überhaupt konkurrenzfähig sind zu den amerikanischen Staaten. Ja, jetzt zeigt aber K3, und DeepSeek hat das ja in Ansätzen auch schon gemacht, deswegen war da ja auch der Aufschrei in Anführungszeichen, also Aufschrei, die Diskussion so groß, dass diese Strategie offensichtlich nicht dazu geführt hat, dass China sich in dem Bereich jetzt so einfach abhängen lässt.

Caspar:
Ja, und zwar ist es so, dass nach aktuellen Zahlen China 2025 zwar nur einen Bruchteil der amerikanischen KI-Rechenkapazität hatte, also wenn man die Rechenzentren zusammenzählt, und auch Huawei ist bester KI-Chip, also Huawei ist eine chinesische Firma, die Hardware herstellt und eben auch KI-Chips baut, selbst der lag deutlich hinter den leistungsfähigsten Prozessoren von NVIDIA, also da diese Exportkontrollen, die greifen schon. Trotzdem, und das ist das Interessante, gelingt es chinesischen Unternehmen, Modelle zu bauen, die zumindest sehr nah ranrücken inzwischen an die amerikanischen. Die scheinen also gar nicht zu bremsen, diese Sanktionen, sondern eigentlich fast sogar das Gegenteil zu bewirken, weil China nämlich nicht nur eine Rechenleistung nach der anderen einkaufen kann, so wie die USA das machen. Wenn da ein neues Modell entwickelt wird, dann kauft man einfach immer mehr Rechenleistung dazu, immer mehr, immer mehr. China muss irgendwie andere Wege gehen und muss deswegen sehr viel effizienter und ressourcenschonendere KI-Modelle entwickeln, schlicht und ergreifend, weil es nicht anders geht. Und das bedeutet, dass sie am Ende sparsamere Trainingsverfahren haben, ausgefeiltere Modellarchitekturen, weil sie kreativer werden müssen. Die Vernetzung von vielen kleineren Chips zu so großen Rechenclustern ist dort auch ein großes Thema. Und halt eben auch der starke Fokus auf offene Modelle, wie diese Open-Wake-Modelle, weil die sich schneller verbreiten und gemeinsam in der Masse dann auch schneller weiterentwickelt werden können.

Stella:
Und dazu ist halt in China auch in den vergangenen Jahren echt ein breites KI-Ökosystem entstanden. Da gibt es nämlich verschiedene Unternehmen, die einfach leistungsfähig sind. Ich meine, alleine hier haben wir jetzt Alibaba einmal genannt. Das hat auch ein KI-Modell mit Quen. Es gibt DeepSeq. Es gibt natürlich Moonshot AI mit Kimi, Baidu und, Caspar hat es auch gesagt, Huawei auf der Hardware-Seite, um einfach mal einige zu nennen. Das heißt insgesamt, es ist gar nicht nur diese Modellqualität, die da gerade gesehen wird, sondern dass es da wirklich eine Strategie dahinter gibt.

Caspar:
Ja, die USA setzen auf wenige leistungsfähige Anbieter, die mit geschlossenen Modellen hantieren und China setzt dagegen auf eine viel leistungsfähigere Unternehmen, die offene Modelle anbieten und die staatliche Industriepolitik greift da auch mit ein und fördert das und das Oberziel, wie gesagt, ist diese technologische Unabhängigkeit und deswegen, beide Länder wollen dieses KI-Rennen, dieses Wettrennen gewinnen, aber sie versuchen das auf ganz unterschiedliche Weise zu erreichen.

Stella:
Jetzt können wir natürlich auch noch über den Fünfjahresplan, den es ja in China auch immer gibt. Der wurde auch jüngst neu veröffentlicht. Das machen wir an der Stelle nicht. Aber vielleicht, woran mich das Ganze erinnert, gerade diese Strategie, die kommen mit den verschiedenen Anbietern, die sich da auch gegenseitig Ökosysteme, die kommen mir vertraut vor. Nämlich, wenn wir mal auf das ganze Thema deutsche Autobauer gucken. Da gibt es schon die ein oder andere Parallele. Aber das würde jetzt zu weit führen. Vielleicht auch das mal für einen anderen Input.

Caspar:
Die sind ja gerade auch nicht so erfolgreich.

Stella:
Wir haben gerade einen, ja, aber vor allen Dingen auch die Geschichte, was da passiert ist. Das sieht man ja auch. Das hat natürlich eine andere Ausgangslage. Da gab es zum Beispiel keine Exportbeschränkung. Aber generell, das, was ich eben meine, ist einfach der Punkt. Und auch da wird ja auf verschiedene Firmen gesetzt, sprich auf, ich nenne es jetzt mal einfach Auswahl, wo man dann guckt, okay, je nachdem natürlich auch mit staatlicher Förderung, wer kommt jetzt weiter? Und danach siebe ich dann aus. Also erstmal in die Masse gehen quasi. Aber gut, dazu jetzt genug. Wir haben einen großen Begriff aufgemacht eingangs und das ist den der Zensur. Und ich glaube, da müssen wir jetzt nochmal drauf schauen.

Caspar:
Genau, weil immer wenn wir über chinesische Modelle reden, dann schwingt das Thema auch so mit. Die Frage ist natürlich, können wir so chinesischen Modellen überhaupt trauen, weil wir wissen alle, China ist ein autoritärer Staat, in dem zum Beispiel Medien, Plattformen und auch der öffentliche Diskurs umfassend kontrolliert werden. Auch das Internet ist dort nicht so frei wie in anderen Ländern. Und die klare Antwort lautet deswegen, ja, wir müssen bei öffentlich angebotenen chinesischen KI-Diensten vorsichtig sein, weil die unterliegen einer politischen Vorgabe oder mehreren und zensieren auch bestimmte Inhalte und das betrifft eben auch KI-Modelle. Das ist auch keine bloße Vermutung. Ich habe ehrlicherweise K3 konnte ich noch nicht ausprobieren, weil die gerade ein bisschen Probleme hatten, noch den Dienst anzubieten, weil so viele Leute das machen wollten. Aber ich habe mit DeepSig mal eine Weile gechattet, als das rauskam vor ein paar Monaten. Und da war es so, dass ich nach der Unabhängigkeit von Teamet gefragt habe. Und das Modell hat mir eine Antwort schlicht und ergreifend verweigert.

Stella:
Das ist jetzt, man muss ja sagen, insofern nicht verwunderlich, weil es eben chinesische Vorschriften für generative KI gibt. Und da ist dann zum Beispiel auch ausdrücklich vorgegeben, dass diese öffentlich angebotenen Dienste die sogenannten sozialistischen Grundwerte eben beachten müssen. Das heißt, sie dürfen zum Beispiel jetzt keine Inhalte irgendwie erstellen, wo es darum geht, die Staatsmacht zu untergraben bzw. dazu aufzurufen. Das sozialistische System soll nicht infrage gestellt werden. Die staatliche Einheit nicht gefährdet, nationale Sicherheit nicht beeinträchtigen. Generell soll dem Ansehen Chinas nicht geschadet werden. Das ist jetzt erstmal nur so ein kleiner Umriss, was natürlich auch Auswirkungen in die Praxis hat.

Caspar:
Genau. Also Tibet habe ich angesprochen. Wenn man nach Xi Jinping fragt oder auch nach Unabhängigkeitsprotesten und so, dann brechen die Modelle das entweder ab oder sie verweigern eine Antwort oder es gibt stark verkürzte Antworten.

Caspar:
Allerdings ist dieses in Anführungszeichen China zensiert KI, da muss man ein bisschen genauer drauf gucken, weil das hat mehrere Ebenen, mindestens drei Ebenen. Es gibt einmal das sogenannte Basismodell. Es gibt dann die nachträgliche Ausrichtung des Modells, die man beeinflussen kann. Und dann gibt es noch die konkrete Anwendung, in der man das Modell nutzt. Also zum Beispiel die Web-Oberfläche, wenn man mit dem Modell chattet. Und eine Antwort kann durch das Modelltraining beeinflusst werden, durch das spätere Feintuning oder durch einen Systemprompt, der in diesem Anwendungsfall dann entsprechend liegt, zum Beispiel auf der Webseite. Und das kann dann entsprechend unterschiedliche Antworten auch hervorrufen. Das ist insofern wichtig, weil eben Chemika3, DeepSeq und auch Qen.

Caspar:
Die sind nicht nur als chinesische Chatbots aktiv oder existieren auf Webseiten, sondern die Modellfamilien werden ja auch als Openweight zum Download angeboten und können auch außerhalb Chinas auf eigenen Servern betrieben werden. Und wer die Gewichte runterlädt, kann dann auch entsprechend die Gewichte anpassen und muss nicht zwangsläufig dieselbe Chat-Oberfläche nutzen, wie das zum Beispiel in den Web-Oberflächen ist und kann auch andere System-Prompts und andere Filter einstellen. Worauf will ich hinaus? Also wenn jetzt zum Beispiel ein europäisches Unternehmen sich so ein Modell runterlädt und lokal betreibt, dann kann es durchaus sein, dass da gewisse Antwortsperren dann nicht mehr dabei sind. Das heißt, wenn ich jetzt zum Beispiel die Frage nach Tibet stelle, kann es durchaus sein, dass wenn ich das lokal bei mir auf dem Rechner habe und entsprechend gewisse Inhaltsfilter dann nicht mehr da sind, dass dann durchaus eine Antwort kommt, die entsprechend so ausfällt, wie man das eigentlich erwartet, wenn man zum Beispiel mit einem westlichen Modell schreibt.

Stella:
Jetzt sollte daraus jetzt aber auch nicht der Schluss quasi sein. Okay, dann kann ich mir das ja einfach so gesehen selber zusammenstellen, was natürlich auch die entsprechende Hardware und Kenntnisse voraussetzt. Und es ist nur quasi die offizielle App problematisch. Jetzt haben wir aber zum Beispiel im Beispiel DeepSeq schon gesehen, dass, und deswegen auch nochmal am Anfang der Hinweis mit den Trainingsdaten, diese Unterdrückung von Informationen, so tief einfach drin sein kann in dem Modell, dass man das auch nicht durch den von Caspar beschriebenen Weg quasi korrigieren kann. Und da müssen wir nochmal genau auf das Thema Sprache gucken.

Caspar:
Ja, weil die ist interessanterweise ein Faktor. Es gibt nämlich eine Studie, die hat sich DeepSeq R1 angeguckt, das Modell, auch ein Open Wide Modell und Open AI Modelle angeguckt und hat denen verschiedene politische Fragen gestellt und die dann miteinander verglichen. Und, stellt man bei Diebsieg auf Chinesisch eine Anfrage, dann wird deutlich stärker das chinesische Staatsnarrativ und anti-amerikanische Tendenzen, von dem Modell wiedergegeben, als wenn man das Ganze auf Englisch zum Beispiel macht. Und das ist natürlich auch ganz interessant. Das liegt wahrscheinlich unter anderem auch an den Trainingsdaten, weil in den chinesischen Trainingsdaten ist natürlich das chinesische Staatsnarrativ viel stärker vertreten als in den englischen. Das heißt, auch das kann einen entsprechenden Faktor haben. Das heißt, die Modelle sind nicht zwingend in allen Sprachen entsprechend politisch verzerrt. Und in Deutsch kann das auch schon wieder ganz anders ausfallen als in Englisch oder in Chinesisch und das ist auch etwas, was man dann entsprechend auch nochmal mit im Blick haben muss. Das heißt, es ist ein bisschen komplizierter, als man sich das am Anfang vielleicht so ein bisschen vorgestellt hat.

Stella:
Jetzt muss man aber auch sagen, dass wir jetzt in diesem Podcast ganz sicher nicht die Konklusion treffen wollen, naja, die amerikanischen Modelle, die sind vollkommen frei und unbelastet und generell alle anderen KI-Modelle, weil es gibt ja auch Beispiele, Chachipiti, Claude, Gemini haben auch Antworten verweigert oder filtern Inhalte, folgen vielleicht auch unter anderem unternehmerischen Vorgaben, weil das dürfen wir nicht vergessen, da stecken überall Unternehmen hinter, die im Endeffekt damit auch einfach Geld verdienen wollen. Jetzt kann man natürlich sagen, manche Sachen sollen ja auch geblockt werden, zum Beispiel Anleitungen für Waffen, Cyberangriffe, Selbstverletzungen, also alles, was einfach Sicherheitsbedenken aufwirft. Da haben wir auch hier schon im Podcast drüber besprochen. Aber das Grundproblem, dass private Unternehmen darüber entscheiden, was denn jetzt problematisch ist, was irreführend ist, was vielleicht auch einfach nicht beantwortet wird, was vielleicht auch abgelenkt wird. Weil wir wissen ja auch, KI möchte, dass wir wirklich lange und viel mit ihr interagieren. Wobei, das ist falsch gesagt, KI möchte das nicht, die Unternehmen dahinter. Dementsprechend ist generell ja das Thema Informationssperrung ein kritisches.

Caspar:
Ja und da haben wir noch gar nicht von Grock geredet, was ja sehr stark in eine gewisse Richtung gedrängt wird, die KI von X und Elon Musk. Aber auch nochmal Vorsicht, wir sagen nicht, dass das eine besser oder schlechter ist. Also wir sagen jetzt nicht, oder dass beide gleich schlecht sind. Wir sagen jetzt nicht, oh oh, die USA tendieren und China auch, sondern wir sagen, dass man auf beides einfach kritisch drauf gucken muss. Und das ist das, was wir am Ende mit diesem Zensurblock euch nochmal sagen wollten. Und dass man das vor allem wissen muss und den Blick behalten muss, wenn man diese Modelle nutzt, egal welche, dass das in die eine oder andere Richtung entsprechend ausschlagen kann und auch nochmal einen Unterschied macht, wo man es betreibt, wie man es betreibt und in welcher Sprache man mit dem Modell kommuniziert.

Stella:
Jetzt müssen wir aber vielleicht auch noch mal zu einem Fazit kommen.

Caspar:
Ja, finde ich gut.

Stella:
Wir sind ja mit dieser großen Frage eingestiegen. Ja, was ist denn jetzt eigentlich, was steckt denn hinter diesen Sorgen beispielsweise der USA?

Caspar:
Naja, ein paar triftige Gründe hat die USA oder generell andere Länder, die im KI-Wettstreit irgendwie vorne sein wollen, schon sich Sorgen zu machen. Es gibt durchaus berechtigte Gründe, auf diese chinesischen KIs aufmerksam zu werden, weil China hat es tatsächlich geschafft, in erstaunlich kurzer Zeit den Anschluss an die Weltspitze zu schaffen. Und das haben wir ja gerade auch schon gesprochen, trotz massiver Exportbeschränkungen, trotz deutlich weniger Rechenleistung und trotz entschwerten Zugang zu modernsten Chips, ist es so, dass die amerikanischen Modelle durchaus eine Konkurrenz bekommen durch das.

Stella:
Ja, und da sieht man ja auch, wie schnell sich was wenden kann, von kann China überhaupt mithalten zu, oh, da sieht man aus US-amerikanischer Sicht quasi eine Bedrohungslage durch die chinesischen KI-Entwicklungen, zeigt erstmal, wie schnell so ein Verschieben von Kräfteverhältnissen auch gehen kann. Was ich mich dabei persönlich frage, ist aber auch, was geht hier eigentlich gerade in Europa ab? Was ist da los? Und ich finde das sehr erschreckend, dass es ja teilweise auch heißt, dass wir in dem Bereich quasi einfach abgehängt sind und uns zum Beispiel auf hochspezialisierte Software fokussieren sollten.

Caspar:
Das Beispiel China zeigt ja, dass man das schon kann, also dass man schon durchaus den Anschluss erhalten kann oder zumindest aufholen kann. Also wie gesagt, China hat nicht überholt, das wollen wir auch nicht behaupten, aber sie haben es innerhalb kurzer Zeit trotz erschwerten Bedingungen geschafft aufzuholen. Das könnte Europa wahrscheinlich auch, wenn die Rahmenbedingungen entsprechend stimmen. Also ich rede jetzt bitte nicht davon, dass man staatlich von alles oben auf indoktriniert und, weiß ich nicht, sozialistische Systeme bei uns integriert, aber zumindest ein paar Sachen könnte man sich ja abgucken vom chinesischen Modell.

Stella:
Und gleichzeitig haben wir alle Zugängänge, keine Exportbeschränkungen, haben teilweise selber hier auch sehr relevante Unternehmen sitzen, die zum Beispiel für Halbleiterproduktion sehr wichtig sind. Ihr merkt, da steckt, finde ich, noch ein großes Thema dahinter. Und vielleicht motiviert es ja auch in Europa, das hier auch infrage zu stellen, nochmal zu gucken, was wir da eigentlich alles reißen können mit hoffentlich fairen Modellen. Weil ich glaube, das ist in diesem Input auch klar geworden. Kein Modell ist perfekt, Halluzinationen sind immer ein Thema und auch die privatwirtschaftlichen Interessen, die dann dahinter stehen. Wenn nicht sogar teilweise politische.

Caspar:
Ja, was uns das Thema auch nochmal zeigt, dass wir hier im Silicon Wiki auch vielleicht ab und an mal den Blick in Richtung China auch nochmal werfen werden, weil dort technologisch tatsächlich sehr, sehr viel gerade passiert. Kritisch natürlich, aber wir werden auch nochmal wieder hingucken, was da so abgeht, weil da ist einiges dabei, was glaube ich immer mal wieder so unter dem Radar oder aus dem Westen so belächelnd drauf geguckt wird. Und in Wirklichkeit holen sie nicht nur bei KI-Modellen vielleicht auch ziemlich stark auf. Stichwort E-Mobilität. Also da gibt es noch einige Themenbereiche, die wir uns mal angucken sollten.

Stella:
Aber wir machen das alles ab September, Leute. Wir haben jetzt noch die gute Nachricht am Start.

Caspar:
Das klingt wie wenn der September sehr voll wird. Wir machen das Stück für Stück.

Stella:
Stück für Stück, nicht alles gleichzeitig und deswegen jetzt ist es Zeit für die gute Nachricht.

Jingles:
Gute Nachricht.

Stella:
Und dafür schauen wir ganz klassisch in die Wissenschaft.

Caspar:
Ja, und zwar geht es an die Technische Universität München. Und wir reden über Exoskelette, beziehungsweise reden wir über eine Hand eines Exoskeletts. Da hat nämlich das Team und John Nassur etwas gebaut. Stella, was ist das? Worum geht das? Was hat das mit Exoskeletten zu tun? machen.

Stella:
Also wir machen das jetzt erstmal ganz der Reihe nach. Was soll denn diese Hand? Übrigens sieht die riesengroß aus. Ihr müsst euch das so ein bisschen vorstellen wie ein ganz großer weißer Handschuh, auf den so ganz, ganz viele kleine weiße Päckchen, ich würde mal sagen, draufgenäht, drauf befestigt, sind teilweise auch richtig geschnürt. Hat für mich so ein bisschen was von so einem Baseballhandschuh, aber mit beweglichen Fingern.

Caspar:
Wenn es ein Pressebild gibt, packe ich das in die Kapitelmarke rein. wenn es eins gibt.

Stella:
Und generell, das ist wirklich wie so ein Handschuh, den dann eben die Patienten über die Hand ziehen. Er soll Menschen etwa nach einem Schlaganfall oder bei Nervenschäden helfen, erstmal die Hände zu nutzen. Und was ist so ein Exkurskelett? Das ist ein, man könnte sagen, Stützgerüst. Das sitzt am Körper oder an einzelnen Körperteilen, ist mechanisch, kann mit Motoren betrieben werden, aber auch mit Federn und unterstützt bei Bewegung. Vielleicht kennt ihr das.

Stella:
Teilweise gibt es die auch zum Wandern, dass man sich die so um die Hüfte schnallt, und das irgendwie eine Laufunterstützung sein soll. Und dann macht man sich so Bänder um die Oberschenkel, dann sind so zwei Stäbe an der Seite und dann ist da wirklich so ein Motor drin, der dann quasi das Laufen unterstützen soll. Aber jetzt gucken wir eben auf diesen Handschuh. Der ist weich, der wird über die gelähmte Hand gezogen. Und in diesem Handschuh oder am Handschuh befinden sich so ganz, ganz viele kleine Luftkissen. Vereinfacht gesagt werden die eben gezielt mit Luft gefüllt, damit dann entweder zum Beispiel einzelne Finger bewegt werden können. Und jetzt ist natürlich die Frage, ja, wann werden die denn mit Luft gefüllt? Das wird über Sensoren bestimmt, die daran befestigt sind. Und diese Sensoren, die erkennen eben elektrische Muskelsignale, ganz spannend, wusste ich vorher auch nicht, die gibt es nämlich trotz eben Lähmung aus verschiedenen Ursachen immer noch an bestimmten Stellen. Wichtig ist aber auch, dazu braucht es eben auch künstliche Intelligenz, denn dieses Forschenden-Team hat auch dazu eine Software, wo dann eben anhand dieser Sensorendaten geschaut werden kann, okay, welche Bewegung soll denn jetzt wahrscheinlich gemacht werden und da wird dann quasi der Befehl zur entsprechenden Ausführung gegeben.

Caspar:
Ja, der Prototyp, der ist auch schon in einem Test, da geht es um ALS-Patientinnen, die dann erstmals nach vier Jahren wieder selbstständig die Hand bewegen konnten und dadurch dann auch selbstständig essen konnten, weil sie nämlich eine Gabel halten können. Wenn man mal anfängt, solche Fähigkeiten zu verlieren, merkt man erst, was man da eigentlich verloren hat und wie wichtig auch solche Kleinigkeiten sind. Und in diesem Test werden die Absichten der PatientInnen, also die Hand zu bewegen, das ist ja etwas, was erst mal im Kopf passiert und dann von der Hand ausgeführt wird, die Absicht davon, dass die Patienten das tun, die wird in diesem Test bisher in neun von zehn Fällen auch richtig erkannt. Weil wir haben auch gerade schon über die KI gesprochen, die muss diese Muskelbewegung erkennen oder Impulse und muss dann erstmal überlegen, ob das wirklich das ist oder nicht. Und immerhin schon mal in neun von zehn Fällen geht das gut und funktioniert. Und es wurde auch schon mit Schlaganfallpatientinnen getestet, die entsprechend dann auch Einschränkungen hatten und mit dem Handschuh dann ihre Finger wieder bewegen konnten.

Stella:
Genau, also gerade dieser, was Caspar gesagt hatte, mit dem, Gabeltest, das war eben ein Patient, wo das dann wieder möglich gewesen ist nach vier Jahren, dass er erstmals wieder selbstständig essen konnte. Und die Steuerung, die soll eben laut dem Bericht von dem Wissenschaftsportal wissenschaft.de mithilfe eines Videospiels in wenigen Minuten erlernt werden. Vielleicht müssen wir da auch nochmal sagen, normalerweise oder bisher, was heißt normalerweise, bisher ist es so, dass zum Beispiel in solchen Fällen gibt es dann so passive Prothesen zum Beispiel für die Hände, die drüber gesetzt werden oder einfach bestimmte Gerätschaften, die dann unterstützen können. Jetzt ist es aber so, dass eben dieses, ja, die Hand, die ja auch sehr fein ist in der Bewegung, dass das sehr, sehr schwer abzubilden ist. Und deswegen auch das Besondere, dieser Handschuh, der mag total klobig aussehen. Das ist übrigens auch eines der Abers, die wir mitgebracht haben. Aber trotzdem macht er es eben möglich, diese extrem feine Handbewegung. Wir kennen das natürlich auch zum Beispiel, wir haben ja hier mal über Roboter gesprochen. Das ist ja auch, Caspar, du hattest diesen Waschmaschinen- oder Spülmaschinentest mitgebracht, wie schwer es ist.

Stella:
Gläser und Teller beispielsweise auszuräumen, weil wir uns gar nicht klar machen, wie fein unsere Hand abgestimmt ist. Dass sie zum Beispiel erkennt, oh, jetzt habe ich ein Glas in der Hand, jetzt sollte ich nicht ganz doll zudrücken. Und das ist auch das Besondere am Handschuh, dass eben diese feingliedrigen Bewegungen, eine Gabel halten oder auch der Handschuh kann auch erkennen, wenn da etwas in der Hand drin ist und dann eben sagen, okay, jetzt nicht doll zudrücken. Das ist eben das Besondere, was mit den bisherigen am Markt gängigen Lösungen noch nicht möglich ist. Aber, wie gesagt, es gibt auch Abers. Eins ist eben, ich sage jetzt mal, das klobige Design, an dem soll aber auch gearbeitet werden. Außerdem ist es auch noch ein Test.

Caspar:
Und ein drittes Aber, das Ding braucht natürlich auch einen Kompressor, natürlich, weil diese Luftkissen ja irgendwie mit Luft gefüllt werden müssen. Und dieser Kompressor, der wiegt aktuell noch zwei Kilo. Das ist auch nichts, was man die ganze Zeit irgendwie mit sich rumtragen möchte, vor allem nicht, wenn vielleicht eine Hand gelähmt ist oder zwei. Dementsprechend ist das alles noch so ein bisschen ein Versuchsaufbau. Aber, es gibt auch ein positives Aber, die Handschuhe können wohl relativ einfach produziert werden und die Materialien sollen recht günstig sein. Ja, das heißt, das ist etwas Positives und kleiner machen kann man die Sachen ja dann immer noch und in weiteren Tests dann noch verfeinern.

Stella:
Ja, vielleicht gelingt das ja, das Ganze dann wirklich zur Marktreife zu bringen. Und das war unsere gute Nachricht für den August vor der Sommerpause.

Caspar:
Richtig. Ihr hört uns am 3.9. Wieder. Das ist der Termin, den ihr euch im Kalender schon mal eintragen könnt, oder euch in Erinnerung einstellen. Oder aber, falls ihr das noch nicht getan habt, könnt uns in der Podcast-App eurer Wahl entweder folgen oder abonnieren, je nachdem, wie der Button da heißt. Das ist auch kostenlos, selbst wenn man abonnieren klickt. Das heißt nur abonnieren, da werden erstmal keine Kosten verursacht. Und dann könnt ihr noch sowas wie die Glocke aktivieren bei YouTube, dann gibt es nämlich eine Push-Mitteilung, wenn wir dann am 3.9. wieder da sind.

Stella:
Lasst uns gerne auch noch eine positive Bewertung da, schickt uns Feedback. Und dann würde ich sagen, genießt den August, genießt hoffentlich Sonne und hoffentlich wird es nicht zu heiß in den nächsten Wochen, sondern einfach angenehm sommerlich.

Caspar:
Ein normaler Sommer, ja.

Stella:
Und wir hören uns dann nach der Sommerpause im September.

Caspar:
Bis dahin macht es gut, einen schönen August und bis September. Tschüss.

Stella:
Bis dann, tschüss.

Jingles:
Das war's schon wieder für diese Woche. Folgt oder abonniert uns gerne in eurer Podcast-App und lasst uns dort eine Bewertung da. Das hilft uns sehr! Bis zum nächsten Mal!