KI wird lokal

Das Transkript wird automatisiert erstellt

Jingles:
Silicon Weekly. Der Tech-Podcast mit den wichtigsten News der Woche. Für dich eingeordnet von Elli, Stella und Caspar.

Caspar:
Hallo und herzlich willkommen zu Silicon Weekly. Das erste Mal nach der Sommerpause. Und ich muss sagen, ich habe das Podcasten vermisst. Ich habe euch vermisst und ich habe auch noch eine Person vermisst, die ich mitgebracht habe. Hallo Elli, schön, dass du wieder da bist.

Elli:
Toll, hallo, ich freue mich auch. Also wenn ihr jetzt irgendwann im Sommer dazugekommen seid, kennt ihr mich wahrscheinlich noch gar nicht. Ich war jetzt ein Weilchen weg, denn ich habe ein bisschen Dinge in meinem Leben umsortiert. Jetzt bin ich wieder da und ich bin ein bisschen aufgeregt gewesen, muss ich sagen. Aber Caspar hat schon gesagt, Podcasten ist wie Fahrradfahren. Angeblich verlernt man es nicht. Schauen wir mal.

Caspar:
Ja, das kriegen wir wieder hin. Zur Not machen wir das hier als Tandem. Tandem auch liebe Grüße an der Stelle an Stella, die nämlich heute leider nicht dabei sein kann. Nächste Woche wahrscheinlich auch nicht. Aber danach sind wir dann hoffentlich wieder zu dritt. Also es ist jetzt nicht so, dass wir Ellie gegen Stella ausgetauscht hätten und jetzt Stella sich eine große Auszeit nimmt. Die kommt auch wieder. Und dann sind wir auch wieder hier komplett.

Elli:
Yes, irgendwann gibt es uns noch zu dritt. Ja, wir schaffen das. Die Hoffnung stirbt zuletzt. Aber was haben wir diese Woche mitgebracht? Ihr könnt euch anschnallen und die Tische hochklappen und falls ihr raucht, das Rauchen einstellen. Denn wir legen los. Es geht um Cyberangriffe. Wir haben Abschiedsbriefe dabei. Also einen Abschiedsbrief. Dann fahren wir mal ganz kurz an den See und in die Schule geht es zum Schluss auch noch. Also wir haben quasi die Sommerferien-Editionen hier dabei. Grüße gehen nach Bayern raus. Da sind gerade noch Ferien, wenn wir das hier aufnehmen. Alle anderen Bundesländer, glaube ich, sind schon durch. Aber ja. Und wenn es dann wieder losgeht mit dem Alltag, dann ist vielleicht so ein Thema irgendwann ab irgendeinem Alter oder auch wenn man in die Uni geht oder so, Laptop. Und wir gucken mal, Apple hat neue Macs vorgestellt.

Caspar:
Wie kriegst du den Bogen jetzt zu den neuen Macs? Aber gut, alles klar.

Elli:
Ja, Apple hat neue Macs vorgestellt. Wir gucken an, was können die und warum ist das, was die können, ein Symptom für eine viel größere Entwicklung im Bereich KI, die auch spannend ist für alle Nicht-Apple-Fans und User. Also lohnt sich dran zu bleiben.

Caspar:
Genau. Und wer uns kennt, weiß, die erste Rubrik sind die Updates. Jetzt könnte man theoretisch, weil wir vier Wochen nicht da waren, wahrscheinlich die ganze Sendung eine Update-Folge machen. Wirklich, es ist so viel passiert. Wir haben euch aber drei Updates rausgesucht und damit legen wir jetzt mal los.

Elli:
Und zwar, wenn ihr noch nicht zu der Gruppe der Bevölkerung gehört, die gefühlt für alles einen KI-Chatbot befragt, sondern ihr googelt noch, dann wird euch aufgefallen sein, ja, Google hat schon mal ein bisschen was umgebaut an der Suche und an der Ansicht. Es gibt ja die sogenannten AI-Overviews, also diese KI-Zusammenfassungen, die meistens mittlerweile oben in der Liste kommen und dann kommen so die klassischen Sucheinträge, die man kennt, wenn man irgendwas gegoogelt hat.

Caspar:
Ja. Und diese AI-Overviews, die kann man aufklappen. Das ist quasi nur so eine Vorschau. Und wenn man dann mehr wissen möchte, muss man da draufklicken. Und das testet Google jetzt, dass das direkt schon aufgeklappt ist bei gewissen Suchbegriffen. Also Google geht da nicht genauer drauf ein, bei welchen Suchbegriffe damit jetzt gemeint sind. Aber ihr werdet das dann wahrscheinlich merken, dass ab und an mal diese Box dann direkt aufgeklappt ist. Das Problem da dran ist und deswegen zum Beispiel Verlage mögen das nicht so gerne, weil die klassische Trefferliste, die du eben auch schon erwähnt hast, die rutscht damit dann nochmal weiter nach unten und verschwindet quasi immer mehr aus dem Sichtfeld und das ist ja wahrscheinlich auch ungefähr so das, wo Google dann mal hin möchte. Diese zehn Links auf Google Seite 1, die dann irgendwie folgen, die verschwinden dann und dadurch verschwindet natürlich aber auch die Sichtbarkeit für die Webseiten, die darauf angewiesen sind, dass sie bei Google erkannt werden und wir haben euch auch noch eine aktuelle Zahl mitgebracht. Es gibt nämlich eine Analyse des Pew Research Centers und die zeigen, dass wenn Nutzerinnen und Nutzer diese KI-Zusammenfassung sehen, dass sie nur noch auf, acht statt 15 Prozent der Fälle auf einen dieser Links darunter dann klicken in dieser Ergebnisliste. Das heißt, fast um die Hälfte reduziert. Ja, also mal einen Blick behalten. Google baut das weiter aus und wie gesagt, möchte immer mehr zur KI-Chatbot statt zur Suche werden.

Elli:
Ich finde es ja auch super, dass sie das machen. Wenn ihr die Zusammenfassungen kennt, dann wisst ihr ganz unten, ganz, ganz klein, da steht immer, KI-Antworten können Fehler enthalten. Jetzt gucken wir uns das mal an und werden noch mal beobachten. Ich vermute ja, dass dieser ganz, ganz kleine Zusatz noch weiter nach unten rutscht und damit quasi unsichtbar wird.

Caspar:
Ja, aber nicht weniger wichtig eigentlich, weil auch ich erwische vor allem diese Google-KI-Zusammenfassung immer wieder mal maluzinieren. Aber das ist ein anderes Thema.

Elli:
Das gehört schon mit dazu.

Caspar:
Nein, im Sinne von, wir werden uns das sicherlich auch nochmal ausführlicher angucken, wenn Google dann den Umbau vorantreibt.

Elli:
Ja, also es gibt Themen, da würde man sich einen Abschiedsbrief wünschen. Wir kommen jetzt aber zu einem, wo es tatsächlich einen gab und zwar mit Update Nummer zwei.

Caspar:
Also Überleitung kannst du noch, Elli, das hast du nicht verlernt.

Elli:
Danke, es flutzt. Wer hat denn geschrieben, den Abschiedsbrief? Also er saß jetzt nicht mit Feder und Tinte da, sondern er hat ein Memo getippt, wie man das so macht, wenn man bei Apple arbeitet, nämlich Tim Cook, der jetzt ehemalige CEO von Apple. Wir haben es schon angekündigt, vor einer Weile, wenn ihr uns fleißig hört, dann habt ihr es mitbekommen, der tritt nämlich ab. Also Tim Cook war derjenige, der nach Steve Jobs an der Unternehmensspitze war, und jetzt ist es passiert, zum 1. September wurde gewechselt. Und Tim Cook hat eben ein Abschieds-Memo geschickt und er lobt darin seinen Nachfolger. Caspar, wer war das nochmal?

Caspar:
John Ternus heißt der Gute und er lobt ihn nicht nur, er schreibt, dass nur wenige Menschen es so gut verstehen würden, Produkte zu entwickeln, die die Welt verändern, wie John Ternus. Also das ist, ich finde das ein interessantes Lob und es ist gleichzeitig auch so ein bisschen Druck aufbauen. So nach dem Motto, Junge, du hast nichts anderes als die Aufgabe, die Welt zu verändern. Naja, okay, gut.

Elli:
Klar, gar kein Druck. Schon auch dick aufgetragen.

Caspar:
Möchte ich sagen.

Elli:
Worüber Tim Cook weniger schreibt, ist so wie Apple die Zukunft sich vorstellt, so mit Blick auf KI, Dienstleistungen, Regulierung, China, all das, was quasi so als Herausforderung vor der Haustür steht, darüber nachdenken. Dann verliert er wenig Worte. Das überlässt er jetzt wohl seinem Nachfolger.

Caspar:
Genau, das ist jetzt die Aufgabe von Törners, die Welt retten und eben mit diesen ganz kleinen Hausaufgaben irgendwie fertig werden. Cook betont dann natürlich aber auch nochmal seine Dankbarkeit für die Gelegenheit, Apple so lange führen zu können und hebt auch nochmal diese Unternehmenskultur als besonders wichtiger vor und so weiter und so fort, was man halt in so einen Abschiedsbrief reinschreibt. Und das Interessante ist, Tim Cook geht ja gar nicht so wirklich richtig, sondern der ist jetzt seit September der Vorsitzende des Verwaltungsrats. So kann man das vielleicht am ehesten übersetzen. Das heißt, er hat schon noch durchaus Einfluss auf den Konzern. Der ist jetzt quasi nochmal befördert worden und ist jetzt zwar nicht mehr für das operative Geschäft zuständig, aber zum Beispiel für die Besetzung der Führungsriege ist dieser Verwaltungsrat zuständig. Ja, also umso ganz weg ist er nicht.

Elli:
Tja, genau. Und wenn ihr euch demnächst dann die Vorstellung vom neuen iPhone, zu Gemüte führt und Apple Watch Modelle sollen auch vorgeführt werden, dann werdet ihr da eben zum ersten Mal John Ternis richtig auf der Bühne wahrnehmen und sehen. Und ja, wenn ihr quasi auch, wenn ihr Artikel dazu lesen würdet, wird plötzlich ein neues Gesicht da sein. Das ist dann John Ternis, der Mann, auf dem jetzt gar kein Druck liegt.

Caspar:
Nächste Woche Mittwoch am 6.6. um 19 Uhr. Das heißt, 6.6. 6.9. Guck mal, 6.6. steht im Doc. Habe ich einfach so völlig vor mich hingelesen. 6.9. Danke, Elli. Um 19 Uhr werden wir im Podcast nicht darüber berichten nächste Woche, weil das zu spät für uns ist. Apple ist eigentlich immer einen Tag früher dran, meistens Dienstag. Dann können wir es noch mit reinnehmen. So müsst ihr halt mal ohne uns auskommen und wir werden ein anderes spannendes Thema finden.

Elli:
Yes. Und wir haben noch ein Update mitgebracht. Wir gehen nach Berlin. Das ist zwar schon in der Sommerpause passiert, da geht das ganze Malheur, aber wir wollen trotzdem einmal sprechen, eben weil es in Berlin ist und weil es nicht ganz klein ist. Während wir nämlich in der Sommerpause waren, hat eine Hacker-Erpresser-Bande, Daten aus der Berliner Verwaltung gestohlen, digitale Daten. Und die wollen natürlich jetzt was dafür haben, richtig? Es geht um Bitcoin, also um digitale Währung. Die sagen also quasi, wenn ihr uns nicht so und so viel Bitcoin gebt, dann werden diese Daten verhökert von uns. Und jetzt ist natürlich die Frage, was halten wir davon? Wie dringlich ist es? Und schon dringlich, schon auch ein bisschen brenzlig.

Caspar:
Böse Zungenwitzeln, jetzt weiß man, wie oft der Bürgermeister Tennis spielt. Nach dem aktuellen Kenntnisstand waren das aber Daten der Senatsverwaltung für Verkehr und Bauen, die angezapft wurden. Noch ist aber nicht ganz klar, was das vollständige Ausmaß dieses Angriffes ist und wie viel dann wirklich quasi an Daten gestohlen wurde. Die Gruppe droht halt, wenn man nicht zahlt oder nicht die Bitcoin quasi besorgt, dann würde man die Daten veröffentlichen oder sie im Darknet verkaufen. Und das schon ziemlich bald, nämlich diese Woche Freitag. Also so richtig viel Zeit ist nicht mehr. Und es gibt auch keine so richtig offiziellen Angaben, wer denn dahinter steckt. Aber natürlich kann man sich überlegen, was das für Daten sein könnten und warum das eventuell brenzlig wäre, wenn die veröffentlicht werden würden.

Elli:
Genau, an der Stelle müssen wir einmal ganz klar dazu sagen, wir können uns das jetzt tatsächlich nur überlegen, was das für Daten sein könnten, bis auf Passwörter. Das ist schon mal klar, das wurde schon veröffentlicht. Also dazu gab es auch ein Statement. Aber das Problem ist so ein bisschen, aktuell kommt man nicht hinterher damit, alles durchzukämmen und zu gucken, was ist abgeflossen. Das wird auch wohl bis Freitag nichts werden. Das heißt, nichts Genaues weiß man nicht so richtig, außer eben diese Passwörter. Und jetzt überlegen wir uns mal zwei Verwaltungen. Einmal die Verwaltung für Verkehr und die Verwaltung fürs Bauen. Was könnte da so liegen? Naja, also zum einen so Sachen wie Bußgeldbescheide, und darin sind natürlich intime Informationen enthalten, die könnten für Identitätsliebstahl genutzt werden, um Betrug zu begehen. Und Kriminelle könnten sich damit eben als andere Personen ausgeben, um was einzukaufen, Verträge abzuschließen und so weiter. Also es sind halt einfach persönliche Daten von Menschen in solchen Bescheiden drin. Und wenn die eben abgezapft wurden, dann ist das ein Problem.

Caspar:
Ja, und je nachdem, was da zum Beispiel für Bußgeldbescheide drin sind, könnte ich dich ja auch zum Beispiel erpressen, wenn ich jetzt weiß, wie oft du zu schnell gefahren bist und solche Dinge und das nicht an die Öffentlichkeit kommen soll und sowas.

Elli:
Weil ich mich eigentlich super stark mache, politisch für Fahrradstraßen oder so.

Caspar:
Ja, du bist mir dann mit dem Fahrrad zu schnell gewesen, zum Beispiel.

Elli:
Nee, nee, nee, aber weißt du, wenn ich eigentlich so super...

Caspar:
Ach, du bist politisch aktiv in Berlin, machst eigentlich die Lobby für Fahrradarbeit und bist regelmäßig mit deinem Ferrari zu schnell auf dem Kuhfürstendamm. Zum Beispiel, zum Beispiel.

Elli:
So, jetzt kommen wir aber von unseren witzigen Überlegungen und meinem Ferrari jetzt weiter zu anderen. Informationen, die da auch noch drin sein könnten, denn wenn wir uns mit Bauen beschäftigen, dann kann es da natürlich zum Beispiel auch Informationen zu kritischer Infrastruktur geben und ja, wir wissen, das könnte sehr, sehr, krass missbraucht werden, sowas, solche Daten. Wie gesagt, nichts Genaues weiß man nicht, man könne aber zum Beispiel eben nicht ausschließen, dass Informationen zu kritischer Infrastruktur betroffen sind. Das hat Berlins Chief Digital Officer Florian Hauer gegenüber dem RBB gesagt. Ich glaube, der gute Mann schläft gerade auch sehr, sehr schlecht.

Caspar:
Hat sehr viel zu tun, würde ich mal behaupten. Ja.

Elli:
Und jetzt ist natürlich die Frage, was passiert. Da wird Geld gefordert. Da ist ein Datum gesetzt, zu dem die Sachen veröffentlicht oder verkauft werden sollen. Ja, also Berlins regierender Bürgermeister Kai Wegner und die Innensenatorin Iris Spranger haben das Ganze eben auch öffentlich gemacht und die aktuelle Position ist, Man will sich nicht erpressen lassen, man wird das Geld nicht zahlen.

Caspar:
Ja, das heißt, wir werden nächste Woche sicherlich noch mal im Update hier drüber berichten, was genau denn da ausgegangen ist, ob Freitag was veröffentlicht wurde. Ja, mal schauen, was da so passiert. Vielleicht weiß man dann auch schon, welche Daten es sind, worum genau es sich handelt. Wir halten euch auf jeden Fall auf dem Laufenden und behalten das im Blick.

Elli:
Und damit, das ist eigentlich quasi schon die perfekte Überleitung zur nächsten Rubrik.

Caspar:
Ja, das WTF. Ehrlicherweise hätte das auch fast ein sein können, aber ich finde, das WTF, was wir ausgesucht haben, hat auch nochmal Potenzial.

Elli:
Ey, vielleicht wird es nächste Woche das WTF. Mal gucken, statt Update WTF.

Caspar:
Stimmt, Potenzial hätte es. Mal gucken, wie sich die Sache entwickelt.

Elli:
Vielleicht gibt es dann einen Aufstieg.

Caspar:
Bleibt dran.

Jingles:
WTF.

Caspar:
Befördert zum WTF. Wer hat es denn diese Woche geschafft, Elli?

Elli:
Ach, naja. Also es ist wieder so eine Kombi.

Caspar:
Alte Bekannte.

Elli:
Genau. Ich nenne die Rubrik jetzt mal um in, Achtung, langer Name. Donald Trump ist sauer, ein Tech-Konzern hat reagiert und es wird absurd.

Caspar:
Das trifft sehr gut zusammen. Ja, wie ihr ja wisst, die USA haben sich überlegt, einen ziemlich heftigen Handelsstreit mit Kanada zu beginnen. Ja, also zumindest Donald Trump hat sich das überlegt, nicht die gesamten USA. Die meisten in den USA sind wahrscheinlich eher so dagegen, die Nachbarn so anzugehen. Und weil Kanada sich verhältnismäßig wehrt und sagt, das lassen wir uns nicht gefallen, ist eine der Möglichkeiten gewesen, darauf zu reagieren, dass Donald Trump gesagt hat, okay, dann ändern wir den Namen des Lake Ontario in Lake America um, so wie er das mit dem Golf von Mexiko schon mal gemacht hat in Golf von Amerika.

Elli:
Ja, wer jetzt so ein geografisches Rindviech ist wie ich, die Formulierung kommt von meinem Papa, Grüße gehen raus. Zudem sei noch mal kurz dazu gesagt, der Lake Ontario ist eben namensverwandt mit der kanadischen Provinz Ontario. Das heißt, da ist es wirklich ein großer Angriff, quasi das umzubenennen jetzt. Und das hat Donald Trump aber per Dekret gemacht. Und naja, Google Maps ist darauf eingegangen und hat schon am Samstag angefangen, dass US-amerikanischen Usern der Lake America statt dem Lake Ontario angezeigt wird. Jetzt wird es ein bisschen absurd. Denn in manchen US-Karten war diese, also in manchen offiziellen Karten der US-Regierung, war diese Änderung noch nicht drin. Also Google war da deutlich schneller.

Caspar:
Ja, fast schon vorauseinandergehorsam, so ein bisschen.

Elli:
Ja, quasi, genau. Allerdings, also bei Google sagt man auch, da gab es einen kurzen Blog-Eintrag, ja, wir haben uns orientiert an eben den offiziellen US-Regierungsdaten. Gut, mit Blick auf die Karte steht es da jetzt noch nicht drin, aber es gibt eben einen Detailantrag zu dem See, dem Betroffenen und da steht schon der Name verändert jetzt drin. Und wenn man die Karte offen hat und den Detaileintrag, dann gibt es da einen Eintrag oder so einen kleinen Hinweis quasi, der poppt dann auf, dass eben diese See umbenannt wurde per Secretarial Order 3453. Ja, und dass man im Prozess sei, die Basiskarten eben gerade zu updaten, um diese Namensänderungen wiederzuspiegeln.

Caspar:
So, dass die amerikanischen Tech-Größen und Konzerne relativ vor der US-Regierung buckeln, das ist jetzt nicht unbedingt was Neues und auch nur zum Teil ein WTF. Es gibt aber noch was anderes, wenn wir in Richtung Kanada gucken, ne, Elli, weil eigentlich müsste man ja sagen, okay, wenn ihr jetzt in den USA, weil Donald Trump kann es nur für die USA umbenennen, das muss man natürlich auch nochmal dazu sagen. Er kann da machen, was er will, der Rest der Welt wird das Ding weiter Lake Ontario nennen, weil so hieß es immer und auch Golf von Mexiko sagen wir in unseren Karten ja auch immer noch. Aber in Kanada ist auch ein bisschen was anderes passiert, ne, da ist teilweise die Umbenennung auch plötzlich gewesen. Wie kam es denn dazu?

Elli:
Ja, und das ist eben so ein bisschen absurd, denn man könnte jetzt wirklich davon ausgehen, dass in Kanada wirklich gar niemand Bock hat auf diese Umänderung. Ich vermute, das war auch so. Aber wenn man natürlich Sachen automatisiert quasi bezieht von gewissen Datenanbietern, dann kann es schon mal passieren, dass das da durchflutscht. Und so war es auch beim Lake Ontario. Eigentlich, wie gesagt, sollte auf kanadischen Karten und Webseiten der See noch immer Lake Ontario heißen. Das tut er an sich auch, aber es gab wohl einige kanadische Webseiten, die mit der US-Variante von Google Maps verbunden waren und da ihre Daten herbezogen haben. Und tatsächlich, Achtung, jetzt wird es ein bisschen lustig, waren darunter auch einige Regierungswebseiten der Provinz Ontario. Zum Beispiel die von der Alkoholmonopolbehörde LCBO. Und da stand dann eben plötzlich auch was vom Lake America.

Caspar:
Ja, Stephen Crawford, das ist der zuständige kanadische Minister, der hat sich dazu auch auf X geäußert und er hat gesagt, dass die Webseiten dazwischen überprüft wurden und der Namenswechsel behoben wurde und ich glaube, in Zukunft hat man jetzt extra darauf geguckt, dass man wirklich auch die kanadischen Google-Dienste quasi da abruft und nicht die US-amerikanischen Kartendaten.

Elli:
Ja, so kann es gehen, wenn man gewisse Dinge automatisiert hat. Damit sind wir erstmal durch mit dem What the Fuck und jetzt geht es in den Input. Es geht um KI, mal wieder.

Caspar:
Ja, aber um eine Spezialform, die vielleicht, kleiner Spoiler, viele Probleme lösen könnte, die KI aktuell hat. Aber da gucken wir gleich mal drauf.

Elli:
Ihr habt es vielleicht mitbekommen, vielleicht auch nicht, weil es euch überhaupt nicht gejuckt hat und ihr einfach nur uns als den besten Tech-Podcast überhaupt hört.

Caspar:
Also irgendwie wäre es ja schon süß, wenn die Leute jetzt vier Wochen gar keine Tech-News mitbekommen hätten. Das würde mich auf der einen Seite freuen, andererseits wäre es auch ein bisschen interessant gewesen.

Elli:
Ich möchte sagen, ich finde das sehr, sehr nachvollziehbar, ehrlicherweise. So, aber für alle, die es nicht mitbekommen haben, Apple hat zwei neue beziehungsweise verbesserte Macs vorgestellt und ja, könnte man jetzt sagen, cool, Computeranbieter hat neue Computer vorgestellt.

Caspar:
So, das passiert jede Woche quasi.

Elli:
Ja, und wir sprechen aber trotzdem drüber. Ihr kennt uns natürlich, wir erzählen euch jetzt nicht nur die technischen Daten und erklären euch, was daran toll und neu ist. Wir sind ja hier auch kein Verkaufssender, sondern wir gucken auf eine spannende Entwicklung, die sich widerspiegelt in diesen beiden vorgestellten Macs. Und Caspar, du hast hier was geschrieben von einer Goldgrube.

Caspar:
Ja, auf die man zufällig gestoßen ist, weil diese Macs sind für Apple bzw. Generell die Generationen auch davor schon durch eher einen Zufall zu einer Goldgrube geworden. Warum das so ist, klären wir auch. Warum man den Apple quasi aus den Händen reißt, die Geräte, das gucken wir uns auch an. Und unser Input führt uns generell in die Welt der lokalen KI, also zu den KI-Modellen, die jeder von sich zu Hause auf eigene Hardware laufen lassen kann und die eben nicht in riesigen Server-Farmen dann so bei Anbietern wie zum Beispiel OpenAI, Google oder Entropic mit Cloud laufen. Ja, wir gucken da mal drauf, was sich da so in letzter Zeit getan hat.

Elli:
Jetzt muss man sagen, wir haben ja hier schon länger darüber gesprochen, dass es lokale KI-Anwendungen gibt und dass man das machen kann. Gut, es war jetzt mehr so, ich lasse mal aus Spaß und um es zu testen und um zu spielen, Sprachmodell auf meinem Rechner laufen, wenn ich A, einen Rechner habe, der das kann und bewältigen kann und B, wenn ich da halt, Bock drauf habe, weil es mich besonders interessiert. Ansonsten war ja, also ich vermute mal, die meisten Menschen, die KI benutzen, aktuell benutzen halt irgendwas, was mit externen Servern verbunden ist. Man googelt den entsprechenden KI-Anbieter und dann gibt man da seine Anfrage ein. Oder man hat vielleicht die eigene App dazu. Das war ja bisher so der Punkt, aber es war ja an sich schon möglich, KI-Lokal zu nutzen. Das heißt, wir gucken uns an, warum ist das so interessant und warum wird das jetzt immer interessanter.

Caspar:
Und bevor wir mit dem Max loslegen und warum Apple da irgendwie durch Zufall auf Dinge gestoßen ist, sollten wir einmal darüber reden, warum denn lokale KI-Modelle so interessant sein könnten.

Elli:
Genau. Wir haben das zwar schon mal vor langer, langer Zeit hier besprochen, als es eben darum ging, es gibt ja auch lokale Modelle, die hatten da, glaube ich, auch immer ein bisschen einen Input in die Richtung. Aber sind wir ehrlich, vielleicht haben wir es nicht mehr alle auf dem Schirm. Also, wir gehen mal kurz durch.

Caspar:
Ein kurzer Ritt.

Elli:
Genau, ein kurzer Ritt. Wir reiten mal ganz schnell los. Es gibt mehrere Punkte, warum lokale KI-Modelle im Vergleich zu so Cloud-Modellen interessant sein können. Der erste Punkt, ihr könnt es euch wahrscheinlich denken, ist der Datenschutz und die Datenhoheit. Also die Dokumente müssen das eigene Gerät beziehungsweise zum Beispiel auch ein Unternehmen nicht verlassen oder auch zum Beispiel eine Behörde.

Caspar:
Möchte ich das sagen. Ich habe da auch immer so ein bisschen belächelt und dann ist mir aber eingefallen, also nehmen wir mal an, ihr habt zum Beispiel einen Miniserver zu Hause, auf dem all eure Daten liegen. Manche Leute haben ja auch schon so einen Speicherort, wo dann auch so Backups gemacht werden. Nass ist da der Fachbegriff. Da liegen Fotos, Dokumente, Rechnungen, Kontoauszüge. Die sind halt zu Hause gesichert auf diesem Server und das ist alles gut. Und es wäre natürlich eine Datenschutzkatastrophe, wenn man das jetzt zu ChatGPT hochladen würde alles. Die wissen eh schon viel zu viel über mich. Ich möchte nicht, dass die jetzt auch noch alle meine Kontoauszüge bekommen. Aber wie cool wäre es, wenn ich eine lokale KI auf diesem Miniserver fragen könnte, guck doch mal bitte meine Kontoauszüge und fass mir mal zusammen, wie sich meine Haushaltsausgaben im vergangenen Jahr geändert haben. Und die KI spuckt mir das dann aus, ohne dass die Daten irgendwo hingehen, weil eben alles lokal auf diesem kleinen Server passiert.

Elli:
Ja, und jetzt hast du gesagt, es wäre natürlich datenschutztechnisch eine Katastrophe. Ich wage mal zu behaupten, dass das trotzdem viele Menschen machen, aber vielleicht hat der die ein oder andere doch auch ein bisschen Bauchschmerzen dabei und weiß zumindest so, ja, naja, geht halt gerade nicht so wirklich anders. Also wäre es ja cool, wenn es jetzt doch anders ginge, wenn man sich das sparen könnte, sich da so unfreiwilligerweise nackig zu machen irgendwie. Was haben wir noch? Wenn ich zum Beispiel im Flugzeug bin oder auf Reisen, dann habe ich jetzt nicht unbedingt das beste Internet. Da funktioniert der ganze Bumms ja dann auch irgendwie nicht mehr. Allerdings, wenn ich die KI lokal laufen hätte, nur auf meinem Rechner, dann würde das wohl gehen. Auch wenn zum Beispiel das Internet mal kurz weg ist.

Caspar:
Ein weiterer wichtiger Punkt, das Thema Kosten. Man hat zwar hohe Hardware-Anschaffungskosten aktuell, da gehen wir auch gleich bei den Macs nochmal drauf ein. Aber nicht nur die Hardware-Anschaffungskosten, man hat ja auch, wenn man so KIs nutzt, oft ein Abo. Viele haben ja dann diese 20-Dollar-Abos, die es da gibt bei ChatGPT und Cloud. Oder auch, dass man einen sogenannten API-Zugang, also eine Schnittstelle hat, wo dann eine Sache hingeht und man dann für jeden Token, der benutzt wird, bezahlt. Also man kriegt quasi eine Abrechnung, wie beim Strom. Beim Strom zahlt man ja auch genau für das, was man verbraucht. Und wenn man das jetzt alles lokal hat, wären diese Abo-Kosten und die API-Kosten natürlich nicht mehr, weil man dann nur noch die KI auf dem Rechner hätte. Und das würde dann unter Umständen natürlich die Kosten senken oder zumindest beeinflussen. Ja.

Elli:
Das hast du schon gesagt, unter Umständen.

Caspar:
Ja.

Elli:
Naja, wann rechnet sich das denn jetzt hier nach Adam Riese so?

Caspar:
Naja, wenn man wirklich, also aktuell, wenn man wirklich viel macht. Also nehmen wir mal an, man hat einen Dauerbetrieb von der KI, weil man zum Beispiel, weiß ich nicht, 24 Stunden irgendwas transkribiert. Oder man hat Agenten, die man laufen lässt, die dann auch gerne mal anfangen, stundenlang über Dinge nachzudenken, in Anführungszeichen. Das ist ja immer noch künstliche Intelligenz. Und wenn man dann so einen API hat und zahlt, was man quasi verbraucht und man nicht mitbekommt, dass das Ding stundenlang vor sich hin rechnet, dann kann es mal sein, dass am Ende des Monats eine 500-Dollar-Rechnung von so einem KI-Anbieter reinflattert. Das wäre in dem Fall natürlich nicht so, aber das ist natürlich Extremfälle, also Leute, die wirklich viel benutzen. Und man darf auch nicht vergessen, wenn man das lokal macht auf einem Gerät, dann läuft das ja auch permanent und verbraucht Strom. Das heißt, man muss sich schon ganz genau angucken, was für ein Use Case hat man. Aktuell würde ich sagen, Heavy-User sparen im Moment schon mit lokaler KI. Otto-Normal, Verbraucherinnen und Verbraucher, da ist es so, dass im Moment die Cloud-Modelle oft noch günstiger sind.

Elli:
Aber man kann jetzt sagen, wenn ihr das hier bei uns gehört habt, dann wisst ihr es schon mal, wenn es irgendwann nochmal relevanter wird.

Caspar:
Ja.

Elli:
Aber wenn man das Ding jetzt kaufen würde, dann ist die Hardware wahrscheinlich auch irgendwann veraltet. Also wenn man es wirklich nicht dolle benutzt, vielleicht eher noch warten und aktuell noch so ein Abo benutzen.

Caspar:
Wir kommen auch gleich nochmal zu den Modellen und dann wird auch klarer, dass auch die noch besser werden und dann wird es auch auf schwächere Hardware laufen. Aber da kommen wir gleich noch zu.

Elli:
Ja, was ich schon mal ganz cool finde, so als Idee auch, also ich muss sagen, mich kriegst du mit dem Punkt, ich muss nicht unbedingt am Internet hängen die ganze Zeit. Datenschutz auch ganz cool. Und dann gibt es ja noch so die Möglichkeit, das ist jetzt eher so für Bastler wie dich, du kannst ganz viel Eigenes einstellen. Du kannst eigene Sicherheitsregeln machen, du kannst eigene Modelle und eigenes Feintuning machen, du kannst deine eigenen Datenbanken pflegen quasi, die mit einfließen und so weiter. Das ist ja schon was, wenn wir jetzt eben sagen, dass man, du hast es Heavy User genannt, also Leute, die wirklich viel damit basteln wollen. Das ist schon ganz spannend dafür.

Caspar:
Ja, und ein Punkt, den man auch nicht vernachlässigen darf. Die großen Karriereanbieter, schalten ältere Cloud-Modelle dann irgendwann auch mal ab. Also zum Beispiel GPT-4 wird es jetzt demnächst mal treffen. Das ist ja eine Generation vor GPT-5, die sehr aktuell ist. Warum ist das so? Weil die natürlich auch nicht unendlich Speicherbedarf haben oder Platz in ihren Rechenzentren und die älteren Modelle irgendwann abschalten. Und die sind auch günstiger zu nutzen, die älteren Modelle. Und natürlich wollen die Firmen auch Geld verdienen. Nur das Problem ist, wenn ich darauf baue, so ein älteres Modell zu nutzen und plötzlich wird es abgeschaltet, habe ich wieder ein Problem. Und das, was ich lokal mit den Modellen mache, da geht ja niemand hin an meinen Rechner und schaltet mir ein Modell ab, sondern wenn das wirklich lokal läuft und ich es da installiert habe, dann kann ich das auch in zwei, drei, vier Jahren noch nutzen, wenn es gut funktioniert.

Elli:
All in all können wir es wahrscheinlich so zusammenfassen. Vorteils mir hier auf der Pro-Seite steht vor allem das Thema Kontrolle. Ich kann Modell, Versionen, Daten, Updates, Internetverbindungen und so weiter, ich kann alles einstellen. und muss das mir nicht quasi vorgehen lassen. Gleichzeitig muss man eben sagen, wir haben es schon gesagt, für manche Leute macht das jetzt einfach noch gar keinen Sinn. Es ist schon auch noch quatschig und teuer und aufwendig. Lokale KI ist nicht immer automatisch besser, kommt auch noch dazu, weil die großen Sprachmodelle in der Cloud sind natürlich zumindest jetzt noch immer leistungsfähiger. Man kann easy darauf zugreifen. Es ist deutlich einfacher. Und wenn man jetzt nur irgendwie was schnell mal sich durchrechnen lassen will oder sich irgendwie ausspucken lassen möchte, dann ist das einfach wesentlich unkomplizierter.

Caspar:
Ja, dann Thema Energieverbrauch. Da ist es ja so, dass die Serverfarm ja immer wieder ein ganz großes Thema ist, dass die super viel Energie verbrauchen. Und jetzt könnte man natürlich denken, okay, wenn wir diese Serverfarm nicht mehr brauchen und jeder lokal irgendwann mal in Zukunft seine KI nutzen kann, dann würde das ja alles besser werden, weil man nicht mehr diese Farmen in die Landschaft bauen muss. Ja, ganz so einfach ist es dann leider auch nicht. Ja.

Elli:
Ja, ist ein bisschen eine Milchmädchenrechnung, würde ich sagen. Man kann zwar sagen, dass eine einzelne Anfrage auf dem eigenen Mac zum Beispiel, wenn wir jetzt bei Apple bleiben, bei diesen Macs, über die wir gleich noch sprechen werden, wahrscheinlich weniger Strom verbraucht als eine, die durch so ein riesiges Rechenzentrum huscht. Aber die Rechenzentren sind natürlich oft auf Effizienz und Auslastung optimiert. Das heißt, so langfristig, naja, kommt man irgendwie doch nicht besser raus.

Caspar:
Ja, also nehmen wir mal an, wir würden jetzt das, was in den Rechenzentren läuft, plötzlich komplett auf die Heimserver irgendwie verteilen. Das wäre dann auch nicht besser. Aber man muss aber mal gucken. Aber zumindest, wie gesagt, hätten wir dann nicht mehr und in den USA regen sich ja große Proteste gerade gegen diese lokalen Rechenzentren, weil die ja zum Beispiel mit Kohlekraftwerken betrieben werden, weil die das Wasser in der Umgebung absaugen und nicht mehr schön wieder zurückgeben in die Umwelt. Also das Problem könnte man natürlich damit schon umgehen, sagen wir es mal so.

Elli:
Ja, also am Ende müssen wir bei diesem, also wenn da irgendjemand eine großartige, du bist, das ist toll für die Umwelt, wenn du deine lokale KI laufen lässt, Versprechungen macht, skeptisch, da sind wir skeptisch. Aber ihr wisst jetzt zumindest Kontrolle, mehr Möglichkeiten, Sachen einzustellen, Feintuning und so weiter. Das ist so auf der Pro-Seite. Und auf der Contra-Seite, wenn ihr einfach nur schnell irgendwas gucken wollt und aktuell so ab und an mal ein bisschen KI benutzt, dann sind die Sprachmodelle in der Cloud aktuell noch die praktischere Variante zumindest. Also gerade, wenn man jetzt nicht irgendwie mit sensiblen Daten oder sowas umgehen, muss, möchte, weil es ist einfach benutzerfreundlicher, einfacher, schneller erreichbar und teilweise auch eben leistungsfähiger.

Caspar:
So, jetzt lass uns aber mal auf die Macs gucken, die wir ja versprochen haben und einmal kurz erzählen, warum die jetzt in diesem Bereich mit Locada Key so spannend sind. Zwei Macs hast du schon erwähnt. Genauer gesagt hat Apple vorgestellt einen Mac Mini neu mit wahlweise einem M6 oder M5 Pro Chip. Ihr müsst euch den Namen jetzt nicht merken. Ich zähle sie nur einmal auf. Und den Mac Studio mit dem wahlweise dem M5 Max oder dem M5 Ultra Chip. Auch ich weiß, ich, der viel mit Apple zu tun, weiß nicht, ist der Mac jetzt besser, der Ultra besser oder der Pro jetzt besser? Ich kann mir das auch nicht merken.

Elli:
Okay, man ist also, man wird einfach klassischerweise verwirrt. Kommen wir noch mal zurück zum Mac Studio M5 Ultra, den gibt es schon und der kann ab Ende Oktober mit bis zu 512 Gigabyte Arbeitsspeicher ausgestattet werden. Bis dahin ist er erstmal nur mit maximal 256 Gigabyte erhältlich und der Mac Mini mit dem M6 Chip, der bietet maximal 32 Gigabyte Speicher. Der mit dem M5 Pro, maximal 64 GB.

Caspar:
Ja.

Elli:
So, ich habe mir sagen lassen, wir sollen uns diese 32 GB und 64 GB und 512 GB mal merken.

Caspar:
Ja, merkt euch das mal, weil das gleich wichtig wird. Und keine Sorge, das waren jetzt auch schon die technischen Daten. Mit mehr behelligen wir euch nicht.

Elli:
Das ist aber auch ein absurder Sprung. 32, 64 und dann 512.

Caspar:
Ja, das sind die maximal. Ich glaube, es gibt noch M42. Aber das wird noch wichtig. Warum werdet ihr gleich merken? Ich möchte euch noch mit einer Zahl behelligen und zwar den Preisen, die ja auch nicht ganz unspannend sind. Bis vor kurzem gab es den Mac Mini so ab ungefähr 600 Euro Straßenpreis. Das war die kleinste Ausführung. Das war wirklich so der Standard-Desktop-Rechner. Nun geht es los bei 1000 Euro. Warum die Preise sich erhöht haben, sprechen wir gleich mal drüber. Der Mac Studio, der beginnt bei rund 3000 Euro. Das sind auch da die Einstiegspreise. Und jetzt gucken wir mal auf das, was maximal geht, wenn man wirklich alles anhakt bei der Bestellung, was man dazu buchen kann.

Elli:
Ja, also wir hatten ja vorhin gerade diese unterschiedlichen Zahlen. Nein, M32 und M64 und 512.

Caspar:
Der Oschi.

Elli:
Ich fange mal mit dem Oschi an. Mac Studio M5 Ultra, 512.

Caspar:
Nee, noch nicht. Da ist der Preis noch nicht mal. Nein, nein.

Elli:
Richtig.

Caspar:
Apple hat gesagt, der wird kommen, aber sie haben noch nicht mal den Preis verraten. Der wird also noch mal teurer.

Elli:
Genau, wir sind beim mickrigen in Anführungszeichen 256 GB, die es halt jetzt da gibt. Ja. Ja, 20.679 Euro. Ohne Zubehör. Also kein Bildschirm, keine Tastatur, keine Maus. Einfach nur 20.679.

Caspar:
Euro für das Herzstück. Für diesen M5 Ultra Chip, was dann auch, wir wissen, Ultra ist also jetzt das stärkste, haben wir gerade gelernt, und halt 256 GB. Ich möchte nicht wissen, was dann nochmal das Doppelte an Speichern am Ende kostet. Ich bin sehr gespannt, was da an Preis kommt. Und diese Macs sind bisher nur vorbestellbar und es wird erwartet, dass die Preise im Einzelhandel so ein bisschen dann sinken in den kommenden Monaten, wenn die dann auch verfügbar sind. Wie gesagt, in ein, zwei Wochen sind die dann auch verfügbar, aber vermutlich auch schon relativ vergriffen. Das heißt, wahrscheinlich bekommt ihr, wenn ihr jetzt bestellt, dann auch erst so im Oktober ein.

Elli:
Ja, und weil wir euch jetzt diese 20.679 um die Ohren gehauen haben, machen wir noch ein bisschen weniger. Komm, ein bisschen weniger geht noch. Und zwar für den Mac Mini in maximaler Ausstattung.

Caspar:
Oh ja, den kann man ja auch noch maximal ausstatten.

Elli:
Genau, das ist Mac Mini mit M5 Pro, würde ich dann mal davon ausgehen, mit 64 Gigabyte.

Caspar:
Ja, für günstige.

Elli:
Genau, 7.609 Euro. Ja.

Caspar:
Ja.

Elli:
Schmuck. Schmuck, sage ich da. Das ist doch hier.

Caspar:
Genau. Also die Macs waren schon immer auch mal in den höchsten Ausbaustufen teuer. Bisher haben dann aber halt so Leute sich die hingestellt, die zum Beispiel 8K Videodateien schneiden wollten oder die mit, weiß ich nicht, 500 Audiospuren irgendwelche Musikstücke gerendert haben. Also wirklich so hochkreative Menschen, die wirklich hardcore Dinge tun und möglichst viele Daten von A nach B schieben wollen. Die Zielgruppe hat sich jetzt so ein bisschen gewandelt. Ihr ahnt es schon, wenn wir hier zum Thema lokale KI sprechen.

Elli:
Wir führen jetzt Thema 1 und Thema 2 zusammen. Apple bewirbt den Mac Mini und den Mac Studio in sämtlichen Preisklassen. Vor allem mit einer Sache, nämlich mit der guten Performance dieser neuen Rechner bei sogenannten On-Device-KI-Modellen, also lokalen KI-Modellen. Jetzt ist ja eigentlich, Apple kommt ja so ein bisschen auch aus dem Design-Bereich. Also hat so für Leute, die so Grafikdesign ursprünglich mal gemacht haben, so die Laptops, PCs und so weiter gestaltet und halt viel auch KonsumentInnen, Was wollen die denn jetzt alle plötzlich hier mit der lokalen KI? Wie kamen die denn da drauf? Also es wäre jetzt nicht der erste Hersteller, wo ich vermuten würde, die machen das jetzt.

Caspar:
Ja, genau. Also zumal ja Apple den KI-Trend selber zum Beispiel beim iPhone und dem Betriebssystem ja relativ verschlafen hat. Wir erinnern an Siri, die ja nun lange Zeit alles andere als intelligent war und ja auch in Europa erst mal noch die in Anführungszeichen dumme Siri bleiben wird. Ja, sie sind da eher zufällig reingestolpelt. Das war keine Absicht von Apple. Weil Apple war, da müssen wir ganz kurz in die Geschichte gucken, jahrelang Kunde bei Intel und hat dann seit 2020 angefangen, eigene Chips in die Rechner zu verbauen. Die sogenannten M-Chips, den M1 2020, das war zwei Jahre vor Chat-Chip-IT, also vor dem großen KI-Boom. Und der stellte sich jetzt im Nachhinein oder diese Chip-Generation, die sie dort aufgesetzt haben, im Nachhinein als sehr sinnvoll heraus, aufgrund des sogenannten Unified Memories, also des gemeinsamen Arbeitsspeichers.

Elli:
Dazu gucken wir ganz kurz drauf, wir gehen nicht krass ins Detail. Bei einem klassischen PC habt ihr normalerweise zwei Speicherbereiche. Einmal den normalen Arbeitsspeicher vom Rechner und dann habt ihr zusätzlich einen Videospeicher der Grafikkarte. Also ihr könnt zum Beispiel einen Rechner mit 64 GB RAM haben und eure Grafikkarte hat vielleicht nur 16 oder 24 GB Eigenspeicher. Und das ist bei lokalen KI-Modellen häufig ein Problem, dass es eben diese beiden unterschiedlichen Speicher gibt mit teilweise sehr, sehr unterschiedlichen Größen, weil große Teile des Modells müssen auf dieser Grafikkarte liegen, damit die Grafikkarte schnell rechnen kann. Und bei Apple funktioniert das Ganze ein bisschen anders. Da wird nämlich auf denselben gemeinsamen Speicher zugegriffen. Also wenn ein Mac beispielsweise 64 GB Unified Memory besitzt, dann kann das grundsätzlich auch als Großteil von der KI benutzt werden.

Caspar:
Genau, auf der Grafikkarte natürlich ein bisschen was braucht das Betriebssystem auch. Also von 64 GB habt ihr da nicht permanent 64 GB Platz. Aber natürlich ist das sehr viel besser, als wenn ihr dann irgendwie nochmal auf den Grafikspeicher gucken müsst. Und das heißt auch, wenn ihr euch einen Mac kauft und der hat 64, 128, 256 oder ab Oktober dann auch 512 GB Speicher, dann könnt ihr diese auch großteils genau eben für die KI einsetzen beim Mac, was beim PC halt eben anders ist.

Elli:
Und es gibt noch was, klingt auch komplizierter als es ist, nämlich die Speicherbandbreite. Ein großes Sprachmodell muss, wenn es Text generiert, ständig ganz, ganz viel von seinen eigenen Modelldaten aus dem Speicher lesen. Und das bedeutet, es reicht eben nicht, viel Speicher zu haben so an sich, sondern das muss auch flutschen, was so den Austausch angeht von Informationen. Und genau darin sind die Chips von Apple, die größeren, ziemlich gut.

Caspar:
Und das eben hat Apple, wie gesagt, nicht von Anfang an beschlossen, dass sie sagen, wir wollen diese Speicherbandbreite und den Unified Memory haben, damit das für lokale KI funktioniert, sondern sie haben das gemacht, um ihre Chips-Modelle zu vereinfachen und wahrscheinlich auch einfacher produzieren zu können, und sie haben deswegen auf gemeinsam Speichern hohe Speicherbandbreite gesetzt und das hat auch zu einem relativ geringen Stromverbrauch geführt. Damit hat Apple von Anfang an auch geworben und das war das eigentliche Ziel, auch diese Architektur. Und jetzt durch den KI-Boom stellt sich heraus, dass genau diese Kombination, die man damals gewählt hat bei Apple, super gut zu den großen Sprachmodellen, passt, wenn man die lokal betreiben möchte. Und deswegen kaufen nicht mehr plötzlich nur noch Videoproduzenten und die ultrakreativen Nerds die Macs weg, sondern im Grunde alle Leute, die irgendwie versuchen, lokale KI-Systeme zu betreiben, reißen denen Apple die Dinge aus der Hand.

Elli:
Gut, Apple ist jetzt aber auch nicht ganz alleine damit, mit dieser Idee, ja, lokale KI und so weiter. Also es haben schon noch ein paar andere Anbieter erkannt oder beziehungsweise sich jetzt darauf so ein bisschen eingeschossen. Nvidia zum Beispiel, die machen Grafikkarten und inzwischen eben auch KI-Chips ganz viel. Die arbeiten mit dem DJX Spark. Es ist zwar kürzer als so ein Apple-Name, aber ich weiß auch nicht.

Caspar:
Was ich besser finde. Nein, das ist auch nicht toll.

Elli:
Naja, aber das ist auf alle Fälle ein eigener Computer, den die basteln für lokale Modelle. Und bei Xiaomi aus China, da arbeitet man am sogenannten AI Cube. Das ist aber bisher nur ein Prototyp. Also mal gucken, was da noch kommt. Und beide haben... Wie Mac? Unified Memory.

Caspar:
Ja, und sind voller Arbeitsspeicher gestoppt. Und jetzt merkt ihr auch, warum ihr euch die Zahlen vorhin merken solltet. Die sind, wie gesagt, entscheidend bei den lokalen KI-Modellen. Und das Dovis auch bei all den Geräten, die wir gerade aufgezählt haben, den Macs, diesem DJX Spark und vermutlich auch bei dem iCube, kann man die im Nachhinein nicht mehr austauschen. Früher konnte man bei PCs die Arbeitsspeicher nochmal nachrüsten. Da geht das nicht. Das ist fest verlötet. Also wenn ich einen Mac mit 64 Gigabyte habe, dann habe ich den. Da kann ich nicht irgendwann 128 reinpacken. Das heißt, ich muss mich beim Kauf auch schon entscheiden. Und deswegen nehmen viele Leute dann lieber ein bisschen mehr.

Elli:
Jetzt haben wir ganz viel über die Hardware geredet, also auf den Klotz, auf dem der ganze Bums dann laufen soll. Das hilft mir aber nichts, natürlich, wenn das flutscht und schnell ist. Aber dafür ist mein KI-Modell an sich dumm wie Brot. Deswegen gucken wir nochmal auf die Softwareseite. Und auch da tut sich so ein bisschen was, denn die KI-Modelle werden kleiner und effizienter. OpenAI zum Beispiel hat GPT-OSS, das ist ein Modell, das ausdrücklich für lokale Nutzung gedacht ist. Google, die haben Gemma 4 und auch da, das ist eine fortgeschrittene KI, die eben multimodal direkt auf Laptops und Smartphones dann funktionieren soll. Und mit Quen 3.8 kommt eines der leistungsfähigsten lokalen Modelle aus China. Also auch bei den SoftwareentwicklerInnen oder den Softwarefirmen, hat man den Trend gerochen und erschnuppert und stellt sich jetzt eben darauf ein, dass mehr Leute vielleicht in Zukunft ihre eigenen Einstellungen treffen wollen, ihre eigenen Daten kontrolliert bei sich behalten wollen und dass deswegen, lokale KI funktioniert. Der nächste heiße Scheiß sein könnte.

Caspar:
Ja, und du hast gerade drei Modelle aufgezählt. Und wenn man in die Rankings reinguckt von so KI-Rankings, es gibt ja so Punktesysteme, wo dann geguckt wird, welche KI wie Punkte erlangt und so in Tests. Und da sind die lokalen Modelle, holen immer mehr auf. Die sind immer noch nicht so, dass man sagt, die können mithalten mit einem Modell, was in einer riesigen Serverfarm läuft, mit unglaublich vielen Arbeitsspeicher dort in so einem KI-Cluster. Aber wenn man eine wirklich gute Hardware bei sich zu Hause stehen hat, Kann man lokal inzwischen Modelle dort nutzen, die sehr, sehr viele Use Cases wirklich schon super gut abdecken und sehr nah an die Modelle aus der Cloud herankommen. Das heißt, da tut sich auch richtig viel und da kommen im Grunde alle drei, vier, fünf Wochen neue Modelle. Gerade in China passiert das super viel. Also da wird sich auch in nächster Zeit noch sehr viel tun und die Modelle werden noch effizienter und wahrscheinlich auch noch auf älterer Hardware dann irgendwann mal laufen.

Elli:
Also, ihr seht schon, Apple hat da quasi einen Trend aufgegriffen mit den beiden Geräten, die jetzt quasi dazukommen sollen oder mit den Versionen. Und wir haben jetzt nochmal ein bisschen durchgerissen, abgerissen, warum lokale KI spannend sein könnte. Wir sind aber immer weiterhin noch beim Könnte. Aktuell. Hardware ist noch teuer. Chip-Krise ist ja im vollen Gange. Das heißt, wahrscheinlich wird das auch erstmal nicht so viel besser werden. Und wenn ihr aktuell lokale KI-Modelle betreiben möchtet oder das schon tut, dann müsst ihr schon auch Bock auf ein bisschen Tüfteln haben und ein bisschen ausprobieren und euer eigenes Wissen und eure Erfahrungen euch da aneignen. In Zukunft dürfte aber gerade das mit der Bedienbarkeit besser werden, weil es eben so ein bisschen Richtung Mainstream gehen wird. Am Ende wird die Cloud-KI wahrscheinlich nicht verschwinden, aber es wird eben immer mehr auch die Alternative geben, das Ganze nämlich lokal zu machen.

Caspar:
Also ihr müsst jetzt nicht morgen loslaufen und versuchen, einen Mac oder einen Nvidia-KI-Rechner euch zu holen mit möglichst viel Arbeitsspeicher, damit ihr dann zu Hause irgendwelche Modelle betreiben könnt. Das wird noch ein kleines bisschen dauern, aber ich glaube, das wird so eine dieser Folgen sein, wo man dann in einem Jahr oder so mal zurückgucken kann und sagen kann, seht ihr, wir haben mit euch gesagt, das wird mal ein großes Thema.

Elli:
Das können wir sagen oder ihr könnt sagen, da, da, ich habe das von einem Jahr schon bei Silicon Weekly schon gehört.

Caspar:
Für mich ist das doch ein alter Hut. Ich weiß das doch alles.

Elli:
Darauf dichten wir unseren HörerInnen eigentlich gerade für Dialektern. Das ist auch ein bisschen wild.

Caspar:
Ich habe keine Ahnung. Man hört uns in ganz Deutschland, Österreich und der Schweiz. Also ihr könnt euch jetzt jeden Dialekt dazu hören.

Elli:
Das ist korrekt. Grüße gehen raus an den Dachraum. Servus, habidere. Und ich würde sagen, es wird Zeit, dass wir zum Ende kommen.

Caspar:
Ja, und womit beenden wir so eine Sendung aus Silicon Weekly? Natürlich mit einer guten Nachricht. Es geht nicht anders.

Jingles:
Gute Nachricht.

Elli:
Also dialektmäßig. Wir gehen jetzt nach Hesse. Dialektmäßig.

Caspar:
Wurst aus Hesse wird gern gegessen.

Elli:
So, es geht aber jetzt nicht um Wurst, sondern es geht wieder um die Schule.

Caspar:
Es geht am Ende immer um die Wurst.

Elli:
Ja, auch das. Naja, also Hessen, Schule. Was ist passiert in Hessen? In Hessen hat man sich ein Bildungspaket überlegt. Und da gab es im Vorfeld ganz viel Tohuwabohu und Ärger und Protest. Erst ursprünglich waren da sehr, sehr viele Kürzungen vorgesehen an Stellen und auch finanziell. Jetzt ist es ein bisschen abgeschwächter gekommen. Es wird immer noch gekürzt, aber es kommt auch was dazu, beziehungsweise es wird was nicht gestrichen. Also Hessen wie folgt, wir gucken mal auf den Schulunterricht im Bereich Informatik, KI und so. Deutschland ist ein Flickenteppich, was das angeht. Jedes Bundesland macht das so ein bisschen anders, wie viel man dafür notwendig erachtet und so weiter und so fort.

Caspar:
Bildung ist Ländersache. Das hat Vorteile mit Blick auf Sachsen-Anhalt und die Wahl. Es hat aber auch Nachteile, weil Bildung halt so unglaublich unterschiedlich ist. Aber Hessen hat sich jetzt was überlegt, was wir als sehr positiv sehen und deswegen hat es das auch in die gute Nachricht geschafft.

Elli:
Ja, wobei, wir fangen schon ein bisschen auf. Es gibt ein Aber.

Caspar:
Natürlich, Elli, es gibt ein Aber. Das gibt es immer.

Elli:
Und was sich Hessen bisher überlegt hat, war nämlich das Schulfach Digitale Welt. Das wurde an Pilotschulen unterrichtet und diese Pilotschulen konnten dafür auch eben Stunden beantragen. Das heißt, dass man das dann auch freigeschaufelt hat, dass das wirklich auch als Pflichtfach unterrichtet wird an diesen Schulen. Ursprünglich war jetzt im Bildungspaket gedacht, das weiten wir aus für alle Schulen, aber die dürfen das freiwillig machen und damit ist das quasi auch ein Privatvergnügen für die.

Caspar:
Was dann wiederum nicht so, ja, also das ist ja schwierig.

Elli:
Genau. Es wird aber, es ist ja jetzt eine gute Nachricht. Es gab eben Proteste gegen diverse Sachen in diesem Bildungspaket und jetzt ist es vorgestellt worden und da hat sich was getan, denn es gibt jetzt tatsächlich das Pflichtfach KI und digitale Welt. Also die digitale Welt hat noch ein bisschen KI mit dazu bekommen und die Ideen sind jetzt eben das Ganze hessenweit. Für alle weiterführenden Schulen vorzusehen. Wir kommen auch gleich dazu, in welchen Details. Und für die vierte Klasse, also schon in der Grundschule, soll es einen Medienführerschein geben ab dem Schuljahr 2027-2028.

Caspar:
Das ist cool. Und für die fünfte Jahrgangsstufe, wie gesagt, soll es dann ab 27, 28 mit KI und Digitale Welt losgehen. Und 2028, 29 wird das dann auf die sechste Klasse erweitert. Ihr seht also, dass das so jetzt langsam mit den Jahrgangsstufen dann quasi mitwandert.

Elli:
Richtig. Ab dem Schuljahr 2029 und 2030 wird das Fach mit einem Informatikschwerpunkt zusätzlich auch für die Jahrgangsstufen 7 und 8 an Haupt- und Realschulen sowie für die Stufen 9 und 10 an den Gymnasien eingeführt. Und man möchte eben, dass junge Menschen einen reflektierten und verantwortungsvollen Umgang mit Informatik und Daten und künstlicher Intelligenz quasi beigebracht bekommen. Ähnlich ist es beim Medienführerschein. Da geht es um die Vermittlung, was ist eigentlich ein sicherer Umgang mit dem Internet? Was bedeutet persönliche Daten? Warum sollten wir die vielleicht nicht alle an Chat-CBD geben? Und was gibt es so für Chancen und Risiken digitalen Medien? Also an sich eine coole Idee, dass das jetzt tatsächlich da auch unterrichtet wird und dass man eben Wert auf Medienbildung legt.

Caspar:
Naja, zumal das ja auch, also das ist in der Lebenswirklichkeit der Schülerinnen und Schüler ist es angekommen. Also ich habe immer mal wieder auch mit Schulklassen zu tun und habe dann auch das Thema wenig überraschend bei meinem Beruf und ich bin Tech-Journalist, geht es dann auch um Thema Digitales und KI, die sind auch mir in vielen Bereichen einfach schon voraus, weil sie Dinge einfach im Alltag schon einsetzen. Und dann ist es sinnvoll, denen das in den Schulklassen verantwortungsvoll beizubringen, statt es wegzuignorieren und zu sagen, wir reden da gar nicht drüber, weil es findet eh statt, dass die zum Beispiel KI nutzen.

Elli:
Ja, und da sprichst du was an, was auch so eine, also wir leiten über zum Aber, denn du hast es schon gesagt, die sind dir teilweise voraus und mit gemischten Gefühlen hat auch die Gewerkschaft für Erziehung und Wissenschaft dieses Bildungspakets sich angeguckt, denn einerseits sind die Fan davon, dass man sagt, hey Medienbildung ist wichtig, das finden die nämlich auch. Es ist aber laut der Gewerkschaft noch gar nicht klar, woher die benötigten Informatiklehrkräfte kommen sollen und ob jetzt das Ganze zusätzlich stattfinden soll oder irgendwas anderes dafür wegfällt. Also so ein bisschen gibt es da noch Unsicherheiten. Und was man auch sagen muss, das Ganze kriegt erstmal nur eine Stunde pro Woche. Man bringt nie alles unter, aber so 45 Minuten in der Woche.

Caspar:
Ich wollte gerade sagen, es ist ja auch keine Stunde, wir kennen ja die Schulstunden, das ist ja 35 Minuten.

Elli:
Ist halt schon, ist wahrscheinlich für das, was es da zu besprechen gäbe an Menge, wahrscheinlich ein bisschen wenig. Aber ist ein Anfang und deswegen haben wir es mit reingenommen und falls ihr in Häse wohnt und da wird jetzt euer Patenkind eingeschult oder so, dann tust ihr jetzt Bescheid. Na, für die Klasse kommt dann der Medienführerschein.

Caspar:
Und ich muss auch sagen, es ist gut, dass das ein eigenes Fach ist, weil ich, wenn man so mal auf das Bildungssystem guckt, es wird ganz oft so, dass dann Fächer zusammengelegt werden und ich hätte mir auch sehr gut vorstellen können, dass man das Thema KI und Digitales in so einem Gesellschaftskundeunterricht halt mal einmal eine Woche im Jahr mit dazu packt, wie das gern mal passiert. Dem jetzt wirklich einmal die Woche quasi eine Stunde im Stundenplan einzuräumen, ist schon mal ganz gut. Aber wie du sagst, es wäre noch ganz gut zu wissen, wo die Informatiklehrer dafür herkommen und die Lehrerinnen. Aber Details. ist.

Elli:
Naja. Die Idee ist gut. Mal gucken, wie es so in der Umsetzung wird. Wir gucken da 20, 27, 28 nochmal drauf.

Caspar:
Genau.

Elli:
Und wo wir sonst noch drauf gucken, das erfahrt ihr nächste Woche in der nächsten Folge.

Caspar:
Ja.

Elli:
Genau, weil wir sind für heute durch, würde ich sagen.

Caspar:
Ja, wir sind durch und wir sind jetzt wieder wöchentlich da. Hurra, bis zur Weihnachtspause, die ja nie so lang ist. Aber ihr hört uns jetzt wieder jede Woche. Ich freue mich drauf.

Elli:
Außer wir sind alle zufällig.

Caspar:
Ja, das kann natürlich auch sein. Aber klopfen wir mal auf Holz. Ich klopfe mir gerade gegen die Stirn. Dass wir das durchhalten. Aber das kriegen wir schon hin.

Elli:
In diesem Sinne, macht es gut. Genießt die erste Septemberzeit.

Caspar:
Ja, der Herbst ist langsam da.

Elli:
Genau. Und wir hören uns nächste Woche.

Caspar:
Bis dahin. Macht's gut.

Elli:
Tschüss.

Jingles:
Das war's schon wieder für diese Woche. Folgt oder abonniert uns gerne in eurer Podcast-App und lasst uns dort eine Bewertung da. Das hilft uns sehr. Bis zum nächsten Mal.