Shownotes
Der Weltuntergang durch KI ist noch immer das bestimmende Thema in der Tech-Bubble. Deswegen gibt es ausnahmsweise noch einmal eine reine News-Episode. Wir schauen für euch unter anderem auf zwei spannende Gerichtsverfahren rund um private Chats, sprechen mal wieder über neue Pläne für Altersgrenzen bei Social Media, warum es sich lohne E-Autos zu röntgen und darüber, warum KI-Halluzinationen besonders problematisch werden, wenn militärische Entscheidungen von ihnen abhängen.
Links zur Episode
- Den Bericht zum Thema Datenschutz und Innovationsbremse findet ihr hier
Transkript der Episode
Das Transkript wird automatisiert erstellt
Elli:
Hallo und herzlich willkommen zu einer neuen Folge Silicon Weekly. In unserem Doc hier steht Good Morning in the Morning. Weiß ich jetzt nicht, wann ihr uns hört. Aber auf alle Fälle schön, dass ihr trotz Weltuntergang letzte Woche wieder eingeschaltet habt. Ich bin Elli und ich bin heute mit jemandem hier, der sich gerade frisch die Brille geputzt hat. Deswegen musste ich auch schon sehr lachen. Caspar, wie ist deine Sicht auf die Dinge?
Caspar:
Das linke Auge. Ich habe mich mit dem Finger richtig schön drauf getatscht. Einen Gruß an alle Brillenträgerinnen und Brillenträger. Ich kriege das schon hin. Ich werde dir gleich, während du mal was Längeres sagst, mal putzen und nochmal versuchen. Ja, good morning in the morning. Das kommt ein bisschen darauf an, wann ihr uns einschaltet. Du hast recht, Elli, aber ich habe mal gelernt, Podcast soll man möglichst zeitsouverän drüber reden. Eigentlich ja nicht mal unbedingt gestern und sowas erzählen. Also verzeiht es uns, dass wir heute mal mit guten Morgen angefangen haben. Aber vielleicht trifft es ja auf einige zu.
Elli:
Ja, und ich fand es schön, das zu lesen, als ich heute Morgen tatsächlich noch an unserem Skript gearbeitet habe. Denn, kleiner Transparenz an der Stelle, Caspar und ich arbeiten ganz oft zeitversetzt. Ich bin eher so morgens da und Caspar ist eher so die Nachteule.
Caspar:
Du bist die Lerche, ich die Eule.
Elli:
Genau, ich bin jetzt auch nicht unbedingt freiwillig, aber so ist das gerade halt von meinem Tagesrhythmus her und deswegen klöppel ich morgens im Dokument und du bist abends noch da.
Caspar:
Ja, ich habe dann immer das Gefühl, nichts zu verpassen, wenn es abends ist. Weißt du, die Welt schläft, dann kann man in Ruhe was reinhauen.
Elli:
Ja, und ich bin morgens da und habe alles taufrisch quasi.
Caspar:
Ja, genau.
Elli:
In den USA um zwei Uhr morgens veröffentlicht wurde. Das kriege ich dann, kann ich dann durchlesen.
Caspar:
Das kriegst du dann noch mit, ja.
Elli:
Toll.
Caspar:
Apropos USA und veröffentlicht.
Elli:
Wir haben mal wieder eine News-Sendung für euch. Also diesmal zwei in Folge tatsächlich. wirklich, seht es uns nach. Die Medienwelt sitzt immer noch auf dem KI-Weltuntergang und wir haben uns gedacht, das wollen wir nicht nochmal machen. Deswegen haben wir uns ein bisschen umgeguckt, was es sonst noch so gibt und euch ein paar Sachen zusammengesucht. Es gibt relativ ausführliche Updates auch und dann so ein paar kleine News und am Ende natürlich noch eine Good News.
Caspar:
Der Weltuntergang, wie gesagt, beschäftigt die Medienwelt noch sehr. Deswegen war es schwer, ein Input-Thema zu finden, was auch groß genug ist, dass man da auch wirklich ein bisschen ausführlicher sprechen kann. Deswegen ein paar News. Und ihr könnt, das kann ich euch schon mal verraten, in den News dann zum Beispiel auch Kriminalfälle mal mitraten, zum Beispiel.
Elli:
Oh, und wir sprechen natürlich immer so etwas süffisant vom Weltuntergang, muss man auch sagen. Das ist einfach dem geschuldet, dass wir es eben, also hier im Skript steht, uns hängt es schon zum Ohr heraus. Allerdings kann ich schon mal so viel sagen, unser What the Fuck zeigt, dass gewisse Befürchtungen durchaus gar nicht mal zu unterschätzen sind.
Caspar:
Aber erstmal die Updates.
Elli:
Update. Mensch, jetzt habe ich tatsächlich so einen ganz wilden Cliffhanger gemacht. Das wollte ich gar nicht. Tut mir leid.
Caspar:
Die Leute können ja vorspulen, wenn es ganz schlimm ist.
Elli:
Erstmal die Updates. Und zwar mein erstes Update, was ich mitgebracht habe, da geht es um eine Messenger-App, die vielleicht auch der, die ein oder andere von euch nutzt, nämlich Signal. Signal gilt ja als eine relativ datenschutzfreundliche Messenger-App, beziehungsweise als eine, mit den Userdaten, also wo man relativ sicher kommunizieren kann. Deswegen ist es zum Beispiel auch im Bereich Journalismus relativ beliebt, aber auch in Regierungskreisen. Wir hatten es schon mal von Regierungskreisen und Signal. Ihr erinnert euch vielleicht, da klingelt was. Bisher war das so, dass man, wenn man sich bei Signal registrieren wollte bzw. Ein Nutzerkonto anlegen wollte, dann musste man da seine Telefonnummer angeben. Man konnte die dann aber im Kontakt mit anderen Usern quasi ausblenden lassen, sodass ich zum Beispiel, jetzt hätte Caspar meine Telefonnummer nicht sowieso, hätte ich Caspar über Signal schreiben können, ohne dass er meine Telefonnummer bekommt. Was ja manchmal ganz gut sein kann, weil man nicht überall seine Telefonnummer direkt hinterlassen möchte vielleicht. Und jetzt gibt es tatsächlich die Überlegung bei Signal oder man arbeitet an einer Möglichkeit, dass das mit der Telefonnummer ganz passé sein könnte.
Caspar:
Der Tech-Blogger Carsten Knobloch, Grüße an der Stelle, quasi ein Tech-Kollege, den findet ihr unter Kashi's Blog. Vielleicht kennt ja die ein oder andere Hörerin schon diese Webseite. Der hat sich mal die kommende Beta-Version von Signal angeguckt. Die kann man nämlich bei Android öfter mal im Voraus sich schon anschauen und zwar wirklich auch die App. Und da sind ein paar neue Optionen zu finden. Und zwar eine der neuen Funktionen ist, dass man sich in Zukunft registrieren können wird wahrscheinlich. Nicht, wie du das gerade schon gesagt hast, nur über die Telefonnummer, sondern auch über einen frei wählbaren Nutzernamen, so wie man das schon kennt aus Social Media zum Beispiel. Und eine separate Account-ID und einen Schlüssel, den gibt es dann auch noch dazu. Wichtig ist aber noch dazu zu sagen, diese Telefonnummer, die hat ja den großen Vorteil, man könnte zum Beispiel ein SMS mit einem Code verschicken, um sich wieder entsperren zu lassen, falls man mal die Zugangsdaten vergisst oder verliert. Wer jetzt nur über Nutzernamen, Account-ID und Schlüssel das irgendwie macht und die Daten verliert, der hat ein Problem, weil er verliert auch seinen oder ihren Account.
Elli:
Genau. Die Beta-Version, für alle, die es gerade nicht auf dem Schirm haben, ist quasi so die Vorab-Version von dem, was dann irgendwann mal für alle NutzerInnen kommt.
Elli:
Kann man testen, wenn man sich interessiert für diese Sachen. Und es geht jetzt um die Version 8.28. Was vielleicht noch ganz spannend ist, Signal möchte tatsächlich Geld für die Möglichkeit, sich ohne Telefonnummer zu registrieren, unter anderem um maßenhafte Registrierungen von Fake-Accounts zu verhindern, weil das würde sich natürlich anbieten, wenn man jetzt keine Telefonnummer braucht mehr, dass man dann irgendwie, ganz viele Spam-Accounts einfach aufsetzen lässt, automatisch. Und deswegen hat Signal gesagt, wir wollen pro Registrierung einmalig drei US-Dollar, Und das ist ja auch für Signal nicht ganz irrelevant in dem Sinne, als dass Signal sich über Spenden finanziert. Dementsprechend kommt das dann in die Kasse von Signal und ist vielleicht auch ganz gut aufgehoben. Bezahlt wird dann jetzt über die Google Play Services und das Spendensystem von Signal eben. Eine Verknüpfung mit dem Nutzerprofil soll bei der Zahlung nicht erfolgen. Aber Signal sagt auch, man arbeitet dran, dass man auch alternative Bezahlmethoden, also mehr als diese Google Play Services irgendwann anbieten kann. Weil natürlich, gerade wenn man jetzt vielleicht bei Signal ist, weil man möglichst anonym unterwegs sein möchte, dann ist es ein bisschen witzlos, über Google Play Service sich dann anzumelden.
Elli:
Und was noch nicht feststeht, wir haben jetzt von drei US-Dollarn geredet. Die Kosten in Euro sind noch nicht ganz klar.
Caspar:
Ich bin mal gespannt. Ich habe einen E-Mail-Anbieter, der auch so eine anonyme Zahlungssystem ermöglicht. Da kostet das 1 Euro im Monat, das Postfach, also 12 Euro im Jahr. Und der bietet sogar die Möglichkeit an, dass man in einem Briefumschlag das Geld quasi zuschicken könnte, wenn man überhaupt gar nicht elektronisch bezahlen möchte. Ob das Signal jetzt anbietet, wage ich zu bezweifeln. Aber es gäbe verschiedenste Möglichkeiten, um auch anonymisierte Bezahlung hinzukriegen. Also bleiben wir mal gespannt.
Elli:
Tatsächlich, also ich musste gerade daran denken, dass es ja nach einem gewissen Vorfall in den USA, dass auch gewisse politische Gruppierungen hier Probleme bekommen haben mit ihren Konten tatsächlich.
Caspar:
Ja.
Elli:
Da ist dann vielleicht die Bargeldoption gar nicht mal so doof.
Caspar:
Ja.
Elli:
Weiß ich nicht.
Caspar:
Wir lachen, aber es ist leider wahr, dass dann auch deutsche und beziehungsweise europäische Banken irgendwelche Konten von Firmen gesperrt haben, weil die auf US-Terrorlisten gelandet sind. Ja, spannend. Aber zu den USA kommen wir gleich noch.
Elli:
Ja, das zweite Update hast du mitgebracht, Caspar. Und es geht um Social Media. Wir hatten die Diskussion ja schon. Irgendwie ist man sich scheinbar einig, dass Social Media für Jugendliche nicht so gut ist. Und deswegen überlegt man jetzt an den unterschiedlichsten Orten der Welt, wie man damit umgehen könnte.
Caspar:
Und wir haben euch zum Thema Social-Media-Verbot für Jugendliche ein Mini-Update mitgebracht. Mini passt im doppelten Sinne, das werdet ihr gleich merken. Warum? Worum geht es? Die EU-Kommission, die hat sich neue Pläne überlegt und zwar mit dem EU-Kids-Act und da geht es um den Zugang von sozialen Netzwerken für Minderjährige unter 13 Jahren. Der soll beschränkt werden. Das ist jetzt 13 Jahre, vielleicht habt ihr diese Grenze schon mal gehört, weil es tatsächlich so ist, dass viele Plattformen in ihren Geschäftsbedingungen schon ein Mindestalter von 13 Jahren stehen haben. Insofern könnte man ja sagen, gut, die Plattformen wollen die eh nicht jünger haben, ist doch gut. Ja, nee, wenn man mal genau hinguckt, und das sagt auch das EU-Parlament, ist das nicht ausreichend kontrolliert und durchgesetzt bei den Plattformen. Oft gibt es ja gar keinen Altersnachweis. Und diese neuen Vorgaben sollen halt jetzt eben die Plattform verpflichten, das Mindestalter auch wirklich zu kontrollieren und einen Missbrauch dann auch zu verhindern.
Elli:
Ja, und ab einem Alter von 13 Jahren sollen dann sogenannte Minikonten erlaubt werden. Da ist es wieder, das Mini. Die sollen von Eltern eingerichtet und beaufsichtigt werden. Und der Sinn der Sache ist natürlich, dass man dann nicht die vollen Funktionen hat mit den Minikonten. Es soll auch zeitliche Beschränkungen geben. Vollständige Konten für Social Media sollen dann ab 15 Jahren verfügbar sein.
Caspar:
Wie weit ist das Ganze? Ist ein Gesetztext, der diese Pläne zusammenfasst, soll am 17. September vorgestellt werden. Also ist, beziehungsweise ist jetzt vorgestellt worden. Der muss dann zum EU-Parlament und die Mitgliedsländer müssen das dann prüfen. Das wird aber ein bisschen dauern. Das kann Monate bis hin zu Jahren dauern, weil sich die einigen müssen, um halt diese Einführung des Mindestalters dann auch wirklich durchzusetzen. Wir werden also über Social-Media-Verbote für Jugendliche noch das ein oder andere Mal hier in den Updates sprechen müssen.
Elli:
Ach toll. Mir fällt bei Part 2 absolut überhaupt gar keine gute Möglichkeit ein, jetzt eine Überleitung zu machen. Deswegen gehen wir einfach in Update Nummer drei wie einen Kaltstart rein. Und zwar, wir hatten Updates, ihr wisst, wir sprechen über Sachen, die wir schon mal hier hatten in der Sendung und diesmal ist es unter anderem Palantir. Allerdings, wir haben hier schon viel darüber gesprochen, dass es in Deutschland, Landespolizeien gibt, die mit Software vom US-Unternehmen Palantir arbeiten, beziehungsweise mit Software-Varianten. Ganz wichtig immer dazu zu sagen. Das Ganze wird sehr kritisch gesehen. Expertinnen haben in der Vergangenheit immer wieder davor gewarnt, sich in eine Abhängigkeit von Palantir als US-Anbieter zu begeben. Und, also, die haben in der Vergangenheit immer wieder davor gewarnt, sich in eine Abhängigkeit von Palantir als US-Anbieter zu begeben. Und die Nutzung von Varianten der Überwachungssoftware Gotham auch als verfassungswidrig eingestuft tatsächlich. Trotzdem, wie gesagt, gibt es in einigen Bundesländern einen Einsatz von entsprechenden Softwares. Wir gucken jetzt von den Polizeien. Ist das die Mehrzahl? Ich weiß es nicht.
Caspar:
Von den verschiedenen Polizeibehörden der Länder.
Elli:
Gucken wir mal auf die Bundeswehr. Und die deutsche Bundeswehr will sich, anders als die besagten Landespolizeibehörden, nicht auf Palantir verlassen. Das an sich ist jetzt kein Update, sondern das hat der Vize-Admiral und Inspekteur für Cyber- und Informationsraum, Thomas Daum, schon im Frühjahr bekannt gegeben. Da hat er nämlich gesagt, so gut die Software auch sein mag, wir müssen digital souverän bleiben, gerade im militärischen Bereich. Was ist also jetzt das Update?
Caspar:
Naja, das muss, wenn man sagt, man möchte souverän sein und braucht irgendwas, dann muss was anderes her. Da muss eine Alternative her. Und dafür, und das ist jetzt das Update, gibt es eine Ausschreibung, das berichtet zumindest das Handelsblatt. Gesucht wird in dieser Ausschreibung eine Software, die Kampfdaten auswertet, diese an Soldatinnen und Soldaten weitergibt. Und das bitteschön dann auch möglichst noch in Echtzeit. Es gibt auch einen Zeitplan für diese Software. Also wer sich darauf bewirbt, kann sich nicht ewig Zeit lassen. Das Ganze soll nämlich im zweiten Quartal 2027 als Prototyp schon stehen und dann 2028 quasi in die Vollversion gehen, die man dann auch nutzen kann.
Elli:
Aktuell läuft das Ganze eben schon, dieser Ausschreibungsprozess. Und das Handelsblatt hat tatsächlich auch ein paar Beispiele genannt bekommen, wer aktuell in der engeren Auswahl für die Umsetzung steht. Die Mehrheit der potenziellen Kooperationspartner soll innerdeutsch angesiedelt sein, aber es ist zum Beispiel auch ein französischer Anbieter im Rennen. Mal gucken, wie viel man dann tatsächlich noch zu diesem Thema hören wird. Dadurch, dass es eben ein militärisches Thema ist, glaube ich, hält man sich da auch immer relativ bedeckt. Aber ich fand das eine ganz spannende Sache, um da mal ein Update draus zu machen.
Caspar:
Naja, und auch vor allem dieser Punkt digitale Souveränität. Wir hatten es ja gerade auch davor schon, dass das relativ wichtig ist und in dem Punkt dann halt auch. Wir bleiben beim WTF, aber so ein bisschen beim Militärthema. Aber es geht in eine andere Richtung. Es geht in den KI-Bereich. Und ja, wieso KI, ohne dass sie es diesmal selber beabsichtigt, dann doch vielleicht auch für den Weltuntergang sich beteiligen könnte? Oh oh.
Elli:
Während die deutsche Bundeswehr noch nach einer passenden Kriegs-KI sucht, arbeitet unter anderem das US-Militär schon sehr viel damit. Und das bringt uns zu unserem heutigen What the Fuck. Bevor es losgeht, brauchen wir allerdings zwei Disclaimer bzw. Einen Disclaimer und eine Einordnung. Das US-Militär, Disclaimer Nummer 1, dürfte der wohl größte Auftraggeber für Palantir sein und nutzt unter anderem die Software Maven von Palantir. Bei der Geschichte, die diesmal unser What the Fuck ist, ist aber nicht näher bekannt, welche Tools zum Einsatz kamen und, ich sag mal so, beinahe für eine potenziell verheerende Militäraktion gesorgt hätten. Also wir haben zwar gerade über Palantir gesprochen, jetzt in dem Fall muss man da aber vorsichtig sein.
Caspar:
Zumal die US-Armee mit eigentlich allen großen KI-Anbietern auch Verträge hat, zum Beispiel mit Anthropic und Claude dann als Modell und auch mit OpenAI und JetGPT hat das US-Militär Verträge. Das heißt, über das, was wir jetzt reden, theoretisch kann es jede dieser Software gewesen sein, um die es gleich im WTF geht.
Elli:
Ja, oder irgendeine andere, die benutzt wurde, ohne dass das US-Militär offiziell Verträge damit hat. Und ein zweiter Hinweis zur Einordnung, die initiale Berichterstattung zu dieser Geschichte kommt vom US-Fernsehsender CNN und dabei berufen sich die US-Kolleginnen auf mehrere Insider-Aussagen. Jetzt kann man sagen, okay, es sind Insider-Aussagen, es sind auch mehrere, das macht das Ganze schon mal deutlich stärker als journalistische Geschichte. Allerdings muss man eben sagen... Wir haben jetzt nicht irgendwie Dokumente vorliegen, die alle einsehen könnten zu der ganzen Sache oder irgendwas, sondern es ist eben ein Insiderbericht. Deswegen etwas mit Vorsicht genießen.
Caspar:
Ja, aber sehr wahrscheinlich wird es zwei unanträgliche Quellen voneinander geben und die klassische journalistische Aufbereitung. Das heißt, völlig aus der Luft gegriffen oder, Achtung, Fake News wie Donald Trump ist ja gerne mal unterstellt, wird es auch nicht sein.
Elli:
Genau, sonst würden wir uns das Ganze hier auch nicht in die Sendung holen. Aber was ist denn jetzt überhaupt passiert?
Caspar:
Ja, also, das US-Militär soll im Frühjahr diesen Jahres Kurzteil vorgestanden haben, tatsächlich ein chinesisches Frachtschiff im Nahen Osten zu entern. Und das ist natürlich hochbrisant, weil China und die USA jetzt nicht die allerbesten Freunde sind. Und so eine Übernahme von einem Frachter eine Eskalationsstufe wäre, die zu weiteren Konflikten führen könnte. Und das eigentlich Interessante daran, die Basis auf der Grundlage, dessen man dieses Frachtschiff entern wollte, das ist wohl eine KI-Analyse gewesen. Und die KI-Analyse hat gesagt, das KI-Schiff, was ihr da beobachtet, das transportiert wahrscheinlich Komponenten für Atomwaffen.
Elli:
Genau. Zwei der Insider, die zitiert werden von CNN, sagen tatsächlich auch, dass die Angriffsvorbereitungen schon relativ weit waren. Es sollen sogar schon Militärflugzeuge in der Luft gewesen und dann doch noch zurückgepfiffen worden sein. Wir gucken mal genauer rein. Jetzt muss man sagen, das Militär hat nicht einfach mit einem Chatbot geschrieben und dann Larifari den großen roten Knopf gedrückt. So war es jetzt nicht.
Caspar:
Liebes Chat-GPT, sind da Atombomben an Bord? Ja, das kann durchaus sein. Bist du dir sicher? Ach ja, jetzt wo du es sagst. Das ist ein klassischer Dialog, den wir alle kennen.
Elli:
Wirklich, ja. Also, laut den CNN-Quellen hat ein Analyst eines US-Spezialkommandos ein KI-Chatbot zu einem Geheimdienstbericht über das besagte Schiff befragt. Und hier kommt die gerade schon angerissene, unklare Softwarekomponente ins Spiel. Wir wissen nämlich nicht, um welchen Chatbot es da geht, um einen kommerziellen oder einen, der tatsächlich offiziell für den Militärbehördengebrauch in den USA auch gedacht war. So viel wissen wir nicht.
Caspar:
Der Chatbot kam auf alle Fälle aus einer Kombination aus öffentlich zugänglichen Informationen und dem ihm gegebenen Geheimdienstbericht halt zu dem folgenden Schluss. Da sind ziemlich sicher Komponenten für Atomwaffen an Bord und der Analyst hat dann entsprechend reagiert, dieses Ergebnis in einem standardisierten Geheimdienstbericht nähergeschrieben und der dann weiterverarbeitet wurde. Und der hat dann schließlich quasi die Kette in Gang gesetzt und zu diesen Angriffsplänen geführt.
Elli:
Es soll dann aber eben weitere Militärangehörige gegeben haben, die sich diesen Bericht nochmal genauer angeschaut haben, gesehen haben, da sind KI-Chatbot-Ergebnisse drin und die sind höchstwahrscheinlich falsch und die haben dann eben die Operation im letzten Moment wohl abgeblasen.
Caspar:
Ja, zum Glück, weil halt eben dann noch mal ein Mensch drauf geguckt hat, der dann gesagt hat, nee, nee, das machen wir nicht, das lassen wir mal schön bleiben, diesen chinesischen Tanker greifen wir nicht an. Eindeutige Infos, was das Schiff jetzt geladen hatte, die haben die Insider, CNN gegenüber übrigens nicht preisgegeben, also wir wissen nicht, was dann wirklich an Bord war, aber Komponenten für Atomwaffen waren es dann wohl doch nicht.
Elli:
Und wir wissen zumindest, dass eben der zunächst geplante Angriff abgeblasen wurde. Wie gesagt, die ganze Geschichte ist mit Vorsicht zu genießen. Wir sind gerade in dieser Weltuntergangsdebatte, muss man sagen. Der CNN-Bericht bleibt in vielem Waage und basiert auf reinen Insider-Aussagen. Was aber unabhängig von diesem Vorfall klar ist und dadurch jetzt nochmal deutlich wird. Das US-Militär und Militärs weltweit ziehen zunehmend KI für die Zielauswahl zu raten. Man sieht es ja eben auch an der Ausschreibung, die jetzt bei uns läuft. Und wir wissen, dass ganz viele KI-Programme immer noch Probleme haben mit veralteten Daten, Halluzinationen und Bias, also Verzerrungen. Wenn das Ganze natürlich jetzt im militärischen Einsatz ist, dann kann das im Falle einer Halluzination zum Beispiel oder einer Falschkalkulation tödliche und weitreichende geopolitische Folgen haben.
Caspar:
Und das ist auch das eigentliche WTF. Also KI-Einsatz im Militär kann man sowieso moralisch schon mal komplett darüber streiten. Aber wenn es schon eingesetzt wird, dass es tatsächlich fast so gewesen wäre, zumindest sagt das ja dieser CNN-Bericht, dass wenn ich dann noch jemand nochmal drauf geguckt hätte, eine KI mit sowas wie Halluzinationen und veralteten Daten und eben wie gesagt Falschaussagen fast dazu geführt hätte, dass, Militär ein Schiff einer anderen Nation angreift. Und das ist dann schon, also im Kleinen, uns passiert das ja täglich im Alltag ja auch, dass man Halluzinationen mal bei KI irgendwie findet. Erst heute hatte ich wieder zwei Fälle, wo ich mir gedacht habe, das kann nicht stimmen. Nochmal genau nachgeguckt. Nein, das war auch komplett halluziniert. Und das ist in meinem Fall nicht schlimm gewesen, weil das irgendwie kleine private Wissensfragen waren. Ja, aber beim US-Militär darf sowas natürlich eigentlich nicht passieren. Und das ist das eigentliche WTF. Also die KI, wenn sie durch Halluzinationen dann den Dritten Weltkrieg auslöst, hätten wir ein großes Problem.
Elli:
Die Updates waren schon sehr informativ und das What the Fuck lässt einen mal ganz kurz schlucken. Vielleicht auch ein bisschen länger, aber lass uns doch zum Newsflash kommen.
Caspar:
Ja, es wird ein kleines bisschen fröhlicher, auch wenn wir über den Bundesgerichtshof, den EuGH, den Europäischen Gerichtshof, Rabatt-Apps und schließlich auch über Datenschutz sprechen. Aber ihr kennt uns, keine Sorge, es wird trotzdem einigermaßen unterhaltsam.
Elli:
Ich habe zum Anfang eine ganz kleine Klage mitgebracht. Sie ist auch schnell erzählt. Wir haben hier auch schon mal gesprochen über Lidl Plus, die App von Lidl, von dem Discounter, wo man Rabatte kriegen kann, Kundenprogramme, worüber man auch bezahlen kann, digitale Pfandbons und so weiter und so fort. Ich werde bei jedem Einkauf bei diesem Discounter gefragt, ob ich nicht diese App habe.
Caspar:
Ja, ich auch.
Elli:
Also ich weiß, dass die Leute an der Kasse das müssen, Aber auch die Selbstscan-Kasse fragt mich das ja jedes Mal und auf den Button steht dann Nein oder Ja klar, weil ich das nochmal gesagt habe.
Caspar:
Alles klar.
Elli:
So, jetzt gibt es eine Klage und zwar hat der Bundesverband der Verbraucherzentralen, gegen Lidl und die Lidl Plus App geklagt, weil, so ist das Argument, es gibt da ja Rabatte und die sind aber nicht für alle Leute zugänglich, sondern eben nur für Leute, die diese App haben.
Caspar:
Und ein Smartphone und alles mögliche.
Elli:
Genau. Das heißt, die Kritik der VerbraucherschützerInnen ist jetzt, dass zum Beispiel ältere Menschen, die kein Smartphone haben oder nicht so firm damit sind, Menschen mit Behinderung, die zum Beispiel, nicht auf die App zugreifen können vielleicht oder auch jüngere Menschen, die noch kein Smartphone haben, benachteiligt werden, weil sie eben die entsprechenden Rabatte nicht bekommen haben. Ja, jetzt ist die Frage, wie aussichtsreich ist das?
Caspar:
Mal gucken, weil ähnliche Klagen, die gab es schon und zwar gegen Apps von Netto und Penny. Und die wurden wegen fehlender Belege abgewiesen, zumindest bei der Penny-Klage. War dann aber eine Revision zugelassen. Also ganz entschieden ist die Sache da noch nicht. Ein Bundesgerichtshofsurteil steht noch aus. Ja, aber mal gucken, ob die Verbraucherzentrale, der Bundesverband, ob die jetzt in dem Fall ein bisschen besser damit durchkommen.
Elli:
Ja, also die Entscheidung steht am 29. September aus im Falle Lidl, zumindest vor dem Brandenburgischen Oberlandesgericht. Und dann ist eben die Frage, ob es nochmal in der Revision geht und auch zum Bundesgerichtshof, was ich noch ganz spannend fand. Und es gibt zum einen Untersuchungen, die sagen, man spart sich gar nicht so viel durch diese Rabatt-Apps. Und laut einer repräsentativen YouGov-Umfrage nutzen aber drei von vier Menschen in Deutschland Rabatt-Apps von Supermärkten und Discountern. Also es ist doch relativ weit verbreitet. Und ich vermute auch mal, der, die ein oder andere von euch hat eine entsprechende App auch auf dem Handy.
Caspar:
Lebenserhaltungskosten werden immer teurer, aber unter auch Lebensmittel, also der Wunsch da, Geld zu sparen, den kann man sicherlich gut nachvollziehen. Lass uns im Juristischen bleiben, oder, für die zweite News?
Elli:
Ja.
Caspar:
BGH, EuGH, es klingt jetzt erstmal wieder ziemlich trocken, aber ihr dürft gleich bei zwei Urteilen mal Richterin und Richter spielen und euch mal überlegen, wie ihr da entschieden hättet.
Elli:
Wollen wir direkt reingehen?
Caspar:
Wir lassen es direkt reingehen.
Elli:
Okay, ich stelle euch Fall Nummer 1 vor. Stellt euch vor, ihr schreibt mit einer Freundin und irgendwann ist die Freundschaft nicht mehr so gut vielleicht. Und dann leitet diese Freundin an euren Arbeitgeber Chats weiter, die ihr damals noch im Vertrauen der Freundschaft und so weiter mit ihr geführt habt. Und ihr werdet daraufhin gekündigt, weil ihr vielleicht nicht das Allernetteste über euren Arbeitgeber geschrieben habt.
Caspar:
Was für ein Scheißverein. Also der erste Fall ist damit klar. Bisher ist das noch kein Gericht dabei. Das machen wir jetzt, weil nämlich die Frau, die entlassen wurde, dann geklagt hat und zwar gegen ihre Freundin. Und die gekündigte Freundin fordert 7500 Euro Entschädigung und Schadensersatz von ihrer ehemaligen Freundin dafür, dass die diese Chats unanobterweise weitergegeben hat.
Elli:
Begründung natürlich, worauf berufen wir uns in Deutschland? Richtig, Datenschutz und zwar die Datenschutzgrundverordnung beziehungsweise man sagt dann ja, die hat meine Chats weitergeleitet, das war ja vertraulich, das darf sie bestimmt nicht so.
Caspar:
Wie hättet ihr entschieden, wenn ihr Richterin oder Richter seid? Würdet ihr dieser Klage stattgeben, dass das nicht hätte weitergegeben werden dürfen? Oder hättet ihr gesagt, nee, nee, das ist schon in Ordnung so?
Elli:
Das Landgericht Frankfurt am Main hat der Klägerin auf jeden Fall zunächst Recht gegeben und gesagt, das war aber hier Privatschutz und das hier an den Arbeitgeber, das ist ja nicht nur küchenmoralisch verwerflich. Das Oberlandesgericht Frankfurt am Main hat die Klage allerdings abgewiesen, weil, Achtung, die sogenannte Haushaltsausnahme greift. Laut dem Oberlandesgericht. Was zum Henker ist denn die Haushaltsausnahme, Caspar?
Caspar:
Ich finde, das ist ein so schönes juristisches Wort. Und es wirkt ein bisschen irreführend, wenn man nicht weiß, worum es geht. Aber das dröseln wir jetzt mal auf. Und zwar, du hast ja gerade schon die Datenschutzgrundverordnung erwähnt. Die sogenannte Haushaltsausnahme regelt, dass das, was wir als Privatpersonen an Daten erheben, zum Beispiel innerhalb der Familie oder im Freundeskreis, dass das, nicht unter die Datenschutzgrundverordnung fällt, wenn das im privaten Rahmen irgendwie bleibt. Weil, stellt euch vor, Familienfeier, ich mache ein paar Fotos davon, wenn ich bei jeder Person erstmal eine Datenschutzgrundverordnungs Erlaubniserklärung quasi einholen müsste, schriftlich, das wäre ja die Hölle.
Elli:
Super, klasse. Da hätten wir doch alle ganz viel Spaß mit, bevor ich meiner besten Freundin irgendwie ein Bild schicke, wie ich eine neue Brille anprobiere oder so. Muss ich mir kurz von ihr noch versichern lassen, wie sie das Ganze abspeichert und so weiter und so fort.
Caspar:
Genau.
Elli:
Naja, also jetzt ist aber eben die Frage, wenn diese Daten, die im privaten Bereich verschickt wurden und damals auch im privaten Bereich golden haben, den privaten Bereich verlassen. Was ist dann? Beispiel, ich bekomme vertrauliche WhatsApp-Nachrichten und später schicke ich sie an den Arbeitgeber der besagten Person. Ist das immer noch privat, weil wir beide eben damals miteinander privat geschrieben haben oder greift jetzt die DSGVO, weil ich die Daten für einen ganz anderen Zweck und gegenüber Dritten und außerhalb dieses privaten Bereichs verwende.
Caspar:
Und genau das ist die Frage, die jetzt der Europäische Gerichtshof klären soll, weil der EuGH, das ist ja der Europäische Gerichtshof, der soll jetzt eben feststellen, ob zum Beispiel diese Freundin gegen die DSGVO verstoßen hat, in dem Moment, wo sie die privat erhobenen Chats dann weitergegeben hat. Das ist nämlich tatsächlich so nicht ganz geregelt, beziehungsweise es ist schwammig, beziehungsweise die Übergänge sind fließend und deswegen kann dass der Bundesgerichtshof gerade nicht enthalten und gibt es deswegen Umklärung, bittet Umklärung beim EuGH.
Elli:
Wir bleiben mal gespannt, was der EuGH dazu sagt. Und das könnte auch richtungsweisend sein. Wir haben euch ja noch einen zweiten Fall versprochen. Auch da wird man wahrscheinlich sehr gespannt gucken auf das Urteil des EuGHs tatsächlich. Denn in Fall Nummer zwei... Wurde die Klage schon abgewiesen. Aber was ist eigentlich passiert, Caspar?
Caspar:
Ja, in Fall Nummer zwei hat eine Tochter ihre Mutter in der Wohnküche gefilmt, halt mit so einer Indoor-Kamera und hat die Aufnahmen dann im Anschluss an die Polizei weitergegeben, da sie einen Diebstahl vermutet hat. Die Mutter hat dann geklagt und zwar auf Unterlassung, auf Herausgabe der Daten und Löschung der Daten und auch um Schmerzensgeld. Also all das, was man im Zuge der Datenschutzgrundverordnung auch tun würde, wenn man zum Beispiel gegen eine Firma klagt. Und auch hier wäre die Frage, wie hättet ihr entschieden? War das in Ordnung von der Tochter, das weiterzugeben oder nicht? Ich weiß übrigens nicht, ob das wirklich ein Diebstahl war oder nicht. Das stand in dem Text leider nicht drin. Auch wenn das mit dem Fall ja erstmal so gar nichts zu tun hat. Es geht ja um die Datenerhebung. Klar ist aber, du hast es schon gespoilert, Elli, das Landgericht Hildesheim und das Oberlandesgericht Zelle. Die haben die Klase schon abgewiesen. Da ihr ahnt es schon, die Haushaltsausnahme greifen würde und die Mutter sich eben nicht auf die Datenschutzgrundverordnung berufen könne. Gucken, ob der Europäische Gerichtshof, was der da noch zusagt, das könnte in dem Fall dann vielleicht auch noch mal zu einer Änderung des Urteils führen.
Elli:
Ja, ich finde, das ist auf alle Fälle, auch wenn es ein juristisch vermeintlich trockenes Thema ist, super spannend natürlich.
Caspar:
Ich habe viel gelernt. Ich wusste nicht, dass es diese Haushaltsausnahme gibt. Natürlich rückblicken, das ist klar. Es ist absolut bescheuert. Also ich müsste für jede Telefonnummer in meinem Telefonbuch jedes Mal dann jetzt nachfragen. Es ist eine Katastrophe.
Elli:
Ja, fände ich auch nicht geil.
Caspar:
Auch die Tochter, die die Mutter abfilmt und Diebstahl und naja gut. Über zerrüttete Familienverhältnisse wollen wir hier ja gar nicht reden.
Elli:
Das ist ein anderes Kapitel. Gleichzeitig musst du ja sagen, zum Beispiel wenn wir uns jetzt den Fall mit der Mutter angucken und dann haben wir aber zum Beispiel einen Fall von häuslicher Gewalt und jemand möchte dort im privaten Beweise irgendwie sichern. Haben wir die Diskussion von einer ganz anderen Seite.
Caspar:
Ja.
Elli:
Ja.
Caspar:
So.
Elli:
Noch was. Noch was. Noch was. Wir bleiben beim Datenschutz. Ja, wir bleiben beim Datenschutz.
Caspar:
Wir bleiben bei der Datenschutz-Grundverordnung in der dritten News. Aber auch das ist weniger trocken, als man am Anfang befürchten könnte. Und diese gute Nachricht hätte sogar unter Umständen eine gute Nachricht sein können. Zumindest so ein bisschen, finde ich. Obwohl das ja eigentlich gar nicht so richtig zusammenpasst. Im ersten Moment Datenschutzgrundverordnung, gute Nachricht. Hä, wie soll denn das funktionieren? Das ist doch eher so ein Bürokratie-Monster.
Elli:
Es hat sich eine Studie, quasi es wurde eine Studie vorgestellt, vom Projekt Plattform Privatheit unter der Leitung des Fraunhofer-Instituts für System- und Innovationsforschung, kurz EASY. Da sind wir wieder bei den tollen Abkürzungen.
Caspar:
Ich möchte auch erstmal meine Forschungsgruppe EASY heißt.
Elli:
Erinnert ihr euch noch an meine Lieblingsbundesanstalt, deren Abkürzung ich selber schon wieder vergessen habe. Naja, also das Easy und die Universität Kassel haben sich angeschaut. Welche Rolle spielt der Datenschutz im Zusammenhang mit Europas Wettbewerbsfähigkeit? Man hört ja immer mal wieder und könnte vielleicht auch selber denken, mein Gott, wir sind in Europa so umständlich und haben So viele Regularien und so einen hohen Datenschutz, das ist für Innovationen bestimmt nicht zuträglich, weil Firmen oder Startups das alles gar nicht stemmen können. Und dann gibt es ja Länder wie die USA, die da deutlich unbürokratischer sind, was den Datenschutz angeht. Man könnte meinen, da ist alles viel besser und schneller geregelt, weil das flutscht wenigstens. Die Studie sagt aber jetzt, nein.
Caspar:
Genau, die Studie kommt nämlich zu dem Schluss, dass der Abbau von Datenschutzstandard, der ist nicht geeignet, um Europas Wettbewerbsfähigkeit zu steigern. Also man könnte ja sagen, wir schaffen das jetzt alles ab, wir schwächen den Datenschutz so ein bisschen ab und dann werden wir wettbewerbsfähiger. Die Studie warnt sogar ausdrücklich davor, dass europäische Grundrechte und die Innovationspolitik gegeneinander nicht auszuspielen seien. Das dürfe man auf keinen Fall tun.
Elli:
Ganz wichtig an der Stelle, es geht um die Wettbewerbsfähigkeit in der digitalen Wirtschaft. Also der Fokus liegt auch wirklich da, wo jetzt teilweise sehr viel diskutiert wird, hey, wenn wir mehr Daten hätten, könnten wir bessere Anwendungen entwickeln und so weiter und so fort. Ja, die Forschenden sagen jetzt eben, dass diese verbreitete Annahme, dass weniger Datenschutz zu mehr Innovation führt, empirisch nicht haltbar ist und die DSGVO, also unsere allseits bekannte Datenschutz-Grundverordnung, wird nicht als zentrale Ursache für Innovationshemmnisse gesehen.
Caspar:
Genau, wir haben nämlich nochmal nachgeguckt. Man kann ja genau sehen, wann sie eingeführt wurde und wie das dann um das Thema Neuerungen steht. Und sie haben gemerkt, dass die Einführung der DSGVO nicht zu einem generellen Einbruch bei Neuerungen geführt hat. Die Studie ist aber auch offen und ehrlich und sagt, es gibt Herausforderungen, besonders für Startups und kleine und mittlere Unternehmen. Die haben das natürlich ein bisschen schwieriger dadurch, weil es doch einen bürokratischeren Aufwand gibt. Und auch eine kleine Rechtsunsicherheit manchmal, also nach dem Motto, darf ich das jetzt wirklich datenschutzrechtlich? Aber große Digitalkonzerne, die können diese regulatorischen Anpassungen meist so gut bewältigen, dass das für die nicht wirklich groß ins Gewicht fällt. Und ein letzter Punkt, den die Studie auch noch erwähnt, vor allem im Bereich von sensiblen Daten, also im Bereich Gesundheitswesen, Finanzdienstleistung oder Verwaltung, Da ist es so, dass ein verlässlicher Datenschutz, also ein hoher Datenschutz, der gut geregelt ist, auf den man sich verlassen kann, dass der sogar entscheidende Wettbewerbs- und Vertrauensvorteile hat, weil die Firmen sich eben darauf verlassen können und wissen, in welchem Markt sie da einsteigen und auch die Kundschaft sich entsprechend darauf verlassen kann und zum Beispiel dann eher mal bereit ist, auch, eine Finanzdienstleister-App zu verwenden oder ihre Gesundheitsdaten in der App hochzuladen, weil sie wissen, es gibt gute Datenschutzregelungen in Europa. Dementsprechend kann das sogar förderlich sein. Und das ist doch mal eine gute Nachricht eigentlich.
Elli:
Wer sich nochmal näher für das Thema interessiert, vielleicht sich auch einlesen möchte, es gibt tatsächlich einen 44-seitigen Bericht zu den Hintergründen des Ganzen. Den kann man auch online abrufen auf plattform-privatheit.de. Da ist dann alles nochmal aufgedröselt. Die erste Unterüberschrift zum Beispiel ist weniger Datenschutz, mehr Innovation, warum die Gleichung nicht aufgeht.
Caspar:
Lasst euch die 44 Seiten, falls ihr sie euch von KI zusammenfassen lasst, achtet darauf, dass ihr nicht auf Halluzinationen reinfallt.
Elli:
Wir kommen fast schon zum Schluss, aber was wäre denn der Schluss unserer Sendung ohne eine gute Nachricht?
Caspar:
Es wäre kein guter Schluss.
Elli:
Gute Nachricht. Zum Abschluss haben wir keine Gesetze für euch, aber schon wieder ein Institut mit einer fetzigen Abkürzung und ein Projekt mit einer fetzigen Abkürzung.
Caspar:
Ja, genau. Also wir gehen in den Bereich des Röntgens und jetzt kennt ihr uns die gute Nachricht oftmals aus dem Bereich Medizin. Und beim Thema Röntgen denkt ihr natürlich auch sofort, okay, das wird jetzt wieder eine gute Nachricht aus dem medizinischen Bereich. Nein, diesmal nicht, sondern es geht um E-Mobilität.
Elli:
Und was macht man bitte mit Röntgen und E-Mobilität?
Caspar:
Das Fraunhofer-Institut IS, da ist es wieder, hat im sogenannten Air-Projekt in Kooperation mit der Hochschule München und der DEKRA eine Softwarebibliothek entwickelt, die aus automatisierten 2D-Röntgen-Aufnahmen, von E-Autos bewerten kann, wie gut die noch zusammen, also wie gut es diesen Batterien geht und ob die vielleicht beschädigt sind.
Elli:
Das Praktische ist, man kann die Autobatterien durchleuchten mit diesem 2D-Röntgensystem, ohne sie auszubauen. Das ist zum Beispiel dann wichtig, wenn ein Auto einen Unfall hatte und man eben rauskriegen will, kann man die Batterie noch nutzen für ein anderes Fahrzeug. So ein Test wäre zum Beispiel auch generell im Zuge einer TÜV-Prüfung denkbar, um zu sehen, ob die Batterie noch intakt ist oder eine Gefahr von ihr ausgeht. Wir gucken mal noch drauf, wie das Ganze überhaupt vor sich geht und funktioniert.
Caspar:
So ein bisschen wie eine Autowäsche. Da ist so ein Gestell, was um das Auto herum steht und kann man entweder mit dem Auto durchfahren oder dieses Gestell am Auto durchführen, wenn es zum Beispiel ein Unfallfahrzeug ist und das Fahrzeug selber nicht mehr fährt. Und da sind Röntgengeräte drin, die das dann, wie gesagt, durchleuchten und dann gibt es eine Auswertung in ungefähr fünf Minuten. Also ein kleines bisschen muss das Programm rechnen und sich das genau angucken und eine Auswertung durchführen. Aber wie gesagt, nach fünf Minuten ist die da und dann kann man in der Auswertung erkennen, ob es zum Beispiel geometrische Anomalien gibt, also ob diese Batterie vielleicht verbogen ist, ob es Zellverformungen gab, also ob die Batteriezellen im Inneren, ob die verformt oder verschoben sind oder ob sie sich vielleicht sogar auch aufgebläht haben und es Schwellungen gibt. Das könnte man alles auch sehen, wenn man die Batterie ausbaut und öffnet, aber das, wie gesagt, wäre natürlich ein sehr viel aufwendigerer Schritt, würde länger dauern und würde sehr viel mehr Kosten verursachen.
Elli:
Und getestet wurde das Ganze auch schon mit einem VW ID.3. Nach einem Dekra-Crash-Test, da kommt die Dekra wieder ins Spiel, mit einem Frontal-Crash mit 79 kmh, also ein bisschen vom Ort gerade auf die Landstraße gefahren oder so, befleunigt, und dann irgendwie gegen den Baum gefahren. Die Frage war jetzt eben, ob und wie ist die Batterie beim Aufprall beschädigt. Die Batterie wurde jetzt eben mit dieser Röntgenmethode und Analyse durchleuchtet und dabei wurde festgestellt, dass sie trotz Crash noch intakt ist und weiter genutzt werden könnte. Was wir allerdings noch nicht wissen ist, wie teuer so ein Gerät im Alltag werden könnte und damit eben auch, wie verbreitet es sein wird in Zukunft vielleicht. Und was auch noch die Frage ist, wann kann man diese Art des Röntgens auch außerhalb vom Versuch wirklich im Alltag einsetzen? Klar, wir haben jetzt schon gesagt, so vielleicht TÜV-Prüfung irgendwann mal, oder zum Beispiel auch Versicherungsuntersuchungen irgendwie, wenn man den Restwert von so einem Auto schätzen muss nach einem Unfall. Also was ist vielleicht denkbar, aber man muss, wie so oft bei unserer guten Nachricht sagen, wir sind am Anfang, der Grundstein ist gelegt. Jetzt muss das Projekt sich auch noch weiter in der Praxis bewähren und quasi, noch ein bisschen bereiter für den Markt werden.
Caspar:
Und was man noch dazu sagen kann, das ist auch eine Ergänzung. Es gibt ja auch einen Test, den man durchführen kann jetzt schon. Man kann ja Messgeräte an sein E-Auto anstecken und dann zum Beispiel die Batteriegesundheit auslesen. Da geht es darum, wie oft wurde das schon geladen, wie viel Ladezyklen, wie viel Kapazität ist noch in der Batterie. Das kann man ja jetzt schon machen. Das andere mit dem Röntgen wäre halt wirklich nach physischen Schäden gucken und wäre eine Ergänzung dafür, um halt sicher zu sein, dass da nicht irgendwas schlummert in dieser Batterie, auf das man vielleicht besser gestoßen wäre früher als später. So.
Elli:
Damit, hier wird es gerade dunkel. Ich habe nämlich vergessen, vor der Aufnahme das Licht anzumachen.
Caspar:
Es wird schon gleich dumper.
Elli:
Ja, jetzt sitze ich hier im Widerschein meines Bildschirms.
Caspar:
Ja, von unten angeleuchtet.
Elli:
So ein bisschen spooky. Ja, ja. Und jetzt, ich nehme mir vor, ich habe jetzt tatsächlich dieses 44-seitige Policy-White-Paper und, so gerne ich es auch komplett gelesen hätte, schon im Vorfeld, das habe ich nicht gemacht. Und das, glaube ich, nehme ich mir mal vor für die nächsten Wochen.
Caspar:
Wir verlinken es, oder? Das packen wir in die Show Notes.
Elli:
Ja, finde ich gut. Weil, wie gesagt, das ist natürlich auch, was ich so spannend finde, das ist tatsächlich auf Europaebene angeguckt. Weil eben, es geht nicht nur darum, ist Deutschland irgendwie so umständlich, sondern halt Europa. Und da sind ganz unterschiedliche Beispiele und Befunde auch aus anderen Ländern drin. Ja, super interessant. Ja, damit habe ich ein To-Do. Nächste Woche bin ich mal nicht da wieder. Aber ich komme bei Bälder wieder als das letzte Mal.
Caspar:
Müssen wir mal gucken. Ich hoffe, Stella hat Zeit. Wenn sie keine Zeit hat, dann gibt es von mir eine kleine Mini-Episode, damit ihr was zu hören habt. Dann müsst ihr dann einmal kurz fünf Minuten mit meiner Stimme irgendwie auskommen. Danach sind wir dann aber wieder in Mannschaftsstärke hier vertreten und können euch wieder die Tech-News aufbereiten.
Elli:
Richtig. In diesem Sinne bis dahin. Macht's gut.
Caspar:
Und bis nächste Woche hoffentlich.
Elli:
Tschüss. Das war's schon wieder für diese Woche.