Episode 82: Social-Media-Verbot – Jugendschutz oder doch nur Symbolpolitik?

Das Transkript wird automatisiert erstellt

Jingles:
Silicon Weekly Der Tech-Podcast mit Dank.

Elli:
Hallo und herzlich willkommen zu einer neuen Folge Silicon Weekly. Ich bin Elli und wir sind heute nicht wie sonst ein Trio, sondern nochmal ein Duett. Wir nehmen Remote auch auf und deswegen sehe ich auf der anderen Seite meines Bildschirms quasi eingeblendet den Caspar. Hallo Caspar.

Caspar:
Hallo Elli und an der Stelle ganz gute Besserung an Stella, die dann hoffentlich nächste Woche wieder fit ist und dabei sein kann.

Elli:
Richtig. Und wenn ihr im Laufe dieses Podcasts meint, mich schmunzeln zu hören und mir also ganz gute Laune schon durchs Hören zuschreibt, dann liegt das vielleicht daran, dass Caspar ein kleines Spaßgetränk nebenbei trinkt, was viel Kohlensäure enthält.

Caspar:
Ja, das war unbedacht.

Elli:
Und ich mich ein bisschen nebenbei beömmeln muss, weil die Kohlensäure natürlich irgendwo hin muss. Und das ist auch Teil unserer Aufnahme jetzt. Ihr werdet davon nichts hören, außer, dass ihr mich sehr gut gelaunt hört manchmal.

Caspar:
Ich wollte gerade sagen, alles, was vielleicht akustisch davon wahrnehmbar ist, werde ich rausschneiden. Beziehungsweise vorher das Mikro stumm schalten. Also für alle Leute, die, so wie ich zum Beispiel, es nicht mögen, wenn Leute einen Podcast essen oder trinken. Das werdet ihr nicht mitbekommen. Das kriegen wir verhindert. Aber es kann sein, dass ich zwischenzeitlich dann halt mal, es war eine doofe Wahl. Nächstes Mal nehme ich wieder stilles Wasser oder so.

Elli:
Und bevor wir mit der Sendung starten und auch mit unseren Updates ganz regulär, wie immer Updates, dann kommt das What the Fuck der Woche, dann kommt ein Input diesmal, keine News, sondern ein Input und dann kommt noch eine gute Nachricht zum Schluss. Dachte ich, ich bringe noch was kleines Persönliches mit. Wir hatten es ja vor ein paar Folgen. Einerseits hatten wir die Digital Independence Days und andererseits hatten wir auch mal Spotify und die Kritik an Spotify. Und da habe ich ja gesagt, ich mache ein kleines Experiment.

Caspar:
Und ist das jetzt dein Bericht?

Elli:
Naja, es ist ein Update dazu quasi. Ich bin dabei, ich fahre zweigleisig bei einigen Diensten aktuell. Also sowohl im Bereich Messenger, als auch im Bereich E-Mails, als auch im Bereich Musik-Streaming-Anbieter mache ich jetzt gerade so immer die zweite Plattform auf und schiebe dann so ganz elegant ab und zu mal das ein oder andere rüber. Also zum Beispiel bei Messenger frage ich dann Freundinnen, von denen ich denke, die könnten meinen neuen Messenger auch haben, hast du den? Und dann sage ich, ja, lass uns doch einfach darüber wechseln. So, okay. So Stück für Stück. Und genau, auch bei Musik ist es ähnlich. Da bin ich jetzt auch in einer Gruppe. Man kann sich ja zu Gruppen bei Abos zusammentun. Da habe ich jetzt auch da eine neue Gruppe quasi. Ja, also ich bin noch nicht weg von meinem alten Stoff, aber ich habe schon mal mit dem neuen angefangen.

Caspar:
Die Ersatzstoffe schon zu dir genommen. Ich kann insofern berichten, als dass ich versuche bei Social Media mehr so in die Fediverse-Richtung, mich immer mal wieder umzugucken und mich einfach dran zu gewöhnen, dass es da zum Beispiel keinen Algorithmus gibt. Das ist einfach etwas, das hätte ich gar nicht gedacht, aber das macht was mit einem. Also Mastodon zum Beispiel schlägt einen in der Regel keine Postings irgendwie vor, die wir irgendwie groß jetzt Reichweite erreicht haben oder solche Dinge, sondern man sieht einfach die Postings von den Accounts, denen man folgt. Das ist eine andere Art, ein Social Media Network wahrzunehmen, aber das versuche ich in letzter Zeit immer häufiger und aktuell funktioniert es ganz gut, mich so ein bisschen vom Algorithmen fernzuhalten und ein bisschen zu entwöhnen.

Elli:
Oh Caspar, das mit den Algorithmen, das passt natürlich hervorragend zu unserem heutigen Input. Ja, ja. Da gibst du uns schon mal einen kleinen Ausblick. Aber ich würde sagen, wir starten mit den Updates.

Caspar:
Ja, und da geht es nicht um Algorithmen.

Jingles:
Musik.

Elli:
Das erste Update ist so ein klassisches Thema, was sich entwickelt hat im Laufe unserer Woche, die immer zwischen den Sendungen liegt, weil ich habe Anfang der Woche, glaube ich, sogar noch gepostet, so hier Leute, Peter Steinberger, also der Typ, der Open Claw entwickelt hat, ihr erinnert euch, das ist das lokale Programm, mit dem man auf seinem eigenen Computer KI-Agenten betreiben kann, die zum Beispiel E-Mails bearbeiten oder Termine eintragen, da hatten wir eine Sendung zu. Und Peter Steinberger, ich habe dann geschrieben, der diskutiert jetzt wohl mit Meta und mit OpenAI und die sind wohl interessiert an dem, die finden den ganz toll. Und zum Zeitpunkt der Aufnahme hat sich was getan und er hat sich wohl für jemanden entschieden.

Caspar:
Genau, ich habe dann gepostet, kleines Update zu dem, was Ellie gepostet hat. Er hat sich jetzt entschieden und zwar nämlich geht er zu OpenAI. Das ist die Firma in der ChatGPT, ihr kennt sie. Das hat zumindest OpenAI-Chef Sam Altman via X bestätigt. Warum der immer noch da postet? Naja, Steinberger hat das aber inzwischen auch bestätigt und Sam Altman nannte ihn ein Genie in diesem Posting. Ja, wir gucken mal, was das genau jetzt für diesen OpenClaw-Bot bedeutet. Und ob dieser Bot da eine echte Marktreife erlangt. Wir hatten euch ja auch in dem Input zu dem Thema gesagt, Achtung, der hat noch riesige Sicherheitslücken und Probleme installiert, den nicht, wenn ihr nicht wirklich wisst, was ihr da tut. Große Gefahr, auch ich habe mich noch immer nicht getraut und ich kenne mich ja eigentlich ein bisschen aus, obwohl ich ja gesagt hatte am Ende der Sendung, ich spiele mit dem Gedanken, bisher habe ich es noch nicht getan. Ja, und so ein bisschen ist die Überlegung, ob jetzt OpenAI da dann entsprechend hilft. Das Ganze ist übrigens nicht so, Also, dass Steinberger jetzt direkt angestellt ist bei der Firma, sondern das bleibt ein eigenständiges Open-Source-Projekt und lebt in einer Stiftung weiter und wird von OpenAI unterstützt. Wir gucken weiterhin drauf und behalten das mit skeptischem Blick.

Elli:
Sehr schön. Okay, dann war das unser erstes von zwei Updates. Und ich weiß nicht, Kaspers, ob du es gerade beobachtet hast. Ich gucke hier so ein bisschen hektisch rum. Meine Haus- und Hoffpflanze, die ich hier stehen habe, hat aktuell Trauermücken. Und hier fliegt eine Trauermücke rund um meine Bildschirme. Während ich jetzt versuche, diese Mücke zu fangen, möchtest du mal das zweite Update vielleicht machen?

Caspar:
Das mache ich. Dann musst du aber gleich updaten, ob es geklappt hat. Das zweite Update dreht sich um das Thema KI und zwar KI bei Wikipedia, genauer gesagt in der deutschen Wikipedia. Im deutschsprachigen Wikipedia könnte es nämlich demnächst ein Verbot von KI-generierten Inhalten geben. Dazu gibt es aktuell eine Abstimmung, beziehungsweise gab es sogar schon die Friste schon abgelaufen, die lief vom 1. bis zum 15. Februar. Und teilnehmen dürfte daran, wer angemeldet ist und mindestens zwei Monate aktiv bei der Wikipedia mitarbeitet. Also es sollte halt verhindern, dass sich jetzt irgendwelche, in Anführungszeichen, KI-Bros da jetzt anmelden und versuchen irgendwie diese Wahl zu beeinflussen. Der Vorschlag, das Erstellen oder Überarbeiten von Wikipedia-Inhalten mit Large-Language-Modellen soll verboten werden und jede Person, die an so einem Wikipedia-Artikel schreibt, soll das halt eben selbst tun. Es soll zwar Ausnahmefälle geben, zum Beispiel wenn es um maschinelle Übersetzung geht, aber wie gesagt, KI soll erstmal quasi aus der Nummer rausgehalten werden.

Elli:
Wir hatten das ja in unserer Folge zur Wikipedia schon mal besprochen, dass man sich da auch so ein bisschen, also zumindest Befürworter von so einem Verbot sehen, das als Qualitätsmerkmal der Wikipedia, wenn man sagt, hier gibt es keine KI, sondern hier arbeiten noch Menschen an den Texten und eben die Gefahr, die durch halluzinierende KI entsteht, die möchte man dadurch umgehen. Allerdings, und da denken wir jetzt wieder an die Folge mit dem Buchmarkt, die wir neulich hatten, das Ganze könnte etwas schwierig sein in der Umsetzung, sagen zumindest auch die GegnerInnen. Einfach, weil es wahnsinnig schwer ist, KI-generierte Texte als solche eindeutig zu identifizieren.

Caspar:
208 von 316 BenutzerInnen stimmten inhaltlich für das Verbot. Das sind dann immerhin 65,8 Prozent und damit, wie gesagt, die Mehrheit. Ja, und das soll jetzt dann in einer neuen Richtlinie enden. Und wir gucken mal, ob das passiert und wie sich dann Wikipedia wirklich entscheidet.

Elli:
Ich habe übrigens kurzfristig, da ist sie wieder. Ich dachte, sie versteckt sich jetzt den Rest der Sendung.

Caspar:
Titel der Sendung, die mit der Trauermücke.

Elli:
Ja, wer Trauermücken nicht kennt, das sind so ganz kleine schwarze Mücken, die in Pflanzen Erde quasi ihre Larven ablegen. Und wenn man dann die Pflanze gießt, schlüpfen die Larven, knabbern die Pflanze von unten an. Und ja, die Mücken an sich sind auch sehr lästig.

Caspar:
Aus der Reihe Haushaltstipps. Es gibt so kleine Würmer, die man als Pulver bestellen kann. Die löst man dann in Wasser auf und gießt damit die Pflanzen. Und die fressen wohl die Larven in der Erde von diesen Trauermücken. Kann ich dir empfehlen, kann ich dir einen Link schicken, wenn du möchtest.

Elli:
Ja, diese Bestellung täte ich nicht zum ersten Mal in meinem Leben. Ach so, du kennst das schon. Apropos bestellen, das passt zu unserem What the Fuck.

Caspar:
Oh ja, rote Beete-Kapseln und so.

Elli:
Wir haben es gerade schon gesagt, auch Bestellungen sind in unserem WhattheFuck ein Thema. Wir haben schon mal einen ähnlichen Fall hier auch im WhattheFuck gehabt und zwar mit Deepfake-Werbung. Also mit Werbeclips, wo reale Menschen, die was auf Social Media gepostet haben, zum Beispiel ein Video, plötzlich mit KI bearbeitet werden und dazu gebracht werden, für irgendwelchen Humbug zu werben. Vielen Dank. So, das an sich ist alles schon eine super bescheidene Sache, gerade für die beteiligten Personen, aber eben auch für Leute, die so in der Werbung zum Beispiel auf den Leim gehen und dann irgendeinen Quatsch kaufen. Besonders schlimm wird es aber, wenn wir uns in den medizinischen Bereich begeben und in den Bereich der Gesundheitsversprechen und wenn die Plattform, auf denen die Deepfake-Clips ausgespielt werden, auch noch mitverdient bei dem, was dann verkauft wird.

Caspar:
Genau. Und genau so ein Fall hat es jetzt in unser WTF geschafft. Aufgedeckt haben das die Kolleginnen und Kollegen von Korrektiv. Das ist ein gemeinnütziges Medienhaus. Die haben das nachrecherchiert. Schaut auch an dieser Stelle. Wir packen die Geschichte von den Kolleginnen und Kollegen auch nochmal in die Shownotes. Und es geht in dem Fall rund um ein Dutzend deutsche Ärztinnen und Ärzte, die sich, die selbst quasi als Medfluenza, also das sind Menschen, die zum Beispiel bei TikTok oder dann auch bei Instagram unterwegs sind und Videos mit medizinischen Inhalten posten. Das ist durchaus sehr seriös, weil das halt wie gesagt Ärztinnen und Ärzte sind. Und diese Videos, beziehungsweise die Personen dahinter, beziehungsweise das Bildmaterial von denen, wurde jetzt eben für Deepfake-Videos bei TikTok missbraucht. Elli, was haben diese Fake-Accounts jetzt versucht zu verticken?

Elli:
Bevor ich das erzähle, mache ich einen kurzen Einschub und zwar zum Thema Medfluencer. Es gibt natürlich auch da schwarze Schafe, die dann zum Beispiel noch nicht mal das Medizinstudium abgeschlossen haben und schon die ganze Welt erklären oder sowas. Also auch da immer vorsichtig sein, gerade wenn Produkte verkauft werden, grundsätzlich. Aber was jetzt im akuten Fall beworben wurde, ich habe übrigens gerade eine Trauermücke erlegt, waren rote Beete-Kapseln. Rote Beete-Kapseln, naja, das klingt ein bisschen nach... Teure Murin im Zweifel. Was sollten die aber können? Die sollten mal gegen Erektionsprobleme helfen, mal gegen Herzprobleme oder zum Beispiel auch gegen Tinnitus. Spannend.

Caspar:
Also wenn das alles stimmt, dann würde ich auch ein bisschen mehr rote Beete in Pulverform zu mir nehmen. Aber ich vermute mal, dass das nicht so richtig hinhaut, oder?

Elli:
Richtig. Die Kolleginnen von Korrektiv haben sich das auch tatsächlich mal genauer angeschaut, was da drin ist in den Kapseln und was da versprochen wird und haben nochmal einen separaten Faktencheck auch gemacht, was an diesen Versprechen dran ist, beziehungsweise eben nicht dran ist. Und sie haben auch geschaut, wer hinter der Kapselmarke stecken könnte. Wie gesagt, in den Shownotes findet ihr die ganze Recherche super spannend. Wir bleiben hier aber noch mal kurz bei den betroffenen ÄrztInnen. Für die sind solche Videos nämlich rufschädigend. Weil die sind zwar nicht besonders gut gemacht. Also man sieht schon, die Mimik und der Ton passen zum Beispiel echt nicht zusammen. Aber die Kommentarspalten unter den Videos explodieren halt. Und die ÄrztInnen wurden auch von ihren PatientInnen auf diese Deepfakes eben angesprochen. Vielen Dank.

Caspar:
Ja, sogar die Bundesärztekammer hat sich damit beschäftigt und die spricht von einem ernstzunehmenden Problem, Zitat, dass sowohl das Vertrauen in den Arztberuf als auch den Patientenschutz unmittelbar gefährdet. Und jetzt ist natürlich die Frage, okay, wir haben ja eine Plattform und das bietet auch fast schon, das passt eigentlich perfekt zum Input. Wir haben ja eine Plattform, die offenbare Deepfake-Videos mit irgendwelchen dubiosen Inhalten postet. Wie sieht es denn bei TikTok aus? Was machen die und dann nehmen die was dagegen? Vermutlich nicht, weil es ist ja das WTF.

Elli:
Ja, also mein Instinkt wäre dann natürlich, wenn ich sowas sehe, entweder wenn ich darin abgebildet bin oder wenn ich zum Beispiel meinen Arzt meine Ärztin sehe und die dafür irgendeinen kompletten Quatsch wirbt, wo ich mir schon denke, das wird hier aber Herr Dr. Meier von um die Ecke nicht unbedingt bewerben wohl, dann drücke ich auf den Meldenknopf und melde solche Inhalte. Und das haben auch in dem Fall einige Leute gemacht. Was daraus geworden ist, das gucken wir uns gleich an. Vorher noch zu dem, was ich vorhin gesagt habe, dass TikTok durchaus auch mitverdient hat. Ja, wie kann das Ganze funktionieren? Wenn die Kapseln über den TikTok-Shop, also den hauseigenen Marktplatz von TikTok, verkauft werden, dann verdient TikTok mit einer Provision mit. Irgendwo zwischen 4 und 9 Prozent liegt so eine Provision. Und zumindest bei einem von diesen Rote-Bete-Kapsel-Videos war das auch der Fall. Die Kolleginnen und Kollegen von Korrektiv haben sich dann mal angeschaut, was ist denn da so verkauft worden. Rund 6.000 über den Shop verkaufte Kapseln haben sie da recherchiert. Und da dürfte also schon ein Sümmchen für TikTok auch zusammengekommen sind. Jetzt muss man aber sagen, wer über den TikTok-Shop verkauft, der muss sich eigentlich an die Community-Richtlinien von TikTok halten.

Caspar:
Und da fallen eben auch unter anderem Deepfake-Werbung mit darunter, dass das nicht erlaubt ist. Und auch dieses irreführende Produktversprechen, was dann da angepriesen wird. Du hast ja gerade aufgezählt, was diese Kapseln angeblich alle können. Ja und dann verstoßen sie natürlich auch noch gegen Urheberrecht, wenn sie da die Leute einfach kopieren und klonen. Und was auch noch nicht dabei steht, es ist nichts von KI gekennzeichnet. Also da steht auch nicht dabei, dass das Fake-Videos sind. Es sind also ganz klare, ganz viele Verstöße zum Eingegengeltendes Recht, aber auch gegen die Community-Richtlinien von TikTok.

Elli:
TikTok war da aber irgendwie nicht ganz so auf dem Kiviv. Denn, jetzt sind wir wieder bei dem Meldevorgang, den man dann ja normalerweise einleiten würde. Das haben auch tatsächlich die betroffenen Ärztinnen und Ärzte gemacht und eben auch deren FollowerInnen. Und es passiert dann auch teilweise, dass wenn jemand einen Deepfake von sich selber entdeckt, dass er dann auch in seiner eigenen Story zum Beispiel oder seinen eigenen Videos postet, hey meldet das doch bitte mal, das bin nicht ich. Und da gab es diverse Meldevorgänge, aber über Monate ist nichts passiert.

Caspar:
Ja, und ich habe auch schon mal solche Accounts gemeldet. TikTok hat sogar den eigenen Button, gibt vor jemand anderes zu sein. Also man kann sogar das auswählen und gibt dann an, welcher Account wohl kopiert wird. Ja, und in meinem Fall war es auch so, es war kein Medfluencer, sondern es war ein Medienaccount, der vorgab von einem Medienhaus zu sein, aber es offensichtlich nicht war. TikTok hat dann einige Wochen später mir geantwortet, sie sehen keinen Grund zu handeln. Und das war auch bei diesen Medfluencern der Fall. TikTok hat das im Grunde alles abgeschmettert, was da als Beschwerden kam.

Elli:
Naja. Es gibt dann doch noch ein Happy End in diesem What-the-Fuck, zumindest in diesem, denn tatsächlich wurde durch die Korrektivrecherche oder dann ganz kurz danach, währenddessen, so in dem Laufe der Zeit. Zufälligerweise. Ja, ja, wurden die Videos offline genommen und wenn man jetzt die Marke der Rote-Beeten-Kapseln-Zusammenhang mit TikTok sucht, dann kommt man in den TikTok-Shop und der wirft einen 404-Fehler, ist also nicht mehr erreichbar, was diese Marke angeht. Ein Schelm, wer Böses dabei denkt, aber das hat uns für ein What-the-Fuck gereicht.

Caspar:
Und ich habe gerade schon angeteasert, es passt perfekt auch zu unserem Input, weil es da nämlich auch um Plattformen geht, um Regeln, die vielleicht umgesetzt werden müssten und um eine riesige Debatte darum. Deswegen wollen wir vom WTF zum Input?

Elli:
Ja, gehen wir direkt rein.

Caspar:
Auf geht's, sprechen wir über Verbote.

Jingles:
Input.

Elli:
Da habe ich dich schon mit so einem erhobenen Zeigefinger vor mir in meinem geistigen Auge.

Caspar:
Du, du, du. Ja. Da kommt der Lehrer in mir durch.

Elli:
Ja, was möchtest du denn verbieten oder nicht verbieten? Worum geht es denn?

Caspar:
Ja, also wir haben seit mehreren Tagen, ihr habt es wahrscheinlich auch in anderen Medien schon mitbekommen, eine riesige Diskussion, die losgetreten, wieder mal losgetreten ist oder wurde. Und zwar geht es um Social Media Verbote für Kinder und Jugendliche. Unter anderem, weil die CDU das bei ihrem Bundesparteitag in den kommenden Tagen beraten will. Da geht es um ein Verbot für U-16-Jährige. Einen entsprechenden Antrag gab es von der Frauenunion und der Mittelstands- und Wirtschaftsunion. Und der Bundeskanzler hat sich ebenfalls auch schon für ein Verbot ausgesprochen. Und auch Schleswig-Holsteins CDU-Ministerpräsident hat sich schon länger damit auseinandergesetzt. Bayerns CDU-Ministerpräsident Söder findet das Ganze hingegen Quatsch. Also ihr seht, es geht die ganze Zeit hin und her. Und nicht nur das, auch in anderen Ländern, Elli, ist die Diskussion auch am Kochen.

Elli:
Richtig. In Dänemark gibt es zum Beispiel die Überlegung, Social-Media-Plattformen erst für Jugendliche ab 15 zugänglich zu machen. Diese Überlegung an sich ist sehr konkret formuliert so, aber alles drumherum. Da ist noch viel offen. In Großbritannien hat sich das Oberhaus des Parlaments im Januar für ein Verbot für unter 16-Jährige ausgesprochen von Social-Media-Plattformen. In Spanien hat sich der Regierungschef für so ein Verbot positioniert. Und in Frankreich hat man zumindest schon mal ein Datum im Kopf. Bis September möchte man nämlich eine entsprechende Einschränkung für Jugendliche umsetzen. Also, dass Jugendliche dann nicht mehr auf Social Media zugreifen können. Und dann gibt es da ja noch Australien, das hatten wir hier auch im Podcast-Simmer, aber das schneiden wir nochmal später an. Ihr seht schon, der Preis ist heiß, alle reden drüber und damit wir in den entsprechenden Diskussionen unserer Freundeskreise nicht nur mit gefährlichem Halbwissen, sondern sogar mit so richtig fundierten Wissen glänzen können, haben wir uns gedacht, wir machen einen Input dazu.

Caspar:
Und schauen dabei einmal auf die Argumente von Befürwortern, aber auch Gegnern von solchen Verboten. Wir werfen natürlich auch einen Blick in die Wissenschaft, die sich sehr stark mit dem Thema Social Media und Kinder und Jugendliche auch schon auseinandergesetzt hat. Und am Ende soll euch dieser Input so ein bisschen helfen, vielleicht auch eine eigene Meinung zu diesem ganzen Thema zu bilden und vielleicht dann auch die Debatte, die darüber geführt wird, so ein bisschen sachlicher zu führen.

Elli:
Jetzt hast du schon gesagt, Caspar, die Wissenschaft hat sich das schon angeschaut in ganz vielen verschiedenen Ausführungen und bevor wir uns anhören, was zum Beispiel auch in der Politik Menschen dazu sagen, lass uns doch mal auf die Wissenschaft gucken, was haben wir denn so an Erkenntnissen zum Thema Jugendliche und Social Media?

Caspar:
Tatsächlich, ich habe es schon angedeutet, gibt es sehr viele Forschungsarbeiten zu dem Thema, aber was auffällt, wenn man sich damit beschäftigt, es ist wie so oft in der Wissenschaft kein reines Schwarz oder Weiß. Ihr könnt euch jetzt nicht hinstellen und sagen, Social Media hat nur schlechte Eigenschaften für Jugendliche. Ihr könnt aber auch nicht sagen, das ist nur gut für die, die sollen das mal machen.

Elli:
Ich finde es schön.

Caspar:
Wie ich alte Menschen nachmache. Es ist ganz toll.

Elli:
Das könnte genauso gut von jungen Menschen kommen.

Caspar:
Absolut, absolut. Aber wir haben für euch mal quasi die negativen und positiven Effekte rausgesucht, bevor wir auf diese beiden Richtungen quasi eingehen. Aber noch eine Zahl, die ich sehr spannend fand und deswegen mitgebracht habe. Diese Diskussion beziehungsweise die wissenschaftliche Untersuchung ist insofern auch ganz wichtig, weil eben bis zu 95 Prozent der 13- bis 17-Jährigen verschiedene Social-Media-Plattformen nutzen. Also sowas wie Instagram, TikTok, Snapchat und wie sie alle heißen. Das heißt, wir führen hier eine Debatte über Social Media Networke, die potenziell tatsächlich, das kann man so sagen, den Großteil der jungen Menschen irgendwie erreichen. Fangen wir mal mit den negativen Effekten an. Was hat die Wissenschaft zum Thema Social Media und Jugendliche herausgefunden? Die erste Sache, die ich mitgebracht habe, ist, dass Studien ergeben haben, dass Jugendliche, die mehr als drei Stunden täglich in Social Media verbringen und mein erster Gedanke war, wow, das ist aber viel. Und dann habe ich festgestellt, naja, wenn ich auf meine Bildschirmzeit gucke, es gibt Tage, da ist das doch gar nicht so viel. Als junger Mensch hat man vielleicht auch noch die Zeit dazu. Also wenn Jugendliche mehr als drei Stunden in sozialen Medien verbringen, dann haben sie ein mehr als doppelt so hohes Risiko für Symptome wie Depressionen und Angststörungen.

Elli:
Ganz wichtig, ein Großteil der jetzt genannten Zahlen bezieht sich, also beziehungsweise ist von der Seite das US Department of Health and Human Services. Wir gucken damit also in die USA, allerdings muss man sagen, auch in Deutschland ist Social Media bei Jugendlichen ein sehr, sehr großes Thema.

Caspar:
Genau, aber es ist gut zu sagen, gut und wichtig zu erwähnen, welche Untersuchungsgruppe hier in dem Fall tatsächlich dabei war. So, dann etwas, was auch relativ schnell einleuchtet, wenn man sich das anguckt, allerdings natürlich auch wissenschaftlich untersucht und belegt ist, soziale Vergleiche mit sogenannten idealisierten Inhalten haben vor allem zum Beispiel auf Mädchen einen negativen Effekt. Wir reden hier zum Beispiel von der häufigen Darstellung von schlanken oder peinlich perfekten Körpern, was ja auch immer wieder in der Social Media Debatte so ein Thema ist. Wir sehen dort Modelfiguren, wir sehen dort sehr, sehr schlanke, vor allem Frauen auch und dort wird ein idealisiertes Bild erstellt, was eben für heranwachsende Menschen und insbesondere auch Mädchen ein großes Problem ist. Dann gibt es ein Phänomen, das fand ich besonders interessant, jetzt kommen wir zu einem echten Fachwort und zwar die sogenannte Snapchat Dysmorphie. Damit ist gemeint Filter, die nachträglich den Körper zum Beispiel besonders glatte Haut machen oder das Gesicht schlanker. Ich weiß nicht, ob ihr das schon mal gesehen habt, das gibt es auch bei TikTok, wenn man die anwendet, sieht man einfach ein paar Kilo leichter quasi aus. Ganz viele Menschen nutzen diese Filter und das führt außerdem auch dazu, dass Jugendliche ihr Aussehen entsprechend anpassen wollen, weil sie eben gar kein realistisches Bild in dem Fall mehr zu sehen bekommen.

Elli:
Auch hier wieder die entsprechende Studie ist aus den USA. Ihr habt vielleicht auch schon mal gehört, ja, Schlafen und Bildschirmzeit vor der Schlafenszeit und so weiter. Wie sieht es denn mit dem Thema Schlaf aus, Caspar?

Caspar:
Ja, da muss ich mir vielleicht auch an die eigene Nase fassen. Also es ist kein Phänomen, was nur Jugendliche betrifft. Die nächtliche Nutzung oder die sehr spätabendliche Nutzung von Social Media Networks und die ständige Erreichbarkeit auch, also zum Beispiel Push-Mitteilungen dort aktiviert zu haben, führt zum einen zu Schlafmangel, wenig überraschend, aber führt auch zu einer schlechteren Schwarfqualität, was dann wiederum zu Stimmungsschwankungen führen kann und zu schlechteren schulischen Leistungen. Leistungen, was hier irgendwie auch einleuchtet, wenn man die ganze Nacht irgendwie wach war oder schlecht geschlafen hat, dann klappt es morgens in der Schule nicht mehr so gut.

Elli:
Das könnte man natürlich sagen, mein Gott, schalt das Ding doch einfach aus. Früher wurde der Stecker gezogen, so, jetzt ist es vorbei. Aber das Es wird uns ja auch nicht unbedingt leicht gemacht.

Caspar:
Nee, bei Ausschalten muss ich wieder kurz an Peter Lustig denken. Den gibt es in Social Media eben nicht, dass jemand am Ende des Beitrags dann sagt, und jetzt, liebe Kinder, ausschalten, sondern das Gegenteil ist der Fall. Jetzt kommen wir wieder zum Fremdwort. Es gibt nämlich die Mechanismen des Persuasion Engineering.

Elli:
Also Sachen, die darauf ausgerichtet sind, uns möglichst zu überzeugen.

Caspar:
Mein Spaßgetränk ist alkoholfrei, ich möchte es betonen. Damit gemeint sind zum Beispiel so Dinge wie Infinite Scroll, also tatsächlich dieses endlose Scrollen, was wir von TikTok kennen. TikTok hat kein Ende. Ihr könnt unendlich weiter scrollen, im Zweifel, wenn ihr zu viel scrollt, wird am Ende quasi, fängt man wieder vorne an. Habe ich auch noch nie erlebt, aber theoretisch. Dann sowas wie automatisierte Videogabe. Wie oft ist es inzwischen in sozialen Netzwerken, aber auch auf Webseiten so, dass wenn ja die Ansteuer plötzlich das Video anfängt und ihr gar nicht irgendwie was andrücken musst, personalisierte Push-Nachrichten, die einen immer wieder zurückholen wollen, so nach dem Motto, oh, wir vermissen dich, haben dich lange nicht mehr gesehen, guck doch mal, das und das Thema geht gerade viral. Sowas führt dazu, dass die Verweihdauer wirklich maximal erhöht werden soll und das kann vor allem gerade bei Kindern und Jugendlichen auch zu suchtartigen Verhalten führen.

Elli:
Warum vor allem bei Kindern und Jugendlichen?

Caspar:
Ja, weil da nämlich das Gehirn noch nicht ganz ausgeprägt ist, vor allem der präfrontale Kortex, meine Güte, ich habe es aber auch heute, der ist noch nicht so ausgereift wie bei erwachsenen Menschen und dort ist vor allem die Impulskontrolle auch angesiedelt. Das heißt, sie sind leichter manipulierbar und können vor allem biologisch schlechter sich gegen solche Dinge wehren, wie eben dieses Infinite Scroll oder die Erhöhung der Verweildauer, wie zum Beispiel erwachsene Menschen das könnten.

Elli:
Ja, und dann, also das ist ja jetzt schon mal eine lange Liste. Wir haben Schlafstörungen, wir haben Körperbild, was verzerrt wird und was auch Leute vulnerable vielleicht macht. Wenn hoher Konsum, hohes Risiko für Symptome wie Depressionen und Angststörungen und so weiter. Ich schmeiß noch ein letztes in den Topf und dann gucken wir mal, ob wir auch irgendwas Positives finden an der ganzen Sache eigentlich.

Caspar:
Versprochen, es gibt auch positive Effekte.

Elli:
Und zwar, das erinnert mich tatsächlich auch an eine Diskussion, die ich vor kurzem mal geführt habe, im privaten Umfeld auch und das betrifft das Thema Mobbing. Tatsächlich ist es so, einerseits Menschen im Internet können anonym mobben, das ist ein Faktor, der das natürlich attraktiver macht quasi, dieses Phänomen im Internet. Und für die Opfer bedeutet das aber auch, du kannst rund um die Uhr angegriffen werden. Also, wenn du in der Schule irgendwie nur gehänselt wurdest früher, dann konntest du irgendwann nach Hause gehen und dann war es vielleicht zumindest für ein paar Stunden mal vorbei. Jetzt hast du permanent irgendeinen WhatsApp-Chat, irgendwelche Instagram-Gruppen, irgendwelche Snapchat-Gruppen. Du bist... Immer verletzlich im Zweifel.

Caspar:
Ja, gut. Damit können wir mal einen Strich unter den negativen Effekten machen. Ich habe versprochen, es gibt positive. Die Liste ist tatsächlich leider nicht ganz so lang, aber es gibt Effekte und die sind auch ganz wichtig, dass wir sie in dieser Diskussion auch erwähnen. Ein Effekt zum Beispiel, den haben wir hier, glaube ich, auch schon mal angesprochen im Laufe des Podcasts, ist nämlich, dass soziale Netzwerke, und da ist jetzt der Fokus auf sozial, eben auch soziale Unterstützung geben können. Vor allem und zum Beispiel für marginalisierte Gruppen wie LGBTQIA+. Jugendliche und junge Menschen, die zum Beispiel aber auch von Behinderung betroffen sind, die können in bestimmten Bereichen von Social Media andere Menschen finden, die gleichgesinnt sind und können dann oft auch lebensnotwendige Räume sich schaffen und auch Unterstützung finden. Und das ist in vielen Bereichen ohne Social Media gar nicht so einfach. Während uns zum Beispiel mal an das gute alte Dorf, da war man dann, wenn man ein bisschen anders war, schon ganz schnell irgendwie der Außenseiter, der Verrückte.

Elli:
Ja, dazu kommt, Plattformen können natürlich auch als Informationsquelle dienen und den Zugang zum Beispiel zu Gesundheitsressourcen und kreativer Inspiration liefern. Das heißt, wir haben das hier teilweise im Gespräch auch immer wieder über Chatbots, dass Leute, die vielleicht keinen Zugang zu einer Gesundheitsversorgung an sich haben, dass die dann zumindest da irgendwelche Informationen sich suchen. Und was noch ein Punkt ist, Jugendliche, wir sind da jetzt, wir gucken auf die Jugend gerade vor allem, können Identitäten erproben und soziale Kompetenzen auch für die weitere digitale Welt erwerben.

Caspar:
Genau, also was könnte irgendwie Spam sein, was heißt Direct Message, also solche Sachen, die man später vielleicht mal im digitalen Leben brauchen könnte, sind natürlich auch Teil von Social Media.

Elli:
Diese ganzen Sachen kommen jetzt übrigens gesammelt aus Australien. Ja, das ist… Auch da wieder Australien, wir kommen noch dazu.

Caspar:
Ja, ja, wir kommen noch dazu, dass das Australien ist, hat auch einen Grund, aber wie gesagt, da kommen wir gleich noch zu. Ganz wichtig ist, Expertinnen und Experten betonen auch immer wieder, dass nicht die Nutzungsdauer alleine irgendwie entscheidend ist, sondern auch wie man Social Media nutzt. Also es hat einen positiveren Effekt, wenn man aktiv daran teilnimmt, wenn man zum Beispiel gestaltet, wenn man Communities antreibt, wenn man Themen voranstößt, wenn man sich Gleichgesinnte sucht, wenn man sich mit Leuten austauscht. Die negativen Effekte treffen meistens zu, wenn man passiv irgendwie durch die Gegenscrollt und sich von Sachen berieseln lässt.

Elli:
Und, und das ist so eine Sache, die man immer im Hinterkopf haben muss, wenn man sich irgendwie Studien durchliest oder auch wenn die irgendwo zitiert werden, oft ist nicht klar, was die wissenschaftliche Kausalität tatsächlich ist. Also es gibt noch nicht so eine sichere Beweislage zum Beispiel bei der Frage, ist Social Media eine Ursache für psychische Probleme oder verbringen Menschen, die eh gerade schon psychisch in einer labileren Position sind, dann einfach mehr Zeit auf diesen Plattformen, nutzen das mehr? Ja, das ist so ein bisschen so ein Henne-Ei-Problem. Ich kenne das von mir tatsächlich selber auch, wenn ich einen schlechten Tag habe, ist meine Bildschirmzeit oft höher, weil ich dann einfach irgendwie den Kopf ausschalten und mich brieseln lassen möchte. Ist nicht unbedingt hilfreich so langfristig, muss ich sagen.

Caspar:
Nein, aber es ist ganz wichtig, dass man das auch im Hinterkopf behält, auch bei dieser Debatte, dass das durchaus auch sein kann, dass da ja auch eine Kausalkette irgendwie zusammenhängt. Mir geht es gerade nicht so gut, deswegen bin ich mehr bei Social Media.

Elli:
Yes, und dann sieht man da wieder ... Unrealistische Szenarien und so weiter.

Caspar:
Schlankheitsfilter und ja, ja.

Elli:
Und alle sind immer im Urlaub und Oh ja.

Caspar:
Stimmt, stimmt, du hast recht. Bei mir bei Instagram sind auch immer alle im Urlaub.

Elli:
Aktuell sind wirklich alle irgendwo, wo es schön ist und die Sonne scheint.

Caspar:
Oh ja, Sonne scheint.

Elli:
Und niemand ist auch krank auf Social Media. Irgendwie ist das nicht krank.

Caspar:
Nein, nein, stimmt.

Elli:
Weiß ich nicht.

Caspar:
Komisch.

Elli:
Naja, also zurück zur Verbotsdiskussion. Ihr habt schon gehört, das Ganze ist hitzig und natürlich wird auch die ein oder andere Studie herangezogen. Wir gucken uns jetzt aber mal auch unabhängig von den Studien an, was ist insgesamt so auf der Pro-Liste für so ein Verbot, also was sagen die BefürworterInnen von so einem Verbot und was sagen die Leute, die so ein Verbot nicht besonders sinnvoll erachten. Und was ich spannend finde, das muss man vielleicht dazu sagen, wenn man sich die deutsche Politiklandschaft aktuell anschaut, man ist sich auch parteiintern nicht einig bei diesen ganzen Sachen. Die Meinungen gehen weit auseinander und sind bunt gestreut. Also wir kommen da auch gleich nochmal zu. Fangen wir mal.

Caspar:
Ich hatte auch lange nicht mehr in der Vorbereitung für eine Sendung so viele Artikel und Kommentarspalten und sonst was auf, um irgendwie zu versuchen, die Debatte so ein bisschen abzubilden. Man kann ehrlich sagen, 50 Leute, 50 Meinungen.

Caspar:
Aber ich habe trotzdem mal versucht, oder wir haben versucht, so ein bisschen fünfte Hauptargumente mal von den Befürwortern von so Verboten zusammenzufassen. Und der erste ergibt sich aus dem, was wir gerade in den wissenschaftlichen negativen Folgen auch schon ein bisschen aufgeführt haben. aufgedröselt haben. Nämlich der erste Gedanke ist, so ein Verbot würde die psychische Gesundheit von Kindern und Jugendlichen schützen. Auch hier, wie gesagt, wir haben ja gesagt, das hat einen Einfluss oder die Forschung geht davon aus, dass es einen Einfluss hat und genau das soll so ein Verbot irgendwie verhindern. Das zweite ist, da sind wir wieder auch bei den medizinischen Neurobiologie und manipulative Algorithmen. Also es wird halt bemängelt, dass besonders Kinder und Jugendliche eben besonders anfällig sind und deswegen müsse man auch diese Gruppe halt besonders schützen, weil die halt besonders betroffen ist von diesen ganzen Effekten, die es bei Social Media gibt. Wir haben hier ja auch eben gerade schon über die Entwicklung des Gehirns gesprochen und solche Dinge. Das dritte ist Schutz vor spezifischen Online-Gefahren. Ein Verbot soll eben Kinder und Jugendliche vor einem Umfeld abschirmen, in dem sie eben Risiken ausgesetzt sind. Ich meine, alle, die Social Media nutzen und die diesen Podcast hören, längere Zeit wissen, wovon wir reden, um nur mal ein paar Dinge zu nennen. Hassrede, Shitstorms, Beleidigungen, Morddrohungen und so weiter. Die Liste ließe sich fast ins Unendliche fortsetzen leider.

Elli:
So Nummer vier ist ein Punkt, den ich sehr interessant finde in der Argumentation und zwar die Entlastung von Eltern und Erziehungseinrichtungen. Ein gesetzliches Verbot soll die Verantwortung von den Eltern und zum Beispiel auch Schulen hin zu den Plattformbetreibern und dem Staat schieben. Also man möchte Eltern entlasten auch ein bisschen durch dieses Verbot.

Caspar:
Das Argument ist halt, dass die gar nicht die Chance haben, gegen so millionenschwere Konzerne sich irgendwie aufzugebären und die ganze Zeit ihre Kinder quasi zu überwachen. Das kann ja auch keiner wollen. Also weg von den Plattformen, so nach dem Motto. Und das Thema Plattformen ist dann auch der letzte Punkt. Die Befürworter sehen in diesen Verboten oder in dem Verbot ein Mittel, um eben die Technologieunternehmen, also die Plattformbetreiber zu einem Kurswechsel zu zwingen. Sie sind quasi der Meinung, ein Verbot könnte dann die Anbieter bewegen, dass sie eben entweder kinder- und jugendgerechte Versionen von ihren Plattformen machen oder eben auf diese manipulativen Effekte und Funktionen verzichten, beziehungsweise das herunterschränken, beziehungsweise generell Social Media quasi besser machen dadurch.

Elli:
Okay, also wir hatten jetzt fünf Aspekte, die von den BefürworterInnen gebracht werden. Was sagen denn die GegnerInnen von so einem Verbot?

Caspar:
Auch da gibt es eine ganze Reihe von Argumenten. Eins, was immer wieder kommt, was sicherlich auch ein zentraler Punkt ist, ist die sogenannte UN-Kinderrechtskonvention. Dort steht nämlich klipp und klar drin, dass Kinder und Jugendliche ein Recht auf digitale Teilhabe und den Zugang zu Informationen haben. Und Kritiker von strikten Verboten sagen eben, das würde man damit ja dann unterlaufen. Außerdem argumentieren Kritiker, dass ein pauschales Verbot bei Jugendlichen quasi auch den Umgang nimmt, den Umgang mit Medien, mit sozialen Medien zu lernen und den Umgang auch vermittelt zu bekommen, so nach dem Motto, wenn man dann plötzlich mit 16 und vorher noch nie irgendwas mit Social Media zu tun hatte, auf diese sozialen Netzwerke losgelassen wird, ohne irgendwie vorher Erfahrung gesammelt zu haben, das könne auch irgendwie nicht gut sein, dann sei man ja nochmal anfälliger irgendwie für Manipulationen. Und es wird dann auch gesagt, man würde hier eine Generation heranziehen, die quasi noch viel angreifbarer wäre, als es aktuell der Fall ist.

Elli:
Ich finde ja das nächste Argument besonders stark tatsächlich und das ist die Abwanderung in den digitalen Untergrund. KritikerInnen waren nämlich, dass Verbote die Nutzung eben nicht stoppen würden, sondern lediglich in weniger regulierte, gefährlichere Bereiche des Internets verschieben. Ihr kennt das, das ist ähnlich, wie man das bei bestimmten Drogen diskutiert. Auch da gibt es immer wieder so die, wenn du es legalisierst, dann machst du es wenigstens kontrollierbar und so weiter. Ich fand die Aussage der linken Politikerin Heidi Reichenegg dazu ganz witzig. Sie kommt selber auch aus der Jugendarbeit und sie hat in einem Interview folgenden Satz gesagt, Jugendliche sind verdammt pfiffig.

Caspar:
Die kriegen im Zweifel das Umgangen. Oder auch anders gesagt, so ein Verbot hat eigentlich fast sogar den gegenteiligen Effekt. Wir wissen es alle, Zigaretten sind verboten. Das finde ich jetzt besonders spannend. War zumindest bei mir im Freundeskreis damals so. Ich weiß nicht, wie es bei dir war.

Elli:
Weniger.

Caspar:
Okay. Und dann haben wir noch das sogenannte Datenschutzparadox, was durchaus auch, finde ich, ein zutreffendes Argument ist. Hier geht es nämlich um die Altersverifikation. Wir haben jetzt ganz oft darüber gesprochen, dass die Leute sagen, wir müssen das verbieten. Worüber wir bisher noch gar nicht gesprochen haben, ist ein ganz zentraler Punkt. Wie setzt man das denn um? Also wie kriegt man denn raus, wie alt jemand ist? Um so ein Verbot eben für Minderjährige durchzusetzen, müssten die Plattformbetreiber das Alter irgendwie kontrollieren von den NutzerInnen und auch von Erwachsenen. Also es sind dann in dem Moment quasi erstmal alle untersucht, weil, wie willst du es sonst unterscheiden? Die Betreiber müssten also Identifikationsprüfungen durchführen, zum Beispiel, indem man seinen Ausweis hochlädt oder biometrische Verfahren einführt. Wir reden jetzt hier über Gesichtscans und dann wird quasi geguckt, wie alt die Person auf diesem Gesicht wirkt oder auf diesem Bild davon. Kann das sein, dass die alt genug ist? Ich kann mal spoilern, wenn ich mir den Bart abnehme, kriege ich wahrscheinlich kein Bier gekauft. Also ich wäre dann bei Social Media wahrscheinlich schon Probleme kriegen, wenn ich das so machen müsste. Und KritikerInnen sehen da natürlich ein großes Risiko, dass wir so hochsensible Daten wie Ausweise oder biometrische Daten jetzt den Plattformen quasi noch auf den Präsentierteller hingeben, damit sie so eine Altersverifikation durchführen.

Elli:
Auf der anderen Seite kann man natürlich da auch sagen, Social-Media-Plattformen sind oft darauf ausgerichtet, dass man zum Beispiel sein Gesicht auch zeigt, dass man das mit irgendwelchen Filtern verschönert und so weiter. Also biometrische Daten sind so oder so auch ein Thema, aber man könnte sich, wenn es diese Altersverifikation nicht gäbe, könnte man sich immer noch entscheiden, ob man sein Gesicht da wirklich irgendwo reinbringt oder nicht.

Caspar:
Ja und dann gibt es noch ein letztes Argument, was ganz oft aufkommt, was aber lustigerweise auch in ähnlicher Form bei den Befürwortern eben schon vorkam. Hier sind wir wieder bei den Plattformen und sie in die Pflicht nehmen. KritikerInnen von so einem Generalverbot sagen, eigentlich sind es doch die Plattformen, die man sich angucken müsste und die Plattformen müssten für Menschen ein sicherer Raum werden und man müsste eigentlich auch schon bestehendes Gesetz umsetzen. Ein Verbot würde die Verantwortung wegführen von den Plattformen und würde sie quasi auf die Politik umlenken bzw. Auf die Jugendlichen, die das dann umsetzen müssten und das sei auch nicht so richtig der richtige Weg.

Elli:
Ihr seht schon, es gibt klare Argumente auf beiden Seiten und eine Annäherung gibt es irgendwie bei der Forderung, dass Plattformen UserInnen besser schützen müssten. Viele der aktuellen verweisen dabei zum Beispiel auf den Digital Markets Act, der uns hier ja auch immer wieder begegnet und den Digital Services Act. Das müsse beides einfach besser und härter durchgesetzt werden, ist da so ein bisschen der allgemeine Tenor. Ich habe jetzt aber noch was mitgebracht, was ich ganz spannend finde und zwar ein Vorschlag der SPD-Bundestagsfraktion, über den zunächst die Tagesschau berichtet hat und dann eben auch andere Medien. Und zwar gab es da ein Positionspapier in den letzten Tagen. Insgesamt auch da wieder in der Partei noch nicht so die Einigkeit, aber es gab zumindest jetzt schon mal dieses Positionspapier und zwar kam das von der SPD-Bundestagsfraktion eben. Dieser Vorschlag sieht ein Komplettverbot für Kinder bis 14 Jahre vor und für Jugendliche zwischen 14 und 16 Jahren soll es eine spezielle Version von den gängigen Plattformen geben jeweils.

Caspar:
Also Insta-Lino quasi.

Elli:
So ungefähr, Insta-Lite, Snapchat-Lite oder irgendwie sowas.

Caspar:
Insta-Young.

Elli:
Genau, Insta for Kids, so irgendwie so. Oh, ja. Und da fand ich ganz spannend, was dann vorgesehen ist. Nämlich sollen diese speziellen Versionen ohne suchtsteigernde Funktionen sein, also zum Beispiel ohne Video-Autoplay, ohne Gamifizierung, ohne dieses endlose Scrollen, was du vorhin schon genannt hast und auch ohne Push-Benachrichtigungen zum Beispiel. Also diese ganzen verlockenden Sachen, die da eingebaut werden, die sollen wegfallen und auch algorithmische Feeds, also Feeds, die sich eben an die Nutzergewohnheiten anpassen und personalisierte Inhalte sollen nicht drin sein in diesen Jugendversionen. Der Vorschlag sieht übrigens auch vor, dass der algorithmische Feed auch für Personen über 16 erstmal standardmäßig deaktiviert ist. Und wer den dann doch haben möchte, der kann ein sogenanntes Opt-in machen, also sich dann wirklich aktiv dafür entscheiden. Und die Altersverifikation soll über die sogenannte EU-ID-Wallet-App, also so eine Art digitale Geldbörse, erfolgen.

Caspar:
Das wäre generell auch keine schlechte Idee, weil dann die Wallet quasi das Alter bestätigt für die Plattform und die Plattform selber dann zum Beispiel den Ausweis gar nicht zu Gesicht bekommen würde und da nicht noch zusätzliche Daten sammeln kann. Ja, und die Unterzeichnern dieses Positionspapiers, das du gerade erwähnt hast, die wären auch stark dafür, dass es EU-weit Regelungen gibt, dass jetzt nicht jedes Land eigene nationalstaatliche Lösungen sich ausdenkt, weil wenig überraschend, das Internet ist dann doch auch etwas, was nicht an Ländergrenzen Halt macht und es wäre ganz vorteilhaft, wenn man das europaweit zum Beispiel irgendwie regelt.

Elli:
Jetzt haben wir schon so das Für und Wider beleuchtet und auch so eine Zwischenmöglichkeit oder Zwischenidee. Wir gucken nach Australien, wie vorher angekündigt, denn dort ist schon seit Dezember ein Social-Media-Verbot in Kraft. Ihr habt es bei uns, glaube ich, auch irgendwie in einem kleinen Update oder in der News schon mal gehört.

Caspar:
Wir hatten es in der News-Episode schon mal, ja.

Elli:
Genau. Jugendliche unter 16 Jahren dürfen dort soziale Netzwerke nicht mehr nutzen. Plattformen wie Facebook, Instagram, Threads, X, YouTube, Snapchat, Reddit, Kik, Twitch und TikTok müssen laut den Regeln in Australien Accounts von NutzerInnen unter 16 Jahren entfernen. Und die Neuregistrierung aktiv verhindern. Und dazu gehört natürlich auch, entsprechende Alterskontrollen überhaupt erst mal durchführen.

Caspar:
Umgerechnet drohen Betreiberinnen und Betreiber von diesen Plattformen, wenn sie das nicht tun, umgerechnet bis zu 30 Millionen Euro Strafe. Und jetzt natürlich die Frage, okay, Australien hat das schon. Klappt das auch und gibt es Effekte? Da haben wir mal ein bisschen drauf geguckt. Nun ist es tatsächlich so, dass die australische Regierung von sich behauptet, sie seien auf einem guten Weg. Aber wenig überraschend gibt es auch hier kritische Stimmen. Schauen wir erstmal auf die Zahlen, die bis jetzt schon vorhanden sind. Die zuständige E-Safety-Kommissarin, Julie Imant-Grant, die nennt Zahlen und zwar seien inzwischen insgesamt 4,7 Millionen Accounts über die Plattform hinweg, also all die Plattformen, die du gerade schon aufgezählt hast, seien die schon gesperrt worden, diese 4,7 Millionen Accounts. Wenn man jetzt mal drauf guckt, wie viele 8- bis 15-Jährige es eigentlich in Australien gibt, da sind wir bei einer Zahl von 2,3 Millionen. Jetzt fragt ihr euch, wie kann denn die Zahl so viel höher sein bei den gesperrten Accounts? Naja, es kann natürlich, wir reden hier über alle Plattformen zusammen und die meisten Jugendlichen werden nicht nur einen Instagram-Account haben, sondern zum Beispiel auch bei Facebook, bei Twitch, bei TikTok. Und wenn man das dann wieder zurück überlegt und bedenkt, könnte es durchaus sein, dass es da noch eine ganze Zahl an Jugendlichen gibt, die eben noch nicht ausgesperrt wurden.

Elli:
So, man muss natürlich auch sagen, das Ganze ist jetzt noch nicht besonders lange in Kraft. Das heißt irgendwie großartige Forschung, ob das jetzt irgendwie wirksam ist und positive Effekte auf die Jugendlichen hat, die gibt es noch nicht. Und dann gibt es da durchaus das eine oder andere Problem, was man zum Beispiel hier auch vom Zigarettenkaufen vielleicht kennt.

Caspar:
Ich zitiere jetzt mal einen heiser Artikel. Dort wird Tom Sulston genannt. Der ist wiederum Politik-Experte der Organisation Digital Rightwatch. Und laut ihm würden eben viele Jugendliche die Altersverifikation, die ja jetzt in Australien gilt, auf den Plattformen einfach mit Tricks umgehen. Was tun sie? Wenn die Software dann angeworfen wird, um das Gesicht zu scannen, dann verwenden sie irgendwie Tricks an, dass sie sich, das ist jetzt scherzhaft gemeint, einen Bart ankleben zum Beispiel. Aber sie versuchen das halt eben zu umgehen oder sie zeigen jemand anderen in die Kamera. Genauso, wenn es irgendwie darum geht, einen Ausweis hochzuladen, dann wird halt mal der Ausweis vom großen Bruder hochgeladen statt dem eigenen. Ja, man wird halt kreativ. So wie du gesagt hast, man das auch beim Zigarettenautomat wird.

Caspar:
Gut, also lass mal so ein kleines Fazit und auch gleich noch eine persönliche Note mit reinbringen. Ich habe da nämlich auch noch eine Meinung zu diesem Social-Media-Thema. Was man, glaube ich, ganz gut sehen kann, ist, dass die Debatte nicht ohne Grund auch so groß ist, weil es für, ich finde, beide Seiten auch gute Argumente gibt, die dort vorgebracht werden. Ich will eines dieser Argumente mal rausgreifen und damit dann auch meine persönliche Meinung so ein bisschen nach vorne stellen. Achtung, wie gesagt, Meinungsbeitrag. Und zwar geht es mir um das Argument, was wir zum Schluss auch bei beiden Seiten eigentlich so ein bisschen hatten, nämlich, dass die Plattformen eigentlich viel mehr in die Haftung genommen werden müssten, weil die nämlich auch die Verantwortung dafür tragen. Und das ist etwas, was ich persönlich bei dieser Debatte viel zu wenig mitbekomme oder höre. Wir reden darüber, wie man das umsetzen könnte, ob Ausweis oder nicht, ob Gesichtscannen oder nicht, ob das in Australien funktioniert oder nicht. Ich finde, wer ein soziales Netzwerk betreibt, als Plattformbetreiber, muss dafür sorgen, dass das ein Ort ist, wo Kinder und Jugendliche sicher und geschützt sind. Wenn er das nicht kann, dann darf er kein soziales Netzwerk in Europa anbieten. Punkt.

Caspar:
Wir haben enorme Probleme durch Social Media. Wir haben auch eben gerade schon die einzelnen Punkte mal aufgegriffen. Und das ist etwas, was Aldi-Plattformen betrifft, was die Plattformen teilweise auch fördern, weil es für mehr Reichweite sorgt. Wir haben gerade über TikTok auch im WTF gesprochen. So Deepfakes, die stören sich damit nicht dran, weil sie im Zweifel im TikTok-Shop auch Geld verdienen. Das heißt, eigentlich müssten wir die Plattform eingehen. Eigentlich müsste die Politik die Gesetze, die wir teilweise auch schon haben, auch einfach mal umsetzen. Und diese Debatte würde ich gerne häufiger führen, als darüber zu sprechen, ob wir jetzt Jugendlichen das Internet quasi abdrehen, weil ich finde, das geht ein bisschen daneben. Elli, ich weiß nicht, wie ist es bei dir mit der Debatte?

Elli:
Ja, ich sehe die Debatte auch und ich sehe auch so ein bisschen deinen Punkt. Einfach so dieses, ja, wenn wir uns mit den Plattformen, wenn wir denen halt irgendwie nicht so die Stirn bieten können, dann verbieten wir es halt einfach. Weiß ich jetzt nicht. Und ich muss tatsächlich Frau Reichenegg in ihrem Zitat zumindest auch zustimmen, genau. Es wird immer Wege geben, wie Kinder und Jugendliche an Dinge kommen, an die sie nicht kommen sollen. Also da sehe ich eigentlich einfach keinen Sinn dahinter. Und ich glaube auch, worüber man sich dann vielleicht im gleichen Atemzug in der Politik mal Gedanken machen kann und muss, ist die begleitende Medienbildung. Und das ist eine Verantwortung, die kann man durchaus eben zum Beispiel in Schulen sehen. Aber auch nur, wenn da halt die Möglichkeiten dafür gegeben werden und die Mittel und LehrerInnen Zeit und Raum dafür bekommen.

Caspar:
Dazu passt ein Artikel, den ich vor zwei oder drei Tagen gelesen habe, dass Medienkompetenz und digitale Kompetenz noch immer an vielen Universitäten, die Lehramtsstudiengänge haben, kein Kriterium sind und auch immer noch nicht Teil der Ausbildung. Ich habe selbst ein Volontariat, ich habe selbst ein Lehramtsstudium hinter mir. Ich bin dann nicht ins Referendariat, sondern ins Volontariat. So rum wollte ich den Satz eigentlich anfangen. Das heißt, ich bin kein Lehrer geworden. Ich habe nur das erste Staatsexamen, aber im Studium, auch wenn das jetzt schon ein bisschen her ist, man hätte auch damals schon digitale Inhalte viel stärker, Social Media gab es damals auch schon viel stärker anbringen können. Das war gar kein Thema. Das war überhaupt nicht Teil der Ausbildung. Und ja, das wären zum Beispiel auch Punkte, worüber man mal diskutieren könnte. Und dann müsste die Politik sich halt an die Nase fassen und ein bisschen Geld in die Hand nehmen. Und auch die Universitäten. Und stattdessen diskutieren wir dann lieber über nehmt ihnen das Social Media weg.

Elli:
Ach ja, wisst ihr was? Ich bin jetzt aber nach der ganzen Diskussion bereit für noch was Gutes aus dem Internet.

Caspar:
Komplett. Und es ist in dem Fall, ich finde, eine sehr, sehr schöne, gute Nachricht und eine der schönsten, schönsten, die wir seit längerer Zeit hatten.

Elli:
Ich muss sagen, ich habe in der Recherche auch ein bisschen Pipi in den Augen gehabt. Wir kommen gleich dazu, warum. Caspar, sagt dir der Papageno-Effekt was?

Caspar:
Nein, mir sagt Papageno was, aber bevor ich in das Skript geguckt habe, vorhin hat mir der Papageno-Effekt nichts gesagt. Jetzt weiß ich natürlich, was er ist. Ich habe auch direkt Zauberflöte daneben geschrieben. Aber um die Zauberflöte geht es, ja doch, ein Stück weit geht es auch um die Zauberflöte. Aber was genau ist denn der Papageno-Effekt, Elli?

Elli:
Ja, also wer wie Caspar kulturell interessiert ist und kulturell versiert, der weiß vielleicht Papageno, das ist eigentlich eine Figur aus Mozarts Zauberflöte. Und Papageno will im Laufe des Stücks sein Leben beenden, er wird aber durch die Begegnung mit drei Jungen davon abgebracht im Laufe der ganzen Sache.

Caspar:
Das ist übrigens meine Lieblingsstelle in der Oper. Also um kurz nochmal reinzukriegen, kulturell. Der Gesang von den drei Jungen ist mit die schönste Stelle, finde ich.

Elli:
Muss ich mich vielleicht auch nochmal angucken. Ich habe die Zauberflöte, glaube ich, doch ganz früher mal in so einer Kinderversion gesehen. Aber wird vielleicht mal wieder Zeit. Also Papageno, Zauberflöte. Wir kommen zurück zur Psychologie, weil eben diese Storyline oder diese Geschichte es innerhalb der Zauberflöte gibt, hat sich die Psychologie, die Mozart-Figur Papageno als Namensgeber für einen Effekt in der Suizidprävention ausgesucht. Denn wenn Menschen, die Suizidgedanken überwunden haben, von ihren Erlebnissen berichten und eben davon, dass es einen danach gibt und einen es geht weiter, dann kann das Akutbetroffenen Hoffnung geben, durchzuhalten. In solchen Fällen spricht man dann eben vom Papageno-Effekt. Und warum sprechen wir jetzt darüber? weil es eine neue Online-Plattform in Deutschland gibt. Die den Titel Mutpost trägt und sich an diesen Papageno-Effekt bedient.

Caspar:
Die ist letzte Woche erst an den Start gegangen, also tatsächlich ganz frisch. Wer will, kann dort über ein Online-Formular, ihr schreibt keine Mutpost im Sinne von, ihr schreibt wirklich handschriftlichen Brief, sondern es ist natürlich eine Online-Plattform, ein Online-Formular. Aber wer möchte, kann dort einen sogenannten ermutigenden Brief schreiben. Der wird dann auch nochmal überprüft von Expertinnen und Experten, damit auch wirklich da nichts drinsteht, was da nicht reingehört. Und wird dann nach der Prüfung anonym veröffentlicht und gibt im Idealfall Menschen, die ihn lesen, dann eben Halt, Hoffnung und das Gefühl, nicht alleine zu sein. Also quasi beide Seiten, die Mut spenden wollen und die, die das irgendwie brauchen können, auf dieser Plattform dann entsprechende Briefe lesen bzw. schreiben.

Elli:
Genau, und das war auch der Punkt, wo ich im Zuge der Recherche ein bisschen Pipi in die Augen bekommen habe, weil ich mir eben diese Briefe durchgelesen habe. Und das ist ganz spannend, weil das Repertoire ist ganz bunt gemischt von Leuten, die da so sechs Zeilen kleines Gedicht, was das Lebenslebenswert macht, geschrieben haben, bis hin zu Leuten, die gesagt haben, hey, ich komme aus der und der und der Krise. Wenn ich das geschafft habe, dann schaffst du das auch. Also da sind, es ist wirklich auch manchmal harter Tobak dabei. Aber ja.

Caspar:
Wer steckt dahinter? Ist das seriös?

Elli:
Ja, allein der Punkt, dass da nochmal drüber gelesen wird, hat es für mich schon vertrauenswürdiger gemacht tatsächlich. Betrieben wird diese Plattform vom Werner-Felber-Institut in Dresden und das ist eben ein Institut, das sich in der Suizidprävention engagiert. Vorbild ist übrigens eine englische Plattform, eine englischsprachige und zwar Reasons to Stay, also Gründe zu bleiben. Und Gründe zu bleiben wurde gegründet von Ben West. Und der hat seinen Bruder, der damals 15 war, durch einen Suizid verloren. Und hat sich dann eben gedacht, okay, ich möchte im Gedenken an meinen Bruder irgendwie eine Plattform schaffen, die vielleicht anderen Menschen Gründe gibt, doch noch zu bleiben. Bei Moodpost, also bei der deutschen Variante, gibt es neben den Briefen auch einen Soforthilfe-Button. Also für Leute, die wirklich in einer Akutsituation stecken und nicht mehr ein- und nicht mehr auswissen. Und es gibt auch eine Liste mit Anlaufstellen. Wir verlinken euch die Seite von Moodpost mal in den Shownotes. Wenn ihr mögt, dann schaut doch gerne mal vorbei.

Caspar:
Ich habe es eben schon gesagt. Ich habe es aber auch noch mal ins Doc geschrieben. Was für eine schöne Idee. Und vielleicht können wir ja alle, die vielleicht sagen, sie haben eine Krise überstanden und würden gerne anderen damit Mut machen, mal auf diese Seite gehen und entsprechende Briefe dann auch da schreiben. Als kleine gute Tat am Ende dieses Podcasts.

Elli:
Yes, und damit hast du es schon gesagt, wir sind tatsächlich am Ende. Es wurde hitzig diskutiert, es wird auch weiter hitzig diskutiert, glaube ich. In den nächsten Wochen werden wir noch so einiges von der deutschen Politik auch zu diesem Social-Media-Verbotsthema hören. Ich glaube, da wird wirklich jede und jeder eine Meinung dazu haben.

Caspar:
Ja, aber ihr seid jetzt, du hast das eben im Input auch schon erzählt, ihr seid jetzt zumindest gut vorbereitet, hoffe ich, und habt euch vielleicht auch selber ein Bild geschaffen und könnt dann entsprechend sachlich mitdiskutieren, wenn das Thema wieder aufkommt.

Elli:
Genau, und ansonsten haben wir ein bisschen auf die deutsche Wikipedia geguckt. Wir wissen jetzt, dass OpenAI einen... Ich sag mal, freien Mitarbeitenden mehr hat, nämlich den Entwickler von Open Claw. Wir haben uns um Rote-Beete-Kapseln bei TikTok gekümmert und jetzt am Schluss hatten wir noch die Mutpost.

Caspar:
Genau, und ich mache jetzt die Zauberflöte an, während ich schneide. Mal gucken, ob das einen Einfluss auf die Sendung hat.

Elli:
Oh je, nicht die Königin der Nacht, bitte. Ich glaube, die ist sehr energetisch, oder?

Caspar:
Bis die Arie kommt, bin ich wahrscheinlich durch mit dem Schnitt.

Elli:
Okay.

Caspar:
Allein erst mal die Overtüre, Das dauert ja schon mal Ewigkeiten, bis die Oper überhaupt losgeht.

Elli:
Du, ich bin nicht im Operngame drin. Da muss ich mich ganz ehrlich outen. Naja, ich gehe jetzt hier noch ein paar Trauermücken jagen. Da sehe ich schon die nächste wieder. Von daher viel Spaß dabei. Wir hören uns nächste Woche wieder.

Caspar:
Genau, dann kannst du ja mal berichten, ob du die Trauermücken losgeworden bist.

Elli:
Macht's gut. In diesem Sinne, bleib gesund.

Caspar:
Tschüss.

Elli:
Tschüss.

Jingles:
Das war's schon wieder für diese Woche. Folgt oder abonniert uns gerne in eurer Podcast-App und lasst uns dort eine Bewertung da. Das hilft uns sehr. Bis zum nächsten Mal.