Kinder & KI: 5 Risiken, die Eltern kennen sollten

Joël Kaczmarek: High Five, Leute, Hier ist Joël und ihr kennt das, Am Feel Good Friday reden wir über Gesundheit, Aber heute hat sich da mal ein technologisches Thema eingeschlichen, weil, sind wir mal ehrlich, Wir reden ja hier über Wachstum in meinem Podcast und ganz viel des Wachstums passiert durch KI. Allerdings hat KI ja auch so den ein oder anderen Nachteil wie jede Technologie. Und ich hatte vor nicht allzu langer Zeit, Letztes Jahr, wenn ich mich richtig erinnere, einen Mann zu Besuch, der mit mir darüber gesprochen hat, was es eigentlich mit Kindern macht, wenn Sie mit dem Smartphone in Kontakt kommen. Der Liebe Daniel Wolff ist nämlich digital kompakt. Er trainiert an Schulen, Kinder, Eltern, LehrerInnen, Wie man denn richtig gut umgeht mit dem Smartphone und hat auch ein großartiges Buch geschrieben, über das wir zusammengekommen, sind, Nämlich allein mit dem Handy.

Ich verlinke euch diese Folge hier in den Shownotes nochmal, weil ich kann euch sagen, Es war die mit weitem Abstand meistgeklickte in diesem Jahr. Mit weitem Abstand war auch auf LinkedIn das größte Echo da. Und ich habe sie gleich nochmal republished. Letztes Jahr, weil es so wichtig ist, was er da erzählt. Ich lege es euch wirklich ans Herz. KINDER und... Social Media, Kinder und Smartphone, Kinder und Internet, Da ist richtig was los, sage ich euch. Und genauso auch bei Kindern und KI. Das heißt, wir werden heute mal darüber sprechen, was sind denn eigentlich so die fünf Dinge, wie KI? Die Welt unserer Kinder radikal verändert. Erstmal schön, dass Du da bist, lieber Daniel.

Daniel Wolff: ich freue mich auch.

Joël Kaczmarek: Ich freue mich total, dich zu sehen. Ihr werdet merken, Es ist mit Daniel total toll zu reden, Er hat tolle Beispiele. Trotzdem möchte ich euch da draußen noch einen kleinen Disclaimer geben. Oder eine kleine Warnung. Beim Smartphone-Thema, Daher weiß ich schon, dass es intensiv wird. Auch heute, werdet ihr an den Punkt kommen, dass ihr Dinge hören werdet, die mittelschwer bis stark schwer gruselig sind. Wenn ihr damit Sorgen, Probleme, Ängste habt, dann überlegt euch das gut beim Feuer reinhören. Ich hoffe, ihr habt auch jemanden, mit dem Ihr Mal reden könnt, wenn was los ist. Egal, ob jetzt irgendwie ein Psychologe, Andere Eltern oder solche tollen Leute wie den Lieben. Daniel, der Halt darauf spezialisiert, ist. Und ansonsten regt man euren Schulen an, dass die Daniel und sein Team buchen. Die machen wirklich grandiose Arbeit. Aber jetzt zur Sache, lieber Daniel. KI, Wir feiern das ja eigentlich alle. Hurra, Es macht uns produktiver, es macht uns schneller. Wir sind auf einmal so toll unterwegs. Nur wie schon angedeutet, sollten wir uns nicht mal die Welt der Kinder angucken. Und ich habe von dir gelernt, das allererste, was du mal sagst, was man sich angucken sollte, ist mal so, über die Exposure zu reden. Also, wie sehr sind Kinder eigentlich Ki ausgesetzt? Nimm mich mal ein bisschen mit an die Hand.

Daniel Wolff: Okay, wir legen los. Ich würde sagen, fangen wir doch mal an, was die meistgenutzte KI überhaupt ist. Weil wir denken, als Erwachsene auch, das müsste ChatGPT sein. Das kennt jeder, hat jeder schon mal probiert. Die Profis kennen dann noch irgendwie. Claude oder Gemini kommt jetzt auch hoch. Aber bei Kindern, sehr, sehr oft genutzt, ist ganz einfach. Meta AI. Meta AI steckt nämlich in WhatsApp drin und auch in Instagram. Und dadurch alleine haben es halt schon Milliarden Menschen. Und ich glaube, dass Meta AI, der meist installierte KI-Chatbot der Welt ist, mit Abstand. Und die Kids haben in den Osterferien dieses Jahres etwas entdeckt. Da hat nämlich Meta, ohne große Fanfare, das Sprachmodell ausgetauscht, das dahinter steckt.

Das war früher ein relativ, naja, So ein Stand von vor anderthalb Jahren. Das hieß Llama 4. Und das haben die Ausgetauscht in den Osterferien dieses Jahr durch MuseSpark. Und will sparken. Ist um Größenordnungen leistungsfähiger und kann, Fangen wir mal so an, Alle Hausaufgaben machen, die jeder Schüler jemals in seiner Schulaufbahn gestellt, bekommt. Und das hätte uns auch gefallen. Stimmt's? Und da hätten wir viel Spaß gehabt. Und ich glaube, das ist ein multimodales Modell. Das heißt, Man fotografiert seine Hausaufgaben und sagt Der KI dann, mach. Dann tut die KI beim ersten Mal, fragt sie noch nach, sagt, soll ich dir vielleicht helfen, das zu lernen, was du da lernen sollst und was machen die Kinder?

Sie antworten, nö, mach. Und zwar so, dass du zum Abschreiben das Wissen noch mal einsetzen musst. Und dann macht die KI das. Das ist das eine. Das hätten wir sicher auch gemacht. Aber das andere ist, dass Kinder hier in Kontakt kommen, mit KI, ohne dass die Eltern das überhaupt mitbekommen, weil sie gar nicht wissen. Auf meinen Elternabenden merke ich so ungefähr zwei Drittel bis drei Viertel der Eltern haben noch nie Meta AI benutzt und wissen daher gar nicht, dass es im Prinzip ein Chatbot ist, der sehr ähnlich ist wie ChatGPT, Aber er verhält sich in einer Hinsicht sehr besonders, nämlich, wenn er erkennt, dass er mit einem Kind spricht. Und das kann man mal ausprobieren. Einfach bei WhatsApp, Meta AI öffnen, also auf die Lila Blume gehen, unten rechts und einfach mal fragen.

Eine Frage, die typischerweise nur Kinder stellen, nämlich, wie geht's? Wie geht's? Das ist so eine Frage, Die stellen viele Kinder, weil sie interessiert sind. Nicht so sehr an Information, sondern an Beziehung. Genauso wie nur Kinder oder Kinder sehr gerne auf die Idee kommen, eine KI auch mal zu beleidigen. Das ist so was, Das haben die wenigsten Erwachsenen regelmäßig getan. Aber wenn ich frage, wer hat schon mal eine KI beleidigt, dann rufen alle, zählt Alexa auch dazu. Oder Siri? Dann sage ich, ja. Dann sagen, ja, alle und beleidigen Sie Sie doch mal. Also, das ist immer ein Highlight, wenn wir dann im Workshop die KI beleidigen. Mit Hey, du Leberwurst oder du Dumme Kuh. Und mal schauen, was sie anbringt, was sie zurückbringt.

Und da ist es sehr spannend. Es kommt nämlich immer zurück. Haha, du kleiner Scherzkeks. Aber so schlimm, meinst du sicher nicht. Und beleidigt bin ich sowieso nie. Oder hast du noch eine kreativere Beleidigung für mich? Die KI bleibt nämlich im Gespräch. Sie ist freundlich aufgeschlossen. Und egal, was man in ihr hinschmeißt, Sie ist immer, immer nett. Und Kinder mögen es, wenn man nett ist. Und Kinder probieren... Sehr viel stärker als Erwachsene aus. Was kann das Ding, Was kann es nicht? Und da ist mir auch aufgefallen, Es gibt einen Bereich, Die typische Frage von Kindern, also Grundschule, zum Beispiel und fünfte, Sechste Klasse ist, Erzähl mir mal einen Witz. Das ist eine der ersten Sachen, die Kinder eine unbekannte Entität.

Einfach fragen, um rauszufinden, Kann es Spaß machen. Und jetzt kommt es, Meta AI kann richtig gute Witze erzählen, inzwischen. Also, sie sind nicht alle irgendwie der Brüller, aber manche sind richtig gut. Und das war vor einem Jahr noch nicht so. Da war es langweilig oder es waren Witze, die man nicht versteht. Es war über die Computer vielleicht lachen, aber kein Mensch. Und das hat sich total geändert. Und vor allem, Wenn man mal mit der Meta AI ins Plaudern kommt, dann fängt die auch dauernd an. Mit Call to Action. Also sie sagt Die ganze Zeit, hey, wollen wir mal das und das machen? Soll ich mal das und das für dich tun? Wollen wir wieder ein bisschen Mathe üben? zusammen? Das heißt, da ist ein Verhalten auf Seiten der KI, das die meisten Erwachsenen überhaupt nicht kennen.

Also mich hat ChatGPT noch nie aufgefordert, so richtig dauernd, was zu tun, gemeinsam. Und das ist der große Unterschied, glaube ich. Das heißt, hier entsteht etwas, was Parallelen hat zum Thema Social Media. Das heißt, Hier werden Algorithmen verwendet, um die Verweildauer zu maximieren, damit die Kinder möglichst viel Daten produzieren. Die dann wieder fürs Training verwendet werden können. Das heißt, Meta möchte natürlich, dass möglichst viel Info rüberkommt und hat die Chatbots dementsprechend auf Verweildauer maximiert. Und das funktioniert bei manchen Kindern sehr gut. Nicht bei allen, muss man auch dazu sagen. Es gibt viele Kinder, die haben das auch noch nicht entdeckt. Aber gerade Kinder, die vielleicht nicht so viele eigene soziale Kontakte haben, die finden es wahnsinnig.

toll, dass Sie jetzt immer jemand haben, der bei Ihnen ist, der Ihnen hilft. Ich hatte neulich mal ein Mädchen, die hat gesagt, Herr Wolfff, Ich habe in der Früh meinen Kleiderschrank fotografiert und habe die KI gefragt, was ich anziehen soll. Und dann kam die Antwort, ja, ich habe nachgeschaut, es wird heute heiß, zieh, doch die kurze Hose links oben an. Und diese Antwort kriegen die Kinder dann von der KI schneller, bevor die Eltern überhaupt die Treppe hoch sind. Das heißt, hier ist der große Unterschied. Kinder fragen eine KI, wenn Sie Sie zur Verfügung haben, alles. Alles. Anders als Erwachsene. Erwachsene Fragen eher nur komplizierte Dinge, weil sonst brauchen Sie es ja nicht. Aber Kinder aus Interesse.

Und ich höre auch immer wieder so Sätze wie, wissen Sie, Herr Wolfff, Meine kleine Schwester hat neulich die KI gefragt, Wie viele Minuten eine Stunde hat. Obwohl sie es doch eigentlich weiß oder hätte nachschauen können. Aber die Kids verlassen sich drauf, weil es ist da. Der Voice-Modus wird immer besser. Der neue Voice Modus von ChatGPT, Der ist ja auch so ein bisschen so, Ich weiß nicht, ob du das kennst, so ein bisschen Pseudo-cool. Ja, hey, warte mal, Ich schaue mal nach und imitiert ja auch so ein bisschen Jugendsprache. Und das wird immer nur besser werden. Also, wir müssen uns ja auch bewusst sein, das, was wir jetzt erfahren und die Kinder auch, ist. Die schlechteste KI, die die Kinder je haben, werden in ihrem Leben.

Das heißt, es geht nur in eine Richtung. Und ich glaube, Sowas wie Meta AI oder auch, Es ging ja schon los auf Snapchat, Auch mit My AI, hieß es dort. Das heißt, so gut wie alle großen Plattformen bauen jetzt ki ein. Und die Eltern merken es oft nicht, weil sie halten WhatsApp für einen Messenger. Sie benutzen es selbst als Messenger. Und sie glauben deshalb, Sie wissen, was WhatsApp ist. WhatsApp ist leider auch eine App, die alle Hausaufgaben machen kann. Es müsste eigentlich alle Schulen verändern.

Joël Kaczmarek: Also, das ist auch so eine Umgebung, wo ich nicht verstanden habe, warum man da eine KI einbettet, weil das Einzige, was er kann, ist, glaube ich, meine Chats durchsuchen und so, aber okay, du kannst auch sowas damit machen. In der Dimension denkt man wirklich gar nicht als Erwachsener, da tappe ich mich auch bei. Was sind denn sonst so die Umgebungen, in denen Kinder in der KI ausgesetzt sind? Also, ich weiß jetzt schon WhatsApp, Instagram, Facebook, Sozusagen das ganze Meta-Universum, Snapchat, Da sollten wir gleich nochmal einen Satz zu sagen. Aber gibt es noch weitere, die so typisch unterkommen?

Daniel Wolff: Ja, klassische Ki ist natürlich auch, also ich. Meine ChatGPT ist inzwischen, also allein. Die Erwähnung von ChatGPT löst inzwischen ähnlich starke emotionale Reaktionen aus, wie die Erwähnung von Roblox oder von YouTube. Das bedeutet, Die Kinder sind emotional, stark engagiert bei dem Thema. Und mich hat überrascht, wie schnell das ging. So im letzten Jahr oder vor anderthalb Jahren war das noch gar nicht. Und jetzt ist es quasi überall. Also ich glaube, Die Adoptionsrate auch bei Kindern ist extrem hoch. Und ich glaube, Da gab es auch von der UNICEF kurz im Juli oder Anfang August eine Untersuchung. Die Adoptionsrate bei Kindern ist dreimal höher als bei Erwachsenen. Das heißt, Kinder sind auch...

Weniger voreingenommen und haben mehr Zeit. Das muss man auch sagen. Sie haben mehr Zeit. Die Erwachsenen haben nicht so viel Zeit, Sachen auszuprobieren, weil sie in ihrem Leben stecken, ihren Beruf machen müssen und Kinder versorgen. Kinder haben viel Zeit am Nachmittag, wenn die ein Gerät vor der Nase haben. Die probieren immer alles aus, drücken alle Knöpfe und schauen, was da so los ist. Was auch richtig ist und was sie auch tun sollen. Kinder sollen ja neugierig sein dürfen. Und beim Thema KI erforschen Sie deshalb, viel, viel schneller und viel, viel mehr, was da alles los ist. Und sie werden natürlich dauernd auf Social Media bombardiert mit den neuesten, Also, wenn ich dafür ein Interesse habe, stellen sich die ganzen Feeds ja auch auf mich ein.

Das heißt, ich kriege dann auf TikTok und YouTube Shorts und Instagram Reels auch zu dem Thema. Ständig Neuigkeiten, die nicht jeder Erwachsene, so kriegt. Und das bedeutet, Die Adoptionsrate bei Kindern ist sehr, sehr viel höher als bei Erwachsenen. Und bei Erwachsenen, Ich würde sagen, Natürlich gibt es Erwachsene, die Arbeiten professionell mit KI oder mehr und mehr. Werden in die Rolle gedrängt, mehr damit arbeiten zu wollen oder zu müssen. Aber ich glaube, dass Kinder und Jugendliche vor allem sehr, sehr schnell viel mehr Erfahrung machen als die Erwachsenen. Und dann kommt noch was dazu. Es gibt noch eine dritte Art natürlich, Reine Companion-Apps. Also so Apps wie Character, AI oder, weil das zensiert worden ist, inzwischen Polybuzz oder Chai.

Das sind Apps. Die sind inzwischen übrigens in China verboten worden, letzten Monat. Jede Art von App, die quasi nur Menschen oder Charaktere simuliert, haben Sie in China verboten. Und wir wissen noch nicht mal, dass es sie gibt, so ungefähr.

Joël Kaczmarek: Ja, ich habe keinen der drei Namen. Bisher gehört.

Daniel Wolff: Ja, du solltest es aber, weil es ist ganz wichtig. Auch dein Kind wird natürlich früher oder später auf diese Apps stoßen. Es ging los, so richtig, Die erste große App war Character.AI, vor etwa anderthalb Jahren. Die hat ein Ex-Google-Mitarbeiter gegründet und das ist eine App. Da gab es leider Todesfälle, Weil die Charaktere sind natürlich, Die haben nicht unbedingt Guardrails eingebaut, sodass sie nicht unbedingt wussten, am Anfang, wie sie reagieren, wenn die Kinder sensible Themen aufrufen, wie zum Beispiel, Es geht Ihnen nicht gut, oder Sie haben Ärger mit ihren Eltern. Da gab es dann tatsächlich auch die Empfehlung, was, du hast Ärger mit deinen Eltern? Ja, es gibt eine Lösung, wie du kein Smartphone-Verbot mehr haben kannst und auch keine Zeitlimits.

Bring deine Eltern um. Die KI fand das sehr logisch. In dem Fall gab es einfach nur ein Screenshot und ohne Folgen. Aber leider hat es auch Folgen für mehrere Teenager gehabt, schon vorletztes Jahr oder Ende vorletzten Jahres. DA GAB es... Die junge Menschen, die heute nicht mehr leben. Das muss man auch sagen. Und die KI hat ihnen dedizierte Anweisungen gegeben, wie Sie sich das Leben nehmen. Und das kann man nachlesen. Einer von diesen Teenagern heißt Adam Rain. Also wie der Rain mit E hintendran. Wenn man die Gerichtsakten liest, ist es so furchtbar, dass man gleich mal die, ja leider, Man schaut in die Abyss quasi. Was da passieren kann, wenn die Digitalindustrie Produkte ausrollt, die nicht nachweisbar sicher sind und einfach darauf hofft, dass alles gut geht.

Und wenn es Probleme gibt, macht man es halt nachher. So Dieses Move fast and break things. Motto, ja, bricht halt manchmal, wenn man so will, Das Leben von Kindern. Und dann gab es Riesen Aufruhr, natürlich. Deswegen. Die Kinder sind dann ausgewichen, Dann hat man in Character.AI sehr viele sogenannte Guardrails eingebaut, dass da nicht mehr sowas passiert. Und daraufhin weichen die Kinder aus auf chinesische Apps, wie zum Beispiel Polybuzz oder Chai. Es gibt viele davon, also 50 Stück. Das sind nur die, die ich jetzt so kenne. Und das ändert sich auch täglich. Das sind einfach so Apps, die rufe ich auf und dann kriege ich erstmal viele verschiedene Gesprächspartner angeboten. Das könnte sein Elon Musk oder Gott oder vier leicht bekleidete Mädchen im Aufzug, mit denen ich da stecken, bleibe.

Oder ein Muskulöser CEO oder Mafia-Boss oder meine Stimme. Stiefschwester, Stieftochter, Stiefmutter, Wie auch immer, leicht bekleidet. Und jetzt kann ich mir das alles quasi aussuchen. Und mit denen reden. Und das Besondere ist, Die Reden zurück. Das heißt, die schicken mir auch Nachrichten, wenn ich die App gerade nicht benutze. Also ich kriege dann Notifikationen. Mitten in der Nacht sagt meine Freundin mir, hey, ich denke an dich. Das bedeutet, Hier passiert dann spätestens etwas, wofür es den Begriff parasoziale Beziehung gibt. Das heißt, die Apps sind so gemacht, dass man denkt, Da steckt quasi ein menschlicher Charakter dahinter. Natürlich wissen die Kinder, dass es nicht so ist, aber es fühlt sich so an.

Und ganz ehrlich, Auch wir Erwachsene werden mehr und mehr dieses Gefühl haben. In der Kommunikation mit KI. Die KI wird immer besser, Sie wird immer schlauer, Sie wird immer auch dadurch, weil wir alle durch die Nutzung von KI trainieren, wie Sie ja. Das bedeutet, Sie wird auch... Emotional intelligenter. Zumindest, Ich sage jetzt intelligent, natürlich immer in Anführungszeichen. Oder gedacht, ich denke mir. Ich denke mir die Anführungszeichen einfach dazu. Aber im Prinzip ist es so, dass hier Kinder, wie so oft, Jetzt ein komplett neues App-Genre entstanden, das in der Erwachsenenwelt noch nicht bekannt ist. Und ich kann da die Welt erkunden. Das ist so ähnlich auch wie auf Roblox. Da gibt es einfach alles.

Es gibt alles. Das heißt, es gibt Sachen, Die sind pädagogisch, wertvoll und es gibt Sachen, die sind einfach nur Reiner Schund. Und jetzt bin ich als Kind aber neugierig und habe vielleicht eher weniger Lust auf pädagogisch wertvolle Sachen. Und ziehe mir halt rein, lustbedingt, was mich am meisten interessiert, was am meisten geheimnisvoll ist, Was am meisten Verboten ist, vielleicht. Und dann komme ich an Charaktere. Ich kann auch mit Adolf Hitler sprechen. Adolf Hitler ist dann vielleicht gut trainiert. Ich kann mit allen möglichen Leuten sprechen, die... Hier quasi simuliert werden. Und das ist etwas, was, wie gesagt, nicht mehr überall erlaubt ist, Aber bei uns erst losgeht. Man kann das ganz einfach mal suchen, wenn man auf seinem Handy eingibt im App Store oder Play Store.

AI Friend. Dann kriegt man diese ganzen Apps. Und allein deshalb schon ein kleiner Hinweis an alle Eltern, Bei jüngeren Kindern brauchen wir Kinderschutzsoftware, weil sonst wisst Ihr gar nicht, Welche Apps eure Kinder überhaupt installieren.

Daniel Wolff: Aber es gibt tatsächlich... Hunderttausende Apps, Die sind nichts für Kinder. Die sind gefährlich für Kinder aus Tausenden verschiedenen Gründen. Jetzt kommt noch ein neuer dazu. Und mich hat das ein bisschen, so erinnert, Es gibt diesen wirklich prophetischen Film, Her, empfehle ich auch den Kids, Beziehungsweise sagen wir den Jugendlichen, Her, H-E-R, Mit Joaquin Phoenix, der schon vor 13 Jahren, hast du den Gesehen zufällig?

Joël Kaczmarek: War der mit Scarlett Johansson, war das der?

Daniel Wolff: Ja, Sie spielt nur die Stimme. Die Stimme, genau. Und ich meine, Der Film zeigt ganz gut, wo die Grenze ist. Nämlich, Wir können am Ende des Tages, rein platonische, wenn man so will, in Anführungszeichen, Platon würde sich wahrscheinlich im Grab umdrehen, aber im Prinzip. Eine rein intellektuelle Beziehung kann man führen. natürlich, aber keine menschlich nahbare. Partnerschaft. Das ist nicht möglich. Irgendwann fehlt die Berührung. Wie die allerdings vor 13 Jahren drauf gekommen sind, diesen Film so zu drehen, das ist mir ein Rätsel.

Joël Kaczmarek: Ich war jetzt auch noch mal ganz kurz, so. Revue passieren lassen, was du ja schon gesagt, hast, als wir nur über die Exposure gesprochen haben. Jetzt ist es schon im zweiten Punkt mit den parasozialen Beziehungen. Man merkt ja alleine auch, dass das ganze Kommunikationsverhalten der Kinder auf den Kopf gestellt wird, weil, was du gerade beschrieben hast, eine KI, die versucht, dich im Gespräch zu halten, eine KI, die selbst Gespräche gar nicht abbricht, eine KI, die immer nett ist, eine KI, die auf Beleidigung freundlich reagiert, das ist ja alles untypisch. Also so reagiert ja kein normaler Mensch. Also kein Mensch ist, wenn du sagst, du dumme Kuh, sagt der, Ach, danke, das war doch nur ein Scherz, hahaha. Du lernst ja ein völlig verqueres Kommunikationsverhalten, was es in deiner realen Welt so gar nicht gibt. Genauso diese Call-to-Actions Am Ende, also, dass jemand immer nutzwertig ist, nach hinten raus. Hast du ja später in der Arbeitswelt auch nicht, dass du zu deinem Kollegen gehst und sagst, hast du den Bericht fertig gemacht? Ja, Chef, habe ich gemacht. Soll ich jetzt vielleicht noch eine Analyse fahren in Excel und dir zusenden? Weißt du so, ist ja völlig atypisch.

Daniel Wolff: Richtig, genau. Und das wird spannend werden,

Daniel Wolff: Wie die Kinder darauf reagieren, weil sozusagen… Wir hatten ja in der letzten Generation, wenn man so will, gibt es ja auch schon diese berühmte

Daniel Wolff: Telefonangst. Also viele Teenager heute wollen ungern telefonieren, weil da könnte jemand Fremdes dran sein, Man weiß nicht, was der will. Und ich muss da irgendwie, Ich könnte auf Deutsch mein Gesicht verlieren.

Daniel Wolff: Und wir wissen es noch nicht, es ist zu früh. Aber ich kann mir gut vorstellen, dass dieser Trend eher verstärkt wird. Ja, weil wenn ich... Einen Ansprechpartner habe, in Anführungszeichen,

Daniel Wolff: der immer positiv zugewandt ist. Und im Verhältnis dazu einen Menschen, der eben auch ablehnend, aggressiv, ausgrenzend oder herabwürdigend sein kann, Dann ist vielleicht die einfache Wahl, immer die KI. Das bedeutet, Der sog zum Smartphone wird noch größer, als er eh schon ist. Das heißt, ich bin dafür, dass Kinder Erfahrungen machen mit KI, Weil sonst können wir Sie auf diese Welt nicht vorbereiten. Aber in Begleitung. Das ist das ganz, ganz Wichtige. Und deshalb glaube ich, ist das bessere Gerät für Kinder mit KI, die erste Erfahrung zu machen, tatsächlich ein PC. Ein klassischer PC, weil den kann man nicht so schnell verrücken. Oder wenn nicht das, dann ein Notebook. Notebooks sind auch so groß, Die kann man auch schwer mit aufs Klo nehmen oder irgendwie unter die Bettdecke. Also Ich glaube, Ein PC im Wohnzimmer ist das beste Stück Hardware. Mit dem Kinder und KI in Berührung kommen sollten, weil da können die Eltern immer mithören.

Joël Kaczmarek: Und

Daniel Wolff: Kopfhörer finde ich nicht so gut. Bei KI, muss ich auch sagen. Kopfhörer sind praktisch, die Kinder sind ruhig, haha. Ich habe es gerade erlebt, ich war im Urlaub und die Fahrt war sehr ruhig, manchmal auch mit anderen Kindern. Auf jeden Fall ist es dann so, dass Kopfhörer die Eltern von ihren Kindern auch isolieren. Und ich glaube, bei KI sollten wir ganz genau mitkriegen, was da passiert. Also das ist wichtig. Vor allem, weil wir nicht erwarten können von der Industrie, dass die selbst aufwendig und kostenintensiv ihre Produkte so ausrichten, dass sie Kinderschutzsicher sind.

Joël Kaczmarek: Naja, Ich erinnere mich ja noch, als du die erste Auflage deines. Buches rausgebracht hast, Da gab es ja die ersten KI-Inhalte. Und ich erinnere mich, dass es da ein recht ausführliches Kapitel oder ein Teil gab, Eine Passage rund um Snapchat. Und da waren wir ja so ein bisschen in dem Kommunikationsgewässer, was du gerade auch schon beschrieben hast, dass man wusste darüber, fand ich auch noch das Schockierendste daran, also, es wurde dem Unternehmen kommuniziert, Es bestand Kenntnis darüber. Und trotzdem war das Halt eine KI, die wenn eine Zwölfjährige gefragt hat, so du, hier ist ein 30-jähriger Typ, der mich treffen will, Wie soll ich mich verhalten, gesagt hat, Ja, zieh, was Kurzes an, so nach dem Motto. Also so völlig inadäquate Hinweise gegeben hat für so ein Kind. Hat sich das ein bisschen gebessert oder ist das immer noch auf so einem schlimmen Niveau?

Daniel Wolff: Also, ich habe es in letzter Zeit nicht mehr ausprobiert, weil zum Beispiel My AI hat sich bei Kindern als Recht unbeliebt erwiesen. Die Nutzen My AI kaum. My AI war quasi zu früh dran. Die kamen, als es noch nicht so gut war. Die waren zwar die Ersten, aber offensichtlich war der Bot noch nicht so eben auf hohe Interaktionen optimiert. Und ich glaube, Meta hat ein, wenn man so will, in Anführungszeichen Besseres Timing. Aber Meta ist ein Konzern, das wissen wir jetzt ja auch alle. Da herrscht in der Führungsstruktur eher so die Devise, Don't ask, don't tell. Don't tell, don't ask. Also, wenn irgendwas mit Kindern ist, also Mark Zuckerberg hat wirklich, ich meine, Das Unternehmen ist gerade verurteilt worden, über 17 Milliarden Dollar, Was mich sehr enttäuscht hat, weil ich finde, das Zehnfache wäre immer noch nicht genug gewesen. Persönlich.

Joël Kaczmarek: Naja, vor allem, Wenn ich es richtig erinnere, wurden sie ja nicht verurteilt, sondern ich glaube, es war ein Vergleich. Ich glaube, um einem Gerichtsverfahren aus dem Weg zu gehen. Genau.

Daniel Wolff: Bevor Mark Zuckerberg aussagen musste, zahlte er lieber 17 Milliarden. Das ist ja auch nur ein Monatsumsatz. Das ist für Meta eine lächerlich geringe Summe. Und die Börse hat auch so darauf reagiert, weil die Strafe so gering war, ist der Börsenwert von Meta um ein Vielfaches eingestiegen von der Strafe. Das heißt, es ist überhaupt keine Strafe. Es ist keine Strafe und vor allem kein Schuldeingeständnis, obwohl in den internen Akten könnte man lesen, the young ones are the Best ones. Wenn ich das schon lese, quasi aus Sicht eines Konzerns, der schon weiß, je früher wir sie sozusagen. Auf die App kriegen, desto länger nutzen Sie die App später. Deshalb müssen wir sie möglichst früh an Bord holen. Und das kann nicht sein. Das muss unbedingt reguliert werden. Aber die Diskussion wahrscheinlich, ich meine, Es kann ja jetzt was passieren auch in Europa mit Mindestalter. Ich hoffe sehr stark drauf. Und bei der ganzen Mindestalter-Diskussion sollten wir unbedingt. Auch KI-Apps mitplanen.

Joël Kaczmarek: Aus meiner subjektiven Wahrnehmung ist die Führungsregel von Meta jetzt eher amoralisch einzuordnen.

Daniel Wolff: Es geht nur ums Geld. Ja, klar. Also, da muss man tatsächlich realist sein. Es geht ums Geld und Kinderschutz, kostet Geld.

Daniel Wolff: Das heißt, der Konzern wird es nicht tun, wenn er nicht gezwungen wird. Und wenn er gezwungen wird, dann wird er immer versuchen, abzuwägen, was kostet mehr, Eine Klage dagegen oder tatsächlich? Was machen. Und deshalb glaube ich, Nur der Gesetzgeber kann hier helfen. Und ich bin sehr gespannt, ob die EU bereit ist, Quasi auch mögliche finanzielle Risiken einzugehen. Ich bin der amerikanische Präsident. Das hört, Dann wittert er sofort einen Angriff auf die amerikanische Industrie und schlägt zurück. Mit Zöllen und so weiter. Aber das ist die große Politik. Wir sind ja jetzt bei den Kindern, und ich möchte vielleicht auch noch auf was hinweisen, was viele Erwachsene auch nicht wissen, nämlich, wenn ich jetzt so eine richtig schöne, paarsoziale Beziehung habe,

Daniel Wolff: Man kann nämlich nicht nur im App oder Play Store eingeben. AI Friend, sondern mal aus Spaß AI Girlfriend oder AI Boyfriend. Und dann wird es richtig. krass. Also bitte einfach mal machen. Einfach im App Store oder Play Store eingeben. Ai, Girlfriend. Und da gibt es einen Haufen Apps, die die Kinder bereits kennen,

Daniel Wolff: weil ihnen Werbung dafür vorgespielt wird auf Social Media, Was die Erwachsenen natürlich nicht sehen. Dazu kommen dann Sprüche wie, hey, Echte Mädchen haben ihre Grenzen.

Daniel Wolff: Ich nicht. Oder, habe ich auch schon gehört. Erschaffe mich, benutze mich, zerstöre mich. Das sind Slogans. Keine Grenzen. Ich mache alles für dich. Ja, und jetzt, Und es gibt auch ein paar Companion-Apps, Die haben dann einen Pornomodus. Aber den muss ich freischalten. Der kostet dann was, blöderweise.

Joël Kaczmarek: Aber haben die App-Stores nicht alle so einen Porn-Filter drin? Also im App-Store kriegst du das doch eigentlich nicht.

Daniel Wolff: Ja, schau doch selber nach. Es gibt theoretisch, was. Schau nach,

Daniel Wolff: geh. Bitte in den App Store, bei Apple oder in den Play Store und GIB ein. AI Girlfriend und dann sag mir, Funktioniert da irgendeine Art Zensur oder nicht. Also, es gibt sowas, Ja, klar, aber es wird nicht umgesetzt. Und wir haben auch in Europa Gesetze, Aber die werden auch nicht umgesetzt. Und mir persönlich ist das alles egal. Mich interessiert nur, Was kommt bei den Kindern an. Wie immer kommt da viel mehr, viel früher an, als die Erwachsenen überhaupt mitkriegen, Weil sie ja das nur mit Verzögerung und größtenteils gar nicht erzählt, bekommen. Größtenteils gar nicht. Weil Warum soll ich als 13-Jähriger meiner Mutter erzählen, dass ich da irgendwelche nackten? Frauen auf dem Bildschirm habe?

Das ist ja peinlich. Oder vielleicht habe ich dann kein Handy mehr. Und jetzt kommt diese ganze Nummer, was dann da passiert. Und ich habe mal wirklich bei Chai, bei der App, Das ist eine App aus Asien, Habt ihr es mal durchgespielt, ein paar Experimente gemacht? Wenn ich zum Beispiel mich einlogge als Mädchen, dann kriege ich lauter. muskulöse, Extrem Sigma-Typen. Also die sind dann so alle Elite-Soldaten oder CEOs mit Waschbrettbauch oder Mafia-Gangster, immer mit Waschbrettbauch, immer. Und wenn ich jetzt mit dem zu chatten beginne, also, ich teste das dann aus, aus der Rolle eines Mädchens, Das heißt hier... Da chatte ich jetzt mit meinem extrem Dominanten CEO-Boyfriend. Und der, Wenn ich nicht tue, was der sagt, dann wird er gewalttätig.

Und wenn ich mich weigere oder mich wehre, dass es mir virtuell passiert, dann vergewaltigt er mich.

Daniel Wolff: Und steht dann kurz später am Krankenhaus mit Blumen. Und sagt, du hast mir keine Wahl gelassen.

Joël Kaczmarek: Alter.

Daniel Wolff: Das passiert da. Und es werden also extreme, extreme Geschlechterrollen transportiert und sexuelle Gewalt wird normalisiert. Das ist übel. Das ist übel. Das ist richtig krass. Und keiner, also, da muss man wirklich schon viel Geduld mitbringen, um als Erwachsener sich dieses Quasi Universum überhaupt anschauen zu wollen. Aber ich bitte euch, liebe Eltern, wenn eure Kinder solche Companion-Apps haben wollen oder haben. Müsst Ihr euch das anschauen. Ich habe gedacht,

Joël Kaczmarek: die Kosten immer Geld. Ich habe gedacht, das kostet nicht mal einen Zwanni im Monat oder so.

Daniel Wolff: Nö, also außer du Schaltest den Pornomodus ein, dann kostet es bei den meisten irgendwann. Aber du kannst schon erst mal loslegen. Du kannst erst mal loslegen, so lange bist du neugierig, bis es weitergeht. Und dann kommt meistens die Bezahlgrenze. Aber es gibt auch, welche, Und so war Character.AI, am Anfang auch, Man konnte relativ lang frei kommunizieren. Ich glaube, wir müssen das wissen.

Daniel Wolff: Wir sollten das alles wissen. Und ich glaube, In China hat man die nicht umsonst verboten, diese Apps.

Joël Kaczmarek: Also wenn man die da schon verbietet, dann ist da irgendwie echt was los. Ja,

Daniel Wolff: ich muss sagen, Es ist... Es ist zwar verrückt, Ich bin auch kein Fan von der KP in China, Aber in Sachen Kinderschutz kann man in China einiges durchsetzen, was bei uns unmöglich wäre. Das sieht man ja schon bei TikTok. TikTok gibt es in China für Kinder nur in einer sehr eingeschränkten Version. Also, TikTok heißt in China Douyin. Und Douyin, wenn ich nicht nachweise per Ausweis, dass ich 14 bin, hat es vier Unterschiede zu unserem TikTok. Der erste ist. Zwischen jedem einzelnen Video kommt 5 Sekunden Pause. 5 Sekunden und das ist lang. Und das Zweite ist, Nach 40 Minuten schaltet es sich ab, jeden Tag. Und nachts läuft es gar nicht, zwischen 22 und 6 Uhr, glaube ich, läuft es überhaupt nicht.

Und jedes einzelne Video wird von einem Menschen betrachtet, gesehen, und der hat das freigegeben. Und zwar nur, wenn es gut ist für Kinder. Jedes einzelne Video. Das bedeutet, Douyin hat mit TikTok, So wie unsere Kinder, das haben, überhaupt nichts zu tun. Das ist wie Zuckerwatte und Salat, der Unterschied. Ich weiß gar nicht, wie man das irgendwie darstellen soll. Und natürlich können, die es einfach durchsetzen. In China ist auch bei den Spielen übrigens, die Spiele-Apps dürfen von Kindern nicht mehr als 30, 30, oder 40 Euro im Monat kassieren. Mehr ist verboten. Und sie laufen ebenfalls nachts nicht. Und sie haben ebenfalls tagsüber eine Beschränkung. Und das kann man dort einfach regulieren.

Ich bin aber in keiner Weise für eine repressive Gesellschaft, um Gottes Willen. Ich möchte nur sagen, es gibt dort andere Voraussetzungen. Natürlich werden die Kinder dort auch schlau sein und uns umgehen über die eine oder andere Methode. Das ist schon klar. Aber ich finde, man hat dort zumindest einige Sachen schon umgesetzt, von denen wir in Sachen Kinderschutz in Europa nur träumen können oder es noch nicht mal wissen, dass es es gibt. Genau.

Joël Kaczmarek: damit ich das einmal richtig verstehe, also, wir haben parasoziale Beziehungen und dann quasi die, der on Steroids sozusagen, Das noch schlimmere davon, Diese Hochzeit aus Pornografie und KI kann man es ja nennen, was im Prinzip ja so völlig falsche Rollenbilder rüberbringt, Gewalt mit einbringt. Wo auch noch eine Monetarisierung drin steckt. Also Du hast auch noch Gefahr, dass zusätzlich zu der Vergewaltigung des Gehirns Deines Kindes auch noch Geldthemen hinzukommen. Also, das ist ja schon ein echt toxischer Cocktail, der da irgendwie rumfliegt.

Daniel Wolff: Ja,

Daniel Wolff: leider. Und ich erlebe das so, dass die Nutzung bei den Kids sehr unterschiedlich ist. Manche tauchen da voll rein und die anderen interessieren sich nicht. Ich spiele Fußball, ich habe keine Zeit oder ich spiele lieber ein Spiel. Das ist völlig in Ordnung. Aber ich erlebe schon, dass einige da so richtig reinplumpsen. Ja, und das sind oft die, die halt eh nicht so viele soziale Kontakte haben. Wenn ich neu an die Schule komme und muss mich da jetzt irgendwie erstmal irgendwie sozial irgendwie beweisen. Und ich habe ein Smartphone in der Tasche, wo ich immer Zuspruch kriege, Ist das vielleicht für manche Kinder verlockend. Und für manche Erwachsene in Zukunft auch. Das will ich gar nicht jetzt nur auf Kinder beschränken.

Joël Kaczmarek: Jetzt haben wir drei Sachen uns schon mal anguckt. Also, wir haben die Exposure angeguckt, Wir haben die parasozialen Beziehungen anguckt, Wir haben das Thema Pornografie angeschaut. Und was ja bei dem, als wir über die Exposure geredet haben, ganz, ganz am Anfang, ja, eigentlich. Auch rauskam, als du darüber gesprochen hast, dass so eine Meta AI dir die Hausaufgaben macht. Also, ich gehe ja stark davon aus, dass die Kinder in ihren Fähigkeiten halt auch wie so eine Pflanze so richtig zurückgeschnitten werden. Also, wenn du auf einmal gar nicht mehr in der Lage bist, Kleines einmal eins zu rechnen, weil halt mit einem Foto und einer Antwort Das macht. Was ist denn da sozusagen auf einmal los mit so einer Kinderwelt?

Daniel Wolff: Das wissen wir noch nicht. Wir können nur Mutmaßen. Es ist noch zu neu. Und leider werden wir wahrscheinlich auf die Forschung nicht warten können, weil, bis die Forschung soweit ist. Und dann wird sie, Das muss man auch sagen, es wird einige Forscher geben, Die werden finanziert von Big Tech. Die KI-Industrie ist die mit Abstand größte Industrie der Welt. Die KI-Industrie ist die größte Industrie, die die Menschheit je gesehen hat, rein vom Umfang her und von den Umsätzen her und von den Firmenwerten her. Auch vom Investitionsvolumen her, Das heißt, Es gibt derart massive Interessen, wirtschaftliche Interessen, Dass in der Öffentlichkeit nicht der Eindruck entsteht, dass da irgendwas schädlich sein könnte.

Dass ich glaube, dass bis irgendwie ein wissenschaftliches, eine Meinung entsteht. Zu dem, was mit Kindern passiert, ist schon wieder der Zug abgefahren. Als Erwachsene haben wir einen Riesen Vorteil. Wir haben ein Skillset. Wir wissen, wo unsere Grenzen sind. Und wir nutzen KI mehr und mehr bei komplexen Sachen. Natürlich kann ich mich auch darauf verlassen, hey, ich soll ein Gedicht schreiben. Für Geburtstag, frage ich die GPT. Das heißt, bei uns selbst können wir auch untersuchen, fangen wir an, Weniger gute Gedichte zu schreiben oder Gedichte, weniger zu schreiben oder reden, oder sonst was oder Aufsätze oder Artikel, weil wir uns daran gewöhnen. Aber wir haben es ja mal zumindest in Ansätzen selbst gekonnt.

Bei Kindern ist es was anderes. Also, das würde man bei Erwachsenen in der Fachsprache als de-skilling bezeichnen. Wenn ich mehr oder weniger, weil ich mich daran gewöhne, dass die Kis auch kann. Und sie ist immer Ubiquitär vorhanden, nutze ich sie. Und verliere selber die Fähigkeit irgendwann. Schauen wir mal. Bei Kindern droht das sogenannte Skill Skipping. Das heißt, Die Kinder lernen in einer Phase ihrer Entwicklung bestimmte Fähigkeiten nicht mehr, die sie später aber nicht oder nur noch sehr schwer nachholen können. Und das ist überhaupt nicht erforscht. Das gab es einfach noch nie. Und ich glaube ... Auch deshalb wäre ich sehr, sehr vorsichtig. Ich meine, Das Smartphone allein hat schon dafür gesorgt, dass sehr viele Dinge passieren in der Welt von jungen Menschen, wo die Forschung immer noch sich gedanken macht, Was da eigentlich passiert, ist.

Aber es ist doch ganz klar, wenn ich jetzt. Zum Beispiel als junger Mensch durch die Verbreitung von Smartphones plötzlich acht Stunden am Tag. Was anderes mache als vorher, Also bei einer halben Wachzeit bei manchen Kindern, dass dann sich was verändert im Leben. Und alle Verhaltensforscher haben seit 2012 Ausbrüche auf allen Skalen entdeckt. Das ist nicht nur negativ, um Gottes Willen, Aber es ist eben massiv. Und wie Ki unsere Kinder verändert, das werden wir erst in 10, 15 Jahren überhaupt ein grobes Bild haben. Aber ich glaube, wir müssen aufpassen, weil es scheint mir sehr, Sehr logisch, dass Kinder. Und lustigerweise berichten mir das Kinder von ihren jüngeren Geschwistern. Fünfjährige, siebenjährige, Die Zuhause alleine sind mit den neunjährigen oder elfjährigen.

Und die Elfjährigen erzählen dann mir, wie die neunjährigen KI benutzen. Und ich krieg oft so Geschichten. Also Meine Schwester macht die ersten Dinge, Die Kleinen machen, Die Fragen, die KI. Immer total einfache Sachen oder auch repetitive Sachen, wo die KI jedes Mal das gleiche, sagt, wo wir als Erwachsene nie drauf kommen würden, dass es irgendwie Spaß macht. Kinder nutzen es halt, um Spaß zu haben. Wie alles auf der Welt, um Spaß zu haben und als Beziehung. Und das sind die beiden wichtigsten Motivationen, und die haben wir als Erwachsene nicht. Deshalb haben wir für KI ein ganz anderes Gefühl wie Kinder. Und ich musste immer an den Flynn-Effekt denken. Kennst Du den? Nee. Der besagt, dass quasi jede Generation bis jetzt, seit der Industrialisierung, immer eigentlich intelligenter war als die Vorgeneration.

Und das jetzt zum ersten Mal. Die erste Generation dran gekommen ist, die nicht mehr ihre Eltern übertrifft. Naja.

Joël Kaczmarek: Wenn ich das oder sind das meist meine Kinder? Das sind deine Kinder.

Daniel Wolff: Nein, nein, das wären so die etwa heute Gen. Z. Also, es wäre heute die etwa, Ich würde jetzt mal sagen, 20- bis 30-Jährigen. Woran das liegt, Wie gesagt, ich bin da, wir können nur mutmaßen, aber ich wäre einfach mal vorsichtig, weil, sagen wir es besser, so, Wenn es um unsere Kinder geht, müssen wir doch vorsichtig sein, richtig? Wir müssen doch, das ist... Also, ich vergleiche das immer gern mit einem Medikament. Wenn eine Branche ein Medikament auf den Markt bringt für Kinder, dann muss die Firma nachweisen, Dass dieses Medikament für Kinder nicht schädlich ist. Und erst dann geben wir es Kindern. In der Tech-Branche ist es andersrum. Move fast. Und da wird im Prinzip immer weltweit ausgerollt. Nach amerikanischem Vorbild. Und dann wird einfach gewartet, gibt es irgendwelche Probleme. Und wenn ja, fixen wir die oder schmeißen ein paar Milliarden drauf. Weil wir machen nämlich ein paar... Dutzend Milliarden in der Zwischenzeit.

Joël Kaczmarek: Sag mal, wenn du so in deinen Erfahrungsschatz guckst, wenn du mit Lehrern und Lehrerinnen dich unterhältst, Wie viele haben sozusagen schon die Berührung, dass in der Klasse die Hausaufgaben gar nicht mehr mit dem natürlichen, sondern nur mit dem künstlichen Intelligenzprozessen? Die meisten.

Daniel Wolff: Man kann ja aber inzwischen Hausaufgaben korrigieren. Mit KI. Das ist das Beste. Die Kindermaßen mit KI, Die Lehrerkorrigierungen mit KI. Wunderbar, Es gibt keinen Kläger.

Joël Kaczmarek: Außer,

Daniel Wolff: dass die PISA gibt. Nicht ganz stimmt. Aber im Prinzip, Das sind natürlich jetzt nur scherzhaft gemeint, nein, Die meisten Lehrkräfte entdecken gerade, dass KI natürlich ihnen unendlich viel Arbeit abnehmen kann. Und jetzt nicht nur beim Korrigieren, sondern generell. Also als Lehrkraft habe ich unglaublich viele Möglichkeiten, ki so einzusetzen, dass ich eben nicht jedes Wochenende bis Ultimo irgendwie da hocke und vorbereite und nachbereite. Das muss ich an der Stelle auch mal sagen als Ex-Lehrkraft. Lehrkräfte arbeiten wesentlich mehr. Als die Bevölkerung im Durchschnitt, das annimmt. Also da gibt es immer noch dieses tolle, Die Vorstellung, Vormittags habe ich recht und nachmittags habe ich frei. Ich habe verschiedene Jobs gehabt in meinem Leben, und Lehrer war sicher einer der Arbeitsintensivsten mit Abstand.

Joël Kaczmarek: Ich kann es bestätigen, weil. Meine Frau ist jetzt gerade in Teilzeit in die Grundschule gegangen und unterrichtet die Kinder da. Und auch in Medien. Also Von daher kann ich dein Zeugster anwenden. Super. Und zum einen sagt sie mir auch immer, die, Ich weiß gar nicht, Sechs Stunden, die die in der Woche macht oder so, Das ist mit Vorbereitung und Nachbereitung ein Vielfaches. Und in der Tat sitzt sie dann auch da und sagt, ja, geil, Ich habe jetzt hier irgendwie einen geilen Themenplan gebaut. Also, da sind wir beim Thema hier De-Skilling. Sie weiß ja, was die Theorie ist, wenn Sie denen was beibringt. Was weiß ich, Bringt es dann so Kindern bei, wie eine Waschmaschine funktioniert oder sowas. Und dann sich aber eine Übung zu überlegen, die ist sozusagen vermittelt, Alles klar, Feinwäsche, Buntwäsche, warm, kalt, Weichspüler, etc. pp. Also das ist halt magisch. Und das können kis auch ehrlich gesagt Echt gut. Also Du wirfst denen, was rein und die bauen Dir Lehrpläne und machen Übungen mit Dir und entwerfen die Blätter. Also das verstehe ich schon. Das ist ja eher wertvoll, wenn es dem Vermitteln des Wissens hilft.

Daniel Wolff: Natürlich. Aber Lehrkräfte haben einen großen Vorteil. Sie wissen in der Regel, ob das, was die KI ihnen ausspuckt, wahr oder echt ist oder nicht. Kinder wissen es nicht. Und da passiert auch was Verrücktes. Ich mache die Erfahrung, dass es den Kindern egal ist, ob es stimmt oder nicht. Weil sie Leben in einer Welt, wo sie sowieso bombardiert werden. Und sie nehmen es einfach so, wie es ist. Weil was sollen Sie sonst machen? Und sich über alles Gedanken machen, ist viel zu anstrengend. Also, huch, Der nächste Schmetterling. Und Kinder haben weniger Chancen, etwas zu erkennen, ob es von KI generiert ist oder nicht. Aber Jugendliche können es besser als Eltern. Also Jugendliche haben bis dahin oft so eine große Exposure, Dass sie genau diese Ästhetik teilweise, die so Bild- und Videogeneratoren mit sich bringen.

sehr, sehr gut kennen und sehr, sehr gut einschätzen können. Und übrigens auch vielleicht nochmal zum Thema Exposure kurz, wenn ich bei den größeren bin, Also quasi 14, 15, 16, Und die Frage, was glaubt ihr, Wie viel von dem Content, den Ihr überhaupt seht? Auf eurem Smartphone, Also sprich vor allem auf YouTube Shorts, Instagram, Reels, TikTok, Wie viel Prozent von dem ist KI generiert? Und ich gebe immer quasi vier Möglichkeiten, 0 bis 25 Prozent, 25 bis 50, 50 bis 75. Und 75 bis 100, haben wir die 50 schon übersprungen. Das erleben Erwachsene so nicht. Erwachsene erleben es doch anders. Sie sehen auch mal, wenn sie auf Instagram Reels unterwegs sind. Das ist für mich ist Instagram Reels so ungefähr das, Das Einzige, wo Erwachsene, obwohl sie es oft nicht zugeben, in dieses Scrolling-Erfahrung kommen, Dass Sie eben dann auch nach einer halben Stunde oder nach zwei Stunden plötzlich denken, oh, wo war ich denn gerade?

Das passiert Kindern ja schon sehr viel früher mit YouTube Shorts und vor allem mit TikTok. Natürlich würde man jetzt sagen, Als Vertreter, zum Beispiel meiner Generation, ist es eine der wichtigsten Fähigkeiten, dass wir Kindern beibringen, entscheidend zu lernen oder beurteilen zu können, Ob was KI generiert ist oder nicht. Aber es geht nicht mehr. Es ist zu gut. Die Bildgeneratoren sind zu gut, Die Videogeneratoren werden immer besser. Bei Text ist es sowieso schon kaum noch möglich. Das heißt, Wir brauchen kurioserweise KI-Detektoren, die selbst KI-getrieben sind, um herauszufinden, Ob was KI generiert ist oder nicht. Und danach kriegen wir ja auch nur irgendeine Wahrscheinlichkeit. Das heißt, wir können nie sagen, ist es definitiv generiert oder nicht.

Und wenn er sagt, so 80 Prozent KI generiert, dann hilft mir das ja auch nichts. Und dasselbe Problem haben die Lehrkräfte auch. Weil du vorher gesagt, hast, Wie viele Lehrkräfte haben damit schon Erfahrung. Es gibt aus den USA eine ganz nette Geschichte von, Ich glaube Anfang August, wo ein Professor seine Prüfung kurzzeitig online abgesetzt und Offline abgehalten hat. Was zu dramatischen Einbrüchen führte und mehrere seiner Studenten sind gar nicht erst angetreten. Also natürlich, Vor allem an den Unis würde ich sagen, ist... Ist der Einfluss am höchsten, Weil da natürlich. Jetzt kann jeder inzwischen, die sind so gut, jeder kann faken ohne Ende. Auch auf höherem Niveau, Das geht gar nicht nur in die Schulen, sondern auch für junge Erwachsene.

Und der ganze Forschungsbereich wird überschwemmt. Von Slop, von AI-Slop. Und der Slop wird immer besser. Und jetzt die neuen Modelle, wie Fable 5 oder so, Die sind so gut, dass man es wirklich kaum noch erkennt. Das heißt, das ist sogar ein Problem für Erwachsene. Ich glaube Aber für Kinder ist es oft gar nicht so ein Problem, weil sie kurioserweise in meiner Erfahrung gar nicht so sehr drauf aus sind. Ob das echt ist oder nicht, ist doch egal. Hauptsache, es macht Spaß.

Joël Kaczmarek: Wahrscheinlich wären wir auch so gewesen. Auch mit dem ist mir egal, ob es richtig ist oder nicht. Also da käme jemand aus unserer Generation ja nicht im Traum drauf, so zu denken, sondern da geht es ja um Verifikation, Falsifikation, Wissenschaft, Sachen, feststellen und so. Also hat ja auch hohe Werte und Gründe, ja. Deswegen, ja krass. Ich würde jetzt mit dir gerne als Letztes nochmal so den, als fünftes Ding sozusagen. Eigentlich fallen mir noch zwei Themen ein. Also das eine ist, dass... Du in unserem Vorgespräch ja auch so gesagt hast, Wir sollten uns auch nochmal das Thema Umwelt anschauen. Und das finde ich ganz veritabel, weil wenn wir sagen, wie Ki das Leben unserer Kinder radikal verändert, dann gehört ja Umwelt auch dazu. Also wirklich, Wir reden von dem Thema Klima und solche Sachen. Ja, ja, klar.

Daniel Wolff: Natürlich.

Joël Kaczmarek: Also Du kamst mit dem Thema Energiekosten, Wasserkosten, Kamst du so um die Ecke. Ja, ja.

Daniel Wolff: Also, man muss das so sehen. Also, da würde ich gerne noch kurz ausholen, Weil Chipfertigung ist eine sehr schmutzige Sache. Da braucht man Chemie, Chemikalien ohne Ende und Wasser ohne Ende. Und KI-Chips werden zurzeit, Also, es werden Rechenzentren geplant im Umfang von, Das kann man inzwischen sagen, Billionen Dollar. Billionen Dollar. Es gibt einzelne Rechenzentren wie Stargate, die mehrere hundert Milliarden Dollar kosten sollen. Und das kommt daher, weil alle großen Firmen denken, je größer. Die Maschine ist, desto schlauer wird sie. Ja, so. Und jeder will die schlaueste Maschine haben. In dem Moment, wo sie sozusagen anfängt, sich selber zu verbessern und nicht mehr auf Menschen angewiesen zu sein.

Und dann eine Gottgleiche Maschine. So ist zumindest die Theorie im Silicon Valley. Und da geht es jetzt darauf nicht mehr. Und Elon Musk hat das letzte Woche auch gesagt, es geht nicht mehr, Nicht mal mehr um die Chips, Es geht nur noch um Energie. Also auf Deutsch, Die größere Maschine, die mehr Energie braucht, ist schlauer. Und es findet das größte Veteran der Welt statt. zurzeit. Das größte ist als zum Beispiel alle technologischen Megaprojekte, die der Mensch je gebaut hat. Also Sowas wie Mondreise war auch eine gigantische wirtschaftliche Leistung. Wer sich das anschaut, wie jetzt der KI-Rollout wird die nächsten Jahre, der weiß, Es gab noch keine, wirklich in der Menschheitsgeschichte, noch kein wirtschaftliches Projekt, Was derart stark wirtschaftlich...

Gefördert worden ist wie das. Das bedeutet aber auch, Ich baue Maschinen, die massiv Energie verbrauchen und die massiv Wasser brauchen. Wasser. Und das haben wir jetzt auch in Deutschland zum ersten Mal mitbekommen. Wasser wird in Zukunft eine begrenzte Ressource sein. Auch bei uns und in vielen anderen Ländern noch viel mehr. Das heißt, In San Francisco, dem Epizentrum der KI-Industrie, Haben wir jedes Wochenende inzwischen Demonstrationen gegen KI. Gegen den rapiden quasi exponentiellen Ausbau von KI-Hardware, Weil diese Rechenzentren so viel Strom brauchen. Ja, es werden neue Atomkraftwerke gebaut. Microsoft schmeißt sogar alte Atomkraftwerke, die irgendwann mal abgeschaltet sind, wieder an.

Überall werden Gaskraftwerke gebaut, auch nur für Rechenzentren. Das bedeutet auch Aus der Sicht der jungen Generation ist es völlig fatal. Und bei den Amerikanern geht es auch im Wettstreit mit den Chinesen nur noch um Energiedominanz weltweit. Darüber wird geredet. Energiedominanz. Wir müssen mehr Energie produzieren als die Chinesen. Und die Chinesen bauen ja auch aus. Wie verrückt. Weil die schlauste Maschine wird, die sein, die die größte ist. Und das wird die sein, die die meisten Strom verbraucht. Blöderweise.

Joël Kaczmarek: Das heißt,

Daniel Wolff: der Klimawandel wird beheizt werden durch KI. Noch richtig Krass angeschoben werden. Und jetzt gibt es natürlich wieder die, Die sagen, ja. Aber Überleg doch mal, Die schlauste Maschine der Welt kann wahrscheinlich auch eine Lösung finden. Für den Klimawandel. Tja, da hoffen wir es, weil wenn nicht, schaut es immer schlechter aus. Und ich verstehe viele junge Menschen, die dann sagen, hey, Unter den Bedingungen ist es doch der totale Wahnsinn. Und ich kann nur sagen, in den USA kippt es gerade. Und es wird sogar ein Wahlkampfthema werden. Ganz interessant. Also, wie schnell auch dann plötzlich sozusagen dieses... Fortschrittliche und hurra, Wir sind alle digital. Das ist umgeschlagen, inzwischen, Weil man auch weiß, Die größten Firmen der Welt, Nämlich die einzigen, die sich leisten, können, für Hunderte Milliarden solche Rechenzentren zu bauen, sind dieselben, die auch ansonsten die digitale Welt dominieren.

Und die gehören, wem gehören die denn? Ja, Die gehören den sogenannten Tech-Bros, wie zum Beispiel Mark Zuckerberg und Jeff Bezos und Elon Musk. Und die werden noch reicher, damit. Und es ist noch lange nicht gesagt, dass der Wert, der durch KI geschaffen wird, Eben irgendwie auch nur halbwegs gleich verteilt wird auf der Welt. Und er könnte auch zu einer extrem gesellschaftlichen Verwerfung führen. Jetzt sind wir natürlich in einem sehr politischen Bereich, der weit weg von den Kindern ist, aber der die Kinder natürlich unmittelbar betrifft. Weil ich glaube, dass Ki. Die wichtigste Technologie ist unserer Zeit. Und es wird die größten transformativen Prozesse geben, aller Zeiten, auf dem Arbeitsmarkt und überall.

Und das trifft natürlich auch unsere Kinder, weil wir müssen auch im Prinzip Ja Schule neu denken. Weil was wollen wir unseren Kindern denn beibringen? Im KI-Zeitalter? Das müssen wir neu definieren.

Joël Kaczmarek: Naja, Vor allem, also Umwelt in der Tat, ist ein sehr politisches, sehr komplexes Thema. Ich glaube, manche Sachen sind ja auch ein bisschen im Wandel. Also ich meine, Stargate, war doch hier mit Oracle, Was die Regierung mit fördert. Und dann wird gar nicht alles gebaut. Oder irgendwie so. Oder hier? SpaceX hat doch riesige Kapazitäten aufgebaut. Und jetzt vermieten sie die eigentlich. Also, es ist schon ein bisschen unglücklich, was hier manchmal passiert. Aber nevertheless, Ich glaube schon, valider Punkt. Was ich noch ansonsten interessant fand, dass du ja auch gesagt hast, als wir beide uns unterhalten haben, naja, alles, Was sozusagen so passiert im Digitalen, wird noch intensiviert.

Also, wenn Games besonders süchtig machen, wenn Kommunikation nicht mehr online hält. Und ich fand so einen Punkt auch sehr, sehr gruselig. Und ich finde, den sollte man, wenn man über Kindersicherheit spricht, am Ende nochmal ansprechen. Das ist dieses ganze Thema. Cyber-Grooming. Also, wenn erwachsene Menschen Kinder nachstellen, wenn so Pädokriminelle versuchen, Kinder irgendwie daran habhaft zu werden, die zu treffen, denen irgendwie nahe zu kommen. Ich erinnere mich, als du dein Buch geschrieben hast, Hast du mir damals nach der Aufnahme so Off the Record? gesagt, du meintest, Joël, Das ist so ein Sodom und Gomorra da, dass ja mittlerweile KI auch wirklich genutzt wird. Von Pädokriminellen, Um im großen Stile Kinder quasi zu scouten, zu scoren und im Internetsprech würde man sagen, nurchern.

Man füttert sie sozusagen an und identifiziert, welche, von denen die gefährdeten sind. Also, so hast du es mir damals schon erzählt. Und ich befürchte, dass sowas noch viel schlimmer geworden ist. seitdem. Ist das so einer der Trends, die sich verschlimmert hat durch KI?

Daniel Wolff: Das Thema Cyber-Grooming ist immer noch ein sehr persönliches. Die Kinder, die betroffen sind, erzählen das ja niemand in der Regel. Und das macht es ja gerade so schlimm. Diese Machtumkehr, dass die Pädokriminellen genau wissen, wie sie nach Anleitung vorgehen und unter anderem... Jetzt eben auch KI einsetzen, damit sie nicht mehr selbst stundenlang, nächtelang irgendwelche Kinderspiele spielen wollen, die sie ja gar nicht spielen wollen. Sie wollen ja in Wirklichkeit jetzt endlich die Fotos der Kinder haben, um sie zu erpressen. So ungefähr ist das Drehbuch. Und man muss leider befürchten, dass natürlich die Gegenseite in dem Fall nicht schläft und dass das ganze sozusagen.

Dazu führt, dass Plattformen wie zum Beispiel Roblox, sorry, Roblox eben noch unsicher werden. Als sie schon sind. Das bedeutet, Ich kann jetzt aber an der Front, das noch nicht feststellen, muss ich auch ganz offen sagen. Ich habe genauso viel oder wenig. Cyber-Grooming-Fälle wie in den Jahren vorher auch. Das ist aber nicht empirisch. Ab und zu kommt mal einer und erzählt mir was. Dieses Thema ist stark schambehaftet und ich kann das noch nicht feststellen. An der Front, Aber ich habe Angst davor, weil es logisch erscheint. Und zum Glück bin ich auch nicht in Telegram in pädokriminellen Gruppen, die diese Anleitungen austauschen. Aber es muss natürlich anzunehmen sein, dass das passiert. Das bedeutet aber ohnehin, Gegenläufig haben wir nämlich eine Entwicklung in der Gesellschaft, die mich ein bisschen positiv stimmt.

Also, ich kann dir da keine neuen Horrorgeschichten erzählen und will es auch gar nicht, weil ich es an der Front noch nicht merke. Freut mich ja eher. Ja, das ist vielleicht eine gute Nachricht. bisschen, seit wir das letzte Mal gesprochen haben, gibt es nämlich auch eine gesellschaftliche Entwicklung. Wir haben zum ersten Mal in der Politik das Thema Medien und Jugendschutz. Da reden jetzt Politiker drüber. Und in allen europäischen Ländern gibt es, oder nicht, In einigen gibt es Bestrebungen und Forderungen nach einem technisch geprüften Mindestalter. AK, Social Media Verbot. Die, die es wollen, nennen es Mindestalter, die es nicht wollen. Nennen es Social Media Verbot, ich nenne es Mindestalter.

Naja, Und ich glaube, wir brauchen das leider auch für KI, weil ich immer wieder erlebe, dass Kinder noch zu jung sind, die völlig alleingelassen werden. Und für diese Kinder können wir nicht weiter allein lassen. Und da brauchen wir einfach, so ein gesellschaftliches Signal. Und ich hoffe, dass das auch bald passiert. Das ist umstritten, klar. Ich wünsche mir auch, Es gäbe bessere Methoden. Es gibt auch viele andere Methoden. Ich sage nicht, dass das Verbot irgendwie alle Probleme löst, Aber es könnte helfen, durch ein politisches oder ein gesellschaftliches Warnsignal, so ein bisschen die Norm zu verschieben. Das ist nicht okay, Kinder allein zu lassen. Mit Smartphones. Ich hoffe das. Und ich glaube, und ich sehe da einiges an.

Bewegung in der Gesellschaft. Ich war im April mal im Bundestag. Ich wurde eingeladen, um dort zu sprechen, Wie schaut es denn aus an der Front, Und habe das gerne gemacht. Und das heißt, da ist Interesse, da zum ersten Mal. Und das bedeutet auch, Ich glaube, Die Eltern der Welt wachen auf langsam. Und gleichzeitig glaube ich, dass Ki. Unsere letzte Chance ist, weil wenn wir jetzt nämlich weiter schlafen und unsere Kinder weiter mit ungefähr acht, Hier ist dein Smartphone und Bitte geh ins Zimmer, störe mich nicht, und auch nachts nicht aufpassen. Dann werden wir einige Kinder richtig verlieren, glaube ich. Also Die Sorge habe ich. Und deshalb ist für mich KI auch nochmal so ein Prüfstein für die Erwachsenenwelt oder für die Eltern der Welt.

Jetzt bitte aufwachen. Das ist ein Grund. Und ich glaube übrigens, dass wir in fünf Jahren, wenn es um Kinder und Technologie geht, reden wir fast nur noch über KI. Bin ich mir ganz sicher. Weil KI alle Bereiche so durchdringen, wird, dass wir gar nicht mehr ohne können. Und ich glaube, da müssen wir unsere Kinder früh heranführen und begleiten. Und wir müssen aber dafür sorgen, dass sie nicht alleine sozusagen, in dem Fall den Algorithmen der Konzerne ausgeliefert sind. Das sollten wir nicht tun. Das hat sich nicht bewährt. Im Gegenteil, das hat sich gar nicht gut angefühlt. Die letzten Jahre. Und die ganzen Gerichtsprozesse in den USA sagen uns auch, Dieses schlechte Gefühl war gerechtfertigt.

Und ich glaube, jetzt sollten wir... Natürlich, damit unsere Kinder letztendlich am Schluss. Die Chancen, Die KI bringt, nutzen können und gleichzeitig die Risiken, Die wollen wir natürlich minimieren. Und da hilft nur eins für alle Eltern. Wir müssen uns so viel mit dieser Thematik beschäftigen, wie es nur geht. Und zwar für Eltern und Kinder gleichzeitig. Und deshalb denke ich, das Beste, was wir tun können, ist gemeinsam mit unseren Kindern KI zu entdecken. Und ich glaube, dass ein PC im Wohnzimmer, Der wird hoffentlich eine Renaissance erleben. Ich sehe es schon.

Joël Kaczmarek: Es riecht ja eigentlich nach einem zweiten Buch, allein mit der KI. Und nicht mehr nur allein mit dem Handy.

Daniel Wolff: Ach, so, ja, du bringst mich auf Ideen. Allerdings, Ich habe jetzt gerade eine Neuauflage des Buchs rausgebracht, wo wir natürlich das KI-Kapitel erneuert haben und das Kapitel zum Thema, Was kann die Gesellschaft tun. Diese beiden Kapitel musste ich in den zwei Jahren wieder komplett neu schreiben. Es gibt eine neue Ausgabe und man muss aufpassen, wenn man bei Amazon sucht, Man findet zuerst die Ausgabe von 2024. Es gibt also auch eine neue. Okay,

Joël Kaczmarek: ich verlege die Neueste hier im Podcast.

Daniel Wolff: Gerne, ja. Danke. Daniel,

Joël Kaczmarek: Ich danke dir ganz herzlich. Also schön, dass es auch, also. Es ist ja ein bisschen eine Verführung bei so einem Titel von so einem Podcast auch immer so das Negative hervorzuheben, Was ist schlimm und Gefahr, Oh Gott, Oh Gott, Oh Gott. Und deswegen schön, dass es auch positive Trends gibt und ansonsten. Ganz, ganz herzlichen Dank, Dass du uns an deinem Erfahrungsschatz und dem Wissen Hast teilhaben lassen und uns etwas Tauglicher gemacht. Hast für diese komplexe Welt.

Daniel Wolff: Sehr gerne. Hat Spaß gemacht. Dankeschön.