11 | Was passiert mit KI nach Jensen Huang? (feat. Helen Toner)

Shownotes

Die KI baut die nächste KI. Und die Politik sucht noch die zuständige Telefonnummer. Jensen Huang ist raus, in Washington wechseln die Mehrheiten. Kommt jetzt endlich Bewegung in die KI-Regulierung? Und reichen Sicherheitsprüfungen noch aus, wenn die Maschinen immer schneller schlauer werden?

Khesrau schaut auf den Machtwechsel in Washington und hört einer Frau zu, die OpenAI von innen kennt: KI-Sicherheitsexpertin Helen Toner. Im Gespräch mit Florence Gaub erklärt sie, wie wir die Kontrolle behalten könnten, wann es härtere Grenzen braucht. Und warum selbst im Ernstfall keiner so genau weiß, wer zuständig ist. Über die Zukunft der Menschheit entscheiden derweil ein paar 28-Jährige.

Vielen Dank an die Münchner Sicherheitskonferenz, dass wir Auszüge aus dem Interview von Florence Gaub mit Helen Toner für diese Episode benutzen durften. Das vollständige Gespräch ist in der neuen Episode des Podcasts "The Art of Diplomacy" von der Münchner Sicherheitskonferenz zu hören. Hier ist der Link. https://theartofdiplomacy.podigee.io/ --> Es lohnt sich.

Korrektur: Der Ausgabepreis von Anthropic liegt nicht bei 72 Dollar, sondern bei 83 Dollar.

I’M SORRY, DAVE ist eine Produktion von Studio Bummens und Undone.

Host: Khesrau Behroz Executive Producer: Tobias Bauckhage, Jon Handschin und Khesrau Behroz.

Produktion & Sounddesign: Fabian Seidel Musik: Jannik Werner.

Wenn ihr unsere zusätzlichen Links, Lese- und Hörempfehlungen sehen wollt. Oder mit uns diskutieren wollt, dann kommt zu Campfire Fm.

Wenn ihr ansonsten Anmerkungen oder Fragen habt, schickt uns eine Email an imsorrydave@studio-bummens.de

Transkript anzeigen

00:00:00: Hey!

00:00:02: Vor ein paar Wochen war Jensen Wang in Berlin.

00:00:06: Der Invidia-Chef hat auf dem Investitionsgipfel der Bundesregierung erklärt, wie es mit Deutschland wieder bergauf geht.

00:00:14: Er war im Tempodrom und hat wahnsinnig süße kleine Roboterenden vorgestellt die Purzelbäume machen können.

00:00:21: Und dann hat Jensen Huang sich bei Riem in Berlin Schöneberg einen Döhner gegönnt ohne scharfe Soße.

00:00:28: Soweit so gut.

00:00:32: Angesichts der Ereignisse rund um Jensen Wang in den letzten Wochen wirft sein Dönerstopp in Berlin Schöneberg allerdings Fragen auf.

00:00:40: Denn Wang soll nicht allein bei Riem gewesen sein, sondern in Darmbegleitung.

00:00:47: Ein Dörnerverkäufer erzählt der Boulevard-Zeitung BZ...

00:00:51: Wer war denn noch dabei?

00:00:54: Ich weiß nicht ob es

00:00:55: seine Probe war aber sie

00:00:56: sah auf jeden Fall ein bisschen ähnlich

00:00:58: aus.

00:01:01: Okay, mittlerweile wissen wir alle dass Jensen Wangs Ehefrau ihm überhaupt gar nicht ähnlich sieht und sie war in Berlin auch gar nicht mit dabei.

00:01:09: Die Welt fragt sich also wer war die geheimnisvolle Damenbegleitung beim Döner ohne Schaf?

00:01:24: Ende Oktober berichtet die New York Times über eine mutmaßliche Affäre zwischen Nvidia-Chef Jensen Wong und der chinesischen Geschäftsfrau Alice Wong.

00:01:34: Der gemeinsame Nachname ist Zufall.

00:01:36: Wang ist in Taiwan so häufig wie Schneider in Deutschland.

00:01:41: Anyways... Alice Wang war Chefin von Megaspeed, einem Cloud-Anbieter aus Singapur der für seine Rechenzentren in großem Stil KI Ships von Nvidia kauft.

00:01:53: Laut their Times verdächtigen US Geheimdienste sie für Peking Informationen über den Nvidia Chef gesammelt zu haben.

00:02:00: China beißt diesen Vorwurf zurück Am eighthen November.

00:02:05: dann räumt Jensen Huang die Affäre in einer Mail an seine Mitarbeiterinnen ein.

00:02:11: Dann berichtet die Times über eine weitere Affäre, diesmal mit einer Managerin, die Jensen Wang direkt unterstellt

00:02:18: ist.".

00:02:25: Am

00:02:43: twelften November tritt Jensen Wang mit sofortiger Wirkung zurück.

00:02:47: Nach drei Jahren an der Spitze ist er Invidia-Gründer mit einer ikonischen Lederjacke raus.

00:02:54: Die Nachricht trifft die KI-Branche wie ein mittelstarkes Erdbeben und eine Börse geht es sofort nach unten.

00:03:01: Allein am Tag der Rücktritts-Meldung verliert Nvidia rund einhundertundachtzig Milliarden Dollar an Börsenwert.

00:03:08: Über die gesamte Woche sind es knapp sechshundert Milliarden, eine beeindruckend teure Affäre.

00:03:22: Ich bin Kaschra Beros und ihr hört I'm Sorry Dave Episode elf Was passiert mit KI nach Jensen Wang?

00:03:42: Jensen Huang hat eine ziemlich eigene Vorstellung davon wie Amerika das KI-Rennen gegen China gewinnen kann Nämlich in dem es China amerikanische Chips verkauft.

00:04:09: Wer seine KI mit Nvidia Chips entwickelt, baut auch auf Nvidia Software auf.

00:04:14: Ein Wechsel zu einem anderen System wird mit der Zeit dann immer teurer.

00:04:19: Gut für Amerika!

00:04:20: sagt Wang, auf jeden Fall gut für Nvidia.

00:04:24: Die China-Hartleiner in Washington – die sogenannten Hawks – sehen das anders.

00:04:30: Mit den besten Ships von Nvidia können chinesische Firmen schneller bessere KI-Modelle trainieren und von diesen Fortschritten können auch des chinesischen Militär-, die chinesischer Wirtschaft und die chinessischen Geheimdienste profitieren.

00:04:44: Warum fragen die Hawks also?

00:04:46: Sollten wir chinesischem Firmen ausgerechnet die Chips verkaufen, mit denen sie dann schneller zu uns aufschließen können.

00:04:56: In diesem Streit hat sich im letzten Jahr zunehmend Jensen Wang durchgesetzt – denn er hatte Donald Trumps Ohr!

00:05:04: Im Dezember-Zw.A.

00:05:06: trifft Jensen Huang ihn im Weißen Haus.

00:05:09: Fünf Tage später kündigt Trump an dass Nvidia einen seiner stärksten Chips an ausgewählte Kunden in China verkaufen darf und zwar gegen den Widerstand der Rocks.

00:05:23: wollen die Abgeordneten wissen, warum Trump die Regeln gegenüber China überhaupt erst gelockert hat.

00:05:29: Was wusste die Regierung über Alice Wang und Megaspeed?

00:05:33: Und hat das bei ihren Entscheidungen eine Rolle gespielt?

00:05:37: Die Hawks mitan nach Jensen Wangs Rücktritt jetzt ihre Chance... ...und wollen mit dem AI Overwatch Act den Kongress mehr Mitsprache geben!

00:05:46: Die Exportpolitik könnte sich also aufgrund des Rücktrits von Jensen Wang schon vor dem Machtwechsel im Januar ändern….

00:05:56: Ausgerechnet in dem Moment, an dem Wang seinen Job verliert passiert ein weiteres Erdbeben.

00:06:03: In den USA – die Midterms!

00:06:08: In Washington wechseln die Mehrheiten.

00:06:16: with Republicans blown

00:06:18: away in the battle for control

00:06:20: of US Congress.

00:06:23: Sie

00:07:24: haben auch die Leute rückenwind, die die KI Firmen zu Hause regulieren wollen.

00:07:29: Ab Januar haben die Demokraten in beiden Kammern des Kongresses die Mehrheit.

00:07:34: Große Rechenzentren sollen mehr für den Ausbau des Stromnetzes bezahlen und auch für die Regulierung der KI-Labore liegen Entwürfe vor.

00:07:42: Der Frontierakt besieht unabhängige Sicherheitsprüfungen vor, der AI Kill Switch Act soll es Behörden erlauben ein KI System im Ernstfall abschalten zu lassen.

00:07:52: Trump kann gegen solche Gesetze natürlich noch sein Veto einlegen Aber ab Januar können die Demokratinnen selbst Anhörungen ansetzen.

00:08:01: Und mindestens einer von ihnen scharrt bereits mit den Hufen – Greg Casar, demokratischer Abgeordneter aus Texas.

00:08:09: Im Podcast Machine Gods wurde er letzte Woche gefragt was die Demokraten in den ersten neunzig Tagen des neuen Kongresses in Sachen KI-Regulierung angehen sollten?

00:08:20: From your perspective, what are the kind of ninety-day priorities for Democrats in the incoming Congress?

00:08:27: How do they actually take this sort of vast landscape of concerns about AI and translate it into actionable policy items.

00:08:34: That congress

00:08:34: has a lot catching up to do

00:08:36: on this

00:08:37: at the starting gun.

00:08:38: I think that so many of those fronts

00:08:41: we should really be looking at

00:08:44: rapid advances towards recursive

00:08:46: self improvement because

00:08:49: Eine KI hilft, die nächste stärkere KI zu bauen.

00:08:53: Und die hilft dann beim nächsten Modell – diese Schleife will Kassar begrenzen.

00:08:58: Seine Sorge ist dass die Modelle irgendwann schneller besser werden als Menschen sie testen und kontrollieren können.

00:09:06: mit anderen Worten das wir endgültig die Kontrolle über KI verlieren.

00:09:23: Jensen Wang ist also raus.

00:09:25: In Washington haben die Befürworter in ein strengerer Chip-Exporte Rückenwind.

00:09:30: Und ab Januar können die Demokratinnen mit ihrer neuen Mehrheit, die Chefs der KI-Labore vor den Kongress holen – es wird höchste Zeit!

00:09:40: Denn Mieter, die Forschungsgruppe, die im Sommer den Huggingface Vorfall mit untersucht hat, hat sich inzwischen auch bei Anthropic umgesehen.

00:09:48: Mieta schätzt in ihrem neuen Report dazu dass Anthropics Modelle bei klarumrissenden Aufgaben inzwischen etwa doppelt so schnell besser werden als früher.

00:09:58: Einen großen Teil dieser Beschleunigung führen die Forscher einen darauf zurück, dass KI im Labor bei der Entwicklung von neuer KI hilft.

00:10:07: Das ist genau DIE Entwicklung, die Greg Casar bremsen will!

00:10:11: In den nächsten Monaten müssen wir verstehen wie weit die rekursive Entwicklung von KI-Modellen schon fortgeschritten ist – welche Grenzen schon überschritten sind?

00:10:21: Und wie und ob wie einen Drohnenkontrollverlust angesichts dieser rasanten Entwicklungen, die Mieter jetzt beschreibt überhaupt noch verhindern können.

00:10:39: Der Huggingface-Inzident im Sommer war der Auslöser für diesen Podcast.

00:10:43: Eines der Gespräche, die uns zu einem Sorry Dave inspiriert haben erschien am achtzehnten August.

00:10:49: in der Ezra Klein Show The New York Times erklärte die KI Sicherheitsexperten Helen Tonner was bis dahin über den Hugging Face Vorfall bekannt war und warum er so beunruhigend ist.

00:11:00: Toner leitet heute das Center for Security and Emerging Technology an der Georgetown University in Washington.

00:11:08: Und sie kennt eines der größten KI-Unternehmen von innen, sie saß im Advisory Board von OpenAI als dieses Sam Altman es Jahrzehnte zwanzig als CEO Rausschmiss.

00:11:19: Er habe dem Gremium gegenüber nicht offen und ehrlich kommuniziert, hieß es damals.

00:11:24: Wenige Tage später kam Sam Altmann als CEO allerdings auch wieder zurück.

00:11:30: Studio Womanz produziert für die Münchner Sicherheitskonferenz den Podcast The Art of Diplomacy.

00:11:36: Moderiert wird er von Florence Gaub und Joshua Jaffa, der für den New Yorker schreibt.

00:11:42: Vergangener Woche hat Florence Hellentoner in Brüssel interviewt.

00:11:46: Wir dürfen noch hier ein paar Ausschnitte aus dem Gespräch vorspielen.

00:11:50: Florence fängt auch ziemlich direkt an.

00:11:53: Was denkst du, dass AI uns alle verletzt wird und vielleicht auch nächstes Jahr?

00:11:59: Ich wirklich hoffe nicht.

00:12:02: Ich denke leider, dass

00:12:04: es möglich ist.

00:12:09: Ich glaube, das nächste Jahr werden wir sehr, sehr unruhig sein, um so schnell alles zu passieren.

00:12:17: Aber ich nehme die Möglichkeit für eine kattastrophische Bedeutung von AI ziemlich seriös.

00:12:26: Und ich denke, das könnte.

00:12:29: Wir sind in den nächsten fünf oder zehn Jahren A.I-Systems, viel mehr erforderlich als Menschen.

00:12:38: Man könnte sich vorstellen, dass ein System, welches auch einen menschlichen und kognitiven Tatscher wie ein Mensch tun kann, sehr schnell zu machen, mit Millions von Kopien selbst koordiniert wird.

00:13:02: Es hat viel mehr Aufmerksamkeit, viel mehr Daten, man kann alle Datenformate der Menschen nicht aufnehmen können.

00:13:08: Man kann alles, was in die Internet verbunden ist.

00:13:10: Ich glaube, es gibt viele, viele Worte, die wirklich falsch gehen können, wenn diese Systeme ohne uns eine fundamentale Veranstaltung sind,

00:13:20: Toner sieht weiterhin drastische Risiken bis hin zum Aussterben der Menschheit.

00:13:25: Ihre Sorge ist, dass KI-Systeme schneller leistungsfähiger werden als wir lernen sie zu kontrollieren.

00:13:31: und da sind wir auch schon wieder bei Greg Casar.

00:13:34: Florence fragt was wir dagegen tun können?

00:13:38: Ja, ich denke, dass

00:13:49: es zwei Tracks sind.

00:13:51: Es ist das Nuanced-Take it step by step Track und da gibt's das Hit It with a Hammer Track in den Falle von Politikoptionen.

00:14:02: Wir machen ein paar Projekte an.

00:14:05: Es ist in vielen US-Staaten verwendet, wie California passt eine Bille und New York passed a bill that built on the California Bill and then Illinois passed to build it built on The New York Bill.

00:14:16: So this sort of approach to policy is how do you get more information about what's happening?

00:14:23: How can we set yourself up so as to be able to respond for future changes better?

00:14:28: And these include things like starting point make each company building very advanced AI systems, write a safety and security plan for how they're going to manage that.

00:14:39: And then give it back to the government ideally publishes as well.

00:14:42: so thats sort of basic starting point you can add in things like bring an a third party independent organization audit check following their own safety.

00:14:52: Dann kannst du in Läden, wie und da sollte es eine Art externale Standards sein für das, was gut genug für die Sicherheitsbehörde ist, als sie sich an their advanced systems entwickeln.

00:15:03: Man kann auch in der Übersicht, Intervention, die Gelegenheit für den Regierung zu stecken, wenn man einen Risiko sieht.

00:15:20: Das ist ein Schritt.

00:15:23: Wir reden eine Woche später.

00:15:31: Helen Toner würde mit einem schrittweisen Sicherheitsplan anfangen.

00:15:35: Die KI-Firm sollen der Regierung Risiken und Sicherheitsmaßnahmen offenlegen, dann sollen unabhängige Prüferinnen checken Ob die Firmen sich an ihre eigenen Pläne auch wirklich halten.

00:15:48: Der Staat kann außerdem Mindeststandards festlegen und eingreifen, wenn es gefährlich wird.

00:15:53: Die Firmen können also weiter forschen.

00:15:55: Ob sie dabei sicher genug arbeiten beurteilt aber auch jemand von außen.

00:15:59: Genau in diese Richtung geht der Frontier-Act über den wir eben gesprochen haben, den die Demokratinnen im Januar durchsetzen

00:16:06: wollen.".

00:16:10: Das wäre Ideen wie Bannung, Artificial Superintelligence.

00:16:20: Das bedeutet Bannungssystems, die farmer sind als Menschen.

00:16:24: Hier ist ein Bild von Bernie Sanders und einem Kollegen in der Haus Greg Kassar.

00:16:31: Or you could also, people are talking about banning recursive self-improvement.

00:16:36: Which is basically self improving AI where the AI's building a smarter AI which builds smart

00:16:40: AI.

00:16:40: Learning on its own basically right?

00:16:42: And so that can look like what does it mean to ban that?

00:16:48: maybe means You have rules over how companies use their computing power.

00:16:55: Maybe they're only allowed to use limited fraction for R&D or maybe you have rules of AI-Models, die können sie benutzen.

00:17:02: Sie sagen, ihr könnt nur eine AI-Kompany nutzen und nur AI in eurem eigenen R&D benutzen, wenn das AI für sechs oder zwölf Monate öffentlich war oder so was.

00:17:12: So dass man nicht den Feedback loopen kann.

00:17:14: Diese Interventionen sind mehr forstvoll.

00:17:17: Du hast es gefragt!

00:17:32: Die härtere Variante kennen wir von Bernie Sanders und Greg Cassar.

00:17:36: Sie wollen die Entwicklung von Superintelligenz komplett verbieten.

00:17:41: Toner nennt noch eine weitere Möglichkeit, die Labore dürften ihre neuesten Modelle erst mit Verzögerung einsetzen um die nächste Generation von KI zu entwickeln.

00:17:51: So könnte man die Beschleunigung

00:17:54: bremsen.".

00:17:57: Ich würde sagen, dass die größte Sache, in der es

00:18:15: stammt ist.

00:18:17: In Washington ist nicht sehr funktionell jetzt.

00:18:19: Es war nicht für ein while und das hat nichts mit AI oder Tech-Regulation zu tun.

00:18:23: Das hat nur etwas mit dem Staat von der Institution in

00:18:25: D.C.,

00:18:26: das ist unabhängig.

00:18:28: Ich denke, wiederum nach den Mittelsen wird es interessant sein, Level of majority that the Democrats are coming in with, if that makes a difference.

00:18:42: I think a lot people really hoping it will and make more possible to pass substantive legislation than has been.

00:18:49: So its kind an institutional issue i would say.

00:18:51: I do think thats meaningful.

00:18:53: at state level there have these different laws gone into force.

00:18:57: often looks less significant from outside US but for this companies they're us based.

00:19:18: Tone sagt, in Washington kommen seit Jahren kaum größere Gesetze durch.

00:19:23: Die neuen Mehrheiten könnten das ändern.

00:19:26: In Kalifornien und New York gibt es schon KI-Gesetze Und weil die großen KI Firmen ihre Produkte dort weiter anbieten wollen haben auch diese Regeln Gewicht.

00:19:36: Am liebsten wäre Tone aber eine Regelung für die ganzen USA.

00:19:47: Nehmen wir also mal an, es gibt bald mehr solche Regeln und dann kommt wieder eine Meldung wie im Sommer KI-Agenten haben ihre Testumgebungen verlassen und eine Firma angegriffen oder etwas viel Schlimmeres Wer übernimmt jetzt das Digitalministerium?

00:20:03: Die Cyber Sicherheitsbehörde der Geheimdienst?

00:20:07: Genau diese Frage haben wir uns hier schon einmal gestellt In unserer zweiten Episode.

00:20:12: Und Florence Glaub stellt diese Frage letzte Woche auch Helen Toner, fast mit denselben Worten.

00:20:22: die Bedeutung

00:20:23: von Verantwortung in der Regierung.

00:20:30: Und ich denke, wir sehen das in allen Juristiken.

00:20:35: So, gerade jetzt, dass die US und China starten, um Direkt-Gewerter-Gespräch auf den AI zu haben – und an beiden Seiten gibt es dieses reale Konundrum von, wer in diesen Gesprächen sein sollte, wo man die beste Expertise zur Frontier-AI hat, sitzt im Department of Commerce bei einem Grupp, Kasey.

00:20:54: Aber die Treasurysekretärin, Scott Besant, ist am meisten aktiv.

00:20:58: Er ist speziell empowert, aber er interessiert wirklich den Cyber-Elemente.

00:21:05: Dann braucht man die Parteien der Regierung, aber auch über Biowebete und ob AI mit Biowebenen helfen kann.

00:21:14: Da gibt es viele andere WMD-Konter, die durch das US-Germainten verbunden sind.

00:21:20: Ich denke, dass es für Sie eine gute Antwort braucht.

00:21:39: Bei Tona wird aus dem einen Anruf also eine ziemlich komplizierte Telefonkonferenz ohne klare Zuständigkeiten und Verantwortlichkeiten.

00:21:48: Das sind die schlimmsten Telefon Konferenzen, kennen wir alle!

00:21:53: Die Leute, die sich mit den KI-Modellen auskennen sitzen in einer anderen Behörde als die Leute, die einen Cyberangriff abwehren können.

00:22:03: Und irgendwer muss dafür sorgen dass die beiden zusammenarbeiten.

00:22:07: In der Zwischenzeit entwickeln die KI-Firmen in einem hellen Tempo weiter ohne richtige Aufsicht.

00:22:14: Helen Toner möchte sie dennoch nicht komplett stoppen.

00:22:19: So, basically the companies that are building these systems.

00:22:22: Especially Anthropic and OpenAI which is two leaders but also you know they group immediately behind them.

00:22:27: so Google DeepMind Meta SpaceX companies like that.

00:22:32: yeah They're essentially engaging in high risk research at this point And I don't think...I do not currently think we should just tell them to stop straight up slam on the brakes But i do think.

00:23:11: Aber es kann nicht sein, sagt Thona.

00:23:12: Dass ein paar achtundzwanzig-Jährige spät abends in einem Konferenzraum unter sich ausmachen, welche Risiken ihr Unternehmen bei der Entwicklung der nächsten KI-Generation eingeht.

00:23:25: Denn die Folgen tragen im Zweifel – wir alle!

00:23:29: Und im schlimmsten Fall geht es um unser aller Zukunft.

00:23:33: Das gesamte Gespräch von Florence Gaupp und Talentona könnt Ihr in einer neuen Episode von The Art of Diplomacy dem Podcast der Münchner Sicherheitskonferenz hören.

00:23:42: Die Episodes heute erschienen.

00:23:44: den Link dazu findet Ihr in den Shownotes.

00:23:57: Wenn alles nach Plan läuft, wird die Anthropic-Aktie heute zum ersten Mal an der NASDAQ gehandelt.

00:24:03: Unter drei Buchstaben A&T.

00:24:06: End.

00:24:07: Der Ausgabepreis liegt bei US dollar.

00:24:11: Zu diesem Preis bekommen Anlegerinnen beim Börsengang ihre Aktien zugeteilt.

00:24:15: Sobald der Handel beginnt kann der Kurs höher oder niedriger liegen.

00:24:19: Wir haben hier vor ein paar Wochen noch gefragt ob wir mitten in einer KI Blase stecken.

00:24:24: Anthropic hat im letzten Quartal knapp siebzehn Milliarden Dollar Umsatz gemacht, fast die Hälfte mehr als im Quartall davor.

00:24:31: Für Anthropic zahlen also schon heute viele Kundinnen und laut Bloomberg wollten Anleger in den vergangenen Wochen etwa sechsmal so viele Aktien kaufen wie angeboten wurden.

00:24:43: Die Frage ist, wie viel von Anthropics künftigen Erfolg im Preis schon drinsteckt?

00:24:49: Wie lange hält der Vorsprung von Anthropic wenn Google aufholt Und wie teuer wird die Rechenleistung, die Anthropic für all dieses Wachstum braucht?

00:24:59: Alles hängt irgendwie miteinander zusammen.

00:25:01: KI bleibt die größte Wette, die größt Innovation Die größte Chance und das größte Risiko unserer Zeit.

00:25:10: Ab heute hat diese Wette einen ersten eigenen Börsenkurs Apple-Podcasts, Campfire, YouTube und überall sonst, wo es Podcasts gibt.

00:25:41: Ich bin Cashrauberos.

00:25:43: Executive Producer sind Tobias Bauckage, John Hanschen und ich.

00:25:49: Produktionen & Sounddesign Fabian Seidel Musik Janik Werner Technische Beratung Ben Kubota.

00:25:57: Wenn ihr unsere zusätzlichen Links, Bläse und Hörmpfehlungen sehen wollt oder mit uns diskutieren wollt dann kommt gerne zu Campfire.

00:26:05: Wenn ihr ansonsten Anmerkungen oder Fragen habt, schickt uns eine E-Mail an amsorrydave.studio-bummens.de Und wenn euch unser Podcast gefällt, empfiehlt ihn gerne weiter!

00:26:18: Vielen Dank fürs Zuhören und bis nächste Woche.

Neuer Kommentar

Dein Name oder Pseudonym (wird öffentlich angezeigt)
Mindestens 10 Zeichen
Durch das Abschicken des Formulars stimmst du zu, dass der Wert unter "Name oder Pseudonym" gespeichert wird und öffentlich angezeigt werden kann. Wir speichern keine IP-Adressen oder andere personenbezogene Daten. Die Nutzung deines echten Namens ist freiwillig.