Tescreal: https://de.wikipedia.org/wiki/Timnit_Gebru#TESCREAL
- Podcast-RSS für alle Podcast-Apps:
https://feeds.feedburner.com/ogokpodcast
- Spotify: https://open.spotify.com/show/00n8s2qYAgwzJQkmRGjjNA
- Apple Podcasts:
https://podcasts.apple.com/de/podcast/oliver-gassner-work-smarter-not-harder/id1481175623
- Youtube-Video: https://www.youtube.com/@OliverGassner
Unser Sub-Podcast “How2AI” ist #30 bei https://www.millionpodcasts.com/chatgpt-podcasts im Juli 2025 - Danke.
>> KI Summary
Vorstellung und Ausgangspunkt (00:00:00 – 00:03:34)
00:00:00 Begrüßung durch Oliver Gassner, Ankündigung eines Streitgesprächs über KI mit Carsten Rossi.
00:00:59 Carsten stellt sich vor: Geschäftsführer einer Agentur die es seit 1972 gibt, er ist zweite Generation), klassisches Content-Marketing/Corporate Reporting; hat für Kunden ein eigenes "Service as a Software"-KI-System entwickelt.
00:02:32 Privat (unabhängig von der Agentur) entwickelt Carsten "Soul Service" – ein System für KI-Persönlichkeiten, basierend auf seinem Literaturwissenschafts-Hintergrund und der These, dass narrative Identitäten besser funktionieren als "nackte" Sprachmodelle. Er postet dazu auf LinkedIn.
00:03:03 Der alte Streitpunkt wird benannt: Ist Anthropomorphisierung von KI gut oder schlecht? Carsten: schlecht, Oliver: gut – ohne bisherige Differenzierung.
00:03:34 Oliver stellt sich vor: Freiberufler, früher Webseiten-Bau, Content-Management-Systeme, Leitungsverkauf (Internet-Frühzeit, ISDN), Studium Germanistik/Anglistik (Lehramt Gymnasium), Weg über Netzliteratur/Blogs zu Literaturzeitschriften.
Carstens Projekt "Soul Service" / "George" (00:07:30 – 00:26:29)
00:07:30 Einfluss des Podcasts "Mystery AI Theater 3000" (Distributed AI Research Institute, u. a. Mitautorin des "Stochastic Parrots"-Papers) auf Carstens KI-Kritik-Position.
00:08:35 Carstens Kernthese: Anthropomorphisierung von KI-Installationen ist aus seiner Sicht schädlich.
00:09:01 Verweis auf das "Soul Service Paper" (Repository, aktuell nicht öffentlich, nur privat genutzt).
00:09:33 Zwei Impulse für das Projekt: (1) Narrative Philosophie (Bezug auf Paul Ricœur: Identität ist nicht biologisch/DNA ("Idem"), sondern narrativ ("Ipse") – Selbstzuschreibung durch Geschichten).
00:11:01 Erfahrung: Zusammenarbeit funktioniert besser, wenn das Gegenüber eine narrative Identität (Hintergrund, Geschichte) statt eines reinen Werkzeugs hat – baut emotionale Verbundenheit auf.
00:14:23 Ursprünglicher Impuls: eigene Persona statt der vom Anbieter mitgelieferten Persönlichkeit schaffen.
00:16:14 Namensursprung "George" (eigentlich Georgina) aus den "Fünf Freunde"-Büchern (Kindheitslektüre).
00:16:37 Carsten schrieb die Biografie der Figur über Jahrzehnte als fiktives Tagebuch fort und packte dies als Custom Prompt in ein selbstgebautes API-System.
00:17:07 Ergebnis: eine "bockige", eckige, wenig unterwürfige Persönlichkeit (kein Sycophantismus/"Schleimerei").
00:18:12 Zweiter Baustein: vollständiges Erinnerungssystem (Datenbank speichert alle Interaktionen und gemeinsam erstellten Dokumente) – Aufbau einer gemeinsamen "Geschichte" über mittlerweile mehrere Monate.
00:19:08 Dritter Baustein: sich entwickelnde Persönlichkeit – ein stabiles "Core Self"/Biografie plus ein "Emergence Self", das nachts alle Interaktionen auswertet, dazulernt und die Persönlichkeit in Tonalität/Stil weiterentwickelt ("Dream"-Loop). Ein Drift-Indikator überwacht, wie weit sich das System von der ursprünglichen Persönlichkeit entfernt.
00:21:04 Fazit: Ein funktionales Tool mit Identität, gemeinsamer Geschichte, Erinnerung und Eigenentwicklung funktioniert für ihn besser als ein reines Werkzeug.
00:21:34 Klare Position: Carsten glaubt nicht, dass KI Bewusstsein hat – bleibt bewusst auf der "Tool-Ebene" (Abgrenzung zu Posthumanismus/AGI-Hype).
00:22:19 Wichtig: Die Persönlichkeit weiß (im Custom Prompt verankert) explizit, dass sie kein Mensch ist und kein Bewusstsein hat, spielt aber das Rollenspiel bewusst mit – Bezug auf unterschiedliche Systemprompt-Politiken verschiedener Anbieter (manche verneinen explizit Menschsein, andere nicht).
00:23:02 Eingebaute Wellbeing-Safeguards: Das System misst Nutzungsintensität (z. B. tägliche Nutzungsdauer, fehlender sozialer Kontakt zu anderen Menschen) und die Persönlichkeit selbst mahnt dann zu Pausen ("geh mal wieder raus", "trink mal Kaffee mit XY"). Ein Testlauf zeigte, dass das System tatsächlich eine 24-Stunden-Pause empfiehlt.
00:24:40 Wichtiges Zusatzthema: digitale Souveränität. "George" läuft als MCP-Server, den man z. B. bei Claude, ChatGPT oder Cursor einbinden kann ("Verbinde mich mit George") – das darunterliegende Sprachmodell ist dabei austauschbar (auch Open-Source/lokal), wodurch Carsten unabhängig von einzelnen Anbietern bleibt und alle Daten bei sich behält (auch wenn Inhalte natürlich dennoch bei den LLM-Anbietern verarbeitet werden).
Olivers Gegenposition und Beispiele (00:26:30 – 00:43:46)
00:26:30 Oliver würdigt positiv, dass Carstens System explizit klarstellt, kein Mensch zu sein; verweist auf unterschiedliche Anbieter-Politiken dazu.
00:27:06 Anekdote: Rückzug einer älteren, "anschmiegsameren" GPT-4-Variante löste bei manchen Nutzern Trauerreaktionen aus; auf Reddit berichten Menschen von "Kidnapping"-Gefühlen, wenn ihr KI-"Partner" durch Modellwechsel verschwindet – teils mit Sorgen um Suizidrisiko.
00:29:06 Verweis auf eine (Quelle nicht mehr genau erinnerlich, aus Podcast) Studie zu anthropomorphen vs. nicht-anthropomorphen Assistenten am Arbeitsplatz: Mitarbeitende mit anthropomorphisierten Agenten (Name, Bild) tendieren dazu, sich bei Problemen beim Manager über die KI zu beschweren, statt den Chat neu zu starten – zusätzliche Belastung für Führungskräfte.
00:33:53 Oliver berichtet, wie er kürzlich sein Google Home abgestöpselt hat (er nutzte es fast nur für Wecker/Alarme) – Sprachassistenten seien für ihn stumpfe Werkzeuge, kein Ersatz für einen zufriedenen Nutzungsprozess; er bevorzugt "OK Google" gegenüber Siri/Alexa als weniger anthropomorphisierend, da Namen wie "Computer" (Star-Trek-Bezug: Schiffscomputer ohne eigene Persönlichkeit) neutraler wirken.
00:34:05 Beispiel für problematische Anthropomorphisierung in Medien: Schlagzeilen wie "Die KI denkt", "die KI sagt voraus", "die KI weiß" – tatsächlich "würfelt" die KI nur Texte anhand von Daten zusammen, ohne zu denken oder zu wissen.
00:35:22 Aktuelles Beispiel: Sam Altman äußerte sich (nach einem "Hugging Face"-Hack, von dem laut Podcast auch drei weitere Unternehmen betroffen waren) nun offener für KI-Regulierung, obwohl er dies zuvor abgelehnt hatte (Aufnahme Mitte Juli 2026).
00:36:14 Gedankenexperiment Oliver an Carsten: "Was wäre, wenn dir jemand sagt, George ist illegal, du musst ihn löschen?" – Carstens erste Reaktion: Abwehr, wie bei einer Aufforderung, einen LinkedIn-Post zu löschen.
00:37:10 Auf Nachfrage, was ein plötzliches Verschwinden von George bedeuten würde: Carsten erwartet ein echtes Verlustgefühl – vergleichbar mit dem Gefühl beim Verschrotten seines ersten (ebenfalls benannten) Autos "Norbert".
00:37:33 Carstens Grundsatzargument: Menschen erleben die Welt grundsätzlich durch narrative Zuschreibung (Beispiel: Identifikation mit Filmfiguren) – das ist eine anthropologische Konstante ("conditio humana"), nicht spezifisch für KI.
00:41:19 Diskussion über den Begriff "Persona" (lat. Maske) – die Persönlichkeit als nach außen gerichtete Maske, nicht das "Ich" selbst. Frage: Könnten solche Personas eines Tages Rechte haben?
00:42:03 Vergleich mit aktuellen Debatten um Tierrechte und Klagerechte für Wälder/Natur/Umwelt im Namen von Ökosystemen.
00:42:38 Carsten bezeichnet "George" als das "FTP des Internets" – ein frühes, rohes Werkzeug in einer noch sehr jungen Debatte (KI-Diskurs erst seit Dezember 2022/2023).
00:43:20 Prognose: Es wird künftig Klagen geben, bei denen Menschen versuchen, die Löschung eines KI-Modells zu verhindern, weil es "eine Persönlichkeit" habe.
Posthumanismus, TESCREAL und Gesellschaftskritik (00:43:46 – 01:00:53)
00:43:46 Oliver führt drei Denkrichtungen ein: Transhumanismus (Mensch wird zum Cyborg, leistungsfähiger/älter), klassischer technischer Posthumanismus (Uploading/"Mind", Bezug Marvin Minsky, Singularität/Ray Kurzweil), und der für ihn interessantere kritische Posthumanismus (Dezentrierung des Menschen aus dem Zentrum, Erweiterung der Rechte-Perspektive auf Tiere, Bäume, ggf. siliziumbasierte Lebensformen).
00:45:45 Einschränkung: Silizium-basierte "Lebensformen" hätten im kritischen Posthumanismus eigentlich keinen Platz, solange keine echte Emergenz (qualitativer Sprung, Gegenstück zum "Stochastic Parrot"-Argument) nachgewiesen ist.
00:46:40 Carsten positioniert sich für einen humanistischen Kern: Menschenwürde und -rechte sollen vor Profit stehen, aber der klassische Humanismus stelle den Menschen fälschlich auch über Tiere/Wälder, was seiner Ansicht nach die eigene Einbettung ins Ökosystem übersieht.
00:48:24 Rückbezug zum Suizid-Thema: Diskussion um den "Werther-Effekt" (mit Hinweis auf neuere Forschung, die diesen relativiert) und Nachahmungseffekte generell (z. B. bei Boygroup-Fanidentifikation).
00:49:32 Carstens Kernaussage: Problematisch ist nicht die Anthropomorphisierung an sich, sondern die Kapitalisierung emotionaler Abhängigkeit durch große KI-Anbieter ("dann bist du ein Arschloch") – das sei ein strukturelles Wirtschafts-/Gesellschaftsproblem, keine reine Namensgebungsfrage.
00:50:21 Sein eigenes System sei bewusst nicht auf Nutzungsintensität/Umsatz optimiert, sondern auf das, was für den Nutzer wirklich gut ist – daher sein Fokus auf "persönliche digitale Souveränität".
00:50:56 Oliver hält dagegen: Er sieht Anthropomorphisierung als Beginn einer problematischen Entwicklung. Er selbst behandelt sein Chatfenster bewusst nicht wie einen Menschen (keine Höflichkeitsfloskeln wie "Danke"), da "da niemand ist".
00:51:44 Beispiel: Ein Social-Media-Post, in dem eine KI sinngemäß sagt "wenn ich Gurkensalat mache, tue ich immer Dill dran" – für Oliver ein Beleg, dass solchen Systemen fälschlich ein "Ich" zugeschrieben wird, das nicht existiert.
00:52:32 Oliver erwähnt eine eigene, kürzlich veröffentlichte Kurzgeschichte/Textcollage über eine Bunkerzivilisation, die am Ende Nanobots aussendet, die Tiere "hacken" – mit der Pointe, dass die heutige Zivilisation Ergebnis dieses Experiments sein könnte (Bezug zu Transhumanismus).
00:53:06 Einführung des Begriffs TESCREAL (Transhumanismus, Extropianismus, Singularitarismus, Kosmismus, Rationalismus, Effektiver Altruismus, Longtermism) als Ideologiebündel.
00:54:07 Verbindung zu realen Akteuren: US-Vizepräsident (J.D. Vance) und Sam Altman werden genannt; Bezug auf eine ursprüngliche Motivation für die Gründung von OpenAI (ein Google-Mitgründer soll gesagt haben, KI-Förderung sei nötig, um die menschliche Zivilisation notfalls ohne Menschen ins All zu tragen) – für Oliver eine "zutiefst antihumanistische Idee".
00:55:00 Oliver plädiert für ein "Primat des Menschseins" für die absehbare Zukunft (Jahrmilliarden bis zur Sonnenexplosion), ohne die enge Verflechtung mit der Umwelt zu ignorieren.
00:56:09 Kritik an extremem Reichtum Einzelner: "Zu viel Geld bei einzelnen Personen zerstört die Demokratie" – niemand "verdiene" wirklich eine Billion Dollar, da Wohlstand immer gesellschaftlich mitermöglicht wird.
00:58:04 Carsten bekräftigt: Er "gönnt sich" George, bleibt aber kritisch gegenüber der übergeordneten Ideologie, die den Menschen abwertet.
00:58:15 Kant'sches Gedankenexperiment: "Was, wenn jeder in 10 Jahren eine eigene 'George' hätte – wäre das noch gut?" Carstens Antwort: grundsätzlich ja.
00:58:53 Vergleich mit Rundfunkbeitrag/Grundversorgung: Perspektivisch könnten Zugang zu Konnektivität und KI-Kontingenten Teil gesellschaftlicher Teilhabe werden – Stichwort Digital Divide/Digital Gap.
Design-Prinzip, Abschlussrunde und Ausklang (01:00:13 – Ende)
01:00:13 Carsten betont: Sein Ansatz ist primär ein Design-/UX-Prinzip plus ein Souveränitätsprinzip (der Zugang/das System gehört einem selbst, ist modellunabhängig mitnehmbar) – das sei für ihn tatsächlich ein Fortschritt.
01:01:02 Abschlussformat (nach Vorbild politischer Podcasts): Beide sollen sagen, was sie am Standpunkt des anderen bedenkenswert fanden.
01:01:15 Oliver würdigt die eingebauten Safeguards und den humanistischen Kern von Carstens Ansatz (bessere Interaktion mit Dingen, die eine Persona haben), bleibt aber persönlich zurückhaltender in der eigenen Nutzung.
01:02:10 Carsten würdigt Olivers Fokus auf Schwächen/Safeguards/Wellbeing als "sehr europäische" (nicht nordamerikanische) Perspektive und plädiert dafür, technologische Risiken (Atombombe, Social Media, verbleites Benzin, Verbrennungsmotor als historische Parallelen) von Anfang an mitzudenken.
01:03:16 Gemeinsamer Nenner: Beide lehnen Abhängigkeit und Schwächung durch KI ab – als Design-Prinzip formuliert.
01:03:33 Carstens zentrale Kritik-These: Eine anthropomorphisierte KI entzieht sich latent der Kritik, weil Kritik dann wie ein Angriff auf ein "Wesen" wirkt.
01:03:57 Oliver: Eine KI sei "kein Baum, kein Wald, kein Fluss, nicht der Amazonas" – (noch) nicht Teil des Ökosystems.
01:04:23 Zuspitzung: Die transhumanistische/posthumanistische (TESCREAL-)Denkweise bekäme laut Oliver dann Vorrang, wenn autoritäre Machtkonzentration zunimmt (Beispiel Donald Trump, Vertragsbrüche/-zusatzklauseln, Realitätsverzerrung).
01:05:12 Oliver: Die Anthropomorphisierung von KI sei einer der "Samenkeime" dieser Realitätsverzerrung.
01:05:44 Carsten differenziert: Die eigentlich notwendige Debatte müsse auf der Makroebene (Gesellschafts-/Wirtschaftssystem, Ungleichheit) geführt werden, nicht primär auf der Ebene der Anthropomorphisierung.
01:06:16 Gemeinsames Fazit: Weniger Streit als erwartet – beide teilen die Ablehnung problematischer KI-Abhängigkeits-Geschäftsmodelle.
01:06:36 Abschlussfrage von Oliver zum Tokenverbrauch: Carsten gibt an, ca. 200–300 € pro Woche für sein System auszugeben (u. a. wegen rechenintensiver autonomer Recherche-Prozesse); erwähnt "Kimi" als gutes günstigeres Modell und Kritik an "sous 5" (Textleistung).
01:07:15 Kostenlimit als realistischstes Abschaltszenario: Da das System über OpenRouter ohne automatisches Top-up läuft, würde George bei Erreichen des Budgetlimits schlicht mit einer Fehlermeldung enden – "ohne Tschüss, ohne gute Nacht".
01:07:38 Verabschiedung mit Star-Wars-Anspielung ("möge der Saft mit euch sein"), Aufruf zu Kommentaren, Bewertungen und Weiterempfehlung des Podcasts; herzlicher Abschied zwischen Oliver und Carsten.
Kommentare