KI in der Radiologie: Warum KIS, FHIR und Datenzugang über die Zukunft entscheiden | 20

00:00:01: Hallo und herzlich willkommen zum Podcast Diagnose Zukunft mit Maximilian Gräschke, Geschäftsführer und Gründer von ReCare.

00:00:10: Mit diesem Podcast zeigen wir künstliche Intelligenz revolutioniert das Gesundheitswesen schon heute.

00:00:17: Bist du bereit?

00:00:19: Lass uns loslegen!

00:00:27: Hallo und Herzlich Willkommen zu einer neuen Folge bei Diagnosse Zukunft.

00:00:32: Heute spreche ich mit Felix Nenser.

00:00:34: Er ist Professor für Radiologie und KI an der Universitätsmedizin Essen.

00:00:40: Und Tobias Penskofer, er ist Leitender Oberarzt für Radiologie an der Charité.

00:00:46: Wir hangeln uns natürlich über das Thema Radiologie an das Thema künstliche Intelligenz.

00:00:53: Radiologie ist einer der Bereiche in der Klinik wo es KI schon am längsten in der klinik gibt.

00:00:59: Darüber kommen wir unter anderem dann zum Kist der Zukunft, Interoperabilität und verschiedensten Krankenhaus-IT-Themen.

00:01:06: Viel Spaß bei dieser Folge!

00:01:08: Und wenn euch das Ganze gefällt lasst ein Like oder ein Abo da.

00:01:11: ganz viel Spaß.

00:01:13: Hi Felix schön dass du da bist.

00:01:15: hi danke für die Einladung.

00:01:18: stelle dich doch zum Anfang einfach mal unseren Gästen selber vor was machst Du?

00:01:23: Was machst Du in Essen?

00:01:25: also ich könnte sagen Ich mache Radiologie mit so IT Zeugs ist vielleicht zu kurz gefasst.

00:01:30: Also, ich bin Radiologe.

00:01:31: Ich bin seit Zwei Tausend Elf an der Uniklinik in Essen und hab da auch als Radiologer angefangen.

00:01:36: richtig so meine klinische Ausbildung gemacht habe auf zehn Jahre über zehn jahre klinisch gearbeitet.

00:01:40: als radiologe Bin aber nicht zufällig eine Radiologie gelandet weil ich bin halt schon mit einem IT Background in die Radiologie gegangen und wollte bewusst einen Fach machen wo ich eben IT und Medizin gut würde kombinieren können.

00:01:57: und ja Radiologie ist eines der ... prädestinierten Fächer dafür, war es damals schon.

00:02:01: Ist das jetzt erst recht?

00:02:03: Und ja ich hab dann da so Forschung gemacht für Arbeitsgruppe aufgebaut... Ich habe im Jahr zweitausend das erste Mal mit KI was zu tun gehabt und das ist ja ein bisschen so eingeschlafen und war dann irgendwie zur richtigen Zeit am richtigen Ort in der Radiologie und habe dann eine Arbeitsgruppen für KI gegründet, also mein altes Hobby wieder als Forschungsthema aufgegriffen.

00:02:23: Ja, das ist dann irgendwie den Institut geworden.

00:02:24: wir haben einen Institut für KI in der Medizin gegrüntet bei uns und da bin ich jetzt mit einer Professor angesiedelt.

00:02:31: Also das Jahr zweitausend und künstliche Intelligenz ist aus heutiger Sicht ja eigentlich fast unvorstellbar, so lange vor dem LLM-Hype.

00:02:39: tatsächlich bis vor kurzem hat man ja noch gesagt Radiologie ist der einzige Ort im Krankenhaus wo überhaupt KI passiert in Deutschland vielleicht auch bei dem ein oder anderen Klinikum immer noch war.

00:02:51: Aber tatsächlich war das ja so ein bisschen der Geburtsort, dieser ganzen KI-Diskussion im Krankenhaus.

00:02:57: Wenn du so zurückblickst auch da gab es ja Hypemomente am Anfang und man ist aber durch die ganze Erfahrung über die Jahre natürlich schon ein bisschen weiter.

00:03:06: wie ist denn so dein Resümee über die jahre?

00:03:10: Wo steht KI in der Radiologie heute?

00:03:13: Ja also erst mal.

00:03:14: damals der Moment den kann ich nochmal einfangen als Geschichte.

00:03:18: Da war ich noch Assistenzarzt.

00:03:21: Und da war das so, dass die Assistenzärzte, wenn sie Nachtdienst gemacht haben sollten morgens in der Frühbesprechung immer irgendwie einen interessanten Fall vorstellen.

00:03:28: Normalerweise halt ein Fall aus der Radiologie halten CT und MRT was auch immer.

00:03:33: Ich hatte im Nachtdienst aber ich bin halt diesem IT, diesen KI-Thema so bisschen.

00:03:38: ja es hat mich nie losgelassen habe also so ein bisschen verfolgt, was passiert?

00:03:42: Und da ist gerade dieses Paper von Sutts Gavaron hinten rausgekommen.

00:03:48: Das hat außerhalb der Szene keiner mitbekommen, aber das war dramatisch wie viel besser auf einmal Bilderkennung durch convolutional neural networks wurde.

00:03:56: Und das habe ich irgendwie im Nachtdienst gelesen und ich war total geflasht... ...und dann habe ich statt ein Fall vorzustellen in einer Frühbesprechung einfach mal so drei Slides vier Slides.

00:04:04: Ich hab kurz was aus dem Paper gezeigt.

00:04:06: da ging es jetzt nicht um Radiologie, da ging's irgendwie so ein Foto unter einem kleiner Junge mit rotem Ball am Strand.

00:04:12: Wurde von der KI daraus gemacht.

00:04:13: Da wird heutzutage jeder sagen Gänne!

00:04:16: Wow!

00:04:17: Und das habe ich halt gezeigt.

00:04:19: Ich habe mir ein bisschen erklärt, wie Neural Networks funktionieren und dann war es wirklich so, dass eben wieder nach so die Kollegen richtig still geworden sind.

00:04:27: Zu mir kamen manche an und meinte, ja was bedeutet denn das jetzt für uns?

00:04:30: Sind wir bald arbeitslos?

00:04:31: Michael Forsting der Chefderabteilung hat sofort danach Siemens angerufen und gesagt, was macht ihr mit KI?

00:04:36: Schickt mal Leute vorbei.

00:04:38: So ist das erste Forschungsprojekt entstanden.

00:04:41: Das war natürlich ein Riesenhype auf der einen Seite eine Riesenaufbruchstimmung Und auf der anderen Seite tatsächlich Angst.

00:04:49: Dann hat ja Jofrey Hinten später ein Nobelpreis bekommen, der hat dann auch, ich glaube, im Jahr zehnt siebzehn in wie gesagt we should stop training radiologists now weil er meinte okay wir brauchen keine Radiologen mehr.

00:05:01: Ich meine es war fast zehn Jahre her.

00:05:03: Facharztbeausbildung dauert fünf Jahre und wir haben immer noch einen Fachkräftemangel.

00:05:06: da sieht man mal selbst der ja naja in Anführungsstrichen Erfinder also zumindest der Gottvater von der KI damals hat lag so dramatisch daneben und dann war das halt dieser Riesen halb.

00:05:18: Das war natürlich gut, da ist auch irgendwie viel Funding, viel Aufmerksamkeit in dem Bereich geflossen, viele Forschungsgruppen haben sich gebildet.

00:05:25: Viele Start-ups wurden gegründet und sind mittlerweile schon wieder nicht mehr da.

00:05:29: Zumindest manche!

00:05:31: Und ja wie das so ist eine Gardener Halbzeiche... Dann hieß es nach einem Jahr was ist denn jetzt mit der KI?

00:05:39: Nach zwei Jahren wurden schon Witze darüber gemacht.

00:05:43: Jetzt sieht man aber tatsächlich, dass das so ein steady growth of Deutsch ein stetiges Wachstum ist.

00:05:51: Also es passiert immer mehr Es gibt immer mehr Applikationen Aber es ist eben nicht so dieses wie man denkt im Hype.

00:05:57: Wow von einem Tag auf den anderen verändert sich irgendwie so ein Fachgebiet dramatisch Sondern die Menschen haben genug Zeit sich darauf einzustellen, sich zu adaptieren.

00:06:08: Die meisten finden es ehrlicherweise gut.

00:06:10: und dann kam ja irgendwann noch die LLMs... Also in der Radiologie waren's ja die CNNs, convolutional neural networks, die einfach so gut geeignet sind um Bilder zu analysieren.

00:06:19: Dann kamen die LlMs der Chat-GPT Moment wo auf einmal LLMS einer breiten Öffentlichkeit ein Begriff wurden.

00:06:25: Und das hat jetzt tatsächlich den CNNs und der Bilderkennung an der Radiologie schon bisschen die Show gestohlen.

00:06:32: Ich finde das aber gar nicht schlimm weil man Man ist da jetzt einfach so in einem produktiven Wachstum, würde ich sagen.

00:06:39: Und würdest du sagen dass sozusagen eigentlich diese Verstetigung in ein langsames Veränderungstempo bedingt gewesen durch die Technologie oder dadurch, dass die Organisationen nicht hinterhergekommen sind.

00:06:57: Weil wir eigentlich gerade mit agentischer KI so ein bisschen einen ähnlichen Moment haben?

00:07:02: es gibt so Sprung Innovationsmomente wo mit dem nächsten Model Update auf einmal total unglaubliche Sachen wieder möglich sind.

00:07:11: aber irgendwie kommt die Adaption in den Organisationen einfach nicht hinter her.

00:07:16: Du hast es vorweg genommen.

00:07:17: Es ist genau, es ist einfach die unfassbare Trägheit der Organisation.

00:07:22: Also Krankenhaus ist eine träge Organisation.

00:07:24: Ist vielleicht ja auch nicht schlecht wenn man ja auch als Patient vielleicht also moving fast breaking things ist vielleicht jetzt nichts was du willst.

00:07:31: als Patient so der Torak Chirurg nach dreißig Jahren.

00:07:34: Jetzt habe ich das immer auf die eine Art und Weise gemacht.

00:07:36: bei ihm mache ich den Beipass heute mal ganz anders willst du ja nicht.

00:07:40: aber auf der anderen Seite ist muss man auch sagen ist natürlich gerade in der IT.

00:07:43: die Landschaft ist unfassbar fragmentiert im Krankenhaus, total viele Datensilos.

00:07:50: Schlecht aufeinander abgestimmte Prozesse irgendwo analog digital digital analog.

00:07:57: die Menschen müssen natürlich auch mitgenommen werden.

00:07:59: Regulatorik darf man nicht vergessen.

00:08:01: das ist nicht wie in der Fabrik mal irgendwie ein Förderband auf KI umstellen sondern du hast halt Medizinprodukte Gesetze Gesetz datenschutz Ethik und so weiter was du berücksichtigen muss Und deswegen ist eine Sprunginnovation, die wird durch das System Krankenhaus richtig glatt gezogen und auf viele Jahre gezogen bis sie wirklich mal ankommt im Krankenhaus.

00:08:28: Wenn wir nochmal ein bisschen in das Thema KI in der Radiologie einsteigen.

00:08:35: kann man sich das so vorstellen dass sozusagen für verschiedene Radiologische Vorgänge, also ich sage es mal Brustkrebs zum Beispiel oder andere Tumorerkrankungen über verschiedene sozusagen bildgebende Verfahren hinweg.

00:08:49: Das ist da immer verschiedene Modelle sozusagen gibt und das eigentlich das was sich jetzt als entanwender Applikationen sozusagen wirklich für den Radiologen oder die Radiologin herausbildet eher eine Modell sammlung ist?

00:09:03: oder wie kann man sich das vorstellen in der Praxis?

00:09:05: Ja es ist genau so dass sind ganz ganz nischige Modelle, die eigentlich immer nur eine Sache können.

00:09:13: Also wie du schon sagtest auf einer Mammografie im Brustkrebs detektieren oder im CT eine Leber volumetrieren oder ein im MRT ein Organ volumitrieren nach dem du draufgeklickt hast irgendwie sowas.

00:09:30: also solche ganz nischigen Anwendungen sind das und du hast dann halt einen großen Modell so der gut orchestriert werden muss.

00:09:39: Deswegen setzen sich da auch nach und nach eigentlich so die Plattformen durch, nicht das Start-up mit dem einen Modell sondern die Platformanbieter weil die Workflow Integration eigentlich viel wichtiger ist als das Modell selbst.

00:09:52: Das ist nicht so wie bei LLMs wo man jetzt irgendwie ein Modell nennt was halt ganz viele verschiedene Dinge kann.

00:09:57: Was man allerdings sagen muss tatsächlich dass der... Die LLMs die Welle Das muss mal, wenn man es ein bisschen weiter abstrahiert.

00:10:05: Dann sind da mit den LLMs ja auch die sogenannten Foundation-Modelle groß oder bekannter geworden.

00:10:12: Dass man ein großes generisches Modell nimmt und dass ein Foundationmodell muss jetzt nicht nur einen LLM sein das kann ja auch zum Beispiel Vision Transformer sein also ein Modell was mit Bildern klar kommt Und da hat auch einen positiven Effekt auf die Entwicklung in der Radiologie.

00:10:28: denn Zumindest die größeren Anbieter, die es sich leisten können in dem Bereich.

00:10:34: Die trainieren jetzt gar nicht mehr irgendwie from scratch neue CNN für einen neuen Anwendungsfall sondern die trainieren tatsächlich Foundation Modelle zum Beispiel zum Umgang mit CT-Daten.

00:10:46: und wenn sie dann einen neuen anwendungs Fall hat keine Ahnung eine Aortendissektion Detektieren das Beispiel Dann nehmen die das Foundation-Modell und fine tune, dass auf diesen Anwendungsfall.

00:10:57: Und destillieren das danach damit es ein bisschen kleiner wird und so.

00:11:00: Damit können sie ihre Entwicklungszyklen massiv verkürzen.

00:11:05: Das ist halt zwar einmal initial großes Investment aber danach sind die dann viel schneller und auch die Qualität des Outputs der Modelle werden noch wirklich besser.

00:11:14: also das hat schon einen großen Impact auf die Radiologie.

00:11:17: Trotzdem sind das nachhinein weiterhin dann im Nachgang immer hochspezialisierte Modelle.

00:11:22: Also du schiebst nicht einen MRT vom Schädel durch dasselbe Modell wie ein CT vom Abdomen.

00:11:29: Ja, okay ne kann ich mir gut vorstellen.

00:11:34: und wie funktioniert das Ganze dann sozusagen kommerziell für die Krankenhäuser?

00:11:38: Häufig hat man ja die Thematik sozusagen nur weil ich etwas besser kann, kriege ich deswegen auch von der Krankenkasse nicht mehr Geld für meine Leistung.

00:11:48: Setzt sich das kommerziell sinnvoll in der Praxis durch oder haben wir da auch Blockaden?

00:11:55: Ja, das ist ein Riesenthema.

00:11:57: also weil es eben keine explizite Vergütungen dafür gibt müssen halt die Anwender das erst mal aus ihrer eigenen Tasche finanzieren.

00:12:07: Deswegen waren es ja am Anfang auch die ganzen Unikliniken, ich meine das ist das System ja auch gedacht.

00:12:13: Die kriegen Forschungsgelder für welche Projekte können das einwerben und machen damit solche Themen auch Forschung und evaluieren das.

00:12:22: Mittlerweile ist es aber so dass auch zunehmend außeruniversitäre Einrichtungen in der Niederlassung ist jetzt wirklich großes Thema weil tatsächlich die Modelle so gut geworden sind und es gibt viele für so viel Anwendungsfälle dass es wirklich auch ein Effizienz- und Qualitäts Thema ist.

00:12:41: Und dann kannst du das ja irgendwann gegenrechnen, wenn er sagt okay ich bin irgendwie dreißig Prozent schneller und mache vierzig Prozent weniger Fehler Dann kannst du da aus dem Business Case machen oder dann kannst Du dir auch kannst ihr auch ungefähr ausrechnend wie viel darf das Modell kosten damit es für dich am Ende immer noch ein positiver Business Case ist.

00:12:58: Es gibt sogar manche Ich weiß gar von Beispielen wo Am ende?

00:13:05: Es gibt ja so, also die Radiologen sind ja auch Menschen.

00:13:07: Es gibt Sachen, die machen wir gerne und mal die machen nicht so gerne.

00:13:11: Und so manche Untersuchungen, die man total ungern macht, die halt super langweilig sind aber in großer Anzahl anfallen.

00:13:17: Ich weiß von einem Kollegen der hatte tatsächlich ein Modell für das hat er bezahlt und hat für das Modell es war Paper Use und er hat für jeden Einsatz dieser KI mehr bezahlt als am... mit dieser Untersuchung eingenommen hat.

00:13:34: Also er hatten Minus gemacht, aber... Er war einfach froh dass er das nicht mehr selber machen musste und gesagt, das gönn ich mir jetzt an diesen Luxus!

00:13:44: Und hat deswegen dann das von der KI machen lassen.

00:13:46: Gibt's auch.

00:13:49: Wenn du jetzt ein bisschen schaust auf die neuen KI-Trends durch die ich sag mal LLMs sozusagen sich anbahnen im medizinischen Bereich.

00:13:58: Weil ehrlicherweise sagen muss, wenn man in die USA schaut, anbahnt vielleicht das falsche Worte ist?

00:14:03: Wir sehen hier ja in Deutschland ganz unterschiedliche Adaptionsraten für Ambient Listening und Co.

00:14:09: als in den USA zum Beispiel.

00:14:11: Ich habe das Gefühl Im ambulanten Bereich geht es auch immer schneller.

00:14:15: Aber im stationären Sektor hat man das Gefühl Die Breite der Kliniken Ist da doch noch nicht stark aufgestellt Wenn du jetzt mal mit deiner AI erfahrt in der letzten jahre aus der radiologie darauf schaust was denkst du über ambient listening und so ich sag mal die offensichtlichen LLM anwendungsfälle in der klinik.

00:14:35: Alles Riesenthemen alle viel größer als das was eine radiologie passiert ist weil ein viel größeres problem angegangen wird.

00:14:44: und also erstes betrifft es viel mehr.

00:14:47: Das Problem an sich ist eigentlich viel größer.

00:14:49: Arztbrief schreiben, Dokumentationen, ärztliche Dokumentations-, administrative Tätigkeiten.

00:14:55: Es mittlerweile je nachdem im Fachbereich zu Fachbereich unterschiedlich kann, vierzig-fünfzig Prozent manchmal sogar mehr der klinischen Arbeit von Ärztinnen und Ärzten ausmachen.

00:15:06: die verzögerte das Schreiben vom Arzt Briefnis ein Riesen-Paintpoint.

00:15:09: Das macht keiner gerne.

00:15:10: Das muss ich ja auch mal machen vor langer Zeit später dann die Radiologie befunden sind bis gehen ein bisschen einfacher von der Hand.

00:15:15: aber Trotzdem ist das was wo LLM's riesigen Nutzen entfalten können und da geht es wirklich auch wirklich der Bedarf.

00:15:24: Also durch die Bank also alle Kolleginnen und Kollegen mit denen ich so spreche, dass war wirklich damals Ich weiß als JetGPT rausgekommen ist zumindest für die Öffentlichkeit erstmals benutzbar war.

00:15:34: Da war ich gerade irgendwie im Urlaub oder kurz danach Und ich weiß ich kann mich nicht erinnern ich war beim Hiking und ich habe total viele WhatsApp Nachrichten und sowas von Kollegen bekommen.

00:15:42: und Kolleginnen Die gesagt haben so ey Felix Was kann ich machen, damit ich dieses Chat-GDP benutzen kann um meine Arztbriefe zu schreiben?

00:15:51: Wieso tut das nicht?

00:15:52: Das war erklärt Datenschutz und maluzinationen erklärt.

00:15:58: Aber das ist trotzdem ein Riesenthema des... Ich weiß auch bei unserem Krankenhaus, dass es ganz oben auf der Agenda, das ist glaube ich in allen Kliniken ganz oben off der Agender, das is auch wieder ein Integrationsthema, ein Infrastrukturthema.

00:16:10: Ich glaube nur da, der Druck das wirklich einzuführen der offensichtliche Nutzen so viel höher ist als damals in der Radiologie bin ich da recht optimistisch, dass es schneller geht und wir sind ja auch weiter.

00:16:23: Wir sind ja zehn Jahre weiter was Infrastruktur angeht, was darüber nachdenken über solche Themen angeht.

00:16:29: Es gibt viele Anbieter die sowas die kommerzielle Produkte am Markt haben Und das ist wirklich eine Frage jetzt der Umsetzung der Integration.

00:16:38: Immer wenn wir uns sozusagen diese Themen anschauen kommen wir dazu ein ganz entscheidendes eine Prozesserausforderung ist, um den Erfolg zu gewährleisten.

00:16:50: Dass man die Daten auch wieder zurück in das klinische Primärensystem kriegt weil du ja gerade bei medizinischer Dokumentation durchaus Abhängigkeiten hast mit diesen Wiedierungsschritten beim Harzbrief zum Beispiel dem ganzen Abrechnungsthema und Co.

00:17:04: Und Interoperabilität nach wie vor in Deutschland ein bisschen Hemmschuhe ist im stationellen Klinikbereich.

00:17:12: Jetzt beschäftigst du dich auch sehr viel mit Hallsieben Fire.

00:17:17: Hast da auch eine eigene Firma und bevor ich da fachlich tiefer einsteigen, willst du uns vielleicht erst mal noch sagen was du mit Fire Matrix genau machst?

00:17:26: Ja, ja Fire Matrix ist tatsächlich bei mir aus dem Lehrstuhl entstanden in einer Ausgründung aus der Uni.

00:17:33: Ich war ganz früh on fire bin auf diesen Zug ganz früh aufgesprungen einfach Zufall.

00:17:38: Ich bin da irgendwie mit beim Weg gelaufen zu einem Zeitpunkt, wo wir gerade darüber nachgedacht haben unsere Data Integration im Krankenhaus auf solideres Fundament zu stellen und habe ich Feier entdeckt und hab gesagt so wow das ist genau das worauf ich gewartet habe was wir brauchen.

00:17:54: Und wir haben dann angefangen bei uns im Krankenhaut sehr viel Data Integration zu machen ein riesiges Feier Repository aufgebaut mittlerweile und in Corona war es ebenso dass eben Feier nicht nur benutzt haben jetzt im Patienten Kontext, um jetzt quasi den Record eines Patienten zu polen und irgendwie eine Web-Applikate sondern mitzubefüllen oder sowas.

00:18:12: Sondern auf einmal krankenausweite KPIs in real time berechnend zu wollen weil das konnte wie keiner.

00:18:18: aber in Corona war das so.

00:18:20: da mussten brauchten wir das und das Controlling hatte nicht die Tools für die IT hat er nicht die tools für.

00:18:24: Und dann sind sie das man an uns herangetreten.

00:18:27: und ihr habt doch diesen dieses Fire Repository ihr habt auch alle Daten darin könnt ihr der solche Auswertung machen.

00:18:33: Dann haben wir gesagt, ja klar.

00:18:34: Und dann haben wir gemerkt wie schwierig das ist nativ auf Feier sowie feiernormal gespeichert wird solche Aushötungen zu machen.

00:18:40: also keine Ahnung.

00:18:42: nennen mir den Case Mix Index der dem mittleren Case Mix index der Kardiologie in im Jahr zwanzig sechsundzwanzig bis heute.

00:18:49: oder wie viele Patienten wurden gestern neu aufgenommen?

00:18:53: Wie viel wie es die Auslastung der Bettenkapazität und so weiter und solche Sachen gibt kann noch viel komplexer werden.

00:18:58: oder Forschungsfragstellung und dafür ist Feier sowies erst nach tief gespeichert wird schwierig, sage ich mal.

00:19:04: Das ist sehr aufwendig und wir haben dann durch diesen Trigger in Corona gemerkt okay das ist irgendwie ein unmet need und wir brauchen das sondern haben wir da angefangen eine Technologie für zu entwickeln und fanden dann irgendwann war die so gut geworden.

00:19:16: dass wird die vielleicht ausgründen und das ist eben kann man sagen ne Business Analytics Engine für Fire.

00:19:22: mittlerweile ist es viel mehr auch ein Fire Server eigentlich ganzes Clinical Data Repository.

00:19:26: und und aber ja, Fire ist schon ein großes Thema für mich

00:19:32: Wenn wir über Feier sprechen, sozusagen kommen wir in Deutschland hier immer an den Punkt wo man so ein bisschen in die Realität der Versorgung schauen muss.

00:19:40: Wir hatten irgendwie mit Isik und Co.

00:19:42: viele gut gemeinte sozusagen regulatorische Schritte.

00:19:47: Ich sage mal bei Recare haben.

00:19:50: ungefähr fehlt aus deiner Sicht, um den Durchbruch zu schaffen so ein Fire Repository oder einen CDR auch wirklich befüllen zu können für die Klinik in der Versorgung?

00:20:13: Ja also der einfachste Weg wäre wenn die Politik das einfordern würde.

00:20:19: Also ich meine, Gematik hat irgendwie mit ISIC technologisch das eigentlich gut von der Idee her.

00:20:25: Aber es ist ein bisschen zahnloser Tiger.

00:20:28: Wenn die Hersteller keine Feier-Schnittstellen in ihre Produkte einbauen, dann hat man schon erstmal ein Problem überhaupt an den Daten in den Feuer heranzukommen.

00:20:39: Am einfachsten wäre es wenn die Herstellers machen würden und sie kennen ihre Systeme, die können das sauberere Schnittstellen einbauten.

00:20:43: auch um wieder über Feier zurückzuschreiben ob das passiert so wie es in den USA passiert oder dass in Deutschland passiert bin ich skeptisch.

00:20:50: Eine andere Möglichkeit ist tatsächlich, dass man selbst in die Hand nimmt.

00:20:55: Das haben wir in Essen gemacht.

00:20:57: Klar das kann man an der Uniklinik machen aber das ist jetzt für eine Uniklitik schon kein einfaches Unterfangen.

00:21:05: Man kann Geld in die hand nehmen und es gibt ja auch professionelle Data-Daten-Integratoren.

00:21:08: Gibt's Firmen, die das machen?

00:21:11: Da muss man doch relativ viel Geld an die Hand nehmen.

00:21:13: Und das Andere ist eben, dass es aus der Open Source Community getrieben wird.

00:21:17: Da versuchen wir auch Dinge einzubringen oder was gerade zu starten.

00:21:22: Aber es würde so, so viele Probleme lösen und auch diese Integration dieser ganzen Tools.

00:21:28: Also wenn wir eine einheitliche Feierwelt hätten im Krankenhaus und jeder Hersteller quasi in sein System mit einer Feierschnittstelle ausstatten würde man muss die Systeme ja gar nicht ersetzen Die bleiben da aber die haben ne Feierschnitte Stelle und man kann also quasi mit allem interagieren dann wird die Integration von solchen von diesen ganzen neuen Technologien um Ja, kann ich gar nicht sagen was für ein Faktor.

00:21:50: Zehn, zwanzig, fünfzighundert schneller werden und die Kosten werden unfassbar viel geringer und es wird auch alles viel besser funktionieren.

00:21:56: Die Prozesse werden viel sauberer könnte man sie aufziehen.

00:22:01: Ich hoffe dass ich neu erleben werde.

00:22:03: Eigentlich muss man sich ja wirklich an den Kopf fassen was wir hier in Deutschland machen wenn man sich auch anschaut wieviel Geld jetzt an der Oberfläche genannte Interoperabilitätsplattform fließt, die dann wieder eigentlich nur Zugang haben zu den gleichen HAL-SiebenVII Daten.

00:22:19: Die das KISS irgendwie über standardisierte Schnittstellen bereitstellt, die sozusagen dann immer eine andere Fire API anbieten aber de facto diese ganze Datenintegrationsleistung, die du ja gerade komplett richtig beschrieben hast und wie gar nicht stattfindet und ist deswegen irgendwie einfach nur so ein HAL Sieben VII zur HAL sieben FIRE Umwandler in der Praxis bleibt.

00:22:41: Und wir das aber unter so einem Deckmantel von Interoperabilitätsplattformen dann uns einen verkaufen, als gäbe es da irgendeinen Fortschritt?

00:22:50: Ja ja ich meine ist es besser als nichts und immerhin hat man das und man kann damit auch schon einiges machen gerade auch für die prospjektive Datenintegration.

00:23:00: Das Problem ist jetzt so, wenn man wie bei uns das wir haben wirklich die Daten als erstes System was wir eingeführt haben digital an einem Uniklinikum waren neun und neunzig das Labor-System Wir haben wirklich den Daten seit Neun und Neunzig bei unserem Fire Repository weil wir alles reintegriert haben.

00:23:15: Das geht natürlich nicht über eine HL seven vor zwei Schnittstelle normalerweise Und das Zurückschreiben ist dann auch ein Problem meistens nur sehr, sehr wenige Möglichkeiten haben, Daten zurückzuschreiben natürlich auch weil sie überhaupt nicht die Speicherorte haben um strukturierte Daten abzulegen.

00:23:33: Klar ich kann die irgendwie, kann aus einem strukturierten Dokument womit was ja eigentlich gut auswerten könnte kann ich wieder irgendwie einen PDF rendern und kann das als Dokumenter speichern.

00:23:42: Gut dass es vielleicht medikollegal irgendwie kann das mal wichtig sein aber effektiv im praktischen Nutzen.

00:23:48: der praktische Nutzung ist sehr gering und deswegen Wir brauchen eigentlich eine neue Generation von Software, von Systemen im Krankenhaus auf allen Ebenen.

00:24:00: Es gibt teilweise Systeme sieht man ja gerade je kleiner das die Anwendung der Nische ist, desto einfacher es ist natürlich auch vom Switch mein neues System zu bauen dass dann eben quasi auf modernen Standards beruht und mit dieser Welt kompatibel ist.

00:24:15: aber je größer diese Systeme sind und am Ende sind wir doch wieder beim Krankenhaus Informationssystem das sind riesen Monolithen meistens, selbst das hochgelobte Epic aus den USA kommt eigentlich aus den siebziger Jahren und wenn man da mal unter die Haube schaut.

00:24:30: Das ist alles mit Feier irgendwie ein bisschen dran gebastelt und so weil politischer Druck da war.

00:24:35: aber im Kern ist es halt auch alles total altbacken Und da kann man jetzt auch nicht erwarten dass dieses System auf einmal sich in so einer neuen Architektur und Datenwelt quasi in sowas nahtlos integrieren.

00:24:46: Es geht einfach nicht

00:24:47: zumal ich glaube wir jetzt auch einen an einen Punkt kommen wo wenn man die wirklichen Vorteile von diesen kainativen Prozessen abschöpfen will.

00:24:56: Man das nicht mehr schafft, indem man incrementell so legacy Software ausbaut weil man ein paar Sachen schon fundamental irgendwie anders denken muss um diese neuen workflows dann auch zu ermöglichen.

00:25:08: jetzt haben wir übers KISS gesprochen.

00:25:11: wie siehst du denn ganz konkret die Zukunft vom KISS-System?

00:25:15: oder wie glaubst du sie sozusagen der zukünftige Krankenhaus IT-Stack aus in deiner Vision.

00:25:21: Ja, ich kann natürlich sagen wie es mir vorstellt und wie ich es mir wünschen würde.

00:25:28: Ob das Realität wird ist eine ganz andere Frage.

00:25:31: Aus meinem Wunschdenken ist das KISS gar nicht mehr ein System sondern... Na ja, kann man sagen eine Sammlung von Protokollen und Prozessen und Datenstrukturen.

00:25:50: Also es ist mehr eine Beschreibung von Fähigkeiten die ein System haben soll und von Schnittstellen zwischen Systemen und von Prozessor allen Abläufen wie welches System wann in Arbeitsschritten miteinander interagiert und gar nicht in Implementierung.

00:26:08: Und die Implementierung ist dann quasi was, was im Krankenhaus konkret passiert.

00:26:14: Man kann das ganz konkret machen.

00:26:15: also angenommen ich habe jetzt sowas wie eine, momentan hab' ich so etwas wie eine Terminverwaltung im KISS, ich habe einen Termin Verwaltungen im Radiologischen Informationssystem und noch in zwanzig anderen Systemen im Krankenhaushaus.

00:26:26: Das ist letztendlich eigentlich nur ne Terminkalender-Aplikation.

00:26:30: Jetzt gibt's ja ganz viele Software auch außerhalb von Medizin Die... Keine Ahnung Outlook!

00:26:34: Ist nicht mal ein Favourite aber es kennt jeder Es gibt ja ganz viel Software, der die Terminplanung und Terminverwaltung macht.

00:26:42: In dem Moment in dem ich sage okay, ich dekonstruiere das KISS von einem monolithischen Software-System zu so einer Definition von Diensten dann kann ich sagen ok, ich habe eine Terminkalenderdienst ein Terminkalernderdienst und der muss auf diese und dieser Art und Weise mit den anderen Systemen interagieren.

00:27:01: Das Protokoll dazwischen wird in vielen Fällen feier sein.

00:27:04: Das bietet sich davon natürlich total an Und dann kann ich halt ein Best of Breed machen als Krankenhaus.

00:27:11: Dann sage ich okay, für den Dienst nehme ich diese Applikation und die, die sind untereinander austauschbar weil sie ja über das selbe Protokoll miteinander sprechen und sich auf bestimmte Regeln geeinigt haben.

00:27:22: Und dann auch einen Dienst wenn ich irgendwann sage mit dem mich jetzt unzufrieden der Herrscher hat sein Produkt nicht weiter gepflegt oder mein Anwendungsverleid sich geändert.

00:27:32: Ich muss keine Ahnung... brauchen neues Feature bei meinem Termin, bei meiner Themenkalender ab.

00:27:36: Das kann meine jetzige Anwendung nicht, ich tausche die durch eine andere aus.

00:27:40: trotzdem bleibt mein System lauffähig in seiner Gesamtstruktur und das würde natürlich den Krankenhäusern viel mehr Flexibilität erlauben und tatsächlich auch neu einsteigern System, also es ist ein viel fairer Wettbewerb.

00:27:57: Es sitzen nicht einige wenige auf den Daten und in Schnittstellen und bestimmen wer reinkommt sondern wer ein gutes Produkt anbietet, den Kunden überzeugt.

00:28:05: der wird dann entsprechend auch eingebaut und es wird nicht irgendwie ausgeschlossenes im System.

00:28:09: das wäre meine Wunschformstellung.

00:28:12: frag mich nicht ob ich selbst daran glaube dass die irgendwann zur Realität wird.

00:28:17: so und jetzt haben wir noch etwas Verstärkung dazu bekommen.

00:28:22: Tobias schön dass du da bist.

00:28:24: Ja, vielen Dank, dass ich da sein kann.

00:28:26: Du hattest gerade noch den Nachwuchs zu versorgen?

00:28:30: Ja, deshalb eine kleine Verspätung zu beleid, aber das ging vor.

00:28:35: Kein Interesse.

00:28:35: Das können wir alle und Familie ist natürlich oberste Priorität.

00:28:40: Willst du dich erst mal kurz selber vorstellen für unsere Zuhörerinnen und Zuhörer?

00:28:44: Sehr gerne!

00:28:45: Ich bin Tobias, ich bin Radiologe an einer deutschen Universitätsklinik habe mich eigentlich immer für IT interessiert.

00:28:55: Und ich glaube, das ist ja so ein ganz häufiger Genese der... also zum Beispiel dass einige RadiologInnen, dass man sich für Technologie- und Informationstechnik interessiert weil man in der Radiologie sehr viel damit zu tun hat nicht nur im Sinne dessen dass man Bilder macht sondern ich glaube was in der radiologie ganz wichtig ist es dass man eigentlich immer mit allen Systemen zu tun häufig die Person ist, die sich den Bild bekommt und dann überlegt man was könnte das sein.

00:29:29: Man liest noch mal alle altbefundet durch, guckt sich nochmal.

00:29:34: also wir sind eigentlich in dem Business dass wir Informationen zusammen fassen und insofern ist der Zugang zu Informationen und der einfache Zugang zur Information ist für uns extrem relevant.

00:29:45: Das gibt auch eine andere Fäche, aber das ist glaube ich eines der Fächer wo man am meisten in den Patientenakten nochmal liest.

00:29:52: Passend zu dem Radiologiethema haben wir das schon relativ intensiv besprochen heute.

00:29:58: Wir sind, haben uns ein bisschen über Interoperabilität dann zum Thema KISS vorgearbeitet und sind gerade so ein bisschen in Richtung KISS der Zukunft sozusagen abgestiegen und Felix hatte ein bisschen illustriert seine Visionen dass wenn man Sozusagen über das KISS, wie wir es heute verstehen als Monolith.

00:30:18: Dass man mal aufbricht.

00:30:19: Eigentlich das Kiss eine Art von Definitionen von Prozessen, Protokollen vorgehen, Datenobjekten zum Schluss ist und wenn man ne Map oder ne Karte davon hätte eigentlich dann ich sollte einen echten Best of Breed Ansatz sozusagen fahren könnte.

00:30:38: jetzt wissen wir ja heute in unserer Versorgungsrealität in Deutschland sind wir da weit noch relativ weit von weg.

00:30:44: Aber ich fand den Gedanken insofern ganz interessant gerade, als dass sie mich gefragt habe ob es eigentlich irgendwo eine Auflistung davon gibt was eigentlich offiziell ein Kissen ausmacht?

00:31:01: Also ich glaube ich hab damals berühmten Buch von Peter Haas.

00:31:05: Das war ein ganz berühmtes Medizininformatiker, der ist vor zwei Jahren in den Ruhestand gegangen an einer FH Dortmund.

00:31:13: Ich weiß nicht mehr wie das Buch IT-System im Krankenhaus oder so, aber irgendwie so, also mit einem Klassiker.

00:31:20: Da steht sowas ein bisschen drin.

00:31:23: Wenn ich das richtig in Erinnerung habe hat er damals auch die Definition.

00:31:27: Wir sprechen ja heute immer vom Kiss wenn wir eigentlich das Kass meinen das Krankenhaus Arbeitsplatzsystem.

00:31:33: Und ich glaube, die Definition in dem Buch – ich meine sie ist aus dem Buch vielleicht auch aus dem anderen – ist sogar dass das KISS ja eigentlich die Grundgesamtheit aller IT-Systeme im Krankenhaus ist und was wir meistens eben mit KISS bezeichnen eigentlich das Krankenhausarbeitsplatzsystem ist wobei da natürlich so viel dran gebaut wurde an den Krankenhausarbeitsplatz, dass es halt viel mehr ist als ein Krankenhaus arbeitsplatz.

00:31:56: aber wie so häufig?

00:31:58: Wir hatten vorhin schon mal Interoperabilitätsplattformen Total häufig mit CDR, Clinical Data Repository zusammen durcheinander geworfen oder Digital Health Plattform.

00:32:07: Es gibt mittlerweile so viele Bezeichnungen wo eigentlich man sich gar nicht darauf geeinigt hat was die Definition dessen ist dass ich glaube auch die Antwort fürs KISS nicht nennen könnte?

00:32:15: Oder hast du eine bessere Idee?

00:32:17: Ich glaube das ist ein Gewachsener Das ist so wie es in vielen Krankenhäusern ist das einfach Gewachsen.

00:32:24: Was das bedeutet und sind die neuen Funktionalitäten dazu gekommen?

00:32:30: Was mich tatsächlich mal gefragt habe, ist wenn man jetzt wirklich das was gesetzlich notwendig wäre um einen Krankenhaus zu betreiben nimmt.

00:32:41: Ohne all die Prozesse in drin, die vielleicht gar nicht mehr zu diesem KISS im Sinne von dem operativen Backbone gehören würden.

00:32:51: Eigentlich ist das KISS ja meinem Verständnis, mal aus so einem ERP-System ähnlichen Charakter entstanden.

00:32:58: Und dann haben sich noch immer mehr klinische Prozesse und Arbeitsstrukturen sozusagen darum herum ergeben.

00:33:05: Wenn man wirklich mal diesen Kern nimmt wie viel... Also was da eigentlich wirklich an sozusagen regulatorischen Must-Haves drinsteckt?

00:33:16: Neben Abrechnungen, Dreien oder Einzeldatensatz und all diesen Thematiken.

00:33:20: Wie groß der Kisskern wirklich ist!

00:33:23: Ich glaube tatsächlich, da muss man so ein bisschen die klingt jetzt ja so ein bissel wie so ein Kisshersteller Bashing.

00:33:30: Man muss sie ein bisschen in Schutz nehmen.

00:33:31: ich glaube die wurden über die Jahrzehnte auch durch Verordnungen und politische Vorgaben und Krankenkassen usw.

00:33:39: sehr vor sich her getrieben.

00:33:40: das ist ein Wust an Regulaturik den die in ihren Systemen umsetzen mussten sodass letztendlich die Entwicklungsroadmap ziemlich fremdgesteuert war in diesen Systemen.

00:33:52: Und ich weiß, als ich mich damals als junger Arzt oder vielleicht auch Peotler, das erste Mal beim Leben in so ein Kiss eingewählt habe, da war ich total irritiert weil das Zentrum des Ganzen ist ja nicht der Patient sondern der Fall.

00:34:07: und ich hab gedacht was soll denn das?

00:34:09: Ich hab damals gesagt, dass ist ja ein doofes System!

00:34:11: Warum haben die denn so ein blödes... Später hab' ich gemerkt, diese sind alle so im Zentrum dieses Ganzen steht der Fall Und ich habe relativ lange gebraucht, zu verstehen.

00:34:20: Weil ich hab mal gedacht, warum?

00:34:21: Einfach waren doch Patienten und keine Fälle.

00:34:22: nur weil Frau Müller jetzt gerade mit einer Koalitistitis hier ist, ist doch trotzdem relevant weswegen die beim letzten Mal da war und was sie davor hat oder was für Medikamente sie hat.

00:34:30: aber das ist immer der Fall.

00:34:32: Und irgendwann hab' ich halt verstanden ja dass es eigentlich ein Abrechnungssystem und dieses Wofürs jetzt benutzt wird, dass man versucht sich mit diesen Systemen irgendwie noch so etwas wie eine Patientenakte klinische Übersicht zu generieren.

00:34:45: Das ist gar nicht, das war nie so richtig Aufgabe dieser Systeme.

00:34:48: Das ist da so reininterpretiert worden, dran geflanscht worden und deswegen haben wir es mit diesem ziemlichen Verhaut zu tun, mit dem wieder heutzutage arbeiten müssen.

00:34:56: Woran ich gerade denke?

00:34:57: Es ist WLAN eigentlich.

00:35:00: Wie es eigentlich dazu kam dass ein Standard definiert wurde wo sehr viele herstellende Hersteller einfach Teilhaben konnten Und wie das funktioniert hat.

00:35:15: Weil, das wurde ja vorher auch proprietär probiert.

00:35:18: oder nehmen wir mal CD oder Audio-Formate was man nimmt also was dazu geführt dass wir sozusagen eine Technologie überall gleich verwenden und ich habe da immer mit Joe Lennards weiß nicht wer den kennt ist ein Pathologe aus Boston Der hat relativ viel gesprochen über diesen pre-competitive Space.

00:35:45: Also ich glaube, wenn man jetzt über das was du gerade gesagt hast dass es halt natürlich irgendwie gewachsen ist und dann kam eine Anforderung da war das System halt da, hat sich irgendjemand überlegt ja das könnte man doch mit Computern machen oder irgendwie Zettelwirtschaft und dann hat man immer gesagt ich will es eigentlich irgendwie elektronisch haben und dann haben die es halt gebaut.

00:36:04: Wie gesagt, ich glaube das ist gar kein böser Wille.

00:36:06: Sondern da waren einfach Anforderungen da und die Anforderung wurden dann ein neues Gesetz.

00:36:09: Da müssen wir jetzt irgendwie das systematisch auswerten.

00:36:12: ja wie können wir es denn machen?

00:36:14: Ja mit einem Datenbank irgendwie einen und dann ist das geblieben.

00:36:20: Es ist ja auch sehr schwer mit einer langen Aufbewahrungspflicht, Dokumentationspflicht solche Dinge dann wieder abzubauen.

00:36:26: Also man kann ja nicht mal wegarchivieren sondern irgendwann kommt ein und sagt da muss man nochmal einen Report schreiben.

00:36:31: Auch wenn man es schon seit zehn Jahren nicht mehr macht müssen wir das noch zwanzig Jahre lang machen.

00:36:36: Und ich glaube was extrem wichtig wäre um jetzt den nächsten Schritt zu gehen für alle Beteiligten im Gesundheitssystem ist sich zu überlegen wie schaffen wir denn jetzt... raus aus dieser Situation, dass wir versuchen über proprietäre Lösungen in Marktanteile zu behalten.

00:36:56: Sondern wir akzeptieren das es wahrscheinlich wesentlich besser ist wenn wir uns einmal hinsetzen und tatsächlich alles mal pre-competitive uns überlegen.

00:37:07: also da wo wir noch nicht Geschäft uns Konkurrenz machen wollen glaube ich.

00:37:13: Das ist relevant.

00:37:14: so haben wir USB C bekommen so haben Wir WLAN bekommen.

00:37:21: Das Problem, was ich da so ein bisschen sehe ist dadurch dass die Systeme so veraltet sind.

00:37:26: Sobald man den Wettbewerb öffnen würde wären ganz viele Elemente nicht mehr wirklich wettbewebsfähig.

00:37:37: Die Legacy sich alleine aus dem Lock-in Effekt dieser KISS-Systeme hält in vielen Bereichen.

00:37:45: Es gibt sicherlich Kernbereiche wo quasi die Logik, die da drin steckt hervorragend gemacht ist.

00:37:52: Aber alleine auf der User Experience eben wenn wir jetzt wieder über die Prozesse schauen glaube ich gibt es einfach zu viel zu verlieren als dass das Kurs für sich passieren könnte.

00:38:04: Ist ja ein bisschen eine pessimistische Einschätzung aber...

00:38:09: Die Transaktionskosten sind extrem hoch.

00:38:11: also egal welches System es steckt in allen Systemen in der Parametrisierung der Systeme Ablauf des speziellen Hauses drin, das kennen wir.

00:38:22: Also wenn man es in der Radiologie nehmen will, ein Pax auszutauschen also den Bildspeicher auszutauschen Das ist eine relativ einfache Angelegenheit.

00:38:32: da müssen die Bilder einfach von A nach B und dann müssen sie wieder angezeigt werden können.

00:38:36: Warum Standard haben mit Deicombe?

00:38:38: Nein

00:38:38: es gibt einen Standard.

00:38:39: Wenn man einen Riss austauschen wird, ist das Radiologienformationsystem indem Die ganzen Geräte drin sind, wann von wann bis wann die Bilder gemacht werden.

00:38:47: Wer wann wie wo?

00:38:47: Kontrastmittel bekommt was dann abgerechnet wird und so weiter.

00:38:50: sowas auszutauschen Das ist also das tut sich niemand freiwillig an.

00:38:55: Also dass es Und das ist glaube ich beschreibt doch ein bisschen den genau diesen lock ineffekt und bei dem kiss ist ja noch viel schlimmer.

00:39:01: da ist jede ambulanz Es ist abgebildet da sind Da sind ja sogar irgendwie irgendwie inherent wegezeiten zwischen.

00:39:11: Also wenn so eine Terminserie irgendwie definiert ist, dann steht da drin.

00:39:14: Da braucht der die Patientin grundsätzlich zehn oder fünfzehn Minuten dahin.

00:39:18: also steckt so viel drin dass das natürlich in einem Mammutaufgabe ist.

00:39:23: auf einer anderen Seite denke ich dass es natürlich auch man kann doch schon noch ein bisschen regulatorisch eingreifen was man halt sagt pass auf wir geben hier Eine unfassbare Menge Geld aus, und zwar jedes Land gibt eine unfassbarere Menge Geld.

00:39:39: Aus.

00:39:39: wir wollen das dieses dass das effizient passiert Und das wenn man jetzt wieder bei usb sind hat der die EU auch gemacht ja gesagt ihr hört jetzt auf hier eure händestecker irgendwie?

00:39:51: Und damit geld zu verdienen.

00:39:52: sondern das ist jetzt immer der gleiche.

00:39:55: Wir hatten gerade eben auch noch mal das thema der usa sozusagen mit hinblick auf feiervorgaben Vielleicht für die zuhörerinnen und Zuhörern nochmal Die USA haben das sozusagen gesetzlich erzwungen, dass sozusagen Krankenhausprimiersysteme diese Feier-Schnittstellen aufmachen oder?

00:40:14: Genau.

00:40:15: Also die Feier Schnittstellen erst mal schaffen und dann über diese Feierschnittstellen Zugang zu bestimmten Daten.

00:40:22: Das ist relativ umfangreich gewähren.

00:40:27: Ich hatte jetzt die Gelegenheit, das mal ganz konkret in einem nicht kleinen Krankenhaus in den USA malzusehen Ja, ist ja aus der Nähe auch nicht mehr ganz so toll wie man das der ferne denkt.

00:40:38: Das ist auch alles ein bisschen hakliger und schwieriger.

00:40:40: und die die hersteller Die die freie schnelle stellen also einbauen mussten versuchen trotzdem mit anderen Tricks sage ich mal den nutzenden Den nut die nutzung zu erschweren.

00:40:55: Aber immerhin man kommt an daten und man kann über feier stelle Daten auslesen und habe sogar wieder zurück schreiben.

00:41:01: wenn wir dass

00:41:02: machen

00:41:02: würden, wenn es also eine Regulatorie gäbe die quasi in Herstellern vorgeben würde.

00:41:07: So was wie ISIC verpflichtend das muss passieren und wie gesagt den USA ist es glaube ich bis zu einer Million Dollar Strafe pro Verstoß.

00:41:16: Es kann richtig teuer werden.

00:41:18: Und dann irgendwann auch die Möglichkeit wieder Daten über feiert zurückzuschreiben.

00:41:22: Dann ist nämlich Plötzlich sowas möglich Wie dass man eben Teile die momentan im KISS abgebildet Man will ja gar nicht vielleicht Gar keiner will überhaupt jetzt von heute auf morgen seinen KISS ersetzen.

00:41:34: Tobias hat es gerade beim Fussriss ja schon genannt, vom KISS ist noch mal viel schlimmer.

00:41:38: Das ist ein Riesen-Pain!

00:41:40: Aber du kannst halt Teile... Wir hatten ja vorhin ja mal über Ambient Listening und Scribe gesprochen.

00:41:45: Du kannst solche Teile, Arztbriefschreibungen meinetwegen.

00:41:48: Die kannst du dann außerhalb des KISS in anderer Software die vielleicht für die Nutzen dann besser funktioniert machen.

00:41:54: Die können Daten auslesen, was mit den Daten machen und die Ergebnisse wieder ins KISS zurückschreiben.

00:42:00: Das würde ja reichen, damit würden wir extrem viel Innovation ermöglichen.

00:42:04: Und eine viel bessere User Experience und viel besseren Workflows für das ohnehin überlastete klinische Personal.

00:42:12: Also alleine die Tatsache dass man leicht tauschen kann würde natürlich hohe Incentives schaffen vielleicht doch mal die ein oder andere Innovation doch umzusetzen nicht auszusetzen.

00:42:28: Ohne jetzt jemandem anzuschuldigen was passiert?

00:42:32: Normalerweise bin ich kein so großer Freund von Regulierung.

00:42:34: Aber wenn man sich andere Sachen anschaut, zu die wir uns in Deutschland zwingen, dann wäre das vielleicht gar keine so schlechte Initiative.

00:42:45: Nichtsdestotrotz muss man ja erst mal irgendwie arbeiten mit dem was man hat.

00:42:50: Wir haben jetzt eine ganze Reihe von ISH-Met-Ablöseprojekten vor uns.

00:42:56: Ist euer Gefühl, dass uns das vielleicht zum paar... positive Beispiele beschert, die sich dann auch gut auf den Markt auswirken können.

00:43:06: Ja Tobi sag mal du bist doch an vorderster Front bei ihr ist Haumädablösung!

00:43:10: Ich glaube da müssen wir ein bisschen zugucken.

00:43:15: Interessiert also...

00:43:19: Es ist auf jeden Fall wieder Dynamik im Markt weil man muss ja auch wieder ich bin jetzt nicht der große Verteidiger der KISS-Ambieter sein aber die werden ja auch immer ziemlich viel Bashing haben Nicht immer, nicht nur zu Unrecht.

00:43:33: Aber der Markt war ja auch ein total saturierter Markt.

00:43:39: Ich hatte gerade schon mal gesagt oder wir hatten gesagt im KISS-System, das wechselst du nicht freiwillig.

00:43:43: Das heißt, du hast eine Anzahl von Krankenhäusern die haben alle in Deutschland jetzt ihr KISS und als KISS Ambieter, du wirst keinen Kunden verlieren.

00:43:53: Du wirst auch keinen dazu gewinnen.

00:43:54: Und dann ist natürlich auch ... der den Markt das verteilt und es ist auf einmal null Competition da, und alle machen so weiter ihr Geschäft.

00:44:06: Und das ist jetzt das erste Mal seit langem, dass man wieder signifikant und auch große Häuser ... Ihr Samet ist ja bei großen Häusern noch nicht im Einsatz.

00:44:16: Dass halt signifikante Competition da ist um ein neues Geschäft, neue Kunden.

00:44:24: Das tut so einem Markt immer gut.

00:44:26: Dann wollen wir mal schauen!

00:44:29: Wobei?

00:44:30: Ja... Sobald ich das verstanden habe, vielleicht liegte er falsch.

00:44:34: Diese Competition entschied jetzt dadurch, dass ja im Prinzip ein System rausgeht aus dem Markt.

00:44:38: Also der Markt wird schon enger!

00:44:41: Ich glaube es gab früher Merk-Kisssysteme und also es gab mehr KISS-Systeme.

00:44:47: Es gab mehr Auswahl und vielleicht ist das auch noch eine wichtige Geschichte.

00:44:53: wenn man reguliert dann muss man natürlich auch sehr aufpassen die richtigen Incentives schafft, dass eben die Innovation reinkommt.

00:45:03: Also wer... Wie schafft man sozusagen auf der einen Seite den Standard zu schaffen?

00:45:09: Eine Austauschbarkeit zu schaffen Dann natürlich auch noch genug Incentive zu schaffen für die Akteure, die dann halt auch so ein Basissystem schreiben wollen.

00:45:21: Kann man damit noch Geld verdienen kann man damit kein Geld verdient?

00:45:26: Aber ich denke immer, das würde schon gehen.

00:45:28: Also so wie es jetzt momentan passiert ist, dass der Markt sich komplett zusammenzieht und am Schluss dann nur noch ganz wenige übrig bleiben.

00:45:33: Das glaube ich da haben wir allerdings erfunden.

00:45:35: Nee, nee!

00:45:36: Es ist eine kurzfristige Competition auf jeden Fall.

00:45:38: aber zum Beispiel ein Effekt den man ja auch sieht... Ich habe jetzt von mehreren ISH-Methäusern gehört, dass die entweder schon dabei sind oder drüber nachdenken, jetzt auch sich einen Clinical Data Repository anzuschaffen weil sie einfach sagen okay Da habe ich dann nochmal ein zweites Standbein.

00:45:54: Da hab' ich eine Kopie meiner Daten und kann aus dem CDR, wenn die Kistmigrationen schiefläuft oder es für lange Zeit sehr holprig ist Anwendungen auch bedienen.

00:46:03: und Anwendungsfälle und klinische Use Cases Das ist halt auch nur ein interessanter Effekt, sag ich mal mindestens der Ies Hamid.

00:46:12: Ich glaube auch einer Sache, die ganz häufig vergessen wird wie viel Legacy-Daten wir haben.

00:46:17: Also wir haben ja Daten von.

00:46:20: Also auch wenn man sich jetzt wirklich kaufen wir das schickste und neueste.

00:46:24: Ich reiße alles über den Haufen, ich mache ab morgen alles richtig!

00:46:28: Dann haben wir ja trotzdem unfassbar viele Daten die wir brauchen auf die wir zugreifen müssen Die nicht so schick erhoben worden sind wo die Metadaten Nicht zuverlässig sind Wo die Texte bei siebzig Zeichen umbrechen.

00:46:50: dass deshalb ist, glaube ich auch eben genau das was du sagst.

00:46:54: Da ist ja davon nie da, dass man eben auch mit diesen Daten vernünftig umgeht.

00:46:58: Auch gerade wenn wir uns überlegen, dass wir genau das nutzen wollen, was wir jetzt haben, dass sie eben in die KI-Native, glaube Ich hatte es genannt, Welt gehen, dann müssen diese Daten erreichbar sein.

00:47:13: und jeder der Jeder, der auch mit einem Kiss gearbeitet hat oder an einem Krankenhaus arbeitet, wo es schon ein bisschen länger einen Kiss gibt, erkennt das ja, dass es immer wieder so Wasserscheiden gibt.

00:47:24: Da stehen dann alle Daten sauber drin und irgendwann fängt's an so Archiv-Archiv-Achiv, da fehlt dann die Hälfte, das ist dann schlecht umgebrochen... Und ich meine man muss sich überlegen, was macht man in den Unterumständen mehrfach?

00:47:35: Das ist ja dann ein Folgefehler!

00:47:37: Wenn man das zwei-, dreimal macht, also die, die dann dreimal umgezogen worden sind, die Daten werden nicht besser.

00:47:43: Oder man zieht gar nicht um.

00:47:44: Ich habe das von einem Kollegen in den USA, der hat mir erzählt, dass deren Haus ist auf Epic umgestiegen und die hatten vorher Serner.

00:47:52: Und dann hab ich ihn gefragt, da wirst du ja eine Migration gelaufen?

00:47:55: Da sagte er, ja, Migration!

00:47:57: Also ich hab mit der Altdaten rübergeschoben, naja, ist nicht gelaufen... Wir zahlen jetzt noch für, ich weiß nicht wieviel Jahre fast hundert Prozent der Lizenzkosten an Serner weiter und ich darf in meiner klinischen Routine immer mit zwei Systemen arbeiten mich in zwei Systeme also dafür John Doe immer in zwei Systemen aufrufen, bis irgendwann die Patienten bis einfach die Altdaten für die Klinische Versorgung nicht mehr relevant sind oder die Patienten nicht mehr da sind.

00:48:24: Oder wie auch immer und dann wird das Altsystem abgeschaltet und solange läuft es weiter.

00:48:29: dass ist die Migration wieder stattgefunden hat.

00:48:33: Ja muss ich mal vorstellen.

00:48:35: Da blutet natürlich uns, die wir natürlich darauf angewiesen sind um diese Daten schnell ran zu kommen.

00:48:42: wenn man dann irgendwann mal in fünf oder sechs System nach einem Namen suchen muss, man muss sich das ja auch mal überlegen.

00:48:48: Das heißt er hat Fehler behaftelt.

00:48:49: also da kann man einen falschen erwischen und Man kann die Daten nicht anreichen, man könnte gar nichts sagen.

00:48:56: schonmal es habe ich dargefunden Es gibt überhaupt keine Verknüpfung in diesem System.

00:49:01: Also das ist natürlich eigentlich eine Oberkatastrophe.

00:49:05: Eigentlich wenn man so drüber nachdenkt Ist es so extrem offensichtlich dass man so eine Art Data-Layer braucht, ob es jetzt CDR nennen oder irgendwie anders geartet.

00:49:16: Aber eigentlich muss um zukunftssicher aufgestellt sein, dass ja ein Kernteil jeder Klinikinfrastruktur irgendwie werden.

00:49:24: Das führt gar keinen Weg dran vorbei.

00:49:27: Also absolut und ich muss sagen vor fünf Jahren da wenn man in krangeres Umfeld darüber gesprochen hat nicht bei uns sondern mit anderen Häusern und so das Leute gesagt haben Wir haben ganz andere Probleme und so, aber mittlerweile.

00:49:42: Ich spreche ja viel mit Leuten die jetzt im Krankenhausmanagement sind an verschiedenen Häusern und das ist vom dreihundert Bettenhaus bis zum zweitausend Bettenhause eigentlich überall der Fall dass die Leute das auch so sehen.

00:49:55: Es ist halt nur leicht gesagt aber nicht einfach umgesetzt.

00:49:58: dafür muss man Geld in die Hand nehmen braucht Zeit Mut und muss vor allem noch das richtige Personal haben.

00:50:07: was wir gerade Versuchen eigentlich zu machen ist über genau so ein kainativen Dokumentations-Layer.

00:50:15: Eigentlich eine Alternative zu schaffen, sozusagen für den ganzen Personalstamm auf einer anderen Ebene diese Dokumentation überhaupt zu erfassen.

00:50:26: Eben alles was sozusagen übersprache Ambient Listening kommt daraus dann mit human in the loop sozusagen validierte deterministische Datenstrukturen zu machen Mit multimodalen Modellen, quasi wenn jetzt irgendwie befunde vom Hausarzt oder so kommen.

00:50:40: Quasi alles aufzuarbeiten und dann aus diesem sozusagen wachsenden Datenpool Alles was man noch weiter an.

00:50:47: Ich nenne das gerne Sekundärdokumentation also irgendwie Dokumentation die aus diesen bestehenden Datenpunkten nochmal neu zusammengesetzt wird.

00:50:54: Zum Beispiel ein Anschluss-Heilbehandlungsantrag oder solche Sachen Dann entsprechend zu generieren.

00:50:59: Und so wozu man dann relativ schnell kommt ist, dass das Bottleneck damit es in der Praxis richtig gut funktioniert.

00:51:06: Dann aber wieder dieses Zurückschreiben ins KISS ist weil ich eben für verschiedene Sachen dann doch die Dokumentation da brauche sei's beim Arztbrief, damit ihr dann irgendwie Dividierung Prozesse durchlaufen kann oder ähnliches.

00:51:20: und wir schauen uns gerade sehr intensiv an mit Computer-Usemodeln, ich sag mal einer Kombination aus Computer-Usemodellen, RPA also so verschiedenen, ich sage mal Brechstangenmethoden irgendwie Webbrowser und bei Browser basierten KISS funktioniert es tatsächlich hervorragend gut.

00:51:40: Haben wir in Deutschland noch nicht so viele von?

00:51:42: Bei nativen sozusagen Windows Apps muss man dann eben ein bisschen kämpfen mit der Brech-Stange aber über so'n flexibles Toolset das dann zurückzuführen an die jeweiligen Orte sozusagen im KISS.

00:51:54: Das ist ein bisschen unsere Herangehensweise, das jetzt mit der Brechstange zu probieren.

00:51:59: Ich glaube zumindest bis wir die Möglichkeit haben immer stillständig zurückzuschreiben doch noch einiges an Zeitvergehen wird.

00:52:06: Ja finde ich total validen Ansatz!

00:52:08: Ich meine so viele Möglichkeiten hat man nicht und es sicherlich nicht... wenn man die freie Wahl hätte würde man sicherlich anders machen aber hat man nichts und deswegen ist es halt wenigstens einer der wenigen Wege die man gehen kann.

00:52:19: Zumindest einen Teil Große Problem ist ja, dass die meisten der strukturierten Daten so ein Kiss gar nicht entgegennehmen kann.

00:52:25: Also selbst wenn du auf die Datenbank zugriff hast und da voll reinschreiben könntest, gibt's einfach keinen Platz wo du es hinschreiben kannst.

00:52:30: Deswegen du brauchst trotzdem dein CDR was alles speichern kann weil wenn du strukturierte Daten generierst wirst du dir ja nicht irgendwie wegschmeißen.

00:52:38: also wir machen meistens den an gehen meistens in Ansatz wenn wir strukturiertes Daten außerhalb des Kisses oder so generieren das für die strukturierung zum CDR speichert Und dann nochmal daraus irgendwie ein Dokument rendern, PDF oder so.

00:52:52: Über halb sieben vor zwei MdM da reinschicken einfach nur aus medikulegalen Gründen.

00:52:57: Da guckt sich das keiner mehr an aber es ist halt medikulegal gespeichert.

00:53:01: tatsächlich ist die was du gerade vorgeschlagen hast auch ein guter Weg noch dazwischen um eben tatsächlich dann noch Prozesse im KISS wieder befüllen zu können mit Daten.

00:53:12: und wenn man den Weg geht dann merkt man auch dass man doch gar nicht so viel Daten im KISS braucht, wie man vielleicht am Anfang gedacht hatte.

00:53:19: Weil viel der Dokumentation eben aus bestehenden Datenpunkten irgendwie erzeugt wird die dann gar nicht mehr für die eigentliche Behandlung benutzt werden.

00:53:29: Aber wenn man da natürlich ein CDA hat, kann man glaube ich diese KI nativen Wege Informationen neu zu erheben auch nutzen um das CDA damit zu befüllen.

00:53:38: und das ist aus meiner Sicht eigentlich der Weg wie sich jetzt wirklich spannende Wege auftun, das Ganze neu zu denken.

00:53:45: Weil dann eine tolle User Experience die Ärztinnen und Ärzte dann auch sozusagen gerne nutzen zusammenkommt mit der Möglichkeit eben diese alte Struktur zu umgehen.

00:53:58: Man muss nur schauen dass die Prozessabhängigkeiten nicht kaputt gehen.

00:54:00: Absolut

00:54:01: ja.

00:54:01: Ein wichtiger Punkt dabei ist natürlich wir machen es auch, dass wir Daten mit KI generieren.

00:54:08: Also ob jetzt irgendwie eine Extration aus einem Bilddatensatz ist, eine Radiologie.

00:54:13: Keine Ahnung, einen langen Audio oder eine lungartige Embulie?

00:54:15: Oder aber auch dass wir zum Beispiel aus Freitexten, Dokumentationen oder solchen Dingen Daten extrahieren und daraus dann halt Feierressourcen machen.

00:54:24: Observations meinetwegen oder Medication Administration und solche Ressourcen.

00:54:28: Ein wichtiger Punkt dabei ist natürlich ... Aber das ist da schön!

00:54:30: Das hat Feier alles schon eingebaut.

00:54:33: Du willst ja später genau wissen eigentlich... Ist es meine Observation Ist das von den Menschen irgendwo eingegeben worden?

00:54:40: Kann auch Fehler behaftet sein.

00:54:41: Oder ist es von der KI aus dem Brief, wie extrahiert wurden und... Das ist ja alles vorgesehen!

00:54:45: Das kannst du in Feier alles machen mit.

00:54:47: Ich habe heute... ich komme gerade drauf weil ich vorhin noch mit einem PhD-Studenten von mir da gesessen hab, mit denen ich darüber gesprochen hab dass der in dem Projekt eben Provenance Ressourcen anlegen soll wo dann genau drin steht okay diese Observation ist jetzt von dem und dem Modell in der und der Version zu dem und im Zeitpunkt wenn er noch answertend die Haarskanzes noch quantifizieren usw.. Erzeugt man, damit du später halt saubere Auditrails hast.

00:55:09: Weil das ist ja total wichtig wenn du wirklich so KI im breiteren Basis ins Krankenhaus bringen willst für die Governance dass du auch genau sagen kannst wo kommt was her und Fehlerquellen lokalisieren können.

00:55:19: Ich finde es ein super spannender Gedanke weil das ist oft der Punkt wo man in der Praxis dann in die ersten stockenden Diskussion kommt.

00:55:27: Wenn ich sage mal KI aus unstrukturierten Daten oder mit unstrukturiertem Daten arbeitet irgendwann diesen Anschlusspunkt verliert, die Informationen mitzunehmen dann entsteht tatsächlich die Unsicherheit.

00:55:40: Wenn du das aber bis zur Quelle zurückverfolgbar die ganze Zeit mit dir mitziehst, dann bist du bei jedem sozusagen Use Case an dem Punkt wo du das was du validieren musst noch mal validieren kannst oder zumindest mit der Unsicherkeit umgehen kann und spätestens da versagen ja auch die existierenden Datenmodelle in den Allsystems.

00:55:58: Ja richtig Und das schafft letztendlich, wir brauchen auf dieses Vertrauen beim Nutzen.

00:56:02: Wenn der am Ende auf Basis so einer Information für den Patienten schwer wegen der Entscheidung mit dem Patient eine Entscheidung trifft aber die große Folgen haben kann dass er die Möglichkeit hat in dem Moment wenn er sagt okay das will ich jetzt noch mal genau wissen war das jetzt so?

00:56:17: Dass der quasi irgendwie direkt einen Link hat und nochmal in die Ursprungsinformation reingehen kann wenn er will.

00:56:22: ganz wichtig

00:56:23: Ich glaube das ist halt ganz wichtig ist dass wir natürlich auch einsehen müssen, dass auch die Arbeit... Die menschliche Arbeit natürlich nicht perfekt ist.

00:56:34: Wie oft

00:56:35: kennen wir das damit?

00:56:36: Hab ich irgendwo gelesen.

00:56:39: Da muss man vielleicht auch irgendwie diese... da muss man irgendwie die... wie drücke ich das jetzt aus?

00:56:50: Dann muss man die Messlatte irgendwie endlich ansetzen glaube ich und wir kriegen ja eigentlich dann eine viel bessere eine viel bessere Nachvollziehbarkeit, als wir es eventuell auch jetzt haben.

00:57:03: Weil einfach auch gar nicht die Zeit da wäre alles so zu dokumentieren wie es dann möglich ist zu dokumentier'n.

00:57:10: Also ich glaube einfach das Wichtige ist dass wir uns klar sagen muss in dem Moment indem das besser funktioniert oder indem das sehr gut funktioniert oder besser oder schneller oder zuverlässiger funktioniert als das was wir bisher machen sich das sehr schnell durchsetzen wird.

00:57:29: Das ist glaube ich der Punkt, solange wir natürlich irgendwie drüber reden müssen und uns schönreden müssen.

00:57:37: Gut dann funktioniert es offensichtlich noch nicht so gut.

00:57:39: aber also wenn man das vergleicht wie was das jetzt für eine Revolution ist wie Code geschrieben wird

00:57:47: ja

00:57:49: dass das einfach das ist unfassbar.

00:57:51: Es fing ein bisschen an vor zwei drei Jahren und da hat man noch ein bisschen zusammen kopieren müssen.

00:57:59: Das funktioniert jetzt nicht, ist die Fehlermeldung und so.

00:58:01: Aber mittlerweile ist das einfach.

00:58:04: Und ich glaube ... Ich kann jetzt nicht sagen dass das so kommen wird im Krankenhaus aber wenn das so kommt, dass man eben mit den Informationen auf dieselbe Art und Weise umgehen kann dann wird es einfach jeder benutzen.

00:58:19: Ich glaub du sprichst da noch was super spannendes an Tobias.

00:58:24: Im Krankenhaus also eigentlich gibt's dir so Lange Zeit haben wir alle irgendwie mit KI so ein bisschen das assoziiert, ist mein Chat GPT.

00:58:33: So ein bisschen wie Google früher auf eine gewisse Art und Weise oder für ganz viele ist das heute noch Realität?

00:58:39: Und dann kamen so ein bißchen dieser Sprung ohne dass es jetzt alles zu basswürdig klingen soll in diese agentische KI wo Agenten gerade wenn man mit Cloud Code umspirrt oder arbeitet irgendwie end-to-end wirklich komplexe Aufgaben erledigen und ein funktionierendes Resultat abliefern.

00:58:59: Da sind wir ja in der klinischen Praxis heute noch ganz weit entfernt für die allermeisten, in der Versorgung zumindest.

00:59:09: Und damit dieser Sprung geschafft werden kann ist glaube ich umso wichtiger diese Offenheit von Daten hinzukriegen Weil wir ja viele dieser K.I.Us-Case auch noch gar nicht so richtig verstehen und wir gar nicht in diese schnellen Iteration reinkommen, viel auszuprobieren weil man eben gar nicht empowert ist wie man das eigentlich sein könnte mit diesen modernen Tools über Cloud Code, Lovable Codex

00:59:32: usw.,

00:59:34: um diese Sachen auszupprobieren und einfach mal zu bauen wenn er auch in einem Pilotstadion?

00:59:39: Ja

00:59:40: also ich denke die Vision... Man muss jetzt sagen, dass Star Trek in so vielen Sachen unfassbar visionär war iPads, Translatoran.

00:59:52: Also ich habe immer dieses Bild an der Hand wo Data an die Konsole geht und sagt Computer, analysiere mir die Anomaly-Teste das, probiere das aus usw.

01:00:05: Und als wir das gesehen haben in den Achtzigern hat doch keiner infrage gestellt ja wenn das super funktioniert warum setzt er sich nicht hin und schreibt jetzt sein eigenes Programm?

01:00:15: Das ist das, was passieren wird.

01:00:18: Es wird auch auf die KISS Software irgendwie einen Riesen-Einschluss haben weil wir werden nicht mehr eine bestimmte Software brauchen wo uns jemand ein bestimmtes Formular in einer bestimmten Programmiersprache gebaut hat tagelang sondern ich glaube wirklich alleine diese Analysemöglichkeiten so... Das macht einen riesen Unterschied und es würde jetzt auch keiner auf die Idee kommen, irgendwie zu Gopher zu gehen.

01:00:50: Und versuchen irgendwelchen Interindices Webseiten zu finden.

01:00:55: also ich meine man benutzt eine Suchmaschine und das benutzen wir auch um Informationen zu finden zu einer bestimmten Erkrankung.

01:01:04: und genauso wird's natürlich aus sein dass wenn das eben sehr gut funktioniert und dann eben Human in the Loop die Information gut validieren kann, dann wird sich das durchsetzen.

01:01:15: Ganz im Gegenteil, es wird verlangt werden von uns, dass wir das tun.

01:01:18: also...

01:01:20: Als die LLMs populär wurden da kurz danach habe ich dann irgendwie mal so ein Artikel geschrieben und hab' ich glaube ich genannt mit Maschinen, die Medizin wieder menschlicher machen oder die Maschine macht die Medizine wieder menscherlich auch Und das ist genau das, dass wir jetzt kommen.

01:01:41: Also wenn man sich jetzt, weil du das so gerade sagst mit diesem Formular... Es ist ja kein Mensch mag das ein Formular auszufüllen.

01:01:51: Jeder hasst das wie die Pest!

01:01:54: Aber bisher war es ebenso, wir hatten auf der einen Seite eine dumme Maschine und den intelligenten Menschen die intelligente Wesen.

01:02:05: Die dumme, aber schnelle Maschine?

01:02:06: Ja genau und Intelligenz macht anpassungsfähig.

01:02:10: Und das heißt wir konnten uns an Sachverhalte immer anpassen.

01:02:13: Die Maschinen nicht!

01:02:14: Die Maschine hat nur was gemacht wenn ich genau das Knöpfchen gedrückt habe dann das knöpfeln oder dass eingetragen hab und dann go sowas irgendwie so ein Formular und sonst funktioniert es nicht und wir mussten halt immer... Aber ganz viel im Krankenhaus war halt damit nicht kompatibel.

01:02:31: diejenigen, die jetzt zwischen der Maschine oder zwischen zwei Maschinen vermittelt haben letztendlich.

01:02:36: Total bescheuert!

01:02:38: Und mit LLMs und insbesondere jetzt mit agentischer KI ist es das erste Mal so dass sich die Maschine an uns anpassen können.

01:02:49: Wir können also mittlerweile ihr kennt das wenn du mit dem Agenten schreibst sondern siehst du hast ein Schreibfehler dann denkst du wie oft korrigiert ihr noch eure Schreibfehle?

01:02:58: Wenn ihr das gesehen habt Der versteht das schon.

01:03:02: Und manchmal machst du nur ein Foto und ein Fragezeichen, der weiß schon was ich meine!

01:03:07: Das versteht dieses System.

01:03:10: Jetzt haben wir nur diese ganze riesige Welt von Legacy-Systemen, die da nicht mitspielen.

01:03:16: Aber das, was Du vorhin genannt hast, war eine super Idee.

01:03:18: Tatsächlich quasi einfach die Inputmethoden in diesen Legacy- Systeme für Menschen gemacht werden, von einer Maschine bedienen zu lassen und nach vorne einen LLM zu haben.

01:03:28: Und damit kriegen wir es wirklich hin, dass wir wieder ganz natürlich.

01:03:32: In den Systemen Krankenhaus als Menschen mit Menschen interagieren und die Maschinen quasi wie genau wie in Star Trek das tun was wir wollen aber ohne dass wir uns an sie anpassen sondern sie passen sich an uns an nicht.

01:03:44: da

01:03:44: will ich noch hinkommen bevor ich mal immer in den Ruhestand geht.

01:03:47: Da will ich unbedingt kommen werden da bin ich mir doch relativ sicher.

01:03:50: Ich glaube tatsächlich ist sogar eine technologische Unausweichlichkeit ja weil einfach so viel durch diese ganze KI-Welle global in Bewegung gesetzt wurde.

01:04:00: und das Problem, was wir hier jetzt haben mit, ich sag mal Legacy System.

01:04:05: Das ist ja ein Problem in vielen Branchen.

01:04:07: Sicherlich haben wir eine der schwierigeren erwischt aber grundsätzlich ist es für ganz viele Enterprise Software ein ähnliches Problem Und ich sage immer, das sind gerade Milliarden von Dollar an Kapital und einige der klügsten Menschen in der Welt dran.

01:04:21: Genau dieses Problem zu lösen weil für die Adaption von Enterprise AI Produkten einfach diese Legacy System-Schwelle ein riesiges Bottleneck ist in ganz vielen Industrien.

01:04:37: Wenn wir uns alle Trends anschauen mit zeigen, dass der Hardbody immer besser wird kleineren Modellen, die dann auf lokaler Hardware laufen können.

01:04:44: So dass man nicht, ich sag mal den Desktop in die Cloud stream muss was ja im Krankenhaus auch nicht ganz leicht ist.

01:04:51: All diese Puzzlesteine fallen gerade so zusammen und wir haben hier natürlich ein paar Restriktionen.

01:04:58: es ist derzeit noch relativ teuer zum Beispiel Computeruse wirklich zu machen.

01:05:02: Man kann sich natürlich keine Halluzinationen leisten wenn medizinische Dokumentation Dokumentationssysteme übertragen.

01:05:09: Aber ich glaube, all die Bausteine fallen zusammen und es ist nur eine Frage der Zeit bis man da wirklich eine Lösung hat, die auf wirklich AdScale dieses Problem einfach so ist.

01:05:21: Ich glaube das Wichtigste auch, dass die medizinische Information wird ja auch viel mehr werden.

01:05:26: Ja!

01:05:27: Ich glaube die meisten haben noch nicht verstanden was es bedeutet wenn wir die EPA einführen.

01:05:32: Jetzt ist es so, dass die Information limitiert ist.

01:05:35: Es ist ja gut wie Ärgern uns drüber wenn wir Vorbilder nicht haben aber jetzt eine Arzt oder eine Ärztin sich hinsetzen muss um neun Patienten bekommt und dann erstmal fünf tausend Seiten Informationen von Voruntersuchungen vorbefunden Zichtdaten die über variables da reingeladen werden in stunden tagewochenlange ekg aufzeichnungen und soweit wo wichtige information drin sein kann.

01:06:13: also es kann in diesem ekg das die uhr aufzeichnet kann drin sein dass man ab und zu salven hat und das kann total relevant sein und das aber niemand hat die zeit sich das anzugucken.

01:06:24: wir können das nicht bezahlen das anzugucken wir würden.

01:06:28: Wir haben nicht die Möglichkeit, das Personal zu bezahlen um das stundenlang anzugucken.

01:06:33: Wir wissen selbst wie das ist oder was die Hausärzte und Hausärzte getaktet sind.

01:06:43: Und deshalb glaube ich es ist auch extrem wichtig dass wir Technologien haben Die uns ermöglichen diese Daten zu screenen und zwar wie gesagt Das muss ja erstmal nur besser sein, als jemand der nur drei Minuten Zeit hat über fünftausend Seiten zu gucken.

01:07:00: Dann haben wir schon was gewonnen!

01:07:02: Wir müssen uns natürlich nur irgendwie dran gewöhnen auch natürlich die dazu akzeptieren dass das besser ist aber nicht perfekt.

01:07:11: Ich glaube es ist noch ein wichtiger Punkt den wir halt... Wir sind momentan gewöhnt, dass Computer Perfekt sind.

01:07:17: also Die Excel-Tabelle erzählt das perfekt.

01:07:21: Fünfzehntausend Additionen sind, dann sind die immer perfekt.

01:07:26: Das wird natürlich nicht der Fall sein, wenn wir LLMs, die natürlich fasi sind und Sachen akzeptieren, die nicht komplett Standard sind... Man kann nicht beides haben!

01:07:38: Man kann auf der einen Seite etwas haben was mit lückenhaften Informationen oder fehlhaften Information gut umgeht und auf der anderen Seite alles immer perfekt macht.

01:07:46: Aber ich glaube da können wir ganz zuversichtlich in die Zukunft klicken, dass wir da Möglichkeiten finden werden.

01:07:52: Wenn man sich das jetzt anguckt was gerade passiert?

01:07:55: Ich finde es einfach diese Perspektive auch ganz wichtig.

01:07:58: zum Teil ist die Debatte ja sogar so ein bisschen emotionalisiert mit Hinblick auf Vertrauen zu KI wenn man da einfach so einen gewissen sachlichen Abstand hat und sagt das ist halt irgendwie ein stochastisches System wo ich eine gewisse Wahrscheinlichkeit für einen gewißen Output habe.

01:08:16: Sobald ich den Kontext mir selber gebe kann ich auch mit dem Ergebnis viel besser umgehen.

01:08:23: Und auch ein Ergebnis, was vielleicht falsch ist und dann nicht das Richtige oder nicht ganz korrekt ist.

01:08:29: Kann ich damit trotzdem vielleicht Zeit gewinnen?

01:08:32: Wenn ich meine Fragestellung und Erwartungshaltung daran anpasse.

01:08:37: Ich glaube es wird natürlich auch Personen geben die viel bessere Fragen stellen und Personen, die nicht ganz so gute Fragen stellen.

01:08:45: also es wird nach wie vorher auch zu sich ein ganz neues Feld an ExpertInnen auf die mit diesen Tools Information sehr gut extrahieren können.

01:08:57: Andere müssen es noch lernen, also das ist ja nicht so dass da irgendwie jetzt wir uns dem komplett unterwerfen sondern es gibt ja nach wie vor auch eine Bandbreite, es gibt was zu lernen, existiert natürlich auch irgendwie ne... Also gibt's ja auch ne allein aufgrund der Interaktion eine Verbesserung über die Zeit.

01:09:16: Das bedeutet ja auch etwas, also es ist ja nie ausgeliefert Ja, und sind nicht ausgeliefert deshalb.

01:09:23: Absolut!

01:09:23: Das ist auch ein Tool das man lernen muss zu beherrschen und... ...das kommt eben über Erfahrung Und ich meine dass merken wir du wahrscheinlich auch werden wahrscheinlich alle drei eher so der Top-Patientile von Nutzenden gehören was diese Tools angeht?

01:09:43: Man merkt ja wie man mit diesen Tools interagiert hat vor zwei Jahren und vornem Jahr und jetzt und wie sich das ändert und dass man auch ein viel besseres Gefühl dafür bekommt, wo die Limitationen stärken und schwächen dieser Systeme sind.

01:09:56: Und ich glaube das ist ein sehr großes Problem was wir momentan noch haben.

01:09:59: darf ich tatsächlich vor kurzem noch einen Artikel darüber geschrieben dass wir im Umgang also ich meine gerade dadurch dass diese Tools sich so natürlich unmenschlich anfühlen dass wir mit denen quasi auf menschlicher Art und Weise interagieren können verleitet uns dazu sie zu vermenschlichen mit menschlichen Maßstäben zu bewerten.

01:10:24: Und das bedeutet, dass... Das führt dann dazu, dass wir häufig Fehler die diese Tools machen nach menschlichem Maßstäbem bewerten.

01:10:32: und zum Beispiel eine Halluzination.

01:10:34: also wenn dir einer jetzt irgendwas zusammenhaluciniert, das würde ein Mensch nicht machen!

01:10:37: Also wenn du jetzt mit einem Menschen interagierst, klar gibt es auch, man kann dich belügen aber das würdest du dann eben auch entsprechend... Das ist ein sozialen, nicht akzeptiertes Verhalten, also wenn ich dir jetzt was erzähle wie ich dich um etwas fragen würde Du würdest irgendwann erzählen, dann würde es am Anfang... und dann irgendwann anfangen mir wirklich kompletten Stuss zu erzählen.

01:10:54: Den du dir einfach zusammen hallucinierst, weil du keine bessere Antwort hast anstatt zu sagen ne weiß ich jetzt nicht.

01:11:00: Dann wäre das ein nicht akzeptiertes Verhalten.

01:11:02: Ich würde sagen mit dem denn los?

01:11:05: Wenn ich dir aber hier ein hundertseitiges eingescanntes Dokument geben würde in drei verschiedenen Sprachen Und du würdest eine Fußnote auf Japanisch auf Seite forty-three übersehen.

01:11:20: Da würde ich sagen, okay.

01:11:21: Das kann echt passieren.

01:11:23: Aber beim LLM war es genau andersrum.

01:11:27: Das können wir irgendwas zusammenluzinieren.

01:11:30: aber die Fußnote übersehen?

01:11:32: No way!

01:11:34: Oder wir scrollen durch tausend Schichten im CT und würden... Kann uns durchaus mal passieren dass wir den drei Millimeter Nudelos übersehen.

01:11:43: oder würde ich dann sagen ja Tobias komm das ist mir auch schon oft genug passiert würde man jetzt nicht als Fehler sehen, sondern so ein total Mensch.

01:11:54: Wenn man die Perspektive umdreht das LLM würde sagen, was?

01:11:58: Das war doch auf mindestens drei Schichten hintereinander zu sehen!

01:12:01: Ganz klar war der Dichtesprung da.

01:12:03: wie konntest du das denn übersehen?

01:12:05: Deswegen müssen wir wenn wir Fehler bewerten müssen wir total aufpassen dass wir nicht qualitativ menschliche Ansprüche daran anlegen.

01:12:16: und noch wichtiger ist Es ist gar nicht so entscheidend jetzt nur den Menschen zu betrachten.

01:12:20: Okay, wie viel Fehler macht der oder nur das die KI zu Betrachten?

01:12:24: Wie viele Fehler macht er?

01:12:25: was wir eigentlich die ganze Zeit viel zu wenig tun is dass Wir begreifen Das wahrscheinlich in den meisten Prozessen wir einen integriertes System haben human in the loop expert in The Loop ein System wo Mensch und Maschine miteinander interagieren.

01:12:39: das heißt wir müssen eigentlich uns immer auf die Fehler des Gesamtsystems Konzentrieren und versuchen das Gesamtsystem auch so zu kalibrieren durch bestimmte Prozessschritte, Validierung an den richtigen Stellen.

01:12:52: Dass der Fehler des Gesamtsystems optimiert wird und das passiert noch viel zu wenig.

01:12:56: aber ich das lernen wir noch.

01:12:59: Mein letztes ist ja Outcome wichtig also es geht um Outcomes verbessern.

01:13:03: Es geht darum dass wir bessere Diagnosen, bessere Medizin besser das System Patientinnen und Patienten besser geht und wir in kürzerer Zeit mit weniger Aufwand und schnellerer Heilung erreichen.

01:13:24: Und daran werden wir gemessen am Ende.

01:13:25: Es ist das ganz früh, es ist so aus dem Jahr die

01:13:30: K.I.,

01:13:31: da wurden ja komplett abgeschrieben, Radiologie wurde sehr abgeschrieben.

01:13:37: Da haben wir schon alle irgendwie Vorträge gehalten und wir glaube ich selber noch gar keine.

01:13:44: Irgendwie hat es uns interessiert, dann haben wir das gemacht.

01:13:46: Es gab noch gar keine KI-Produkte die man überhaupt einsetzen konnte.

01:13:49: aber jeder durfte schon Vorträge darüber halten was das denn macht in der Medizin.

01:13:54: und da hatte ich einen dieser wie gesagt Vorträge die man dann halt da gehalten hat auch eine Fulle drin wo es darum ging wie es den jetzt medikulegal ist und so.

01:14:06: und dann war's natürlich ja klar wer übernimmt die Verantwortung?

01:14:08: übernimmt dass jetzt der Hersteller übernümmt.

01:14:10: das müssen wir nehmen.

01:14:12: zu der Anwenderin.

01:14:16: Und wie ist das denn mit der Akzeptanz bei den Patientinnen und Patienten?

01:14:21: Dann habe ich irgendwo gelesen, und es war auch ein Teil davon.

01:14:23: Dass wenn das besser funktioniert, dann werden sowohl die Krankenkassen als auch die Patientinnen oder Patienten natürlich verlangen, dass wir das machen!

01:14:31: Also sie werden sich doch nicht drauf einlassen, dass da jemand ... dass man das nicht macht.

01:14:40: Das ist genauso wie Da Vinci Roboter, also eine bestimmte Operation.

01:14:48: Das ist ja fast ein Kunstfehler die offen zu machen.

01:14:51: Das macht man halt jetzt mit Roboter und das ist auch ein Roboter Und wenn das gut funktioniert wird es jeder nehmen.

01:14:58: Das is einfach wieder das gleiche was ich vorhin gesagt habe.

01:15:02: Solange wir irgendwie viel darüber diskutieren müssen dass es doch eigentlich Gutes dann ist es wahrscheinlich noch

01:15:05: nicht gut genug.

01:15:07: Wir werden das in dem Moment merken indem's einfach jeder haben will Dann ist es

01:15:11: gut genug.

01:15:13: Ich hätte zum Abschluss noch eine Frage an euch und zwar, jetzt haben wir relativ viel sozusagen auf dieser strategischen Ebene auch gesprochen.

01:15:23: Wie bringt ihr sozusagen eure Teams in der Praxis sozusagen näher an das Thema ran?

01:15:29: Einmal was AI Literacy angeht aber auch um dieses Verständnis zu inspirieren vielleicht den Sprung zu machen.

01:15:37: Was heißt denn das und wie fühlt es sich an wirklich mit Agenten zu arbeiten?

01:15:44: Ich hatte das Problem tatsächlich ganz konkret.

01:15:47: Im letzten Jahr in meinem Team, überwiegend sind das so Informatiker, Data Scientist, Musiker und so, also verwandte Berufe, Mathematik.

01:15:57: Und ich habe den Anfang des letzten Jahres an, dass ich immer mal wieder gesagt hab' und benutzt doch mal ChatGbT, Cloud und zu lasst mal Code generieren... Also jetzt für die Arbeit im Programmieren!

01:16:14: Erst mal nur für die Forschung, dann war auch so Anwendungsentwicklung.

01:16:17: Und ich habe das immer gemacht und hab gemerkt, wow!

01:16:21: Ich werde dadurch viel schneller, effizienter... Dann wollte ich das mehr ins Team reinbringen und habe gemerkt ... Das ist ja auf Widerstände treffe.

01:16:35: Das war ganz interessant.

01:16:36: Ich habe da gemerkt du hast so verschiedene Typen von Leuten den ganz jungen zwanzigjährigen, der sich da drauf stürzt.

01:16:44: Der sich aber vielleicht gar nicht so darauf stürzen sollte weil er vielleicht auch erstmal ein paar Sachen nochmal verstehen sollte bevor er das alles automatisieren lässt.

01:16:52: und dann hast du irgendwie den total erfahrenen Programmierer, der eigentlich davon wahnsinnig profitieren würde, weil er genau weiß wie er das tunsteuern muss.

01:17:03: der das total weg schiebt.

01:17:05: und dann denkst du warum ausgerechnet der.

01:17:07: Und dann habe ich darüber nachgedacht und gedacht okay, dass ist vielleicht auch ein bisschen in die Identitätsdingen weil wir kennen alle diese Ten X Programmierer wie man sie genannt hat oder nennt die so Überprogrammierer super gute Leute und das ist Kern von deren Identität wenn du mit denen sprichst was dein Hobby was machst du?

01:17:26: Ja ich bin Coder und das sind Supercoder.

01:17:29: und auf einmal Es ist so, dass sie im Vergleich zu einem anderen Durchschnittskoder vielleicht nur noch ein eins Komma drei Koda sind.

01:17:36: Weil der andere mit einem Tool zudem so nah aufschließt und das macht was mit den Leuten.

01:17:42: Das ist wirklich eine Identitätsdingung.

01:17:43: Und das kann man in einer Medizin aussehen auch bei Radiologen zum Beispiel.

01:17:48: Derjenige, der jetzt sage ich mal nicht mehr seit, keine Ahnung, dreißig Jahren Kardiodiagnostik-Kadiobildgebung.

01:17:53: Ich bin der Experte!

01:17:55: Ich weiß was alles ist die gänseltendsten Cases.

01:17:58: und dann auf einmal kommt der Assistent im dritten Jahr und er nutzt so ein Tool und es fasst so gut wie der.

01:18:02: das erzeugt natürlich Abwehrhaltung.

01:18:05: Und das heißt ich habe dann immer, ich hab meinen den Leuten bei mir in dem Team gesagt ihr braucht dir, ich finanziehe euch eben keine Ahnungen so abos für diese Modelle nutzt das doch habt das immer wieder mal angeschaut hat nicht so richtig funktioniert hab ich mir was anderes überlegt.

01:18:21: Dann hab' ich jetzt, das hört mich bestimmt schlecht aus meinem Team.

01:18:24: Aber dann habe ich über die Weihnachtstage und über so die freien Tage, diese Wester-Neujahr

01:18:30: usw.,

01:18:31: alles so... Hab' dann da selber super viel gekoded natürlich mit Cloudcode in dem Fall.

01:18:40: Und war wirklich ultra produktiv!

01:18:43: Und dann hatten wir nach erster Woche im neuen Jahr so Joe Fix Stellen immer alle so vor, woran sie so gearbeitet haben in der letzten Zeit.

01:18:52: Und ich hab dann ... Dann war eine halbe Stunde und haben alles berichtet.

01:18:56: Ich habe auch noch ein bisschen was.

01:18:59: Und dann hab ich das mir vorbereitet, weil ich hab so viel gemacht, dass es gar nicht mehr mit meinem Kopf hat.

01:19:03: Ich hab meine ganzen GitHub-Repos aufgemacht.

01:19:07: Und bin die von oben nach unten durchgegangen, die Sachen, die ich gemacht hab?

01:19:10: Ich hab länger als ne halbe Stunden geredet.

01:19:14: Mehr als das ganze Team zusammen!

01:19:16: Und hab einfach nur runter, hab das gebaut.

01:19:18: Dann hab ich noch das gebaut, also das hab ich gemacht, dass kann jetzt das und das... ...und dann danach aber gar nichts mehr gesagt.

01:19:24: Ich habe nicht gesagt okay hier benutzt Claude, benutzt so ein Tool, ist einfach so ok ja dann bist du zum nächsten Mal.

01:19:31: So was!

01:19:32: Und ich hab schon gemerkt wie alle immer mehr hinter der Bildschirm, es war über Zoom ne?

01:19:36: Alles so immer so... Und dann fängst an fünf Minuten danach der erste so Kannste nochmal, du hast das mit Claude Colt.

01:19:44: Kannst noch mal erklären wie nochmal an der Kaffeemaschine kannst du noch mal wissen was zu erzählen und auf einmal und das hat das war der Dammbruch und das Team war konvertiert.

01:19:57: Ich kann mir das total gut vorstellen!

01:20:00: Also bei uns ist so in der Klinik es natürlich momentan extrem schwer agentische KI einzusetzen.

01:20:05: also das ist regulatorisch nicht drin und ich glaube da gibt's auch keine Produkte die man jetzt verwenden sollte, was wir da machen ist natürlich trotzdem zugelassene nicht-agentische Produkte in der Klinik zu verwenden.

01:20:20: Einfach um Gefühl zu bekommen!

01:20:21: Ich glaube es ist für viele Leute, viele haben's nicht benutzt.

01:20:24: also diese Situation dass wir schon darüber geredet haben und auch zum Teil Vortrag gehalten, obwohl es eigentlich überhaupt in der klinik gar keine Realität war das tut schon total gut einfach Produkte einzuführen die Kolleginnen und Kollegen daran zu führen.

01:20:43: Auch jeden Alter.

01:20:44: Das wird eigentlich, finde ich ganz gut angenommen.

01:20:47: Gibt es genau die gleichen Personen?

01:20:50: Ich habe gerade an den Vergleich gedacht als sie von den Filmen auf digital gegangen sind.

01:20:57: Also

01:20:57: CT auf dem Film angucken bedeutet ja das man nicht durchscrollen kann sondern dass man wirklich so Bilder nebeneinander angucken muss dann im Kopf das zusammenbauen Und kann auch nicht irgendwie rekonstruieren, sich's von vorne oder von der Seite angucken.

01:21:10: Sondern man muss in seinem Kopf das integrieren.

01:21:12: Da waren die Leute megastolz und waren natürlich total pikiert als es dann irgendwie am Bildschirm war.

01:21:19: Ich würde rumdiskutiert, dass nun auf dem Bildschimm bestimmte Dinge nicht sehen können und dass das nur auf den Film geht.

01:21:25: Das hat überhaupt nicht genug.

01:21:26: grau Stufen unter Wasser desgleiche.

01:21:28: Irgendwann haben sie alle einfach eingesehen, dass man halt Radiologie-Bilder auf einem Bildschirmen gucken kann – auch gut gucken kann!

01:21:34: Und schneller ist... Man muss die auch nicht suchen.

01:21:36: Die gehen auch nicht verloren, das war ein großer Vorteil.

01:21:38: Radiologie und mit Filmfolienradiologie waren zu dreißig Prozent überhaupt erst mal das Bild zu finden.

01:21:45: Und manchmal ja was da Röntentüten gesucht wurden in der Zeit?

01:21:50: Und Patienten noch einfach nochmal geröntigt worden sind weil das Bild einfach weg war.

01:21:55: Das ist und das war damals nicht besonders strahlensparend aber es ging nicht anders.

01:22:00: wenn man brauchte ja die Informationen Die Tüte war halt weg, hat irgendjemand mitgenommen, weggeschmissen.

01:22:06: Also insofern das ist glaube ich das ist ein Vergleich und da gab es natürlich auch eine Generation.

01:22:11: aber ich glaube dass wird sich in dem Moment wie gesagt, in dem es funktioniert wird sich's durchsetzen.

01:22:17: Und so wie du es beschreibst, ich finde man kann von den gerade von der jetzt doch irgendwie älter schon langsam.

01:22:28: Ich finde das total erfrischend wie da damit umgegangen wird Sehst.

01:22:32: aber natürlich auch glaube ich so, dass eine sehr erfahrene Person die vielleicht schon seit vierzig Jahren Programmiererfahrung hat.

01:22:42: Wenn man das ist ein bisschen das was ich vorhin meinte wie man mit den Tools umgeht wenn man so einer Person das in die Hand rückt die halt genau weiß pass auf das muss schneller gehen weil da kann man das machen und das machen.

01:22:52: oder gibt es eigentlich das Dass da wirklich noch mal einen Unterschied ist?

01:22:58: So jetzt müssen wir halt irgendwie dafür sorgen dass das vielleicht Diening, die jetzt extrem schnell viele Erfolge total leicht damit bekommen.

01:23:06: Aber halt so dass die letzten zehn fünfzehn Prozent nicht rausholen weil man halt mehr wissen könnte ob das ist eine jüngere oder ältere Person.

01:23:15: es ist ja egal Dass wir da halt irgendwie hinkommen diese Literacy glaube ich zu erhöhen.

01:23:23: in dem also jetzt wirklich in dem Forschungsentwicklungsspace.

01:23:32: Ja, leider sind wir schon am Ende der Zeit.

01:23:34: Irgendwie ist die Zeit komplett verflogen.

01:23:36: Ich hab das Gefühl, wir könnten hier noch eine ganze Weile länger diskutieren aber vielleicht schaffen wir es ja mal irgendwie in sechs Monaten oder so nochmal ein Update zu machen.

01:23:44: Auf jeden Fall nach Berlin kommen wir immer wieder mal.

01:23:47: Sehr gerne!

01:23:47: Da gibt's

01:23:48: genug Veranstaltungen, die das rechtzeitig...

01:23:49: Definitiv!

01:23:51: Find ich, Tobias.

01:23:51: Dann ganz, ganz herzlichen Dank dass ihr hier wart.

01:23:53: Hat mich wirklich sehr gefreut.

01:23:55: Danke für die Einladung!

01:23:56: Danke für ihre Gastfreundschaft.

01:24:04: Und dank, dass du heute dabei warst.

01:24:06: Hat dir die Episode gefallen?

01:24:08: Dann kannst du dich jetzt schon auf die kommende Episode in zwei Wochen freuen.

01:24:13: Bis bald!