Clinical Decision Support: Wie KI Ärztinnen und Ärzte im Alltag entlastet | 23

00:00:01: Hallo und herzlich willkommen zum Podcast Diagnose Zukunft mit Maximilian Gräschke, Geschäftsführer und Gründer von ReCare.

00:00:10: Mit diesem Podcast zeigen wir künstliche Intelligenz revolutioniert das Gesundheitswesen schon heute.

00:00:17: Bist du bereit?

00:00:19: Lass uns loslegen!

00:00:35: Er ist ärztlicher Direktor für Neurologie am Universitätsklinikum Freiburg und außerdem Co-Founder bei Professor Walmet.

00:00:44: Damit vereinbart Heinz zwei ganz besondere Perspektiven, einmal die ärztliche und auf der anderen Seite die von jemandem, der wirklich künstliche Intelligenz auch in die Praxis in der Klinik bringt.

00:00:57: Ich freue mich sehr auf das Gespräch.

00:00:59: Ganz viel Spaß beim Zuhören!

00:01:00: Und wenn euch das Ganze gefällt lasst einen Like oder ein Abo da.

00:01:05: Lieber Heinz, ich freue mich super dass du hier bist bei unserer neuen Podcast-Folge.

00:01:11: Schön dich dabei zu haben.

00:01:12: Wie geht's dir?

00:01:13: Und stelle dich doch unseren Gästen einfach mal zum Anfang einmal kurz selber vor!

00:01:18: Ja Max, super freut mich auch total.

00:01:21: Schöne Studio muss man auch echt sagen... Also mein Name ist Heinz Winnell und ich bin Neurologe.

00:01:26: Ich bin Arzt.

00:01:27: Bin Professor.

00:01:28: Bin RCDirektor am Uniklinikum Freiburg.

00:01:32: Leit dort die Neurologie Und habe mich eigentlich relativ lang schon mit unterschiedlichen Themen im Gesundheitssystem befasst, war relativ wissenschaftlich unterwegs auch viele Jahre und bin es immer noch Leiter von Sonnerforschungsbereichen.

00:01:46: Hab mich aber eben auch damit befasst wie man unseren Teil der Didaktik und des ärztlichen Arbeitens abseits der Lehre für die ich auch zuständig bin irgendwie in die Umsetzung bringen kann.

00:01:59: Und das war eigentlich der Startpunkt für das, worüber wahrscheinlich heute auch sprechen Professor Walmet unser Unternehmen wo ich Mitgründer bin und jetzt eben Medical Advisor bei der wir eben versuchen das Potenzial von KI wirklich irgendwie in die Transformation zu bringen also in den Alltag sprich des Weltwissen zusammen mit dem echten Erleben mit der konversationellen Power von KI ... in eine echte Hilfe im Gesundheitssystem umzumünzen.

00:02:28: Und da sind wir ganz gut unterwegs.

00:02:29: und das ist eben die Story, warum ich mit Gründervor-Professor Walmet bin... ... wenn man sowohl so ein Medical AI-Kompany oder ein klinisches Entscheidungsunterstützungssystem ist!

00:02:40: Also erstmal Schapo, dass du während deiner Zeit als ärztlicher Direktor in der Neurologie in Freiburg noch die Zeit und Energie gefunden hast, sozusagen in dieses Thema zu investieren.

00:02:54: Und da kommen wir nicht auch schon zu der ersten Frage, die sich wieder gleich aufträngt.

00:02:58: Jetzt hast du eine konkrete Lösung entwickelt.

00:03:00: dazu sprechen wir gleich im Detail nochmal mehr aus deiner ärztlichen Arbeit.

00:03:04: wie bist Du denn zu dem ganzen Thema KI KI in der Medizin gekommen und was hatte ich dann auch dazu bewegt?

00:03:11: Ich sag mal doch so einen großen Aufwand Deinerseits da auch persönlich reinzulegen.

00:03:18: Ja die Story ist ganz interessant.

00:03:19: also das geht fast zurück auf mein Studium.

00:03:24: Und ich war dann in USA, und in USA war immer schon mehr so dieses Questions and Answers.

00:03:31: Während im deutschen System man ja eigentlich Telefonbücher auswendig lernt als Mediziner, war immer eher die Ach herangehensweise man nähert sich ein Problem über die Frage – und dann merkt man sich es auch besser!

00:03:43: Dann habe ich Bücher geschrieben, die nannten sich Fragen- und Antworten zur Neurologie und wollte sie immer irgendwie digitalisieren.

00:03:51: Und dann habe ich unsere Co-Fahnderinnen und jetzt CEO Vera Rödel kennengelernt, die in ihrer Position so für die Legal Tech Tools zuständig war.

00:04:03: brauchst du gar nicht anfangen, sowas zu digitalisieren quasi so ein E-Book zu machen.

00:04:08: Sondern da gibt es doch jetzt diese LLMs und dann kann man eigentlich es gleich scheitmachen.

00:04:13: Dann ist aus der Idee wir machen Fragen und Antworten eines Buchs das ich mal gemacht habe.

00:04:19: Fragen und antworten und Nutzung des Weltwissens geworden.

00:04:23: Und dann haben wir gesagt wenn wir's machen, dann machen sie natürlich als Medizinprodukt weil das ist die einzige Möglichkeit wie wir diese Glaubwürdigkeit in die Anwendung bringen können.

00:04:34: Und daraus ist quasi so ein eigentlich, also na ja ich würde mal sagen jahrelangen eher kleinen Idee.

00:04:40: jetzt würden wir sagen super kleine Idee.

00:04:42: aus meiner Sicht was richtig große sind vielleicht wertvolles und transformatives geworden und so ist es entstanden

00:04:49: aus deiner ärztlichen arbeit heraus.

00:04:51: wo hast du denn bei dir vielleicht auch die die pain points gemerkt dass das gefühlen stand ist okay.

00:04:57: so eine lösung ist wirklich auch ich sag mal für die praxis so richtig relevant.

00:05:03: Das ist ja das was ihr mir erzählt außen problem kommen des problemen lösen wollen.

00:05:08: faktisch das abseits macht irgendwie immer die gleichen und sehr gleichförmigen Repetitiven Tätigkeiten hat man in so einer ärztlichen Tätigkeit immer wieder viele so Fragen im Alltag.

00:05:22: Gerade als Neurologe, wir haben tausend verschiedene Diagnosen aber in der Medizin generell und es passiert auch wahnsinnig viel!

00:05:28: Und wo kriegt eigentlich ein Arzt oder eine medizinische Professional diese Informationen her?

00:05:34: Früher ist mir in die Bibliothek gegangen und jetzt sucht man im Internet Aber das was man im internet findet Wirklich nicht sehr valide.

00:05:42: Und das war der Hintergrund, weil wir mal gesagt haben, ja also wir brauchen eigentlich ein Tool was wirklich das validierte Belastbare auch vor allem regulatorisch relevante Wissen abbildet.

00:05:54: Ich bin dann immer das Beispiel um zu wissen ob du einen Antikörper Also es wird ja als Therapie für unterschiedliche Erkrankungen in der Krebsmedizin oder Neurologie und in der Dermatologie verwendet Ob du den Antikörper in der Schwangerschaft benutzen darf.

00:06:09: Das steht ja in keinem Lehrbuch des zehn Jahre alt ist, sondern das steht in den Zulassungsdokumenten.

00:06:13: also es müssen die richtigen Dokumente hinterlegt sein wo du schaust und die müssen halt idealerweise an einem Platz sein.

00:06:19: und das ist eigentlich der Ausgangspunkt wie wir unsere Datenbank gebaut haben weil wir gesagt haben Das gesamte Weltwissen ist riesig, aber das relevante Weltwissens sind wahrscheinlich nur drei bis fünf Prozent davon.

00:06:32: Und diese validierten relevanten Informationen haben wir in eine Datenbank zusammengepackt.

00:06:38: Das sind vor allen Dingen die Leitlinien und die regulatorischen Dokumente, wissenschaftlich aktuelle Daten.

00:06:48: immer wieder braucht in ganz unterschiedlichen Situationen.

00:06:51: Also das war der Ausgangspunkt zu sagen, wo schaue ich denn was nach?

00:06:54: Wenn nicht bei Google Nachschau und wenn ich nicht in die Bibliothek gehen will und eine Unterstützung zur Diagnose und Therapie wirklich haben will, die dann auch belastbar ist.

00:07:04: Und wenn ihr das nur hinzufügen darf... Das ist ja schon ein ganz relevanter Punkt weil gerade bei Diagnosestellungen geht es um Präzision da geht's um richtige aktuelle Diagnosi-Kriterien Bei Therapie, gerade bei teuren Therapien wie in der Krebstherapie.

00:07:21: In der Dermatologie, da kosten teilweise die Medikamente zehntausend zwanzig tausend bis fast fünfhunderttausende Euro pro Jahr.

00:07:28: Da willst du es schon richtig machen?

00:07:30: Da willst du es einfach richtig machen!

00:07:32: Ist die Zulassung korrekt ist quasi das Monitoring Korrekt?

00:07:35: und genau darauf braucht's Antworten.

00:07:38: und da hilft halt KI gewaltig.

00:07:41: und so hat sich das Projekt... In dieser Dynamik entwickelt.

00:07:45: Jetzt, wenn wir über KI im Krankenhaus sprechen da gibt es ja eine ganze Reihe von verschiedensten Lösungen.

00:07:52: ganz viel bezieht sich erst mal auf Dokumentation Automatisierung von Dokumentations.

00:07:59: jetzt seid ihr von Anfang an auch den Weg dieser Medizinprodukte Zertifizierung gegangen wo ihr immer noch das einzige, sozusagen CE-Klasse IIB zertifizierte Produktzeit, was ein LLM wirklich inkorporiert und für alle Fachrichtung einsetzbar ist.

00:08:21: Warum seid ihr von Anfang an diesen Weg gegangen?

00:08:24: Anstatt vielleicht über Argumentationen wie Na ja hier geht es eigentlich nur darum Wissen suchbar zu machen ohne Medizinprodukte Zertifzierung reinzustarten.

00:08:36: Also das ist ein extrem streller Wanderpunkt, den du ansprichst.

00:08:39: Weil man sich ja fragen kann warum sind wir diesen steinigen Weg über die Regulatorik gegangen?

00:08:44: Und eine Antwort ist weil wir glauben dass gerade dieses Medizinprodukt-Regulatorikwesen den Unterschied macht zu vielen anderen einfach Content-Providern, die einfach nur medizinischen Inhalt zur Verfügung stellen.

00:09:04: Das ist auch das was ich immer sage.

00:09:05: es gibt natürlich diese traditionellen Verlagshäuser die viel medizinisches Wissen haben.

00:09:13: aber wenn man wirklich jetzt mal das ganze unteres Brennglas legt und das Brennglass als geltend, wir nennen es Mehrheitsmeinung gelten wie bei den Juristen.

00:09:26: Was ist die richtige Diagnose und welche Therapien sind für was zugelassen?

00:09:31: Dann schmilzt das ganz schnell ein.

00:09:34: dann geht's runter auf die Leitlinien, auf die sich die Fachgesellschaften geeinigt haben.

00:09:38: Das ist der kleinste gemeinsame Nanner und der größte Stand des Wissens Und es sind einfach die regulatorischen Dokumente Die die Zulassungsbehörden rausgeben.

00:09:47: Das sind diese zwei Kern Wissensrepositorien, wo man sagt darauf kannst du wahrscheinlich neunzig Prozent der Medizin Informationen runter dampfen und genau das ist eigentlich das was es braucht dann im Alltag um dann handeln zu können so.

00:10:06: Und da haben wir gesagt dass ist der eine Punkt.

00:10:07: der zweite punkt die Glaubwürdigkeit bei sowas wie einer sehr immer noch mystifizierten KI kommt eben über genau das.

00:10:16: Was passiert denn mit meinen Daten?

00:10:18: Wer prüft den nach, ob es irgendeinen Sicherheitsproblem gibt?

00:10:21: und dass ist eigentlich nur in einer CE-zertifizierter Medizinproduktlandschaft so gewährleistet.

00:10:29: und letztendlich muss man sagen unsere Unser naiver Enthusiasmus und mein wissenschaftliches herangehen zu sagen, wir wollen es eigentlich von vornherein richtig machen auch quasi akzeptiert sein zum Beispiel über die Fachgesellschaften.

00:10:46: Und das regulatorische Wissen von Vera Rödel, die ja Rechtsanwältin ist war natürlich eine super Founder Combination, die wir da hingekriegt haben.

00:10:54: Die hat dann dazu geführt, dass wir am Anfang gesagt haben, wenn wir es machen und machen das als Medizinprodukt.

00:10:59: Weil mit den großen LLM-Labs wollen wir und können ja gar nicht konkurrieren sondern wir kommen aus dem Wissen was wirklich relevant ist.

00:11:09: Ich finde das super spannend!

00:11:10: Und was glaube ich sich fast jeder fragt der im Gesundheitswesen auch in diesem KI Bereich sozusagen gründet... Das ganze Medizin Produkte Zertifizierung hat euch der Prozess das zu durchschreiten und die Anforderungen, die dort regulatorisch gestellt werden.

00:11:29: Hast du das Gefühl dass dir auch zur Qualität des Produkts beigetragen haben oder hattet ihr eher das Gefühl wir haben ja eigentlich einen sehr guten Plan wie wir komplett unabhängig von den Regularien das beste Produkt bauen?

00:11:42: und jetzt haben wir hier noch total viel Aufwand, um das irgendwie beweisen zu müssen und diese Zertifizierung zu kriegen.

00:11:47: Also habt ihr eigentlich durch die Zertifikierung selbst auch wirklich ein Mehrwert auf der Produktebene bekommen?

00:11:52: Es ist eine super Frage!

00:11:54: Und die andere ist ganz klar ja weil du wirst ja gezwungen anders zu denken.

00:12:01: also natürlich gehst du ran und sagst es soll am Schluss rauskommen als Produkt Die Frage in welcher Weise du es dokumentieren musst, das besteht an Medizinprodukt aus drei Bestandteilen.

00:12:13: Das eine ist Qualitätsmanagement.

00:12:14: Das zweite ist die technische Dokumentation.

00:12:16: Das dritte ist das klinische Studienprogramm wenn du so willst also Clinical Evaluation und Decision Plan.

00:12:24: Und all diese drei Punkte sind An sich jetzt mal einleuchtend aber Du würdest sie nicht zu machen Wenn du nicht gezwungen wirst es zu machen.

00:12:35: Auf der anderen Seite ist natürlich saukwahlvoll, dich mit Formblättern auseinandersetzen zu müssen die jetzt eigentlich gerade für so ein Medizinprodukt nicht gemacht sind.

00:12:44: Wir haben ja kein Herzschrittmacher gemaut, der zum fünften Mal gebaut wird sondern wir haben was gebaut wofür diese Regularie eigentlich gar nicht ausgelegt war.

00:12:53: und Letztens haben wir einerseits einen Weg damit beschritten, also wir haben etwas

00:12:59: gemacht

00:12:59: wo die benannte Stelle eigentlich auch noch keine Erfahrung damit hatte.

00:13:03: Wir haben ein neuen Weg damit argumentiert.

00:13:07: Der hat uns aber besser gemacht und das muss man sich so vorstellen dass letzten Endes da wo es jetzt kein Blueprint gibt.

00:13:14: Das ist ja nicht auf der Shelf und du weißt was du machen musst kannst du nur so argumentieren dass du sagst Wir schlagen jetzt einen klinischen Studienplan vor.

00:13:26: Da ist mir natürlich ganz zu gut gekommen, dass ich mich da relativ gut auskenne mit Studiendesigns und mit Studien.

00:13:31: Und wir haben wirklich wie bei einer Medikamenten zulassung ein dreifasiges Studienprogramm vorgeschlagen was einerseits ganz technische Komponenten hat aber zum zweiten auch ganz inhaltliche Komponente.

00:13:41: Das war dann in einem sehr iterativen Hin- und Her Überzeugend hat unser Produkt besser gemacht, hat das Denken und das Befassen besser gemacht.

00:13:51: Und hat am Schluss auch die Regulatoren und die benannte Stelle überzeugt.

00:13:56: Ich glaube ganz tief dass du ein Produkt letztendes vielleicht technisch nicht schlechter machst aber nicht so bewusst damit umgehst wenn du dich nicht so damit auseinandersetzen musst Und da kommt nur so Dinge dazu, dass du wenn du weißt am ersten Zehnten konntest Audit.

00:14:12: Dann musst du es bis dahin auch fertig haben.

00:14:19: Das kennen wir aus den diversen IT-Sicherheitstheben.

00:14:23: natürlich aber MDR ist dann nochmal eine andere Hausnummer vom Auswand her.

00:14:26: also da erst mal Herzlichen Glückwunsch das das so gut geklappt hat.

00:14:31: Ja wir haben viel geschwitzt.

00:14:35: Seht ihr denn in der Praxis das sozusagen die, dass vorhanden sein von, ich sag mal so einem zertifizierten Tool auch wirklich dazu führt.

00:14:46: Was man mittlerweile sogar als Schatten KI bezeichnet also einfach die private Nutzung von ChatGPT und anderen Tools, dass sie dadurch auch wirklich sozusagen substituiert wird?

00:14:57: Das ist ja natürlich genau... der Zielpunkt den wir verfolgen, dass wir sagen naja jeder spricht drüber schaut ein KI sollte er nicht nutzen.

00:15:08: aber wenn du keine Alternative bittest wie soll es das verhindern?

00:15:12: und das ist ganz interessant.

00:15:14: Wenn man es so rum sieht die tatsächlich vielleicht einzige oder erste zumindest reale Alternative in dem Dilemma sind ja Die Frage ist nur, kriegst du das ins Bewusstsein?

00:15:26: Und da haben wir ganz interessante Erfahrungen gemacht.

00:15:28: Also die erste, die ich teilen kann am Uniklinikum Freiburg.

00:15:32: Das ist ja ein Universitätsklinikum mit einem hoch regulierten Datenschutzkonzept und so weiter wo ja letzten Endes die Nutzung von LLMs im Kontext von Diagnose- und Therapieunterstützung verboten ist.

00:15:50: Das ist einfach verboten, nur wie willst du es überprüfen?

00:15:53: genauso wie du Bilder mit WhatsApp hin und her schickst?

00:15:57: Aber es gibt natürlich Statements die das bannen und man nicht nutzen darf und drunschreiben.

00:16:05: Und unser CEO der da sowieso recht voranschreitend und visionär ist Professor Wenz Hat das mitgegangen und hat gesagt, ja gut dann machen wir das als die Alternative.

00:16:15: Wir stellen es unseren Ärzten zur Verfügung haben Pilot gemacht und sind jetzt tatsächlich am Uniklinikum Freiburg des Erste.

00:16:23: Uniklikum war diese Lösung als offizielle Lösung den Medical Professionals zur Verfügung stellt einmal eine Standalone-Lösung aber auch mal eine integrierte Lösung.

00:16:34: Es ist nur trotzdem auch leider richtig, dass sich viele Leute gar nicht drum scheren.

00:16:40: Weil sie sagen ja gut was schert mich denn das?

00:16:42: Das prüft ja keiner und umso wichtiger ist dieses Bewusstsein herzustellen.

00:16:47: ich bringe da immer ganz gerne ein Beispiel und die Vera Rödel unseres CEO bringt das Beispiel auch.

00:16:52: wenn etwas passiert Was wäre es dann eigentlich verantwortlich?

00:16:55: wo kann man denn nachvollziehen wann was gefragt oder wie passiert ist?

00:16:59: bei den Banken sind solche Fälle passiert und dann wird es einfach andersrum aufgezäumt, die ganze Geschichte.

00:17:11: Und dann ist man erstmal tief erschrocken und fragt sich warum habt ihr das so gemacht?

00:17:15: Wir gehen halt von vornherein den deutlich steinigeren Weg und damit den Weg der halt justiziabel ist wenn man so will müssen aber immer wieder argumentieren warum er eigentlich der Richtige ist weil der andere ja auch irgendwie smooth und einfach isst.

00:17:32: Und da kommt halt der Punkt, der uns da glaube ich hilft.

00:17:36: Dass jetzt zunehmend Anbieter sich dieses Risikos auch bewusst sind und deswegen auf eine CE-Zerevisuelösung brauchen oder genau die wollen so wie es wir ja jetzt auch mit Rika in der Partnerschaft machen.

00:17:49: Dann muss er sagen naja also ist schon klar an KI kommst du nicht vorbei aber du musst eine nehmen die wirklich auditierbar ist, die regulatorisch sauber is'.

00:17:59: Ich glaub du hast sowas absolut richtiges angesprochen.

00:18:02: Auch wir haben in unseren Überlegungen ja sozusagen gemerkt, wenn man jetzt irgendwie über ambient listening oder so spricht.

00:18:08: Da kann man meistens noch eine Grenze ziehen wo man wie eine Argumentation vielleicht finde okay das ist jetzt reine Dokumentationsarbeit.

00:18:16: aber sobald man dazu kommt ein bisschen freier use cases umzusetzen für erstliche Anwenderinnen und Anwänder dann wird es fast unmöglich sozusagen in die mda Bereiche rein zu laufen.

00:18:31: Und ich glaube, zum Schluss ist das für uns alle auch eine gute Sache.

00:18:35: Weil es gibt ja auch mittlerweile genügend Studien die zeigen wie stark dann doch in diesen medizinischen Setting die Standard Foundation Models noch haluzinieren?

00:18:43: Ohja!

00:18:44: Also das war ehrlich gesagt mit überhaupt der relevanteste Endpunkt für dieses ganze Medizinprodukt Entwicklungsgeschehen nämlich wie sicher ist denn das Produkt?

00:18:57: Die benannte Stelle interessiert es überhaupt nicht, ob wir konventionell erfolgreich

00:19:01: sind.

00:19:01: Die interessiert das überhaupt nicht!

00:19:03: Ob das Produkt gut funktioniert oder ob das einigermaßen den Anwender überzeugt sondern die sagen wenn ihr das irgendwie in Umlauf bringt im Verkehr bringt muss es sicher sein.

00:19:13: und das war unser erder Endpunkt.

00:19:15: der nennen wir Sicherheitsindex.

00:19:17: also was passierten?

00:19:18: Wenn das was empfohlen wird oder was aus ausgegeben wird umgesetzt werden?

00:19:22: haben wir tatsächlich so gebaut dass wir einen Halluzinationsindex wir nennen den Sicherheitsindex von jetzt nur Null Komma.

00:19:29: Sechsundzwanzig Prozent haben.

00:19:31: das war eben unser Endpunkt und es ist auch ein echter Unterschied zu Jetzt glaube ich nur den meisten LLMs, wo teilweise die bis zu zehn fünfzehn Prozent noch Halluzinieren.

00:19:40: Da fragt man sich wäre es dann verantwortlich?

00:19:42: Weil je weiter du dich natürlich von deinem Kompetenzbereich entfernt, desto weniger merkst du sehr abzhaluziniert.

00:19:49: Das klingt halt einfach alles nur sehr sehr sehr plausibel.

00:19:52: Und das ist dann am Schluss nicht ungefährlich.

00:19:56: unser Kernargument, glaube ich.

00:20:00: Also das wird getrackt und auditiert.

00:20:03: Wir haben ein Pharmacovigalanzsystem in dem es entsprechend eskaliert wird wenn's zum Problem kommt.

00:20:11: also man hat Sicherheitsnetze.

00:20:13: Und ich will dir in einem Punkt vielleicht noch mal sagen dass wahrscheinlich in dem Moment wo du Patienteninformationen über Listening, über Scribe zusammenfasst.

00:20:25: Wie willst du sagen, dass es keinen Einfluss auf Diagnose- und Therapieentscheidungen hat?

00:20:29: Da verletzt nennst du immer mit einem Fuß im Medizinprodukt

00:20:32: drinnen.

00:20:33: Eigentlich immer!

00:20:34: Und das war der Punkt warum wir uns teilweise sogar wundern wie hohes Risiko so Evidenztools eigentlich gehen ohne ein Medizin Produkt zu sein weil sie natürlich ganz klar Diagnosen und Therapien Entscheidungen beeinflussen.

00:20:49: Es wird natürlich dann immer geschrieben, es ist nur für Recherche.

00:20:54: Aber wie wirst du das trennen?

00:20:56: Die Recherch zu deinem Knieschmerz ist ein Kniesschmerz!

00:21:01: Wenn man bei der Recherchen auf falsche Informationen stößt, dann beeinflusst das die Entscheidung schon.

00:21:08: Was ich gerade noch spannend fand, du hast vorhin gesagt einmal sozusagen Standalone und einmal integrierte Use Cases.

00:21:14: Ich glaube das Standalone Thema kann sich jeder gut vorstellen so wie man es vielleicht auch von der privaten ChatGPT App oder ähnliches kennt.

00:21:23: Wie denkt ihr über diese integrierten Use Caces nach?

00:21:26: Und wie kann man sich das in der Praxis vorstellen?

00:21:29: Also ich glaube Standalone-Lösung wie Du sagst kann sich Jeder gut vorstellen.

00:21:32: Das ist wenn man so will ein Medizinprodukt dass sehr transparent zeigt wo du was wie suchst, das ist unsere Datenbank die medizinische Literatur der hinterlegt ist.

00:21:43: Du musst aber eigentlich in irgendeiner Form immer etwas eingeben und dann kriegst du einen Output.

00:21:47: Und die ist zugelassen und die bieten wir auch an und die ist auch relevant.

00:21:52: Aber eigentlich kommt der wirkliche Mehrwert durch ein Nichtbruch des Workflows.

00:21:59: Das heißt du arbeitest in irgendem System Wie du halt als Arzt oder Ärztin arbeiterst Und in diesem System muss es quasi nahtlos eingebunden sind.

00:22:08: Wir nennen das die Integrated Mode, also wir haben den sogenannten Curiosity Mode.

00:22:12: da gibt's einfach einen Button und du suchst abhängig oder unabhängig von dem was da an konkreter Patientensituation vor dir ist und dann hast du den Integrated mode.

00:22:22: Der Integrated Mode ist eigentlich dass was der Game Changer aus unserer Sicht sein muss und aus unserer sich des einzig sinnvoller ist denn du kriegst Man würde das pre-promt nennen, du kriegst eine vorgefüllte der Informationen zum Patienten.

00:22:39: Allein den Kontext schon mal automatisiert einfließen zu lassen erleichtert ungemein und dann hast du natürlich die Möglichkeit so sagen was willst Du übergeben?

00:22:49: oder was ist genau deine Frage?

00:22:50: Und über gibts es dann wieder zurück.

00:22:52: und jetzt nennen wir den integrated mode dem wir jetzt in verschiedenen use cases sehr pushen weil das ist etwas wirklich den alltag richtig einfacher macht.

00:23:02: Am Schluss wollen wir ja drei Sachen, nämlich den Alltag einfach machen indem wir Zeit ersparen, indem wir Qualitätssichern also die aktuellste und relevanteste Informationen den Anwendern zur Verfügung stellen und letztendlich ist es damit auch sicher haben.

00:23:24: Also sicher heißt du hast wirklich die Patienteninformationen auf die Beziehung sich.

00:23:30: Ich glaube, das ist zum Schluss auch das was notwendig ist um das große Potenzial von KI zu heben.

00:23:35: Das merkt man ja in nichtmedizinischen Anwendungsfällen.

00:23:38: Jeder hat sich mittlerweile daran gewöhnt.

00:23:40: ich kann irgendwie ChatGPT oder Cloud wie Google benutzen einfach um eine Recherche im Prinzip immer wiederzumachen oder mir irgendwelche Informationen filtern zu lassen etc.

00:23:53: Aber das richtige Potential sehen wir erst dann wenn agentische Workflows und integrierte Workflows kommen, wo zwangsläufig irgendwie die Kontextinformation unabhängig vom Userpromt bereitgestellt werden muss.

00:24:08: Ja ich gebe dir ein Beispiel.

00:24:10: das ist genau so ist es.

00:24:12: Es ist ja im Moment des Arbeiten beim Arzt so dass er sehr viel Data Carrier Funktionen vollzieht.

00:24:19: von dem müssen wir wegkommen.

00:24:21: das heißt diese eher repetitiven stumpfen arbeiten Informationen in irgendeiner Form zusammenzubringen und dann zu wichten, weiterzukarrieren.

00:24:31: Das ist eigentlich nicht die Arbeit, die wirklich sinnvoll ist.

00:24:36: Und gleichwohl ist es natürlich das was unglaublich viel Arbeit ist momentan.

00:24:41: Da helfen diese agentischen Workflow-Systeme enorm.

00:24:44: Das andere ist dass man eigentlich immer reagiert anstatt proaktiv agiert.

00:24:51: Also das Beispiel, das ich dir geben will ist du hast einen Patienten der da liegt und es verändert sich irgendeinen Laborwert, und es bahnt sich Nierenversagen an.

00:25:00: Jetzt kann's halt dauern bis zur Visite das zum ersten Mal in den Laborwerk geschaut wird oder du kriegst auf dein iPhone eine Meldung, Patient Huber hat jetzt plötzlich einen Anstieg von Kreatinien reagiert.

00:25:14: Und dieses cleverer Alerting System, der also wie so ein Co-Pilot immer mitläuft und dann auch dir gleich sagt.

00:25:20: Mit Walmet was sollste jetzt eigentlich tun?

00:25:23: Selbstes Überwachung, Niereninsuffizientüberwachung das ist eigentlich genau das was dann auch die Qualität bringt.

00:25:28: ja dass es in unterschiedlichen Newscases super relevant Dinge wie zum Beispiel unsere Bevölkerung wird immer älter, die Leute kommen ins Krankenhaus haben fünf bis zehn Medikamente.

00:25:41: Wer kann noch wirklich einschätzen?

00:25:43: Sind diese fünf oder zehn Medikanente sinnvoll?

00:25:46: Du lässt eine Polymedikationsanalyse von Anfang an automatisiert laufen und lässt dann entscheiden ist denn das wirklich sinnvoll jetzt ein neues Medikament anzusetzen oder musst du nicht irgendwie bei der medikamenten Kombination reagieren?

00:25:58: Das heißt du kommst quasi in sowas wie einen Co-Piloten, der mit dir navigiert.

00:26:04: Dich nicht dekapitiert?

00:26:05: Das ist ganz wichtig!

00:26:06: Ist auch eine der großen Ängste die viele Ärzte haben dass sie irgendwie entmachtet werden oder oder entfernt werden.

00:26:15: Fakt ist das du sicher geführt wirst in dem Du hast sowas wie einen zweiten der immer über die Schulter schaut aber vor allen Dingen sehr zeitnah reagiert.

00:26:25: und ich glaube da liegt die große Transformationen des Disruptionspotenzial.

00:26:32: Unser Gesundheitssystem geht ja, wenn man das einfach so mal hochszeniert in wenigen Jahren so brutal in die Knie.

00:26:40: Die Leute werden älter und es wird immer mehr Druck auf Notaufnahmen geben.

00:26:45: Es wird immermehr Druck durch die alternde Bevölkerung geben.

00:26:47: Das heißt, es braucht solche Tools, die eine einfache Entlastung schaffen.

00:26:52: Also zum Beispiel wer in der Notaufnahme muss jetzt wirklich in den notaufnahmen?

00:26:56: oder wer kann also aufgrund der Symptome Ohne jetzt noch mal ein neues Kernspin bei schon zehn Jahren Rückenschmerzen wieder heimgeschickt werden.

00:27:06: Und ich glaube, da liegt die große Chance von KI zu sagen naja wir nehmen Druck aus dem System, automatisieren Dinge, die zu automatisierend sind aber gleichzeitig im Erhalt der Qualität mit Zeit der Sparnisse und mit Sicherung von aktuellsten medizinischen Informationen.

00:27:25: Ich finde, was du gerade gesagt hast ist eigentlich nochmal eine ganz wichtige Erkenntnis, die man gar nicht genug hervorheben kann.

00:27:31: Dass unser System eigentlich ja total absehbar auf diese Wand zufährt.

00:27:37: und ich finde wir haben viel zu wenig das Verständnis dafür dass wir unmittelbar Sachen signifikant anders machen müssen weil mit so kleinen inkrementellen Veränderungen es eigentlich gar nicht machbar ist gegen dieses Problem gegenzusteuern

00:27:54: absolut.

00:27:56: Und du endest das System ja nicht, indem du mehr Menschen einstellst, die in einem System wie es ist einfach dann die Arbeit abarbeiten.

00:28:05: Das ist überhaupt nicht das, wie ich's mir geschafft werden kann.

00:28:08: Du musst eigentlich an den Ursprung gehen.

00:28:11: Es ist wirklich so dass man da signifikant die Prozesse adaptieren muss.

00:28:18: Ich meine, ich hab vor kurzem einen LinkedIn-Post gemacht der auch irgendwie ziemlich viel gelesen wurde.

00:28:25: Das ist vielleicht eine ganz interessante Geschichte und zwar was hat das, was wir da diskutieren mit Äther Anästhesie zu tun?

00:28:33: Kann man sich jetzt fragen... Was will er jetzt?

00:28:35: Aber was habt ihr?

00:28:36: Die Geschichte ist interessant!

00:28:37: Also früher war es ja so, dass gab keine Anäste sie.

00:28:40: Und den Menschen wurden die Beine abgenommen und die Definition des kirurgischen Könners war Geschwindigkeit.

00:28:48: Der musste eben so schnell es ging, weil die Schmerzen unerträglich waren das Bein abnehmen.

00:28:53: Mein Rekord war glaube ich neunundzwinsig Sekunden von einem Amerikaner Listen.

00:28:57: dann kam die Anästhesie.

00:28:59: Die Anäste.

00:28:59: sie hat dazu geführt dass es gar nicht mehr um Zeit ging sondern man musste quasi Das, was man war anders definieren.

00:29:08: Also der Chirurg wurde dann definiert über jemanden, der es dann gut macht präzise macht.

00:29:12: Der muss das nicht nur einfach schnell machen.

00:29:15: D.h.,

00:29:15: also die Transformation dessen, was wir eigentlich jetzt argumentieren müssen ist nicht dass dir die KI etwas wegnimmt sondern die KI hilft dir wieder eher der zu sein, der vielleicht als Arzt gerne wäre oder wofür du studiert hast Und dafür akzeptierst du, dass du in dem System viel mehr Automatisierung hast und Schienung hast.

00:29:38: Aber du kannst nicht irgendwie der Kopiere unter Data Carrier sein.

00:29:42: Das ist glaube ich so eine ganz wichtige Erkenntnis, das auch vielleicht damit einhergeht, dass der Arzt sich in seinem Tun anders definiert.

00:29:49: Es ist nicht für alle Professionen gleichermaßen richtig.

00:29:53: Wenn wenn du ein Operateur bist, der einen ganzen Tag Knie operiert dann trifft dich das vielleicht weniger als bei einer Sprechenden Disziplin.

00:30:02: Aber der Punkt mit der Wand, den kann man nicht drastisch genug machen und ich bin ja im System und ich sehe das jedes Jahr mehr Menschen in die Notaufnahme kommen, die Menschen immer älter werden, immer mehr Schlaganfälle

00:30:15: usw.,

00:30:17: d.h.

00:30:17: das System wird zusammenbrechen wenn man es genauso weitermacht.

00:30:22: Jetzt hast du gerade auch noch das Thema Entmachtung sozusagen von Ärzten einmal ganz kurz angeschnitten und das finde ich super spannend weil Beide rollen in der Vereins einmal sozusagen die Arztrolle selbst und dann aber auch die sozusagen von dem, der die KI mitentwickelt.

00:30:39: Wie schaut ihr denn da ganz pragmatisch drauf?

00:30:43: Das ist eine Frage, die sich zwangsläufig stellt wenn die technologische Entwicklung weitergeht.

00:30:49: wo sozusagen verläuft die Grenze irgendwie zwischen ich sag mal Co-Pilot und Autopilot?

00:30:54: Und wie ist aus deiner Sicht die Rolle Von sozusagen Ärztinnen und Ärzten in der Zukunft.

00:31:02: Also eine superspannende Frage, ähm... ...und sich damit auseinanderzusetzen und wirklich von Beginn an auseinandersetzen ist glaube ich absolut key!

00:31:10: Also von Beginnan heißt eigentlich sogar vom Beginn des Studiums.

00:31:14: also wie führt man eigentlich junge Ärzte an das Thema heran?

00:31:18: Es gibt ja drei große ähm Probleme die du mit KI hast.

00:31:22: Das eine ist dass wenn du mal Niveau hast und dann irgendwann nur noch KI nutzt kommt es zu einem De-Skilling.

00:31:30: Du denkst nicht mehr, sondern du wirst gedacht... Das ist ein Problem!

00:31:34: Das zweite ist dass du einen Never Skilling kriegen könntest wenn du zum Beispiel jemand bist der ausgebildet wird aber sich eigentlich immer nur mit KI ausbilden lässt.

00:31:45: das heißt du lernst gar nicht die Systematik eines Fachs Und bist eigentlich ohne KI irgendwie ein Volldepp, weil du so gar nicht dahinter schauen kannst und auch nicht richtig gegenchecken kannst.

00:31:56: Was die KI da als Output macht vielleicht so als Nebenbemerkung?

00:32:00: Unser Clinical Evolution Plan wurde tatsächlich gegen Humane Kompetenz getestet, weil das ist halt der State of the Art.

00:32:10: Also Medizin ist ja keine so exakte Wissenschaft wo du dann irgendwie das physikalisch wie bei einem Atommeiler machen kannst und musst eigentlich gegen die Facharztkompetenz eigentlich agieren, die du allerdings halt über Jahre Jahrzehnte dir angeeignet hast.

00:32:25: Und das dritte ist Miss-Skelling, also du lernst es falsch.

00:32:29: Wir sind eigentlich die drei großen in Anführungszeichen Sorgen bei KI Implementierung und gegen alle drei kannst Du ja strategisch vorgehen.

00:32:40: Und das beginnt jetzt damit, dass wir am Uniklinikum Freiburg mit so einer KI Literacy anfangen bei den Studenten und quasi neben dem klassischen Educationen auch eben KI mitlaufen lassen.

00:32:53: Damit die wissen was sind die Chancen aber was sind auch die Risiken.

00:32:56: und wie muss man das interpretieren?

00:32:58: Am schwierigsten sage ich dir ist es eigentlich bei Leuten die so zwanzig dreißig Jahre im Feld sind durch die KI ersetzt fühlen, weil die so der Oberarzt sind, der in der Nacht angerufen wird.

00:33:15: Die Silberlochgesang war so ganz provokativ dessen Meinung die Instanz ist Und ich glaube, da muss man auch etwas pragmatisch sein.

00:33:25: Also zum einen ist diese Decke gar nicht mehr so dick wie wir denken.

00:33:29: Wenn du in die ländlichen Regionen gibst, gibt's dir ja gar nichts und dann bist du froh wenn du eine zweite Meinung hast, wenn du in der Notaufnahme stehst und quasi ein releables KI-Tool dir einfach hilft.

00:33:41: Ich glaub, da müssen wir einfach Pragmatik anschalten glaube ich, etwas runterdrehen.

00:33:49: Der Arzt ist diese allmächtige Instanz und so ein bisschen mehr Videojuristen wären bei denen es Standard ist zumindest in USA da solche legal Tech Tools sowie bei uns so KI zertifizierte KI-Tools eigentlich als Guardrail immer mitlaufen.

00:34:08: Und nur dann kannst du garantieren, dass du am Stand des Wissens bist.

00:34:11: Dass du den aktuellsten und den modernsten Therapiesteiner vertrittst.

00:34:16: Patienten fordern das im übrigen interessanter Weise ne?

00:34:20: Die haben da gar nicht so viel Angst wie Ärzte die School haben.

00:34:23: sie werden ja gar nicht mehr so hoch geachtet weil könnte ja supported by Walmet draufstehen.

00:34:31: Und jetzt bin ich natürlich ein extremer Befürworter dieses Weges und gleichwohl muss man teilweise da viel Aufklärungsarbeit leisten.

00:34:46: Ich sage dann immer, die KI wird ja Ärzte nie ersetzen sondern der Arzt wird ersetzt, der sich eben nicht mit KI auseinandersetzt.

00:34:54: also der Arz, der mit KI umgehen kann ist der Arst, der den Vorteil hat in der Zukunft.

00:35:00: Ich glaube, der Arztberuf – darüber sprechen wir jetzt – und gerade das Gesundheitssystem wird immer diese menschliche Komponente brauchen.

00:35:10: Diese wichtende Komponenten stehen nicht im Verdacht im Vergleich zu anderen Berufsgruppen durch KI ersetzt zu werden.

00:35:18: Nur man muss sich damit kompetent auseinandersetzen.

00:35:20: Da bin ich wieder bei dem Beispiel mit Etanarkose.

00:35:25: Dann ist halt plötzlich KI dein ständiger Begleiter!

00:35:28: Und was ist so schlimm daran?

00:35:32: Ich glaube, das ist tatsächlich auch eine ganz interessante paralleleinste normalen Büroleben.

00:35:36: Wo man ja auch mittlerweile sagt, du wirst nicht ersetzt durch KI sondern durch jemandem der KI einfach gut nutzt.

00:35:43: Korrekt!

00:35:43: Wenn man das jetzt dann weiter spinnt würdest du soweit gehen zu sagen dass wahrscheinlich in vielleicht fünf Jahren down the road sozusagen eigentlich jeder Arzt sozusagen genauso Literacy in der KI Anwendung haben muss

00:36:00: sollte.

00:36:01: Es wird Arztbereiche geben, wo du das weniger brauchst.

00:36:06: ja also wenn du herzgerugd bist oder orthopäde der ganzen dag operiert dann wirst du es in der Form nicht brauchen sei denn dich interessiert.

00:36:18: aber für die ganzen sprechenden berufe und es sind ja viele glaube ich definitiv ja und ich würde so früh wie möglich auch wirklich auf allen ebenden einbinden einhegen.

00:36:30: Tatsache ist ja, dass die Leute es nutzen.

00:36:33: Und wenn sie es nutzen sollen sie es einfach richtig nutzen.

00:36:36: Das ist eigentlich die größte Herausforderung im Moment.

00:36:40: Es kommt in einer Geschwindigkeit und eine Überzeugtheit auf uns zu, die kann man gar nicht mehr vermeiden.

00:36:47: Genauso muss man letztens auch umgehen mit wie führst du das in den Alltag der Ärzte ein?

00:36:52: Also was ihr jetzt da macht ... letzten Endes die Arbeitsflüsse in einer Weise zu reformieren, wo du halt auch so alten Multi-Click Systeme hast.

00:37:03: Das ist teilweise wirklich furchtbar.

00:37:05: Also diese Order Entry Systeme, wo Du denkst, Du sitzt irgendwie vor der Lochplatte aus den Siebzigerjahren teilweise völlig verkrustet und wenn du dann zuhause am Computer arbeitest und siehst wie flüssig das es eigentlich schon inzwischen ist, ist da halt ein Riesenbruch drin.

00:37:22: Und es gibt keinen Grund außer dass es lange Vertragssituationen sind und es immer schwierig ist sich von Systemen zu trennen das nicht ändern zu können.

00:37:33: Ich kann nur sagen meine Ärzte in der Klinik und viele Ärzten leiden da am meisten drunter So viel, so mal, administrativen Burden rundrum zu haben und genau da hilft es ja eben auch.

00:37:47: Ja.

00:37:50: Jetzt haben wir die Situation.

00:37:52: KI ist auch nicht ganz billig.

00:37:54: Jeder der das intensiv sozusagen für sich nutzt kann schon privat bei Claude Fall sein gerade wenn man immer mehr Hintergrundprozesse hat, die das nutzen, relativ rechenleistungsintensiv, da laufen durchaus Kosten auf, wenn man das AdScale nutzen will.

00:38:10: Und in Deutschland haben wir derzeit ja die Situation gerade im stationären Gesundheitswesen.

00:38:15: Irgendwie muss alles zwangsläufig auch irgendwie ein messbaren Return on Invest liefern, weil sich Krankenhäuser das ... Per Uniklinien ist vielleicht noch ein bisschen anders aber in der Breite dass sonst nicht leisten können.

00:38:28: Jetzt haben wir viel sozusagen über Erleichterung und der ärztlichen Arbeit vielleicht auch Qualitätsverbesserungen gesprochen indem man einfach das Wissen besser parat hat.

00:38:36: Wo siehst du das große Potenzial bei diesen Use-Cases da auch, ich sag mal für das Krankenhaus als Organisation Effizienzen zu schaffen?

00:38:48: Also wir mussten uns ja abseits dieses Arguments der KI verbessert Qualität.

00:38:55: Lightline-Adherenz verbessert qualität reduziert Heterogenität auch mit diesem schnöden, merkantilen Aspekt auseinandersetzen.

00:39:04: und das naheliegendste ist Zeit Ersparnis.

00:39:07: Du erspaßt Zeit!

00:39:09: Es gibt allerdings noch ein zweites richtig großes Argument und das ist aus meiner Sicht vielleicht sogar noch schlagend dafür zu kaufmännischen Direktoren dass du KI ja als Steuerungsinstrument nehmen kannst.

00:39:23: also das machen wir zum Beispiel.

00:39:24: Wir haben mit unserem Tool die sogenannte Weltevidenz abgebildet Und wir matchen das jetzt mit der Real-World Evidence.

00:39:34: Das heißt, wenn du nicht das vorstellen kannst, Krankenhaus muss ja Paragraph einundzwanzig Datenreporten,

00:39:43: d.h.,

00:39:44: du weißt einen Patient, der z.B.

00:39:46: eine Halsschlagorder operiert kriegt an welchem Tag wird der durchschnittlich entlassen?

00:39:52: D.h.

00:39:52: du legst quasi die Evidenz gegen was im realen Kontext eigentlich normalerweise passiert Und irgendwann merkst du, warum liegt der Patient nach vierzehn Tagen immer nur bei uns?

00:40:04: Da stimmt was nicht.

00:40:05: Das heißt, du fängst ineffizienzend in deinem Ablauf ab und das ist eigentlich die Controlling-Funktion, die ja auch sehr teuer ist, indem du in der jetzigen Situation in unseren Krankenhäusern eigentlich immer kontrollst wenn es bereits abgelaufen ist.

00:40:21: Ganz genau!

00:40:21: Das ist ein Riesenproblem und die KI könnte oder wird helfen im Prozess zu steuern.

00:40:29: agierst vorausschauend und nicht erst nachdem es Monate abgelaufen ist.

00:40:33: Und dann gehst du wieder zurück, da sehe ich eigentlich die zwei großen Argumente zu sagen Du wirst in einem Krankenhaussystem bei Erhalterqualität eigentlich effizient optimiert Und du kriegst es quasi mit während des Prozesses.

00:40:50: Im Gegensatz zu, du arbeitest etwas, wenn's schon abgelaufen

00:40:53: ist?

00:40:54: Ja!

00:40:54: Ich find das ein ganz spannender Punkt.

00:40:56: Wir haben uns auch mit ICD und OPS-Kodierung relativ viel auseinandergesetzt.

00:41:01: Ich glaub' es ist auch so ein klassischer Case, wenn man da draufschaut... ...es ist ganz offensichtlich dass das großteilig von KI übernommen wird in der Zukunft.

00:41:09: Und wieviel im Krankenhaus doch wirklich erst nachgelagert erfolgt dann mit der ganzen, ich sag mal Kette an Problem die damit auch zusammenhängen.

00:41:18: Ich hab das ganz oft gehört dass dann irgendwie Ärztinnen und Ärzte zum Teil drei vier Wochen nachdem der Fall abgeschlossen war nochmal angerufen werden irgendwelche Dokumentationsfragen entstehen und Das kann bei dem Workload hier eigentlich auch kaum garantiert werden dass das irgendwie sinnvoll geleistet werden kann.

00:41:34: diese

00:41:35: Arbeit Ganz, ganz genau.

00:41:37: Und dann stellst du immer noch Leute ein und stellst nochmal Leute ein die genau das überprüfen und dann gibt es einen Controller für die DRG-Kodierung usw.

00:41:44: Ich will ja noch ein Beispiel nennen wo unfassbar viel Zeit in diesem System drauf geht.

00:41:51: Das ist Arztbriefschreibung oder?

00:41:53: Also was hier passiert ist, du prozessierst den Patienten mehr oder weniger komplex und wenn der Patient entlassen wird beginnt dann quasi nochmal die Gesamtdokumentation sprich der Arztbrief.

00:42:07: Also ich persönlich bin ja Neurologe und unser Fach hat sich viele Jahrzehnte eigentlich genau darüber definiert mehr oder weniger, dass du irgendwie diesen Patienten am Schluss dann intellektuell durchdrinkst und einen Pro-Sage aller Thomas Mann-Buttenbrocks wertigen Arzt Brief hinkriegst.

00:42:27: Fakt ist das es unglaublich viel Zeit in Anspruch nimmt aber das was Du dann an Qualität Effekten wirklich generiert, minimal ist bei den meisten Fällen und was zum Beispiel KI definitiv gut hinkriegen wird.

00:42:45: Und sollte es den Patienten im Prinzip in Echtzeit dann den Arztbrief zu machen.

00:42:52: Also sowas wie eine Echtzeit Synopse, die dann also quasi noch integriert wird mit dem Walmet-Tool und in dem Moment wo der Patient dann entlassen wird ist es auch schon fertig.

00:43:03: Also ich tue mir ein bisschen schwer zu sagen ne Arzbrieffreie Zukunft aber letztendlich das ist der Arzt Brief der Zukunft einer Echtzeitsynopse dessen was wirklich passiert und eben mit guter KI und eben so Tools wie wir sie bauen weil mit begleitet dann hilfreich ist und nicht noch Zeit saugt.

00:43:25: Was tatsächlich passiert ist, dass die Ärzte morgens Patienten sehen in der Ambulanz und namendag diktieren sie Briefe.

00:43:33: Das muss nicht mehr sein meines Erachtens!

00:43:35: Und da geht dann ja auch wirklich Zeit verloren, die sonst anders für die Versorgung eingesetzt werden

00:43:39: könnte.

00:43:41: Wir beschäftigen uns bei Recare auch intensiv mit dem Arztbrief-Schreibungsthema.

00:43:47: Eine Komponente ist eben die ganzen Informationen aus diesen verschiedenen unstrukturierten und strukturierten Quellen im Krankenhaus irgendwie zusammenzuführen.

00:43:56: Die Synergie mit einem Tour wie Walmät ist, glaube ich tatsächlich auch ganz spannend ... Auch in diesem Prozess schon automatisiert zu überlegen, wo gibt es vielleicht auch Unstimmigkeiten?

00:44:08: Was kann man besser machen also mit der Intelligenz dann sozusagen die vielleicht auch unvollständige Informationen ja manchmal noch mal weiter zur hinterfragen.

00:44:19: Absolut!

00:44:22: Ich glaube, da legt eine Riesenpotenzialien.

00:44:23: Also wir arbeiten ja weil du gerade von Kosten gesprochen hast man kann sich ja den Extremcase vorstellen der ja technisch denkbar ist.

00:44:31: Du gibst einfach alle alle alle Informationen rein oder du priorisierst und reduzierst also um das mal so plastisch zu machen wenn Patient in die Notaufnahme kommt wegen Kopfschmerzen dann brauchst du nicht die letzten dreißig Jahre seine Anamnese, dass er irgendwann mal eine Sprunggelängsoperation gehabt hat.

00:44:51: Die könntest du natürlich alle reinmachen.

00:44:54: aber im Moment geht es um sein akutes Problem.

00:44:57: Versus Du hast einen Patienten der eine Krebserkrankung hat und du willst halt wissen was sich von einem zum nächsten Visit verändert.

00:45:03: Das heißt also die Art welche Informationen reingehen Da kannst du nicht immer sagen, ich brauche immer alle.

00:45:09: Sondern das ist use case abhängig vorzufiltern.

00:45:12: Das haben wir jetzt gelernt bei der Übergabe und bei diesen Integrationsapproaches mit WallMate.

00:45:20: also wir nennen es integrated mode mit wallmate Und das ist uscaseabhängig und genauso sehe ich das auch bei Arztbriefen.

00:45:27: Also du brauchst nicht immer alles sondern Du solltest abhängige von dem use case in dem gearbeitet wird eine Vorauswahl treffen können oder dann letzten Endes vielleicht nur zusätzlich machen und dann wird es auch schlanker.

00:45:42: Die KI wird halt in jedem Fall extremste bei Helfen unglaublich Zeit zu sparen, weil du kannst ja gar nicht vorstellen mit welchen Stapeln solche, sagen wir mal Patienten die halt schon zwanzig dreißig Jahre in verschiedenen Abteilungen waren kommen Und Du musst dich da durcharbeiten Oder du hast halt ein Helferlein der dir vorher eine gute Synapse macht und das kann ja KI extremst gut.

00:46:03: Ja Da liegt dann natürlich auch wieder ein echtes Kostenersparnis-Potenzial für das Klinikum.

00:46:11: Wir haben zum Teil so zweihundertachzig Bettenhäuser gesehen, die haben über eine Million Euro pro Jahr Rückstellungen nur für Überstunden im ärztlichen Bereich, wovon dann auch ich sag mal durchaus ein signifikanter Teil ausbezahlt wird weil eben auch nicht genug Personal da ist als dass man sozusagen halt die Leute in diesem Rahmen dann nochmal freistellen könnte um die Überstunde abzubauen.

00:46:35: Der eine oder andere will sicherlich auch bewusst über Stunden machen, um vielleicht das Haus abzubezahlen.

00:46:42: Aber es ist aus einem Punkt wo wir sehen, dass Kliniken da wirklich auch Geld sparen können ohne Personal abzubauen und wenn man sich mal die Studienlage in der Breite anschaut, der Großteil ja schon auch ne geringere Arbeitslast befürworten würde?

00:46:58: Absolut!

00:46:59: Also ich denke dieses Thema Arbeitszeitgesetz, konformen Bewerkstellungen des Alltags ist ein riesiges.

00:47:11: In Tendenz ist es bei den meisten Häusern wird jetzt sagen noch nicht mal nur bei den Kleinhäusern so dass die Leute überbelastet sind und sie sind überbelasted natürlich weil das ein stressiger Job ist.

00:47:27: aber ein Teil des stressigen Jobs ist eben auch viel Telefonieren, Dokumentieren das was ich vorher gesagt habe mit Data Carrier und ich glaube dass da intelligente Systeme.

00:47:40: Ich meine das Gesamtsystem ist nicht so schnell ändern können aber die Unterstützung im Gesamtsystem da ist glaube KI hat ein enormes Potenzial eben auch im Gesundheitssystem.

00:47:51: ja Das ist schon so.

00:47:54: Was ist aus deiner Sicht, wenn Walmit jetzt einmal etabliert ist als klinisches Entscheidungsunterstützungssystem?

00:48:02: Was ist der nächste Schritt und wie sieht eure Vision aus?

00:48:06: Ganz bold gesprochen sage ich immer.

00:48:10: Und die Vera Rödel, unsere CEO lacht da schon immer drüber aber sie kann es nachvollziehen, ist die Val-Medisierung der Welt.

00:48:18: Also letztendlich sowas wie eine Begründungsumkehr.

00:48:20: Letztendlich ist die Idee Wann immer so was abläuft, musst du so ein Tool eigentlich als Second Opinien mit laufen lassen.

00:48:30: Nur dann kannst du dir sicher genug sein dass es okay ist also eigentlich eine Art Begründungsumkehr das du nur abrechnen darfst oder nur qualitativ irgendwie dein Häckchen dran kriegst wenn du so einen Tool mitlaufen lässt und das ist eigentlich die große Vision.

00:48:47: Die fangen wir jetzt Tatsächlich so an, wir würden natürlich einfach hoffen dass die Adoption eines solchen Tools überzeugend genug ist und letztendlich dann irgendwann mal zum Standard wird.

00:49:01: Es läuft halt einfach als Standard mit.

00:49:04: Wir kriegen jetzt unsere ersten Integrationen und Use Beispiele.

00:49:10: in Deutschland aber auch international ist ja der Vorteil eben so eines LLM-inkorporierenden Tools, dass du nicht auf deutsche Sprache restringiert bist.

00:49:19: Aber wir müssen natürlich in Juristiktionen denken, Juristiktionen weil pro Land natürlich unterschiedliche Reimbursement Criteria sind aber die ist schon jetzt über Europa und dann in die Welt.

00:49:32: das zu skalieren dieses diesen Gedanken so ein CE zertifiziertes Clinical Decision Support System im Integrated Mode bei eben Gesundheitseinrichtungen mitlaufen zu lassen.

00:49:45: Das spielt euch natürlich auch sozusagen die europäisch übergreifende MDA-Zertifizierung echt gut in den Händen?

00:49:54: Das ist tatsächlich mal ein Vorteil, wo man sagt wenn das für Europa erreicht hat bist du quasi in ganz Europa zugelassen.

00:50:03: und das ist tatsächlich so.

00:50:04: was also nicht trotzdem auch richtig ist dass natürlich jedes europäische Land vielleicht so eine eigene Vorstellungen hat welche Dokumente präferiert, in welcher Situation zu benutzen sind.

00:50:18: Das heißt wir müssen Geographies schon beachten und tun wir auch.

00:50:23: aber richtig ist dass wir diesen jetzt europäischen Vorteil haben.

00:50:27: der andere europäische Vorteil muss man sagen ist diese höhere Gewichtung der Datenschutzkonformität.

00:50:36: ich meine überhaupt CE Konformität.

00:50:40: In USA gab es ja und gibt's ja dieses sehr hoch bewertete Open Evidence Tool, was ein wirklich gut funktionierendes Evidence-Tool ist die auch versucht haben in Europa den Markt zu penetrieren.

00:50:52: Und dann sich jetzt zurückgezogen haben einfach weil ihnen das zu heiß offensichtlich geworden ist EU konform Datenschutzkonformen zu agieren.

00:51:00: wir haben ganz anderes Geschäftsmodell als wir die agieren mit Verkauf von Patienten.

00:51:06: Das tun wir natürlich nicht, sind auch Industrie-Sponsor, das wäre alles so glaube ich in EU nicht denkbar.

00:51:12: und den Vorteil müssen wir jetzt glaube ich nutzen.

00:51:15: dass dann ein sensiblerer Umgang herrscht, das ist ja auch ein hohes Gut und dem Vorteil kann man glaube ich Europa gut ausspielen und eben anders ausspilen als in USA.

00:51:29: Jetzt wissen wir, alle LLM-Modelle entwickeln sich wahnsinnig schnell weitergeführt.

00:51:36: Alle vier Wochen kommt mittlerweile irgendein neuer Release mit einer neuen Versionierung von Chatchapity Cloud oder ganz neue Modelle.

00:51:45: Die MDA zwingt ein Jahr dazu so'n bisschen sozusagen da einen Gang zurückzuschalten.

00:51:52: in der Regel Wie schaust du darauf?

00:51:55: Sozusagen in dem sozusagen regulatorischen Modus mit der Geschwindigkeit dieser Entwicklung mithalten zu können.

00:52:05: Habt ihr da für euch eine gute Lösung gefunden?

00:52:06: Also

00:52:07: ich glaube wir haben ne Lösung und die Lösung ist jetzt erstmal, dass wir mit Klasse IIb sehr agil sein können.

00:52:14: das heißt wir haben ja minor changes und Major Changes und Major Change wäre zum Beispiel des Austauschendes LLMs im Hintergrund was wir dürfen aber es halt ein Major Change den wir entsprechend anzeigen müssen.

00:52:26: auch wir können's machen.

00:52:27: Das heißt wir sind wahrscheinlich nicht so agil wie jetzt ein großes LLM Lab, aber wir sind sehr agil.

00:52:34: Wir können das und dürfen es agil entwickeln.

00:52:41: Jetzt muss natürlich dazu gesagt werden dass unser System ja eigentlich vor allen Dingen auf dem Wert dieser zu grundlegenden Datenbank aktiviert.

00:52:51: Also diese validierten und aktualisierten medizinischen Informationen, die werden einmal monatlich aktualisiert.

00:52:58: Das heißt das ist eigentlich das was fast noch relevanter ist als den letzten Schrei des potentesten Deep-Reasoning LLMs zu haben.

00:53:05: Es ist eigentlich die aktuellste und wertigste Datenbank zu haben und das ist natürlich auch irgendwie müssen und dürfen einfach ständig unsere investierten Dokumente zu aktualisieren.

00:53:21: Das machen wir, wie gesagt, einmal pro Monat und wir können auch das LLM auswechseln.

00:53:26: aber wir sehen uns eigentlich nicht in dem Druck so wie in Trap Break dreimal pro Woche ein neues LLm auszuprobieren weil dies natürlich schon ein Aufreß ist.

00:53:36: Aber ich weiß gar nicht ob es dann am Ende so ein wahnsinniger Jump ist.

00:53:40: also entscheidend ist ja weiterhin eben dass es sicher ist Aber viele Anforderungen an diese großen LLMs, die müssen wir ja nicht erfüllen ehrlich gesagt.

00:53:53: Aber ich glaube die wichtigste Antwort auf deine Frage ist Wir haben die Agilität durch die Klasse IIB Zertifizierung das heißt wir sind da relativ frei in der weiteren Produktentwicklung und müssen jetzt nicht jeden Schritt immer mit der benahnten Stelle abstimmen weil das ist natürlich sehr tardierend.

00:54:09: Aber ich muss sagen, Heinz das gibt es schon auch.

00:54:12: Es war ein bisschen Hoffnung dass die MDA das Leben da nicht zu schwer macht und man durchaus Innovation damit auch in den Umlauf bringen kann.

00:54:20: also Ich muss sagen Wir hatten vielleicht Die gute mischung aus enthousiasmus Und naivität um zu sagen wir gehen das jetzt und hatten dann auch eben eine benannte stelle die das wollte.

00:54:39: Ja, die eben gesagt haben okay wir erkennen dass das ein ganz innovativer Weg ist.

00:54:43: An dem Weg kommt sowieso in den nächsten Jahren keiner vorbei.

00:54:47: Wir müssen ihn gehen und wir müssen ihm so gehen.

00:54:49: dass wird es also vor unseren Rechtstexten auch rechtfertigen können.

00:54:53: Genau das passiert war ein sehr iteratives Weg Und ich kann halt jedem der so in diesem Zweifel so sagt Es klappt ja eh nicht sagen sind ja auch Menschen mit denen muss man reden.

00:55:01: Das ist einfach eine Produktentwicklung und genau das haben wir gemacht und so machen wir es auch weiterhin.

00:55:08: Wir generieren jetzt ein zweites Produkt, das ist dann Walmit.

00:55:13: Unser Walmit ist ja für Medical Professionals.

00:55:15: Wir machen jetzt einen Walmit for Patients weil wir eben gesehen haben dass es auch ein großer Neat ist.

00:55:20: Das wird auch Medizinprodukt sein und wir sprechen da einfach mit der benannten Stelle.

00:55:25: ich glaube die größte Fehlernahme ist also dass man einfach nur mit Paragrafenreitern spricht sondern sind ja auch Menschen und mit denen kann man einen Weg besprechen.

00:55:37: So hat also unsere benannte stelle das eigentlich uns ganz gut rückgespielt.

00:55:43: Dann muss die benannten stelle ja den herstellern erklären warum das nicht geht und das wissen wir teilweise auch nicht besser.

00:55:55: Und ich finde eigentlich das statement was gesagt wurde ist auch total on point.

00:56:01: es führt Also rein von der technologischen und Werthaltigkeitsentwicklung ja auch keinen Weg dran vorbei.

00:56:07: Ansonsten passiert das, was uns in Europa so häufig passiert ist irgendwie hier geht alles viel zu langsam aus regulatorischen Kulturellen was auch immer gründen und dann macht es einfach jemanden in den USA oder China die werthaltiges Kind ist da in der Anwendung und zum Schluss hat er doch jeder trotz sozusagen allgemeiner Datenschutz bedenkt.

00:56:30: Irgendwie eine Apple Watch, die alle Daten in den Cloud sendet, wo man sich ja im BtoB-Kontext hier wirklich ewig mit rumplagen musste?

00:56:39: Ja

00:56:39: das ist absolut Janusköpfig muss man natürlich sagen!

00:56:43: Auf der anderen Seite ist auch ne sehr weit genutzte Schutzbehauptung zu sagen naja weil es alles so kompliziert ist mit dem EU AI Act machen wir's nicht.

00:56:54: Also es ist kein kompletter Dealbreak, wir haben's ja jetzt gezeigt und ich glaube der Verb kann ja entstehen.

00:57:00: Es ist vielleicht auch nochmal ganz interessant wie wir das ja jetzt auch machen mit dieser Integration.

00:57:08: du kannst ja nicht Medizinprodukte mit Medizinprodukten kombinieren Das geht ja na?

00:57:13: Du musst es halt quasi nur entsprechend korrekt machen aber du kannst Verknüpfungen schaffen.

00:57:20: Es sind nicht zwei getrennte Hälten sondern du bringst jetzt agentische Arbeitsflüsse zusammen mit dem Medizinprodukt und muss dann nicht quasi normal alles irgendwie auf null stellen.

00:57:31: Das geht schon!

00:57:33: Und insofern muss man da glaube ich ein bisschen ja agiler sein und nicht immer nur jammern.

00:57:39: Ich finde

00:57:41: das sind eigentlich wunderschöne Worte zum Abschluss, Heinz?

00:57:45: Ganz, ganz lieben Dank, dass du hier warst.

00:57:47: Die Zeit ist verflogen!

00:57:48: Ich hab das Gefühl wir könnten eigentlich noch eine Stunde weiter reden.

00:57:51: Definitiv,

00:57:52: ja.

00:57:52: Lass uns das gerne nochmal nachholen bei Gelegenheit.

00:57:54: Wir machen es.

00:57:55: Vielen Dank.

00:57:55: War echt ein super Gespräch.

00:57:57: Vielen

00:57:57: dank.

00:57:57: Danke

00:58:15: dir.