Ich bin ein Freund davon, nicht von KI sondern maschinellem Lernen (ML) zu sprechen. Gerade wenn man effizientere Ansätze stat neuronalen Netzen wählt, wird deutlich, dass es sehr komplexe Statistik ist, die wir nur dank hoher Rechenleistung bewältigen können.
Dafür ist es sehr gut geeignet, vorausgesetzt die Daten haben auch eine gute Qualität und es wird von Leuten eingesetzt, die auch Fachwissen haben und das Ergebnis nachvollziehen können.
Gerade im medizinischen Bereich gibt’s besonders viel Bullshitanwendungen von KI.
Ich weiß nicht mehr in welchem Journal es war, aber eins hatte sich mal die ganzen tollen Covid-Röntgen-KIs angeschaut, und der Großteil war kompletter Müll, der nicht zuverlässig vorhersagen konnte ob jemand COVID hat oder nicht, sondern stattdessen “erkannt” hat, ob es eine Stehend oder Liegendaufnahme ist. (Stehendaufnahmen haben eine bessere Qualität, Liegendaufnahmen macht man dagegen vor allem auf Intensivstation, wo die Patienten zu krank für sowas sind).
Und wenn ich sehe, wie oft Kollegen Perplexity AI, ChatGPT oder andere LLMs nehmen um “in Leitlinien zu recherchieren”, oder sich was erklären zu lassen, und dabei kommt entweder kompletter Mist raus, oder eben immer noch weit genug von der Wahrheit entfernt um Schaden anzurichten, wird mir schlecht.
Noch cringiger ist es eigentlich nur noch, wenn Oberärzte eine KI fragen “Warum war Medikament XY ein Flop”, und dann die Antwort ernsthaft ohne weitere Recherche in offizielle Fortbildungen einbauen.
Zuguterletzt ist die Dokumentation im medizinischen Sektor keine gute Datengrundlage. Vieles wird dokumentiert dass die Krankenversicherung nicht rumzickt, oder Textbausteine kopiert aber nicht wirklich angepasst. Vertrauen würde ich dem ganzen auf jeden Fall eher wenig
Ergebnisse von LLMs unkritisch einfach hinzunehmen ist natürlich höchst unverantwortlich.
Besonders im medizinischen Einsatz müssen hohe Qualitätsanforderungen an die Software erfüllt werden.
Nichtsdestotrotz haben Methoden aus dem Feld der KI durchaus wertvolle Anwendungen mit sich gebracht. Wie zum Beispiel können z.B. CNNs (Convolutional Neural Networks) bei der automatisierten Ersteinordnung von unzähligen Diagnosebildern helfen. Sie haben auch geholfen unser Verständnis bei der Krebsdiagnose zu verbessern, weil sie beispielsweise das Zellumfeld mit betrachtet haben, was Menschen bisweilen nicht getan haben.
Die Entwicklung neuer Medikamente wird dank KI auch enorm beschleunigt. Siehe z.B. AlphaFold.
Und wenn ich bedenke, wie schlampig die meisten Ärzte meiner Erfahrung nach arbeiten, bin ich fast schon versucht mein Vertrauen viel eher in eine Maschine zu stecken.
Aber jut, nicht alles, was mit KI zu tun hat ist automatisch gut oder überhaupt sinnvoll. Nicht alles braucht KI. Und wenn es im professionellen Rahmen genutzt wird, sollte es auch entsprechenden Gütekriterien genügen.
Sie haben auch geholfen unser Verständnis bei der Krebsdiagnose zu verbessern, weil sie beispielsweise das Zellumfeld mit betrachtet haben, was Menschen bisweilen nicht getan haben.
Hast du da irgendeine Quelle?
Weil das Neoplasien, das Milieu in ihrer Umgebung mitbeeinflussen ist jetzt auch keine revolutionär neue Erkenntnisse.
Aber damit habe ich auch kein Problem, solange man weiter daran forscht auch die Zusammenhänge zu verstehen. Was ich nicht möchte, ist dass wir irgendwann eine Blackbox haben, die sagt “Krebs”/“Nicht Krebs”, aber wir wissen nicht warum, und können das auch nicht mehr ohne KI nachvollziehen.
Und davor habe ich ehrlich gesagt auch ein bisschen Sorge.
Was das “schlampige” Arbeiten angeht, liegt das denke ich auch einfach an den beschissenen Arbeitsbedingungen in Deutschland. Aber ich weiß auch nicht was du konkret mit “schlampigen Arbeiten” meinst.
Meinen praktischen Pflichtteil des Studiums im letzten habe ich in Deutschland, Schweiz und Österreich absolviert, nirgendwo war die Arbeitsbelastung und auch der Kostendruck im Krankenhaus auch nur ansatzweise so hoch wie in Deutschland. Willentlich schlampig, sind da eher die wenigsten.Gibt ja den bekannten Spruch: „Schnell, günstig oder gut. Suche dir zwei aus"
Von der universitären Ausbildung her, hatte ich das Gefühl dass diese in Deutschland verglichen mit den anderen Studenten in der Schweiz und Österreich eigentlich in Deutschland ziemlich gut ist. (Wobei ich auch an einer ziemlich “guten” Uni in Deutschland studiert habe)
Naja, wenn man den Artikel im NEJM liest (wobei der ja auch ziemlich kurz und arm an Details ist), dann klingt das ziemlich nach klassischer Forschungsarbeit. Dass die AI dann vorhersagt, dass ein Anti-TNF-Antikörper wie Adalimumab bei einem Patienten gut funktionieren könnte, dessen Entzündung maßgeblich durch TNF getrieben wird, finde ich jetzt erstmal nicht so revolutionär. Auf die Idee wären sie vermutlich auch ohne gekommen.
Klar, irgendwann wäre man an den Punkt gekommen. Aber dass das Model in die richtige Richtung zeigt spart Zeit, Geld, und wer weiß was das Ding noch alles findet.
Das ist ein guter usecase. Selbes passiert aktuell in der Material Forschung.
Die KI spukt Kandidaten aus, Wissenschaftler prüfen
Das war eigentlich Ironie, dass ein TNF-alpha-Antikörper gut bei einer TNF-getriebenen Entzündung funktioniert ist jetzt keine große Überraschung, und dafür braucht man auch keine KI. Die Forschung selbst ist und war wichtig, insbesondere für den Betroffenen, aber es wirkte so als ob man unbedingt mal wieder das aktuell hippe Buzzword platzieren musste.
Ein weniger offensichtliches Beispiel wo das Modell gut funktioniert, wäre interessanter
KI kann sehr hilfreich sein. Vorausgesetzt man setzt sie richtig ein. Eine KI auf medizinische Daten zu trainieren z.B…
Aber: das was wir als KI vorgesetzt bekommen ist tatsächlich nur ein Klimawandelbeschleuniger.
Ich bin ein Freund davon, nicht von KI sondern maschinellem Lernen (ML) zu sprechen. Gerade wenn man effizientere Ansätze stat neuronalen Netzen wählt, wird deutlich, dass es sehr komplexe Statistik ist, die wir nur dank hoher Rechenleistung bewältigen können.
Dafür ist es sehr gut geeignet, vorausgesetzt die Daten haben auch eine gute Qualität und es wird von Leuten eingesetzt, die auch Fachwissen haben und das Ergebnis nachvollziehen können.
Maschinelles Lernen ist ein Untergebiet von KI.
Gerade im medizinischen Bereich gibt’s besonders viel Bullshitanwendungen von KI.
Ich weiß nicht mehr in welchem Journal es war, aber eins hatte sich mal die ganzen tollen Covid-Röntgen-KIs angeschaut, und der Großteil war kompletter Müll, der nicht zuverlässig vorhersagen konnte ob jemand COVID hat oder nicht, sondern stattdessen “erkannt” hat, ob es eine Stehend oder Liegendaufnahme ist. (Stehendaufnahmen haben eine bessere Qualität, Liegendaufnahmen macht man dagegen vor allem auf Intensivstation, wo die Patienten zu krank für sowas sind).
Und wenn ich sehe, wie oft Kollegen Perplexity AI, ChatGPT oder andere LLMs nehmen um “in Leitlinien zu recherchieren”, oder sich was erklären zu lassen, und dabei kommt entweder kompletter Mist raus, oder eben immer noch weit genug von der Wahrheit entfernt um Schaden anzurichten, wird mir schlecht.
Noch cringiger ist es eigentlich nur noch, wenn Oberärzte eine KI fragen “Warum war Medikament XY ein Flop”, und dann die Antwort ernsthaft ohne weitere Recherche in offizielle Fortbildungen einbauen.
Zuguterletzt ist die Dokumentation im medizinischen Sektor keine gute Datengrundlage. Vieles wird dokumentiert dass die Krankenversicherung nicht rumzickt, oder Textbausteine kopiert aber nicht wirklich angepasst. Vertrauen würde ich dem ganzen auf jeden Fall eher wenig
Ergebnisse von LLMs unkritisch einfach hinzunehmen ist natürlich höchst unverantwortlich. Besonders im medizinischen Einsatz müssen hohe Qualitätsanforderungen an die Software erfüllt werden.
Nichtsdestotrotz haben Methoden aus dem Feld der KI durchaus wertvolle Anwendungen mit sich gebracht. Wie zum Beispiel können z.B. CNNs (Convolutional Neural Networks) bei der automatisierten Ersteinordnung von unzähligen Diagnosebildern helfen. Sie haben auch geholfen unser Verständnis bei der Krebsdiagnose zu verbessern, weil sie beispielsweise das Zellumfeld mit betrachtet haben, was Menschen bisweilen nicht getan haben.
Die Entwicklung neuer Medikamente wird dank KI auch enorm beschleunigt. Siehe z.B. AlphaFold.
Und wenn ich bedenke, wie schlampig die meisten Ärzte meiner Erfahrung nach arbeiten, bin ich fast schon versucht mein Vertrauen viel eher in eine Maschine zu stecken.
Aber jut, nicht alles, was mit KI zu tun hat ist automatisch gut oder überhaupt sinnvoll. Nicht alles braucht KI. Und wenn es im professionellen Rahmen genutzt wird, sollte es auch entsprechenden Gütekriterien genügen.
Hast du da irgendeine Quelle? Weil das Neoplasien, das Milieu in ihrer Umgebung mitbeeinflussen ist jetzt auch keine revolutionär neue Erkenntnisse.
Aber damit habe ich auch kein Problem, solange man weiter daran forscht auch die Zusammenhänge zu verstehen. Was ich nicht möchte, ist dass wir irgendwann eine Blackbox haben, die sagt “Krebs”/“Nicht Krebs”, aber wir wissen nicht warum, und können das auch nicht mehr ohne KI nachvollziehen.
Und davor habe ich ehrlich gesagt auch ein bisschen Sorge.
Was das “schlampige” Arbeiten angeht, liegt das denke ich auch einfach an den beschissenen Arbeitsbedingungen in Deutschland. Aber ich weiß auch nicht was du konkret mit “schlampigen Arbeiten” meinst.
Meinen praktischen Pflichtteil des Studiums im letzten habe ich in Deutschland, Schweiz und Österreich absolviert, nirgendwo war die Arbeitsbelastung und auch der Kostendruck im Krankenhaus auch nur ansatzweise so hoch wie in Deutschland. Willentlich schlampig, sind da eher die wenigsten.Gibt ja den bekannten Spruch: „Schnell, günstig oder gut. Suche dir zwei aus"
Von der universitären Ausbildung her, hatte ich das Gefühl dass diese in Deutschland verglichen mit den anderen Studenten in der Schweiz und Österreich eigentlich in Deutschland ziemlich gut ist. (Wobei ich auch an einer ziemlich “guten” Uni in Deutschland studiert habe)
Ich gebe dir Recht, spreche aber nicht von dieser Art der Daten. Keine Akutmedizin, Forschung. Und da wird es zur Zeit mit ersten Erfolgen eingesetzt: https://www.drugtargetreview.com/news/156022/ai-identifies-life-saving-treatment-for-rare-castlemans-disease/
Naja, wenn man den Artikel im NEJM liest (wobei der ja auch ziemlich kurz und arm an Details ist), dann klingt das ziemlich nach klassischer Forschungsarbeit. Dass die AI dann vorhersagt, dass ein Anti-TNF-Antikörper wie Adalimumab bei einem Patienten gut funktionieren könnte, dessen Entzündung maßgeblich durch TNF getrieben wird, finde ich jetzt erstmal nicht so revolutionär. Auf die Idee wären sie vermutlich auch ohne gekommen.
(Link zur Originalquelle: https://www.nejm.org/doi/full/10.1056/NEJMc2412494)
(Wenn jemand den Volltext haben möchte, aber keinen Zugriff hat, gerne PN)
Klar, irgendwann wäre man an den Punkt gekommen. Aber dass das Model in die richtige Richtung zeigt spart Zeit, Geld, und wer weiß was das Ding noch alles findet.
Das ist ein guter usecase. Selbes passiert aktuell in der Material Forschung.
Die KI spukt Kandidaten aus, Wissenschaftler prüfen
Das war eigentlich Ironie, dass ein TNF-alpha-Antikörper gut bei einer TNF-getriebenen Entzündung funktioniert ist jetzt keine große Überraschung, und dafür braucht man auch keine KI. Die Forschung selbst ist und war wichtig, insbesondere für den Betroffenen, aber es wirkte so als ob man unbedingt mal wieder das aktuell hippe Buzzword platzieren musste.
Ein weniger offensichtliches Beispiel wo das Modell gut funktioniert, wäre interessanter
Zu diesem relativ neuen Modell gibt es noch nichts besseres. Aber hier zwei spannende Projekte:
Gerade das zweite finde ich spannend weil hier gezielt auf die Halluzinationen der AI gesetzt wird.
Danke dir für den spannenden Input!
Ich werde es mir heute Abend durchlesen 😊