141. Digitalisierung im Gesundheitswesen, Frauen und künstliche Intelligenz - mit Dr. Ursula Mühle-Schaeffer

00:00:13: Herzlich willkommen zum Zornter Podcast Tietit.

00:00:16: Ich bin Susanne

00:00:17: und ich bin Ute.

00:00:21: Ja, jetzt musst du schon ein bisschen schneller machen!

00:00:23: Also, oh komm...

00:00:25: Ich hab gar nicht.

00:00:25: das ist weil das so spät bei dir ankommt Susanne.

00:00:28: Alles gut, das war ich jetzt nicht.

00:00:30: Achso?

00:00:30: Ist egal, ich sag's jetzt auch einen zu vergissen.

00:00:33: Aber jetzt wirklich letztes Mal.

00:00:34: Okay.

00:00:36: Herzlich Willkommen zum Zornster Podcast-Tietit, ich bin Susane

00:00:40: Und ich bin Ute und unseren Podcast rund um die Themen von Frauen und Mädchen könnt ihr alle vierzehn Tage auf den gängigen Plattformen hören.

00:00:50: Ja, heute haben wir Besuch aus München!

00:00:53: Ich freue mich ganz besonders Ursula dass du bei uns bist.

00:00:57: herzlich willkommen!

00:00:59: Danke Susanne, danke Ute für die Einladung, ich freue mich sehr bei euch zu sein.

00:01:04: Tatsächlich hatten wir ja kürzlich Jutta Blechschmidt aus München im Podcast und nun ein paar Wochen später dich Ursula.

00:01:13: Und wir freuen uns ganz besonders, dass du da bist!

00:01:17: Du bist Mitglied im Zeunterclub München City auch schon seit etlichen Jahren und du beschäftigst sich seit über twenty-fünf Jahren mit so Schreibzudaten Medizin und Technik Und du bist tätig oder du bist Leiterin Digitalisierung für den öffentlichen Gesundheitsdienst in München und ja, ich finde das total spannend.

00:01:43: Du beschäftigst dich also mit!

00:01:45: Digitalisierung im Gesundheitswesen oder in den Gesundheitsämtern.

00:01:51: Und wir haben dich eingeladen, weil wir so gerne mal über das Thema Digitalisierung und vor allen Dingen auch über das thema KI und Frauen sprechen wollen.

00:02:00: Herzlich willkommen Ursula!

00:02:02: Ja, danke liebe Susanne auch für die Intro.

00:02:06: Das Thema Daten und künstliche Intelligenz ist mir tatsächlich ein riesiges Anliegen.

00:02:12: Ich leite jetzt seit dem Jahr im Landesamt für Gesundheit und Lebensmittelsicherheit den Bereich Digitalisierung und Qualitätssicherung für den öffentlichen Gesundheitsdienst und beschäftige mich aber auch in anderen Kontexten unter anderem bei SONTA mit dem Thema Digitalisierung und auch, wie kann man durch neue Technologien Frauen unterstützen?

00:02:38: Generell ist es für mich sehr wichtig dass der öffentliche Sektor gestärkt wird.

00:02:45: Deswegen bin ich aktuell hier am Landesamt Weil ich denke, hier der Staat hat durchaus eine Verpflichtung auch seiner Gesellschaft gegenüber und wir haben ja in der Pandemie gemerkt dass die Meldeflüsse des Management gerade in dieser Krise doch zum Teil sehr schwierig war weil uns einfach die Krise sehr überrannt hat sozusagen.

00:03:08: Und deswegen setze ich mich dafür ein, dass wir bessere Datenqualität haben.

00:03:13: Dass gerade die Kolleginnen und Kollegen vor Ort besserer Arbeit machen können wenn es darum geht letztlich die Bevölkerungsgesundheit besser zu schützen.

00:03:24: Und dieses ganze Thema Digitalisierung man sagt ja so leicht meine Güte wo sind wir hier eigentlich?

00:03:31: warum sind wir immer noch so wenig digitalisiert?

00:03:36: Wo sind da aus deiner Sicht so die Herausforderungen?

00:03:40: Das ist ja nicht nur ein IT-Thema, Prozesse anders zu denken digitaler zu denken.

00:03:47: Sich von den analogen Prozessen zu verabschieden.

00:03:51: was macht es so mühsam und so schwierig da einen Schritt wirklich nach vorne zu kommen.

00:03:59: Ja, es ist ein vielschichtiges Thema wie du sagst.

00:04:02: das ist kein reines IT-Thema.

00:04:04: zum Einen dass wir es natürlich im Gesundheitsbereich mit äußerst stützenswerten Daten zu tun haben.

00:04:10: Deswegen ist das Fax zum Teil auch immer noch in Einsatz rein, deswegen weil Befunde einfach sicher gefaxt werden können.

00:04:18: Wenn das auch nur für einen Patienten oder eine Person gilt, ist das auch kein großes Thema.

00:04:23: Das Problem ist ja nur wenn du es in großen Mengen die Daten verarbeiten musst, weil du dann sie nicht mehr systematisch zusammengefügt kriegst und Aussagen machen kannst.

00:04:33: Und genau dann wird schwierig dass wir hier einfach Systeme benötigen und es ist egal, ob jetzt im öffentlichen Bereich oder auch in Kliniken wenn ich zum Gesundheitsbereich denke.

00:04:43: Dass man einfach IT-System hat wo die Daten gut aggregiert und auch sicher zusammenlaufen um dann auswertbar gemacht werden kann.

00:04:52: Und was man hier sieht ist ein klassisches Thema in der Verwaltung im föderalen System haben, aber auch bei vielen mittelständischen Firmen und selbst bei Konzernen, dass du einfach viele IT-Lösungen im Einsatz hast.

00:05:07: Und die nicht miteinander kompatibel sind, weil sie historisch gewachsen sind.

00:05:11: Also es ist ja nicht so das, dass die öffentliche Verwaltung vorher nichts hatte vor der Pandemie, aber oftmals viele Einzellösungen.

00:05:18: Und das ist genau das, wofür wir uns auch in Bayern einsetzen.

00:05:21: Dass wir für unsere Gesundheitsbehörden ein einheitliches System anbieten Einheitliche Fachanwendungen um darüber hinaus den Datenaustausch einfach zu ermöglichen Um die Arbeit Standardisierbarer zu machen Auch wenn Einzelfälle zum Teil durchaus ja unterschiedlich sind.

00:05:38: Aber dass das Gerüst am Ende des Tages passt.

00:05:41: und zu der Frage was macht es so schwierig Die Leute vor Ort oder individuell denken natürlich in ihren eigenen Handlungsfeldern, die natürlich auch wichtig sind und das zu matchen mit einer etwas abstrakteren Datenebene drüber.

00:05:58: Das ist die Herausforderung weil es muss einfach erstmal bewusst gemacht werden dass das eigentlich ein Mehrwert ist und man den Leuten nichts wegnehmen will.

00:06:07: Und es ist im Grunde wahrscheinlich ein riesiger Veränderungsprozess, weil die eingeübten Handgriffe, die einge üben Tools wegfallen.

00:06:16: Andere an die Stelle treten und so weiter.

00:06:19: also da hast du ja ein großes Feld vor dir aber wenn ihr damit am Ende erfolgreich seid sicherlich auch einen großen Mehrwert und einen großen Nutzen den ihr damit stiftet.

00:06:31: Ist das etwas?

00:06:33: Du bist gerade gesagt in Bayern gibt es diese Initiative.

00:06:36: Ich habe auch gelesen, so Fragenmensch schließen sich dem andere Bundesländer an oder sind das Länder-Lösungen?

00:06:43: Wie ist das?

00:06:44: Also

00:06:45: durch nach der Pandemie gab es ja den Pakt für den öffentlichen Gesundheitsdienst.

00:06:50: Der genau also weil wir ja erkannt haben und auf die Politik erkannt hat dass eben hier ein Defizit ist sodass ein großes Förderprogramm aufgesetzt wurde und sowohl kommunale aber auch einige Landeslösungen auch koordiniert entwickelt wurden.

00:07:07: Und im Rahmen dieser Entwicklungstadion hat man schon die letzten Jahre immer wieder sich ausgetauscht und mögliche Absprachen sozusagen getätigt, wie man hier zusammenarbeiten kann.

00:07:20: Und daraus ist jetzt in der Tat eine länderinitiative Kooperation entstanden zwischen dem Land Bayern und Land Baden-Württemberg dass man zumindest für diese Bereiche sich vorgenommen hat eben hier eine einheitliche Fachanwendung bereitzustellen, dem sich aber auch gerne andere Länder anschließen können.

00:07:39: Und wenn man jetzt mal so von dieser Nutzenseite guckt?

00:07:44: Wenn das schon eingeführt gewesen wäre, so muss man ja sagen während der Pandemie was wär dann der Nutzen gewesen?

00:07:54: Der Nutzen wäre dass die Meldungen viel leichter gewesen wären.

00:07:59: In der Pandemie hatten wir ja mit einer Infektionsbrankheit das große Problem am Anfang.

00:08:05: dass kein Impfstoff vorhanden war und auch kein Medikament.

00:08:08: Also das heißt, da kommen klassische Public Health-Maßnahmen zum Tragen.

00:08:13: Das heißt man muss Infektionsketten unterbrechen und schauen, dass man sich nicht gegenseitig ansteckt.

00:08:18: Und für den Hintergrund hat ja auch jeder mitgekriegt musste dann mal gucken wenn jemand infiziert war wer sind die Kontaktpersonen um hier möglichst die Ketten zu unterbrechnen?

00:08:29: Und das wurde ja größtenteils wirklich händisch gemacht hat ja auch große Unterstützung durch die Bundeswehr, durch andere Mitarbeitende im öffentlichen Bereich deutschlandweit.

00:08:42: Also es wurde im Men-Semenpower letztendlich und Womenpower bereitgestellt und das wäre wesentlich einfacher gewesen wenn man hier nicht mühsam quasi Zettel, per Telefon Dokumente gehabt hätte und allen nur händisch hinterher Rennen hätte müssen.

00:09:02: Natürlich eine gewisse menschliche Komponente kannst du damit nicht ersetzen.

00:09:07: mit den Leuten sprechen muss man trotzdem aber man hätte viel leichter die Ermittlung und dann auch die Meldung viel einheitlicher machen können um dann auch Die ganzen Daten zu konsolidieren in einem System zu haben, nicht das und der eine hat sonst per Fax geschickt.

00:09:22: Der andere hätte es irgendwie verwechselt Tabelle geschickt.

00:09:25: die dritte Sache Kampf für E-Mail.

00:09:27: Und hier zählt ja wirklich dass man die Infos schnell zusammen hat um daraus dann zu sehen okay welche Muster ergeben sich?

00:09:35: Wie kann man da bestmöglich darauf reagieren?

00:09:39: Ja, spannend dieser Teil und ich glaube alle die was mit Digitalisierung zu tun haben können nachvollziehen.

00:09:47: Was du da für eine große Aufgabe hast oder die du da leitest.

00:09:53: aber Du hast durch diese Kompetenz in dem IT-Bereich mit Daten bezahlen natürlich auch eine große Kompetenz zum Thema KI Und du hast sie, glaube ich in der Zonterwelt auch schon unter Beweis gestellt.

00:10:07: Schon diverse Vorträge gehalten und deswegen haben wir dich eigentlich heute eingeladen.

00:10:13: So dieses Thema KI und Frauen beschäftigt uns also.

00:10:17: wir alle kommen ja an KI nicht vorbei und es ist ja nicht mehr eine Frage ob sondern nur noch wie und wie schnell und wie wir uns darauf einlassen auf dieses Thema.

00:10:29: und was uns interessieren würde ist wo?

00:10:34: Da nutzt es vielleicht auch so ein bisschen Machete, GPT oder so etwas.

00:10:38: Aber vielleicht können wir einfach mal gegenüberstellen was sind Nutzen?

00:10:44: Was sind Risiken und was könnten so nächste Schritte sein?

00:10:48: Lass uns da einfach mal ein bisschen hingucken Ursula.

00:10:50: Ja sehr gerne!

00:10:52: Vielleicht nochmal so ein bißchen einleitend auch weil das Thema KI ist ja in vieler Munde und was ich beobachte dass viele genau wie du auch gesagt hast, auch verstehen wir müssen uns wirklich damit beschäftigen.

00:11:06: Aber das oftmals vielen auch nicht so ganz klar ist was steckt da eigentlich dahinter?

00:11:10: Weil gerade wenn man sich jetzt mit GPT oder Schaar oder wie die ganzen Chatboards heißen unterhält es oft fühlen ja gar nicht klar was hier sozusagen passiert und am Ende ist er ja nicht irgendwie ein intelligenter Mensch der einem gegenüber sitzt sondern eine Maschine Ihre Set an Daten zur Verfügung hat und aus diesen Daten letztendlich per Wahrscheinlichkeit berechnet, welche Antwort gegeben wird.

00:11:37: Also es ist eigentlich eine rein statistische Antwortzusammenstellung.

00:11:41: vor dem Hintergrund werden Muster erkannt und Vorhersagen getroffen.

00:11:44: und denke das ist warum sag ich dass?

00:11:47: mir ist es wichtig nochmal zu sehen wo kommt man eigentlich damit her?

00:11:50: was heißt das?

00:11:53: Wie stark kann man dem Ganzen sozusagen auch trauen?

00:11:56: Also je besser natürlich die Datenqualität ist, umso besser werden auf die Antworten sein.

00:12:02: Egal ob beruflich oder privat ich denke wir nutzen alle KI aber wenn wir dann auch sagen okay was sind potenzielle Risiken?

00:12:11: muss sich einfach vom System her auch immer bewusst sein Da steckt kein Mensch gegenüber einem, sondern es ist die Entscheidungen oder auch die Antworten, die man kriegt werden immer auf der Vorlage der Daten.

00:12:25: Die eingespeist wurden getroffen und ich denke das ist sehr wichtig quasi für die Reflektion auch wie man damit umgeht.

00:12:35: Ich denke wenn man sich dessen bewusst ist und weiß wie man mit solchen Systemen umgehen kann, ist es ein irre Potenzial.

00:12:40: also ich bin dadurch aus einem sehr großer Freund von wird aber jetzt nie zum Beispiel ungefiltert Gesundheitsdaten oder persönliche Daten da einspeisen.

00:12:51: Also in der Arbeit dürfen wir das natürlich sowieso nicht, aber auch privat wäre ich dann natürlich sehr vorsichtig weil am Ende dieses Thema nehmen die Daten auf und lernen daraus wieder und wir wissen nicht, was damit sozusagen gemacht wird.

00:13:09: Also ich denke man braucht eine gesunde Skepsis.

00:13:12: wenn man die aber weiß und gut einsetzen kann kann man für sich selber und ich glaube Frauen generell auch durchaus sehr stark davon profitieren.

00:13:23: vielleicht gucken wir mal auf die seite wie kann man davon wie können wir davon profitiert?

00:13:29: also welche potenziale gibt es, wie können wir KI gut nutzen?

00:13:37: Also ich denke hier sowohl in der Arbeit als auch privat was KI sehr gut kann sind Recherche arbeiten.

00:13:42: Sind Dinge zu strukturieren das man früher sonst alles per Hand gemacht hat.

00:13:46: Das heißt jetzt als Beispiel ihr macht hier den Podcast wenn ihr euch für Themen vorbereitet hintergrundrecherche macht.

00:13:52: nur als ein Beispiel oder ich wenn ich sozusagen auch neue Programme jetzt für die Arbeit ausprobiere und sehen will was gibt's eigentlich schon an gewissen Tools die wir potenziell irgendwo einführen wollen, dann kann ich locker die KI fragen.

00:14:08: Machen mir mal da mal eine Zusammenfassung.

00:14:10: Sowas geht sehr gut in den meisten Bereichen weil da ist einfach viel Hintergrundwissen da.

00:14:16: Das hätte man früher selber machen müssen oder halt Mitarbeiter und Freundkolleginnen finden müssen.

00:14:22: Das hat das gemacht.

00:14:23: Also Effizienzsteigerungen denke ich auf so einem Niveau sind super!

00:14:27: Oder auch privat.

00:14:29: Ich finde KI eignet sich hervorragend zur Urlaubsplanung.

00:14:34: Man fährt selber gerne ins Richtung Süden, sucht Strände am Meer.

00:14:41: Die schön sind aber ein bisschen besonders und man das einfach auch entsprechend dort einspeist mit den richtigen Bronze kriegt man da echt sehr gute Antworten zurück.

00:14:51: Das mal so als Beispiele die mir jetzt hier

00:14:57: einfallen.

00:14:57: Ich würde gerne mal wissen, ich hatte mal gehört dass man sich so auf KI oder viele sicher inzwischen auch so auf die Antworten verlassen.

00:15:05: Dass aber ja das gar nicht so ist, dass es zu hundert Prozent alles korrekt ist was da kommt sondern irgendwie ich weiß gar nicht laut Statistik irgendwie siebzig oder fünf und ich weiß es tatsächlich nicht ganz genau.

00:15:18: Aber es ist ja doch sehr erschreckend, wie schnell doch Menschen sich darauf verlassen dass dieser Antwort korrekt ist die da kommt.

00:15:27: Gibt es da irgendwelche Zahlen zu?

00:15:29: weißt du dann mehr drüber?

00:15:31: Also Zahlen weiß ich tatsächlich jetzt auch nicht, da muss ich passen.

00:15:35: aber im Prinzip es ist ein sehr wichtiger Punkt und ich glaube das ist wo man wirklich bewusst sein für auch wecken muss.

00:15:44: was ich eingangs meinte, es ist keine Datenmaschine die auf Basis von Daten Antworten liefert und dementsprechend wenn da irgendwie Dinge nicht da sind gerne auch mal anfängt zu hallucinieren und Antworten auch zu erfinden.

00:15:59: Und wir denken es ist eine Maschine oder das Risiko besteht dass das doch richtig sein muss.

00:16:05: Ich denke ich hatte in der letzten Diskussion auch plötzlich mit einer Kollegin zum Thema wissenschaftliches Arbeiten.

00:16:12: Wir haben alle wissenschaftliche arbeiten gelernt.

00:16:14: Du bist früher in die Bibliothek gegangen, hast geguckt, hast Quellenrecherchen gemacht, geguckt wie valide ist das und das dann sauber dokumentiert in einem wissenschaftlichen Artikel also Journalistin arbeitet man genauso und du hast einfach bis ganz stark auf Quellen Recherche getrimmt.

00:16:32: und seit dass das Internet da ist hier schon eine gewisse Ja, Sorgfalt verloren gegangen ist.

00:16:42: so meine Beobachtung.

00:16:43: Ich erinnere mich an die ersten Wikipedia-Artikel, die ja auch Dinge zusammengefasst haben mal im Besserer, mal in schlechterer Qualität.

00:16:53: Studenten haben plötzlich auch angefangen Artikel hier zu zitieren und jetzt haben wir die nächste Stufe das im Prinzip Chatbot hier irgendwie was ausspuckt Und das muss man einfach kritisch hinterfragen.

00:17:07: Allerdings, ich sehe es genauso.

00:17:08: Man muss auch kritisch hinterfragen wenn jetzt irgendwie junge Kolleginnen oder junge Mitarbeiterinnen einen Vorlagen machen weil vieles wissen sie auch nicht.

00:17:16: also Es ist einfach mit gesunder Vorsicht zu genießen und nicht einfach fürbare Münze zu nehmen.

00:17:22: Und dann denke ich kann man da eben auch wieder damit umgehen.

00:17:25: so in dieser Einordnung

00:17:27: Also keine künstliche Intelligent ohne menschliche Intelligenz noch mal drüber zu gucken.

00:17:34: Also das ist elementar, man hat sowohl beruflich aber wie auch privat entlässt einen nicht für irgendwelche Sorgfaltspflicht.

00:17:47: Jetzt sind ja bestimmte gesellschaftliche Phänomene, gerade als Zeuntjens beschäftigen wir uns ja viel mit gleichberechtig und gunk.

00:17:57: Und dieser Bayes den es in der Gesellschaft gibt ist natürlich in den Daten genauso widerspiegelt.

00:18:03: das heißt wir bekommen dann an der Stelle eben die Daten oder die Antworten, die aufgrund dieser Daten möglich sind.

00:18:13: Das leidet ja vielleicht schon so ein bisschen zu einem Risiko über dass wir natürlich diese gesellschaftliche Ungleichheit im Grunde verlängern durch die KI oder erweitern oder ich weiß gar nicht wie ich mich ausdrücken soll.

00:18:30: also Es ist auf jeden Fall ein Risiko zum Teil, weil einfach Daten gar nicht vorhanden sind.

00:18:37: Zum einen wird es einfach erweitert.

00:18:38: wenn ich jetzt auch wieder im Bereich Gesundheit und Medizin angucke.

00:18:42: Klinische Studien das ist eigentlich ein anderes Thema aber in der KI betrifft es dann auch.

00:18:48: Sind primär Daten über männliche Probanden?

00:18:51: Weil einfach so die Datenstruktur aufgesetzt war hat verschiedene Gründe.

00:18:57: Zum Teil ist das natürlich auch ein Effizienzthema, weil auch eine Pharmafirma in der Medikamentenentwicklung schlicht jetzt nicht jede Gruppierung sozusagen vom Patienten testen kann, weil das finanziell gar nicht abbildbar ist.

00:19:12: Also sowas setzt sich Pflicht dann einfach fort.

00:19:14: wenn man selbst die Daten alle sozusagen die Grunddaten vorliegen hätte, hat man nur die Daten, die da sind.

00:19:20: Das ist das eine also die vorhandene Art der Daten Was aber auch kritisch ist, worüber auch weniger gesprochen ist.

00:19:27: Ist was wie die Daten und die Algorithmen geschrieben werden?

00:19:31: Die auch hier, ich habe jetzt keine ganz konkreten Zahlen.

00:19:34: Aber wenn ich mir zumindest von den großen Big Tech mir das angucke die größte Anzahl der Entwickler ist danach wie vor Männer und da ist einfach ein anderes Mindset dahinter die ganzen Cross zu schreiben.

00:19:50: Und dementsprechend auch hier Ist da eine gewisse Grundstruktur gegeben.

00:19:58: Der Vorteil hier ist allerdings Per se ist das System agnostisch.

00:20:03: Also wenn ich jetzt quasi auch, man kann es dazu bringen zu lernen und das ist wiederum der Vorteil Es ist nicht eigentlich starr im Kossett wie früher irgendwelche Studien etc.

00:20:13: Wenn man einfach die Daten anreichert Und wenn man auch entsprechend Fragen stellt Ist damit auch wieder eine Chance sozusagen Da diese diese Struktur leichter aufzubrechen.

00:20:25: aber man muss es bewusst machen.

00:20:27: Aber das heißt im Grunde, wir Frauen müssen uns an der Entwicklung der KI beteiligen.

00:20:33: Sie mit Daten füttern die Wir zur Verfügung stellen damit wir auch entsprechende Antworten Erhalten.

00:20:41: Genau, sowohl an der Entwicklung der Daten als auch an der Entwicklung der Nutzung also die Fragen entsprechend stellen dass das halt die KI entsprechend lernen kann.

00:20:51: ich will das jetzt als Antwort haben und das ist jetzt vielleicht auch schlecht am Ende des Tages, weil sich da wieder eben neutral ist.

00:21:03: Jetzt sind wir bei Entwicklung der KI gewesen, haben auch schon gesagt dass KI ganz viele Vorteile hat.

00:21:11: Lass uns nochmal auf die Risiken gucken.

00:21:14: Gibt ja gerade aktuelle Fälle in der Presse wo deutlich wird es gibt Missbrauch Es gibt Deepfakes und so weiter.

00:21:22: vielleicht magst du uns dazu noch ein bisschen was erzählen?

00:21:25: Absolut.

00:21:26: also ich glaube einen Riesenthema, du hast das auch grade schon gesagt Deepfake ist nicht nur Text-basierte KI, sondern dass eben auch Bilder manipuliert werden können.

00:21:39: Das ist auch dem geschulte das gerade so hoch probt nicht nur weil es in den Medien ist dazu gleich noch Sondern weil einfach die Rechenpower enorm zugenommen hat.

00:21:47: vom paar Jahren wäre das schlicht nicht möglich gewesen Weil einfach die rechen Kapazitäten noch nicht so da gewesen sind und Dadurch dann wiederum auf die Bildqualität besser wird.

00:21:57: Es gibt nicht mehr rein um Text sondern auch im Bilder Und dadurch durchaus Risiken hier Bildmanipulation vorzunehmen.

00:22:07: Das kann jetzt erstmal auch neutral wieder sein, dass man irgendwelche Filme sozusagen oder auch Werbespots per KI macht Das kann ein Problem für eine Branche sein, per se.

00:22:19: Für irgendwelche Filmchen, die man macht ist das durchaus interessant.

00:22:23: Aber das Risiko hier drin steckt tatsächlich wenn es dann wirklich zu gravierenden Filmen kommt wie Identitätenklau wo dann sozusagen auch Identität mit falschen Bildern hinterlegt werden bis hin zur chronographischer Natur

00:22:38: etc.,

00:22:39: wo's dann wirklich auch zu digitalen virtuellen Missbrauchsfilmen hat und... Das ist ein riesiges Thema, wo Gott sei Dank jetzt angefangen wurde drüber zu sprechen.

00:22:49: Aber wo glaube ich die Dimension vielen noch nicht klar ist was hier einfach möglich ist und wo auch der Gesetzgeber bisher sehr wenig Regulierung sozusagen entgegengesetzt

00:22:59: hat?

00:23:01: Also im Grunde nochmal ein weiteres Feld für Zonter Says No ganz anderer Anwendungsfall.

00:23:07: Absolut weil im Prinzip hier wirklich die Frage Was ist nur quasi Fake im Sinn von Fälschung bis hin zu, ich habe zwar schon gesagt Identitäten klau.

00:23:21: bitte in Vergewaltigungen und sonstige Themen.

00:23:25: Und wie kann man sich da dann auch?

00:23:27: also erstens, wie kannst du vorbeugen dass es gar nicht so weit kommt?

00:23:30: Und falls es tatsächlich soweit kommt Wie kannst du dich zu wehr setzen und hier auch Unterstützung sozusagen anbieten?

00:23:37: Also das ist wo ich auch wirklich sehe Da hatte ich letztens auch auf einem Sonntapennel gesprochen Wo wir uns der Thematik wirklich anhören müssen.

00:23:47: Magst du die Lösungsvorschläge?

00:23:48: Ja genau!

00:23:49: Wie kann ich vermeiden?

00:23:51: Genau, also im Prinzip erstmal Aufmerksamkeit generieren oder zeigen was ist überhaupt KI.

00:23:57: Weil Aufklärung wie funktioniert das?

00:24:00: Was kann man mit KI überhaupt machen?

00:24:02: Wie kann man auch mit KI Bilder bearbeiten?

00:24:05: Wie können wir sozusagen Bilder mit Filmen zusammenschneiden?

00:24:15: auch für gewalttätige Szenen manipulieren.

00:24:18: Wie funktioniert das überhaupt, dass ein Bewusstsein vorhanden ist?

00:24:22: Nicht nur für die, die betroffen sind sondern für alle um daraus dann sozusagen also im Prinzip Prävention auf Gewaltprävention aber dann eben auch erste Ideen, die wir halt diskutiert haben zu gucken.

00:24:38: okay wie kann man hier potenziell Anlaufstellen bieten oder Aufklärung, da brauchst du Spezialisten für.

00:24:47: Aber ähnlich wie bei Sondersize Snow könnten wir hier auch gucken.

00:24:50: gibt es jemanden mit dem man hier zusammenarbeiten kann der hier entsprechend Hilfe sozusagen anbietet?

00:24:57: und dann last but not least Ja, zu gucken.

00:25:06: Wie kriegt man das dann auch in die breitere Öffentlichkeit?

00:25:09: Bei Zolltaser ist noch haben wir bisher ja auch schon Kampagnen gemacht um einfach Multiplikatoren zu finden Testimonials zu finden Die sich wirklich hier lautstark dagegen positioniert haben und als letzten Schritt an die Gesetzgebung herantreten weil Hier werden wir auch politische Lösungen und rechtliche Lösungen finden.

00:25:32: Und da ist einfach nach wie vor ein riesiger grauer Rahmen oder kein Rahmen.

00:25:36: zum Teil, was man aktuell sieht.

00:25:41: gerade bei den ganzen Big Tech Firmen geht ja der Trend eher Richtung Deregulierung.

00:25:47: Die Firmen haben überhaupt keine Interesse sich regulieren zu lassen.

00:25:50: also da können wir glaube ich als Zonter schon einiges bewirken aber das muss systematisch aufgestellt sein.

00:26:00: Noch mal also ein durchaus zonterweit überlegenswertes Thema, wie wir uns da zu positionieren und wie wir an der Stelle auch wirksam werden können.

00:26:14: Wenn wir noch einmal einen Schritt weiter denken – weiß nicht ob ihr das auch diskutiert habt aber wie werden sich Berufsbilder verändern?

00:26:23: Welche Qualifikationen werden vielleicht nicht mehr gebraucht, werden ersetzt durch KI.

00:26:31: Aber das ist natürlich die schönere Perspektive.

00:26:34: was wird stattdessen gebrauchten?

00:26:37: Also was ich vorher schon gemeint hatte also viele so Einsteigerrollen sind werden nicht mehr so stark gebraucht wie Recherchen, wie jetzt im klassischen auch Beraterbereich.

00:26:52: Haben ja die Anfänger oftmals Präsentationen gemacht.

00:26:54: es gibt mittlerweile so gute KI's du stellst deine PowerPoint rein und hast dann hinterher eine hochgepolisierte Präsension.

00:27:02: Früher halt einfach Junioren zu Fuß gemacht haben oder auch in der Juristerei, also die Zusammenstellung von Infos um daraus sozusagen dann auch Gutachten zu erstellen etc.

00:27:18: Hier aber sollte man sich nicht täuschen lassen.

00:27:21: es sind Entwürfe und ich finde diesen Begriff der Halluzination sehr schön.

00:27:26: Die KI hallusioniert einfach gerne sprich erfindet manchmal einfach Dinge.

00:27:31: Hätte ich letztens auch wieder einen Vortrag gehört, dass einfach zum Teil Paragrafen falsch im Prinzip erfunden sind.

00:27:37: Da steht so nicht drin.

00:27:38: also es muss jemand und da kommt der Mensch wieder ins Spiel prüfen in den Kontext setzen Und entsprechend sozusagen das dann auch zusammenfassen und die Entscheidungen treffen.

00:27:54: Dementsprechend, also diese etwas leichteren Tätigkeiten werden voraussichtlich wegfallen.

00:28:00: Die bewerten werden umso wichtiger.

00:28:03: Hier ist aktuell die große Diskussion für die Generation, die eben jetzt anfängt.

00:28:12: man trotzdem ohne jetzt hier mitzulaufen und ich denke dafür sind wir noch nicht ausweichen vorbereitet.

00:28:18: Ja, meine Kinder sind tatsächlich jetzt so Ende Abitur und es gibt durchaus Freunde die das Studium begonnen haben oder auch abgeschlossen haben, die wirklich berichten dass es schwierig ist einen Berufseinstieg zu finden weil genau diese Tätigkeiten viel günstiger von der KI erledigt werden können.

00:28:41: und da müssen wir uns als Gesellschaft natürlich auch fragen, wenn wir diese jungen Menschen nicht integrieren dann fehlen sie uns natürlich als qualifizierte Arbeitskräfte hinterher.

00:28:51: Stichwort demografischer Wandel und all diese Fragen.

00:28:53: also auch das ist sicher ein Feld was wir noch mal gut bedenken müssen als Gesellschaft.

00:29:01: Ja, hat keinen Fall!

00:29:03: Und ansonsten für die, die die KI nutzen tatsächlich zu zeigen, okay wie funktioniert es?

00:29:09: Wo sind Schwächen?

00:29:11: Wie fragt man die besten Fragen?

00:29:13: aber wo sind dann auch am Ende des Tages Grenzen.

00:29:18: Wo man weiß da muss man selber sozusagen wieder übernehmen.

00:29:22: Ich glaube das ist ein ganz wichtiger Punkt dass ich denke die müssen auch erst mal gebildet werden also wie man KI richtig nutzt weil es wird ja einfach Inflationär für alles inzwischen benutzt, auch gerade von den jungen Menschen.

00:29:36: Und ich glaube das da tatsächlich der erste Hebel schon in der Schule erfolgen muss?

00:29:42: Also für die Jungen bin ich da voll und ganz bei dir.

00:29:49: Das Nutzen selber, glaub' ich... ...das ist eine Technologie, die sich durchsetzt.

00:29:55: also das ist ähnlich wie das iPhone und die ganzen Smartphones.

00:30:01: Am Ende des Tages ist es so einfach und intuitiv, dass das jeder selber geschafft hat zu nutzen.

00:30:06: um jetzt große Schulungen zu haben wie nutze ich ein iPhone.

00:30:10: Die Schulungen sind aus meiner Sicht eher für die Generation dazwischen also die nicht digital natives um hier quasi diese intuitive Nutzung sozusagen dies noch nicht haben noch mitzukriegen.

00:30:27: eher Schulungen hin zu den Rahmenbedingungen.

00:30:30: Also, wo stößt man auf Grenzen die man nicht mehr so offensichtlich sieht?

00:30:35: Also hier wieder zurück zum Anfangsbeispiel des wissenschaftlichen Arbeitens also das reflektierten Einsatzes von Technologien.

00:30:47: Ja, super spannend.

00:30:48: Darüber könnte man jetzt wahrscheinlich noch den ganzen Tag sprechen.

00:30:53: Hast du irgendeinen kleinen Tipp?

00:30:56: Eine Lieblingsanwendung die du vielleicht zum Schluss noch mitgeben möchtest?

00:31:03: Also ich bin Freund von Chatbots und ich bin auch kürzlich umgestiegen von ChatGPT zu Leschar weil mir wichtig ist dass wir nicht alle Daten in die USA schicken, das so als Tipp.

00:31:19: Und ansonsten würde ich gerne mit drei Punkten schließen was du um anfangs auch schon gesagt hast KI wird unsere Gesellschaft tiefer ändern.

00:31:28: wir brauchen nicht zu diskutieren nutzen wir es oder nicht sondern wie nutzen wir's am besten und Sonntag sollte auf jeden Fall unterstützen, dass Frauen hier an der Entwicklung und Regulierung beteiligt sein können.

00:31:42: Und vielleicht wäre das auch ein Sonntagthema nochmal zu überlegen – wie müssen genau digitale Kompetenzen gestrickt sein um hier auch Gleichberechtigung zu erzielen?

00:31:52: Also ich denke, hier könnten wir uns die Köpfe zusammenstecken als Sonntage, weil auch hier gibt es noch viel zu tun!

00:32:02: Vielen Dank Ursula für diese Impulse und letztendlich für die Denksportaufgabe, die du uns und den Clubs am Ende mitgegeben hast.

00:32:15: Also da werden wir sicher noch viel darüber hören und dich vielleicht an der Stelle auch in der Zonterwelt als Expertin sehen.

00:32:22: Vielen Dank für deine Zeit!

00:32:27: Viel Erfolg bei der Digitalisierung, der Gesundheitsämter in Bayern.

00:32:31: Vielen herzlichen

00:32:32: Dank!

00:32:33: Danke euch!

00:32:33: Schönes

00:32:36: Wochenende!

00:32:37: Tschüss

00:32:37: Ursula!