Die KI macht’s. Wer haftet? Prof. Dr. Rolf Schwartmann, Experte für KI- und Medienrecht

00:00:00: Beim Nicht-Fragen-Weggucken sind sie beim Bunsenbrenner.

00:00:03: Also das müssen Sie schon hinkucken, Sie müssen generell im Unternehmen hingucken ob irgendwas doof ist passiert.

00:00:07: Ist es denn dann kein Problem?

00:00:09: so lang ich's einfach nicht merke?

00:00:15: Willkommen zu einer neuen Episode von AI&Y!

00:00:18: Unser Versprechen ist wie immer wir finden raus was sich wirklich durch KI verändert und heute mit einem Wiederholungstäter.

00:00:25: Es gibt hier nicht so oft.

00:00:26: mir gegenüber sitzt der bekannteste Datenschutzrechtler Deutschlands darf man glaube ich sagen.

00:00:31: er leitet die Forschungsstelle für Medienricht ist Vorsitzender der Gesellschaft für Datenschutz und Datensicherheit, saß in der Datenethik-Kommission der Bundesregierung.

00:00:40: Und hat sogar ein Buch über KI auch im Zusammenhang mit Datenschutzt veröffentlicht.

00:00:47: Beim letzten Mal haben wir gestritten darüber ob man KI überhaupt regulieren sollte und was das eigentlich bringt.

00:00:54: heute soll es ein bisschen mehr um die Praxis gehen denn die meisten Unternehmen die kümmern sich nicht so richtig um die Regulierung die machen einfach Passiert Ihnen auch nichts, jedenfalls weiß ich nicht davon, dass Ihnen was passiert.

00:01:06: Und deshalb spiele ich heute genauso einen Unternehmer der eben einfach mal

00:01:11: macht

00:01:12: und mein Gast muss mich überzeugen warum ich mich trotzdem kümmern sollte.

00:01:17: Ich freue mich sehr.

00:01:18: herzlich willkommen Prof.

00:01:19: Rolf Schwartmann.

00:01:21: Hallo Herr Bieler, ich bin wahrscheinlich der Ihnen Bekannteste Datenschutzjuristen, ob ich das generell bin.

00:01:28: Das weiß ich nicht.

00:01:29: nur aber freut mich dass zumindest ich das bei ihnen bin.

00:01:33: Da kann sich nichts falsch machen.

00:01:37: Wenn ich unser Gespräch vom Mai dann war das letzte Gespräch Revue passieren lasse da haben sie gesagt KI ist wie ein Hund man wirft ihm das Stöckchen hin und dann macht er einfach was er will.

00:01:48: Ist dieser Hund seit Mai größer geworden?

00:01:51: Ja der hat fliegen gelernt.

00:01:54: Denn das Hundebild, das halte ich nach wie vor für wunderbar.

00:01:58: Das ist ja ein autonomes Geschöpf, dass einerseits ein Werkzeug ist und andererseits aber mit einem eigenen Kopf ausgestattet ist.

00:02:10: und das Bild war ja die Autonomie beginnt nach dem Prompt.

00:02:14: Und das entscheidet halt der Hund, ob er mir eine Gummienthe oder eine echte Ente mitbringt und nach seinen Kategorien ist es besser er bringt ne echte ente mit.

00:02:24: aber das ist nicht das was ich unbedingt will.

00:02:26: Die meisten Unternehmen setzen KI einfach ein und kümmern sich momentan nicht um die Regulierung weil sowieso keiner bestraft hat.

00:02:35: haben sie nicht dann eigentlich recht?

00:02:37: Ne Recht haben sie nicht.

00:02:38: Die Frage ist, ob es das verantworten können dass Sie nicht recht haben.

00:02:42: wenn ich über die rote Ampel gehe und ich denke es guckt keiner zu dann habe ich ja nicht recht.

00:02:47: Aber ich kann einfach über die Rote Ampel gehen weil niemand mich eben kontrolliert.

00:02:51: Es ist keine Polizei da Ich kann das machen.

00:02:53: Ich werde vermutlich auch nicht überfahren.

00:02:55: also setze ich meine KI-Tools einfach weiter ein und dann höre ich der Regierung zu, die eine Pflicht zur KI-Kompetenz im Sommer sogar noch abgeschwächt hat und gesagt hat wir brauchen gar nicht mehr die Leute Schulen sondern wir müssen sie nur noch unterstützen.

00:03:13: Da würde ich mich doch als Unternehmer eigentlich erst recht bestätigt fühlen und sagen prima lass mal erstmal weiter so machen.

00:03:20: Abgeschwæcht würde ich das nicht sagen.

00:03:21: man hat gesagt es stand in der Ursprungsfassung dann muss KI Kompetenzen nach besten Kräften fern mitteln.

00:03:31: und das konnte man so lesen, als dass man irgendwie einen Erfolg bewirkt muss.

00:03:34: Er geht natürlich nicht.

00:03:35: deswegen hat man eine Formulierung gewählt die lautet man muss das fördern.

00:03:39: aber zwischen fördern und vermitteln liegt für meine Brüfe nicht viel ein Fördern bedeutet ja nicht ich leg ne Broschüre hin und dann ist die Förderung erledigt sondern ich musste es natürlich schon aktiv unterstützen.

00:03:51: was bei der omnibus gesetzgebung eben nicht verändert wurde ist das entscheidende nämlich Betreiber geblieben, also sie müssen fördern.

00:04:02: Jetzt können Sie natürlich sagen ja gut, fördern heißt für mich ich leg nur noch ein QR-Code oder ein schönes Buch hin.

00:04:07: Görd, ich lass die einfach mal machen!

00:04:09: Ich stell dir eine kailizänze Verfügung dann lerne ich das schon.

00:04:11: Ja, aber das will nicht fördern, dass wir nicht fördern.

00:04:15: Also sondern das wäre einfach verantwortungslos passieren lassen.

00:04:20: Das ist Gegenteil von Fördern.

00:04:21: Also ich geb denen was und lasse die machen es nicht förderen, sondern das is ins kalte Wasserschub so und sagen vielleicht Ertrinken Sie ja gar nicht.

00:04:29: Und das wäre es nicht, da muss man aufpassen.

00:04:32: also das hat sich nicht verändert und die Frage zielt doch aber glaube ich darauf hin dass sie sagen naja egal KI Kompetenz oder her es war ja niemals Bußgeld bewährt.

00:04:41: Genau Ich könnte ja jetzt ob das jetzt ob ich fördern muss oder schulen oder wie immer das heißt wenn der kontrolliert ist keine

00:04:48: Ja das können Sie hoffen.

00:04:53: Aber Es ist auf jeden Fall Bundesnetzagentur als KI-Aufsichtsbehörde etabliert und sie hat auch ein Portal eingerichtet, wo man in so einer Maske eintragen kann.

00:05:10: Man in irgendeiner Form einen KI-Einsatz munieren möchte.

00:05:15: Das ist ein sehr komfortables Verfahren auf der Webseite der Bundesnetzagentur und da weiß man ja nie, ob dann nicht doch mal irgend einer das macht.

00:05:24: Also kann jeder Mitarbeiter in meiner Organisation...

00:05:29: Jeder Mitarbeiter Eltern Kinder alle also das ist halt irgendwie... Wenn man Zugang oder hat ja keine Sperre für bestimmte Leute, dass man da reinmacht.

00:05:42: Also wenn ein Verstoß gegen die KI-Verordnung in irgendeiner Form moniert wird... Keine Ahnung!

00:05:51: Ein Lehrer lässt eine Schülerarbeit durch KI bewerten?

00:05:57: Dann könnte man als Schüler zum Beispiel sagen, Lehrer das bewertet Bundesnecke sind der guck mal so.

00:06:01: und dann würde die Frage stellen ist das ne Wir sagen KI-Einsatz, der reguliert ist.

00:06:10: Und das wird sich KI-Regulierungsbehörden angucken.

00:06:13: und wenn die Regulierung für hochreskante KI gilt... darf man halt nur mit besonderer KI machen, so Schularbeiten bewerten.

00:06:25: Wenn überhaupt und wenn dann auch noch ein Gesetz da ist?

00:06:27: Dann kann man das natürlich schon irgendwie auf die Butterseite fallen.

00:06:31: also es macht auf jeden Fall keine gute Stimmung bei der Bundesnetzagentur als erst einmal gepflegt zu werden und dann eine Frage zu kriegen wie ist das egal was es ist?

00:06:39: okay jetzt überzeugt mich dass noch nicht zu hundert Prozent als Unternehmer weil wenn ich jetzt mal so in die Presse gucke Mir ist kein Fall bekannt, wo... Also wenn Sie jetzt sagen da gibt's jetzt so ein Meldeportal.

00:06:49: Da müsste es uns ja ganz viele Fälle geben eigentlich, wo jetzt Leute auf die Mütze kriegen weil sie eben KI falsch gegen die Regulierungsvorschriften einsetzen.

00:06:56: Jetzt sagen sie aber auch auf der anderen Seite Ja dann ist jetzt die Bundesnetzagentur geworden Die finden sich da gerade, ne?

00:07:03: Die müssen diese Prozesse etablieren.

00:07:05: Was sollte mich davon abhalten als Unternehmer zu sagen Ich werde schon nicht der erste sein.

00:07:11: Machen wir erstmal weiter so und gucken mal bis es die ersten trifft.

00:07:15: Ja,

00:07:16: das sollte sie davon abhalten.

00:07:19: ihr unternehmerisches Gewissen und ihre natürliche Neigung zu Rechtstreue und solche Dinge, Ihr Vorbildcharakter in der Wirtschaft.

00:07:30: Das ist aber vielleicht jetzt nicht so wirklich was was überzeugt.

00:07:34: Es könnte natürlich auch sein dass wenn es wirklich beim KI Betrieb zu unangenehmen Sachen kommt Sie natürlich, ohne dass sie KI-Kompetenz vermittelt haben auf eine ganz unangenehme Weise haften müssen.

00:07:51: Es gibt ja schon erhebliche Bußgelder von der KI-Verordnung und natürlich ist wenn die ganzen Pflichten noch nicht wirklich in Geltung sind erst mal so ein sich... Wenn wir sagen dran gewöhnen, sich

00:08:09: finden.

00:08:09: Je mehr ich überkiere, desto mehr Fragen habe ich.

00:08:11: Ich bin selber Digitalunternehmer und mitten in diesem Umbruch.

00:08:15: In meinem Podcast AI&Y spreche ich mit Unternehmern CIOs Geschäftsführern über genau diese Fragen Was funktioniert?

00:08:23: Und was funktioniert nicht?

00:08:24: Wo wird Geld verbrannt und warum funktionieren Projekte nicht?

00:08:28: Wenn dich die gleichen Fragen beschäftigen dann abonnier den Kanal.

00:08:37: Aber jetzt mal ganz konkret.

00:08:39: Die KI-Verordnung kennt Kennzeichnungspflichten seit August, zwanzig um

00:08:50: sechsundzwanzig?

00:08:51: Habe

00:08:51: ich hier zuletzt auch in der Werbung gesehen.

00:08:53: Da stand tatsächlich mal irgendwie am Anfang der Werbung KI generiert oder im Radiowerbung wurde auch am Anfang gesagt KI generierte Inhalte

00:09:00: Ja das müssen Sie bei bisschen differenzieren zwischen Textinhalten und zwischen Bild, Video- und Toninhalten.

00:09:10: Und das ist es für Sie ansprechen bei Ton- und Bildinhalten Das können sogenannte Deepfakes sein.

00:09:18: Ein Begriff der fällt ja schon mal öfter.

00:09:21: Was ist ein Deepfake?

00:09:22: Ein DeepfAKE ist ein Inhalt, der KI generiert ist und der auch echt sein könnte.

00:09:35: Also, wenn Sie dieses wunderschöne Studio in dem wir hier sitzen austauschen durch die spanische Treppe in Rom und dann würden wir uns da auf den Treppenstufen gegenüber sitzen und hätten ein langes Kabel zu irgendeinem, keine Ahnung, Kneipe wo wir das Mikrofon reinstecken würden.

00:10:00: Das sieht alles echt aus!

00:10:02: könnte das ja geben.

00:10:04: Und da müsste man sagen, dieses Foto ist KI-generiert weil es ein Deepfake ist.

00:10:08: Was passiert mir denn wenn ich nicht

00:10:09: markiere?

00:10:10: Ich sage ganz kurz wo Sie's, was Ihnen passieren wird, wenn wir zwei auf dem Rücken von einem Dinosaurier sitzen.

00:10:17: Okay,

00:10:17: weil jedem klar ist dass es Unsinn

00:10:19: ist.

00:10:19: Dann ist es kein Deepfak.

00:10:21: Also wenn man erkennen kann, offenkundig.

00:10:24: Dass es es nicht geben kann dann nicht.

00:10:26: Das wird

00:10:27: der deutsche Gerichte wahrscheinlich noch wunderbar beschäftigen?

00:10:29: Ja

00:10:30: ja das wird wunderbar die Richter beschäftigen aber das ist im Prinzip auch leicht verständlich.

00:10:34: ich glaube das muss man einfach nur einhalten.

00:10:36: Wir haben jetzt eine Regulierung.

00:10:37: Es gibt eine Regulerungsbehörde.

00:10:39: Ich muss das jetzt markieren.

00:10:41: Was passiert wenn ich's nicht mache?

00:10:45: Mir ist kein Fall in Deutschland bekannt, wo irgendjemand dafür eine Strafe bezahlt hat.

00:10:48: Ich werde schon nicht der erste sein... Ja,

00:10:50: komm mal, also wir können so machen!

00:10:52: Also ich hätte den Wurm nicht ne?

00:10:54: Weil es ist ja total klar dass wenn sie das lassen Und ein Wettbewerber ist Macht und keinen Bock drauf hat, dass sie es lassen während er es macht.

00:11:07: Einfach mal dieses Formular ausfüllt und sagt Hallo Bundesnetzagentur?

00:11:12: Der Wähler der macht das irgendwie nicht obwohl er im Gesetz steht, dass er es muss.

00:11:17: Guckt euch den Vorgang doch mal an!

00:11:19: Ja, und dann Findungsphase hin.

00:11:21: Und viel zu viel Arbeit her.

00:11:24: Wir machen das ja noch gar nicht so lange mit der Aufsicht auch nochmal hin.

00:11:28: Irgendwie ist es eine Behörde die muss halt dann auch mal irgendwie tätig werden.

00:11:33: Dann werden sie schon ihre Sachen abarbeiten.

00:11:35: Und dann wird da eher noch Formen nach dem Deckel aufgemacht und dann wird man nachgefragt.

00:11:40: Was

00:11:41: kostet

00:11:42: das?

00:11:43: Lass mal da nicht drüber sprechen.

00:11:45: Das kann schon anständig sein, es gibt natürlich von bis und das muss man sich erst zurechtröckeln.

00:11:50: aber die Bußgelder in der KI-Verordnung sind nochmal deutlich höher als in der DSGVO oder das ist schon ordentlich millionenbereich.

00:11:58: So DSGVO sagen Sie was.

00:12:00: jetzt biegen wir mal ab von diesem Regulierungsding?

00:12:04: Aber ein Argument vielleicht noch warum sie... auch nicht so locker flockig damit umgehen sollten wäre, dass sie natürlich unabhängig davon das die KI-Verordnung als Regulierung vor der Brust haben.

00:12:14: Natürlich auch die Datenschutzgrundverordnung haben.

00:12:16: und der Fall den Sie ansprechen?

00:12:20: Genau darum

00:12:21: geht

00:12:22: es!

00:12:22: Es gibt ja nicht nur die Regulierungen als Grund warum ich Dinge mit KI vielleicht nicht machen sollte genau das ist das wo wir jetzt hin wollen sondern es gibt ja auch andere Gründe und andere Gesetze, die es vielleicht in Deutschland schon gibt.

00:12:35: Nehmen wir mal ein konkretes Beispiel Ich habe eine Vertriebsmitarbeiterin Und die kopiert eine Kundenliste In einen privaten ChatGPT-Account Um schneller irgendwas zu bearbeiten Die Liste zu bearbeiten.

00:12:46: Was ist da eigentlich gerade passiert?

00:12:50: Wissen Sie das oder wissen sie das nicht?

00:12:53: Ich vermute dass hat was mit Datenschutz zu tun.

00:12:54: Nee,

00:12:55: das das noch gar nicht Mal.

00:12:56: also ob sie's wissen Oder Nicht Das Ist halt die Frage Ob Sie als Chefbetreiber der KI sind oder Ihre Mitarbeiterin.

00:13:08: Der Normalfall im Unternehmen ist, dass das Unternehmen die Arbeitsmittel zur Verfügung stellt und das wäre eine KI- und diese KI in dem Fallen BOT.

00:13:16: den würden sie lizenzieren dann würden sie als Unternehmen hingehen und würden da bestimmte Einstellungen vormitteln.

00:13:23: Okay viele Unternehmen haben Microsoft Copilot im Einsatz oder sowas?

00:13:25: Genau und dann würden sich da die datenschutzrechtlichen Themen beachten Nauftrassverarbeitung, welche Daten gehen wie wohin?

00:13:34: haben Sie das Ding on-premise oder so weiter und sofort.

00:13:37: Kann Microsoft Copilot sein, kann ChatGBT sein?

00:13:40: Kann Cloud sein, können wir es auch immer sein.

00:13:42: auf jeden Fall ist es sinnvoll wenn das im Unternehmen eingesetzt wird dass das auch vom Unternehmen zur Verfügung gestellt wird.

00:13:48: warum?

00:13:49: weil das Unternehmen natürlich in der Pflicht und in der Lage ist die technisch organisatorischen Sicherheit Einstellungen und Datenschutz eigentlich schon an dem Ding vorzunehmen.

00:13:59: da ist dann vielleicht gar nicht möglich Erinnerungen hat oder aber vielleicht auch gar nicht möglich, dass es ja den Schalter bei ChatClippity heißt das ja dieses Modell für alle verbessern hatten.

00:14:14: Weil das bedeutet nach Hause telefonieren.

00:14:16: dann wird wenn das für alle verbessert wird nicht das aktuelle Modell wohl aber das kommende Modell mit den Daten von den Menschen die das irgendwie akzeptieren, dass das für alles verbessert wird Ja nachtrainiert.

00:14:31: Genau, sowas wird meistens ausgeschlossen in den Accounts, wenn man einen Firmenaccount ein Enterprise-Account bei diesen Herstellern hat.

00:14:38: Ohne

00:14:38: Enterprise-account sollte man in der Firma sowieso nicht arbeiten.

00:14:41: und jetzt haben sie ja gesagt die Mitarbeiterin macht das abends auf dem Sofa oder am Schreibtisch mit einem ChatGBT oder mit einem Bot, der nicht von der Firma kommt.

00:14:51: Also

00:14:51: wenn Sie es mit dem Firmenbot gemacht hätte wäre's okay?

00:14:54: Wenn Sie es damit gemacht hätten wir erst mal die Konstellation dass Sie Betreiber der KI bedeutet, also sie sind der, der verantwortlich ist.

00:15:03: Und dann haben Sie Ihre Mitarbeiterin gedacht so und so machen wir das oder macht die das so?

00:15:08: Wenn Sie im Rahmen dessen hält was Sie zulassen, dann passiert er auch nix.

00:15:14: Das wäre ja so als ob Sie sagen Wir machen immer einmal am Jahr im Grill fest und ihr wisst doch, wir machen den Grill nicht mit dem Bunsenbrenner und mit den zwei Flaschen Spüritus an.

00:15:24: Das hatten wir letztes Jahr und das war nicht gut.

00:15:26: Und so weiter und sofort, ja die Unternehmen sagen der Bilder ist nicht da.

00:15:29: Die Leute waren es nicht dafür machen das jetzt trotzdem.

00:15:32: So wenn Sie das nicht wissen dann wird Ihnen das nach Produkthaftungsrecht auch nicht zugerechnet.

00:15:36: Wenn sie es verboten haben sagen sie aber, mit auch egal wie die den Grillern machen wird schon irgendwie passen.

00:15:44: Dann wird ihnen das zugerechnet und dann haften Sie für den Fall da was passiert.

00:15:48: also sie dürfen den Kopf nicht in Sand stecken bei dem was passieren und insofern ist es sehr wichtig dass sie im Unternehmen den Leuten klare Anweisungen geben dass keine KI Außer der vom Unternehmen zur Verfügung gestellten autorisierten Lizen, sie hat man so weiter KI benutzt wird.

00:16:03: Alles andere nennt man SchattenKI und Schatten KI bedeutet das.

00:16:08: eine KI ist von der Sie nichts wissen, von der sie etwas wissen müssen und wenn es die Ansage gibt an die Beschäftigten... Also es gibt's bei uns nicht, und die machen das trotzdem.

00:16:20: Dann kann man das ihnen schlecht vorwerfen weil sie haben es ja verboten und Sie haben hinreichende Kontrollen vorgenommen und sie haben also ein adäquates Arbeitsmittel zur Verfügung gestellt.

00:16:29: Und da ist die erste Frage geht das mit Ihnen nach Hause oder geht das der Mitarbeiterin nach Hause?

00:16:37: Mit ihr gehts nach Hause wenn sie das macht ohne dass sie das wissen wollen.

00:16:42: Okay, wenn Sie jetzt Ihre eigene Chatchapity-Lizenz zuhause benutzt

00:16:46: Ja,

00:16:47: dann hat sie ein Problem.

00:16:48: Wenn ich es vorher anständig reguliert habe?

00:16:53: Ja klar!

00:16:53: Also dadurch dass Sie das privat mit Ihrem privaten Gerät macht heißt ja nicht, dass es eine Privatangelegenheit wäre.

00:17:01: wenn Sie sich mit Ihren privaten Händen die dienstlich Anrufe sind ja auch kein Privatgespräch und insofern kommt's halt auf das an was ich mache und Sie macht Ihre Arbeit was da schon mal ungewöhnlich ist mit dem privaten Gerät.

00:17:15: Jetzt sage ich es ungewönlich, weil das irgendwie von der Idee ungewündig ist, dass in der Praxis ungewühnlich ist will ich nicht sagen aber das macht's ja nicht besser.

00:17:25: also wenn alle Ratten im Keller haben dann wird das ja kein schöner Vorgang nur weil man sich vielleicht daran gewöhnt das Ratte im Keller auch.

00:17:33: irgendwie will man ja trotzdem nicht und dann tut man etwas dagegen und das wäre halt hier auch so.

00:17:40: Okay, kommen wir noch mal ganz kurz zurück zu Ihrem Beispiel was Sie eben mit dem Grillanzünder in den Bunsenbrenner verwendet haben.

00:17:46: Jetzt nutzt also eine Mitarbeiterin von mir Zuhause eine eigene KI.

00:17:51: jetzt sagen sie so lange ich der irgendwie habe Ich eine KI.

00:17:55: Verordnung haben die meisten Unternehmen und das ist eine Richtlinie Entschuldigung untersteht drin bitte nur unsere KI benutzen.

00:18:01: Wir haben hier Microsoft Co Pilot.

00:18:03: häufig ist es aber da draußen So dass die Modelle die in der Organisation zur Verfügung gestellt werden, nicht so leistungsfähig sind wie das was die Leute vielleicht zu Hause haben und dann machen sie das eben zuhause.

00:18:12: Jetzt kommt die Mitarbeiterin am nächsten Tag ins Meeting und sagt hier guck mal habe ich mit meiner KI Zuhause aufbereitungen präsentiert mir das.

00:18:21: Muss ich da?

00:18:22: in dem Moment weiß ich ja davon?

00:18:23: Wie freilich mich da?

00:18:24: Personalgespräch und Abmahnung

00:18:27: muss sich.

00:18:28: Ne, müssen Sie nicht.

00:18:28: Aber würde ich machen!

00:18:29: Weil sie verheilt sich ja weisungswidrig und bringt sie schon in eine ziemlich blöde Situation weil sie haben ne Weisung gegeben.

00:18:36: wir benutzen das Arbeitsmittel was ich habe was Ich beherrschen kann Was ich bezahlte was ich kontrollieren kann.

00:18:42: jetzt benutzt Du etwas was ich nicht bezahlt hast.

00:18:44: In aller erster Linie ist es Ja Nicht Im Sinne des Erfinders, dass man dienstliche Angelegenheiten auf privaten Endgeräten erledigt.

00:18:55: Das kann Ihnen als Unternehmer nicht recht sein, weil Sie ja gar nicht wissen hat sie da die Kunden ... Es läuft ja außerhalb Ihrer Kontrolle.

00:19:05: Hat sie da Datenschutzvorgaben eingehalten?

00:19:08: Hat sich da irgendwas reingegeben was halt nicht in Ihrem Interesse ist und so weiter.

00:19:14: oder Vielleicht erzählst du auch ein Geschäftsgeheimnis da rein oder was auch immer.

00:19:18: Und dann erzählt es das Geschäfts-Geheimnis rein, da sind da dieses Modell für alle verbessert und ist nicht ausgeschaltet.

00:19:24: Dann geht's halt weiter!

00:19:26: Das kann man natürlich die Frage stellen, wen interessiert.

00:19:32: Ja klar, kann man immer sagen und auch wer kriegt's mit?

00:19:36: Aber das kriegt halt irgendwie dann einer mit wenn sie im Meeting erzählt.

00:19:46: Und dann gibt es da vielleicht einen Kollegen, der ja mal bei der Bundesnetzagentur immer vorbeischaut oder wie auch immer – ich weiß es nicht!

00:19:54: Es gibt ja genug gelehrt, wir müssen glaube ich keine Gedanken machen darüber dass das am Ende des Tages ein Problem wird.

00:19:59: und darüber hinaus sind das möglicherweise noch Verstöße gegen das Datenschutzrecht Ihrerseits, wenn man da was ohne Rechtsgrundlage reingibt.

00:20:11: Wenn man das in eine private KI rein gibt oder wie auch immer vielleicht wollen die Kunden das nicht?

00:20:15: Vielleicht ist es auch gar nicht erforderlich um den Case zu bearbeiten.

00:20:19: Da muss man sich ja auch nochmal fragen darf man das jetzt sagen sie jetzt kommt der wieder mit seinem komischen Moralinsauer und darf man dass und so weiter?

00:20:27: Ja, verstehe ich.

00:20:28: Aber es steht ja nur mal im Gesetz drin und wenn Sie dann einen Fragen der mit dem Gesetz irgendwie zu tun hat soll ich's machen?

00:20:33: Obwohl sie im Gesetz irgendwie jetzt so nicht erlaubt ist, dann können wir ja schlechter warten, da ich sage ne klar, finde ich okay.

00:20:38: Also müssen sich schon selber aushalten dass das okay

00:20:41: ist.

00:20:41: Ich merke nur, dass es eben momentan noch da draußen häufig in vielen Unternehmen im Alltag ist, dass Schadenkai verwendet wird und die vorgesetzt sind das zum Teil sogar... Das wird jetzt präsentiert im Meeting.

00:20:51: Die Mitarbeiterin kommt also mit dem Ergebnis und das Ergebnis ist meistens richtig gut So.

00:20:56: und da fragt man sich natürlich, wenn ich das jetzt verbiete dann kriegt ihr dieses Ergebnis unter Umständen so mit unserer eigenen KI ja gar nicht hergestellt.

00:21:05: Weil die total eingeschränkt ist oder ein veraltetes Modell hat oder was auch immer ist und deshalb machen Mitarbeiter das.

00:21:11: und da frage ich mich schon Ist es denn dann kein Problem?

00:21:14: solange ich's einfach nicht merke?

00:21:16: Muss ich nicht einfach vielleicht nicht fragen weggucken?

00:21:20: Beim Nicht-Fragen-Weg gucken würde ich mal sagen sind sie beim Bunsenbrenner?

00:21:25: Also das müssen Sie schon hinkucken.

00:21:27: Sie müssen generell im Unternehmen hingucken, ob irgendwas doofes passiert.

00:21:31: und ich meine Überlegung könnte auch sein zu sagen also wir kaufen jetzt hier mal irgendwie ein Arbeitsmittel was es kann damit die Beschäftigten dem Unternehmen nicht mit ihrer privat licensierten Software helfen müssen.

00:21:44: Das ist eigentlich schon ein komischer Vorgang, also wir wollen das jetzt eigentlich hier so für wenig Kohle machen aber die haben ja genug Kohle selber und dann sollt ihr mal machen und dann machen wir auf deren Ticket dann irgendwie unser Business und lassen sich uns von deren Lizenzen die Jobaufgaben machen ohne außerhalb von Kontrolle.

00:22:03: Dann ist natürlich eine Geschichte, die wenn das irgendwie hochbar wird schon irgendwie Fragen aufwirft?

00:22:07: Ja ich glaube es geht den Unternehmen selten tatsächlich um das Einsparen der Lizenzgebühren sondern es geht vielmehr meistens darum dass man sich in einer Welt bewegt, die nicht so stark reguliert ist und wenn man das Ganze im Unternehmenskontext sauber aufsetzt viele Unternehmer da draußen eben noch Das ist eben Arbeit.

00:22:27: Man muss sich damit auseinandersetzen, aber ich glaube um mal kurz aus der Rolle zu fahren ganz persönlich es macht schon Sinn das zu tun und zwar nicht nur aufgrund... Ich bin konform mit die Regulierung sondern auch wir zum Beispiel sind Dienstleister Wir arbeiten für Kunden.

00:22:43: Wir haben ein ISO-Siebenzwanzigtausend Eins Zertifikat.

00:22:45: Wir müssen uns an bestimmte Informationssicherheitsvorgaben halten Und wir bekommen auch ein Problem mit unseren Kunden, wenn wir gegen unsere AVVs verstoßen.

00:22:53: So und da sind wir im Übrigen im Notfall sogar haftbar und zwar nicht gegenüber der Regulierungsbehörde sondern gegenüber unserem Kunden so.

00:23:02: Wenn wir da natürlich mutwillig gegen irgendwas verstozen dann wird unsere Versicherung unserer Betriebshaftlichversicherung oder die Vermögensschadenversicherung im Zweifel natürlich sagen ja schön aber müssen wir dafür jetzt haften?

00:23:13: bin ich mir nicht sicher

00:23:15: glaube ich auch, dass die da nicht... also eine Versicherung wird ja alles tun um nichts zu bezahlen.

00:23:23: wenn sie irgendwas sich zu schulden kommen lassen ist ihr Job.

00:23:27: Ich fasse nochmal zusammen was wir bis jetzt besprochen haben.

00:23:30: Wir haben gesagt Regulierung gibt's da draußen und da kann mich auch jemand verpetzen.

00:23:35: unter Umständen wird das mal relevant haben aber noch nicht so viele konkrete Fälle.

00:23:38: Datenschutz ist etabliertes Recht Da sollte man natürlich auch nicht gegen Verstoßen.

00:23:43: was meine Kunden angeht, da bin ich ja ohnehin erstmal in irgendeiner Form in der Verpflichtung zu einer normalischen oder dass mein Geschäftsmodell funktioniert.

00:23:50: Jetzt kommen wir mal zu diesem Haftungsthema tatsächlich.

00:23:52: Nehmen wir mal ein konkretes Beispiel?

00:23:55: Ich habe einen Checkboard auf der Webseite.

00:23:58: Der berät also meine Kunden und verspricht den Kunden irgendwas, was sich nicht halten kann.

00:24:04: Verspricht denen Rabatt, den gibt es gar nicht.

00:24:06: Muss ich dir einen Rabatt

00:24:08: geben?

00:24:10: Ja.

00:24:10: Warum?

00:24:12: Sie haben mehr oder weniger einen Vertrag anbieten, konkrete Einzelfallfragen.

00:24:18: Immer mal ein Fall der entschieden ist.

00:24:22: Da haben die beiden Schönheitsgerogen aus dem Fernsehen bekannt Dr.

00:24:26: Nick und Dr.

00:24:26: Rick eine BOT eingesetzt.

00:24:31: Und der BOT hat dann Leuten, die sich mit dem Boot unterhalten haben so ein bisschen erzählt über die Praxis so sinngemäß.

00:24:40: bestimmte Fachärzte und diese Facharztbezeichnung, die gibt es aber nicht.

00:24:44: Hätte der Bord halt irgendwie sich was schönes ausgedacht?

00:24:47: Was gut klingt und die beiden in gutem Licht dastehen lässt.

00:24:50: Und dann hat das die Verbraucherzentrale hier im NRW moniert und dann sind sie verklagt worden wegen Verstoß gegen unlauteren Wettbewerb.

00:25:04: Wegen

00:25:04: der Aussage des Chatbots.

00:25:06: Ja mir Aussage ist Chatbots.

00:25:08: Und dann haben die sinngemäß gesagt, ja, das war doch unser Chatbot?

00:25:11: Dann noch gar nicht wir!

00:25:12: Was haben wir mit dem Chatbot zu tun?

00:25:14: Ja und dann wäre halt meine Frage wenn sie eine menschliche Person einsetzen und die sich irgendwas ausdenkt, dann haften Sie ja dafür.

00:25:25: Und wenn sie eine Maschine einsetzen, die das erzählt nennen Sie mir einen Grund warum sie nicht haften sollen.

00:25:31: Wer soll denn haften dafür?

00:25:32: Also wer soll denn die Verantwortung dafür übernehmen dass sie ihren Geschäftskreis erweitern mit Maschinen und wenn sie keine Ahnung irgendwie Roboter haben und der läuft einen um.

00:25:48: Da kann ich auch nicht sagen, das heißt sie müssen ihren Rechtskreis absichern.

00:25:57: Sie verkehrt Sicherungspflichten dann wenn da was passiert.

00:26:02: Irgendwann muss sich ja nach Hause gehen.

00:26:04: nennen sie mir einen der dafür eher verantwortlich sei können schlecht sagen wir verklasten jetzt den Roboter Wieso?

00:26:11: Der Herrscher der KI hat doch nicht gesagt, dass man den Bot einsetzen soll für solche Zwecke und hat vor allen Dingen auch nichts damit zu tun.

00:26:25: Dass das konkret passiert.

00:26:26: Der Züchter nehmen wir mal wieder...

00:26:29: Da sind wir bei dem Hundebeispiel.

00:26:31: Wenn

00:26:32: der Hund beisst, dann haftet er Halter.

00:26:34: Ja klar!

00:26:35: Der Betreiberhaltende, der ihn einsetzt kann man jetzt schlecht dem Anbieter angessen.

00:26:43: Es gibt aber auch andere Konstellationen, andere Entscheidungen.

00:26:46: hat den München Landgericht entschieden gegenüber Google Gemini mit dem AI oversight.

00:26:52: Da hat der AI oversight irgendwas erzählt was so nicht stimmte und dann hat die Person, die das Betraf gesagt es sollte jetzt lassen.

00:27:04: Da hat Google sehr viel Stampen gestellt, können wir ja nicht führen.

00:27:08: War ja die KI und auch da hat man aber dann in die andere Richtung gesagt ne jetzt bist du Anbieter Google verantwortlich, weil das ist ja ein Ding was bei dir unmittelbar eingesetzt wird.

00:27:19: Da ist kein Dr.

00:27:20: Nick Doktorick dazwischen sondern das ist wie man sagen das Business von Google jetzt nicht mehr einen auf die guten alten URLs zu schicken, sondern da wird halt erst mal was den enormen Geschäft bringt, was natürlich auch zu ordentlich Umwälzungen führt.

00:27:39: Jetzt erstmal im AI Oversight, die die Geschichten erzählt.

00:27:45: Und auch da kann ich nur sagen ja wer soll denn dafür verantwortlich sein wenn nicht der der was davon hat und er es anbietet?

00:27:56: Das sind so ganz ganz.

00:27:58: also

00:28:00: ist das eine Unterschied zu dem was früher passiert ist nämlich der Azubi hat am Telefon die falsche Berufsbezeichnung gewählt.

00:28:07: Ist das ein Unterschied?

00:28:15: Das kommt darauf an, wenn der Azubi... etwas sagt, was irgendwie nicht stimmt.

00:28:23: Dann muss er sich ja in irgendeiner Form fragen... Muss man sich ja fragen, wenn wird das zugerechnet?

00:28:28: Also dem Azubi oder das Unternehmen?

00:28:29: Wenn der Azubis für das Unternehmen sagt und das Unternehmen dahinter steckt, dann sind die schon zusammen.

00:28:35: Es sei denn, dass wer der Fall von ebenen der Azube macht ausdrücklich, was das Unternehmen nicht will!

00:28:41: Ist das halt irgendwie so?

00:28:42: Jetzt könnt ihr bei der KI sagen, die hat

00:28:44: doch wirklich was gemacht.

00:28:46: Ich hab dir das verboten!

00:28:47: Wie sollte er das nicht

00:28:47: sagen?!

00:28:48: Das

00:28:48: Problem ist, dass sie dann aber wieder bei der Parallele vom Tier sind... ...weil Sie haben dem Hund doch wirklich verboten,... ...dass er schon wieder das Butterbrot vom Tisch holen hat und es gemacht.

00:28:57: Dann haftest du trotzdem.

00:28:58: Naja, wenn das bei ihnen vom Tisch holt nicht.

00:29:01: Aber wenn es bei ihren Freunden vom Tisch wohl wahrscheinlich schon.

00:29:04: Dann kriegen sie wahrscheinlich Ärger oder was weiß ich?

00:29:06: Was denen da irgendwie umgräbt oder so was.

00:29:09: Ich hätte doch gesagt du sollst nicht schon wieder unter dem Zaun durchgraben.

00:29:13: Das hatten wir ja auch schon das Thema.

00:29:14: Wenn er's trotzdem macht dann sagen wir ja finde ich ja nett dass mit dem Hund immer so liebevoll redest.

00:29:18: aber jetzt zahlen wir mal den Gärtner und das ist ja nichts anderes.

00:29:21: also Sie können die Vergleich zum Tier wesentlich besser brauchen.

00:29:24: an der Stelle

00:29:25: Nehmen wir mal ein Beispiel aus Australien, die Leute hat da einen Gutachten geschrieben und in diesem Gutachten tatsächlich mit KI-Unterschützung geschrieben erfundene Quellen zitiert.

00:29:36: Und die Inhalte waren wohl sowohl nicht ganz korrekt.

00:29:41: Kunde hat geklagt und gesagt dafür zahl ich nicht das volle Honorar und musste tatsächlich ein Teil des Honorars zurückzahlen.

00:29:46: Weil es in Deutschland genauso?

00:29:48: Ja also... Die Leute wird ja dafür bezahlt dass als Beratungsunternehmen eine Leistung erbringt, für die man als Mensch einsteht.

00:30:00: So in den Welchen Umfang man da für Hilfsmittel einsetzt, das muss die Leute jetzt mit sich ausmachen.

00:30:06: Da kann ja Kunden geben, die sagen ich möchte nicht, dass du was mit KI mauchst, sondern dann ist es mir egal.

00:30:11: Auf jeden Fall wird die Leute natürlich von den Kunden erst mal die Frage entgegenhalten lassen müssen.

00:30:19: wenn ihr nicht mehr selber macht, sondern mit KI macht Dann zahle ich euch natürlich deutlich weniger.

00:30:25: Also wir haben das zum Beispiel bei Anwälten, wenn ein Anwalt eine KI einsetzt für seine Rechtsberatung dann kriegt er gewisserweise Probleme mit dem Recht für Rechtsanwälte weil das Gebührenrecht vergütet ja nicht Maschinenleistungen, sondern menschliche Anwaltsleistung.

00:30:47: Das können Sie halt nach dem Rechtsanwaltsvergütungsgesetz nicht so ohne Weiteres machen.

00:30:51: das heißt sie müssen halt eine neue Honorarstruktur sich ausdenken.

00:30:56: Ich weiß jetzt nicht die Leute anwalt oder wie auch immer auf jeden Fall eine Beratungsfirma.

00:31:01: Aber wenn das nicht nach Gebühren bezahlt wird, sondern irgendwie vertraglicher war, dann können wir es ja machen.

00:31:06: Aber auch da ist natürlich total klar, dass der Mandant erst mal sagen wird, pass mal auf!

00:31:11: Wenn ihr KI einsetzt, dann kostet er erstmal nur die Hälfte, wenn überhaupt weil ihr arbeitet ja auch nur die hälfte.

00:31:18: und dann hat KI das Problem, die Leute das Problem sich was zu eigen macht, was KI fehlerhaft aufwirft.

00:31:26: Da müssen sie natürlich immer noch das kontrollieren überprüfen und dann dafür gerade stehen.

00:31:32: Und jetzt hat man natürlich das Problem dass es in ganz vielen Fällen – das sagen wir auch Rechtsanwälte – Mandanten dorthin kommen und haben etwas von KI und sagen können wir's nicht so machen?

00:31:45: Genau!

00:31:45: Das ist schon zu Achtzig Prozent fertig.

00:31:46: Ist

00:31:46: schon zu acht Prozent fertig und da guckt sich Anwaltssicherst an Fehler, wenn wir die Fehler jetzt rauskemmen.

00:31:55: Wenn es in Stunden umlegen das jetzt genau prüfen ob man so machen kann wo man anders abbiegen könnte und müsste usw.

00:32:02: So dass wir der verhaften dann kostet das wahrscheinlich ein Tack mehr als wenn wir von vornherein bei uns aufgesetzt hätten.

00:32:09: Das verstehen die Mandanten da nicht.

00:32:11: Die Mandanten wollen dass sie mit acht Prozent fertigen Ergebnissen kommen die nix gekostet haben wollen.

00:32:17: dann aber, dass die Anwälte für ein Bruchteil von Geld das dann eben wir so mal sagen rechtlich härten und dann für das Geld was sie schon nicht verdienen auch noch die Haftung übernehmen.

00:32:30: Das heißt

00:32:30: ich kaufe beim Anwalt im Nächsten eigentlich nur noch die Häftung?

00:32:33: Wenn Sie einen finden der es so macht, dann wird's um die Frage gehen wie viel lässt er sich kosten?

00:32:38: also wenn ich Anwaltung wäre dann würde ich, wenn ich die Haiftung annehmen würde, mir teuer bezahlen lassen.

00:32:43: Jetzt lese

00:32:43: ich aber immer diese Vergleichsszenarien von jetzt dem neuesten Opus.

00:32:48: Ich weiß nicht, was immer dann zum Zeitpunkt, wenn man diesen Podcast hört, denn aktuell ist.

00:32:52: die werden ja mal besser?

00:32:54: Ja, besser ... Besser ... Worin?

00:33:00: Also sind die mich irgendwann wirklich so gut wie ein durchschnittlicher Anwalt der jetzt für mich einen AVV oder ein paar AGB's irgendwie schraubt?

00:33:06: Sagen wir mal so!

00:33:08: Das kann sein dass die in bestimmten Kontexten besser sind als eine durchsinnliche Anwaltung kann auch normal sein aber Es kann auch genauso gut sein, dass er ihn da irgendwas reindonnert was sie wirklich Kopf und Kragen kostet.

00:33:24: Aber

00:33:24: ich habe auch schon in meinem Unternehmerleben Fehler bei Anwälten entdeckt?

00:33:29: Ja Sie finden Fehler zum Glück bei Anwelten überall.

00:33:34: also ich mache Fehler viele und so weiter.

00:33:37: klar weil das alles geht ja nicht um keine Fehler zu machen.

00:33:41: es geht darum die Fehler zuzurechnen.

00:33:44: sie können Eine KI kann von hundert Fällen in fünf Fehlern machen und der Menschen zehn.

00:33:57: Dann haben sie aber die fünf KI-Fehler ohne jede Zurechnung, die sind einfach nicht.

00:34:07: Aber

00:34:07: interessiert mich das, ob das zurechnungsfähig ist oder nicht?

00:34:12: Ich bin kein Jurist.

00:34:13: Nee aber Sie haben es ja mit Juristen zu tun wenn sie Ärger kriegen und dann ist schon... Und es ist auch eine interessante Frage ich zu sagen ja es reicht mir dass es nirgendwo her kommt nirgends wo hin geht.

00:34:24: es ist einfach Es wird ja ist ja nicht mehr menschlich verantwortet.

00:34:28: Okay versuchen wir mal ein bisschen zusammenzufassen heute Wenn ich jetzt also Unternehmer bin was Also worüber soll ich mir konkret Gedanken machen und was sollte ich zumindest mal?

00:34:40: Was ist, wenn Sie jetzt sagen würden.

00:34:43: Das sind die drei Mindestvoraussetzungen.

00:34:45: Darum sollten sie sich kümmern weil haben die Leute eine Stunde zugehört und haben unter Umständen mehr Angst als vorher.

00:34:51: Und dann passiert wieder genau das, was in vielen Unternehmen passiert.

00:34:55: aufgrund dieser ganzen Risiken, die Sie also jetzt dargelegt haben macht keiner etwas.

00:34:59: Und es kann ja auch nicht in Ihrem Interesse sein.

00:35:04: Also was sollte man tun?

00:35:11: Also zuallererst mal, also würde ich mich fragen für welchen Arbeitsvorgang brauche ich wirklich KI?

00:35:20: und wenn ich KI einsetze muss ich mich genau fragen.

00:35:23: Für welchen Zweck setze ich KI ein?

00:35:26: Okay da fällt den Unternehmern meistens ganz viel ein.

00:35:29: die klassischerweise sammelt man Use Cases in den Organisationen und dann kommt man irgendwie auf Hundertfünfzig Fälle.

00:35:36: von denen sortiert man dann fünfundsiebzig wieder aus, weil das eben kein KI ist sondern was anderes.

00:35:40: Aber dann hat man am Ende Fünfundsiebsigfälle wo man sagt da setze ich KI ein okay machen die Leute.

00:35:45: und jetzt

00:35:45: nächster Schritt.

00:35:46: Dann stellt sich die Frage Ist Das Was Ich Da Mache Mit KI?

00:35:51: Hat Das Auswirkungen Auf Rechte Von Menschen?

00:36:01: Ist Es Zum Beispiel So Dass Eine Vorauswahl Von Bewerbern getroffen wird dass an Auswahl von Rechten ist es, wenn man an Lehrer denkt so dass eine Vorschlag von einer Bewertung käme.

00:36:17: Das hat Auswirkungen auch für mich.

00:36:18: vermöchten oder ein Lehrer sagt ich lasse mal die Klassenarbeit von KI erstellen!

00:36:27: Das hat Auswirkungen auf die Rechte der Schüler weil das ist schon ganz schön wichtig ob das eine schwerer oder leichter Arbeit.

00:36:36: Okay, jetzt auch tier ich meine fünfundsiebzig übrig gebliebenen Newscases.

00:36:40: Nach hat das Auswirkungen auf Menschen?

00:36:41: Sollte die die Auswirkung auf Menschen haben lieber beiseitelegen.

00:36:46: bei denen die auswirken auf menschen haben müssen sie dann wiederum zwei sachen beachten.

00:36:51: Sie müssen beachten.

00:36:52: also es sind wir gerade besprochen haben also so damit sie zum.

00:36:56: da müssen sie sehen dass sie doppelte Verpflichtung haben eine dieser zehn jahren gilt und eine die bald gelten wird.

00:37:03: die eine betrifft Datenschutzreiche Verpflichtung, wonach der Mensch den da gerade sie mit dem Werkzeug KI eine Entscheidung unterziehen das Recht darauf hat dass das nicht passiert maßgeblich.

00:37:21: Es sei denn einer der drei Ausnahmen er will es Vertrag oder Gesetz.

00:37:31: ok jetzt nehmen wir die anderen Fälle, die also nicht Menschen betreffen.

00:37:35: Da kann ich einfach Gras geben?

00:37:36: Moment

00:37:37: moment!

00:37:37: Also und bei den Fällen, die das betreffend werden sich noch die Frage stellen Wenn es menschenrechte betrifft sprich ist es also müssen gucken fels unter die hoches kanntenfälle Und dann dürfen sie dass nicht mit jet kpt machen.

00:37:50: in allermeisten fällen also mich nicht mit gpai auch nicht mit flowen.

00:37:53: sonst was brauchen Sie dafür?

00:37:56: eine

00:37:58: KI

00:37:59: die speziell dafür gemacht ist.

00:38:01: Also wenn Sie wieder ein Beispiel aus dem Buch haben wollen, es gibt einen Schweizer Taschenmesser.

00:38:05: mit dem können sie als Mögliche machen.

00:38:06: Gibt welche mit thirty-six Funktionen.

00:38:10: Da könnt ihr alles möglich mitmachen aber als Arzt besser kein Luftröhrenschnitt.

00:38:14: Dafür nehmen Sie einen Skalpell.

00:38:16: Okay also der Arzt sollte sich nicht an Microsoft Co.

00:38:17: Pilot wenden auch wenn das eine UnternehmensKE ist und er sollte sich in einem spezialisieren.

00:38:22: Das darf er schon aus Medizin, aus Berufsrechen gründen nicht.

00:38:25: Er darf's aber auch aus KI gründen.

00:38:28: Wachten, bis es Spezial KI gibt wie so ein One Trick Pony.

00:38:33: Das macht nur einen Trick aber den kann das.

00:38:37: Das ist nur dafür da ich sage jetzt mal Hauttumore zu erkennen.

00:38:42: Ist nur trainiert auf Daten von Hauttomoren.

00:38:45: So und so ein Ding brauchen sie.

00:38:47: vorher müssen Sie nicht drüber nachdenken Es sei denn Sonderfälle in Kliniken für ein Eigengebrauch über die wir hier nicht reden.

00:38:54: Aber

00:38:55: okay, nehmen wir mal an.

00:38:56: Ich habe also jetzt meine fünfundsiebzig use cases die also wirklich gut sind.

00:38:59: ein paar davon betreffen Die rechte von menschen.

00:39:02: soll ich mir vorsichtig sein haben sie gerade ausgeführt ein paar betreffend spezialisierte Dinge wo Sie sagen warte mal lieber bis es eine spezialisiert kei gibt.

00:39:12: und dann haben wir die felle wo Ein chatbot für mein service center marketing sails.

00:39:19: da würden sie sagen vollgas

00:39:21: Befolger, das weiß ich nicht.

00:39:22: Aber da würde ich sagen zumindest mal keine datenschutzrechtliche Bremse aus der automatisierten Einzelentscheidungsproblematik und vor allen Dingen keine KI-Rechebremse Aus der Hochskanzler.

00:39:34: dem Verbot.

00:39:36: Ja, dass ist ja Der Bereich der Fälle von denen man sagt die gehört zu den Achtzig Prozent der grundsätzlich erlaubten Sachen.

00:39:47: also alles was Menschenrechte betrifft ist ja in der Vielzahl aller Fälle, die es auf der Welt gibt.

00:39:53: Wo soll ich heute Abend Essen gehen?

00:39:55: Was ein schönes Kochrezept hilft für meine Muffe zu wechseln bei meinem Spülmaschine.

00:40:00: Tausend Fälle die völlig easy sind.

00:40:02: wie soll ich Heute reich werden?

00:40:03: sag mal Wie geht das?

00:40:04: lass uns mal was überlegen.

00:40:06: kann Ich nicht irgendwelche Aktienkurse mal wechselen In meinen Verträgen?

00:40:09: und wie viel kann ich da gewinnen?

00:40:11: setzt ma um mach ma und so weiter.

00:40:12: Da gibt's ganz viele Sachen Die Sie machen können wo man natürlich rechtlich keinerlei Bedenken hat.

00:40:18: nur dann, wenn Sie Spaß daran haben, verbotene Sachen zu machen oder hoches ganze Sache zu machen.

00:40:23: Dann müssen Sie halt also verboten dürfen sie ähnlich machen und wenn Sie Spass daran haben Hoches ganze Sachen zu Machen, da müssen wir halt die Oder über Menschen KI entscheiden zu lassen.

00:40:33: Da müssen sie halt eben ob ihr seid gut finden oder nicht Die rechtlichen Rahmenbedingungen zur Kenntnis nehmen.

00:40:41: Und mein Tipp wäre jetzt auch Sie jetzt nicht einfach übergehen weil diese Datenschutz Verstöße dann natürlich alle nicht nur Bußgelder nach der DSGVO, sondern auch Schadensatznachsichtszahlen.

00:40:53: Also alle die da betroffen sind können ihnen ja nach der GSGVO-Schadensatsklagen anhängen.

00:41:02: Auch wenn das materiell rechtlich kein Problem ist.

00:41:07: also Beispiel Sie kündigen einen auf Basis von KI und hätten sie aber auch so gekündigt.

00:41:13: Da sagen sie, ja da muss ich ja keinen Schadsatz zahlen weil den hätte ich sowieso gekündigte.

00:41:17: Aber weil sie das mit KI gemacht haben, zahlen sich Schadensersatz.

00:41:22: Weil das eine Datenverarbeitung war die keine Erlaubnis hatte beziehungsweise ein Verbot gegen diesen Roboter-Einsatzverbot wahr?

00:41:30: Jetzt sage ich Ihnen mal zusammenfassen was in meinem Unternehmerkopf so passiert.

00:41:33: Jetzt höre ich Ihnen so zu und habe jetzt eine Stunde versucht diese rechtlichen Rahmenbedingungen und die Rahmenbedingerung der Regulierungsbehörden zu verstehen.

00:41:44: und offen und ehrlich Sie sind Jurist.

00:41:50: Sie machen das gern, sie machen es beruflich.

00:41:53: Es ist an der einen oder anderen Stelle für normalen Unternehmer schwer Das in dieser Detail-Tiefe nachzuvollziehen.

00:42:00: tatsächlich Und jetzt gibt es zwei mögliche Reaktionen darauf.

00:42:03: Reaktion eins ist Ich verstehe das nicht, das klingt irgendwie gefährlich.

00:42:07: ich lasse das besser sein Oder... Ich versteh' das nicht.

00:42:12: Offensichtlich gibts da draußen sowieso noch nicht so viele Beispiele von Strafen.

00:42:17: Ich mach dass einfach Weil mein Befreundeter, Unternehmer, Kollege oder die Konkurrenz, sie macht das auch.

00:42:23: Was würden Sie diesen Leuten sagen?

00:42:25: Es gibt eine dritte Möglichkeit.

00:42:28: Ich verstehe es Dass über Menschenrechte.

00:42:32: Menschen entscheiden müssen nach dem Gesetz.

00:42:34: Wenn er sagt ich versteh das nicht dann würde ich erstmal sagen vielleicht kannst du's irgendwie verstehen wenn Du ganz ganz viel nachdenkst dass das irgendwie so nicht gewollt ist dass die Schulnote von deinem Kind von einem Roboter gegeben wird soll eine Lehre geben da sind Arbeitnehmer eingestellt wird von einem Roboter soll ein Mensch machen.

00:42:49: Vielleicht kannst du es wirklich verstehen, wenn du drüber nachdenkst dass das Gesetz irgendwie das so will?

00:42:53: Weil das kommt ja aus einer Zeit wo diese ganzen KI-Kramen noch gar nicht irgendwie sogar gehypt war und soweit.

00:42:59: Und dieses ist das da.

00:43:00: und jetzt kannst du ja vielleicht verstehen, auch wenn du das gut findest und willst, dass das vielleicht trotzdem irgendwie rechtlich gar nicht vorgesehen ist.

00:43:07: So meiner Seite gut verstehe ich aber ich mach's trotzdem.

00:43:09: dann sind wir bei ihrem Punkt.

00:43:11: Dann würde ich sagen er ist eine Unternehmenscheidung.

00:43:14: Ich mache halt eine Risikoabwägung, ob du das willst oder nicht.

00:43:20: Und ja also es ist natürlich irgendwie klar dass wenn das irgendwie einer sich darüber beschwert und dass es halt irgendwie irgendwie doof ist.

00:43:42: was heißt froh, dass ich kein Unternehmer bin?

00:43:45: Dass du nicht.

00:43:48: Ich würde mir bestimmte Sachen irgendwie verkneifen oder ich würde mal sagen, glaube ich, mir überlegen wie man damit auf eine Weise umgeht die dann jetzt immer noch rechtlich möglich ist und richtig machbar ist und bestimmte Personal, Vorauswahl durch eine Maschine.

00:44:15: Also ich würde es nicht

00:44:16: machen.".

00:44:17: So jetzt klingen Sie in dem was wir gerade hier besprochen haben wie der totale KI-Spielverderber?

00:44:28: Jetzt leben sie das privat aber gar nicht so tatsächlich.

00:44:31: Sie nutzen durchaus KI?

00:44:33: Ja ich habe ja auch gesagt dass acht Prozent von dem was passieren kann erlaubt ist.

00:44:38: warum soll ich das nicht machen?

00:44:39: also Die KI-Spielverderber weiß ich gar nicht.

00:44:46: Wenn in dem Wiedertieren, wenn ich einen Hund kriege und den erziehe, dann bin ich ja kein Hundespielverdärber.

00:44:52: Sondern da mache ich nur das was man sinnvollerweise macht damit der Hund halbwegs zivilisiert mit mir durch den Park gehen kann Und da will ich ja kein Spielverderber.

00:45:02: Für den Hund irgendwie schon, aber für den Rest der Welt halt nicht und sie müssen das an dem Kontext sehen.

00:45:06: Das ist die Frage von wo Sie das Thema betrachten?

00:45:10: Also ich finde dass sich eine differenzierte Betrachtung an den Tag lege und das ist für mich nicht gleich Spielverdärber sondern Spiel nach Regeln.

00:45:19: Haben Sie KI schon mal im Graubereich eingesetzt?

00:45:22: Ich bin unglaublich gewissenhaft!

00:45:26: Jede andere Antwort hätte mich sehr verwundert, Professor Schwartmann.

00:45:30: Ich bin nicht beruhigt!

00:45:31: Jetzt haben Sie ein Buch geschrieben was erschienen ist auch jetzt mittlerweile im Frankfurter Allgemeine Buchverlag.

00:45:36: es heißt Überleben mit KI.

00:45:40: Wie viel KI steckt denn diesem Buch?

00:45:42: Wieviel KI haben sie benutzt um das Buch zu schreiben?

00:45:44: Ja um das buch zu schreiben überhaupt keine.

00:45:50: wenn es um das schreiben des Buches geht.

00:45:52: also jeder Satz ist von mir geschrieben und es auch vor allen Dingen nicht KI optimiert.

00:45:59: Ich habe mich gefragt, gefällt dir die Formulierung?

00:46:01: Und gar nichts habe ich ganz bewusst nicht gemacht weil ich eben einfach in dem Schreiben des Werkes mich haben wollte.

00:46:11: Das ist ja so.

00:46:12: wenn ich was schreibe dann Was funktioniert bei mir so?

00:46:16: ich schreiber sind computer rein ich kann nicht super gut fehlerfrei schreiben und ich schreib dann und an voll tip ich mich.

00:46:24: dann muss ich das wieder weglöschen, fange wieder neu an.

00:46:27: Und dieser Vorgang des Tippens und Wegnehmens ist für mich so eine Art Zeit... zu denken über das, was ich will.

00:46:39: Haben Sie in dem Buch also um den Text zu schreiben keine KI verwenden?

00:46:44: Nein, aber natürlich sind so Dinge drin, dass ich KI Fragen gestellt habe, sowieso Werkzeugtests gemacht.

00:46:52: Also wenn ich Chat gebe, was für ein Tier wärst du... Da muss ich natürlich KI benutzen, damit mir das sacht.

00:47:00: Aber das waren die Sachen.

00:47:01: und immer wenn KI benutzt wurde dann ist hier ein grauer Kasten.

00:47:06: und was in den grauen Kasten hinterlegt da sind KI-Inhalte.

00:47:09: also es ist immer ganz klar dass kommt von KI.

00:47:14: Warum ist Ihnen Text zu heilig?

00:47:17: Auch sehr, wenn ich ihr Buch lese ist das durchaus generierte Zeichnungen da drinnen sind.

00:47:22: Warum haben Sie die nicht selbst gezeichnet?

00:47:24: Es sind ja viele... Also ich habe sie nicht gesagt, vielleicht nicht zeichnen kann und die Leute, die Menschen, die da Zeichen gemacht haben, sind super und die haben sie auch selbst gezeigt.

00:47:32: Das gibt es sowohl als auch.

00:47:34: Erst mal warum ist mir textheilig?

00:47:37: Also warum ist mehr...?

00:47:38: Also das ist vielleicht ein persönlicher Generationenproblem weil, weil, weilsprache mein Zuhause ist Und da kümmere ich mich halt einfach drum, dass es da ordentlich ist.

00:47:51: So ok, sprach es ihr zu Hause.

00:47:52: jetzt gibt's demnächst ein Hörbuch und dieses Hör Buch wurde aber nicht von ihnen eingelesen?

00:47:58: Ne beziehungsweise das ist wirklich ein spannender Punkt.

00:48:02: Es ist ja überhaupt nicht so, dass bei diesem Buch kein KI zum Einsatz gekommen ist.

00:48:07: Hier in dem Buch sind es so, was ich wissen wollte wie visualisiert KI meine Gedanken?

00:48:14: Und dann beschreibe ich meine Gedanken und sage mal, guck mal so mache es KI.

00:48:17: Das sind nicht meine Gedanken.

00:48:18: Es kommt ganz häufig vor dass sich zeigen will das was KI macht nicht Ich bin.

00:48:21: Das dient der Abgrenzung.

00:48:22: diese Bilder mehr als einer Leistungsschau von KI Sondern ich muss es zeigen weil man es sonst nicht sieht.

00:48:29: Ich muss sie auch benutzen um überhaupt bewerten zu können.

00:48:33: aber ich habe nichts von KI Schreiben lassen.

00:48:37: So.

00:48:37: und jetzt sagen Sie ja wie ist es bei dem Hörbuch.

00:48:44: Das ist eine wirklich spannende Geschichte, bei dem Hürbuch ist es so dass ich gerne wollte das ein Hürbuch kommt Und dass der Verzett-Buchverlag kein Hörbuch verlagert und sagt, wir machen das nicht.

00:48:56: Das ist jetzt hier nicht unser Geschäftsheuer.

00:48:58: Wenn Sie das machen wollen, können sie es machen.

00:48:59: Ist gut alles klar?

00:49:00: Dann kriege ich irgendwie die Erlaubnis, das zu machen.

00:49:02: Wunderbar!

00:49:03: So...und dann habe ich mich gefragt wie machst du das so, dass das gut ist?

00:49:06: Ja, Sie können sich ja vor das Mikrofon setzen und das Buch vorlesen.

00:49:08: Genau aber ich wollte es ja so machen, dass es gut ist.

00:49:11: Und wenn ich es machen will, wie's gut ist, dann bin ich nicht der geeignete Mensch dafür das einzulesen.

00:49:18: Und dann sitze ich da mit einem Buch oder mit einem Manuskript und lese das ein, und das passiert natürlich auch nicht für mich alleine.

00:49:27: So hätte ich es mir jedenfalls nicht vorgestellt, sondern ich gehe da in den Studio – das muss ich buchen!

00:49:30: Da sitzt ein Regisseur, der hört sich einen ganzen Kram an und er sagt man hier hast du schnell zu langsam gelesen

00:49:34: usw.,

00:49:34: und so fort….

00:49:35: Das ist halt wahnsinnig viel für mich nicht ….

00:49:42: ja wie soll ich das sagen?

00:49:44: Gut, machbare Tätigkeit.

00:49:46: Ich bin kein Synchronsprecher!

00:49:55: Maßstab an, als wenn Sie den Text schreiben.

00:49:58: Weil am Ende tun sie das Gleiche wie das was tausende Unternehmen tun die KI generierte Inhalte verwenden weil die eben einfach sagen ansonsten erzeug ich den inhalt eben gar nicht oder es kostet zu viel Geld ihn zu erzeugen Es ist so aufwendig oder ich kann es eben einfach nicht und deshalb nutze ich den KI generierten Inhalt.

00:50:14: Das heißt wir haben ja zwei verschiedene Maßstäbe.

00:50:15: Wenn Sie den text schreiben sagen Sie Auf keinen Fall mache ich das mit KI.

00:50:18: Wenn Sie das einsprechen Sagen Sie Ja gut Ich kann das nicht gut genug.

00:50:23: also soll die KI das machen?

00:50:24: Ja, weil das eine eine inhaltliche Sache ist und das andere einer ja würde man sagen Verpackung.

00:50:33: Das hat ja dass der nichts inhaltlich ist.

00:50:35: Die KI leistet ja außer vielleicht einer bestimmten Betonung Nichts Inhaltliches zu dem Buch.

00:50:42: nicht nichts nichts nichts kein Gedanke Kein spin kein gar nichts gar nichts kommt von KI.

00:50:50: da ist nichts was nicht von mir ist.

00:50:55: Auch meine Stimme ist ja von mir, die ist kein Kapitel eingelesen.

00:50:59: Da wird sie synthetisiert und dann muss das Buch als Wörterkument eingelesend werden oder eingelesen werden.

00:51:07: Und dann wird das mehr oder weniger vor einer KI gelesen.

00:51:09: Und was man da hört, ist eine professionelle Stimme, die meine ist, die mir gehört, die meiner Persönlichkeit auch entsprechend, der ich Rechte habe in eine andere Ausspielform bringt, die aber natürlich nichts an irgendwelchen Inhalten ändert.

00:51:35: Und ich habe ja hier auch zum Beispiel Zeichnungen drin, die ich von KI hab ummodeln lassen einfach um mehrere von diesen kleinen Roboterfigurchen dazu generieren Zeichner gemalt, er hat mir erlaubt dass ich die da benutzen darf und dann habe ich das gemacht.

00:51:51: Und dann ist es halt irgendwie nett.

00:51:53: Das ist ein Ding was ja wenn man das transparent macht, was ich natürlich tue und wenn man sich auch damit einverstanden erklärt, dass man diese persönliche Sache des Vorlesens einer Roboter Stimme überlässt Dann würde ich sagen, die KI darf den Menschen unterstützen aber nicht ersetzen.

00:52:20: Von Ersetzung kann ja keine Rede sein.

00:52:23: und bei der Unterstützung ist es wirklich so dass ich mir die Frage gestellt habe liest du selber ein was du nicht kannst und was teuer wäre und was schlecht wäre weil du ja das Studio buchen musst, buche ich einen Sprecher was viel zu teuer für oder nimmst du etwas was nah an dir ist?

00:52:40: Aber mit offenem Visier eine synthetische Form deiner Stimme und wenn man das hört, dann klingt es gut.

00:52:48: Und das ist eben einfach auch.

00:52:51: vielleicht noch ein wichtiger Satz zum Abschluss ich bin nicht gegen KI im Gegenteil Ich bin sehr einverstanden damit dass es KI gibt und nutze die auch super gerne.

00:53:03: aber ich pflege halt einen wirklich differenzierten auch sehr bewussten und für mich verantwortbaren Umgang damit, der ist rechtlich verantwortbar.

00:53:14: Und was hier eine Rolle spielt?

00:53:16: Der ist auch noch persönlich mit dem verantwortbare Was ich möchte.

00:53:22: Ich nehme mal Ihren vorletzten Satz mit, den Sie gesagt haben.

00:53:25: Dass wir das KI den Menschen unterstützen darf aber nicht ersetzen und ich hoffe dass heute in diesem Podcast sie die Leute auch davon überzeugen konnten KI verantwortungsvoll einzusetzen und zwar aus ganz ganz unterschiedlichen Perspektiven.

00:53:41: verantwortung voll zum einen eben aus regulatorischen Vorgaben, aber natürlich auch haftungsrechtlichen Vorgaben oder vielleicht auch einfach moralisch gesetzlichen Vorgeben.

00:53:51: Und ich bin sicher dass Sie zumindest umfangreich aufgeklärt haben über die Risiken heute und bedanke mich deshalb für diesen sehr dieses sehr umfangreiche und detailltive Gespräch.

00:54:04: Vielen vielen Dank Professor Schwartmann

00:54:07: Danke Ihnen.