의료인공지능과 민사상 책임

Abstract

Die Frage der zivilrechtlichen Haftung bei KI wirft eine Reihe schwieriger Fragen auf. Dies hängt insbesondere mit den Merkmalen der KI wie Autonomie, Unvorhersehbarkeit und Unerklärbarkeit zusammen, die es schwierig machen, das Problem der Haftung im Zusammenhang mit der KI mit der bestehenden zivilrechtlichen Haftung zu lösen. Zunächst einmal ist die Autonomie der KI mit dem Problem der Tätigkeit des Menschen verbunden, um die zivilrechtliche Haftung zu erkennen. Da die KI Informationen aus der äußeren Umgebung gewinnt und dadurch selbst lernt und ihren Algorithmus ständig verändert, sind die Handlungen der KI selbst das Problem und weniger die relevanten Personen hinter der KI, d.h. Entwickler, Hersteller und Nutzer. Daher ist es nicht einfach, sie in Fällen, in denen ihre Handlungen minimiert werden, zur Verantwortung zu ziehen. Die Unvorhersehbarkeit von KI ist auch ein Problem bei der zivilrechtlichen Haftung. Die zivilrechtliche Haftung basiert grundsätzlich auf Fahrlässigkeit, aber es ist schwer vorstellbar, dass jemand das Verhalten von KI im Voraus vorhersehen und vermeiden kann, so dass es nicht einfach ist, Fahrlässigkeit zu verlangen. Das Problem der Unerklärbarkeit besteht darin, dass für die Anerkennung einer bestimmten Haftung die Ursache des Ergebnisses im Nachhinein rekonstruiert werden muss. Im Falle der KI ist es jedoch schwierig, die Ursache des Ergebnisses im Nachhinein zu ermitteln, da sich der Algorithmus ständig verändert und es nichtmöglich ist, im Nachhinein zu wissen, welche Informationen er erhalten hat und wie er erarbeitet hat. Im Falle der medizinischen KI kommen all diese Schwierigkeiten im Zusammenhang mit der Anerkennung der zivilrechtlichen Haftung von KI ebenfalls zum Ausdruck. Bei medizinischer KI kann jedoch nicht dasselbe gelten wie bei allgemeiner KI, da eine medizinische Behandlung, die eine Einwirkung auf den menschlichen Körper darstellt, eine Besonderheit darstellt. Mit anderen Worten, die medizinische Beurteilung und Behandlung wird letztlich den Ärzten, die medizinische Experten sind, verantwortlich, und selbst wenn eine bestimmte Behandlung durch eine vertrauenswürdige medizinische KI durchgeführt wird, kann nicht davon ausgegangen werden, dass die Verantwortung des Arztes, dadurch entlastet wird. Daher ist es unwahrscheinlich, dass sich die bestehende rechtliche Struktur der Haftung für Ärzte auch in Situationen, in denen KI eingesetzt wird, wesentlich ändern wird. Angesichts der kontinuierlichen Entwicklung der KI können die bestehenden zivilrechtlichen Haftungsgrundsätze jedoch nicht alle Probleme der KI lösen, so dass das Produkthaftungsrecht in dieser Situation eine mögliche Alternative darstellt. Insbesondere im Zusammenhang mit medizinischer KI sind Änderungen erforderlich, um Software in Produkte einzubeziehen, und auch die Regeln für die Vermutung von Produktfehlern müssen geändert werden. Insbesondere die Pflicht des Herstellers, Schäden am Produkt zu beobachten und zu verhindern, dürfte hier eine wichtige Rolle spielen.