Odpowiedzialność cywilna za sztuczną inteligencję

Dr hab. prof. UMCS Małgorzata Dumkiewicz, Instytut Nauk Prawnych, Uniwersytet Marii Curie-Skłodowskiej

Dr hab. Monika Rejdak, Instytut Nauk Prawnych, Uniwersytet Marii Curie-Skłodowskiej

Recenzenci prof. dr hab. Mirosław Karpiuk, prof. dr hab. Mirosław Sadowski

redakcja językowa Lexeme (Agata Sawicka-Korgol)

przygotowanie ebooka 4idea

Projekt okładki 4idea (Gabriela Chołuj)

Na okładce wykorzystano reprodukcję obrazu Improvisation 26 autorstwa Wassilego Kandinskiego

Copyright © by Instytut Wymiaru Sprawiedliwości, Warszawa 2021

ISBN 978-83-66344-85-3

Wydawnictwo Instytutu Wymiaru Sprawiedliwości

ul. Krakowskie Przedmieście 25, 00-071 Warszawa

sekretariat tel.: (22) 630-94-53, fax: (22) 630-99-24, e-mail: wydawnictwo@iws.gov.pl

§ 1. Węzłowe problemy odpowiedzialności cywilnej (odszkodowawczej) za sztuczną inteligencję

1.1. Uwagi wprowadzające

Obecnie jesteśmy świadkami dokonującej się na naszych oczach kolejnej, czwartej już, rewolucji technologicznej (określanej nową) o zasięgu światowym (ang. The Fourth Industrial Revolution, Industry 4.01), która dotyczy sztucznej inteligencji (Artificial Intelligence, AI), w tym w szczególności inteligentnych robotów, Internetu rzeczy2, drukarek 3D oraz autonomicznych pojazdów. Zjawiska te integrują świat fizyczny, biologiczny oraz cyfrowy3. Konsekwencją tego są i w przyszłości będą podejmowane zmiany regulacji prawnych4, albowiem postęp technologiczny nigdy wcześniej nie następował właśnie tak dynamicznie5 (ostatnio przyczyniła się do tego również pandemia COVID-19, a wraz z nią potrzeba rozwijania świata w obszarze cyberprzestrzeni). To, co natomiast odróżnia obecne czasy od wcześniejszych rewolucji przemysłowych, to szybkość dokonujących się zmian. Warto tu zauważyć, że badania nad sztuczną inteligencją nie są wcale nowe, gdyż ich geneza sięga nawet dalej niż prace nad Internetem. Badania nad Internetem trwały od lat 60. ubiegłego wieku, z kolei nad sztuczną inteligencją rozpoczęły się jeszcze w latach 40. XX w. Zresztą za prekursora sztucznej inteligencji (w postaci uczenia maszynowego, będącego jedną z postaci sztucznej inteligencji) uznaje się bomb machine Alana Touringa i jego zespołu, którą wynaleziono celem odszyfrowania słynnej niemieckiej Enigmy6.

Tym zatem, co charakteryzuje obecny postęp, jest jego dynamiczny rozwój. Niesie on ze sobą zarówno korzyści, jak i, niestety, ryzyko braku odpowiedniego bezpieczeństwa (świadczą o tym chociażby propagandy botów czatowych, głoszących wrogie hasła dyskryminujące, np. na tle rasowym czy wypadki spowodowane przez pojazdy samojezdne7). Dalszy rozwój sztucznej inteligencji jest jednak nieunikniony. Prognozuje się, że „stanie się ona wkrótce tym, czym jest elektryczność”. Będzie zatem zarówno powszechna, jak i konieczna8. Podkreśla się, że w najbliższych latach sztuczna inteligencja przeniknie wszelkie obszary życia społeczno-gospodarczego9, a w szczególności służbę zdrowia, edukację oraz transfer danych, zarządzanie, finanse, edukację, prawo, łączność, komunikację, transport (w tym również branżę kosmiczną), rolnictwo, ochronę środowiska czy bezpieczeństwo10. Do tego dodać trzeba zjawiska będące efektem wpływu sztucznej inteligencji na zachowania społeczne (social media, gry).

Według białej księgi wydanej przez Komisję Europejską sztuczna inteligencja to zbiór technologii łączących dane, algorytmy i moc obliczeniową. To od niej – według tego dokumentu – ma zależeć zarówno aktualny, jak i przyszły zrównoważony wzrost gospodarczy i dobrobyt społeczny Europy. Obecnie większość danych objętych nowoczesną technologią związana jest z konsumentami. Dane te są przechowywane i przetwarzane w centralnej infrastrukturze opartej na chmurze obliczeniowej. Jak wynika z białej księgi, znaczna część przyszłych, bogatszych danych pochodzić będzie jednak z przemysłu, przedsiębiorstw i sektora publicznego. Będą one przechowywane w różnych systemach, w szczególności w urządzeniach obliczeniowych pracujących na obrzeżach sieci. To z kolei otwiera nowe możliwości dla Europy, która ma – jak wynika z tej księgi – silną pozycję w branży cyfrowej i w zastosowaniach między przedsiębiorstwami (business-to-business). Jednakże ma stosunkowo słabą pozycję, jeśli chodzi o platformy konsumenckie11.

Wprawdzie nie wiemy, do jakiego stopnia w przyszłości rozwinie się sztuczna inteligencja, jest ona jednak technologią teraźniejszości, a nie przyszłości (o czym przykładowo świadczy obecność robota Leonardo de Vinci, stosowanego w różnych dziedzinach chirurgii, czy fakt, że znaczna część obrotu na giełdach amerykańskich jest wynikiem automatycznych decyzji podejmowanych przez algorytmy12).

Powyższe okoliczności implikują realną i palącą potrzebę rozważenia, czy dotychczasowe zasady odpowiedzialności cywilnej (odszkodowawczej) stosowane wobec sztucznej inteligencji są wystarczające. Powstaje bowiem pytanie, czy regulacje, które stworzono wcześniej celem bezpośredniego unormowania innych obszarów życia społeczno-gospodarczego, mogą również stanowić skuteczną ochronę z tytułu odpowiedzialności cywilnej za sztuczną inteligencję. Jednocześnie, dostosowując rozwiązania do sztucznej inteligencji, pamiętać trzeba, że zakres jej stosowania będzie ulegał ciągłemu poszerzaniu, obejmując swoim działaniem coraz więcej obszarów cywilnoprawnych. Zauważmy, jak dynamicznie tworzone są nowe aplikacje na smartfonach, dokonuje się rozbudowa największych korporacji świata działających w Internecie, takich jak Amazon, Google czy Facebook13. Tym samym już teraz dochodzi do przemodelowania struktury społeczno-gospodarczej świata. Rozwój sztucznej inteligencji, który stanowi motor tych zmian, jest nie tylko ilościowy, ale przede wszystkim jakościowy. Przy czym jest to proces globalny, rzucający istotne wyzwania utrwalonym światowym strukturom gospodarczym i społecznym. Nowoczesne technologie zakwestionowały zatem zastany i stabilny układ stosunków społecznych, dotychczas zdominowanych wyłącznie przez człowieka i przez człowieka tworzonych i zmienianych14.

Stąd założeniem niniejszego opracowania jest zwrócenie uwagi na konieczność właściwego ukształtowania odpowiedzialności cywilnej (odszkodowawczej) za sztuczną inteligencję (w szczególności za sztuczną inteligencję o cechach niebezpiecznych). Dotyczy to sytuacji, kiedy szkody powstałe na skutek jej użycia są konsekwencją pewnych cech sztucznej inteligencji uznawanych za niebezpieczne, a zwłaszcza wówczas, gdy jest ona stosowana masowo15. Przykładowo w wyniku błędu w technologii rozpoznawania obiektu samochód autonomiczny może niewłaściwie zidentyfikować obiekt na drodze i spowodować wypadek, w którym dojdzie do obrażeń ciała i szkód materialnych. Zagrożenia te mogą wynikać z wad samego projektu sztucznej inteligencji, jak też mogą polegać na problemach z dostępnością i jakością danych bądź wynikać z problemów pojawiających się podczas procesu uczenia się maszyn. Dodatkowo, pomimo tego, że niektóre z tych zagrożeń nie są ograniczone do produktów i usług opartych na sztucznej inteligencji, wykorzystanie sztucznej inteligencji może spowodować ich nasilenie16.

Szybkość dokonujących się zmian technologicznych i ich moc powoduje, że obecnie jeszcze bardziej niż kiedykolwiek wcześniej należy ocenić, jaki wpływ na społeczeństwo, a ściślej – podmioty prawa cywilnego, w szczególności zaś człowieka – będą miały dokonujące się zmiany, za którymi muszą podążać nowe regulacje prawne. Rolą tych norm powinno być zminimalizowanie ryzyka i zagrożeń, jakie są związane ze sztuczną inteligencją (błędami sztucznej inteligencji)17. Tu z kolei fundamentalną rolę odgrywa kwestia odpowiedzialności cywilnej. To właśnie z uwagi na poziom zaawansowania, jaki osiągnęła sztuczna inteligencja, w tym robotyka, wszelkie regulacje prawne powinny rozpoczynać się od kwestii odpowiedzialności cywilnej18. Sztuczna inteligencja może naruszać bowiem podstawowe dobra osobiste, takie jak m.in.: życie, zdrowie, nienaruszalność cielesna, prywatność, godność, tożsamość, integralność psychiczna, ale również własność.

Chociaż sztuczna inteligencja może przynieść wiele korzyści, w tym poprzez zwiększenie bezpieczeństwa produktów, może też jednak wyrządzić znaczne szkody. Mogą to być zarówno szkody materialne – dotykające bezpieczeństwa i zdrowia osób, w tym utraty życia – czy rzeczowe, jak i niematerialne, polegające na utracie prywatności, ograniczeniu prawa do wolności słowa, naruszeniu godności, dyskryminacji związanej np. z dostępem do zatrudnienia. Mogą się one wiązać się z wieloma różnymi rodzajami ryzyka. Dlatego regulacje prawne powinny skupić się na wprowadzaniu rozwiązań, które miałyby zminimalizować to ryzyko19.

Szczególną uwagę przy kształtowaniu odpowiedzialności cywilnej za sztuczną inteligencję należy zwrócić na fakt, że może być ona przyczyną naruszeń (i to o skali masowej) prawa do poszanowania życia prywatnego oraz danych osobowych (np. dotyczy to stosowania kamer czy czujników w robotach). Ponadto sztuczna inteligencja zwiększa możliwość śledzenia i analizowania codziennych zachowań ludzi. Na przykład – jak podkreśla Komisja Europejska – istnieje potencjalne ryzyko, że sztuczna inteligencja może być wykorzystywana – z naruszeniem unijnych przepisów dotyczących ochrony danych i innych – tak przez organy państwowe lub inne podmioty prowadzące masowy nadzór, jak i przez pracodawców obserwujących zachowanie pracowników. Poprzez dokonywanie analizy dużych ilości danych i identyfikację powiązań między nimi sztuczna inteligencja może być również wykorzystywana do znajdywania źródeł pochodzenia danych i deanonimizacji danych dotyczących osób, co stwarza nowe zagrożenie dla ochrony danych osobowych, nawet w odniesieniu do zbiorów danych, które same w sobie nie obejmują danych osobowych. Sztuczna inteligencja jest – jak zauważa Komisja Europejska – również wykorzystywana przez pośredników internetowych do priorytetowego traktowania informacji dla swoich użytkowników i moderacji treści. Przetwarzane dane, projekt aplikacji i możliwość interwencji człowieka mogą mieć wpływ na prawo do wolności słowa, ochrony danych osobowych, prywatności i swobód politycznych20. Inne zagrożenie jest związane ze zdobywaniem i gromadzeniem danych biometrycznych do celów zdalnej identyfikacji, np. poprzez wykorzystanie rozpoznawania twarzy w miejscach publicznych. Takie działanie sztucznej inteligencji niesie ze sobą szczególne ryzyko dla praw podstawowych21.

Prawa chroniące prywatność oraz dane osobowe są zapisane w art. 7 i 8 Karty praw podstawowych oraz w art. 16 Traktatu o funkcjonowaniu Unii Europejskiej (TFUE)22. Tymczasem sama sztuczna inteligencja powstaje właśnie poprzez dostęp do danych osobowych. Przecież to właśnie na informacji o osobach fizycznych, czyli danych osobowych, oparte są decyzje podejmowane przez sztuczną inteligencję, które później służą do przygotowania modeli biznesowych23. Ponadto decyzje podejmowane przez sztuczną inteligencję mogą godzić w prywatność. Stąd podstawową kwestią jest właściwe unormowanie dopuszczalności, przetwarzania, zakresu i źródeł pozyskiwania danych osobowych24. Jednym z istotnych kierunków działań polityki unijnej jest weryfikacja zgodności modeli sztucznej inteligencji z rozporządzeniem PE i Rady (UE) 2016/679 z 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE. Pomimo tego, że UE podkreśla wyższość ochrony danych oraz prawa do prywatności nad sztuczną inteligencją, to jednak już teraz w piśmiennictwie dostrzega się, że z czasem ten trudny do pogodzenia konflikt wartości między ochroną prywatności a rozwojem sztucznej inteligencji może doprowadzić do „poluzowania” ochrony danych osobowych czy ochrony prywatności na rzecz rozwoju sztucznej inteligencji, podnosząc, że to właśnie zdobyte dane mogą przyczynić się do zapewnienia rozwoju sztucznej inteligencji, który może przełożyć się na ochronę życia czy zdrowia (np. do wykrywania przez sztuczną inteligencję chorób)25.

Do powyższych zagrożeń dodać również trzeba obszar odpowiedzialności umownej, bo tu także funkcjonuje sztuczna inteligencja, która może być stworzona celem wybierania swoich kontrahentów, negocjowania warunków umownych, zawierania umów i decydowania o tym, czy i w jaki sposób je wdrożyć. To powoduje, że do tych sytuacji nie da się bezpośrednio zastosować tradycyjnych przepisów. Powstaje potrzeba wprowadzenia nowych, skutecznych i aktualnych rozwiązań, które byłyby dostosowane do rozwoju technologicznego i innowacji26. Korzystanie ze sztucznej inteligencji, która polega przecież na zautomatyzowanych metodach komunikacji, wskazuje, że może dojść do wprowadzenia w błąd, i tym samym uzyskania w sposób nieuczciwy przewagi rynkowej nad kontrahentem (np. w szczególności konsumentem) celem osiągnięcia nienależnych korzyści ekonomicznych. Do tego dochodzi aspekt nieważności umowy czy błędów popełnionych przy jej zawieraniu. Wszystko to prowadzi do odpowiedzialności odszkodowawczej. W przypadku umów zawieranych z użyciem sztucznej inteligencji następuje – jak zauważa się w doktrynie – „rozszczepienie” zadań wykonywanych dotychczas osobiście przez podmioty prawa cywilnego (oświadczających)27. Do tego dodać również trzeba zjawisko umów kreatywnych (smart contracts), czyli umów, które same się zawierają, tworząc treść, same dostosowują swoje parametry techniczne do zmieniających się warunków28.

Z kolei z uwagi na fakt, że sztuczną inteligencję cechuje masowość, ponadgraniczność, międzynarodowy, a ściślej – światowy, zasięg, koniecznością jest przede wszystkim unormowanie kwestii odpowiedzialności cywilnej na poziomie (chociażby) regulacji unijnych29. Tworzenie ograniczonych rozwiązań jedynie krajowych w tym przypadku jest niecelowe. Po pierwsze, sztuczna inteligencja jest zjawiskiem globalnym, po drugie, implikuje ona masowe naruszenia prawa o zasięgu globalnym. Wykorzystywanie zatem cyberprzestrzeni daje możliwość podlegania różnym jurysdykcjom. Oczywiście najlepszym rozwiązaniem byłaby regulacja o zastosowaniu światowym, jednakże – jak zauważa się – dotychczasowy brak rozwiązań globalnych dotyczących odpowiedzialności cywilnej oraz brak stosownego forum, na którym można tę kwestię przygotować, prowadzi do stanowiska, że na chwilę obecną byłoby to zadanie zbyt długotrwałe, mijające się z celem, tj. potrzebą szybkiej i skutecznej regulacji. Dlatego też aktualnie jedynym optymalnym rozwiązaniem jest osiągnięcie regulacji unijnej30.

Unia Europejska już dawno rozpoczęła intensywne prace, które są kontynuowane31. Obecnie Parlament Europejski w swojej rezolucji z zaleceniami do Komisji z dnia 20 października 2020 r. podkreśla i dostrzega fakt, że wszelkie działania fizyczne oraz wirtualne opierające się na systemach sztucznej inteligencji, urządzenia czy procesy, w których są zastosowane systemy sztucznej inteligencji zasadniczo mogą być bezpośrednią lub pośrednią przyczyną szkody, a jednocześnie są one niemal zawsze wynikiem tego, że ktoś skonstruował lub wdrożył taki system albo ingerował w niego32. Chodzi o odpowiedzialność za taką wadliwość sztucznej inteligencji, która – analogicznie do odpowiedzialności za niebezpieczne produkty – w konsekwencji prowadzi do tego, że nie zapewnia ona bezpieczeństwa, którego należałoby się spodziewać po danym rodzaju sztucznej inteligencji. Przede wszystkim rzecz dotyczy niebezpieczeństw wynikających z jej wady bądź niewłaściwej jakości, a nie o niebezpieczną inteligencję w ogólności (per se)33. Przy ocenie, czy produkt (sztuczna inteligencja) spełnia wymogi bezpieczeństwa, „jakiego można oczekiwać, uwzględniając normalne użycie produktu”, obecnie (kierując się naszym prawem krajowym) bierzemy pod uwagę ustawę z 12 grudnia 2003 r. o ogólnym bezpieczeństwie produktów34. Wynika z niej obowiązek producentów i dystrybutorów wprowadzania na rynek wyłącznie produktów bezpiecznych35. Produkt uważa się za bezpieczny, jeśli „w zwykłych lub innych, dających się w sposób uzasadniony przewidzieć, warunkach jego używania, z uwzględnieniem czasu korzystania z produktu, a także w zależności od rodzaju produktu, sposobu uruchomienia oraz wymogów instalacji i konserwacji, nie stwarza żadnego zagrożenia dla konsumentów lub stwarza znikome zagrożenie, dające się pogodzić z jego zwykłym używaniem i uwzględniające wysoki poziom wymagań dotyczących ochrony zdrowia i życia ludzkiego art. 4 ust. 1)”. Z przepisu tego wynika, że przy ocenie bezpieczeństwa produktu należy ocenić jego cechy, oddziaływanie na inne produkty, jego wygląd, oznakowanie oraz ostrzeżenia i inne informacje udostępnione konsumentom. Ponadto bierze się pod uwagę kategorię konsumenta, który jest narażony na niebezpieczeństwo36. Możemy mieć również do czynienia z przypadkami sztucznej inteligencji niebezpiecznej per se, kiedy w określonych rzeczach występują wady implikujące większe zagrożenia, niżby to wynikało z istnienia normalnego ryzyka wobec określonego rodzaju rzeczy37. Trzeba również zauważyć, że w przypadku sztucznej inteligencji dużym problemem jest określenie standardu co do oczekiwanego bezpieczeństwa. Na pewno należy się spodziewać, że poziom oczekiwań konsumentów jest (będzie) bardzo wysoki38. Przy dokonywaniu tej oceny należy założyć obiektywny brak bezpieczeństwa sztucznej inteligencji, a następnie skonfrontować ten stan z usprawiedliwionymi oczekiwaniami39.

Powyżej przywołane zjawiska i zagrożenia z nich wynikające dla podmiotów prawa prywatnego (głównie człowieka) implikują konieczność rozważenia doboru właściwych rozwiązań w zakresie odpowiedzialności cywilnej za sztuczną inteligencję, czyli przede wszystkim sprecyzowania, jakie podmioty oraz na jakich zasadach powinny odpowiadać za konsekwencje funkcjonowania w życiu społeczno-gospodarczym sztucznej inteligencji. Jednym z koniecznych rozwiązań zabezpieczających społeczeństwo przed nadużyciami sztucznej inteligencji jest wprowadzenie ustawowego wymogu, aby to wyłącznie człowiek miał sprawować kontrolę nad sztuczną inteligencją (co jednocześnie stanowi jedno z praw Asimova ujętych w rezolucji Parlamentu Europejskiego z 2017 r.)40. Wybór czy stworzenie odpowiednich rozwiązań (narzędzi prawnych) może z jednej strony zminimalizować ryzyko negatywnych konsekwencji powstawania oraz obecności sztucznej inteligencji w społeczeństwie41, a z drugiej może wpłynąć na jej powszechną akceptację, co z kolei ma znaczenie dla jej dalszego rozwoju. Właściwe zatem ujęcie regulacji odpowiedzialności cywilnej za sztuczną inteligencję powinno uwzględniać zarówno skuteczną i sprawiedliwą ochronę poszkodowanych, jak i gwarantować (zwłaszcza małym i średnim) przedsiębiorstwom rozwój nowych technologii.

W tym zatem przypadku pojęcie odpowiedzialności może mieć nowe, szersze znaczenie. Ma bowiem nie tylko gwarantować osobie, która ucierpiała lub poniosła szkodę, prawo do wniesienia i uzyskania roszczenia odszkodowawczego od strony, której udowodniono, że ponosi odpowiedzialność za wyrządzone szkody, ale również musi być zachętą ekonomiczną dla osób fizycznych i prawnych, aby unikały wyrządzania szkód bądź w swoim działaniu uwzględniły konieczność wypłacenia odszkodowania (rezolucja Parlamentu Europejskiego z dnia 20 października 2020 r. )42.

Podkreślić jednak trzeba, że to nie sztuczna inteligencja jest prekursorem poszukiwań nowej ścieżki odpowiedzialności cywilnej. Dokonała tego już dużo wcześniej regulacja o odpowiedzialności za produkt niebezpieczny, która kształtowała się od rozwiązań dotyczących odpowiedzialności za wadę aż do regulacji o odpowiedzialności za niebezpieczne produkty. Świadomość potrzeby wprowadzenia instytucjonalnego wyodrębnienia odpowiedzialności za produkt pojawiła się już w latach 60. ubiegłego wieku. Historycznie odpowiedzialność ta wywodzi się z tytułu nienależytego wykonania zobowiązania. Stąd pojęciowo nawiązywała do „wady” rzeczy, która miała polegać na braku oczekiwanego bezpieczeństwa produktu. Istnienie tej wady postrzegano per se jako niewłaściwą jakość wykonanej umowy43. Systemowe wyodrębnienie reżimu odpowiedzialności za produkt niebezpieczny wynikało z faktu, że nie dało się w całości przyporządkować go ani regułom odpowiedzialności deliktowej, ani kontraktowej. Chociaż nie wyklucza to uzupełniającego stosowania obu tych reżimów, a w szczególności reżimu deliktowego44.

To zatem dyrektywa 85/374 w sprawie odpowiedzialności za produkty niebezpieczne stanowi skuteczny sposób uzyskania odszkodowania za szkodę wywołaną przez wadliwy produkt. Stąd w ocenie Parlamentu Europejskiego obecnie konieczny jest przegląd tego aktu prawnego celem rozważenia możliwości jego zastosowania w obszarze cyfrowym, aby sprostać wyzwaniom związanym z powstającymi technologiami cyfrowymi, zapewniając tym samym wysoki poziom ochrony konsumentów, a także pewność prawa wobec konsumentów i przedsiębiorców. Jednocześnie z uwagi na znaczenie obecności sztucznej inteligencji w życiu społeczno-gospodarczym i kwestii odpowiedzialności cywilnej – zdaniem Parlamentu Europejskiego – rozważyć należy przekształcenie dyrektywy o niebezpiecznych produktach w rozporządzenie. Jednocześnie Parlament Europejski sugeruje uchylenie przepisów dotyczących ciężaru dowodu w odniesieniu do szkód powstałych w wyniku działania sztucznej inteligencji45.

Niewątpliwie modelem poszukiwania właściwych rozwiązań co do odpowiedzialności za sztuczną inteligencję jest właśnie wspomniana dyrektywa 85/374/EWG o odpowiedzialności za produkt niebezpieczny. Jednakże pamiętać trzeba, że jest to akt prawny przyjęty jeszcze w latach 80. XX wieku46. Stąd zastosowanie tej regulacji do sztucznej inteligencji może być nie tylko trudne, ale dodatkowo również z przyczyn normatywnych – niemożliwe, przede wszystkim z uwagi na przyjęty w dyrektywie 85/374/EWG przedmiot regulacji. Ma nim być wyłącznie produkt, co nie przystaje obecnie w żadnej mierze do pojęcia i cech dóbr niematerialnych47, do których zaliczamy programy komputerowe, a te z kolei niewątpliwie wiążą się z pojęciem sztucznej inteligencji. Podlegają one ochronie na gruncie prawa autorskiego (obecnie jako utwory)48. Dlatego rozważa się, czy można oprogramowanie (sztuczną inteligencję) uznać za produkt w rozumieniu dyrektywy 85/374/EWG49. Niektórzy przyjmują, że nie ma przeszkód, jeżeli chodzi o wadliwe oprogramowanie stanowiące element rzeczy ruchomej, zauważają problem jedynie w przypadku oprogramowania udostępnianego osobno. Przy tym stanowisku widzą podstawy do przyjęcia interpretacji art. 2 dyrektywy 85/374/EWG i objęcia jego zakresem również oprogramowania (odrębnego od rzeczy, czyli jego nośnika), gdyż – jak przyjmują – dyrektywa obejmuje wszelkie produkty, z wyjątkiem nieruchomości50. Wydaje się jednak, że obecnie – pomimo aksjologicznych argumentów przemawiających za tym, aby właśnie objąć programy komputerowe reżimem odpowiedzialności za produkt niebezpieczny – de lege lata ani w prawie krajowym, ani unijnym nie ma podstaw normatywnych, do tego, aby zakres pojęcia produktu obejmował program komputerowy51. Dobra bowiem niematerialne są zawsze odrębne od ich nośników, czyli rzeczy materialnych i nie wchodzą w zakres pojęcia rzeczy ruchomej. To zatem sam nośnik tego dobra z uwagi na jego cechy fizyczne może zostać uznany za produkt niebezpieczny, a nie z uwagi na wady inkorporowanego do tego nośnika dobra52.

Ponadto jeżeli chodzi o odpowiedzialność pozaumowną, to dyrektywa 85/374/EWG obejmuje jedynie szkody wynikające z wad produkcyjnych sztucznej inteligencji, pod warunkiem że poszkodowana osoba jest w stanie wykazać, że doszło do szkody, że produkt jest wadliwy oraz związek przyczynowo-skutkowy między szkodą a wadą. To zatem na poszkodowanym (a ściślej – powodzie, gdyż zasadniczo odszkodowanie jest wypłacane po przeprowadzeniu postępowania cywilnego, a nie dobrowolnie przez naruszyciela) spoczywa ciężar dowodu istnienia produktu niebezpiecznego, zaistnienia szkody oraz adekwatnego związku przyczynowego między normalnym używaniem produktu a szkodą. Ramy dotyczące odpowiedzialności na zasadzie ryzyka mogą być zatem niewystarczające, zwłaszcza do uwzględnienia szkód powodowanych przez roboty nowej generacji w zakresie, w jakim roboty te mogą być wyposażone w zdolność dostosowywania się i uczenia, z czym wiąże się pewien stopień nieprzewidywalności ich zachowania, gdyż roboty te będą w sposób niezależny uczyć się na podstawie własnych, zróżnicowanych doświadczeń i wchodzić w interakcje z otoczeniem w jedyny w swoim rodzaju i nieprzewidywalny sposób53.

Stąd w swojej rezolucji z dnia 20 października 2020 r. Parlament Europejski zauważa, że nieuzasadnionym jest zastosowanie wobec odpowiedzialności za sztuczną inteligencję rozwiązań w przedmiocie ciężaru dowodu, które są obecnie stosowane względem odpowiedzialności za produkty niebezpieczne54. Wynika to z faktu, że w przypadku systemów opartych na sztucznej inteligencji pojawia się trudność dowodowa w ustaleniu istnienia wadliwego produktu, wyrządzenia szkody, a także związku przyczynowego występującego pomiędzy nimi. Szczególna wątpliwość pojawia się w przypadku stosowania dyrektywy w sprawie odpowiedzialności za produkty niebezpieczne wobec wad, wynikających z naruszeń cyberbezpieczeństwa55.

Istnienie jednak wspomnianych wątpliwości co do bezpośredniego stosowania obecnie obowiązujących rozwiązań w przedmiocie odpowiedzialności za produkt niebezpieczny do odpowiedzialności za sztuczną inteligencję nie oznacza, że jedynym wnioskiem jest wprowadzenie wobec tych rzeczy zupełnie nowych instytucji. Chodzi raczej o to, aby przyjrzeć się dotychczasowym normom prawnym i rozważyć, czy właściwych efektów nie da się osiągnąć poprzez adaptację klasycznych już rozwiązań do tego nowego obszaru56. Punktem wyjścia dla wprowadzenia optymalnych rozwiązań jest wciąż regulacja o odpowiedzialności za produkt (niebezpieczny), która posługuje się odpowiedzialnością obiektywną na zasadzie ryzyka57. Natomiast jeśli chodzi o odpowiedzialność osób trzecich (np. hakera, który ingerował w system) zauważa się, że obowiązujące w państwach członkowskich regulacje dotyczące deliktów opierające się na winie w większości przypadków przewidują odpowiedni poziom ochrony osób, które ucierpiały z uwagi na fakt, że osoba trzecia ingerowała w system lub które poniosły szkody majątkowe w wyniku działania takiej osoby. Zasadniczo są to działania zawinione. Dopiero w sytuacjach, kiedy nie można wykryć tej osoby lub jest ona niewypłacalna, koniecznością jest wprowadzenie odpowiednich rozwiązań krajowych, pozwalających odpowiedzieć na te przeszkody.

Kwestią wyjściową jest zatem rozważenie, czy obecne przepisy dotyczące odpowiedzialności cywilnej są wystarczające, czy też niezbędne jest stworzenie nowych rozwiązań, aby odpowiedzialność za sztuczną inteligencję opierała się na klarownych zasadach58. Z uwagi na przywołane przeszkody co do stosowania dyrektywy o odpowiedzialności za produkt niebezpieczny do odpowiedzialności za sztuczną inteligencję w doktrynie przedstawia się również stanowiska bardziej stanowcze, podkreślające, że sztuczna inteligencja wyzwala konieczność zupełnie nowego spojrzenia na dotychczasowe instytucje. Podnosi się, że tradycyjne ujęcie regulacji w przedmiocie odpowiedzialności cywilnej wobec sztucznej inteligencji jest niewystarczające. W tym przypadku przede wszystkim trzeba uwzględnić fakt, że sztuczną inteligencję cechuje zmienność, głównie wynikająca z ciągłego powiększania bazy danych. Regulacja odpowiedzialności za sztuczną inteligencję przede wszystkim powinna uwzględniać tę jej dynamiczną właściwość59.

Jedno jest nadal pewne, że w przypadku sztucznej inteligencji odpowiedzialność zawsze ponosi człowiek. Wszelkie działania sztucznej inteligencji, nawet autonomicznie przez nią podejmowane, mają obecnie wciąż genezę w działalności człowieka. To przecież człowiek projektuje oraz wdraża sztuczną inteligencję. Przyszłe instrumenty dotyczące odpowiedzialności za sztuczną inteligencję powinny być oparte na szczegółowej ocenie celem określenia, czy należy zastosować odpowiedzialność na zasadzie ryzyka, czy też podejście zakładające zarządzanie ryzykiem. Jeśli chodzi o odpowiedzialność opartą na zarządzaniu ryzykiem, to nie skupia się ona na osobie, „która działała w sposób niedbały” jako ponoszącej odpowiedzialność indywidualną, ale na osobie, która może, w określonych okolicznościach, zminimalizować ryzyko i podjąć działania w odniesieniu do negatywnych skutków60. W przypadku obecnie ukształtowanej odpowiedzialności na zasadzie ryzyka wymaga się udowodnienia powstania szkody oraz ustalenia związku przyczynowo-skutkowego między szkodliwym funkcjonowaniem robota a szkodą, jaką poniosła dana osoba.

Parlament Europejski zauważa, że kształtując odpowiedzialność za sztuczną inteligencję, w tym osób odpowiedzialnych, należy przyjąć odpowiedzialność proporcjonalną do poziomu instrukcji, jakie wydano sztucznej inteligencji (w szczególności inteligentnemu robotowi). Ponadto na tę odpowiedzialność powinien wpływać również stopień autonomii sztucznej inteligencji – im większa jest zdolność uczenia się lub większa autonomia sztucznej inteligencji czy im dłużej trwało jej „szkolenie”, tym większa odpowiedzialność powinna spoczywać na osobie prowadzącej to szkolenie. Na pewno ważnym i dodatkowym rozwiązaniem problemu ustalania odpowiedzialności za szkody spowodowane przez sztuczną inteligencję, a zwłaszcza autonomiczne roboty, może być ubezpieczenie obowiązkowe (na wzór ubezpieczeń samochodowych). W tym jednak przypadku należy wziąć pod uwagę wszelką możliwą odpowiedzialność w łańcuchu od wytworzenia do stosowania sztucznej inteligencji (w przypadku ubezpieczeń od wypadków drogowych ubezpieczeniem obejmuje się działania i błędy człowieka).

1.2. Kwestia dochodzenia roszczeń odszkodowawczych z tytułu odpowiedzialności za sztuczną inteligencję

W przypadku odpowiedzialności cywilnej (odszkodowawczej) najważniejszą regulacją, decydującą o rzeczywistym uzyskaniu odszkodowania z tytułu naruszeń prawa, jest regulacja postępowania cywilnego, w tym w szczególności postępowania dowodowego. To właśnie ten obszar decyduje o zasądzeniu odszkodowania z tytułu odpowiedzialności cywilnej za sztuczną inteligencję. Najlepsze bowiem regulacje prawa materialnego będą jedynie „dobrym życzeniem”, jeżeli jednocześnie z nimi nie zostaną określone właściwe tym roszczeniom rozwiązania procesowe. Gdyby wobec odpowiedzialności za sztuczną inteligencję bezpośrednio recypować dyrektywę 85/374/EWG, to powstałyby wątpliwości co do skuteczności takiego rozwiązania. Zauważmy bowiem, że dyrektywa o odpowiedzialności za niebezpieczny produkt obejmuje swoją regulacją jedynie szkody wynikające z wad produkcyjnych sztucznej inteligencji, pod warunkiem że poszkodowana osoba będzie w stanie wykazać, że do szkody doszło, a także że sztuczna inteligencja jest wadliwa, oraz wskazać związek przyczynowo-skutkowy między szkodą a wadą. Odszkodowanie może być wypłacone poszkodowanemu z tytułu odpowiedzialności za sztuczną inteligencję dopiero po przeprowadzeniu postępowania cywilnego, w którym to właśnie na tym podmiocie spoczywa ciężar dowodu co do istnienia sztucznej inteligencji, zaistnienia szkody oraz adekwatnego związku przyczynowego pomiędzy normalnym używaniem sztucznej inteligencji a zaistniałą szkodą. To pokazuje, że ramy dotyczące odpowiedzialności na zasadzie ryzyka (za produkt niebezpieczny) mogą być niewystarczające, w szczególności do dochodzenia i uwzględnienia szkód spowodowanych przez – przykładowo – sztuczną inteligencję w postaci robotów nowej generacji w zakresie, w jakim może być ona wyposażona w zdolność dostosowywania się i uczenia się, z czym wiąże się pewien stopień nieprzewidywalności jej zachowań. Roboty te będą bowiem w sposób niezależny uczyć się na podstawie własnych, zróżnicowanych doświadczeń i wchodzić w interakcje z otoczeniem w jedyny w swoim rodzaju i nieprzewidywalny sposób61.

Zasygnalizowane tu przeszkody dowodowe wskazują, że odpowiedzialność za sztuczną inteligencję musi mieć właściwą sobie regulację dotyczącą postępowania dowodowego, w tym w szczególności co do ciężaru dowodu62. Bez właściwych dla tej odpowiedzialności cywilnej regulacji dowodowych może być trudno poszkodowanemu udowodnić, że sztuczna inteligencja jest wadliwa, a także udowodnić wyrządzoną szkodę czy związek przyczynowy zachodzący pomiędzy nimi. Dodatkowe problemy powstają przy wadach sztucznej inteligencji związanych z cyberbezpieczeństwem63. Problemy te wynikają z faktu, że osoby poszkodowane mogą nie mieć skutecznego dostępu do informacji o tym, iż naruszenia są spowodowane przez sztuczną inteligencję. W konsekwencji poszkodowani mogą mieć mniejsze możliwości uzyskania odszkodowania w porównaniu z sytuacjami, w których szkoda jest spowodowana przez tradycyjne technologie. Takie ryzyko będzie wzrastać, w miarę jak wykorzystanie sztucznej inteligencji stawać się będzie coraz powszechniejsze64.

Brak zatem odpowiednich regulacji postępowania dowodowego, dostosowanych do dochodzenia odszkodowań z tytułu odpowiedzialności za sztuczną inteligencję, w tym przede wszystkim nieprzyznanie poszkodowanym środków procesowych służących zdobywaniu informacji o naruszeniach (np. w jaki sposób system sztucznej inteligencji podjął decyzję) i środków dowodowych (np. nośnika określonego programu komputerowego) znajdujących się w posiadaniu naruszyciela czy innych podmiotów posiadających stosowną wiedzę (na wzór instytucji art. 6, art. 7, art. 8 dyrektywy 2004/48/WE z dnia 29.4.2004 r. w sprawie egzekwowania praw własności intelektualnej, a w polskim kodeksie postępowania cywilnego przepisów art. 47998 – art. 479119 obowiązujących od 1 lipca 2020 r., i stanowiących implementację tej dyrektywy65), pozwalających na realizację ciężaru dowodu w rozumieniu art. 6 KC, prowadzi do poważnych przeszkód w dochodzeniu odszkodowań z tytułu odpowiedzialności cywilnej za sztuczną inteligencję.

Szczególne zatem cechy sztucznej inteligencji, w tym jej nieprzejrzystość („efekt czarnej skrzynki”), złożoność, nieprzewidywalność i częściowo samodzielne działanie – przy braku instrumentów procesowych odpowiadających naruszeniom z tytułu sztucznej inteligencji – mogą utrudniać, a nawet uniemożliwiać egzekwowanie odszkodowań z tytułu odpowiedzialności za sztuczną inteligencję. W postępowaniu cywilnym muszą zatem istnieć rozwiązania dowodowe gwarantujące m.in. możliwości sprawdzenia, w jaki sposób dana decyzja, w którą zaangażowana była sztuczna inteligencja, została podjęta66. Jeżeli chodzi o polski system prawa postępowania cywilnego, to należałoby dochodzić roszczeń z tytułu odpowiedzialności za sztuczną inteligencję z użyciem rozwiązań procesowych obecnie obowiązujących w postępowaniu w sprawach własności intelektualnej (art. 47998 – art. 479119).

Zresztą problem ten został już dostrzeżony przez Unię Europejską. W zbliżonym bowiem czasie została wydana zarówno rezolucja Parlamentu Europejskiego dotycząca odpowiedzialności cywilnej za sztuczną inteligencję (20 października 2020 r.), jak i dyrektywa Parlamentu Europejskiego i Rady 2020/1828 z dnia 25 listopada 2020 r. w sprawie powództw przedstawicielskich wytaczanych w celu ochrony zbiorowych interesów konsumentów i uchylająca dyrektywę 2009/22/WE, wprowadzająca unijne postępowanie grupowe celem ochrony interesów konsumentów. Z analizy obu tych dokumentów wynika, że pierwszoplanowe znaczenie ma obecnie ochrona konsumentów przed naruszeniami ich praw powstającymi na skutek właśnie globalizacji i transformacji cyfrowej, co jest związane z naruszeniami ich danych osobowych. Obecnie to w szczególności transformacja cyfrowa, a zatem właśnie sztuczna inteligencja, jest przyczyną szkód konsumenckich o zasięgu globalnym, masowym. Szkody te często wynikają z naruszeń danych osobowych. Dyrektywa 2020/1828 dostrzega przywołany powyżej problem związany z realizacją ciężaru dowodu i podkreśla, że to właśnie przywoływane dowody są niezbędnym elementem pozwalającym stwierdzić, czy dochodzone roszczenie jest zasadne. Tymczasem zasadniczo relacje między przedsiębiorcami i konsumentami charakteryzują się często asymetrią informacji, co jest wzmocnione tym, że niezbędne środki dowodowe mogą znajdować się wyłącznie w posiadaniu naruszyciela (przedsiębiorcy), co z kolei sprawia, że dochodzący odszkodowania nie ma do nich dostępu. Dlatego prawodawca unijny wobec roszczeń konsumenckich dochodzonych w postępowaniu grupowym wskazuje na konieczność obowiązywania instytucji, na mocy których upoważnione podmioty powinny zostać uprawnione do wystąpienia z wnioskiem do sądu o nakaz ujawnienia przez naruszyciela (przedsiębiorcę) środków dowodowych istotnych dla określenia i dochodzenia ich roszczenia. Jednocześnie wskazuje się, że z uwagi na obowiązującą w postępowaniach cywilnych zasadę równości stron, również takie uprawnienie powinno przysługiwać pozwanemu (naruszycielowi)67.

1.3. Pojęcie sztucznej inteligencji

Punktem wyjścia do przypisania określonej osobie odpowiedzialności cywilnej (odszkodowawczej) za sztuczną inteligencję jest zdefiniowanie podstawowego pojęcia, które w tym łańcuchu stanowi właśnie termin „sztuczna inteligencja”. Chodzi przecież – w tym przypadku – jedynie o wyodrębnienie tej odpowiedzialności cywilnej (odszkodowawczej), która wiąże się z rozpowszechnianiem sztucznej inteligencji, zwłaszcza z posługiwaniem się nią68. W piśmiennictwie wskazuje się, że po raz pierwszy pojęcie sztucznej inteligencji zostało użyte w roku 1956 na konferencji naukowej w Dartmouth, wtedy też stała się ona dyscypliną akademicką69. W roku natomiast 1970 powstało pismo naukowe poświęcone tylko tej tematyce – „Artificial Intelligence”, natomiast w roku 1992 – czasopismo „Artificial Intelligence and Law”70. Obecnie sprecyzowanie tego pojęcia jest niezwykle trudne. Oczywiście termin ten aktualnie nie stanowi pojęcia języka prawnego. Z reguły proponowane w doktrynie definicje odwołują się do rozumienia inteligencji ludzkiej. Zasadniczo sztuczna inteligencja jest postrzegana jako techniczne rozwiązanie (program komputerowy) wykonujące czynności będące zazwyczaj domeną ludzkiego intelektu71.

W tym przypadku jedno jest pewne, że definiowanie pojęcia sztucznej inteligencji nie może odnosić się jedynie do określonego kraju, a definicja ta powinna mieć zasięg globalny, a przynajmniej unijny. W tym przypadku wszelkie regulacje okrojone jedynie do prawa krajowego są, z uwagi na cechy sztucznej inteligencji, zupełnie bezużyteczne. Głównym problemem związanym z nadaniem pojęciu sztucznej inteligencji definicji normatywnej jest to, że jest to przecież termin z obszaru dynamicznie rozwijającego się postępu technologicznego, co powoduje szybką dezaktualizację wszelkich z góry ustalonych definicji. Definicja powinna być na tyle pojemna i elastyczna, aby obejmowała wciąż dokonujący się postęp technologiczny, a jednocześnie wystarczająco precyzyjna, czym zapewni niezbędną pewność prawa72. W piśmiennictwie przyjmuje się, że maszyna jest inteligentna wtedy, kiedy obserwator nie jest zdolny, aby odróżnić jej odpowiedzi na pytania od odpowiedzi pochodzących od człowieka73.

Z kolei według stanowiska grupy unijnych ekspertów systemy sztucznej inteligencji (AI) to oprogramowanie (i ewentualnie również sprzęt komputerowy) zaprojektowane przez człowieka, które – aby osiągnąć złożony cel – działają w wymiarze fizycznym lub cyfrowym, postrzegając swoje środowisko poprzez pozyskiwanie danych, interpretując zgromadzone dane (ustrukturyzowane lub nie), wyciągając wnioski na podstawie tych danych lub przetwarzając informacje, których źródłem są te dane, oraz podejmując decyzje w sprawie najlepszych działań, jakie należy podjąć, aby zrealizować ten cel. Systemy sztucznej inteligencji mogą wykorzystywać zasady symboliczne albo uczyć się na podstawie modelu numerycznego i mogą również dostosować swoje zachowanie poprzez analizę wpływu ich wcześniejszych działań na środowisko. Zawsze jednak sprowadzają się do połączenia danych i algorytmów74.

Natomiast według rezolucji Parlamentu Europejskiego z 16 lutego 2017 r., zawierającej zalecenia dla Komisji w sprawie przepisów prawa cywilnego dotyczących robotyki ze sztuczną inteligencją mamy do czynienia wówczas, gdy (1) ma ona autonomię, którą uzyskuje za pomocą czujników lub dokonywanej wymiany danych z otoczeniem (wzajemne połączenia), a następnie dokonuje wymiany i analizy uzyskanych danych; (2) ma zdolność samokształcenia na podstawie zdobytego doświadczenia i interakcji z otoczeniem (kryterium fakultatywne); (3) posiada przynajmniej minimalną formę fizyczną; (4) dostosowuje swoje zachowania i działania do otoczenia; (5) nie posiada funkcji życiowych w sensie biologicznym. W ślad za tą rezolucją Komisja Europejska w swoim Komunikacie z 25 kwietnia 2018 r. pt. Sztuczna inteligencja dla Europy75 zdefiniowała sztuczną inteligencję jako systemy, które wykazują inteligentne zachowanie dzięki analizie otoczenia i podejmowaniu działań – do pewnego stopnia autonomicznie – w celu osiągnięcia konkretnych celów.

Sztuczna inteligencja bez wątpienia jest kodem informatycznym, który zawsze funkcjonuje w cyberprzestrzeni (ekosystem otwarty lub zamknięty)76. We wszystkich proponowanych ujęciach definicji sztucznej inteligencji podkreśla się, że ma mieć ona zdolność zbierania danych, na podstawie których jest w stanie samodzielnie wyprowadzić najbardziej optymalny wniosek, a następnie podjąć decyzję. Z punktu widzenia informatyki bowiem pojęcie sztucznej inteligencji używane jest przy opisie systemów komputerowych, które na początku analizują dane (w dużych ilościach), celem ich kategoryzacji, odszukania ich powtarzalności, a później podejmują decyzję, właśnie opierając się na tych danych. Te systemy – co trzeba podkreślić – są stanie „się uczyć” na podstawie analizowanych danych i kontynuować tę naukę w czasie swojego działania, kiedy jest podejmowana decyzja77. To właśnie ta cecha (samouczenie, machine learning) odróżnia sztuczną inteligencję od innych algorytmów. Ten właśnie punkt widzenia implikuje wprowadzenie przez prawodawców regulacji szczególnej tytułem odpowiedzialności cywilnej za sztuczną inteligencję78.

Obecnie wszystkie systemy określa się mianem słabej sztucznej inteligencji, którą należy odróżnić od silnej sztucznej inteligencji. Słaba sztuczna inteligencja wyraża się w zdolności do działania w sposób podobny do działania intelektu ludzkiego. Elementem konstruktywnym tej sztucznej inteligencji – podkreślanym w każdej jej definicji – jest zdolność uczenia się i zdolność samodzielnego rozwiązywania problemów. Ma ona postać tzw. uczenia maszynowego, które może polegać na uczeniu nadzorowanym (supervised learning), częściowo nadzorowanym (semi-supervised learning), uczeniu nienadzorowanym (unsupervised learning) czy uczeniu wzmocnionym (reinforcement learning)79. Natomiast silną sztuczną inteligencję odnosi się do przypadków możliwości myślenia w sposób niesymulowany. Wówczas przyjmuje się nawet, że ma ona już samoświadomość. Obecnie prowadzone badania nad rozwiązaniami odpowiedzialności cywilnej za sztuczną inteligencję odnoszą się do słabej sztucznej inteligencji. Nie wiadomo zresztą, czy kiedykolwiek postanie silna sztuczna inteligencja. Gdyby jednak tak się stało, to wówczas koniecznością będzie wprowadzenie nowych regulacji prawnych, które obecnie są trudne do prorokowania80.

Obecnym wyzwaniem jest dokonanie rozróżnienia w ramach słabej sztucznej inteligencji na inteligencję, która jest obarczona wysokim ryzykiem, oraz inteligencję, której nie dotyczy podwyższone ryzyko (rezolucja Parlamentu Europejskiego z dnia 20 października 2020 r. w sprawie odpowiedzialności cywilnej za sztuczną inteligencję). Obecnie zatem do tego podziału, skoncentrowanego na rodzajach słabej inteligencji, dostosować trzeba regulacje prawne o odpowiedzialności cywilnej. Pamiętać tu trzeba, że posługiwanie się pojęciem sztucznej inteligencji obarczone jest ryzkiem wynikającym z różnorodności technologii, które ten termin obejmuje, zaczynając od prostych statystyk, a kończąc na głębokim uczeniu maszynowym. Mimo jednak istotnych różnic w poziomie zaawansowania poszczególnych technologii mają one wspólny mianownik, tj. wszystkie oparte są na dwóch zasadniczych komponentach – danych i algorytmach. Z tego względu dla celów niniejszego opracowania przyjęte zostanie najszersze rozumienie pojęcia sztucznej inteligencji, odnoszące się do wszelkich przypadków zautomatyzowanego podejmowania decyzji.

1 WIPO Technology Trends 2019: Artificial Intelligence, World Intellectual Property Organization, Geneva 2019, s. 120, wprowadzenie do rezolucji 2017.

2 Zob.: W.J. Kocot, Kontrakty kreatywne – nowy rozdział w cyberrewolucji prawa umów, w: P. Kostański, P. Podrecki, T. Targosz (red.), Experientia docet, księga jubileuszowa ofiarowana pani profesor Elżbiecie Traple, Warszawa 2017, s. 946.

3 WIPO Technology Trends 2019…, s. 120.

4 K. Schwab, Czwarta rewolucja przemysłowa, Warszawa 2018, s. 17.

5 D. Szostek, Sztuczna inteligencja a kody. Czy rozwiązaniem dla uregulowania sztucznej inteligencji jest smart contract i blockchain?, w: L. Lai, M. Świerczyński (red.), Prawo sztucznej inteligencji, Warszawa 2020, s. 16.

6 P. Polański, Zwalczanie bezprawnych treści oraz zapewnienie dostępności cyfrowej z pomocą algorytmów sztucznej inteligencji, w: Prawo sztucznej…, s. 307.

7 M. Domagała, Zagrożenia związane z wprowadzeniem pojazdów autonomicznych jako przykład negatywnych skutków rozwoju sztucznej inteligencji, w: Prawo sztucznej…, s. 230.

8 Kai-Fu Lee, Inteligencja sztuczna, rewolucja prawdziwa. Chiny, USA i przyszłość świata, Poznań 2019, s. III (Wstęp do wydania europejskiego w tłum. Ł. Jeżyka).

9 WIPO Technology Trends 2019…, s. 23.

10 WIPO Technology Trends 2019…, s. 120.

11 Biała księga w sprawie sztucznej inteligencji. Europejskie podejście do doskonałości i zaufania, Bruksela, dnia 19.2.2020 r., COM(2020) 65 final.

12 Zob.: F. Pasquale, The Black Box Society. The Secret Algorithms That Control Money and Information, Harvard 2015.

13 M. Księżak, Zawieranie umów przez sztuczną inteligencję (AI), w: Sto lat polskiego prawa handlowego. Księga jubileuszowa dedykowana Profesorowi Andrzejowi Kidybie, red. M. Dumkiewicz, K. Kopaczyńska-Pieczniak, J. Szczotka, t. 2, Warszawa 2020, s. 298.

14 W.J. Kocot, Kontrakty kreatywne…, s. 946.

15 Oczywiście kwestię odpowiedzialności za sztuczną inteligencję można rozpatrywać również w aspekcie odpowiedzialności karnej.

16 Biała księga w sprawie sztucznej inteligencji…, s. 14.

17 Tamże, s. 14.

18 Tak rezolucja Parlamentu, 2017, wprowadzenie, litera Y.

19 Biała księga w sprawie sztucznej inteligencji…, s. 14.

20 Tamże, s. 13.

21 Według Białej księgi w odniesieniu do rozpoznawania twarzy identyfikacja oznacza, że wzór obrazu twarzy danej osoby jest porównywany z wieloma innymi wzorami przechowywanymi w bazie danych w celu stwierdzenia, czy obraz twarzy tej osoby jest przechowywany w tej bazie danych. Uwierzytelnienie (lub weryfikacja) natomiast często odnosi się do porównania „jeden do jednego”. Umożliwia ono porównanie dwóch wzorców biometrycznych, co do których zasadniczo zakłada się, że należą do tej samej osoby. Dwa wzorce biometryczne są porównywane w celu określenia, czy osoba wskazana na dwóch obrazach jest tą samą osobą. Taka procedura jest na przykład stosowana w bramkach zautomatyzowanej kontroli granicznej wykorzystywanych do odprawy granicznej w portach lotniczych, zob. Biała księga w sprawie sztucznej inteligencji…, s. 25.

22 Rezolucja 2017, prawa własności intelektualnych a przepływ danych.

23 K. Morawska, Zasada transparentności i prawo podmiotu danych do informacji a sztuczna inteligencja, w: Prawo sztucznej…, s. 187 i n.

24 D. Lubasz, Zasady legalności, przejrzystości i minimalizacji danych w ogólnym rozporządzeniu o ochronie danych osobowych w kontekście sztucznej inteligencji, w: Prawo sztucznej…, s. 173.

25 WIPO Technology Trends 2019…, s. 123.

26 Rezolucja Parlamentu Europejskiego, 2017, AG; W.J. Kocot, Kontrakty kreatywne…, s. 946 i n.; J. Gołaczyński, Oświadczenie woli składane przez sztuczną inteligencję, w: Prawo sztucznej…, s. 45 i n.

27 W.J. Kocot, Wpływ Internetu na prawo umów, Warszawa 2004, s. 114 i n.

28 W.J. Kocot, Kontrakty kreatywne…, s. 951.

29 Rezolucja Parlamentu Europejskiego, 2020, wprowadzenie, pkt 3.

30 M. Jagielska, Odpowiedzialność za sztuczną inteligencję, w: Prawo sztucznej…, s. 71.

31 Chodzi m. in. o: rozporządzenie Parlamentu Europejskiego i Rady (UE) 2017/745 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych; rozporządzenie Rady (UE) 2018/1488 z dnia 28 września 2018 r. w sprawie ustanowienia Wspólnego Przedsięwzięcia w dziedzinie Europejskich Obliczeń Wielkiej Skali; dyrektywę Parlamentu Europejskiego i Rady (UE) 2019/770 z dnia 20 maja 2019 r. w sprawie niektórych aspektów umów o dostarczanie treści cyfrowych i usług cyfrowych; wniosek dotyczący rozporządzenia Parlamentu Europejskiego i Rady z dnia 6 czerwca 2018 r. ustanawiającego program „Cyfrowa Europa” na lata 2021–2027 (COM 2018/0434); komunikat Komisji z dnia 25 kwietnia 2018 r. w sprawie sztucznej inteligencji dla Europy (COM 2018/0237); komunikat Komisji z dnia 7 grudnia 2018 r. w sprawie skoordynowanego planu w dziedzinie sztucznej inteligencji (COM 2018/0795); komunikat Komisji z dnia 8 kwietnia 2019 r. w sprawie budowania zaufania do sztucznej inteligencji ukierunkowanej na człowieka (COM 2019/0168; sprawozdanie Komisji dla Parlamentu Europejskiego, Rady i Europejskiego Komitetu Ekonomiczno-Społecznego z dnia 19 lutego 2020 r. na temat wpływu sztucznej inteligencji, Internetu, rzeczy i robotyki na bezpieczeństwo i odpowiedzialność (COM 2020/0064); Białą księgę Komisji Europejskiej z dnia 19 lutego 2020 r. pt. Sztuczna inteligencja – Europejskie podejście do doskonałości i zaufania (COM 2020/0065; rezolucję z dnia 16 lutego 2017 r. zawierającą zalecenia dla Komisji w sprawie przepisów prawa cywilnego dotyczących robotyki; rezolucję z dnia 1 czerwca 2017 r. w sprawie cyfryzacji europejskiego przemysłu; rezolucję Parlamentu z dnia 12 września 2018 r. w sprawie autonomicznych systemów uzbrojenia; rezolucję z dnia 12 lutego 2019 r. w sprawie kompleksowej europejskiej polityki przemysłowej w dziedzinie sztucznej inteligencji i robotyki; rezolucję Parlamentu z dnia 12 lutego 2020 r. w sprawie zautomatyzowanych procesów decyzyjnych – zagwarantowanie ochrony konsumenta oraz swobodnego przepływu towarów i usług; sprawozdanie grupy ekspertów wysokiego szczebla ds. sztucznej inteligencji z 8 kwietnia 2019 r. pt. Wytyczne w zakresie etyki na rzecz wiarygodnej sztucznej inteligencji oraz pt. Definicja sztucznej inteligencji: podstawowe możliwości i dziedziny zastosowania; sprawozdanie grupy ekspertów wysokiego szczebla ds. sztucznej inteligencji z 26 czerwca 2019 r. pt. Zalecenia polityczne i inwestycyjne na rzecz wiarygodnej sztucznej inteligencji; sprawozdanie grupy ekspertów ds. odpowiedzialności i nowych technologii – Forum Nowych Technologii z 21 listopada 2019 r. pt. Odpowiedzialność w związku ze sztuczną inteligencją i innymi rozwijającymi się technologiami cyfrowymi; studium w sprawie oceny europejskiej wartości dodanej przygotowane przez Biuro Analiz Parlamentu Europejskiego, zatytułowane: Civil liability regime for artificial intelligence: European added value assessment (System odpowiedzialności cywilnej za sztuczną inteligencję: ocena europejskiej wartości dodanej); dokument tematyczny Zespołu Parlamentu Europejskiego ds. Przyszłości Nauki i Techniki (STOA) z czerwca 2016 r. dotyczący aspektów prawnych i etycznych w związku z robotyką.(

32 Rezolucja Parlamentu Europejskiego z 2020.

33 Tak analogicznie do niebezpiecznych produktów zob.: F. Mohmand, Pojęcie produktu niebezpiecznego w rozumieniu przepisów kodeksu cywilnego o odpowiedzialności za produkt, w: M. Pyziak-Szafnicka (red.), Odpowiedzialność cywilna. Księga pamiątkowa ku czci Profesora Adama Szpunara, Kraków 2004, s. 149; Z. Banaszczyk, P. Gradecki, Produkt niebezpieczny per se i niebezpiecznie wadliwy a odpowiedzialność producenta z art. 449 1 i n. KC, „Monitor Prawniczy” 2002, nr 17, s. 777 i n.

34 Dz.U. z 2016 r., poz. 2047, która wdraża do polskiego prawa dyrektywę europejską 2001/95/WE z 3. 12. 2001 r. w sprawie ogólnego bezpieczeństwa produktów (Dz. Urz. WE L 11/2002, s. 4).

35 Z. Radwański, A. Olejniczak (red.), Zobowiązania – część ogólna, Warszawa 2008, s. 305.

36 Tamże, s. 305.

37 Z. Banaszczyk, P. Granecki, Produkt niebezpieczny per se…, s. 777 i n.; P. Ruchała, R. Sikorski, w: M. Gutowski (red.), Kodeks cywilny, t. II, Warszawa 2019, s. 947.

38 M. Jagielska, Odpowiedzialność…, s. 76.

39 F. Mohmand, Pojęcie produktu…, s. 150.

40 Prawa Asimova obejmują następujące reguły: (1) Robot nie może skrzywdzić człowieka ani przez zaniechanie działania dopuścić, aby człowiek doznał krzywdy. (2) Robot musi być posłuszny rozkazom człowieka, chyba że stoją one w sprzeczności z Pierwszym Prawem. (3) Robot musi chronić sam siebie, jeśli tylko nie stoi to w sprzeczności z Pierwszym lub Drugim Prawem (zob. Zabawa w berka «ang. Runaround», I. Asimov, 1943 r.) oraz (0) Robot nie może skrzywdzić ludzkości lub poprzez zaniechanie działania doprowadzić do uszczerbku dla ludzkości. Zob. również deklaracja Szumana (1950): „Europa nie powstanie od razu, czy też w oparciu o jeden plan. Będzie powstawała przez konkretne realizacje, tworząc najpierw rzeczywistą solidarność”; zob.: rezolucja Parlamentu Europejskiego z 16 lutego 2017 r. zawierająca zalecenia dla Komisji w sprawie przepisów prawa cywilnego dotyczących robotyki (Dz.U. UE C 252/239, pkt 3). Zob. na ten temat: P. Księżak, Prawa Asimova, czyli science fiction jako fundament nowego prawa cywilnego, „Forum Prawnicze” 2020, nr 4(60), https://doi.org/10.32082/fp.v0i4(60).378.

41 M. Jagielska, Odpowiedzialność…, s. 69 i n. W doktrynie również postuluje się unormowanie tej kwestii M. Jankowska, Podmiotowość prawna sztucznej inteligencji?, w: A. Bielska-Brodziak (red.), O czym mówią prawnicy, mówiąc o podmiotowości, Katowice 2015, s. 19.

42 Rezolucja Parlamentu Europejskiego z dnia 20 października 2020 r. z zaleceniami dla Komisji w sprawie systemu odpowiedzialności cywilnej za sztuczną inteligencję.

43 E. Łętowska, Prawo umów konsumenckich, Warszawa 1999, s. 80.

44 Z. Radwański, A. Olejniczak, Zobowiązania – część ogólna, s. 302.

45 Rezolucja Parlamentu Europejskiego z dnia 20 października 2020 r. z zaleceniami dla Komisji w sprawie systemu odpowiedzialności cywilnej za sztuczną inteligencję.

46 M. Jagielska, Odpowiedzialność za sztuczną inteligencję, s. 72.

47 Na temat charakteru dóbr niematerialnych zob. : J. Barta, R. Markiewicz, w: J. Barta, M. Czajkowska – Dąbrowska, Z. Ćwiąkalski, R. Markiewicz, E. Traple, Ustawa o prawie autorskim i prawach pokrewnych, Warszawa 2001, s. 68–69; M. Poźniak-Niedzielska, A. Niewęgłowski, w: J. Barta (red.), System Prawa Prywatnego, t.13:Prawo autorskie, , 2017, s. 24, Nb 16.

48 P. Ruchała, R. Sikorski, M. Gutowski (red.), Kodeks cywilny, s. 946.

49 Zob. na ten temat : P. Machnikowski, European Product Liability, Intersentia 2016, s. 46.

50 M. Jagielska, Odpowiedzialność za sztuczną inteligencję, s. 75.

51 P. Ruchała, R. Sikorski, w:M. Gutowski (red.), Kodeks cywilny, s. 946.

52 P. Ruchała, R. Sikorski, w: M. Gutowski (red.), Kodeks cywilny, s. 945.

53 Zob. Rezolucja Parlamentu Europejskiego z dnia 16 lutego 2017 r. zawierająca zalecenia dla Komisji w sprawie przepisów prawa cywilnego dotyczących robotyki (2015/2103(INL).

54 Rezolucja Parlamentu Europejskiego z dnia 20 października 2020 r. z zaleceniami dla Komisji w sprawie systemu odpowiedzialności cywilnej za sztuczną inteligencję.

55 Biała księga w sprawie sztucznej inteligencji…, s. 15.

56 Tak też M. Jagielska, Odpowiedzialność…, s. 70.

57 M. Jagielska, w: A. Olejniczak (red.), System prawa prywatnego, t. 6, Prawo zobowiązań. Część ogólna, Warszawa 2009, s. 873; P. Machnikowski (red.), European Product Liability, Cambrige 2016, s. 41; E. Bagińska, O odpowiedzialności za produkt, „Państwo i Prawo” 2009, z. 9, s. 35.

58 Rezolucja Parlamentu Europejskiego z dnia 16 lutego 2017 r. zawierające zalecenia dla Komisji w sprawie przepisów prawa cywilnego dotyczących robotyki (2015/2103(INL)

59 D. Szostek, Sztuczna inteligencja a kody, s. 18.

60 Rezolucja Parlamentu Europejskiego z dnia 16 lutego 2017 r. zawierająca zalecenia dla Komisji w sprawie przepisów prawa cywilnego dotyczących robotyki (2015/2103(INL).

61 Zob. Rezolucja Parlamentu Europejskiego z dnia 16 lutego 2017 r. zawierająca zalecenia dla Komisji w sprawie przepisów prawa cywilnego dotyczących robotyki (2015/2103(INL).

62 Rezolucja Parlamentu Europejskiego z dnia 20 października 2020 r. z zaleceniami dla Komisji w sprawie systemu odpowiedzialności cywilnej za sztuczną inteligencję.

63 Biała księga w sprawie sztucznej inteligencji…, s. 15.

64 Tamże, s. 15.

65 Szerzej na temat zdobywania informacji oraz środków dowodowych w postępowaniu cywilnym w sprawach własności intelektualnej zob. M. Rejdak, Zabezpieczenie dowodów w sprawach o naruszenia praw własności intelektualnej, Warszawa 2019.

66 Biała księga w sprawie sztucznej inteligencji…, s. 14.

67 Motyw 68 preambuły oraz art. 18 (ujawnianie dowodów).

68 Tak analogicznie E. Łętowska do odpowiedzialności za produkt, zob.: E. Łętowska, Prawo umów, Warszawa 1999, s. 79.

69 WIPO Technology Trends 2019, s. 19.

70 T. Zalewski, Definicja sztucznej inteligencji, w: Prawo…, s. 3.

71 Tamże, s. 5.

72 Biała księga w sprawie sztucznej inteligencji…, s. 19.

73 T. Zalewski, Definicja sztucznej inteligencji, w: Prawo…, s. 3.

74 Zob. Biała księga AI (Brussels, 19.2.2020 COM(2020) 65 final, White Paper On Artificial Intelligence – A European approach to excellence and trust, s. 16, https://ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligence-feb2020 en.pdf (dostęp: 1.12. 2020).

75 Komunikat Komisji Sztuczna inteligencja dla Europy, Bruksela, 25.04.2018, (COM(2018) 237).

76 D. Szostek, Sztuczna inteligencja a kody, s. 21.

77 T. Zalewski, Definicja sztucznej inteligencji, w: Prawo…, s. 3.

78 D. Szostek, Sztuczna inteligencja a kody, s. 22.

79 T. Zalewski, Definicja sztucznej inteligencji, w: Prawo…, s. 5.

80 P. Księżak, Zawieranie umów, w: Księga Kidyby, s. 296.

§ 2. Reżim odpowiedzialności deliktowej (art. 415 i n. k.c.) jako podstawa roszczeń o naprawienie szkody wyrządzonej w wyniku działania systemu sztucznej inteligencji

Odpowiedzialność deliktowa uregulowana w art. 415 i n. k.c. oparta jest na zasadzie winy i to stanowi jej główny mankament jako ewentualnej podstawy roszczeń o naprawienie szkód spowodowanych działaniem systemu sztucznej inteligencji. Wina jest bowiem na gruncie prawa zobowiązań definiowana najczęściej jako ujemna ocena całokształtu postępowania sprawcy polegająca na możliwości uczynienia mu zarzutu na podstawie analizy jego stanu psychicznego i istniejącej normy81. Przy takim zaś ujęciu winy oczywiste jest, że może być ona odnoszona jedynie do człowieka82. Trudno więc, przynajmniej na obecnym etapie rozwoju technologicznego, wyobrazić sobie możliwość przypisania winy w takim znaczeniu systemowi sztucznej inteligencji. Natomiast biorąc pod uwagę fakt, że istnieją już systemy sztucznej inteligencji, które opierają się na takich technologiach jak sieci neuronowe i procesy głębokiego uczenia się, oraz to, z jak dynamicznym postępem w tej dziedzinie mamy do czynienia, nie można tego wykluczyć w przyszłości.

Podmiotem odpowiedzialnym na podstawie art. 415 k.c. może być wyłącznie osoba fizyczna, osoba prawna lub jednostka organizacyjna nieposiadająca osobowości prawnej, której ustawa przyznaje zdolność prawną. De lege lata sztucznej inteligencji nie można zaliczyć do żadnej z tych kategorii podmiotowych, a to dlatego, że brak jest przepisów przyznających jej zdolność prawną. Nie wydaje się również, aby w najbliższej przyszłości miało się w tym zakresie coś zmienić, zważywszy na fakt, że Parlament Europejski w rezolucji z dnia 20 października 2020 r. z zaleceniami dla Komisji w sprawie systemu odpowiedzialności cywilnej za sztuczną inteligencję (2020/2014(INL) uznał, że nie jest konieczne nadawanie systemom sztucznej inteligencji osobowości prawnej.

Odpowiedzialność za wykorzystanie sztucznej inteligencji musi więc nadal być przypisywana do określonego podmiotu prawa. Jednakże, ze względu na mnogość podmiotów ingerujących w cykl życia systemów sztucznej inteligencji, wykazanie, kto kontrolował związane z nimi zagrożenie czy też który kod lub które dane wejściowe ostatecznie wywołały szkodliwe działanie, może w wielu przypadkach okazać się wręcz niemożliwe. Tę trudność potęgują powiązania między danym systemem SI a innymi systemami, w tym systemami niewykorzystującymi SI, ich zależność od danych zewnętrznych, podatność na naruszenia cyberbezpieczeństwa, jak również coraz większa autonomia systemów SI wynikająca z uczenia się maszyn i możliwości maszyn w zakresie głębokiego uczenia się83.

Podmiotami, z którymi potencjalnie może być związana odpowiedzialność za szkody wyrządzone przez systemy sztucznej inteligencji, są przede wszystkim twórcy tych systemów, ich użytkownicy, ale także serwisanci oraz podmioty aktualizujące oprogramowanie. Przyczyną wyrządzenia szkody przez system sztucznej inteligencji może być również bezprawna ingerencja osoby trzeciej – hakera.

To, z którym z ww. podmiotów może zostać związana deliktowa odpowiedzialność odszkodowawcza, zależy od tego, któremu z nich możemy przypisać w danych okolicznościach winę w jednej z jej postaci, tj. winę umyślną lub nieumyślną. Przy czym szkoda może być wynikiem działania lub zaniechania więcej niż jednej osoby. W takim przypadku odpowiedzialność będzie miała charakter solidarny84.

Problemy związane z ustalaniem winy potęgują się w przypadku, gdy mamy do czynienia z osobą prawną lub jednostką organizacyjną, której ustawa przyznaje zdolność prawną, co w kontekście szkód wyrządzanych przez systemy sztucznej inteligencji jest dosyć częste. Ich wykorzystanie na szeroką skalę odbywa się bowiem z reguły w ramach działalności takich podmiotów jak: szpitale, banki, przedsiębiorcy transportowi czy ubezpieczyciele. W przypadku działalności osób prawnych i jednostek organizacyjnych, którym ustawa przyznaje zdolność prawną (do których przepisy o osobach prawnych stosuje się odpowiednio – art. 33¹ § 1 k.c.), pomocna przy przypisywaniu im odpowiedzialności jest koncepcja winy określanej jako wina organizacyjna bądź anonimowa, stanowiąca przejaw tendencji do obiektywizowania odpowiedzialności osoby prawnej85. Koncepcja ta występuje przy tym w dwóch wariantach. Pierwszy odnosi się do sytuacji, gdy jest wykazane, że szkoda została wyrządzona przez osoby pełniące funkcje organu osoby prawnej (bądź choćby jedną z nich), przy czym bliżej nieustalone imiennie86. Drugi zaś polega na tym, że jako podstawę zarzutu winy osoby prawnej przyjmuje się istnienie w jej organizacji wewnętrznej usterek czy wad albo nieprawidłowości funkcjonowania, które wywołują ostatecznie skutek w postaci szkody, poza wadliwością zachowania się konkretnego organu tej osoby prawnej87. Powyższa koncepcja zyskała wprawdzie akceptację w judykaturze88, ale w doktrynie podkreśla się, że nie znajduje ona bezpośredniego wyrazu w przepisach kodeksu cywilnego89. Wskazuje się przy tym, że wprowadza ona element obiektywizacji odpowiedzialności osoby prawnej, pomijając wszelkie cechy osobiste sprawcy (skoro się go nawet nie ustala) i ograniczając indywidualizującą rolę winy90. W takim ujęciu zarzut winy sprowadzony jest więc wyłącznie do wykazania bezprawności, bez potrzeby stwierdzania naganności zachowania poszczególnych osób91. Przyjęcie tej koncepcji w jej skrajnej postaci92 oznacza zatem, że odpowiedzialność osoby prawnej na podstawie art. 416 k.c. staje się de facto odpowiedzialnością nie na zasadzie winy, leczy na zasadzie ryzyka93. To zaś byłoby sprzeczne z brzmieniem tego przepisu94, który wyraźnie wskazuje, że osoba prawna obowiązana jest do naprawienia szkody wyrządzonej z winy jej organu, która traktowana jest jako wina własna osoby prawnej95. Odpowiedzialności na zasadzie ryzyka nie można natomiast domniemywać. Musi ona mieć wyraźną podstawę normatywną96.

Najbardziej uzasadnionym w omawianym kontekście stanowiskiem wydaje się więc takie, w świetle którego koncepcja winy bezimiennej powinna znajdować zastosowanie jedynie w ramach domniemań faktycznych, z nieograniczoną możliwością obalenia tego domniemania przez osobę prawną97. W doktrynie wskazuje się bowiem, że ustalenie podmiotowych przesłanek winy znajduje często oparcie w domniemaniach faktycznych, wynikających z okoliczności zachowania się sprawcy98. Podkreśla się, że bezpośrednie poznanie treści przeżyć psychicznych nie jest w ogóle możliwe i stąd, z konieczności, badaniu musi podlegać ich zewnętrzny wyraz99. Przepis art. 231 k.p.c., wprowadzający legalną definicję domniemania faktycznego, jest instrumentem przewidzianym właśnie dla takich przypadków, w których stwierdzenie wystąpienia określonych elementów, istotnych dla rozstrzygnięcia sprawy, jest utrudnione bądź nawet niemożliwe100. Zgodnie z tym przepisem sąd może uznać za ustalone fakty mające istotne znaczenie dla rozstrzygnięcia sprawy, jeżeli wniosek taki można wyprowadzić z innych ustalonych faktów (domniemanie faktyczne). Polega to więc na tym, że sąd uznaje za ustalony określony fakt, jeżeli jego istnienie da się wywieść z innych ustalonych już faktów, na podstawie zasad logiki i doświadczenia życiowego101.

Jeżeli zatem w świetle całokształtu ustalonych okoliczności faktycznych, w jakich doszło do wyrządzenia szkody przez zastosowany w ramach działalności osoby prawnej (bądź jednostki organizacyjnej posiadającej zdolność prawną) system sztucznej inteligencji, wynika – jako logiczny i zgodny z doświadczeniem życiowym – wniosek, że w związku z wykorzystaniem tego systemu doszło do określonych uchybień (jak np. brak właściwego nadzoru nad jego działaniem, brak zastosowania wymaganych zabezpieczeń), a zatem nie dochowano należytej staranności, możliwe jest przyjęcie, że nastąpiło zawinione działanie osoby prawnej (jednostki organizacyjnej posiadającej zdolność prawną), bez konieczności przeprowadzenia dowodów co do sfery motywacyjnej poszczególnych osób fizycznych (personelu)102. Pozwana osoba prawna może jednak powoływać się na okoliczności przemawiające za brakiem jej winy, np. wykazując, że profesjonalny podmiot, któremu zleciła usługi serwisowe, nie wykonał ich w sposób właściwy, bądź też, że osoba nadzorująca wykorzystanie systemu sztucznej inteligencji w danym przypadku działała na podstawie błędnych lub niepełnych informacji, tj. w warunkach tzw. usprawiedliwionego błędu103. Oczywiście ocena w tym zakresie będzie zależała zawsze od okoliczności konkretnego przypadku oraz od mającego zastosowanie standardu należytej staranności (tj. zwykłego lub podwyższonego). Z brakiem winy osoby wykorzystującej system sztucznej inteligencji będziemy mieli również do czynienia, gdy jego szkodliwe działanie zostało spowodowane przez nieuprawnioną ingerencję osoby trzeciej (atak hakerski), chyba że użytkownikowi systemu będzie można postawić zarzut niedochowania należytej staranności w zabezpieczeniu tego sytemu przed cyberatakami. Z taką sytuacją będziemy mieć do czynienia zwłaszcza w tych przypadkach, kiedy na danym użytkowniku spoczywał szczególny, prawny obowiązek zapewnienia bezpieczeństwa systemu.

W doktrynie słusznie podkreśla się jednak, że nawet koncepcja winy organizacyjnej czy anonimowej może okazać się niewystarczająca w przypadku odpowiedzialności za działanie systemów autonomicznych104. Koncepcja ta opiera się bowiem na założeniu nieprawidłowego działania osób (choćby niezidentyfikowanych) jako przyczyny szkody. Nadal konieczne jest więc wykazanie, że jakimś osobom fizycznym (choćby bliżej nieokreślonym) w strukturze danej osoby prawnej czy jednostki organizacyjnej można postawić zarzut niedochowania należytej staranności wymaganej w danych okolicznościach. Jeśli natomiast szkoda nastąpiła w wyniku autonomicznego działania systemu sztucznej inteligencji, który był w należyty sposób (tj. z zachowaniem wszystkich obowiązujących procedur) używany, eksploatowany i nadzorowany, to przypisanie winy jego użytkownikowi może okazać się niemożliwe, jeśli powodujące szkodę fizyczne lub wirtualne działanie, urządzenie czy wywołujący szkodę fizyczny bądź wirtualny proces były poza jego kontrolą.

Reżim odpowiedzialności deliktowej na zasadzie winy będzie więc tym bardziej niewystarczający w przypadku działania sztucznej inteligencji, która sama podejmuje decyzje poza ramami schematu określonymi przez człowieka – jej twórcę. Możliwości i autonomia takich systemów mogą sprawić, że bardzo trudne będzie powiązanie ich określonych działań z konkretnymi decyzjami człowieka, podjętymi podczas ich projektowania lub stosowania.

Jak zauważył Parlament Europejski105, obowiązujące w państwach członkowskich prawo deliktów opierające się na winie w większości przypadków przewiduje natomiast odpowiedni poziom ochrony osób, które ucierpiały z uwagi na fakt, że strona trzecia, taka jak haker, ingerowała w system, lub które poniosły szkody majątkowe w wyniku działania takiej osoby, ponieważ tego typu ingerencja stanowi zazwyczaj zawinione działanie. Zupełnie odrębną kwestią jest natomiast to, że w wielu przypadkach wykrycie takiej osoby może nie być możliwe bądź też okaże się, że jest ona niewypłacalna.

81 Tak m.in.: W. Czachórski, w: Z. Radwański (red.), System prawa cywilnego, t. III, cz. 1, Prawo zobowiązań – część ogólna, Wrocław 1981, s. 540; B. Lewaszkiewicz-Petrykowska, Problem definicji winy jako podstawy odpowiedzialności z tytułu czynów niedozwolonych, Zeszyty Naukowe Uniwersytetu Łódzkiego, Seria I, Nauki Humanistyczno-Społeczne, z. 14, Prawo, Łódź 1959, s. 88; A. Szpunar, Czyny niedozwolone w Kodeksie cywilnym, „Studia Cywilistyczne” 1970, t. XV, s. 52–53; M. Sośniak, Elementy winy nieumyślnej w prawie cywilnym, Zeszyty Naukowe Uniwersytetu Śląskiego, Prace Prawnicze, VI, nr 68, Katowice 1957, s. 153. Definicja ta nawiązuje niewątpliwie do tzw. normatywnej teorii winy, obowiązującej na gruncie prawa karnego; zob. szerzej A. Szpunar, Czyny niedozwolone..., s. 52–53, który jako zwolennik zaadoptowania normatywnej teorii winy na potrzeby prawa cywilnego zaznacza jednocześnie, że na gruncie odpowiedzialności cywilnej trzeba dokonać syntezy różnorodnych elementów, co prowadzi do tego, że wina jest ujemną oceną całokształtu postępowania sprawcy, a nie tylko jego decyzji woli; podobnie W. Czachórski, w: Z. Radwański (red.), System..., t. III, cz. 1, 1981, s. 540, który podkreśla, że czysto psychologiczny sposób ujęcia dokonywanej analizy pod kątem przeżyć wewnętrznych danego podmiotu nie może wystarczyć dla potrzeb ogólnospołecznych, w imię których prawo cywilne wypełnia swoją funkcję kierowania ludzkim postępowaniem. Stąd też, jak wskazuje ten autor, w prawniczej analizie pojęcia winy chodzi o rozpatrywanie sytuacji psychicznej działającego podmiotu pod dwoma kątami – po pierwsze, pod kątem weryfikacji, czy ma on dostateczne kwalifikacje osobiste i czy w ich świetle znajduje się w takim stanie, by można mu było stawiać zarzut subiektywnie nieprawidłowego zachowania się; po drugie, pod kątem weryfikacji, czy kategoria winy w jej różnych postaciach, znanych teorii i praktyce prawa cywilnego, jest w stanie potwierdzić owo powszechne odczucie, że brak świadomości i woli co do wyrządzenia szkody może być uznany za jednoznaczny z brakiem winy.

82 Zob. m.in. J. Dąbrowa, Odpowiedzialność deliktowa osoby prawnej za winę własną i cudzą, „Studia Cywilistyczne” 1970, t. XVI, s. 6, która wskazuje, że wina w ścisłym tego słowa znaczeniu może z natury rzeczy być przypisana tylko osobie fizycznej; ta przesłanka powstania odpowiedzialności odszkodowawczej jest „adekwatna” tylko w przypadku osób fizycznych i może być faktycznie zrealizowana tylko u osób fizycznych.

83 Na wszystkie te problemy wskazał PE w motywach rezolucji z dnia 20 października 2020 r. z zaleceniami dla Komisji w sprawie systemu odpowiedzialności cywilnej za sztuczną inteligencję (2020/2014(INL).

84 Zgodnie bowiem z art. 441 § 1 k.c. jeśli kilka osób ponosi odpowiedzialność za szkodę wyrządzoną czynem niedozwolonym, ich odpowiedzialność jest solidarna (art. 441 § 1 k.c.). W takim przypadku ten, kto naprawił szkodę, może żądać od pozostałych zwrotu odpowiedniej części zależnie od okoliczności, a zwłaszcza od winy danej osoby oraz od stopnia, w jakim przyczyniła się do powstania szkody (art. 442 § 2 k.c.).

85 Zob. m.in.: W. Czachórski, w: Z. Radwański (red.), System..., t. III, 1981, s. 550; J. Dąbrowa, Odpowiedzialność..., s. 3 i n.; W. Dubis, w: E. Gniewek (red.), Kodeks cywilny. Komentarz, Warszawa 2011, s. 712–713; P. Machnikowski, w: A. Olejniczak (red.), System..., t. 6, 2014, s. 438 i n.; Z. Radwański, A. Olejniczak (red.), Zobowiązania..., 2008, s. 203.

86 Zob. m.in.: W. Czachórski, w: Z. Radwański (red.), System..., t. III, 1981, s. 550; P. Machnikowski, w: A. Olejniczak (red.), System prawa prywatnego, t. 6, Prawo zobowiązań – część ogólna, Warszawa 2014, s. 440; zob. również Z. Radwański, A. Olejniczak (red.), Zobowiązania – część ogólna, Warszawa 2008, s. 203, którzy wskazują, że konstrukcja winy anonimowej pozwala przypisać winę osobie prawnej, jeżeli wykaże się, że szkoda została wyrządzona przez niezidentyfikowaną osobę fizyczną działającą w strukturze organizacyjnej danej osoby prawnej.

87 Zob. m.in.: W. Czachórski, w: Z. Radwański (red.), System..., t. III, 1981, s. 550; J. Dąbrowa, Odpowiedzialność..., s. 13; zob. również P. Machnikowski, w: A. Olejniczak (red.), System..., t. 6, 2014, s. 440–441, który dla tego wariantu używa określenia „wina organizacyjna” lub „wina bezimienna”, podkreślając, że w istocie nie ma w nim elementu winy w ogóle; szczególny charakter tej koncepcji odpowiedzialności polega bowiem na tym, że wina organu nie podlega tu ustaleniu, a odpowiedzialność ma charakter czysto obiektywny.

88 Przede wszystkim na gruncie stanów faktycznych związanych z wyrządzeniem szkód w związku z zaniedbaniami personelu medycznego w zakładach opieki zdrowotnej – zob. m.in.: wyrok SN z dnia 11 maja 2005 r., III CK 652/04, LEX nr 151668; wyrok SN z dnia 14 listopada 1964 r., I CR 317/64, OSN 1965, nr 11, poz. 189; wyrok SN z dnia 17 lutego 1967 r., I CR 435/66, OSN 1967, nr 10, poz. 177; wyrok z dnia 14 marca 1968 r., I PR 61/68, OSP 1969, z. 3, poz. 65.

89 Tak Z. Radwański, A. Olejniczak (red.), Zobowiązania..., 2008, s. 203; zob. również W. Czachórski, w: Z. Radwański (red.), System..., t. III, 1981, s. 550, który podkreślał, że koncepcję tę należy traktować bardziej w kategorii postulatu de lege ferenda w odniesieniu do formowania odpowiedzialności osób prawnych w reżimie deliktowym; P. Machnikowski, w: A. Olejniczak (red.), System..., t. 6, 2014, s. 441, który wskazuje, że mimo iż na rzecz koncepcji winy anonimowej i bezimiennej przemawiają ważkie względy praktyczne, jest bardzo wątpliwe, czy istnieje jakakolwiek podstawa prawna dla takiej odpowiedzialności.

90 Zob. J. Dąbrowa, Odpowiedzialność..., s. 13, która podkreśla, że tak pojmowana „wina bezimienna” wyraźnie nie mieści się w koncepcji opierającej odpowiedzialność osoby prawnej za własne czyny na tzw. teorii organów. Autorka ta dodaje również (na s. 15), że w ten sposób ustalenie winy zostaje zubożone o tzw. element subiektywny winy z art. 415 k.c., a więc o winę w ścisłym tego słowa znaczeniu, w sensie indywidualnej podmiotowej zarzucalności niezbędną do prawidłowego zastosowania tego przepisu; podobnie A. Olejniczak, w: A. Kidyba (red.), Kodeks cywilny. Komentarz, t. III, Warszawa 2014, s. 427, oraz P. Machnikowski, w: A. Olejniczak (red.), System..., t. 6, 2014, s. 440, który podkreśla, że taka metoda może prowadzić do uproszczeń w ustalaniu samego sprawstwa i bezprawności zachowania, gdyż brak konieczności stawiania indywidualnego zarzutu może skłaniać do zaniechania bliższych badań nad przyczyną szkody i przyjęcia wadliwego rozumowania, że skoro powstała szkoda, to musiała zaistnieć i przyczyna uzasadniająca odpowiedzialność.

91 Tak m.in.: W. Dubis, w: E. Gniewek (red.), Kodeks..., 2011, s. 712; A. Olejniczak, w: A. Kidyba (red.), Kodeks..., t. III, 2014, s. 427.

92 Tj. w ramach drugiego z wymienionych wyżej wariantów (tzw. wina organizacyjna).

93 Zob. również A. Olejniczak, w: A. Kidyba (red.), Kodeks..., t. III, 2014, s. 427, który podkreśla, że koncepcja winy anonimowej powinna być stosowana ostrożnie, ponieważ jej konsekwencją jest znacząca obiektywizacja odpowiedzialności. Autor ten podkreśla jednocześnie, że zastosowanie koncepcji winy anonimowej przy odpowiedzialności z art. 416 k.c. dotyczyć może wyłącznie sytuacji, gdy winę przypisujemy niezindywidualizowanym członkom organu osoby prawnej.

94 Zob. również J. Dąbrowa, Odpowiedzialność..., s. 13, która podkreśla, że „wina bezimienna” wyraźnie nie mieści się w koncepcji opierającej odpowiedzialność osoby prawnej za własne czyny na tzw. teorii organów.

95 Z. Masłowski, w: J. Ignatowicz (red.), Kodeks cywilny. Komentarz, t. 2, Księga trzecia – zobowiązania, Warszawa 1972, s. 985, który wskazuje, że jeszcze przed wejściem w życie kodeksu cywilnego normującego odpowiedzialność osoby prawnej za działania jej organu jako odpowiedzialność za czyn własny, judykatura i doktryna powszechnie przyjmowały zasadę, że wina organu stanowi winę osoby prawnej; zob. również P. Machnikowski, w: A. Olejniczak (red.), System..., t. 6, 2014, s. 439, który podkreśla, że regulacja art. 416 k.c. jest konsekwencją teorii organów, przejawiającą się w omawianym zakresie nie na płaszczyźnie czynów, lecz ocen. Jak wskazuje dalej ten autor, skoro wola osób fizycznych pełniących funkcję organu jest uważana za wolę osoby prawnej, a ich działanie jest działaniem tej osoby, to i negatywna ocena ich decyzji i postępowania będąca podstawą przypisania winy może być odnoszona bezpośrednio do osoby prawnej, w której strukturze występują.

96 Na zasadzie ryzyka (a zatem niezależnie od winy własnej) osoba prawna może ponosić odpowiedzialność na podstawie art. 430 k.c., tj. za działania osób, którym powierza wykonanie określonych czynności i które podlegają jej kierownictwu oraz mają obowiązek stosowania się do jej wskazówek przy ich wykonywaniu.

97 Zob. P. Machnikowski, w: A. Olejniczak (red.), System..., t. 6, 2014, s. 441, który stawia pytanie, czy koncepcja winy bezimiennej nie powinna funkcjonować w takim właśnie ujęciu; zob. również Z. Radwański, A. Olejniczak (red.), Zobowiązania..., 2008, s. 203, którzy winę anonimową (bezimienną) traktują jako rodzaj ułatwień dowodowych w kontekście omawiania ciężaru dowodu na gruncie art. 415 i n. k.c.

98 Tak Z. Masłowski, w: J. Ignatowicz (red.), Kodeks..., t. 2, 1972, s. 984.

99 Zob. M. Krajewski, Niezachowanie należytej staranności – problem bezprawności czy winy, PiP 1997, z. 10, s. 36, który podkreśla jednocześnie, że przeżycia psychiczne człowieka, który koncentruje swoją uwagę na osiągnięciu jakiegoś celu, znajdują na ogół odzwierciedlenie w jego zewnętrznym zachowaniu; zachowanie to jest zaś dostrzegalne dla otoczenia, które na tej podstawie może wysnuć wnioski o przeżyciach psychicznych danego podmiotu.

100 Zob. m.in.: H. Dolecki, w: H. Dolecki, T. Wiśniewski (red.), Kodeks postępowania cywilnego. Komentarz, t. I, Warszawa 2013, s. 830 i n.; T. Demendecki, w: A. Jakubecki (red.), Kodeks postępowania cywilnego. Komentarz, Warszawa 2012, s. 316–317, który podkreśla, że dyspozycja art. 231 k.p.c. powinna znaleźć zastosowanie wyłącznie w braku bezpośrednich środków dowodowych albo gdy istnieją znaczne utrudnienia dla wykazania faktu, którego ustalenie jest możliwe przy zastosowaniu reguł logicznego rozumowania; tak również SN w uzasadnieniu wyroku z dnia 19 lutego 2002 r., IV CKN 718/00, LEX nr 54362; zob. również wyrok SN z dnia 5 grudnia 2007 r., II PK 103/07, LEX nr 863973; wyrok SN z dnia 27 lipca 2010 r., II CSK 119/10, LEX nr 603161; wyrok SN z dnia 2 grudnia 2010 r., I CSK 11/10, LEX nr 737365; postanowienie SN z dnia 9 stycznia 2014 r., V CSK 87/13, LEX nr 1448336; por. także wyrok SA w Katowicach z dnia 20 września 2012 r., V ACa 286/12, LEX nr 1223191; wyrok SA w Warszawie z dnia 2 października 2012 r., I ACa 341/12, LEX nr 1238214; wyrok SA w Białymstoku z dnia 17 stycznia 2014 r., I ACa 663/13, LEX nr 1425369.

101 Tak m.in.: T. Demendecki, w: A. Jakubecki (red.), Kodeks postępowania cywilnego. Komentarz, Warszawa 2012, s. 316, który podkreśla, że w ramach takiego wnioskowania sąd ma pełną swobodę, powinien jednakże uwzględniać całokształt okoliczności faktycznych w konkretnej sprawie. Domniemany fakt nie wymaga wówczas twierdzenia ani dowodzenia, w przeciwieństwie do okoliczności stanowiących podstawę faktyczną domniemania; podobnie H. Dolecki, w: H. Dolecki, T. Wiśniewski (red.), Kodeks..., t. I, 2013, s. 831; K. Flaga-Gieruszyńska, w: A. Zieliński (red.), Kodeks postępowania cywilnego. Komentarz, Warszawa 2012, s. 429; zob. również uzasadnienie wyroku SN z dnia 22 stycznia 1998 r., II UKN 465/97, OSNP 1999, nr 1, poz. 24; uzasadnienie wyroku SN z dnia 30 marca 2000 r., III CKN 811/98, LEX nr 51364; postanowienie SN z dnia 17 października 2000 r., I CKN 1196/98, LEX nr 50829; wyrok SN z dnia 27 lipca 2010 r., II CSK 119/10, LEX nr 603161; wyrok SN z dnia 11 sierpnia 2010 r., II UK 79/10, LEX nr 661514; wyrok SA w Warszawie z dnia 18 stycznia 2013 r., I ACa 893/12, LEX nr 1286665.

102 Zob. Z. Banaszczyk, P. Granecki, O istocie należytej staranności, „Palestra” 2002, z. 7–8, s. 26, którzy podkreślają, że samo niedołożenie staranności może być podstawą domniemania winy.

103 Na działanie w warunkach usprawiedliwionego błędu jako okoliczność wyłączającą możliwość uznania zachowania sprawcy szkody za zawinione wskazuje m.in. P. Machnikowski, w: A. Olejniczak (red.), System..., t. 6, 2014, s. 437; podobnie – na gruncie art. 135 k. z. – A. Szpunar, Nadużycie prawa podmiotowego, Kraków 1947, s. 116.

104 Tak P. Księżak, w: D. Bach-Golecka, R. Stankiewicz (red.), System Prawa Medycznego, t. 3, Warszawa 2020, rozdział 20.7.2., uwaga nr 6.

105 Motyw nr 9 rezolucji z dnia 20 października 2020 r. z zaleceniami dla Komisji w sprawie systemu odpowiedzialności cywilnej za sztuczną inteligencję (2020/2014(INL).

§ 3. Odpowiedzialność na podstawie art. 435 k.c. jako podstawa roszczeń o naprawienie szkody wyrządzonej w wyniku działania systemu sztucznej inteligencji

W kontekście szkód spowodowanych wykorzystywaniem systemów sztucznej inteligencji należy rozważyć również reżim odpowiedzialności na podstawie art. 435 k.c. Przepis ten przewiduje odpowiedzialność na zasadzie ryzyka prowadzącego na własny rachunek przedsiębiorstwo lub zakład wprawiany w ruch za pomocą sił przyrody (pary, gazu, elektryczności, paliw płynnych itp.) za szkody na osobie lub mieniu wyrządzone komukolwiek przez ruch przedsiębiorstwa lub zakładu. Surowa odpowiedzialność z art. 435 k.c. oparta jest na założeniu, że samo funkcjonowanie zakładu wprawianego w ruch za pomocą sił przyrody stwarza niebezpieczeństwo wyrządzenia szkody, niezależnie od działania lub zaniechania podmiotu prowadzącego taki zakład106. Stąd podstawową przyczynę wprowadzenia tej zaostrzonej odpowiedzialności stanowi szczególne zagrożenie dla otoczenia, gdyż kontrola nad siłami przyrody nie stwarza pełnej gwarancji bezpieczeństwa – mamy bowiem do czynienia z działalnością, z którą wiąże się szczególne, na tle innych form działalności, niebezpieczeństwo wyrządzenia poważnych szkód107. Ruch tego rodzaju przedsiębiorstwa wiąże się ze znacznym stopniem ryzyka możliwości wyrządzenia szkody osobom trzecim, a użycie urządzeń technicznych o znacznym stopniu skomplikowania ma charakter powszechny108.

Niewątpliwie niebezpieczeństwo takie występuje również wówczas, gdy do prowadzonej działalności gospodarczej wykorzystywane są systemy sztucznej inteligencji, zwłaszcza w przypadku znacznego stopnia ich autonomizacji. Ponadto działanie systemów SI oparte jest z reguły na siłach przyrody – przede wszystkim energii elektrycznej – bez których nie mogłyby funkcjonować109. Powyższe skłania prima facie do wniosku, że odpowiedzialność podmiotów prowadzących działalność gospodarczą z wykorzystaniem systemów SI mogłaby opierać się przede wszystkim na art. 435 k.c., co byłoby niewątpliwie korzystne dla poszkodowanych. Odpowiedzialność uregulowana w tym przepisie powstaje bowiem bez względu na winę prowadzącego przedsiębiorstwo, a także bez względu na to, czy szkoda nastąpiła w warunkach bezprawnego zachowania odpowiedzialnego. Nie wyklucza jej również okoliczność, że działalność przedsiębiorstwa była w pełni zgodna z prawnie określonymi wymaganiami110. Prowadzący przedsiębiorstwo może uwolnić się od odpowiedzialności wyłącznie poprzez wykazanie, że szkoda nastąpiła wskutek działania siły wyższej albo wyłącznie z winy poszkodowanego111 lub osoby trzeciej, za którą nie ponosi odpowiedzialności112.

Zakres zastosowania tego przepisu jest jednak dosyć istotnie ograniczany w orzecznictwie z uwagi na to, że został on wprowadzony do przepisów k.c. w zupełnie innych realiach gospodarczych, z myślą przede wszystkim o ryzyku związanym z działalnością takich przedsiębiorstw jak np. kopalnie czy huty113. Natomiast współcześnie wykorzystywanie sił przyrody, w szczególności energii elektrycznej, do prowadzenia działalności gospodarczej jest regułą. Jak podkreśla się w orzecznictwie114, trudno obecnie znaleźć przedsiębiorstwo, w którym nie są wykorzystywane: energia elektryczna, paliwa płynne lub energia cieplna, mające swoje źródło w siłach przyrody. Chodzi przy tym o procesy polegające na przetwarzaniu energii elementarnej na pracę lub inne postacie energii, co wymaga użycia maszyn i innych urządzeń przetwarzających. Z tego względu w judykaturze przyjmuje się, że do zastosowania wyjątkowo surowego reżimu odpowiedzialności z art. 435 § 1 k.c. nie wystarcza, aby przedsiębiorstwo bezpośrednio wykorzystywało elementarne siły przyrody (energię elektryczną, gaz, parę, paliwa płynne itp.), lecz zastosowana jako źródło energii siła przyrody powinna stanowić siłę napędową przedsiębiorstwa jako całości115.

Dla przyjęcia odpowiedzialności na podstawie art. 435 k.c. nie jest więc wystarczające posługiwanie się siłami przyrody tylko do działań wspomagających, gdyż przy takiej interpretacji każde przedsiębiorstwo mogłoby zostać zakwalifikowane jako to, o którym mowa w art. 435 k.c. Innymi słowy, samo użycie w przedsiębiorstwie maszyn lub urządzeń, w których wykorzystywane są siły przyrody, nie daje jeszcze podstawy do zastosowania art. 435 § 1 k.c. Jak podkreślił SN, m.in. w wyroku z dnia 27 września 2018 r.116, ocenę, czy podmiot prowadzący na własny rachunek przedsiębiorstwo może ponosić odpowiedzialność odszkodowawczą na zasadzie ryzyka na podstawie art. 435 § 1 k.c., należy oderwać od okoliczności konkretnego zdarzenia wywołującego szkodę i odnieść do zakresu zadań przedsiębiorstwa jako całości. W art. 435 § 1 k.c. nie chodzi bowiem o przedsiębiorstwo, które wykorzystuje jedynie do realizacji części zadań urządzenia wprawiane w ruch za pomocą sił przyrody, lecz o takie przedsiębiorstwo, które jako całość wprawiane jest w ruch za pomocą sił przyrody117. Dlatego też w judykaturze przyjmuje się, że hipoteza art. 435 § 1 k.c. dotyczy przedsiębiorstwa, w którym użycie sił przyrody stanowi zarówno cel jego funkcjonowania jako całości, jak też konieczny warunek istnienia i działania118 w tym sensie, że zarówno jego struktura, jak i system organizacji oraz wykonywania zadań są dostosowane do sił przyrody i zależne od nich. Ruch tego rodzaju przedsiębiorstwa wiąże się ze znacznym stopniem ryzyka możliwości wyrządzenia szkody osobom trzecim. Tam natomiast, gdzie nie chodzi o uruchomienie dużych mocy elementarnych, nie można mówić o szczególnym niebezpieczeństwie leżącym u podstaw wprowadzenia odpowiedzialności na zasadzie ryzyka119.

Zgodnie z powyższym stanowiskiem procesy polegające na przetwarzaniu energii elementarnej przy użyciu odpowiednich urządzeń muszą mieć zatem podstawowe znaczenie dla działalności danej jednostki, a przepis art. 435 k.c. znajduje zastosowanie do tych przedsiębiorstw (zakładów), których istnienie i praca w danym czasie i miejscu są uzależnione od wykorzystania sił przyrody i które bez użycia tych sił nie osiągnęłyby celu, dla którego zostały utworzone. Nie chodzi tu zatem o przedsiębiorstwo (zakład), które wykorzystuje urządzenia wprawiane w ruch za pomocą sił przyrody jedynie do realizacji części działań, a samo użycie w przedsiębiorstwie maszyn zaopatrzonych w silniki lub urządzeń, w których wykorzystywane są siły przyrody, nie daje jeszcze podstawy do stosowania art. 435 § 1 k.c. Podkreśla się w związku z tym, że przy ustalaniu zakresu stosowania tego przepisu należy brać pod uwagę stopień zagrożenia ze strony stosowanych urządzeń, stopień komplikacji przy przetwarzaniu energii elementarnej na pracę oraz ogólny poziom techniki. Konieczne jest więc każdorazowe badanie (w okolicznościach konkretnego przypadku), czy działalność wprawiana w ruch za pomocą sił przyrody jest dla danego przedsiębiorstwa zasadnicza czy tylko wspomagająca120. Jako przedsiębiorstwa rozumieniu art. 435 k.c. w orzecznictwie kwalifikowano dotychczas m.in.: kopalnie (zakłady górnicze), zakłady przemysłowe emitujące substancje trujące, zakłady gazownicze, zakłady energetyczne, przedsiębiorstwa transportu kolejowego, przedsiębiorstwa transportowe posługujące się mechanicznymi środkami komunikacji, przedsiębiorstwa tramwajowe, młyny, przedsiębiorstwa jajczarsko-drobiarskie, przedsiębiorstwa posługujące się statkami powietrznymi do zabiegów agrotechnicznych, przedsiębiorstwa zajmujące się żeglugą morską, przedsiębiorstwa budowlane, terminale kontenerowe, gospodarstwa rolne oraz zakłady mechaniki pojazdowej, jeżeli prowadzenie danego rodzaju działalności oraz uzyskiwanie jej efektów pozostawało w bezpośrednim związku ze stanem nasycenia i wykorzystania urządzeń poruszanych za pomocą sił przyrody121. Odmawia się natomiast takiego statusu np. podmiotom udzielającym świadczeń medycznych. W wyroku z dnia 21 września 2017 r.122 SN przyjął, że podstawą funkcjonowania podmiotu leczniczego są wiedza, umiejętności i doświadczenie wykwalifikowanego personelu medycznego, nie zaś ruch różnego rodzaju urządzeń spowodowany siłami przyrody. Urządzenia zasilane różnymi rodzajami energii usprawniają pracę lekarzy i innego personelu medycznego, jednak jej – zdaniem SN – nie warunkują. Dostrzegając wprawdzie, że współczesna medycyna w procesie diagnostyki i leczenia używa licznych urządzeń napędzanych siłami przyrody, Sąd Najwyższy uznał jednak, że wszystkie te urządzenia, działające niewątpliwie dzięki siłom przyrody, pełnią funkcję pomocniczą i nie decydują o charakterze działalności zakładu, jakim jest szpital jako podmiot leczniczy.

Nie jest jednak uprawnione automatyczne przenoszenie ustaleń dokonanych przez sądy w powołanych wyżej orzeczeniach na inne przedsiębiorstwa, choćby prowadzące analogiczną działalność, bez uprzedniego ustalenia, czy ich struktura, stopień „nasycenia” urządzeniami wprawianymi w ruch za pomocą sił przyrody i ich niezbędność dla funkcjonowania jednostki jako całości, są porównywalne123. Niewątpliwie trudno byłoby stworzyć całościowy i zamknięty katalog przedsiębiorstw (zakładów) wprawianych w ruch za pomocą sił przyrody. Tym samym oceny, czy przedsiębiorstwo należy do kategorii wskazanej w art. 435 k.c., należy dokonywać in casu, z uwzględnieniem faktycznego znaczenia określonych technologii w działalności konkretnego przedsiębiorstwa oraz na podstawie ustalenia, czy możliwe byłoby osiągnięcie zakładanych celów bez użycia sił przyrody. Mimo więc, że SN w powołanym wyżej wyroku uznał, że podmiot świadczący usługi medyczne nie jest przedsiębiorstwem, o którym mowa w art. 435 k.c., nie można wykluczyć odmiennego rozstrzygnięcia np. w przypadku kliniki specjalizującej się w wykonywaniu skomplikowanych zabiegów lub operacji, które nie mogłyby się odbywać bez zastosowania wysokiej klasy sprzętu elektronicznego124. W tym bowiem przypadku brak jest wyraźnej przewagi czynnika ludzkiego nad czynnikiem „mechanicznym”. Ponadto nie sposób pominąć faktu, że wskazane wyżej kryteria kwalifikujące mają charakter zmienny w czasie, z uwagi na szybki rozwój techniki125. To zaś oznacza, że konieczne jest ciągłe weryfikowanie poglądów judykatury w omawianym zakresie.

Należy również zaznaczyć, że – zgodnie ze stanowiskiem zajmowanym w orzecznictwie – bez znaczenia dla kwalifikacji przedsiębiorstwa jako napędzanego siłami przyrody jest tytuł prawny przysługujący przedsiębiorcy do urządzeń. Istotne jest bowiem ustalenie, w czyim interesie prowadzona jest działalność przy ich użyciu126.

Utrwalone jest stanowisko, że wyrządzenie szkody przez „ruch przedsiębiorstwa” następuje zarówno wtedy, gdy szkoda jest bezpośrednim skutkiem użycia sił przyrody i pozostaje w adekwatnym związku przyczynowym z niebezpieczeństwem wynikającym z zastosowania tych sił, jak i wtedy, gdy pozostaje w związku z samym tylko ruchem przedsiębiorstwa jako całości. Ruch przedsiębiorstwa, w ujęciu art. 435 § 1 k.c., to zatem każdy przejaw działalności przedsiębiorstwa, wynikający z określonej jego struktury organizacyjnej i jego funkcji usługowo-produkcyjnej, a związane z ruchem przedsiębiorstwa są szkody powstałe z każdej jego działalności, a nie tylko takiej, która jest bezpośrednio związana z działaniem sił przyrody i stanowi następstwo ich działania127.

Dla powstania odpowiedzialności z art. 435 k.c. wystarczy już wystąpienie związku przyczynowego między ruchem przedsiębiorstwa a szkodą, o charakterze conditio sine qua non128. Pamiętać przy tym należy, że przepis art. 435 § 1 k.c., wprowadzając rozszerzoną odpowiedzialność przedsiębiorstw wprawianych w ruch za pomocą sił przyrody, opartą na zasadzie ryzyka, uzależnia ją od wykazania, że szkoda pozostaje w normalnym związku przyczynowym z ruchem przedsiębiorstwa. Jak podkreślił SA w Szczecinie w wyroku z dnia 23 listopada 2017 r.129, brak jest podstaw do stwierdzenia, że w każdej sytuacji, gdy szkoda powstała w przedsiębiorstwie, które w jakikolwiek sposób wykorzystuje siły przyrody, można automatycznie przyjąć jego odpowiedzialność na zasadzie ryzyka w rozumieniu art. 435 § 1 k.c. Zawsze konieczne jest bowiem zindywidualizowanie samego zdarzenia oraz przeanalizowanie jego związku z ruchem przedsiębiorstwa jako całości. Nie chodzi jednak o każdy ruch przedsiębiorstwa, a jedynie o taki, który chociaż pośrednio ma związek z wykorzystaniem sił przyrody, a więc powinien być związany z działalnością, która spowodowała zakwalifikowanie danego przedsiębiorstwa do kategorii wprowadzanych w ruch za pomocą sił przyrody.

Biorąc pod uwagę wskazany wyżej, utrwalony w judykaturze sposób wykładni art. 435 k.c., należy uznać, że jeśli systemy sztucznej inteligencji stosowane są w przedsiębiorstwie, które całą swoją działalność opiera na pracy różnych maszyn lub urządzeń napędzanych siłami przyrody, w szczególności energią elektryczną, wspomaganych jedynie pracą człowieka i bez których nie byłoby ono w stanie efektywnie funkcjonować i osiągać zamierzonych celów gospodarczych, a jednocześnie stopień posługiwania się tym sprzętem w aktualnych warunkach technicznych jest na tyle wysoki, że wiąże się ze znacznym zagrożeniem wyrządzenia szkód, uzasadniona powinna być odpowiedzialność na zasadzie ryzyka, na podstawie art. 435 k.c.130. Chodzi zatem o ustalenie, czy urządzenia napędzane siłami przyrody, w tym systemy sztucznej inteligencji, mogą być w danym przypadku zakwalifikowane jako jedynie ułatwiające prowadzenie działalności opartej na ludzkich umiejętnościach, wiedzy czy sile fizycznej, czy też jako stanowiące jej niezbędny warunek. Przedsiębiorstwa, które tylko w niewielkim i uzupełniającym stopniu wykorzystują komputery lub sprzęt elektroniczny (w tym systemy sztucznej inteligencji), co nie warunkuje ich działania, nie będą więc mogły zostać uznane – w świetle ww. dyrektyw interpretacyjnych – za wprawiane w ruch za pomocą sił przyrody w rozumieniu art. 435 k.c.131.

106 Zob. m.in. wyrok SA w Szczecinie z dnia 3 kwietnia 2019 r., I AGa 201/18, Lex nr 2668201; wyrok SA w Lublinie z dnia 19 grudnia 2018 r., III APa 16/18, LEX nr 2605628; wyrok SA w Poznaniu z dnia 10 sierpnia 2018 r., I ACa 1412/17, LEX nr 2635196; wyrok SA we Wrocławiu z dnia 28 czerwca 2018 r., I ACa 1545/17, LEX nr 2678265; wyrok SA we Wrocławiu z dnia 28 czerwca 2018 r., I ACa 1545/17, LEX nr 2678265.

107 Wyrok Sądu Apelacyjnego we Wrocławiu z dnia 28 czerwca 2018 r., I ACa 1545/17, LEX nr 2678265; wyrok Sądu Apelacyjnego w Białymstoku z dnia 6 lutego 2020 r., I ACa 679/19 LEX nr 3030033.

108 Wyrok SA w Szczecinie z dnia 20 stycznia 2020 r., I ACa 498/19, LEX nr 2907150.

109 zob. również A. Michalak, Odpowiedzialność cywilnoprawna w obrocie oprogramowaniem komputerowym w erze sztucznej inteligencji, Warszawa 2021, s. 399 i n., który podkreśla, że w przypadku, gdy dane przedsiębiorstwo używa robotów z oprogramowaniem tradycyjnym lub wyposażonym w sztuczną inteligencję (np. w procesie produkcyjnym lub w działalności usługowej), nie ulega wątpliwości, że przedsiębiorstwo takie jest wprawiane w ruch za pomocą sił przyrody w rozumieniu art. 435 k.c.

110 Zob. m.in. wyrok SA w Białymstoku z dnia 6 lutego 2020 r., I ACa 679/19, LEX nr 3030033; wyrok SA w Łodzi z dnia 8 grudnia 2017 r., I ACa 454/17, LEX nr 2461444.

111 Jak przyjmuje się w orzecznictwie, ocena winy poszkodowanego, jako okoliczności egzoneracyjnej, jest dokonywana w kategoriach adekwatnego związku przyczynowego, tj. przewidziana w tym przepisie wyłączna wina za spowodowanie szkody występuje wtedy, gdy zawinione zachowanie poszkodowanego było jedyną przyczyną sprawczą. Istnieć więc musi normalny związek przyczynowy wyłącznie pomiędzy zawinionym zachowaniem się poszkodowanego a doznaną przez niego szkodą – ruch przedsiębiorstwa jest tylko czynnikiem przypadkowym, który został włączony do postępowania poszkodowanego i umożliwił mu wyrządzenie sobie szkody. W konsekwencji nie uchyla odpowiedzialności nawet ustalenie, że wina może być przypisana jedynie samemu poszkodowanemu, jeżeli równocześnie wystąpiły inne jeszcze przyczyny szkody w rozumieniu adekwatnego związku przyczynowego, choćby niezawinione przez prowadzącego przedsiębiorstwo – tak m.in. Sąd Apelacyjny w Łodzi w wyrokach z dnia: 16 lipca 2019 r., III APa 12/19, LEX nr 2713564 oraz z dnia 8 maja 2019 r., III APa 31/18, LEX nr 2684281, w którym podkreślono dodatkowo, że ciężar udowodnienia wyłącznej winy poszkodowanego spoczywa na odpowiedzialnym, a zatem chcąc uwolnić się od odpowiedzialności, powinien on wykazać nie tylko winę poszkodowanego, ale zarazem brak jakiejkolwiek winy własnej i „wyłączny” związek przyczynowy między zachowaniem się poszkodowanego a wypadkiem.

112 Osobami trzecimi w rozumieniu przepisu art. 435 § 1 k.c., za które przedsiębiorstwo nie będzie ponosić odpowiedzialności i których wina stanowi przesłankę egzoneracyjną, są wyłącznie osoby, które nie pozostają z przedsiębiorstwem w żadnym stosunku prawnym ani faktycznym (które nie są włączone do ruchu przedsiębiorstwa, pozostając poza ruchem przedsiębiorstwa) – tak m.in. SA w Poznaniu w wyroku z dnia 20 września 2019r., I ACa 714/18, LEX nr 3057544.

113 P. Księżak, w: System Prawa Medycznego, t. 3, 20.7.5, uwaga nr 1 podkreśla, że anachronizm regulacji zawartej w art. 435 k.c. staje się szczególnie widoczny w przypadku przedsiębiorstw działających w Internecie, czyli tych których działalność opiera się na przetwarzaniu danych w komputerach.

114 Tak m.in.: SN w wyroku z dnia 27 września 2018 r., III PK 77/17, LEX nr 2566510 oraz w wyroku z dnia 21 września 2017 r. I PK 272/16, LEX nr 2358813; SA w Łodzi w wyroku z dnia 28 listopada 2018 r., I ACa 270/18, LEX nr 2625562.

115 Tak m.in. SN w wyroku z dnia 27 września 2018 r., III PK 77/17, LEX nr 2566510 oraz w wyroku z dnia 21 września 2017 r. I PK 272/16, LEX nr 2358813; SA w Łodzi w wyroku z dnia 28 listopada 2018 r., I ACa 270/18, LEX nr 2625562; wyrok SA we Wrocławiu z dnia 28 czerwca 2018 r., I ACa 1545/17, LEX nr 2678265; wyrok SA w Warszawie z dnia 26 września 2018 r., VI ACa 384/17, LEX nr 2668754; wyrok SA w Poznaniu z dnia 22 sierpnia 2018 r., I ACa 1503/17, LEX nr 2582656; wyrok SA w Szczecinie z dnia 20 stycznia 2020 r., I ACa 498/19, LEX nr 2907150.

116 III PK 77/17, LEX nr 2566510.

117 Tak również SN w wyroku z dnia 21 września 2017 r. I PK 272/16, LEX nr 2358813 oraz SA w Łodzi w wyroku z dnia 28 listopada 2018 r., I ACa 270/18, LEX nr 2625562; wyrok SA w Szczecinie z dnia 20 stycznia 2020 r., I ACa 498/19, LEX nr 2907150.

118 Tak m.in.: SA w Białymstoku w wyroku z dnia 6 lutego 2020 r., I ACa 679/19, LEX nr 3030033.

119 Wyrok Sądu Apelacyjnego w Białymstoku z dnia 6 lutego 2020 r., I ACa 679/19 LEX nr 3030033.

120 Zob. m.in. wyroki Sądu Najwyższego z dnia 28 sierpnia 1958 r., 3 Cr 1370/57, Wyrok Sądu Najwyższego z dnia 18 grudnia 2018 r., IV CSK 483/17, LEX nr 2618523 OSPiKA 1959, Nr 7–8, poz. 204, z dnia 8 czerwca 1960 r., 4 CR 460/62, OSPiKA 1962, Nr 7–8, poz. 203, z dnia 1 grudnia 1962 r., 1 CR 460/62, OSPiKA 1964, Nr 4, poz. 4, z dnia 12 lipca 1977 r., IV CR 216/77, OSNCP 1978, Nr 4, poz. 73, z dnia 21 sierpnia 1987 r., II CR 222/87, OSPiKA 1988, Nr 7–8, poz. 174, z dnia 18 września 2002 r., III CKN 1334/00, niepubl., z dnia 8 grudnia 2005 r., I UK 97/05, OSNP 2006, Nr 21–22, poz. 336, z dnia 10 października 2008 r., II CSK 232/08, OSNC – ZD 2010, Nr A, poz. 1, i z dnia 21 września 2017 r., I PK 272/16, niepubl.

121 Por. orzeczenie składu siedmiu sędziów Sądu Najwyższego z dnia 13 czerwca 1960 r., 1 CR 165/60, OSNC 1962, Nr 1, poz. 11, orzeczenie Sądu Najwyższego z dnia 29 maja 1946 r., C I 179/46, P i P 1949, z. 12, uchwały Sądu Najwyższego z dnia 7 kwietnia 1970 r., III CZP 17/70 i z dnia 5 października 1974 r., III CZP 71/73, OSNC 1975, Nr 5, poz. 72, wyroki Sądu Najwyższego z dnia 24 maja 1961 r., 3 CR 962/60, OSPiKA 1962, poz. 110, z dnia 10 maja 1962 r., 3 CR 941/61, OSNCP 1963, Nr 10, poz. 226, z dnia 1 grudnia 1962 r., 1 CR 460/62,OSPiKA 1964, Nr 4, poz. 88, z dnia 24 czerwca 1963 r., 1 CR 499/62, OSNCP 1964, Nr 6, poz. 117, z dnia 23 marca 1967 r., I PR 60/67, niepubl., z dnia 24 lutego 1971 r., II CR 619/70, OSNC 1971, Nr 10, poz. 182, z dnia 22 listopada 1972 r., II CR 458/72, OSNC 1973, Nr 7–8, poz. 139, z dnia 5 stycznia 1973 r., II CR 620/72, OSNC 620/72, OSNC 1973, Nr 12, poz. 212, z dnia 21 stycznia 1974 r., I CR 762/73, OSNC 1975, Nr 4, poz. 61, z dnia 22 lutego 1983 r., I CR 472/82, niepubl., z dnia 22 listopada 1972 r., II CR 458/72, OSNC 1973, Nr 7–8, poz. 139, z dnia 20 września 1984 r., IV CR 337/84, OSNCP 1985, Nr 5–6, poz. 77, z dnia 27 listopada 1985 r., II CR 399/85, niepubl., z dnia 11 stycznia 1990 r., I CR 1377/89, OSNCP 1991, Nr 2–3, poz. 32, z dnia 21 marca 2001 r., I PKN 319/00,OSNAPiUS 2002, Nr 24, poz. 598, z dnia 19 czerwca 2001 r., II UKN 424/00, OSNP 2003, Nr 6, poz. 155, z dnia 13 grudnia 2001 r., IV CKN 1563/00, z dnia 18 września 2002 r., III CKN 1334/00, z dnia 11 marca 2004 r., II UK 260/03, OSNAPiUS 2004, Nr 21, poz. 377, z dnia 28 lutego 2007 r., V CK 11/06, niepubl., z dnia 23 listopada 2007 r., II PK 93/07, niepubl., z dnia 28 listopada 2007 r., V CSK 282/07, OSNC – ZD 2008, Nr 2, poz. 54, z dnia 15 lutego 2008 r., I CSK 376/07, OSNC – ZD 2008, nr D, poz. 117, z dnia 9 maja 2008 r., II CKN 360/07, niepubl., z dnia 10 października 2008 r., II CSK 232/08, z dnia 24 września 2009 r., IV CSK 207/09, OSNC 2010, Nr 4, poz. 58, z dnia 5 września 2012 r., IV CSK 25/12, niepubl. oraz postanowienie Sądu Najwyższego z dnia 29 stycznia 2008 r., I PK 258/07, niepubl.

122 Wyrok z dnia 21 września 2017 r. I PK 272/16, LEX nr 2358813.

123 Tak słusznie SN m.in. w wyroku z dnia 18 grudnia 2018 r., IV CSK 483/17, LEX nr 2618523.

124 Zob. również P. Księżak, w: System Prawa Medycznego, t. 3. 20.7.5, uwaga nr 3, który podkreśla, że na coraz większej liczbie pól (np. diagnostycznych) wykorzystanie sztucznej inteligencji stanie się wkrótce powszechne, a w konsekwencji konieczne z uwagi na oczekiwany standard świadczenia usług medycznych; nieuchronnie coraz większa liczba placówek medycznych będzie się opierać w swojej pracy na sztucznej inteligencji, bez której nie będzie w ogóle działać; w konsekwencji brak będzie podstaw do wykluczenia kwalifikacji, zgodnie z którą chodzi o zakład, o którym mowa w art. 435 k.c.

125 Tak SN w wyroku z dnia 18 grudnia 2018 r., IV CSK 483/17, LEX nr 2618523.

126 Tak SN w wyroku z dnia 18 grudnia 2018 r., IV CSK 483/17, LEX nr 2618523.

127 Zob. m.in.: wyrok SN z dnia z dnia 24 kwietnia 2018 r., III PK 45/17, LEX nr 2553861; wyrok Sądu Apelacyjnego w Łodzi z dnia 8 maja 2019 r., III APa 31/18, LEX nr 2684281; wyrok SA w Katowicach z dnia 13 grudnia 2018 r. I ACa 228/18, LEX nr 2669659; wyrok SA w Krakowie z dnia 30 października 2018 r., I ACa 68/18, LEX nr 2624019.

128 Zob. m.in. wyrok SN z dnia 24 kwietnia 2018 r., III PK 45/17, LEX nr 2553861.

129 III APa 20/16, LEX nr 2476136.

130 Zob. również A. Michalak, Odpowiedzialność…, s. 391 i n.

131 P. Księżak, w: D. Bach-Golecka, R. Stankiewicz (red.), System Prawa Medycznego, t. 3, Legalis, Warszawa 2020, rozdział 20.7.5., uwaga nr 2.

§ 4. Odpowiedzialność na podstawie art. 436 k.c. jako podstawa roszczeń o naprawienie szkody wyrządzonej w wyniku działania systemu sztucznej inteligencji

Jednym z obszarów, w których rozwiązania oparte na sztucznej inteligencji znajdują szerokie zastosowanie, jest przemysł samochodowy. Mimo tego, że masowa produkcja samochodów w pełni autonomicznych (poruszających się bez kierowcy) jest kwestią raczej bliższej niż dalszej przyszłości, problem odpowiedzialności cywilnej za szkody wyrządzone przez pojazdy w pełni autonomiczne, poruszające się bez kierowców, nie jest nadal rozstrzygnięty. Art. 436 k.c. reguluje wprawdzie odpowiedzialność posiadacza mechanicznego środka komunikacji, niemniej jednak środki komunikacji, z myślą o których przepis ten został wprowadzony do Kodeksu cywilnego, i pojazdy autonomiczne, to zupełnie inne zjawiska. Ponadto już obecnie produkowane i wprowadzane do obrotu auta wyposażone są w różne systemy przejmujące kontrolę nad ich ruchem, jak np. systemy ABS, aktywne tempomaty, systemy automatycznego parkowania i hamowania. Z tego względu w doktrynie słusznie wskazuje się, że konieczna jest próba postawienia granicy między ruchem pojazdu, za który odpowiedzialność ponosi posiadacz na podstawie art. 436 k.c., a szkodą wyrządzoną przez inne urządzenia, za które odpowiedzialność może być oparta na innych podstawach132.

Art. 436 k.c. przewiduje odpowiedzialność samoistnego posiadacza mechanicznego środka komunikacji poruszanego za pomocą sił przyrody. W przypadku, gdy posiadacz samoistny oddał środek komunikacji w posiadanie zależne, odpowiedzialność tę ponosi posiadacz zależny. Celem art. 436 k.c. jest wzmocnienie pozycji osób poszkodowanych w wypadkach komunikacyjnych. Odbywa się to, podobnie jak w omówionym wyżej przypadku uregulowanym w art. 435 k.c., poprzez oparcie odpowiedzialności na surowej zasadzie ryzyka.

Mimo że działanie pewnych systemów, w które wyposażone są współczesne samochody, oparte jest na algorytmach, podejmujących decyzje za kierowcę, czasem nawet pozbawiając go możliwości reakcji, nadal stanowią one jedynie elementy pojazdów używanych przez człowieka133. W doktrynie wskazuje się, że oprogramowanie pojazdu sterujące jego ruchem lub poszczególnymi funkcjami stanowi część składową rzeczy w ujęciu prawnorzeczowym134. Brak jest zatem de lege lata podstaw, aby wyłączać z zakresu odpowiedzialności przewidzianej w art. 436 k.c. szkody będące następstwem funkcjonowania tych systemów, np. wywołane niewykryciem przeszkody przez system automatycznego hamowania lub wykonywaniem manewru automatycznego parkowania. Nadal mamy tu bowiem do czynienia z ruchem pojazdu mechanicznego w rozumieniu tego przepisu. Podejście to jest tym bardziej uzasadnione, zważywszy na fakt, że niejednokrotnie dodatkowe elementy wyposażenia samochodu, automatyzujące pewne jego funkcje i w ten sposób odciążające kierowcę, właśnie przez to stwarzają dodatkowe niebezpieczeństwo związane z ruchem pojazdu mechanicznego. Rozpraszając bowiem uwagę kierowcy lub „zwalniając go z myślenia”, istotnie zwiększają ryzyko wykonania niewłaściwego manewru, spowalniają czas reakcji bądź nawet powodują jej brak135.

Ustalenie odpowiedzialności z art. 436 k.c. wymaga wykazania, że szkoda została wyrządzona przez ruch pojazdu i pozostaje w adekwatnym związku przyczynowym z tym ruchem136. Przy czym w dotychczasowym orzecznictwie i poglądach doktryny ruch pojazdu ujmowany jest szeroko, nie tylko w znaczeniu fizycznego przemieszczania się, lecz ogólnie – używania pojazdu przez posiadacza, a zatem w oderwaniu od znaczenia potocznego137. W związku z tym przyjmuje się, że z zakresu odpowiedzialności posiadacza pojazdu uregulowanej w art. 436 k.c. nie powinno się wyłączać również szkód wywołanych przez niezwiązany z przemieszczaniem się pojazdu system automatyczny, np. urządzenie do samoczynnego otwierania bagażnika138.

Wyposażenie samochodów w komputer pokładowy oraz oprogramowanie sterujące jego ruchem lub poszczególnymi funkcjami wywołuje również ryzyko przejmowania nad nimi kontroli na odległość139. Coraz bardziej zaawansowana komputeryzacja pojazdów, pozwalająca im poprzez dostęp do sieci na zdalną komunikację z nawigacją, telefonem czy serwisem, tylko zwiększa możliwość cyberataków. Tego typu zdarzenia wywołujące szkodę należy rozpatrywać podobnie jak przejęcie kontroli nad kierowcą przez zamachowca. Po pierwsze, wprawdzie bezpośrednią przyczyną szkody jest w takim przypadku ruch pojazdu, niemniej jednak przyczyną pierwotną będzie działanie zamachowca140. Adekwatny związek przyczynowy zachodził będzie więc między szkodą a działaniem zamachowca lub hakera, a nie ruchem pojazdu. Po drugie, samoistny posiadacz pojazdu zwolniłby się od odpowiedzialności, powołując się na przesłankę egzoneracyjną z art. 435 w zw. z art. 436 k.c. – wyłączną winę osoby trzeciej. Poszkodowany mógłby dochodzić naprawienia szkody od tej osoby trzeciej jedynie na podstawie przepisów o odpowiedzialności deliktowej, opartej na zasadzie winy (art. 415 i n. k.c.). Zupełnie odrębną kwestią jest jednak to, czy w danym przypadku dałoby się ustalić tożsamość tej osoby oraz czy z jej majątku możliwe byłoby pokrycie szkody poniesionej przez poszkodowanego (tj. czy osoba ta byłaby wypłacalna). Omawiane zagrożenia stawiają niewątpliwie nowe wyzwanie przed branżą motoryzacyjną, a mianowicie zapewnienie cyberbezpieczeństwa wprowadzanym do obrotu pojazdom mechanicznym.

132 Tak S. Byczko, Wpływ rozwoju technologicznego na odpowiedzialność samoistnego posiadacza pojazdu mechanicznego opartą na art. 436 k.c., w: Czynić postęp w prawie. Księga jubileuszowa dedykowana Profesor Birucie Lewaszkiewicz-Petrykowskiej, Łódź 2017, s. 244.

133 Jak słusznie podkreśla S. Byczko, Wpływ…, s. 246, odpowiedzialność z art. 436 k.c. nie jest odpowiedzialnością za działanie poszczególnych elementów, takich jak silnik, wycieraczki, drzwi, lecz za pewną funkcjonalną całość.; zob. również A. Michalak, Odpowiedzialność…, s. 399 i n., który wskazuje, że nie da się przyjąć aktualnie tezy, że możliwy jest całkowity brak nadzoru nad pojazdem autonomicznym ze strony kierowcy lub operatora tego pojazdu.

134 Zob. S. Byczko, Wpływ…, s. 249.

135 Jak przyjmuje się w doktrynie, zachowanie kierowcy polegające na braku nadzorowania pojazdu autonomicznego, poprzez np. oglądanie filmu czy korzystanie z aktywnego tempomatu w trudnych warunkach pogodowych, należy uznać za zawinione – tak A. Michalak, Odpowiedzialność…, s. 399 i n.

136 Zob. m.in. M. Safjan, w: K. Pietrzykowski (red.), Kodeks cywilny. Komentarz, Tom I, Warszawa 2015, s. 1464.

137 Zob. szerzej S. Byczko, Wpływ…, s. 245 i n., który przywołuje orzeczenia i wypowiedzi przedstawicieli doktryny uznające, że pojazd znajduje się w ruchu nawet wtedy, gdy silnik jest wyłączony, podczas wysiadania pasażerów, przeładunku itp.

138 S. Byczko, Wpływ…, s. 245.

139 Zob. M. Duszczyk, Hakerzy biorą na cel nasze samochody, „Rzeczpospolita”, 27.06.2016, który wskazuje, że „analitycy IHS Automotive szacują, że 20 proc. samochodów sprzedanych na świecie w 2015 r. posiadało możliwość zdalnego wyłączenia hamulców. Eksperci firmy Check Point alarmują, że liczba aut potencjalnie narażonych na takie ataki hakerów do 2020 r. może wzrosnąć do 150 mln”. Autor ten podaje jako przykład sytuację, kiedy w 2015 r. grupa specjalistów bezpieczeństwa włamała się zdalnie do systemu rozrywki w jadącym jeepie, uzyskała kontrolę nad modułem hamulców i zatrzymała auto.

140 S. Byczko, Wpływ…, s. 245–246.

§ 5. Odpowiedzialność za produkt niebezpieczny jako podstawa roszczeń o naprawienie szkody wyrządzonej w wyniku działania systemu sztucznej inteligencji

Rozważając możliwe de lege lata podstawy dochodzenia roszczeń odszkodowawczych za działanie sztucznej inteligencji, nie można pominąć przepisów art. 449¹ i n. k.c., regulujących odpowiedzialność za szkodę wyrządzoną przez produkt niebezpieczny. Przewidują one zaostrzoną, opartą na zasadzie ryzyka, odpowiedzialność producenta takiego produktu, której nie można umownie wyłączyć ani ograniczyć (art. 4499 k.c.).

Przepisy art. 449¹–44910 k.c. stanowią implementację do polskiego porządku prawnego Dyrektywy Rady 85/37 z dnia 25 lipca 1985 r. w sprawie zbliżenia przepisów ustawowych, wykonawczych i administracyjnych Państw Członkowskich dotyczących odpowiedzialności za produkty wadliwe141 (dalej jako Dyrektywa). Celem Dyrektywy była harmonizacja ustawodawstw państw członkowskich dotyczących odpowiedzialności producenta za szkody wyrządzone wadliwością jego produktów, gdyż istniejące w tym zakresie rozbieżności mogłyby zakłócać konkurencję i wpływać na przepływ towarów wewnątrz wspólnego rynku oraz pociągać za sobą zróżnicowanie poziomu ochrony konsumenta przed szkodą na jego zdrowiu lub mieniu wyrządzoną przez produkt wadliwy.

Odpowiedzialność za produkt niebezpieczny związana została przede wszystkim z producentem, tj. podmiotem wytwarzającym produkt niebezpieczny w zakresie swojej działalności gospodarczej. Jednakże z producentem zrównane zostały także inne podmioty. Zgodnie bowiem z art. 4495 § 2 k.c., kto przez umieszczenie na produkcie swojej nazwy, znaku towarowego lub innego oznaczenia odróżniającego podaje się za producenta, odpowiada jak producent. Tak samo odpowiada ten, kto produkt pochodzenia zagranicznego wprowadza do obrotu krajowego w zakresie swojej działalności gospodarczej (importer). Ponadto tak jak producent odpowiada również wytwórca materiału, surowca albo części składowej produktu (art. 4495 § 1 k.c.). Z tym że w przypadku tego ostatniego podmiotu przyjęta została szczególna przesłanka egzoneracyjna. Jeśli wykaże on, że wyłączną przyczyną szkody była wadliwa konstrukcja produktu lub wskazówki producenta, zwolni się z odpowiedzialności. Odpowiedzialność wszystkich wyżej wymienionych podmiotów ma charakter solidarny.

Ponadto dla wzmocnienia ochrony poszkodowanego w art. 4495 § 4 k.c. przewidziano, że w przypadku, gdy nie wiadomo, kto jest producentem, osobą podającą się za producenta lub importerem, odpowiedzialność ponosi ten, kto w zakresie swojej działalności gospodarczej zbył produkt niebezpieczny, chyba że w ciągu miesiąca od daty zawiadomienia o szkodzie wskaże poszkodowanemu osobę i adres producenta lub osoby podającej się za producenta, a w wypadku towaru importowanego – osobę i adres importera, a jeśli nie może wskazać tych osób, zwalnia go od odpowiedzialności wskazanie osoby, od której sam nabył produkt.

Z motywów Dyrektywy Rady 85/37 wynika, że przewidziany w niej szczególny reżim odpowiedzialności dotyczy naprawiania szkód ponoszonych przez konsumentów. Polski ustawodawca w art. 449¹ § 1 k.c. w sposób najszerszy z możliwych zakreślił natomiast krąg osób, które mogą żądać naprawienia szkody na podstawie tych przepisów, tj. jako kogokolwiek, komu została wyrządzona szkoda przez produkt niebezpieczny. Przy czym chodzi tu – co do zasady – tak o szkodę na mieniu, jak i szkody na osobie. Jednakże z uwagi na ograniczenie zawarte w art. 4492 k.c. poszkodowanym może być właściwie tylko osoba fizyczna142. Zgodnie bowiem z tym przepisem producent odpowiada za szkodę na mieniu tylko wówczas, gdy rzecz zniszczona lub uszkodzona należy do rzeczy zwykle przeznaczanych do osobistego użytku i w taki przede wszystkim sposób korzystał z niej poszkodowany. Jak w związku z tym podkreśla się w doktrynie, treść art. 4492 k.c. czyni odpowiedzialność względem osoby prawnej jedynie teoretyczną, gdyż nie ma ona rzeczy przeznaczonych do użytku osobistego, a trudno jest podać przykład szkody, która mogłaby dotknąć inne niż rzeczy składniki mienia takiej osoby. Odpowiedzialność za szkodę niemajątkową osoby prawnej na podstawie art. 448 k.c. również wydaje się tu mało prawdopodobna143. Takie podejście jest przy tym w pełni zgodne z celem Dyrektywy, w której motywach wskazano, że ochrona konsumenta wymaga zadośćuczynienia za śmierć i uszkodzenie ciała, jak również za szkody majątkowe; niemniej jednak to ostatnie powinno być ograniczone do towarów do użytku prywatnego lub konsumpcji i podlegać niższemu progowi odliczenia od ustalonej kwoty w celu uniknięcia sporów w nadmiernej liczbie postępowań sądowych.

W preambule do Dyrektywy wskazano, że niezależna od winy odpowiedzialność ze strony producenta jest jedynym właściwym środkiem rozwiązania charakterystycznego dla obecnych czasów problemu rosnącej technicyzacji poprzez sprawiedliwe rozłożenie ryzyka tkwiącego w nowoczesnej technologicznie produkcji. Obejmowanie zakresem Dyrektywy produktów wykorzystujących sztuczną inteligencję wydaje się więc w pełni wpisywać w ten motyw. Jest to tym bardziej uzasadnione, zważywszy na fakt, że wszystkie działania fizyczne czy wirtualne opierające się na systemach SI, urządzenia czy procesy, w których korzysta się z tych systemów, mogą zasadniczo być bezpośrednią lub pośrednią przyczyną szkody, a jednocześnie są one niemal zawsze wynikiem tego, że ktoś skonstruował lub wdrożył taki właśnie system.

Jednocześnie jednak w art. 2 Dyrektywy produkt zdefiniowano jako każdą rzecz ruchomą, nawet będącą częścią składową innej rzeczy ruchomej lub nieruchomej, a także elektryczność. Motywując to rozwiązanie, w preambule do Dyrektywy wskazano, że odpowiedzialność niezależna od winy powinna mieć zastosowanie jedynie do rzeczy ruchomych pochodzących z produkcji przemysłowej; w rezultacie właściwym jest wyłączenie odpowiedzialności za produkty rolne i produkty łowiectwa, z wyjątkiem przypadku, gdy zostały one poddane obróbce o charakterze przemysłowym, która mogłaby spowodować powstanie wady w tych produktach. Dodano również, że odpowiedzialność przewidziana Dyrektywą powinna odnosić się także do rzeczy ruchomych, które są używane w budownictwie lub są instalowane w nieruchomościach. W ślad za tym polski ustawodawca przyjął w art. 4491 § 1 k.c., że przez produkt rozumie się rzecz ruchomą, choćby została ona połączona z inną rzeczą, dodając, że za produkt uważa się także zwierzęta i energię elektryczną. Stosując do wykładni pojęcia rzeczy ruchomej w rozumieniu tego przepisu ujęcie zgodne z art. 45 k.c., za produkt należałoby uznać wyłącznie przedmioty materialne. To zaś oznaczałoby, że poza jego zakresem znajdują się wszelkie dobra niematerialne, w tym oprogramowanie komputerowe144. Niewątpliwie za przyjęciem takiej zawężającej interpretacji pojęcia rzeczy ruchomej na gruncie art. 4491 § 1 k.c. przemawia zasada jednolitego rozumienia tych samych pojęć używanych w ramach danego aktu prawnego. Nie można jednak pomijać faktu, że przepis ten stanowił implementację Dyrektywy, a co za tym idzie powinien być wykładany przede wszystkim w sposób zgodny z jej celem i duchem, nawet kosztem zaburzenia spójności terminologicznej krajowego ustawodawcy (proeuropejska wykładnia prawa).

W doktrynie zauważa się wprawdzie, że w znakomitej większości przypadków sztuczna inteligencja wbudowana jest w jakiś materialny nośnik145, w szczególności maszynę lub urządzenie, które jako całość stanowi przecież rzecz ruchomą w rozumieniu art. 45 k.c. Jedynie więc samo oprogramowanie niestanowiące elementu rzeczy ruchomej w sensie materialnym nie podlegałoby reżimowi odpowiedzialności z art. 449¹ i n. k.c. Stanowisko takie wydaje się jednak dyskusyjne, przede wszystkim dlatego, że dane w postaci cyfrowej (np. programy komputerowe, aplikacje czy gry komputerowe) są coraz częściej przedmiotem masowego obrotu, wprowadzanym do niego i dostarczanym nabywcom w sposób niematerialny, np. przez pobranie z Internetu, a nie na trwałym nośniku. Fakt, że są one zawsze pobierane na jakiś materialny nośnik, a następnie najczęściej na nim utrwalane (np. na pendrivie, smartfonie czy twardym dysku stanowiącym część składową komputera lub mającym postać odrębnego urządzenia do przechowywania danych – tzw. dysku zewnętrznym), nie powinien być przesądzający, gdyż sam materialny nośnik ma w tym przypadku zupełnie drugorzędne i czysto techniczne znaczenie w stosunku do danych cyfrowych, będących przedmiotem obrotu146. We wskazanych wyżej przypadkach mamy więc do czynienia z zupełnie inną sytuacją niż wówczas, gdy system sztucznej inteligencji jest wbudowany przez producenta określonego produktu w znaczeniu materialnym (np. samochodu, sprzętu AGD) jako jego część składowa i w takiej finalnej postaci (a nie odrębnie) wprowadzany na rynek. Produktem jest wtedy ta rzecz ruchoma jako całość.

Z powyższych względów właściwsze wydaje się podejście, które nie wyklucza z zakresu pojęcia produktu także takich systemów sztucznej inteligencji, które są wprowadzane na rynek wyłącznie w postaci cyfrowej, tj. nieucieleśnionej w jakimkolwiek materialnym przedmiocie147. Uzasadnione wydaje się więc stanowisko opowiadające się za funkcjonalną wykładnią pojęcia produktu na gruncie art. 4491 § 1 k.c., obejmującą nim każde dobro występujące w komercyjnym obrocie masowym148. Skoro postęp technologiczny spowodował, że dobra niematerialne, w tym technologie cyfrowe, uzyskały w masowym obrocie odrębność i samodzielność identyczną jak przedmioty materialne, to różnicowanie ich statusu w kontekście pojęcia produktu, a tym samym zakresu ochrony przysługującej osobom poszkodowanym ich wadliwym działaniem, nie wydaje się zasadne. Skutkowałoby to bowiem osłabieniem zaufania do bezpieczeństwa, niezawodności i spójności tego typu dóbr komercyjnych, jakimi są technologie cyfrowe, w tym systemy sztucznej inteligencji.

Oczywiście sama kwalifikacja systemów sztucznej inteligencji (zarówno wbudowanych w rzecz ruchomą, jak też samodzielnie wprowadzanych do obrotu) jako produktów w rozumieniu Dyrektywy oraz stanowiącego jej implementację reżimu odpowiedzialności uregulowanego w art. 4491 i n. k.c. nie zamyka problemów związanych z możliwością jego zastosowania do naprawiania szkód wyrządzonych przez tę kategorię produktów. Do tego konieczne jest jeszcze uznanie produktu za niebezpieczny w świetle art. 4491 § 3 k.c. Zgodnie z tym przepisem niebezpieczny jest produkt niezapewniający bezpieczeństwa, jakiego można oczekiwać, uwzględniając normalne użycie produktu. Przy czym o tym, czy produkt jest bezpieczny, decydują okoliczności z chwili wprowadzenia go do obrotu, a zwłaszcza sposób zaprezentowania go na rynku oraz podane konsumentowi informacje o właściwościach produktu. Jednocześnie produkt nie może być uznany za niezapewniający bezpieczeństwa tylko dlatego, że później wprowadzono do obrotu podobny produkt ulepszony.

Niebezpieczeństwo produktu odnoszone jest zatem w omawianym reżimie odpowiedzialności do momentu wprowadzenia go na rynek. Innymi słowy, jeśli w momencie wprowadzenia do obrotu produkt można było uznać za bezpieczny, jego producent nie będzie ponosił odpowiedzialności na podstawie art. 449¹ k.c. za szkody wyrządzone przez ten produkt. Omawiany reżim odpowiedzialności oparty jest więc na założeniu sytuacji typowej, gdy moment wprowadzenia do obrotu jest tym, w którym produkt uzyskuje już ostateczny kształt nadany mu przez producenta, niezależnie od tego, że później może zostać połączony z inną rzeczą (np. samochodowy uchwyt na rowery). W przypadku systemów sztucznej inteligencji, niezależnie od tego, czy ucieleśnionej na materialnym nośniku, czy nie, moment wprowadzenia do obrotu jest natomiast najczęściej dopiero początkową fazą „życia” produktu. Podlega on następnie aktualizacjom, które poszerzają jego wyjściowe funkcjonalności, zwiększają bezpieczeństwo, nie wspominając już o systemach SI, które mają zdolność samodzielnego uczenia i modyfikacji swoich kodów, a zatem same się rozwijają po wprowadzeniu do obrotu przez producenta. Systemy sztucznej inteligencji, właśnie ze względu na swoją złożoność, zdolność do łączenia się, podatność na zagrożenia, możliwość modyfikowania w drodze aktualizacji, możliwość samodzielnego uczenia się oraz dużą liczbę podmiotów ingerujących w cykl ich „życia”, stanowią niewątpliwie poważne wyzwanie w kontekście omawianego reżimu odpowiedzialności.

W doktrynie rozważa się w związku z tym, czy produkt może być z uwagi na samą jego autonomiczność uznany za niebezpieczny w rozumieniu art. 4491 k.c.149. W motywach do Dyrektywy podkreślono, że wadliwość produktu należy ustalać przez odwoływanie się nie do jego przydatności do użytku, lecz do braku bezpieczeństwa, którego ogół społeczeństwa ma prawo oczekiwać; przy czym bezpieczeństwo produktu ocenia się poprzez wyłączenie każdego niewłaściwego użycia produktu w danych okolicznościach. Zarówno na gruncie Dyrektywy, jak i art. 449¹ § 3 k.c. bezpieczeństwo produktów należy więc oceniać z zastosowaniem dwóch kryteriów – oczekiwań ogółu społeczeństwa w tym zakresie oraz normalnego, właściwego w danych okolicznościach, użycia produktu.

Biorąc pod uwagę fakt, że jednym z podstawowych motywów wprowadzania do obrotu systemów sztucznej inteligencji jest w wielu przypadkach eliminowanie lub zmniejszanie ryzyka błędów popełnianych przez człowieka, nie powinno być wątpliwości, że ogólnospołeczne oczekiwania co do bezpieczeństwa tego typu produktów są ponadstandardowo wysokie. Czy to jednak oznacza, że jako kryterium na gruncie art. 449¹ § 3 k.c. możemy przyjąć oczekiwanie stuprocentowego bezpieczeństwa i nieomylności systemów sztucznej inteligencji? Jest to standard maksymalny i jednocześnie nierealistyczny150. Uproszczenie takie wydaje się jednak konieczne i uzasadnione ze względu na cel omawianego reżimu odpowiedzialności151. W motywach Dyrektywy podkreślono bowiem, że niezależna od winy odpowiedzialność ze strony producenta jest jedynym właściwym środkiem rozwiązania charakterystycznego dla obecnych czasów problemu rosnącej technicyzacji poprzez sprawiedliwe rozłożenie ryzyka tkwiącego w nowoczesnej technologicznie produkcji. Ponadto w motywie 9 do Projektu rozporządzenia Parlamentu Europejskiego i Rady w sprawie odpowiedzialności za działanie systemów sztucznej inteligencji152 podkreślono, że z Dyrektywy należy korzystać również w odniesieniu do roszczeń poszkodowanego z tytułu odpowiedzialności cywilnej producenta wadliwego systemu sztucznej inteligencji. Co więcej, w projekcie tego rozporządzenia przyjęto, że nawet jego wejście w życie nie będzie wykluczało odpowiedzialności producenta systemu sztucznej inteligencji według reżimu przewidzianego Dyrektywą153.

Zastosowanie wskazanego wyżej podejścia do wykładni pojęcia niebezpieczeństwa produktu wydaje się więc zgodne z powyższymi założeniami ustawodawcy unijnego. Przy takim ujęciu już sam fakt wystąpienia szkody w związku z normalnym użyciem sztucznej inteligencji świadczyłby o niebezpieczeństwie tego produktu; innymi słowy, z założenia każdy produkt oparty na działaniu systemu sztucznej inteligencji przez swoją autonomiczność oraz podatność na zagrożenia może być per se uznany za potencjalnie niebezpieczny154. Odpowiedzialność producenta systemu sztucznej inteligencji według omawianego reżimu znajduje uzasadnienie w tym, że wytwarza on i wprowadza do obrotu produkt, który stwarza lub stanowi zagrożenie dla ogółu społeczeństwa, a jednocześnie do pewnego stopnia kontroluje ryzyko związane z działaniem tego produktu.

Wydaje się więc, że interpretując pojęcie „produktu niebezpiecznego” w zgodzie z celem Dyrektywy, zakresem odpowiedzialności z art. 449¹ i n. k.c. można objąć te przypadki, gdy wprowadzony do obrotu system sztucznej inteligencji, użyty w sposób właściwy, wyrządził szkodę. Wskazane podejście interpretacyjne plasowałoby więc systemy sztucznej inteligencji w grupie takich produktów jak np. broń palna, noże czy substancje trujące, a zatem ze swojej istoty niebezpiecznych155. Tego typu produkty, z uwagi na specyficzne przeznaczenie, wymagają stosowania ich tylko w określonej sytuacji i tylko w określonym celu156. Oceny ich bezpieczeństwa należy więc dokonywać, uwzględniając wyłącznie to normalne przeznaczenie, a nie ich potencjalne możliwości użycia również w inny sposób czy w innym celu.

Przez właściwe użycie systemu sztucznej inteligencji należy rozumieć takie jej wykorzystanie, które mieści się w zakresie, w jakim tego typu produkt został dopuszczony do obrotu, a więc zgodne z jego przeznaczeniem oraz instrukcjami producenta. W tym kontekście należy brać pod uwagę sposób zaprezentowania produktu na rynku oraz podane przez producenta informacje o właściwościach produktu. W przypadku systemów sztucznej inteligencji należy przy tym uwzględniać nie tylko instrukcje dotyczące właściwej i bezpiecznej eksploatacji pierwotnie dołączone do produktu, ale także te, które przekazywane są przez producenta już po wprowadzeniu produktu do obrotu za pomocą zdalnie wysyłanych komunikatów, np. dotyczących wymaganych aktualizacji czy konieczności zmiany haseł zabezpieczających.

Odpowiedzialność producenta SI w ramach omawianego reżimu odpowiedzialności będzie wyłączona jedynie w przypadku wystąpienia jednej z przesłanek egzoneracyjnych wskazanych w art. 4493 k.c. Regulacje te są wyrazem dążenia do sprawiedliwego podziału ryzyka między osobę poszkodowaną a producenta.

Po pierwsze, producent nie odpowiada za szkodę wyrządzoną przez produkt niebezpieczny, jeżeli produktu nie wprowadził do obrotu albo gdy wprowadzenie produktu do obrotu nastąpiło poza zakresem jego działalności gospodarczej. Przy czym w art. 4494 k.c. przewidziane zostało domniemanie, że produkt niebezpieczny, który spowodował szkodę, został wytworzony i wprowadzony do obrotu w zakresie działalności gospodarczej producenta.

Po drugie, producent nie odpowiada również wtedy, gdy właściwości niebezpieczne produktu ujawniły się po wprowadzeniu go do obrotu, chyba że wynikały one z przyczyny tkwiącej poprzednio w produkcie. Nie odpowiada on także wtedy, gdy nie można było przewidzieć niebezpiecznych właściwości produktu, uwzględniając stan nauki i techniki w chwili wprowadzenia produktu do obrotu, albo gdy właściwości te wynikały z zastosowania przepisów prawa.

Z uwagi na to, że istotą sztucznej inteligencji jest autonomiczność i wpisany w nią mechanizm uczenia się, należy rozważyć, czy i w jakich przypadkach producent będzie mógł powołać się na to, że właściwości niebezpieczne produktu ujawniły się po wprowadzeniu go do obrotu albo że nie można ich było przewidzieć, uwzględniając stan nauki i techniki w chwili wprowadzenia produktu do obrotu. W doktrynie wskazuje się, że skoro systemy sztucznej inteligencji działają, opierając się na pewnych kodach, algorytmach, to „wpisane” muszą być w nie również algorytmy wyznaczające zakres działania, a więc także to, czy dane działanie jest prawidłowe lub dopuszczalne, czy nie157. Powyższe założenie jest jednak zawodne w przypadku szczególnie zaawansowanych systemów sztucznej inteligencji, tzw. uczenia maszynowego, opartego na algorytmach, które budują model matematyczny na podstawie przykładowych danych w celu prognozowania lub podejmowania decyzji, chociaż nie są bezpośrednio przez człowieka zaprogramowane do tego. Biorąc jednak pod uwagę, że przynajmniej obecnie wprowadzane do masowego obrotu systemy sztucznej inteligencji są w znakomitej większości przypadków jedynie w pewnym stopniu autonomiczne, gdyż granice ich działania są z góry określone158, producent nie powinien móc zwolnić się z odpowiedzialności, gdy system podejmie samodzielnie błędną decyzję, mieszczącą się jednak w wyznaczonych przez producenta granicach, i tym samym wyrządzi szkodę. Jak była o tym mowa wyżej, niebezpieczna właściwość w przypadku systemów sztucznej inteligencji ujmowana jest bowiem właśnie jako wynikająca z autonomiczności wpisanej w ich istotę. Tym samym istnieje ona już w momencie wprowadzenia tego typu produktów do obrotu.

Jeśli natomiast szkoda zostałaby wyrządzona z powodu tego, że już po wprowadzeniu produktu do obrotu użytkownik samodzielnie dokonał w nim zmian nieautoryzowanych przez producenta bądź wręcz przez niego zakazanych (np. zainstalował nowe oprogramowanie niepochodzące od producenta), czy też zamontował dodatkowe urządzenia, które zakłóciły prawidłowe działanie systemu, to z reguły nie będzie można przyjąć odpowiedzialności producenta na podstawie art. 449¹ k.c.

Problematyczna wydaje się również możliwość powoływania się przez producentów systemów sztucznej inteligencji na przesłankę egzoneracyjną w postaci braku możliwości przewidzenia niebezpiecznych właściwości produktu, uwzględniając stan nauki i techniki w chwili wprowadzenia produktu do obrotu. Branża IT jest jedną z najszybciej rozwijających się, a ze względu na ten szybki postęp produkty z wbudowaną sztuczną inteligencją starzeją się szybciej niż inne, ponadto cały czas – z uwagi na rozwój w nauce i technice – podwyższeniu ulegają normy ich bezpieczeństwa. Szerokie spektrum sposobów, dziedzin i obszarów życia, w których sztuczna inteligencja może znaleźć w przyszłości zastosowanie, jak też związane z tym zagrożenia, są już obecnie przedmiotem pogłębionej naukowej analizy i dyskusji. W związku z tym możliwość wykazania, że aktualny na moment wprowadzenia do obrotu stan wiedzy i techniki nie był wystarczający do przewidzenia przez producenta niebezpiecznych właściwości systemu sztucznej inteligencji, będzie ograniczona. Z drugiej jednak strony właśnie ta dynamika rozwoju i mnogość jego kierunków wciąż pozostawia duży obszar nieprzewidywalności co do potencjalnych niebezpieczeństw związanych z wykorzystywaniem systemów sztucznej inteligencji. Nie można zatem z góry wykluczyć możliwości skutecznego powoływania się przez producenta tego typu produktów, jak systemy sztucznej inteligencji, na omawianą przesłankę egzoneracyjną.

141 Dz.U. UE L.1985.210.29 z dnia 07.08.1985.

142 Tak G. Karaszewski, w: J. Ciszewski, P. Nazaruk (red.), Kodeks cywilny. Komentarz, WKP 2019, kom. do art. 449¹ k.c., uwaga nr 5.

143 Tamże.

144 Zob. szerzej A. Michalak, Odpowiedzialność…, s. 381 n.

145 P. Księżak, w: System Prawa Medycznego, t. 3, Legalis, Warszawa 2020, 20.7.4, uwaga nr 2, który wskazuje dodatkowo, że trudno wyobrazić sobie działającą AI całkowicie nieucieleśnioną w żadnej rzeczy ruchomej, gdyż zawsze musi być jakiś hardware – procesor, serwer itp., na którym przetwarza się dane.

146 Zob. również P. Księżak, w: System Prawa Medycznego, t. 3, Legalis, Warszawa 2020, 20.7.4, uwaga nr 2, który w kontekście robotów słusznie podkreśla, że różnica między AI i robotem (tj. przedmiotem materialnym, w który jest wbudowana) ma charakter drugorzędny; kluczowe jest bowiem działanie autonomiczne, a nie ucieleśnienie tej autonomiczności; w związku z tym autor ten przyjmuje, że należałoby raczej uznać, że także AI nieucieleśniona może być potencjalnie uznana za produkt niebezpieczny.

147 Podobnie M. Jagielska, w: L. Lai, M. Świerczewski, Prawo sztucznej inteligencji, Warszawa 2020, s. 75.; odmiennie A. Michalak, Odpowiedzialność…, s. 381 n., którego zdaniem de lege lata dyrektywa 85/374/EWG oraz przepisy wydane w celu jej implementacji nie pozwalają na objęcie odpowiedzialnością za produkt niebezpieczny samego oprogramowania, zarówno udostępnianego na nośniku, jak i udostępnianego bez tego nośnika czy tym bardziej w modelu SaaS.

148 Tak E. Łętowska, Prawo umów konsumenckich, Warszawa 2002, s. 94; podobnie F. Mohmand, Pojęcie produktu niebezpiecznego w rozumieniu przepisów kodeksu cywilnego o odpowiedzialności za produkt, w: M. Pyziak-Szafnicka, Odpowiedzialność cywilna. Księga pamiątkowa ku czci Profesora Adama Szpunara, Kraków 2004, s. 149, którzy wskazują, że produktem są wszelkie przypadki przedmiotów, które z uwagi na komercyjny sposób funkcjonowania w obrocie lub ze względu na zagrożenie, jakie stanowią dla otoczenia, zbliżają się w swym charakterze do typowych towarów, jakimi zajmuje się reżim odpowiedzialności za produkt; tendencja do szerokiego rozumienia produktu na gruncie Dyrektywy widoczna jest także w orzecznictwie TSUE, na co zwraca uwagę L. Bosek, Perspektywy rozwoju odpowiedzialności cywilnej za inteligentne roboty, „Forum Prawnicze” 2019, nr 2, s. 7–8.

149 Zob. P. Księżak, w: System Prawa Medycznego, t. 3, 20.7.4., uwaga nr 3.

150 Zob. P. Księżak, w: System Prawa Medycznego, t. 3, 20.7.4., uwaga nr 5, który podkreśla, że skoro pozostawia się – z istoty rzeczy – maszynie określoną dyskrecjonalność, to nie można uznać, że oczekuje się, by decyzja mieszcząca się w tych granicach była zawsze decyzją właściwą; właśnie z uwagi na autonomiczność, a więc podejmowanie decyzji przez AI, nie sposób oczekiwać, by podjęła ona zawsze określoną, z góry przewidzianą i właściwą decyzję.

151 P. Księżak, w: System Prawa Medycznego, t. 3, 20.7.4., uwaga nr 5, który przyjmuje, że konieczność nadania sensu odpowiedzialności za produkt w omawianym kontekście wymusi właśnie takie rozumienie odpowiedzialności, zgodnie z którym jeśli efektem decyzji podjętej przez AI będzie szkoda, producent będzie odpowiadał na zasadzie ryzyka za swój produkt, chyba że szkody nie można było uniknąć.

152 Projekt ten stanowi załącznik do rezolucji Parlamentu Europejskiego z dnia 20.10. 2020 r. z zaleceniami dla Komisji w sprawie systemu odpowiedzialności cywilnej za sztuczną inteligencję (2020/2014(INL)).

153 Zgodnie z art. 11 projektu rozporządzenia, jeżeli operatora back-end można również uznać za producenta zgodnie z definicją zawartą w art. 3 dyrektywy w sprawie odpowiedzialności za produkty, dyrektywa ta powinna mieć do niego zastosowanie.

154 P. Księżak, w: System Prawa Medycznego, t. 3, 20.7.4., uwaga nr 5.

155 Z. Gawlik, w: A. Kidyba (red.), Kodeks cywilny. Komentarz, Tom III, Warszawa 2014, s. 606–607.

156 Tamże.

157 Tak M. Wałachowska, w: L. Lai, M. Świerczyński, Prawo sztucznej inteligencji, s. 65.

158 Co znamienne, nawet w projekcie rozporządzenia autonomiczny system sztucznej inteligencji zdefiniowany został jako taki, który działa na podstawie interpretacji określonych danych wejściowych i wykorzystuje zestaw wcześniej zdefiniowanych instrukcji, lecz nie jest do tych instrukcji ograniczony, mimo że zachowanie systemu jest ograniczone celem, który mu postawiono, ukierunkowane na jego osiągnięcie i uwarunkowane innymi odnośnymi wyborami twórcy systemu (art. 3 lit. b Projektu rozporządzenia).

§ 6. Odpowiedzialność kontraktowa jako podstawa roszczeń o naprawienie szkody wyrządzonej w wyniku działania systemu sztucznej inteligencji

Jeśli sztuczna inteligencja używana jest w celu wykonania świadczenia wynikającego z zawartej umowy, zastosowanie może mieć również reżim odpowiedzialności kontraktowej159. Jest ona oparta na zasadzie winy, a więc, podobnie jak odpowiedzialność deliktowa, uregulowana w art. 415 i n. k.c. Z tym jednak, że w przypadku odpowiedzialności kontraktowej ciężar dowodu w tym zakresie przerzucony jest na dłużnika, co niewątpliwie ułatwia dochodzenie naprawienia szkody poniesionej przez wierzyciela. W art. 471 k.c. zawarte jest bowiem domniemanie, że niewykonanie lub nienależyte wykonanie zobowiązania nastąpiło na skutek okoliczności, za które dłużnik ponosi odpowiedzialność160. Zgodnie z art. 472 k.c., jeśli ze szczególnego przepisu ustawy albo z czynności prawnej nie wynika nic innego, dłużnik odpowiedzialny jest za niezachowanie należytej staranności (art. 472 k.c.). Jak w związku z tym podkreśla się w doktrynie, uzasadnieniem odpowiedzialności dłużnika w reżimie kontraktowym jest, poza winą umyślną, również niedbalstwo161. Zakres odpowiedzialności dłużnika wyznacza zatem dolna granica winy nieumyślnej, która jednak przebiega w sposób zróżnicowany w zależności od rodzaju i zakresu powinności ciążących na dłużniku162. Należyta staranność nie jest zatem kategorią jednolitą, stąd konieczność stosownej jej relatywizacji w zależności od zobowiązania163.

Co do zasady obowiązuje staranność ogólnie wymagana w stosunkach danego rodzaju (art. 355 § 1 k.c.). W przypadku osób prowadzących działalność gospodarczą miernik należytej staranności określa się jednak przy uwzględnieniu zawodowego charakteru działalności (art. 355 § 2 k.c.).

Dłużnik może przy wykonaniu zobowiązania posługiwać się różnego rodzaju narzędziami lub urządzeniami, nie wyłączając – co do zasady – tych, których działanie opiera się na sztucznej inteligencji. Podmiot świadczący profesjonalne usługi w określonej dziedzinie powinien przy tym umieć ocenić, na ile zastosowanie określonego urządzenia w danych okolicznościach użycia jest zasadne i nie wyrządzi szkody. Ocena, czy należyta staranność została dochowana, dokonywana jest jednak zawsze ad casum, z uwzględnieniem całokształtu okoliczności, w tym ewentualnych szczególnych wymogów ustawowych znajdujących zastosowanie w danym przypadku. W doktrynie przywoływany jest w tym kontekście przykład posłużenia się przez lekarza robotem przy wykonywaniu zabiegu lekarskiego164. Ocena zachowania należytej staranności przez lekarza wymagać będzie uwzględnienia szeregu przesłanek. Przede wszystkim samo posłużenie się przez lekarza określonym urządzeniem będzie można uznać za należycie staranne tylko wówczas, jeśli zostało ono zgodnie z obowiązującymi w tym zakresie przepisami dopuszczone do obrotu w celu wykonywania danego typu zabiegów i nie istniały do tego żadne przeciwwskazania wynikające ze stanu zdrowia pacjenta. Ponadto istotne będzie, czy lekarz dopełnił wszelkich obowiązków związanych z należytym poinformowaniem pacjenta oraz czy uzyskał jego prawnie skuteczną zgodę na wykonanie zabiegu, a także czy w sposób prawidłowy nadzorował działanie urządzenia w trakcie zabiegu. Jeśli wszystkie ww. przesłanki zostaną spełnione, nie będzie możliwe przypisanie lekarzowi odpowiedzialności za szkody wyrządzone pacjentowi na skutek autonomicznego działania robota, chyba że doszło do umownego rozszerzenia zakresu odpowiedzialności lekarza165.

Można więc sformułować ogólną konkluzję, że jeżeli dłużnik, wypełniając zobowiązanie, posłuży się, przy zachowaniu należytej staranności, urządzeniami, których działanie oparte jest na systemach sztucznej inteligencji, co do zasady nie będzie ponosił odpowiedzialności kontraktowej za szkody wyrządzone w wyniku działania tego systemu, na które nie miał wpływu. Przy czym to dłużnik będzie obarczony ciężarem dowodu dochowania należytej staranności.

Reżim odpowiedzialności kontraktowej może być również podstawą roszczeń kierowanych przez nabywcę urządzenia zawierającego system sztucznej inteligencji wobec jego kontrahenta, od którego nabył to urządzenie lub któremu zlecił jego wykonanie i dostarczenie. Skoro bowiem zakup takiego urządzenia ma na celu wykorzystanie funkcji objętych specyfikacją, to jego wykonawca lub sprzedawca ponosi wobec swojego kontrahenta (zamawiającego lub kupującego) odpowiedzialność na podstawie art. 471 i n. k.c. za szkody wynikające z braków lub wadliwego działania tego urządzenia (w tym błędy i luki w oprogramowaniu), jak też wywołane brakiem należytej ochrony przed nieuprawnionym dostępem lub wręcz celowo ukrytymi w nim funkcjonalnościami, pozwalającymi na nieautoryzowany dostęp osób trzecich166. W takich sytuacjach mamy bowiem do czynienia z nienależytym wykonaniem umowy. Odpowiedzialność umowna nie będzie przy tym mogła być wyłączona przez strony w odniesieniu do świadomie (celowo) umieszczonych w oprogramowaniu podatności na cyberataki. Zgodnie bowiem z art. 473 § 2 k.c. nieważne jest zastrzeżenie, iż dłużnik nie będzie odpowiedzialny za szkodę, którą może wyrządzić wierzycielowi umyślnie.

Dłużnik ponosi również odpowiedzialność za niezachowanie należytej staranności, czyli np. za wady będące efektem braku lub niewłaściwego audytu oprogramowania pozyskanego od podmiotów trzecich, a zainstalowanego w produkowanych przez siebie urządzeniach lub systemach sztucznej inteligencji167.

159 Zob. P. Księżak, w: System Prawa Medycznego, t. 3, 20.7.3.

160 Zgodnie z art. 471 k.c. dłużnik obowiązany jest do naprawienia szkody wynikłej z niewykonania lub nienależytego wykonania zobowiązania, chyba że niewykonanie lub nienależyte wykonanie jest następstwem okoliczności, za które dłużnik odpowiedzialności nie ponosi.

161 W. Czachórski, Zobowiązania, Warszawa 2009, s. 333; tenże, Uwagi o rażącym niedbalstwie, w: J. Błeszyński, J. Rajski, M. Safjan, E. Skowrońska (red.), Z zagadnień współczesnego prawa cywilnego, Warszawa 1994, s. 167; J. Dąbrowa w: System prawa cywilnego, t. III, cz. 1, s. 767; T. Pajor, Odpowiedzialność dłużnika za niewykonanie zobowiązania, Warszawa 1982, s. 37; W. Popiołek, w: K. Pietrzykowski (red.), Kodeks cywilny. Komentarz, t. II, Warszawa 2011, s. 45; Z. Radwański, A. Olejniczak, Zobowiązania, Warszawa 2012, s. 321; W. Wiśniewski, w: G. Bieniek (red.), Komentarz do Kodeksu cywilnego, Księga trzecia. Zobowiązania, t. I, Warszawa 2011, s. 773; K. Zagrobelny, w: E. Gniewek (red.), Kodeks cywilny. Komentarz, Warszawa 2011, s. 865; tenże, O okolicznościach kształtujących odszkodowawczą odpowiedzialność dłużnika, w: P. Machnikowski (red.), Odpowiedzialność w prawie cywilnym, Wrocław 2006, s. 276. Zakres odpowiedzialności dłużnika wyznaczy zatem dolna granica winy nieumyślnej, która jednak będzie przebiegać w sposób zróżnicowany w zależności od rodzaju i zakresu powinności ciążących na dłużniku. Należyta staranność nie jest zatem kategorią jednolitą, stąd konieczność stosownej jej relatywizacji w zależności od zobowiązania (J. Dąbrowa, w: System prawa cywilnego, t. III, cz. 1, s. 767.

162 Z. Gawlik, w: A. Kidyba (red.), Kodeks…, Tom III, 2014, s. 708.

163 J. Dąbrowa, w: System prawa cywilnego, t. III, cz. 1, s. 767.

164 P. Księżak w: System Prawa Medycznego, t. 3, 20.7.3.

165 Zgodnie bowiem z art. 473 § 1 k.c. dłużnik może przez umowę przyjąć odpowiedzialność za niewykonanie lub za nienależyte wykonanie zobowiązania z powodu oznaczonych okoliczności, za które na mocy ustawy odpowiedzialności nie ponosi.

166 Zob. również P. Marciniak, Problem odpowiedzialności za błędy w oprogramowaniu IoT, PUG 2020, nr 10, s. 41.

167 Tamże, s. 41.

§ 7. Odpowiedzialność z tytułu rękojmi w przypadku sprzedaży rzeczy zawierającej system sztucznej inteligencji

Produkty z wbudowanymi systemami sztucznej inteligencji są coraz częściej przedmiotem masowego obrotu, a ich producenci i sprzedawcy właśnie tę cechę eksponują w materiałach handlowych i promocyjnych jako szczególnie atrakcyjną dla potencjalnych nabywców. Brak zadeklarowanych w ten sposób właściwości rzeczy sprzedanej, jak też usterki w ich działaniu mogą więc skutkować odpowiedzialnością sprzedawcy z tytułu rękojmi168. Będziemy bowiem wówczas mieli do czynienia z wadą fizyczną rzeczy sprzedanej, za którą sprzedawca ponosi wobec kupującego odpowiedzialność niezależną od winy, wynikającą z art. 556 i n. k.c.169. Zgodnie z art. 556¹ k.c. wada fizyczna polega na niezgodności rzeczy sprzedanej z umową, co obejmuje w szczególności następujące przypadki:

rzecz nie ma właściwości, które rzecz tego rodzaju powinna mieć ze względu na cel w umowie oznaczony albo wynikający z okoliczności lub przeznaczenia;

rzecz nie ma właściwości, o których istnieniu sprzedawca zapewnił kupującego, w tym przedstawiając próbkę lub wzór;

rzecz nie nadaje się do celu, o którym kupujący poinformował sprzedawcę przy zawarciu umowy, a sprzedawca nie zgłosił zastrzeżenia co do takiego jej przeznaczenia;

rzecz została kupującemu wydana w stanie niezupełnym;

rzecz została nieprawidłowo zamontowana i uruchomiona, jeżeli czynności te zostały wykonane przez sprzedawcę lub osobę trzecią, za którą sprzedawca ponosi odpowiedzialność, albo przez kupującego, który postąpił według instrukcji otrzymanej od sprzedawcy.

Co istotne, jeżeli kupującym jest konsument, na równi z zapewnieniem sprzedawcy traktuje się publiczne zapewnienia producenta lub jego przedstawiciela, osoby, która wprowadza rzecz do obrotu w zakresie swojej działalności gospodarczej, oraz osoby, która przez umieszczenie na rzeczy sprzedanej swojej nazwy, znaku towarowego lub innego oznaczenia odróżniającego przedstawia się jako producent (art. 556¹ § 2 k.c.). Odpowiedzialność sprzedawcy wyłączona jest jedynie wtedy, gdy zapewnień tych nie znał ani – oceniając rozsądnie – nie mógł znać albo nie mogły one mieć wpływu na decyzję kupującego o zawarciu umowy sprzedaży, albo gdy ich treść została sprostowana przed zawarciem umowy sprzedaży (art. 557 § 3 k.c.).

Wadliwość rzeczy rozumiana jest zatem na gruncie art. 556 i n. k.c. inaczej niż w przypadku omówionego wyżej reżimu odpowiedzialności za produkt niebezpieczny. W przypadku rękojmi wadliwość rzeczy ustala się przede wszystkim przez odwołanie do jej przydatności do użytku, a nie do braku bezpieczeństwa, którego ogół społeczeństwa ma prawo oczekiwać.

Za prawidłowe działanie urządzeń zawierających systemy sztucznej inteligencji odpowiada przede wszystkim zainstalowane w nich oprogramowanie. Może no natomiast zawierać luki, jak też ukryte przed nabywcą elementy, a zatem wady kwalifikowane (takie jak umieszczone w oprogramowaniu złośliwe kody i furtki typu backdoor, umożliwiające przejęcie kontroli nad urządzeniem bez wiedzy jego właściciela lub użytkownika)170. Ponadto może ono nie zawierać jakichkolwiek mechanizmów zapewniających cyberbezpieczeństwo. Jeśli rzecz została sprzedana wraz z wbudowanym w nią oprogramowaniem zawierającym tego typu braki lub błędy, spełnione są kryteria uznania ją za wadliwą w rozumieniu art. 556¹ k.c.171. Zarówno więc przypadkowa luka w oprogramowaniu, jak też celowo umieszczone w nim podatności na ataki lub brak jakichkolwiek zabezpieczeń mieszczą się w pojęciu wady rzeczy, której istotę, zapewniającą funkcjonalność, stanowi oprogramowanie. Odpowiedni poziom cyberbezpieczeństwa w przypadku rzeczy z podłączeniem do sieci jest szczególnie istotny. W doktrynie wskazuje się, że w sieci nie ma urządzeń, których nie można byłoby wykorzystać do innych celów niż ich formalne przeznaczenie172. Dlatego też wyposażenie w odpowiedni mechanizm cyberbezpieczeństwa należy uznać za właściwość, którą rzecz tego rodzaju powinna posiadać ze względu na cel wynikający z okoliczności lub przeznaczenia (art. 556¹ § 1 pkt 1 k.c.). To, jaki poziom cyberbezpieczeństwa jest wystarczający, będzie natomiast zależało od rodzaju rzeczy i zagrożeń związanych z korzystaniem z niej w połączeniu z siecią. Niewątpliwie de lege lata największym problemem jest brak regulacji określających minimalne wymagania w zakresie cyberbezpieczeństwa produktów zawierających systemy sztucznej inteligencji173.

Odpowiedzialność sprzedawcy z tytułu rękojmi odnosi się jedynie do tych wad fizycznych, które istniały w chwili przejścia niebezpieczeństwa na kupującego lub wynikły z przyczyny tkwiącej w rzeczy sprzedanej w tej samej chwili (art. 559 k.c.). Chwilą tą jest zaś – co do zasady – moment wydania rzeczy sprzedanej kupującemu (art. 548 k.c.). W stosunku do kupujących, będących konsumentami w art. 5562 k.c., przewidziane zostało domniemanie istnienia wady lub jej przyczyny w chwili przejścia niebezpieczeństwa na kupującego, jeśli wada fizyczna została stwierdzona przed upływem roku od dnia wydania rzeczy sprzedanej.

Omawiając odpowiedzialność z tytułu rękojmi, nie można również pominąć kwestii odpowiedzialności producenta oprogramowania w przypadku, gdy jest ono samodzielnie przedmiotem odrębnej umowy sprzedaży. Z uwagi na to, że oprogramowanie stanowi przedmiot ochrony prawnoautorskiej, podstawą odpowiedzialności autora oprogramowania za jego usterki jest art. 55 ustawy o prawie autorskim i prawach pokrewnych174, który – jak przyjmuje się w doktrynie175 – wyłącza bezpośrednie stosowanie przepisów o rękojmi. Tym samym odpowiedzialność twórcy oprogramowania za jego usterki, inaczej niż odpowiedzialność sprzedawcy z tytułu rękojmi za wady fizyczne rzeczy, oparta jest na zasadzie winy. Zgodnie bowiem z art. 55 ust. 1 zd. 1 ustawy o prawie autorskim, jeżeli zamówiony utwór ma usterki, zamawiający może wyznaczyć twórcy odpowiedni termin do ich usunięcia, a po jego bezskutecznym upływie może od umowy odstąpić lub żądać odpowiedniego obniżenia umówionego wynagrodzenia, chyba że usterki są wynikiem okoliczności, za które twórca nie ponosi odpowiedzialności. Twórca zachowuje w każdym razie prawo do otrzymanej części wynagrodzenia, nie wyższej niż 25% wynagrodzenia umownego.

Zdaniem przeważającej części doktryny przepis art. 55 ust. 1 zd. 1 ustawy o prawie autorskim i prawach pokrewnych ma charakter normy dyspozytywnej176, co oznacza, że strony mogą umownie ograniczyć, rozszerzyć (np. wprowadzić odpowiedzialność typu rękojmianego, tj. oderwaną od winy) lub wyłączyć odpowiedzialność twórcy za dostarczenie utworu z usterkami. O ile więc strony umowy o opracowanie i dostarczenie oprogramowania nie rozszerzą odpowiedzialności twórcy, ponosi on odpowiedzialność za jego usterki na zasadzie winy (tj. chyba że wykaże, iż nie są one wynikiem okoliczności, za które ponosi on odpowiedzialność).

Jak przyjmuje się w doktrynie, regulacja art. 55 ust. 1 ustawy o prawie autorskim i prawach pokrewnych odnosi się jedynie do umów w obrocie pierwotnym, tj. między twórcą a kontrahentem twórcy. Nie ma natomiast zastosowania do innych niż rzeczywiści twórcy podmiotów autorskich praw majątkowych, tj. nabywających z mocy ustawy w sposób pierwotny autorskie prawa majątkowe do utworów czy do nabywców z mocy umowy autorskich praw majątkowych177.

Ponadto w doktrynie nie jest jednolicie rozstrzygane to, do jakich umów odnosi się art. 55 ustawy o prawie autorskim i prawach pokrewnych, tj. czy wyłącznie do umów o stworzenie i dostarczenie utworu178, czy też do wszelkich umów w tzw. obrocie autorskim, a więc również takich jak: przeniesienie autorskich praw majątkowych, udzielenie licencji na korzystanie z utworu czy też dzierżawy autorskich praw majątkowych lub użytkowania autorskich praw majątkowych179.

W obrocie wtórnym do odpowiedzialności zbywcy/licencjodawcy za usterki dostarczonego utworu należy stosować odpowiednio (tj. przy uwzględnieniu specyfiki przedmiotu transakcji) ogólne zasady kodeksu cywilnego odnoszące się do:

1) umowy sprzedaży praw, które – w zakresie rękojmi – odsyłają do umowy sprzedaży rzeczy (art. 555 k.c. odsyłający do art. 556 i n. k.c.); oraz

2) umowy o dzieło, które – w zakresie rękojmi – odsyłają do umowy sprzedaży rzeczy (art. 638 k.c. odsyłający do art. 556 i n. k.c.)180.

168 Zob. również A. Michalak, Odpowiedzialność…., s. 260 i n., który wskazuje, że w przypadku, gdy sprzedawca zapewnia kupującego, że w danej rzeczy jest zainstalowane oprogramowanie o określonych parametrach, a w rzeczywistości jest zainstalowane oprogramowanie o innych parametrach, to tym samym rzecz może mieć wadę fizyczną, nawet jeśli zmiana tego oprogramowania nie ma wpływu na pracę urządzenia.

169 Zob. wyrok SN z dnia lipca 2019 r. (II CSK 306/18, Lex nr 2690972 ), w którym przyjęto, że wadliwość nabytego pojazdu w postaci niespełniania norm emisji spalin Euro 5 (wynikająca z zainstalowania w tym pojeździe oprogramowania manipulującego wynikami emisji spalin), pomimo zapewnienia sprzedającego, że pojazd te normy spełnia, stanowi wadę fizyczną, a nie prawną tej rzeczy.

170 P. Marciniak, Problem odpowiedzialności za błędy w oprogramowaniu IoT, PUG 2020, nr 10, s. 37.

171 Zob. F. Zoll, Rękojmia. Odpowiedzialność sprzedawcy, Warszawa 2018, s. 101 i n.

172 P. Marciniak, Problem…, s. 39.

173 Należy jednak zauważyć, że prace nad wprowadzeniem regulacji w tym zakresie są już zaawansowane na poziomie UE – w dniu 21 kwietnia 2021 r. Komisja Europejska zaprezentowała projekt Rozporządzenia Parlamentu Europejskiego i Rady ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji (akt w sprawie sztucznej inteligencji) i zmieniającego niektóre akty ustawodawcze Unii (COM(2021) 206 final; 2021/0106(COD). Projekt ten najwięcej miejsca poświęca systemom SI wysokiego ryzyka, których producenci będą mieli szereg obowiązków mających na celu minimalizację ryzyka związanego z tymi rozwiązaniami.

174 Ustawa z dnia 4 lutego 1994 r., tekst jedn. Dz.U. z 2019 r., poz. 1231.

175 Zob. m.in. T. Targosz, w: D. Flisak (red.), Prawo autorskie i prawa pokrewne. Komentarz, Warszawa 2014, s. 813; A. Niżankowska-Horodecka, w: R. Markiewicz (red.), Komentarz do ustawy o prawie autorskim i prawach pokrewnych, WKP 2021, kom. do art. 55, uwaga nr 14.

176 Tak J. Barta, R. Markiewicz, Odpowiedzialność za usterki utworu, „Rzeczpospolita”, 17.10.1994; T. Grzeszak, Umowa o stworzenie utworu w ustawie o prawie autorskim i prawach pokrewnych, PPH 1995, nr 5, s. 13; J. Barta, R. Markiewicz, w: J. Barta, R. Markiewicz (red.), Prawo autorskie i prawa pokrewne. Komentarz, Warszawa 2011, s. 377; J. Szyjewska-Bagińska, w: E. Ferenc-Szydełko (red.), Ustawa o prawie autorskim i prawach pokrewnych. Komentarz, Warszawa 2016, s. 525; K. Włodarska-Dziurzyńska, w: T. Targosz, K. Włodarska-Dziurzyńska, Umowy przenoszące autorskie prawa majątkowe, Warszawa 2010, s. 359.

177 A. Niżankowska – Horodecka, w: R. Markiewicz (red.), Komentarz do ustawy o prawie autorskim i prawach pokrewnych, WKP 2021, kom. do art. 55, uwaga nr 19; por. jednak R. Golat, Prawo autorskie i prawa pokrewne, Warszawa 2016, s. 194, którego zdaniem choć w art. 55 ustawy o prawie autorskim i prawach pokrewnych mowa jest o twórcy, przepis ten może znaleźć odpowiednie zastosowanie do przypadków, gdy przyjmującym zamówienie jest inny niż twórca podmiot, np. przedsiębiorca, który w celu realizacji zamówienia zatrudnia twórców na podstawie umowy o pracę lub umów o dzieło, i który radzi, by w celu uniknięcia wątpliwości interpretacyjnych regulować ten aspekt w umowie, której stroną nie jest twórca.

178 Tak T. Grzeszak, Umowa..., s. 8; Golat, Prawo, 2016, s. 194; M. Załucki, w: P. Ślęzak (red.), Ustawa o prawie autorskim i prawach pokrewnych. Komentarz, Warszawa 2017, s. 432.

179 Por. J. Barta, R. Markiewicz, w: J. Barta, R. Markiewicz, Prawo, 2011, s. 377; podobnie A. Niżankowska-Horodecka, w: R. Markiewicz (red.), Komentarz do ustawy o prawie autorskim i prawach pokrewnych, WKP 2021, kom. do art. 55, uwaga nr 20, której zdaniem przyjmując założenie, że przepis odnosi się zarówno do utworów przyszłych, jak i już istniejących, choć niekoniecznie do obu rodzajów utworów wprost, słuszne jest uznanie, iż nie ogranicza się on tylko do umów o stworzenie i dostarczenie utworu.

180 J. Szyjewska-Bagińska, w: E. Ferenc-Szydełko (red.), Ustawa, 2016, s. 519; A. Niżankowska-Horodecka, w: R. Markiewicz (red.), Komentarz do ustawy o prawie autorskim i prawach pokrewnych, WKP 2021, kom. do art. 55, uwaga nr 22.

§ 8. Perspektywy regulacji prawnej odpowiedzialności cywilnej za sztuczną inteligencję w prawie UE

1. Uzasadnienie dla wprowadzenia pełnej harmonizacji prawa dotyczącego odpowiedzialności cywilnej za sztuczną inteligencję w prawie UE

Systemy SI – ze względu na swoją złożoność, zdolność do łączenia się, podatność na zagrożenia, możliwość modyfikowania w drodze aktualizacji, umiejętność samodzielnego uczenia się oraz dużą liczbę podmiotów ingerujących w cykl ich „życia” – stanowią niewątpliwie wyzwanie dla państw członkowskich w kontekście regulacji dotyczących odpowiedzialności cywilnoprawnej. Pewność prawa w tym zakresie jest natomiast zasadniczym warunkiem dalszego rozwoju innowacyjnych technologii oraz ich praktycznego zastosowania w życiu codziennym. Postęp technologiczny nie powinien jednak osłabiać ochrony przed szkodami, które mogą być powodowane przez urządzenia i systemy wykorzystujące SI. Wprawdzie, jak wynika z wcześniejszych rozważań, obecnie obowiązujące regulacje mogą stanowić podstawę dochodzenia roszczeń o naprawnienie szkody wyrządzonej w wyniku posługiwania się SI, jednakże podstawowym problemem w tym kontekście – zwłaszcza w odniesieniu do odpowiedzialności opartej na zasadzie winy – jest brak przejrzystości tych systemów, który sprawia, że wykazanie, kto kontrolował ryzyko związane z ich działaniem, czy też który kod, które dane ostatecznie wywołały szkodliwe działanie, może niejednokrotnie okazać się niemożliwe. Ponadto może to również utrudniać ustalenie powiązania między szkodą a powodującym ją zachowaniem.

Z powyższych względów Parlament Europejski wyraził przekonanie, że dla skutecznego korzystania z zalet systemów SI, przeciwdziałania ich potencjalnemu nadużywaniu i zapobiegania fragmentacji regulacyjnej w Unii Europejskiej zasadnicze znaczenie ma przyjęcie w całej UE jednolitego prawodawstwa w zakresie wszelkich systemów SI, opartego na konkretnych zasadach i nieulegającego dezaktualizacji. W konsekwencji PE stanął na stanowisku, że konieczne jest przyjęcie przekrojowych i ujednoliconych ram prawnych opierających się na powszechnych zasadach, by zagwarantować pewność prawa, ustanowić te same normy w całej Unii i skutecznie chronić wartości europejskie i prawa obywateli. Efektem tego jest rezolucja Parlamentu Europejskiego z dnia 20 października 2020 r. z zaleceniami dla Komisji w sprawie systemu odpowiedzialności cywilnej za sztuczną inteligencję (2020/2014(INL)), do której załącznikiem jest Projekt rozporządzenia Parlamentu Europejskiego i Rady w sprawie odpowiedzialności za działanie systemów sztucznej inteligencji (dalej jako Projekt). Podejście to należy uznać za w pełni uzasadnione ze względu na to, że sfera cyfrowa charakteryzuje się bardzo zmienną dynamiką ponadgraniczną, a wykorzystanie systemów SI ma również ponadgraniczny wymiar.

Rozwiązania przewidziane w Projekcie oparto na założeniu, że przyszłościowe ramy prawne odpowiedzialności cywilnej muszą wzbudzać zaufanie do bezpieczeństwa, niezawodności i spójności produktów i usług, w tym do technologii cyfrowej, aby zapewnić równowagę między skuteczną i sprawiedliwą ochroną potencjalnych poszkodowanych a jednoczesnym pozostawieniem wystarczającego pola manewru, by umożliwić przedsiębiorstwom, w szczególności małym i średnim, rozwój nowych technologii, produktów i usług.

2. Zakres przedmiotowy odpowiedzialności odszkodowawczej przyjęty w Projekcie

Według art. 1 Projektu przyszłe rozporządzenie ma określać zasady wnoszenia roszczeń z tytułu odpowiedzialności cywilnej przez osoby fizyczne i prawne wobec operatorów systemów sztucznej inteligencji. System sztucznej inteligencji został przy tym zdefiniowany (w art. 3 lit. a Projektu) jako taki, który opiera się na oprogramowaniu albo jest wbudowany w urządzenia, wykazuje się zachowaniem symulującym inteligencję, m.in. w oparciu o gromadzenie i przetwarzanie danych, analizowanie i wyciąganie wniosków dotyczących otoczenia oraz podejmuje działania w pewnym stopniu autonomicznie, aby osiągnąć konkretne cele.

Rozporządzenie ma mieć zastosowanie na terytorium Unii, gdzie fizyczne bądź wirtualne działanie systemu sztucznej inteligencji, działanie urządzenia wykorzystującego taki system lub fizyczny bądź wirtualny proces oparty na takim systemie pozbawia życia osoby fizyczne, powoduje uszczerbek na ich zdrowiu i okalecza je, powoduje szkody majątkowe u osób fizycznych bądź prawnych lub powoduje poważne szkody niematerialne skutkujące możliwą do zweryfikowania stratą ekonomiczną (art. 2 ust. 1 Projektu). Pojęcie szkody zostało w art. 3 lit. i Projektu zdefiniowane jako negatywny wpływ na życie, zdrowie i nienaruszalność cielesną osoby fizycznej, na własność osoby fizycznej lub prawnej albo negatywny wpływ powodujący poważną szkodę niematerialną skutkującą możliwą do zweryfikowania stratą ekonomiczną.

Wszelkie umowy między operatorem systemu sztucznej inteligencji a osobą fizyczną bądź prawną poszkodowaną w wyniku działania tego systemu, które obchodzą bądź ograniczają prawa i obowiązki przewidziane w rozporządzeniu, zawarte przed wystąpieniem szkody lub później, mają być uznawane za nieważne w odniesieniu do praw i obowiązków przewidzianych w rozporządzeniu (art. 2 ust. 2 Projektu).

Jednocześnie projektowane rozporządzenie ma nie naruszać prawa do dodatkowych roszczeń z tytułu odpowiedzialności, wynikających ze stosunków umownych oraz regulacji dotyczących odpowiedzialności za produkt, ochrony konsumentów, niedyskryminacji, ochrony pracy i środowiska między operatorem a osobą fizyczną lub prawną poszkodowaną w wyniku działania systemu sztucznej inteligencji, które to roszczenia mogą zostać zgłoszone wobec operatora na mocy prawa unijnego lub krajowego (art. 2 ust. 3 Projektu).

3. Zakres podmiotowy odpowiedzialności odszkodowawczej przyjęty w Projekcie

Projekt podmiotem odpowiedzialnym za działanie systemu sztucznej inteligencji czyni jego operatora, a to ze względu na fakt, że do pewnego stopnia kontroluje on ryzyko związane z działaniem tego systemu, które jest porównywalne z ryzykiem, jakie ponosi właściciel samochodu. Ponadto, zważywszy na złożoność systemów SI oraz ich zdolność do połączeń, operator będzie najczęściej pierwszą identyfikowalną osobą dla poszkodowanego.

Jednocześnie z uwagi na to, że często więcej niż jedna osoba może racjonalnie zostać uznana za obsługującą system SI, pojęcie „operator” zostało w Projekcie określone szeroko, jako obejmujące zarówno operatora front-end, jak i operatora back-end, o ile odpowiedzialność tego drugiego nie jest już objęta dyrektywą 85/374/EWG.

Operator front-end oznacza osobę fizyczną lub prawną, która do pewnego stopnia kontroluje ryzyko związane z działaniem systemu sztucznej inteligencji i czerpie korzyści z jego działania (art. 3 lit. e Projektu). Natomiast operator back-end to osoba fizyczna lub prawna, która w sposób ciągły określa cechy technologii, dostarcza dane i podstawowe usługi wsparcia, a zatem też sprawuje pewną kontrolę nad ryzykiem związanym z działaniem systemu SI. Sprawowanie kontroli należy na gruncie Projektu rozumieć jako dowolne działanie operatora, które wpływa na działanie systemu SI, a tym samym na zakres, w jakim naraża on osoby trzecie na zagrożenia z nim związane. Takie działania mogą wpływać na funkcjonowanie na dowolnym etapie poprzez określanie danych wejściowych, wyjściowych lub wyników albo zmieniać konkretne funkcje czy procesy w systemie sztucznej inteligencji. Stopień, w jakim są determinowane te aspekty funkcjonowania systemu sztucznej inteligencji, zależy od poziomu wpływu operatora na ryzyko związane z działaniem systemu sztucznej inteligencji.

Jeżeli operatora front-end będzie można uznać również za producenta systemu sztucznej inteligencji, projektowane rozporządzenie ma mieć w stosunku do niego charakter nadrzędny wobec dyrektywy w sprawie odpowiedzialności za produkty. Z kolei jeżeli za producenta będzie można uznać operatora back-end, to dyrektywa powinna mieć do niego zastosowanie. Jednakże gdy jest tylko jeden operator, będący również producentem systemu SI, projektowane rozporządzenie powinno mieć charakter nadrzędny wobec dyrektywy w sprawie odpowiedzialności za produkty.

Co do użytkownika, tj. podmiotu korzystającego z systemu SI, w preambule do Projektu wskazano, że jeżeli jest on uczestnikiem negatywnego wydarzenia, powinien w świetle projektowanego rozporządzenia ponosić odpowiedzialność tylko wówczas, gdy można go uznać za operatora. Jeżeli tak nie jest, zakres rażącego zaniedbania lub umyślnego udziału użytkownika w ryzyku może skutkować uznaniem jego odpowiedzialności opartej na winie wobec poszkodowanego. Jednocześnie mające zastosowanie prawa konsumenckie użytkownika powinny pozostać nienaruszone.

W sytuacjach, w których liczba operatorów jest większa, np. gdy będziemy mieli do czynienia z operatorem front-end i back-end, wszystkie te podmioty powinny ponosić solidarną odpowiedzialność na zasadzie ryzyka, mając przy tym prawo do proporcjonalnego regresu wobec siebie nawzajem. Proporcje tej odpowiedzialności powinny natomiast być ustalane na podstawie odpowiedniego stopnia kontroli operatorów nad ryzykiem związanym z obsługą i funkcjonowaniem systemu SI.

Poszkodowanym w rozumieniu Projektu jest dowolna osoba, która ucierpiała lub poniosła szkodę na skutek fizycznego lub wirtualnego działania, urządzenia lub procesu wykorzystującego system sztucznej inteligencji, a która nie jest jednocześnie operatorem (art. 3 lit. h Projektu).

4. Różne zasady odpowiedzialności w zależności od rodzaju ryzyka

Na potrzeby ustalenia zasad odpowiedzialności projektodawca dokonał podziału systemów SI na dwie kategorie: systemy SI obarczone wysokim ryzykiem oraz pozostałe systemy SI (tj. nieobarczone wysokim ryzykiem), przyjmując, że czynnikiem determinującym odpowiedzialność powinien być rodzaj systemu SI, nad którym sprawuje kontrolę dany operator. System SI, który z natury wiąże się ze znacznym ryzykiem i działa autonomicznie, potencjalnie zagraża bowiem ogółowi społeczeństwa w znacznie większym stopniu. Dlatego PE uznał za zasadne stworzenie powszechnego, surowego systemu odpowiedzialności wyłącznie dla autonomicznych systemów SI obarczonych wysokim ryzykiem. Odpowiedzialność operatorów pozostałych systemów oparta ma być natomiast na zasadzie winy.

Jak wskazano w Preambule do Projektu, system SI stanowi poważne ryzyko, gdy jego autonomiczne działanie wiąże się ze znaczącym potencjałem wyrządzenia szkód jednej osobie lub grupie osób w sposób losowy i wykraczający poza to, czego można zasadnie oczekiwać. Przy ustalaniu, czy system SI jest obarczony wysokim ryzykiem, należy uwzględniać również branżę, w której można oczekiwać wystąpienia znacznego ryzyka, a także charakter prowadzonej działalności. Znaczenie tego potencjału zależy od wzajemnego stosunku między powagą ewentualnej szkody, prawdopodobieństwem zaistnienia szkody i sposobem użycia systemu SI.

Zgodnie z zaleceniem PE wszystkie systemy SI obarczone wysokim ryzykiem mają zostać umieszczone w wyczerpującym załączniku do proponowanego rozporządzenia, który – z uwagi na szybki rozwój technologiczny – powinien być weryfikowany przynajmniej co sześć miesięcy, a w razie konieczności uaktualniany w drodze aktu delegowanego. PE zaznaczył również, że konieczne jest podejście przyspieszone, pozwalające analizować pod kątem potencjalnych zagrożeń nowe urządzenia i systemy wykorzystujące systemy SI, które pojawiają się na rynku europejskim, i zalecił jak największe uproszczenie wszystkich procedur w tym zakresie, sugerując, aby Komisja rozpoczynała ocenę tego, czy system SI stwarza wysokie ryzyko, w tym samym czasie, co ocenę bezpieczeństwa produktu. Ma to zapobiec sytuacji, w której system SI wysokiego ryzyka został już zatwierdzony do obrotu, ale nie został jeszcze sklasyfikowany jako obarczony wysokim ryzykiem i w związku z tym działa bez obowiązkowej ochrony ubezpieczeniowej (zob. uwagi zawarte w pkt 5 poniżej).

System SI, który nie zostanie jeszcze oceniony przez Komisję, a zatem nie będzie jeszcze sklasyfikowany jako system wysokiego ryzyka i nie będzie się znajdował w wykazie zawartym w załączniku do proponowanego rozporządzenia, powinien jednak, w drodze wyjątku od ww. reguł, podlegać odpowiedzialności na zasadzie ryzyka, jeżeli spowodował powtarzające się incydenty skutkujące poważnymi szkodami. W takim przypadku Komisja powinna bez zbędnej zwłoki ocenić potrzebę zmiany tego załącznika w celu dodania tego systemu SI do wykazu. Jeżeli w wyniku tej oceny Komisja podejmie decyzję o umieszczeniu tego systemu SI w wykazie, włączenie to powinno mieć moc wsteczną od momentu pierwszego udowodnionego incydentu spowodowanego przez ten system SI, w wyniku którego doszło do poważnych szkód.

5. Odpowiedzialność na zasadzie ryzyka

Zgodnie z art. 4 ust. 1 Projektu operator systemu sztucznej inteligencji obarczonego wysokim ryzykiem odpowiada na zasadzie ryzyka za wszelkie szkody spowodowane przez fizyczne bądź wirtualne działanie, fizyczne bądź wirtualne działanie urządzenia lub fizyczny bądź wirtualny proces z wykorzystaniem systemu sztucznej inteligencji.

Operatorzy systemów sztucznej inteligencji obarczonych wysokim ryzykiem nie będą mogli uniknąć odpowiedzialności, twierdząc, że działali z należytą starannością lub że szkodę spowodowało autonomiczne działanie, urządzenie lub proces sterowany przez należący do nich system sztucznej inteligencji. Ich odpowiedzialność ma być wyłączona jedynie w odniesieniu do szkód spowodowanych działaniem siły wyższej.

Na operatorów front-end systemu sztucznej inteligencji obarczonego wysokim ryzykiem ma być ponadto nałożony obowiązek zapewnienia, aby działanie systemu sztucznej inteligencji było objęte ubezpieczeniem od odpowiedzialności, które będzie adekwatne pod względem kwoty i zakresu odszkodowania przewidzianych w Projekcie. Z kolei na operatorze back-end ma spoczywać analogiczny obowiązek w odniesieniu do ubezpieczenia jego usług od odpowiedzialności za działalność lub produkt.

Projektowane rozporządzenie ma mieć przy tym nadrzędny charakter wobec krajowych systemów odpowiedzialności w przypadku sprzecznej klasyfikacji systemów sztucznej inteligencji jako objętych odpowiedzialnością na zasadzie ryzyka.

6. Zakres odszkodowania w przypadku odpowiedzialności na zasadzie ryzyka

PE wyszedł z założenia, że projektowane rozporządzenie powinno ustanowić znacząco niższy pułap odszkodowań niż w dyrektywie w sprawie odpowiedzialności za produkty, gdyż odnosi się ono wyłącznie do szkody poniesionej przez pojedynczą osobę i wynikającej z jednostkowego działania systemu SI, natomiast dyrektywa odnosi się do szeregu produktów lub nawet całej linii produktów z tą samą wadą.

W związku z powyższym, zgodnie z art. 5 Projektu, operator systemu sztucznej inteligencji obarczonego wysokim ryzykiem, który zostanie pociągnięty do odpowiedzialności na podstawie projektowanego rozporządzenia, ma wypłacać odszkodowanie:

do maksymalnej kwoty dwóch milionów euro w przypadku śmierci, uszczerbku na zdrowiu lub okaleczenia osoby w wyniku działania systemu sztucznej inteligencji obarczonego wysokim ryzykiem;

do maksymalnej kwoty jednego miliona euro w przypadku poważnej szkody niematerialnej skutkującej możliwą do zweryfikowania stratą ekonomiczną lub szkody majątkowej, w tym zniszczenia kilku przedmiotów należących do poszkodowanego w wyniku pojedynczego działania jednego systemu sztucznej inteligencji obarczonego wysokim ryzykiem; jeżeli na mocy zawartej umowy poszkodowany ma również prawo do wystąpienia z roszczeniem w stosunku do operatora, zgodnie z niniejszym rozporządzeniem nie wypłaca się odszkodowania, jeżeli całkowita wartość zniszczonego mienia lub poważnej szkody niematerialnej nie przekracza pięciuset euro.

W przypadku, gdy łączne odszkodowanie, które będzie miało zostać wypłacone kilku osobom poszkodowanym w wyniku tego samego działania tego samego systemu sztucznej inteligencji obarczonego wysokim ryzykiem, przekroczy maksymalne kwoty całkowite przewidziane wyżej, kwoty wypłacane każdej z osób mają zostać proporcjonalnie zmniejszone, tak by łączna kwota odszkodowania nie przekroczyła wskazanej wyżej kwoty maksymalnej.

Odszkodowanie, które ma zostać wypłacone przez operatora odpowiedzialnego za okaleczenie skutkujące śmiercią poszkodowanego, będzie wyliczane – w ramach kwoty przewidzianej w art. 5 ust. 1 lit. a Projektu – na podstawie kosztów leczenia, które poszkodowany poniósł przed śmiercią, oraz szkód majątkowych poniesionych przed śmiercią w związku z zaprzestaniem lub ograniczeniem możliwości zarobkowania lub wzrostem potrzeb w związku ze szkodami poniesionymi przed śmiercią. Pociągnięty do odpowiedzialności operator powinien poza tym zwrócić koszty pochówku poszkodowanego osobie, która poniosła te wydatki.

Jeżeli w momencie zajścia, które spowodowało szkody, a w konsekwencji doprowadziło do śmierci, poszkodowany pozostawał w związku ze stroną trzecią i był prawnie zobowiązany do jej utrzymywania, odpowiedzialny operator ma być zobowiązany do łożenia na utrzymanie tej strony trzeciej w zakresie, w którym do ponoszenia tych kosztów byłby zobowiązany poszkodowany, przez okres odpowiadający średniej długości życia osoby w tym wieku i w podobnym stanie. Operator ma również pokrywać koszty utrzymania strony trzeciej, jeżeli w momencie zdarzenia będzie ona już poczęta, ale jeszcze nienarodzona.

Natomiast odszkodowanie, które ma być wypłacane przez operatora odpowiedzialnego za uszczerbek na zdrowiu lub okaleczenie poszkodowanego, będzie obejmować – w ramach kwoty przewidzianej w art. 5 ust. 1 lit. b) Projektu – zwrot kosztów związanego ze szkodą leczenia, jak również zwrot kosztów szkód materialnych, które poszkodowany poniósł w wyniku czasowego zawieszenia, ograniczenia lub całkowitego ustania możliwości zarobkowania lub wynikającego z poniesionych szkód, potwierdzonego orzeczeniem lekarskim wzrostu potrzeb.

7. Przedawnienie roszczeń z tytułu odpowiedzialności operatora na zasadzie ryzyka

W art. 7 Projektu przewidziano wydłużony okres przedawnienia roszczeń z tytułu odpowiedzialności cywilnej operatora sztucznej inteligencji obarczonego wysokim ryzykiem, dotyczących śmierci, uszczerbku na zdrowiu lub kalectwa. Okres ten ma wynosić 30 lat od daty powstania szkody. Natomiast w przypadku roszczeń dotyczących szkód majątkowych lub poważnych szkód niematerialnych skutkujących możliwą do zweryfikowania stratą ekonomiczną zastosowanie ma mieć okres przedawnienia:

10 lat od daty powstania szkody majątkowej lub możliwej do zweryfikowania straty ekonomicznej wynikającej z poważnej szkody niematerialnej albo

30 lat od daty przeprowadzenia operacji z wykorzystaniem systemu sztucznej inteligencji obarczonego wysokim ryzykiem, która doprowadziła do zniszczenia własności poszkodowanego lub do poważnej szkody niematerialnej.

Spośród ww. okresów przedawnienia zastosowanie ma mieć ten, który będzie się kończył jako pierwszy.

W odniesieniu do zawieszenia lub przerwania okresu przedawnienia mają mieć zastosowanie postanowienia prawa krajowego.

8. Odpowiedzialność na zasadzie winy za systemy sztucznej inteligencji nieobarczone wysokim ryzykiem

Odpowiedzialność operatora systemu sztucznej inteligencji, który nie jest systemem obarczonym wysokim ryzykiem i w konsekwencji nie zostanie umieszczony w wykazie w załączniku do projektowanego rozporządzenia, ma być oparta na zasadzie winy (chyba że w mocy będą surowsze przepisy krajowe i prawodawstwo w zakresie ochrony konsumentów) i obejmować wszelkie szkody spowodowane przez fizyczne bądź wirtualne działanie systemu sztucznej inteligencji, działanie urządzenia sterowanego tym systemem lub wskutek procesu opartego na tym systemie. Osoba poszkodowana w wyniku działania systemu SI niewymienionego jako obarczony wysokim ryzykiem, ma jednak korzystać z domniemania winy operatora.

Zgodnie z art. 8 ust. 2 Projektu operator nie ponosi odpowiedzialności, jeżeli może dowieść, że szkody powstały nie z jego winy, przy czym może skorzystać z następujących uzasadnień:

system sztucznej inteligencji został uruchomiony bez jego zgody, a jednocześnie podjęto wszelkie rozsądne i niezbędne środki, by uniknąć takiego uruchomienia poza kontrolą operatora lub

dochowano należytej staranności przez wykonanie wszystkich poniższych działań: dobierając odpowiedni system sztucznej inteligencji do danego zadania i umiejętności, uruchamiając go odpowiednio, nadzorując działanie i utrzymując go w dobrym stanie poprzez regularną instalację dostępnych aktualizacji.

Operator nie będzie mógł uniknąć odpowiedzialności, stwierdzając, że szkoda została spowodowana autonomicznym działaniem systemu sztucznej inteligencji, autonomicznym działaniem urządzenia sterowanego takim systemem lub wskutek procesu opartego na takim systemie. Jego odpowiedzialność ma być natomiast wyłączona w stosunku do szkód spowodowanych działaniem siły wyższej.

Jednakże operator systemu SI nieobarczonego wysokim ryzykiem ma ponosić odpowiedzialność za wypłatę odszkodowania, jeżeli szkoda zostanie spowodowana przez stronę trzecią, która zaingerowała w działanie systemu sztucznej inteligencji przez modyfikację jego funkcjonowania lub skutków, ale nie będzie można ustalić miejsca jej pobytu lub jest ona niewypłacalna.

Aby umożliwić operatorowi udowodnienie, że nie ponosi winy za nieprawidłowości, lub osobie poszkodowanej udowodnienie istnienia nieprawidłowości, na producentów systemu sztucznej inteligencji ma zostać nałożony obowiązek współpracy z operatorem lub poszkodowanym oraz udzielania im informacji w zakresie uzasadnionym powagą roszczenia.

W odniesieniu do okresu przedawnienia, jak również kwot i zakresu odszkodowania roszczeń z tytułu odpowiedzialności operatorów systemów SI ponoszonej na zasadzie winy zastosowanie mają mieć nadal przepisy państwa członkowskiego, w którym powstała szkoda.

9. Przyczynienie się poszkodowanego i wyłączna wina poszkodowanego

W Projekcie przewidziano rozłożenie odpowiedzialności w przypadku, gdy szkoda powstanie zarówno przez fizyczne bądź wirtualne działanie systemu sztucznej inteligencji, działanie urządzenia sterowanego takim systemem lub wskutek procesu opartego na takim systemie, jak i wskutek działań podjętych przez poszkodowanego lub dowolną osobę, za której działania poszkodowany odpowiada. W takim przypadku zakres odpowiedzialności operatora ma zostać odpowiednio zmniejszony.

Natomiast odpowiedzialność operatora ma być całkowicie wyłączona w przypadku, gdy za powstałą szkodę odpowiada wyłącznie poszkodowany lub osoba, za której działania ponosi on odpowiedzialność.

10. Roszczenia regresowe

W Projekcie uregulowana została również kwestia roszczeń regresowych pomiędzy ponoszącymi solidarną odpowiedzialność podmiotami. Zgodnie z art. 12 Projektu, operatorowi nie przysługuje prawo do regresu, chyba że poszkodowany otrzymał pełną kwotę odszkodowania, jakie przysługuje mu na mocy projektowanego rozporządzenia.

W przypadku, gdy operator będzie ponosił wobec poszkodowanego odpowiedzialność solidarnie z innymi operatorami i – na mocy art. 4 ust. 1 lub art. 8 ust. 1 projektowanego rozporządzenia – wypłaci poszkodowanemu pełne odszkodowanie, będzie miał prawo odzyskać od pozostałych operatorów przypadającą na nich część odszkodowania.

Proporcje odpowiedzialności mają być uzależnione od stopnia kontroli poszczególnych operatorów nad ryzykiem związanym z działaniem systemu sztucznej inteligencji. Jeżeli od odpowiedzialnego solidarnie operatora nie będzie można uzyskać jego części odszkodowania wynikającego z odpowiedzialności solidarnej, kwotę tę pokrywać mają pozostali operatorzy. Odpowiedzialny solidarnie operator, który wypłaci odszkodowanie poszkodowanemu i zażąda dostosowania płatności zaliczkowych od pozostałych odpowiedzialnych operatorów, będzie wstępował na zasadzie subrogacji w prawa poszkodowanego do roszczeń z tytułu odszkodowania wobec pozostałych operatorów. Regres nie będzie jednak zachodził ze szkodą dla pierwotnego roszczenia.

W przypadku, gdy operator wadliwego systemu sztucznej inteligencji w pełni zrekompensuje poszkodowanemu szkody, zgodnie z postanowieniami art. 4 ust. 1 lub art. 8 ust. 1 projektowanego rozporządzenia, będzie mógł skorzystać z prawa do dochodzenia odszkodowania od producenta wadliwego systemu sztucznej inteligencji, zgodnie z postanowieniami dyrektywy 85/374/EWG oraz przepisami krajowymi dotyczącymi odpowiedzialności za wadliwe produkty.

Jeśli natomiast ubezpieczyciel operatora zrekompensuje poszkodowanemu szkody zgodnie z postanowieniami projektowanego rozporządzenia, ubezpieczyciel operatora będzie korzystał z prawa regresu wobec innej osoby za te same szkody w kwocie odszkodowania wypłaconego poszkodowanemu przez tego ubezpieczyciela.

§ 9. Zakończenie

Jednym z głównych motywów tworzenia i ciągłego rozwijania rozwiązań opartych na sztucznej inteligencji jest eliminowanie ludzkich błędów, które często wywołują szkody na osobach i mieniu, a zatem zmniejszanie ryzyka powstawania szkód podlegających naprawieniu. Paradoksalnie jednak czynnikiem istotnie spowalniającym szersze wykorzystanie tych rozwiązań w praktyce jest brak jasnych reguł dotyczących odpowiedzialności cywilnoprawnej za wykorzystywanie sztucznej inteligencji i związana z tym niepewność prawa. Obecnie obowiązujące przepisy nie są bowiem w stanie w pełni sprostać nowym wyzwaniom, jakie wiążą się z korzystaniem z SI w coraz większej liczbie dziedzin społeczno-gospodarczych. Bez jasno zdefiniowanej odpowiedzialności producentów za oprogramowanie nie da się wymusić dbałości o bezpieczeństwo produkowanych i instalowanych masowo urządzeń zawierających systemy sztucznej inteligencji181. W efekcie producenci nie mają motywacji do dbania o bezpieczeństwo oprogramowania swoich urządzeń, a użytkownicy nie mają zapewnionej niezbędnej ochrony prawnej182. Przed ustawodawcami na całym świecie stoi więc zadanie polegające na tworzeniu takich regulacji prawnych w zakresie odpowiedzialności cywilnej, które z jednej strony będą należycie chronić poszkodowanych na skutek wykorzystania rozwiązań opartych na sztucznej inteligencji, a z drugiej – nie będą nadmiernie hamować postępu technologicznego i coraz szerszego zastosowania SI.

De lege lata w prawie polskim nie obowiązują żadne szczególne regulacje prawne dotyczące odpowiedzialności za posługiwanie się sztuczną inteligencją. Niemniej jej wykorzystanie w wielu dziedzinach życia społeczno-gospodarczego jest już faktem183. Zarówno działania fizyczne, jak też wirtualne, opierające się na systemach SI, urządzenia oraz procesy, w których korzysta się z tych systemów, mogą natomiast być bezpośrednią lub pośrednią przyczyną szkody, która z reguły jest wynikiem tego, że ktoś skonstruował lub wdrożył taki system, ingerował w niego lub niewłaściwie używał. Poszkodowani muszą więc szukać ochrony naruszonych praw i interesów w obowiązujących przepisach regulujących odpowiedzialność cywilnoprawną (tj. w przepisach, art. 415 i n., 435, 436 i 449¹ i n. oraz 471 i n. k.c.).

Na obecnym etapie sztuczna inteligencja wciąż jeszcze traktowana jest jako przedmiot, narzędzie w rękach człowieka184. Jednakże kierunek i tempo rozwoju technologicznego nie pozostawiają wątpliwości, że „emancypacja” sztucznej inteligencji wobec człowieka – i to zarówno użytkownika, jak i jej twórcy – będzie postępować185. To zaś stawia prawo cywilne w obliczu zupełnie nowych problemów, między innymi w kontekście odpowiedzialności odszkodowawczej. Dokonujący się przełom technologiczny – pod względem bezprecedensowej skali i związanych z nim nieznanych dotąd niebezpieczeństw – przypomina sytuację, która na początku poprzedniego stulecia wywołała konieczność wprowadzenia surowej odpowiedzialności za szkody wywołane ruchem przedsiębiorstwa napędzanego siłami przyrody (parą, gazem, elektrycznością i paliwami płynnymi).

Z uwagi na to, że obecnie obowiązujące przepisy, zarówno poszczególnych państw członkowskich (w tym polskie), jak i unijne, nie są w stanie w pełni sprostać wyzwaniom, jakie wyłaniają się w związku z coraz szerszym wykorzystywaniem systemów sztucznej inteligencji, Parlament Europejski podjął inicjatywę jednolitego uregulowania tej problematyki na szczeblu UE. Jej efektem jest opracowany już i przyjęty przez europarlament wniosek dotyczący Rozporządzenia Parlamentu i Rady w sprawie odpowiedzialności za działanie systemów sztucznej inteligencji. Projekt unijnej regulacji w tym zakresie stanowi załącznik do rezolucji Parlamentu Europejskiego z dnia 20 października 2020 r. z zaleceniami dla Komisji w sprawie systemu odpowiedzialności cywilnej za sztuczną inteligencję (2020/2014(INL) i w perspektywie najbliższych lat stanie się najprawdopodobniej obowiązującym prawem. Nawet jeśli poszczególne kwestie uregulowane w tym projekcie będą w toku dalszych prac legislacyjnych przedmiotem modyfikacji, to główne kierunki i założenia regulacji UE dotyczącej odpowiedzialności cywilnoprawnej za działanie systemów sztucznej inteligencji wydają się już na tym etapie przesądzone.

181 P. Marciniak, Problem…, s. 43.

182 Tamże, s. 38.

183 Na przykłady wykorzystania w praktyce rozwiązań opartych na sztucznej inteligencji m.in. w wojsku, przemyśle samochodowym i medycynie wskazują: P. Księżak, Zdolność prawna sztucznej inteligencji AI, w: Czynić postęp w prawie. Księga jubileuszowa dedykowana Profesor Birucie Lewaszkiewicz-Petrykowskiej, Łódź 2017, s. 64–65.

184 Zob. P. Księżak, w: Czynić postęp w prawie. Księga jubileuszowa…, s. 69, który wskazuje, że programy komputerowe, którymi teraz posługują się ludzie, w tym te, o których mówi się jako o sztucznej inteligencji, nadal są jedynie narzędziami, choć coraz bardziej zaawansowanymi, a problemy, które przynoszą, można nadal rozwiązywać w dotychczasowy sposób, choć wymagający coraz większego rozciągania ram dotychczasowych konstrukcji.

185 Jak podkreśla się w doktrynie, gdy roboty osiągną pełną autonomiczność, będą same kreować własny kod, same podejmować decyzje według przez siebie ustalonego pomysłu, traktowanie ich jedynie jako maszyny, którymi człowiek się posługuje i za które człowiek odpowiada, będzie oczywiście niewystarczające – tak P. Księżak, Zdolność prawna sztucznej inteligencji AI, w: Czynić postęp w prawie. Księga jubileuszowa…, s. 68, który jednocześnie podkreśla (s. 66), że właśnie AI, która sama siebie buduje w oderwaniu od swojego pierwotnego twórcy, budzi szczególne zainteresowanie w kontekście osobowości prawnej z uwagi na to, że tradycyjne powiązanie takiej inteligencji z inną osobą – która stworzyła algorytm albo sprawuje nad nim kontrolę, bądź czerpie z niego korzyści – może okazać się niewystarczające – tak P. Księżak, Zdolność prawna sztucznej inteligencji AI, w: Czynić postęp w prawie. Księga jubileuszowa…, s. 66.

Literatura

D. Bach-Golecka, R. Stankiewicz (red.), System Prawa Medycznego, t. 3, Legalis, Warszawa 2020.

Barta J., Markiewicz R., Odpowiedzialność za usterki utworu, „Rzeczpospolita”, 17.10.1994.

Barta J., Markiewicz R., (red.), Prawo autorskie i prawa pokrewne. Komentarz, Warszawa 2011.

Bieniek G. (red.), Komentarz do Kodeksu cywilnego, Księga trzecia. Zobowiązania, t. I, Warszawa 2011.

Bosek L., Perspektywy rozwoju odpowiedzialności cywilnej za inteligentne roboty, „Forum Prawnicze” 2019, nr 2.

Byczko S., Wpływ rozwoju technologicznego na odpowiedzialność samoistnego posiadacza pojazdu mechanicznego opartą na art. 436 k.c., w: Czynić postęp w prawie. Księga jubileuszowa dedykowana Profesor Birucie Lewaszkiewicz-Petrykowskiej, Łódź 2017.

Banaszczyk Z., Granecki P., O istocie należytej staranności, „Palestra” 2002, z. 7–8.

Ciszewski J., Nazaruk P. (red.), Kodeks cywilny. Komentarz, WKP 2019.

Czachórski W., Zobowiązania, Warszawa 2009.

Czachórski W., Uwagi o rażącym niedbalstwie, w: J. Błeszyński, J. Rajski, M. Safjan, E. Skowroński (red.), Z zagadnień współczesnego prawa cywilnego, Warszawa 1994.

Dąbrowa J., Odpowiedzialność deliktowa osoby prawnej za winę własną i cudzą, SC 1970, t. XVI.

Dolecki H., Wiśniewski T. (red.), Kodeks postępowania cywilnego. Komentarz, t. I, Warszawa 2013,

Duszczyk M., Hakerzy biorą na cel nasze samochody, „Rzeczpospolita”, 27.06.2016.

Ferenc-Szydełko E. (red.), Ustawa o prawie autorskim i prawach pokrewnych. Komentarz, Warszawa 2016.

Flisak D. (red.), Prawo autorskie i prawa pokrewne. Komentarz, Warszawa 2014, s. 813.

Gniewek E. (red.), Kodeks cywilny. Komentarz, Warszawa 2011.

Golat R., Prawo autorskie i prawa pokrewne, Warszawa 2016.

Grzeszak T., Umowa o stworzenie utworu w ustawie o prawie autorskim i prawach pokrewnych, PPH 1995, nr 5.

Ignatowicz J. (red.), Kodeks cywilny. Komentarz, t. 2, Księga trzecia – zobowiązania, Warszawa 1972.

Jakubecki A. (red.), Kodeks postępowania cywilnego. Komentarz, Warszawa 2012.

Kidyba A. (red.), Kodeks cywilny. Komentarz, t. III, Zobowiązania – część ogólna, Warszawa 2014.

Krajewski M., Niezachowanie należytej staranności – problem bezprawności czy winy, PiP 1997, z. 10.

Księżak P., Zdolność prawna sztucznej inteligencji AI, w: Czynić postęp w prawie. Księga jubileuszowa dedykowana Profesor Birucie Lewaszkiewicz-Petrykowskiej, Łódź 2017.

Lai L., Świerczewski M., Prawo sztucznej inteligencji, Warszawa 2020.

Lewaszkiewicz-Petrykowska B., Problem definicji winy, jako podstawy odpowiedzialności z tytułu czynów niedozwolonych, Zeszyty Naukowe Uniwersytetu Łódzkiego, Seria I, Nauki Humanistyczno-Społeczne, z. 14, Prawo, Łódź 1959.

Łętowska E., Prawo umów konsumenckich, Warszawa 2002.

Marciniak P., Problem odpowiedzialności za błędy w oprogramowaniu IoT, PUG 2020, nr 10.

Markiewicz R. (red.), Komentarz do ustawy o prawie autorskim i prawach pokrewnych, WKP 2021.

Michalak A., Odpowiedzialność cywilnoprawna w obrocie oprogramowaniem komputerowym w erze sztucznej inteligencji, Warszawa 2021

Mohmand F., Pojęcie produktu niebezpiecznego w rozumieniu przepisów kodeksu cywilnego o odpowiedzialności za produkt, w: M. Pyziak-Szafnicka (red.), Odpowiedzialność cywilna. Księga pamiątkowa ku czci Profesora Adama Szpunara, Kraków 2004.

Olejniczak A. (red.), System prawa prywatnego, t. 6, Prawo zobowiązań – część ogólna, Warszawa 2014.

Pajor T., Odpowiedzialność dłużnika za niewykonanie zobowiązania, Warszawa 1982.

Pietrzykowski K. (red.), Kodeks cywilny. Komentarz, t. I, Warszawa 2015.

Pietrzykowski K. (red.), Kodeks cywilny. Komentarz, t. II, Warszawa 2011.

Radwański Z. (red.), System prawa cywilnego, t. III, cz. 1, Prawo zobowiązań – część ogólna, Wrocław 1981.

Radwański Z., Olejniczak A. (red.), Zobowiązania – część ogólna, Warszawa 2008.

Radwański Z., Olejniczak A., Zobowiązania, Warszawa 2012.

Sośniak M., Elementy winy nieumyślnej w prawie cywilnym, Zeszyty Naukowe Uniwersytetu Śląskiego, Prace Prawnicze VI, , nr 68, Katowice 1957.

Szpunar A., Nadużycie prawa podmiotowego, Kraków 1947.

Szpunar A., Czyny niedozwolone w Kodeksie cywilnym, SC 1970, t. XV.

Ślęzak P. (red.), Ustawa o prawie autorskim i prawach pokrewnych. Komentarz, Warszawa 2017.

Targosz T., Włodarska-Dziurzyńska K., Umowy przenoszące autorskie prawa majątkowe, Warszawa 2010.

Zagrobelny K., O okolicznościach kształtujących odszkodowawczą odpowiedzialność dłużnika, w: P. Machnikowski (red.), Odpowiedzialność w prawie cywilnym, pod red. ego, Wrocław 2006.

Zieliński A. (red.), Kodeks postępowania cywilnego. Komentarz, Warszawa 2012.

Zoll F., Rękojmia. Odpowiedzialność sprzedawcy, Warszawa 2018.