Sztuczna Inteligencja, prawdziwe problemy (01)

ODCINEK 01: W krzywym zwierciadle

Pierwszy odcinek nowego cyklu zaczynam od pierwszego odcinka 6. sezonu serialu „Black Mirror”. Jest kapitalnym punktem wyjścia do dyskusji w temacie „SI a sektor audiowizualny”. Idealnym! Stanowi sumę wszystkich strachów twórców filmowych oraz przeciętnych konsumentów kultury o nieprzeciętnym pojęciu na temat znaczenia narzędzi bazujących na SI.

Kluczowe pytania 

W odcinku „Joan Is Awful” poruszono tak wiele wątków, że pewnie nie raz w tym cyklu do niego wrócę. Na razie ograniczam się do dwóch sPRAW:

1) Czy Netflix żartuje z obaw przed SI czy też w krzywym zwierciadle odbijają się realne plany platformy ?

2) Czy odbyt Salmy Hayek ma jakieś prawa?

Spoiler alert & long story short: na początku odcinka poznajemy Joan. Wkrótce okazuje się, że najbardziej popularna platforma streamingowa wypuściła serial o jej życiu, w którym wydarzenia są przedstawiane w zasadzie natychmiast po tym, jak miały miejsce w rzeczywistości. Możemy, tak jak i partner oraz znajomi Joan, oglądać akurat to, co najbardziej chciałaby ukryć i czego się wstydzi. Bohaterka po fazie szoku, ponoszenia pierwszych konsekwencji upublicznienia jej prywatnych spraw, postanawia zasięgnąć porady prawnej. Dowiaduje się, że nic nie można z tym zrobić, o powodach później, i że całość generuje super mocny komputer kwantowy. Domykając klamrę polskich fraz, last not least, Joan w…serialowym serialu gra Salma Hayek a raczej wytwór wygenerowany na bazie jej wizerunku. Generalnie jeden wielki deep fake. Najprawdziwszy!

Prawo jako drugoplanowy bohater…na pierwszym planie

Niby to nie był odcinek o prawnikach ani o prawie, stąd umiejscowienie ich przeze mnie na drugim planie. Z drugiej strony, nigdy wcześniej w żadnym pop-kulturowym, fabularyzowanym serialu czy filmie o SI, umowy, regulaminy i zakres uprawnień osoby fizycznej, nie wybijały się tak intensywnie na plan pierwszy.

Do prawnika, płci żeńskiej, idzie Joan. Chce powstrzymać platformę przed opowiadaniem jej życia. Okazuje się, że wszystko odbywa się zgodnie z umową, ponieważ bohaterka pozwoliła na takie działania akceptując regulamin, umożliwiający dostęp do streamowanych treści. Prawniczka odsyła ją do ntej strony klikniętej w aplikacji umowy i któregoś tam z kolei paragrafu.

Do prawnika, płci męskiej, idzie też Salma Hayek. Robi scenę, bo nie podobała jej się ta, którą odegrała jej cyfrowa podobizna. Podążając śladami żywota Joan, zawędrowała do kościoła, gdzie kilka kroków od ołtarza, podczas ceremonii zaślubin, bardzo widowiskowo, głośno i śmierdząco zrealizowała potrzebę fizjologiczną, mobilizując uprzednio układ pokarmowy kilkoma burgerami oraz środkiem „Max Lax”. Salma uznała, że nie dość, że sam motyw ubliża jej warsztatowi i nie wpisuje w dotychczasowy przebieg kariery, to okoliczności są nie do zaakceptowania ze względu na jej wyznanie oraz znaczenie katolicyzmu dla jej całej rodziny. Gdyby babcia, która miała zostać zakonnicą to zobaczyła, mogła by paść trupem. Analiza prawnika taka, jak w sytuacji Joan. Wszystko zgodnie z umową, strona 39, paragraf 8. Salma mówi, że jest jej wszystko jedno, gdzie co jest napisane, bo i tak tego nie rozumie. Prawnik tłumaczy, że wyliczono tam okoliczności wykorzystania wizerunku aktorki, z defekacją włącznie i że w zasadzie to nie był czyn aktorki, ale postaci, którą odgrywa. Salma nie bardzo dostrzega tę subtelną dychotomię i pyta, prosto z mostu, czyją twarz miał defekujący odbyt. Odpowiedź jest jedna. Tak jak i na kolejne pytanie, co można zrobić, żeby platforma przestała rozpowszechniać serial. Prawnik mówi, że nic. Salma nie daje za wygraną i chce pozwać platformę, bo umowa to jedno a kwestia jakichś podstawowych praw i nieprzekraczalnych granic, to inna sprawa. Prawnik na to, że nie ma podstaw. Aktorka nie bardzo rozumie, po co w takim razie go zatrudniła, skoro miał ją chronić i grozi mu pozwem. Nawiązania do dolnych partii ciała są dalej kontynuowane.

To się dzieje!

Jeszcze nie robią seriali na podstawie naszych życiorysów a aktorzy nie są masowo zastępowani przez wygenerowane obrazy, ale kwestie związane z korzystaniem z narzędzi SI zaczynają być obejmowane treścią umowy. I nie chodzi mi o porozumienia w przedmiocie tworzenia algorytmów, trenowania modeli, pozyskiwania dostępu do danych. Mam na myśli umowy z twórcami i artystami wykonawcami.

Postanowienia te są na razie przemycane gdzieś pomiędzy zobowiązaniami stron i są sformułowane w taki sposób, żeby unikać pojęciowych nawiązań do SI. Pod względem redakcyjnym, najlepszym miejscem w umowie do wymienienia określonych uprawnień na rzecz nabywcy, jest paragraf dotyczący pól eksploatacji. Wszyscy w branży są przyzwyczajeni, że ich lista się nie kończy, potrzebuje załącznika i zawiera różne niezrozumiałe zwroty, wskazujące na techniczne operacje, którym trzeba poddać utwór, żeby mógł trafić do streamingu, na satelitę czy być nadawany w telewizji naziemnej.

Z końcem 2021 roku, brytyjskie „Equity”, zrzeszające wykonawców z szeroko pojętego przemysłu rozrywkowego, zleciło analizę ich umów. Głównym przedmiotem analizy było poszukiwanie postanowień, które w nieuczciwy sposób umożliwiały producentom skorzystanie z rozwiązań SI w miejsce współpracy z aktorem czy lektorem. Proceder uznano za nieuczciwy, ponieważ wykonawcy nie byli poinformowani o konsekwencjach wykorzystania danej technologii ani o tym, jak odmienne skutki, przy dzisiejszych możliwościach technicznych, wywołuje przeniesienie praw na wszystkich polach eksploatacji. Czyli w zasadzie podpisanie umowy takiej, jak dotychczas.

W erze przed powszechnym dostępem do narzędzi SI, owo przeniesienie oznaczało, że producent może korzystać z efektu pracy twórcy bez ograniczeń, bez konieczności pytania o dalsze zezwolenia i bez obowiązku dzielenia się zyskiem. Odmienne uregulowania, dotyczące finansów zawsze były rzadkością i efektem długotrwałych negocjacji w imieniu topowego artysty czy twórcy. Jak wynika z analizowanych klauzul i praktyk na rynku brytyjskim, obecnie nie chodzi o maksymalną eksploatację utworu, celem zwrotu i pomnożenia pieniędzy, zainwestowanych w daną produkcję. Teraz chodzi o eksploatację…twórcy, aby nagrywając raz jego wizerunek, ruchy czy głos, móc tworzyć nieskończoną liczbę różnego typu utworów. Wygenerować postać dla gry komputerowej, nagrać kwestie wypowiadane przez syntezator mowy, wkładając je w usta postaci, którą stworzono na bazie wcześniej utrwalonego wizerunku.

Problemem dla artystów zrzeszonych w „Equity” jest niepoinformowanie artystów o skutkach podpisywanych umów oraz wysokość wynagrodzenia, która nie rekompensuje braku zatrudnienia przy kolejnych produkcjach, powstających na bazie zakupionych materiałów i przeniesionych praw.

Wątpliwości w przedmiocie treści umowy zaczynają zgłaszać także polscy twórcy. Jeden z klientów, podsyłając kontrakt do zaopiniowania zastrzegł, że producent, który zamówił u niego utwór, zajmuje się rozwijaniem narzędzi SI. Zasadniczo twórca nie miał nic przeciwko, ale chciał gwarancji, że akurat efekty jego pracy, nie będą wykorzystywane do trenowania algorytmu.

Co by było, gdyby…

Czy szybko zobaczymy takie klauzule, jak opisywane w „Joan is Awful” w umowach, do których zastosowanie ma prawo polskie? Akurat dobra eksploatowane w odcinku „Black Mirror” są specyficzne. W mojej bańce, w dyskusji publicznej skupiamy się na kwestii eksploatowania utworów celem trenowania algorytmów. W centrum problemu są zatem prawa o charakterze majątkowym, aczkolwiek nierzadko podnosi się argumenty z zakresu praw osobistych, mające bronić praw twórców do przeciwstawiania się stosowanym praktykom.

W przypadku obu bohaterek, problem prawny sprowadza się do kwestii praw niemajątkowych, które podlegają komercjalizacji. Niektórzy celebryci i influencerzy bardzo chętnie monetyzują swoją prywatność, wizerunek czy dobre imię. Mają jednak poczucie względnej kontroli i ewidentnie uznają, że ta transakcja się im opłaca. Jest to przeciwieństwo sytuacji, w której znalazła się serialowa Joan i Salma Hayek. Ktoś mógłby powiedzieć, że nie są to żadne szczególne okoliczności, ponieważ bardzo często ludzie ponoszą konsekwencje nieczytania podpisywanych umów albo tego, że nie rozumieją prawniczego żargonu.

To prawda, ale:

1) ustawodawca, a także prawodawca unijny, zdaje się przywiązywać szczególną wagę do świadomego funkcjonowania ludzi w środowisku cyfrowym i wprowadza regulacje, raz bardziej a kilka razy pod rząd mniej udane, mające zapewnić równowagę informacyjną pomiędzy tymi, którzy dostarczają danych a tymi, którzy bezpośrednio na nich, albo w związku z korzystaniem z nich, zarabiają;

2) żeby zgoda na rozpowszechnianie i ingerencję w wizerunek była skuteczna, ten, kto jej udziela, musi jej udzielić świadomie. Trzeba zatem mu wytłumaczyć co, kto i w jakim celu będzie z wizerunkiem robił. Odpowiednia forma i treść informacji będzie obroną przed zarzutem bezprawnej ingerencji w prawo do wizerunku. Ta sama zasady dotyczy zresztą pozostałych dóbr osobistych;

3) szczególne obowiązki informacyjne wynikają także z uregulowań, dotyczących praw konsumentów. Zdaje się, że przemycenie takiej klauzuli sprzedającej twarz, godność i życie platformie streamingowej, pośród typowych praw i obowiązków jej użytkownika, nawet i dzisiaj mogłoby być uznane za niewywołujące skutków.

Nurtująca sprawa…twarzy Salmy Hayek

O ile Joan mogłaby podnosić, że nie spodziewała się uregulowania kwestii komercyjnego wykorzystywania dóbr osobistych w regulaminie świadczenia usług streamingowych (jej szanse wzmacnia traktowanie przez organy unijne i niektóre sądy, zwłaszcza w US, konsumenta jako synonimu przygłupa, potrzebującego informacji, że parasolki nie należy prać ani otwierać w pralce), sytuacja zawodowej aktorki jest inna. Jej umowa z producentem dotyczy przede wszystkim eksploatacji wizerunku. Powraca pytanie o granicę swobody umów i sferę uprawnień, która powinna zawsze pozostawać w dyspozycji uprawnionego. Niektórzy ustawodawcy ignorują pewne postanowienia umowne w imię konieczności ochrony podstawowych praw człowieka, nawet jeśli jemu samemu na ich respektowaniu nie zależy. Bo woli pieniądze (polecam kazus zawodów w rzucie karłem, których przychody z tego tytułu znacząco się skurczyły po ingerencji organów sądowych).

Swoboda umów ma także granice w polskim kodeksie cywilnym. Istnieją trzy ograniczenia: przepisy prawa, zasady współżycia społecznego oraz natura stosunku prawnego. Efekt ich zastosowania w kontekście eksploatacji wizerunku użyciem narzędzi SI, nie prowadzi do niepodważalnych argumentów. Model ochrony dóbr osobistych w europejskiej, kontynentalnej kulturze prawnej daje prymat tym interesom, które Salma Hayek sprowadza do stwierdzenia, że przecież jej odbyt musi mieć jakieś prawa. Zezwolenie na wkroczenie w dobra osobiste może być cofnięte, przy czym konieczne będzie pokrycie szkód, czyli zwykle inwestycji drugiej strony, będących następstwem zmiany zdania. Nie jest to jednak żadna złota reguła i może doznać ograniczeń. Znaczenie może mieć moment cofnięcia zezwolenia oraz to czy do wkroczenia, pierwotnie za zgodą uprawnionego, już doszło.

Kwantowy Netflix

Po premierze odcinka „Joan is Awful” powstało co najmniej kilka artykułów odpowiadających na pytanie czy kwantowy komputer, taki, jak przedstawiony w serialu, rzeczywiście istnieje. Polecam poczytać o kwantowych komputerach raczej w innych, niezwiązanych z produkcją, źródłach. Nie polecam poprzestawać na stwierdzeniu z artykułu firmowanego przez Netflix, że nie ma co się zastanawiać czy to ustrojstwo istnieje i jak działa, „bo to w zasadzie magia”.

Punkt dla Netflixa za autoironiczny odcinek serialu, aczkolwiek skomentowanie obaw użytkowników i twórców poprzez sprowadzenie ich do niby absurdu, nie daje odpowiedzi na pytania, które te grupy zadają. Na razie raczej w swoim wewnętrznym gronie. Producenci zrzeszeni w the Alliance of Motion Picture and Television Producers (AMPTP), do stowarzyszenia należy także Netflix, obiecali twórcom zatroskanym o rzeczywiste zastosowanie narzędzi SI w przemyśle audiowizualnym „coroczne spotkanie informacyjne na temat postępu technicznego”. Mam nadzieję, że tegorocznego sprawozdania nie zastąpi odcinek „Black Mirror”…