Technologia voice cloning pozwala stworzyć cyfrową kopię głosu konkretnej osoby i wykorzystywać ją do generowania nowych wypowiedzi. Nie jest to jedynie kolejny sposób korzystania z nagrania, bowiem głos zostaje oddzielony od osoby i odwzorowany w formie modelu, który może być używany bez jej dalszego udziału.
Syntetyczny głos może wypowiadać treści, które nigdy nie padły. Może zostać wykorzystany w reklamie, rozmowie telefonicznej albo nagraniu publikowanym w internecie. Osoba, której cechy głosu odtworzono, może przy tym nie wiedzieć ani o powstaniu modelu, ani o jego późniejszym wykorzystaniu.
Spór nie musi zaczynać się od bezprawnego pozyskania próbki głosu. Źródłowe nagranie mogło powstać za zgodą osoby zainteresowanej, a druga strona mogła uzyskać prawo do korzystania z konkretnego materiału. Nie przesądza to jednak o prawie do wykorzystania tego nagrania jako podstawy modelu AI, który będzie generował nowe wypowiedzi.
Podobnie zgoda na stworzenie cyfrowej repliki głosu nie oznacza automatycznie zgody na każdy późniejszy sposób jej wykorzystania.
Należałoby zatem rozdzielić prawo do korzystania z określonego nagrania od zgody na stworzenie modelu głosu oraz uprawnienia do generowania nowych treści przy jego użyciu. Są to odrębne kwestie, choć nierzadko traktuje się je tak, jakby zgoda na pierwszą czynność obejmowała automatycznie dwie pozostałe.
Czy głos jest dobrem osobistym?
Polskie prawo nie przewiduje odrębnego prawa do „cyfrowego głosu”. Ochrony należy szukać przede wszystkim w przepisach o dobrach osobistych.
Podstawą są art. 23 i 24 k.c., a w zakresie roszczeń pieniężnych także art. 448 k.c. Katalog dóbr osobistych ma charakter otwarty. Pozwala to objąć ochroną cechy człowieka, które pozostają ściśle związane z jego tożsamością i umożliwiają jego rozpoznanie.
W odniesieniu do głosu istotne znaczenie ma wyrok Sądu Najwyższego z 7 marca 2023 r., II CSKP 659/22. Sąd Najwyższy uznał, że głos podlega samodzielnej ochronie jako dobro osobiste. Wskazał, że podobnie jak wizerunek obejmuje element fizycznej tożsamości człowieka, a jego indywidualne cechy pozwalają na rozpoznanie konkretnej osoby.
Orzeczenie ma szczególne znaczenie dla spraw dotyczących AI. Sąd Najwyższy odniósł się bowiem również do cyfrowego przekształcenia głosu prowadzącego do przypisania określonej osobie wypowiedzi, której w rzeczywistości nie udzieliła. Taka ingerencja może naruszać głos jako dobro osobiste niezależnie od tego, czy wykorzystano istniejące nagranie, czy wygenerowano nową wypowiedź.
Voice cloning zmienia przy tym charakter ingerencji. Przy rozpowszechnieniu klasycznego nagrania nadal wykorzystuje się wypowiedź, która rzeczywiście padła. Model głosu pozwala natomiast tworzyć nowe treści. Osoba może zostać przedstawiona jako autor słów, których nigdy nie wypowiedziała.
Jeżeli głos zostanie wykorzystany do przypisania określonego stanowiska albo udziału w przedsięwzięciu, może dojść do naruszenia dobrego imienia. Gdy model powstał na podstawie materiałów pochodzących ze sfery prywatnej, znaczenie będzie miała również ochrona prywatności.
Legalne nagranie nie zawsze oznacza legalnego voice cloningu.
Znacznie trudniejsze od przypadków oczywistego podszywania się pod inną osobę są sytuacje, w których materiał źródłowy został pozyskany zgodnie z prawem.
Aktor mógł nagrać dialog do gry. Firma mogła uzyskać prawo do korzystania z przygotowanego materiału. Z samego faktu legalnego dostępu do pliku audio nie wynika jednak prawo do stworzenia modelu pozwalającego generować kolejne wypowiedzi w oparciu o uzyskany głos.
Zakres uprawnień powinien wynikać z umowy i celu, dla którego nagranie zostało wykonane. Nabycie praw do konkretnego materiału nie musi obejmować wykorzystania cech głosu do stworzenia cyfrowego klonu.
Nie można też bez dodatkowej analizy utożsamiać praw autorskich lub pokrewnych do określonego nagrania z prawem do samego głosu. Przedmiotem tych praw jest określone dobro niematerialne albo jego utrwalenie. Głos pozostaje natomiast elementem tożsamości człowieka.
Jeżeli umowa nie przewidywała stworzenia modelu AI w oparciu o udzielony głos, trudno przyjąć, że ogólna zgoda na korzystanie z nagrania obejmowała również taką formę eksploatacji. Spór może dotyczyć zarówno przekroczenia zakresu umowy, jak i bezprawnej ingerencji w dobro osobiste.
Z tych powodów zgoda na voice cloning powinna być uregulowana odrębnie. Umowa powinna wskazywać cel stworzenia modelu, okres jego używania oraz krąg podmiotów uprawnionych do korzystania z tego głosu. Osobnego ustalenia wymaga możliwość generowania treści dla innych projektów oraz jakie skutki będą wiązały się z zakończeniem współpracy.
Zgoda na stworzenie klonu nie obejmuje automatycznie każdego sposobu jego wykorzystania.
Odrębnym problemem są sytuacje, w których dana osoba rzeczywiście świadomie zgodziła się na stworzenie cyfrowej repliki własnego głosu, jednak sam fakt udzielenia takiej zgody nie przesądza o dopuszczalności każdego późniejszego użycia modelu.
Model może zostać stworzony na potrzeby konkretnej produkcji lub kampanii. Późniejsze wykorzystanie go przez inny podmiot albo w odmiennym celu nie musi mieścić się w pierwotnych ustaleniach, dlatego tak ważne są zapisy umowy. Inna jest zgoda na samo utworzenie modelu, a inna na udostępnienie go osobom trzecim. Osobnego uregulowania może wymagać także możliwość tworzenia kolejnych materiałów po zakończeniu współpracy.
Nie każde przekroczenie zakresu zgody będzie prowadziło do identycznych roszczeń. W jednym przypadku zasadnicze znaczenie może mieć naruszenie umowy, w innym ingerencja w dobra osobiste.
Lehrman v. Lovo spór o wykorzystanie nagrań do stworzenia głosów AI
Problem granic pierwotnej zgody pojawił się w sprawie Lehrman v. Lovo, Inc., prowadzonej przed federalnym sądem dla Południowego Dystryktu Nowego Jorku.
Według twierdzeń powodów nagrania zostały pozyskane za pośrednictwem serwisu Fiverr do ograniczonych projektów, a następnie wykorzystane do stworzenia komercyjnych głosów AI. Powodowie twierdzili, że głosy przypominające ich własne były oferowane przez Lovo pod innymi nazwami.
Sprawa nie zakończyła się dotąd wyrokiem stwierdzającym odpowiedzialność spółki. W postanowieniu z 10 lipca 2025 r. sąd częściowo uwzględnił wniosek Lovo o oddalenie pozwu, ale dopuścił dalsze rozpoznanie części roszczeń. Utrzymały się między innymi zarzuty dotyczące naruszenia umowy oraz komercyjnego użycia głosu na podstawie prawa stanu Nowy Jork. Część roszczeń opartych na prawie autorskim i prawie znaków towarowych została natomiast oddalona lub ograniczona.
Rozstrzygnięcie proceduralne dobrze pokazuje trudność w wyborze podstawy prawnej. Prawo autorskie może chronić konkretne nagranie, ale nie daje automatycznie prawa wyłącznego do cech głosu. Większe znaczenie mogą mieć przepisy chroniące tożsamość osoby oraz treść porozumienia, na podstawie którego pierwotnie wykonano nagranie.
Amerykańskie prawo rozwija przy tym odrębne instrumenty ochrony głosu. W Tennessee od 1 lipca 2024 r. obowiązuje ELVIS Act, który wprost objął ochroną głos i przewiduje odpowiedzialność za określone przypadki jego nieuprawnionego wykorzystania. Na poziomie federalnym trwają również prace nad NO FAKES Act.
Gdy sklonowany głos służy do oszustwa.
Voice cloning nie jest wykorzystywany wyłącznie w produkcji treści. Syntetyczny głos może posłużyć do podszycia się pod osobę uprawnioną do wydawania poleceń albo do wyłudzenia pieniędzy.
W takich sprawach ochrona dóbr osobistych stanowi tylko jeden z elementów analizy. Równolegle mogą pojawić się podstawy odpowiedzialności karnej oraz roszczenia odszkodowawcze związane ze szkodą wyrządzoną oszustwem.
Jak reagować po wykryciu bezprawnego wykorzystania głosu?
Pierwsze działania powinny zmierzać do zabezpieczenia dowodów. Materiał może zostać szybko usunięty, a konto, z którego go opublikowano, przestać istnieć.
Należy zachować sam plik oraz dane pozwalające ustalić miejsce i czas publikacji. Jeżeli materiał był wykorzystywany komercyjnie, znaczenie może mieć również sposób jego rozpowszechniania. Warto zabezpieczyć informacje wskazujące, że odbiorcy rozpoznawali w syntetycznym głosie konkretną osobę.
Dalsze działania zależą od charakteru naruszenia. Możliwe jest wezwanie do zaprzestania korzystania z głosu oraz żądanie usunięcia opublikowanych materiałów. W określonych przypadkach roszczenie może obejmować również zakaz dalszego używania modelu lub udostępniania go innym osobom.
Przy trwającym naruszeniu istotne znaczenie może mieć wniosek o zabezpieczenie roszczenia. Pozwala ono podjąć próbę powstrzymania dalszego używania syntetycznego głosu jeszcze przed zakończeniem procesu
Spór rozstrzygną dowody
W wielu sprawach największą trudnością nie będzie wskazanie naruszonego prawa, lecz ustalenie, kto stworzył model i w jaki sposób.
Samo podobieństwo głosu może wymagać oceny biegłego. Znaczenie mogą mieć wcześniejsze nagrania przekazane pozwanemu oraz okoliczności ich wykorzystania.
W sporze z udziałem platformy technologicznej istotne mogą okazać się logi. Pozwalają one zweryfikować z jakiego konta utworzono model i kiedy miało to miejsce. Mogą również wskazywać, jakie materiały zostały przesłane oraz kto później korzystał z głosu.
Pomocne mogą być również oświadczenia składane przy tworzeniu modelu, zwłaszcza dotyczące posiadania praw do nagrań, zgody osoby, której głos odwzorowano, albo weryfikacji właściciela głosu. Takie informacje mogą później pokazywać, co użytkownik deklarował wobec platformy i czy działał wbrew tym deklaracjom.
Dlatego reakcja na naruszenie nie powinna ograniczać się do żądania usunięcia materiału. Szybkie usunięcie nagrania może być konieczne, ale równolegle należy zadbać o zabezpieczenie danych potrzebnych do identyfikacji osób odpowiedzialnych za stworzenie i wykorzystanie syntetycznego głosu.
Użytkownik, zamawiający czy platforma?
Odpowiedzialność za bezprawne wykorzystanie syntetycznego głosu wymaga ustalenia rzeczywistego udziału poszczególnych podmiotów.
Najbardziej bezpośrednia jest odpowiedzialność osoby, która bez wymaganej zgody stworzyła klon i użyła go w określonym celu. Sytuacja komplikuje się, gdy model powstał na zamówienie firmy, a techniczne wykonanie powierzono zewnętrznemu podmiotowi.
Samo zlecenie pracy nie zwalnia zamawiającego z odpowiedzialności, jeżeli wiedział o sposobie wykorzystania głosu lub sam zdecydował o użyciu modelu. Z drugiej strony wykonawca nie zawsze będzie mógł zasłonić się zapewnieniem klienta, że posiada wymagane prawa. Ocena zależy od okoliczności konkretnej sprawy.
Platforma dostarczająca technologię znajduje się w innej sytuacji niż bezpośredni sprawca naruszenia. Nie można przypisywać jej odpowiedzialności za każdy przypadek użycia narzędzia przez użytkownika. Inaczej należy analizować sytuację, w której platforma nie wiedziała o konkretnym nadużyciu, a inaczej przypadek, gdy otrzymała wiarygodne zgłoszenie i nie podjęła odpowiednich działań.
W Unii Europejskiej znaczenie ma DSA, w szczególności mechanizm notice-and-action przewidziany w art. 16. W zakresie, w jakim dana usługa ma charakter hostingu, precyzyjne zgłoszenie może prowadzić do powstania obowiązku odpowiedniej reakcji na konkretną nielegalną treść. DSA nie wprowadza przy tym ogólnego obowiązku monitorowania wszystkich treści użytkowników.
AI Act nie zastąpi natomiast ochrony cywilnej.
Od 2 sierpnia 2026 r. zaczną być stosowane obowiązki transparentności przewidziane w art. 50 AI Act, który obejmuje swoim zakresem także dostawców spoza UE oferujących swoje systemy na rynku europejskim (kwestię tego, kiedy przepisy AI Act dotyczą też firm z USA, omawialiśmy szerzej przy okazji wejścia na rynek unijny). W przypadku systemów generujących syntetyczne treści audio dostawca będzie musiał zapewnić, aby rezultat działania systemu był oznaczony w sposób możliwy do odczytu maszynowego. Osoba lub podmiot wykorzystujący system AI do stworzenia albo modyfikacji materiału audio stanowiącego deepfake będzie natomiast, co do zasady, zobowiązany ujawnić, że treść została sztucznie wygenerowana lub zmanipulowana.
Syntetyczny głos może mieścić się w pojęciu deepfake, jeżeli wygenerowany lub zmanipulowany materiał audio przypomina istniejącą osobę i może zostać błędnie uznany za autentyczny.
Obowiązek oznaczenia takiego materiału nie rozstrzyga jednak sporu o zgodę. Nagranie może zostać prawidłowo oznaczone jako wygenerowane przez AI, a mimo to naruszać dobra osobiste osoby, której głos odtworzono.
AI Act dodaje zatem warstwę obowiązków dotyczących transparentności. Roszczenia związane z utratą kontroli nad własnym głosem nadal będą oceniane przede wszystkim na gruncie prawa cywilnego i postanowień umownych.
Jak zabezpieczyć głos przed nieuprawnionym wykorzystaniem?
W sprawach dotyczących voice cloning kluczowe jest szybkie zabezpieczenie dowodów, ustalenie źródła modelu oraz ocena, czy wykorzystanie głosu mieściło się w zakresie udzielonej zgody.
Kancelaria wspiera klientów w sprawach dotyczących ochrony głosu, dóbr osobistych i wykorzystania AI, zarówno przy reagowaniu na naruszenia, jak i przy przygotowywaniu umów ograniczających ryzyka związane z syntetycznymi treściami audio.
