Koreańska sprawa Kim Soo-hyuna to jeden z pierwszych tak głośnych przypadków, gdzie AI posłużyła jako narzędzie celowego niszczenia reputacji człowieka. Sąd wydał nakaz aresztowania YouTubera, który miał wygenerować fałszywe nagranie głosowe i zmanipulować zrzuty ekranu wiadomości.
Kluczowe fakty:
- YouTuber Kim Se-ui został aresztowany za wygenerowanie fałszywego nagrania głosowego AI oraz zmanipulowanie zrzutów ekranu wiadomości, aby oskarżyć aktora Kim Soo-hyuna o związek z niepełnoletnią.
- Sfabrykowane materiały zawierały nagranie głosu zmarłej aktorki Kim Sae-ron oraz zmienione wiadomości z KakaoTalk, które miały sugerować niestosowny związek z Kim Soo-hyunem.
- Kariera Kim Soo-hyuna została zniszczona zanim śledczy zdążyli zweryfikować autentyczność materiałów, co pokazuje przepaść między szybkim rozprzestrzenianiem się treści a możliwościami prawnej weryfikacji.
Seul Centralny Sąd Rejonowy wydał we wtorek nakaz aresztowania Kim Se-ui, prowadzącego kanał YouTube HoverLab (znany też jako Garo Sero Institute), pod zarzutem zniesławienia aktora Kim Soo-hyuna poprzez fałszywe twierdzenia, że spotykał się on z nieżyjącą aktorką Kim Sae-ron, gdy była niepełnoletnia.
Jak wyglądała fabrykacja?
Kim Se-ui zorganizował konferencję prasową 7 maja 2025 roku, na której odtworzył plik dźwiękowy z głosem Kim Sae-ron. Policja twierdzi, że nagranie było fałszywe i wygenerowane przez AI. W nagraniu „aktorka” miała twierdzić, że związek z Kim Soo-hyunem rozpoczął się, gdy była w gimnazjum, a pierwsze zbliżenie seksualne miało miejsce w trakcie jej drugiego roku nauki.
To nie wszystko. Policja twierdzi też, że YouTuber zmanipulował zrzuty ekranu wiadomości z KakaoTalk wysyłanych z telefonu aktorki, by wyglądały, jakby pisała do Kim Soo-hyuna. Innymi słowy: sfabrykowano zarówno głos, jak i korespondencję.
Nagranie rozeszło się szeroko po mediach społecznościowych, wywołując zarzuty, że Soo-hyun był częściowo odpowiedzialny za śmierć Sae-ron.
Prawie co drugi pracownik w Polsce używa AI za plecami swojego szefa. 71% polskich pracowników oszczędza dzięki AI od pół godziny do ponad dwóch godzin dziennie …
Kariera zniszczona zanim zakończono śledztwo
Kariera Kim Soo-hyuna została skutecznie zniszczona zanim śledczy zakończyli weryfikację materiałów, co odsłania przepaść między wirusowym rozprzestrzenianiem się treści a dostępnością środków prawnych.
To jest chyba najważniejszy fragment całej tej historii.
Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl: Ta sprawa pokazuje coś, o czym od dawna mówię: problem nie tkwi wyłącznie w technologii. Narzędzia do klonowania głosu i edycji obrazu istniały wcześniej, istnieją dziś, będą istnieć jutro. Problem leży w tym, że platformy nie mają mechanizmów weryfikacji zanim treść stanie się wiralowa. Do czasu, aż sąd zdecyduje, kariery są skończone, życie zniszczone, a algorytm już dawno przeszedł dalej. Z drugiej strony warto zadać pytanie: czy gdyby HoverLab opublikował autentyczne nagranie ujawniające prawdziwe nadużycie, mechanizmy weryfikacyjne nie blokowałyby czegoś ważnego? Nie ma tu łatwych odpowiedzi. Ale w sprawie Kim Soo-hyuna mamy coś rzadkiego – wyrok sądu, który jasno wskazuje na fałszerstwo. To powinno być punktem wyjścia do poważnej dyskusji o odpowiedzialności platform za weryfikację treści opartych na materiałach audio i wideo.
Skala zniszczeń
Policja w wniosku o nakaz aresztowania opisała skutki działań YouTubera w brutalny sposób. Zarzuty postawione przez HoverLab „zniszczyły społeczną bazę Kim Soo-hyuna i jego aktywność ekonomiczną na wszystkich frontach, a także zniszczyły podstawy jego zawodowego przeżycia” – tak brzmi fragment cytowany przez JoongAng Ilbo.
Aktor jest dziś w leczeniu psychiatrycznym. Od łzawej konferencji prasowej w marcu 2025 roku nie pojawił się oficjalnie publicznie. Na tej konferencji przyznał, że spotykał się z Kim Sae-ron przez rok – ale wyłącznie gdy była dorosła.
Powiedział wtedy:
„I can’t admit to something I didn’t do” / „Nie mogę przyznać się do czegoś, czego nie zrobiłem.”
Reakcja agencji i co dalej
Agencja Kim Soo-hyuna wydała w środę oświadczenie, w którym stwierdziła, że „prawda została udowodniona”. „Dochodzenie potwierdziło, że wszystkie podejrzenia i dowody przedstawione przez HoverLab przeciwko Kim Soo-hyunowi były bezpodstawne” – czytamy w komunikacie.
Sam YouTuber przed ogłoszeniem decyzji sądu zaprzeczył zarzutom przed dziennikarzami, twierdząc, że wniosek o areszt „nie porządkuje nawet podstawowych faktów”. Zapowiedział też skargi na policję i prokuratorów.
Co warto wiedzieć o całej chronologii:
- Luty 2025: Kim Sae-ron umiera w wieku 24 lat
- Maj 2025: HoverLab organizuje konferencję prasową z nagraniem wygenerowanym przez AI
- Marzec 2025: Kim Soo-hyun na własnej konferencji prasowej zaprzecza zarzutom
- Kwiecień 2025: aktor składa pozwy cywilne przeciwko HoverLabowi i rodzinie aktorki
- Maj 2026: sąd wydaje nakaz aresztowania Kim Se-ui
Precedens dla regulacji AI
To jeden z pierwszych potwierdzonych kryminalnych przypadków, w którym wygenerowane przez AI nagrania audio i materiały syntetyczne zostały celowo użyte jako narzędzia zniszczenia reputacji konkretnej osoby, dając sądom i regulatorom konkretny stan faktyczny, wokół którego można tworzyć prawo.
Sprawa trafia w moment, gdy Unia Europejska wdraża AI Act, a debata o deepfake’ach i klonowaniu głosu wychodzi poza kręgi akademickie. Korea Południowa pokazuje, że prawo karne może nadążyć za technologią. Pytanie, czy zdąży nadążyć za algorytmami dystrybucji treści.
