W sieci krążą nagrania wygenerowanych przez AI lekarzy, zniechęcych do badań lekarskich i promują m.in. zioła zamiast leków, sugerując, że mogą one leczyć nowotwory. Katarzyna Lipka z NASK powiedziała PAP, że regulacje, w tym AI Act, mogą ograniczać takie treści, ale nie wyeliminują medycznej dezinformacji.
Hiszpański portal factcheckingowy Maldita.es ujawnił pod koniec lipca ponad tysiąc kont na YouTube przedstawiających wygenerowanych przez sztuczną inteligencję lekarzy, którzy rozpowszechniają dezinformację w ponad 30 językach. 20 z tych kanałów publikowało materiały po polsku. Maldita.es udostępniła Polskiej Agencji Prasowej przykłady takich kont.
W nagraniach fikcyjni lekarze rozpowszechniają twierdzenia, które nie znajdują potwierdzenia w wiedzy medycznej. Przekonują m.in., że osoby z ciśnieniem 180/110 mm Hg nie powinny zgłaszać się do lekarza, że jajka mogą leczyć nowotwory i cukrzycę, a krem z filtrem powoduje raka. Takie informacje są sprzeczne z zaleceniami medycznymi.
Każde ze zidentyfikowanych kont wykorzystuje wygenerowanego przez AI awatara mającego przypominać lekarza. W nazwach kanałów często pojawiają się określenia „dr” lub „lekarz”, a także popularne polskie nazwiska, takie jak „Kowalski” czy „Nowak”. Sześć z analizowanych kont powstało w ciągu ostatnich trzech miesięcy.
Katarzyna Lipka z Zespołu Analizy Trendów Narracyjnych i Fact-checkingu powiedziała PAP, że tego typu filmy stanowią poważne zagrożenie dla zdrowia publicznego.
Szczególnie zagrożeni są pacjenci zmagający się z chorobą, która nieleczona może prowadzić do śmierci. W przypadku wielu chorób, a w szczególności w przypadku nowotworów, skuteczność terapii zależy często od szybkiego wdrożenia leczenia
– zauważyła ekspertka.
Jej zdaniem konta namawiające odbiorców do rezygnacji z profesjonalnej opieki medycznej mogą opóźniać podjęcie decyzji o wdrożeniu leczenia, co może narazić pacjentów na dodatkowe powikłania, a nawet pozbawić szansy na skuteczne wyleczenie.
Z analizy wynika, że nagrania fikcyjnych lekarzy są najczęściej skierowane do starszych odbiorców. W filmach pojawiają się określenia „po 60. roku życia pij to codziennie”, „5 błędów na spacerze, które niszczą twoje zdrowie po 50-tce” czy „dlaczego lekarze przemilczają te 5 badań po 65?”.
Dalsza część tekstu pod polecanym artykułem
Czytaj także:
Prezydent podpisał ustawę regulującą rynek sztucznej inteligencji w Polsce
Prezydent Karol Nawrocki podpisał ustawę regulującą rynek sztucznej inteligencji w Polsce - poinformowała w piątek (24 lipca) kancelaria prezydenta. Ustawa zakłada powstanie organu nadzoru rynku, czyli Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Chodzi...
Czytaj więcejDetailsZdaniem Lipki wybór tej grupy docelowej wynika z dwóch czynników. Po pierwsze, osoby starsze częściej zmagają się z chorobami przewlekłymi. Po drugie, twórcy dezinformacji mogą zakładać, że będą one miały większą trudność z odróżnieniem prawdziwych nagrań od materiałów wygenerowanych przez AI.
Obserwowaliśmy również konto podszywające się pod Głównego Inspektora Sanitarnego, namawiające odbiorców do dzielenia się swoją historią medyczną w komentarzach. Takie działania mogą mieć na celu diagnozowanie tematów zdrowotnych mających najwyższy potencjał zainteresowania większej grupy odbiorców
– podkreśliła.
PAP przeanalizowała podobne nagrania także na Facebooku. „Liść, który leczy raka, a o którym lekarze nie mówią” – opisuje w jednym z nagrań wygenerowany przez AI mężczyzna w białym kitlu. Inny wpis zachęca do stosowania naparu z liścia laurowego i goździków zamiast leków na cukrzycę. Jedno z takich nagrań na Facebooku zgromadziło 90 tys. wyświetleń.
Ekspertka zaznaczyła, że takie stwierdzenia mają na celu przekonanie odbiorców, że prawdziwi lekarze nie kierują się dobrem pacjentów. Zwróciła uwagę, że wpisują się one w szerszy kontekst podważania zaufania do medycyny i promują myślenie spiskowe.
Takie działanie może wpływać nie tylko na odwracanie się pacjentów od korzystania z profesjonalnej opieki medycznej, ale też osłabiać ich zaufanie do nauki i instytucji
– przyznała.
Komentarz Mety oraz Google Polska
PAP zwróciła się do Mety oraz Google Polska z prośbą o ich stanowiska w sprawie publikowanych na Facebooku oraz YouTube treści z wygenerowanymi przez AI lekarzami.
Nie zezwalamy na prowadzenie na naszych platformach kont, które stosują oszukańcze praktyki w celu wprowadzania ludzi w błąd lub publikowania wprowadzających w błąd informacji dotyczących zdrowia. Sprawdzamy zgłoszone konta i podejmiemy działania wobec wszystkich, które okażą się niezgodne z naszymi zasadami
– poinformował PAP rzecznik Meta.
Z kolei Biuro Prasowe Google Polska w przesłanym PAP oświadczeniu zaznaczyło, że zasady YouTube dotyczące nieprawdziwych informacji medycznych zabraniają publikowania treści, które stwarzają poważne ryzyko szkód przez zaprzeczanie wytycznym lokalnych organów ochrony zdrowia.
Te zasady dotyczą wszystkich materiałów na platformie, w tym wygenerowanych przez AI. Treści naruszające regulamin skutkują szybką reakcją wobec filmów lub kanałów
– czytamy.
Lipka zauważyła również, że 14 spośród przeanalizowanych przez PAP kont znajduje się w bazie 140 innych kont zidentyfikowanych przez Ośrodek Analizy Dezinformacji NASK.
Wśród zgłoszonych kont zaobserwowaliśmy nie tylko lekarzy wygenerowanych przez AI, ale również weterynarzy udzielających porad w kwestii zdrowia zwierząt towarzyszących. Dodatkowo zidentyfikowano też konta na platformie TikTok przedstawiające wygenerowane przez AI babcie zielarki, które zostały zgłoszone w tym samym dniu administracji platformy. Część z tych kont promowała płatne e-booki z poradami zdrowotnymi
– przyznała.
Dodała, że TikTok usunął te konta po przesłaniu przez NASK zgłoszenia, jednak w przypadku kont z YouTube‘a Instytut nie otrzymał odpowiedzi.
Dalsza część tekstu pod polecanym artykułem
Czytaj także:
Od sierpnia pacjenci umówią wizyty do 9 specjalistów przez aplikację mojeIKP
Od 1 sierpnia przez Internetowe Konto Pacjenta i aplikację mojeIKP możliwe jest umawianie wizyt do 9 specjalistów - przypomniał resort zdrowia. Od sierpnia centralna e-rejestracja obejmuje pierwsze wizyty u...
Czytaj więcejDetailsJak rozpoznać „doktora AI”
Lipka zapytana o to, jak rozpoznawać nagrania z udziałem lekarzy AI, powiedziała, że należy zwracać uwagę na oczy oraz usta rzekomych specjalistów. Zbyt rzadkie lub nienaturalne mruganie czy brak synchronizacji między wypowiadanymi słowami a ruchem warg mogą wskazywać na to, że nagranie zostało stworzone przez AI. Ekspertka doradziła również, aby zwracać uwagę na przedmioty znajdujące się w tle nagrania, a także na głos osoby na nagraniu. Zbyt monotonny, pozbawiony emocji lub z dziwną intonacją głos może świadczyć o tym, że mamy do czynienia z deepfake’em.
Naszą uwagę powinny również zwrócić nienaturalne pauzy lub pomyłki w liczebnikach, skrótach czy nazwach własnych. Na manipulację może wskazywać sam kontekst materiału – jeśli treść nagrania wydaje się szokująca, nieprawdopodobna lub skrajnie kontrowersyjna, powinna zapalić nam się czerwona lampka
– podsumowała.
Ekspertka wytłumaczyła również w jaki sposób przepisy Aktu w sprawie sztucznej inteligencji (AI Act) mogą ograniczać rozpowszechnianie takich nagrań. Zaznaczyła, że działania podjęte przez Unię Europejską nie eliminują całkowicie ryzyka związanego z działalnością kont generujących porady zdrowotne z wykorzystaniem AI.
Ich powszechna obecność i algorytmiczne systemy rekomendacji grożą wielokrotnym narażeniem odbiorcy na te same narracje dezinformacyjne, co może zwiększać zaufanie do danego przekazu
– mówiła.
Z kolei, dr Maria Dymitruk, partnerka, radczyni prawna i specjalistka praktyki prawa sztucznej inteligencji w kancelarii Lubasz i Wspólnicy powiedziała PAP we wcześniejszej rozmowie, że obowiązek oznaczania deep fake’ów co do zasady dotyczy przedsiębiorców i sektora publicznego, a nie dotyczy osób prywatnych.
Oznacza to, że firma, która stworzy realistyczną reklamę z użyciem AI przedstawiającą np. mężczyznę robiącego pranie, musi to w wyraźny sposób oznaczyć. Wydaje mi się, że wskutek tych przepisów zostaniemy zalani oznaczeniami AI ze strony biznesu, np. w reklamach. A to, co jest naszą bolączką od dłuższego czasu, czyli zapełnianie internetu plagą deep fake’ów, również tych wykorzystywanych do dezinformacji, może niestety pozostać bez zmian
– oceniła ekspertka.
Polecamy
NFZ ostrzega przed upałami: ponad 10 proc. z nas w ogóle nie pije wody
Większość Polaków nie przyjmuje zalecanej dawki wody 2-2,5 litrów na dobę. Ponad 10 proc. z nas nie pije wody w...
Czytaj więcejDetails
