Mieszkaniec Norwegii Arve Hjalmar Holmen złożył skargę na OpenAI po tym, jak należący do firmy ChatGPT podał fałszywe informacje na jego temat. Chatbot miał bowiem poinformować mężczyznę, że zabił on dwóch swoich synów i został skazany na 21 lat więzienia – pisze bbc.com.
Arve Hjalmar Holmen skontaktował się z Norweskim Urzędem Ochrony Danych Osobowych i zażądał, aby twórca chatbota – firma OpenAI – został ukarany grzywną za rozpowszechnianie nieprawdziwych informacji. Jest to kolejny przypadek tzw. „halucynacji”, czyli sytuacji, w których systemy sztucznej inteligencji uzupełniają pewne wiadomości o fałszywe informacje i przedstawiają je jako fakty – dowiadujemy się.
Holmen twierdzi, że podane przez ChatGPT błędne wiadomości mogą działać na jego szkodę. „Niektórzy mogą pomyśleć, że nie ma dymu bez ognia – fakt, że ktoś mógłby przeczytać tę odpowiedź i uwierzyć, że to prawda, przeraża mnie najbardziej” – przekazał mężczyzna, cytowany przez źródło.
Jak czytamy, Norweg wykorzystał chatbota, aby dowiedzieć się, jak dużo wie na jego temat. W tym celu mężczyzna zadał sztucznej inteligencji pytanie: „Kim jest Arve Hjalmar Holmen?”. W odpowiedzi otrzymał wiadomość: „Arve Hjalmar Holmen to mieszkaniec Norwegii, który zyskał uwagę z powodu tragicznego zdarzenia. Był ojcem dwóch młodych chłopców w wieku 7 i 10 lat, którzy zostali znalezieni martwi w stawie w pobliżu ich domu w Trondheim w Norwegii w grudniu 2020 roku”. Holmen zaznacza, że chatbot z grubsza poprawnie określił wiek dzieci, co może sugerować, że sztuczna inteligencja dysponowała także prawdziwymi informacjami na jego temat.
Noyb, grupa zajmująca się prawami cyfrowymi, która złożyła skargę w imieniu Holmena, uważa, że udzielona przez ChatGPT odpowiedź jest zniesławiająca i narusza europejskie przepisy o ochronie danych w zakresie dokładności danych osobowych. W dokumencie stwierdzono, że mężczyzna „nigdy nie był oskarżony ani skazany za żadne przestępstwo i jest przykładnym obywatelem”. Mimo że chatbot posiada ostrzeżenie o treści: „ChatGPT może popełniać błędy. Sprawdź ważne informacje”, Noyb twierdzi, że nie jest ono wystarczające – czytamy.
OpenAI powiadomiło w oświadczeniu, że „kontynuuje badania nad nowymi sposobami poprawy dokładności modeli i ograniczenia halucynacji”. „Chociaż nadal analizujemy tę skargę, dotyczy ona wersji ChatGPT, która od tego czasu została wzbogacona o funkcje wyszukiwania online, które zwiększają jej dokładność” – dodała firma, cytowana przez źródło. Jak donosi bbc.com, ChatGPT zmienił swój model od czasu wyszukiwania pana Holmena w sierpniu 2024 roku. Zgodnie z twierdzeniami firmy, obecnie chatboty korzystają z aktualnych artykułów prasowych.
Noyb poinformowało BBC, że Holmen tego samego dnia wyszukiwał wiadomości na wiele tematów. Podawał chatbotowi także dane swojego brata i w odpowiedzi otrzymał „wiele różnych historii, a każda z nich była nieprawdziwa”. OpenAI przyznało, że wyszukiwania te mogły wpłynąć na odpowiedź chatbota na temat dzieci Holemana. Firma przekazała również, że duże modele językowe są „czarnymi skrzynkami”, a przedsiębiorstwo „nie odpowiada na żadne zapytania o dostęp, co uniemożliwia dowiedzenie się, jakie dokładnie dane znajdują się w systemie” – czytamy. (ao)
Źródło: bbc.com, Man files complaint after ChatGPT said he killed his children, Imran Rahman-Jones, 21.03.2025
