Swisscom TV przeprasza po skandalicznej podpowiedzi wyszukiwania

Użytkownicy platformy Swisscom TV natrafili na niepokojący błąd: wpisując w polu wyszukiwania cztery litery „Kind”, system jako pierwszą podpowiedź proponował słowo „Kinderpornografie”. Choć kliknięcie w sugestię nie prowadziło do materiałów erotycznych, a przede wszystkim do niemieckich dokumentalnych seriali czy produkcji telewizyjnych, wielu widzów uznało sytuację za niedopuszczalną.

Jeden z czytelników, podpisany inicjałami T.D.*, powiedział, że problem jest szczególnie poważny, ponieważ platformę mogą oglądać także dzieci. „To nie może się zdarzać na serwisie telewizyjnym, który jest dostępny dla rodzin — i to jako pierwsza, najbardziej widoczna sugestia” — skomentował oburzony użytkownik.

Swisscom od razu zareagował na zapytanie dziennikarzy. Rzeczniczka firmy, Annina Merk, przyznała, że sytuacja jest „oczywiście niedobra i niepożądana”. Wyjaśniła, że mechanizm podpowiedzi opiera się na zautomatyzowanym systemie, który wyciąga podmioty (entitety) z bazy Wikidata i indeksuje je, by poprawić trafność podpowiedzi.

Według Swisscomu problem wynika z faktu, że kontrowersyjne hasło zostało automatycznie dodane do indeksu podczas ekstrakcji danych — i nie zadziałały wystarczające filtry. Firma zapowiedziała, że natychmiast zmodyfikuje swoją czarną listę terminów, tak aby „Kinderpornografie” przestało pojawiać się w podpowiedziach.

Swisscom podkreślił też, że ma już w systemie mechanizm blokujący nieodpowiednie wyrażenia, ale w tym wypadku trzeba go rozszerzyć. Modyfikacja listy zabronionych haseł ma zostać wdrożona jeszcze dziś.

Sprawa wywołała dyskusję o tym, jak daleko można polegać na automatycznych źródłach wiedzy przy obsłudze publicznych interfejsów i jak ważne są dodatkowe zabezpieczenia przy usługach dostępnych dla dzieci i rodzin.

*Inicjały użytkownika zostały zmienione.

Czy wyszukiwarki i systemy podpowiedzi proponowały Wam kiedyś niepokojące lub obraźliwe hasła?

Źródło: 20min.ch