Aplikace iCloud slouží k zálohování fotografií z Apple zařízení. Zdroj: Getty Images
Technologický gigant Apple představil podrobnosti o tom, jakým způsobem chce bojovat proti šíření dětské pornografie na svých platformách. Pomoci má nový filtr, který bude vyhodnocovat potenciálně závadné fotografie před uložením snímků na úložišti iCloud, uvedla společnost na tiskovém brífinku a na svých stránkách. Do chatovací aplikace Messages přibydou i varovné hlášky před zobrazením explicitního obsahu.
Nová funkce, která bude vyhledávat a vyhodnocovat materiály související se sexuálním zneužíváním dětí, by měla podle stránek Applu přijít ještě letos. Společnost, která stojí za zařízeními iPhone, iPad či iMac, si od vylepšeného algoritmu slibuje přinejmenším zpomalení šíření dětské pornografie na vlastních propojených platformách. Především se zaměří na své populární cloudové úložiště pro fotografie.
V praxi by měl filtr fungovat následovně: Filtr bude zkoumat nahrané fotografie do iCloudu a porovnávat je s již známými snímky v databázích, které sestavuje americké Národní centrum pro pohřešované a zneužívané děti (NCMEC) či jiné organizace zabývající se bezpečností dětí ve virtuálním prostoru.
Ve chvíli, kdy algoritmus identifikuje shodu, posoudí snímky ještě lidský kontrolor. Ten pak může zablokovat účet a nahlásit dané uživatele orgánům činným v trestním řízení. Protože bude jednotlivé případy posuzovat člověk, má se předejít problémům, které automatizované systémy způsobují, třeba když označí rodinné fotografie s dětmi v plavkách za závadný a pornografický obsah.
Apple tvrdí, že díky upravené technologii, která převádí snímky na soubor číselných kódů, zachytí i upravené fotografie se závadným obsahem. „Míra přesnosti bude extrémně vysoká,“ slibuje společnost na svých stránkách.
Další novou funkcí budou notifikace při posílání nebo přijímání sexuálně explicitního obsahu v aplikaci Messages. Pokud dítě obdrží přes zprávu závadný snímek, dostane upozornění, zda jej opravdu chce zobrazit. Pokud bude zařízení v rodičovském režimu, opatrovníci mohou obdržet upozornění, že si dítě zobrazilo materiál se sexuálně explicitním obsahem. Fungovat to bude i naopak, když se dítě pokusí ze svého zařízení takové fotografie odeslat.
Do chatovací aplikace Messages přibude také varování před potenciálně explicitním obsahem. Zdroj: Apple
Všechny výše uvedené změny se budou týkat aktualizací pro iOS 15, iPadOS 15, watchOS 8 a macOS Monterey.
Mezi odborníky na internetovou bezpečnost ale panují obavy, že by se technologie mohla postupně rozšířit na skenování obsahu napříč aplikacemi a mobilním telefonem. Toho by mohly využít třeba autoritářské vlády ke špehování svých občanů a monitorování politických nálad ve společnosti.
„Bez ohledu na to, jaké jsou dlouhodobé plány společnosti Apple, vyslala velmi jasný signál. Podle jejich (velmi vlivného) názoru je bezpečné vytvářet systémy, které skenují telefony uživatelů kvůli zakázanému obsahu,“ řekl Matthew Green, bezpečnostní výzkumník z Univerzity Johnse Hopkinse pro BBC.
„Téměř nezáleží na tom, zda nyní mají, nebo nemají pravdu. Tohle prolomí hráz – vlády to budou vyžadovat od všech,“ dodal.
