Apple zasáhne do soukromých fotek na iCloudu. Bude hledat a trestat dětskou pornografii

Technologický gigant Apple představil podrobnosti o tom, jakým způsobem chce bojovat proti šíření dětské pornografie na svých platformách. Pomoci má nový filtr, který bude vyhodnocovat potenciálně závadné fotografie před uložením snímků na úložišti iCloud, uvedla společnost na tiskovém brífinku a na svých stránkách. Do chatovací aplikace Messages přibydou i varovné hlášky před zobrazením explicitního obsahu.

Nová funkce, která bude vyhledávat a vyhodnocovat materiály související se sexuálním zneužíváním dětí, by měla podle stránek Applu přijít ještě letos. Společnost, která stojí za zařízeními iPhone, iPad či iMac, si od vylepšeného algoritmu slibuje přinejmenším zpomalení šíření dětské pornografie na vlastních propojených platformách. Především se zaměří na své populární cloudové úložiště pro fotografie.

Vlády špehují novináře pomocí programu izraelské firmy. Dva z nich byli zavražděni

Vlády různých zemí využily technologii kontroverzní izraelské společnosti NSO Group ke špehování novinářů, lidskoprávních aktivistů či právníků. Vyplývá to ze zveřejněných závěrů investigativní práce 17 světových médií, na které se podílel i český server investigace.cz. Vlády podle těchto závěrů zneužily špionážní program od NSO nazvaný Pegasus. Izraelská firma dlouhodobě trvá na tom, že její technologie jsou určené pouze pro použití proti zločincům či teroristům.

V praxi by měl filtr fungovat následovně: Filtr bude zkoumat nahrané fotografie do iCloudu a porovnávat je s již známými snímky v databázích, které sestavuje americké Národní centrum pro pohřešované a zneužívané děti (NCMEC) či jiné organizace zabývající se bezpečností dětí ve virtuálním prostoru.

Ve chvíli, kdy algoritmus identifikuje shodu, posoudí snímky ještě lidský kontrolor. Ten pak může zablokovat účet a nahlásit dané uživatele orgánům činným v trestním řízení. Protože bude jednotlivé případy posuzovat člověk, má se předejít problémům, které automatizované systémy způsobují, třeba když označí rodinné fotografie s dětmi v plavkách za závadný a pornografický obsah.

Apple tvrdí, že díky upravené technologii, která převádí snímky na soubor číselných kódů, zachytí i upravené fotografie se závadným obsahem. „Míra přesnosti bude extrémně vysoká,“ slibuje společnost na svých stránkách.

Další novou funkcí budou notifikace při posílání nebo přijímání sexuálně explicitního obsahu v aplikaci Messages. Pokud dítě obdrží přes zprávu závadný snímek, dostane upozornění, zda jej opravdu chce zobrazit. Pokud bude zařízení v rodičovském režimu, opatrovníci mohou obdržet upozornění, že si dítě zobrazilo materiál se sexuálně explicitním obsahem. Fungovat to bude i naopak, když se dítě pokusí ze svého zařízení takové fotografie odeslat.

Všechny výše uvedené změny se budou týkat aktualizací pro iOS 15, iPadOS 15, watchOS 8 a macOS Monterey.

Mezi odborníky na internetovou bezpečnost ale panují obavy, že by se technologie mohla postupně rozšířit na skenování obsahu napříč aplikacemi a mobilním telefonem. Toho by mohly využít třeba autoritářské vlády ke špehování svých občanů a monitorování politických nálad ve společnosti.

„Bez ohledu na to, jaké jsou dlouhodobé plány společnosti Apple, vyslala velmi jasný signál. Podle jejich (velmi vlivného) názoru je bezpečné vytvářet systémy, které skenují telefony uživatelů kvůli zakázanému obsahu,“ řekl Matthew Green, bezpečnostní výzkumník z Univerzity Johnse Hopkinse pro BBC.

„Téměř nezáleží na tom, zda nyní mají, nebo nemají pravdu. Tohle prolomí hráz – vlády to budou vyžadovat od všech,“ dodal.

Tagy: