Алгоритм Apple для проверки детского порно можно заставить сработать на ложных изображениях
Эти изображения имеют одинаковый хэш
Несмотря на то, что алгоритм NeuralHash способен правильно идентифицировать изображения после некоторых манипуляций, программистам удалось подобрать различные изображения, которые системой определяются как одинаковые. А так же модифицировать одно изображение, чтобы его хэш совпадал с хэшем другого.
Фотография девочки отретуширована, чтобы ее хэш совпадал с фотографией собаки
Автор при этом отмечает, что алгоритм работает достаточно хорошо, и количество естественных коллизий крайне мало, однако потенциально показана возможность обхода этого алгоритма. Кроме того самым слабым звеном во всем алгоритме является сама база данных хэшей без прямого доступа к изображениям (что понятно), что чисто технически позволяет ее пополнять, внося хэши изображений, не имеющих отношения к детскому порно.
Источник:
Наделаешь своих дикпиков с разных ракурсов, чтобы мадмуазель отправить, а к тебе полиция ворвётся, что детские фотографии хранишь у себя в телефоне :(
А все потому что детского размера
Я правильно понял, что Apple, при всей их хвалёной защите персональных данных, роется у своих пользователей в телефонах и сливает данные кому надо? Не защищаю тех кто реально хранит цп на телефоне, но сегодня цп, а завтра эта система так-же будет отслеживать мемы с Путиным или Сицзиньпином и сливать в соответствующие ведомства.
Да вроде у них нет хвалёной Системы защиты личных данных, наоборот они известны тем, что лезут пользователям чуть ли не в жопу без смазки и сливают все по первому чиху властей, как в том же Китае и, видимо, США. Думаю и в России ситуация вряд ли иная
Конееечно не будет. Всё ведь затевается во имя защиты детей, и только!
Apple, при всей их хвалёной защите персональных данныхКажется кто-то пересмотрел эппловской рекламы в твиттере
Так и будет. Времена свободы проходят. Если сейчас в США кэнсэлят, то через лет через 7 уже задумаются об отмене 1й Поправки