iPhone начнет сам проверять сделанные фото на предмет подозрительности и докладывать в полицию без ведома владельца
Компания Apple выпустила релиз, в котором заявила, что планирует начать анализировать все фотографии в локальной галерее iPhone на предмет подозрительных снимков. Речь не идет о загружаемых в iCloud снимках: новая технология позволяет алгоритмам локально проверять фотографии. Обнаружив «неправильный» снимок, смартфон сам отправит жалобу в полицию.
Функция сканирования локальных библиотек пользователей iPhone будет осуществляться новым алгоритмом под названием neuralMatch. Специалист по криптографии Мэтью Грин утверждает, что библиотека уже умеет определять «подозрительные» снимки в галерее смартфона. Система работает без оператора, самостоятельно принимая решение об обращении, когда соответствие будет выше определенного порогового значения.
neuralMatch представляет собой продвинутую нейросеть, которую обучали на 200 тысячах изображений. Функция будет последовательно сравнивать фотографии в галерее пользователей с базой данных подобных снимков. Компания говорит, что сравнение идет по хэшу фотографии, а не по самому изображению: таким образом, прямого распозвования всех новых и созраненных фотографий вроде как не будет.
Метка же на фотографию ставится, если у пользователя включена синхронизация с iCloud - она хранится не в локальной памяти смартфона, а в облаке. То есть, сам снимок в любом случае сканируется локально, однако отметки накапливаются уже только в облаке и прикрепляются к копиям фотографий. Достаточно будет один раз подключиться к iCloud, чтобы все ваши фото, вне зависимости от вашего желания, были отмечены нейросетью. Кроме того, система будет анализировать и все фотографии iMessage.
По словам профессора университета Джонса Хопкинса и криптографа Мэтью Грина, алгоритм хэширования новой нейросети еще далек от идеала. Он вполне может выдавать ложный результат.
Как утверждают источники авторитетного издания Financial Times, в первую очередь новая функция будет внедрена в США. Затем, вполне возможно, нейросеть начнет проверять фотографии и по всему миру.
Что касается пользователей, то пока алгоритма деактивации новой функции iOS 15 не придумано. Существует предположение, что распознавание не будет работоспособно в случае отключения iCloud и iMessage.