Команда компьютерных инженеров из Чикагского университета разработала инструмент, который изменяет фотографии на уровне пикселей таким образом, что системы распознавания лиц просто не могут определить, кто на них запечатлен.
При этом, невооруженным взглядом изменения не видны.
Что за сервис
Инструмент назвали Fawkes в честь маски Гая Фокса, которая полюбилась протестующим по всему миру. Версию для разработчиков скачали уже более 50 000 раз, а в ближайшее время создатели сервиса также обещают версию для пользователей без навыков программирования.
Fawkes подменяет некоторые черты лица альтернативными. Невооруженным глазом это незаметно, но система распознавания после такой маскировки больше не может связать человека на фото с другими его фотографиями. Например, фотографии актрисы Гвинет Пелтроу обработали с использованием фото Патрика Демпси. Теперь системы будут пытаться идентифицировать Пэлтроу как Демпси.
Тестирование системы показало, что пропущенные через Fawkes фотографии действительно оказался не по зубам системам распознавания лиц Amazon, Microsoft и китайской компании Megvii.
Недостатки инструмента
Журналистка Кашмир Хилл NYT пропустила несколько своих фото через инструмент, после чего загрузила их в Facebook, чтобы проверить, узнает ли ее система распознавания лиц соцсети. Facebook, который ранее безошибочно распознавал лицо Кашмир, на этот раз не смог ее идентифицировать.
Слева оригинальные фото, справа — обработанные
Однако, как отмечает Хилл, изменения на фото кое где все-таки были заметны. Например, у ее 3-летней дочери на лице появилась щетина, а у мужа глаза стали карими. Да и ее собственное лицо стало выглядеть хуже.
Дело в том, что при самом высоком уровне обработки (это можно регулировать) Fawkes выбирает максимально непохожего на вас человека и заменяет его чертами ваши. Таким максимально непохожим человеком, как правило, становится кто-то противоположного пола. Так у женщин появляется щетина, а у мужчин — накрашенные ресницы или румяна на щеках.
Разработчики обещают, что в будущих версиях ПО эти недостатки будут устранены.
Зачем нужен Fawkes
Идея Fawkes в том, чтобы уничтожить системы распознавания лиц вроде Clearview AI и их базы данных. Датасет Clearview AI насчитывает более миллиарда онлайн-фото. Эту базу может использовать полиция, чтобы по одному фото найти профиль человека в Facebook и таким образом идентифицировать его.
Однако для того, чтобы победить Clearview AI и подобные системы, необходимо, чтобы в будущем все люди пропускали все свои фотографии без исключения через Fawkes прежде чем опубликовать их в интернете.
Многие эксперты считают, что из затеи команды ничего не выйдет. Ведь в интернете уже огромное множество фотографий — что делать с ними? Поэтому Fawkes появился слишком поздно.
