Компания Flock, разработчик систем видеонаблюдения и распознавания автомобильных номеров, объявила об обновлениях после серии скандалов со слежкой полицейских за бывшими партнёрами. Гендиректор Гарретт Лэнгли признал ошибки компании в интервью The Verge и заявил, что изменил взгляд на ответственность Flock за действия правоохранителей.
В ближайшие недели Flock сделает обязательной функцию Audit Assistance, которая ранее была опциональной. Она отслеживает «аномальное поисковое поведение» и блокирует подозрительных пользователей до проверки администратором.
Всем пользователям теперь придётся вводить коды дел для запуска поиска — это ограничит возможность делать запросы в личных или преступных целях. Администратор сможет обойти это правило в экстренных ситуациях, например при поиске пропавшего ребёнка, но такие случаи будут автоматически помечаться для проверки.
Ранее Flock перекладывала контроль над своими технологиями на законодателей, утверждая, что именно они должны разрабатывать подобные ограничения. Но регулирование почти не появилось, а Лэнгли увидел, насколько медленно движется этот процесс.
«Это настолько очевидный способ снизить злоупотребления, — говорит он об инструменте с обязательными кодами дел. — Я сказал себе: хорошо, я был неправ. Мы должны сделать это обязательным требованием».
Компания также сократила стандартный срок хранения данных с камер автоматического распознавания номеров (ALPR) с 30 до семи дней — ближе к пределам, которые предлагает ACLU. Полицейские управления по-прежнему смогут продлевать срок хранения или использовать новый режим Evidence Mode, сохраняющий записи по конкретному номеру дела.
Раньше местные власти могли делиться данными с другими агентствами только полностью или вообще никак. Теперь появилась возможность настраивать точечный доступ — например, разрешить поиск подозреваемого в убийстве, но запретить использование данных для иммиграционного контроля.
Изменения последовали за серией отчётов о злоупотреблениях. Начальник полиции в Брэйзелтоне, штат Джорджия, проверял номер машины бывшей девушки более 500 раз за семь месяцев, сообщала The Washington Post. В Калифорнии бывший сотрудник шерифа округа Риверсайд, по данным прокуратуры, использовал данные Flock для слежки за бывшей девушкой и мужчинами, с которыми она встречалась.
Сообщения о злоупотреблениях системами ALPR фиксируются с 2021 года, отмечает некоммерческая организация Institute for Justice. Но с момента запуска Audit Assistance в апреле функцию включила лишь треть агентств-партнёров Flock. По словам компании, у тех, кто её активировал, выявление злоупотреблений заметно выросло.
Лэнгли прогнозирует рост числа увольнений и арестов офицеров за злоупотребление служебным положением. Audit Assistance должна упростить выявление подозрительного поведения вместо ручного просмотра тысяч строк логов.
Ранее Лэнгли занимал жёсткую позицию по отношению к критикам, настаивая, что решения об ограничениях должны принимать местные власти. В прошлогоднем интервью Forbes он назвал проект DeFlock, отслеживающий технологии компании по стране, «террористической» группой, но в июле извинился и назвал эту формулировку ошибкой.
Организации ACLU и Electronic Frontier Foundation обвиняли Flock в введении общественности и чиновников в заблуждение относительно рисков технологии, включая возможность слежки за женщинами, обращающимися за абортом. Компания объяснила часть подобных случаев путаницей вокруг сложного вопроса и заявила, что в штатах с ограничениями офицерам запрещено проводить поиски, связанные с репродуктивной медициной.
Лэнгли говорит, что его позиция изменилась благодаря постоянному общению с местными сообществами, включая встречи на заседаниях городских советов. Он понимает, что не все критики сразу поверят в искренность компании, и просит лишь дать шанс.
Он по-прежнему считает, что ключевые решения о применении полицейских технологий должны принимать законодатели — отчасти потому что это заставит конкурентов внедрить аналогичные ограничения. Но признаёт: пока регулирование не появится, часть ответственности лежит на самой компании.
«Мне потребовалось больше времени, чем следовало, чтобы осознать масштаб влияния компании, — говорит он. — Я до сих пор удивляюсь: за июль мы помогли найти почти тысячу пропавших людей и более 22 000 украденных машин. Это огромное влияние на мир, и вместе с ним приходит обязанность создавать общество, в котором мы все хотим растить своих детей».