Видеонаблюдение смогли обмануть при помощи картинки — Инфореактор

Бельгийские специалисты смогли при помощи изображения на картоне обмануть нейросетевые алгоритмы, которые применяются в системах видеонаблюдения.

По словам самих учёных, для того, чтобы обмануть нейросеть, достаточно просто знать то, как работает система при определении лиц и предметов, а также то, в каком порядке она их узнаёт. Свою статью специалисты думают представить на конференции CV-COPS 2019 года.

Сама по себе уязвимость была обнаружена создателями ещё в 2013 году. Однако с тех пор её удалось изучить более подробно и понять, как можно использовать эти знания в разных сферах: при создании беспилотных автомобилей, видеонаблюдения и т.д.

Сначала специалисты старались просто поменять местами пиксельный ряд для того, чтобы запутать искусственный интеллект. Позднее был создан целый метод состязательных атак, которые основаны на специально сгенерированной картинке. Она переключала «внимание» искусственного интеллекта на себя и заставляла его «потерять» человека. Благодаря этому открытию удалось исправить целый ряд недочётов, которые нёс в себе первоначальный способ выявления предметов на видео.

Ранее iReactor сообщал, что в петербургском метрополитене появились камеры с искусственным интеллектом. Такие камеры смогут помочь работникам метро лучше обеспечивать безопасность пассажиров.

Читайте iReactor в Яндексе

Автор: Наталья Панова

pixabay.com

Источник: inforeactor.ru

Оставить комментарий