Фото Hitesh Choudhary | Unsplash
Исследователи из лаборатории машинного обучения OpenAI обнаружили, что даже самые продвинутые системы компьютерного зрения можно без труда обмануть, имея под рукой лишь ручку и блокнот.
Как оказалось, достаточно просто написать на листке бумаги название объекта и приклеить его на другой, чтобы заставить искусственный интеллект неправильно определить то, что он видит. Возможные атаки на систему компьютерного зрения специалисты назвали «типографскими».
Тем не менее, паниковать рано — уязвимость затрагивает экспериментальную систему под названием CLIP, которая сейчас не используется в коммерческих целях. С помощью нее изучают то, как искусственный интеллект самостоятельно учится идентифицировать объекты на сопоставлении огромных баз данных текстовых и графических пар.
Если любой человек может отличить яблоко от листка, на котором написано «яблоко», CLIP пока с этим не справляется. Еще один пример: нейросеть может принять любое изображение за копилку, если на него нанести знаки «$$$».
Также в OpenAI обнаружили, что CLIP сам обучился предвзятым стереотипам, например, он начал ассоциировать Ближний Восток с терроризмом, а нейроны, отвечающие за распознавание темнокожих людей, задействуются и для изображений с гориллами.
Эти ошибки — наглядный пример того, как искусственный интеллект отличается от человеческого. Исследователи считают, что пройдет еще немало времени, прежде чем мы сможем полагаться на ИИ.
