Как и ожидалось, Apple анонсировала ряд новых функций в iOS 15, iPad OS 15 и macOS Monterey для защиты детей и подростков. Теперь каждая из систем начнет автоматически размывать откровенные фотографии, предупреждать родителей о получении и отправке сексуальных снимков, а также сканировать iCloud на предмет запрещенного контента и передавать информацию о нем в правоохранительные органы.
С помощью технологий машинного обучения «Сообщения» начнут на каждом устройстве размывать фотографии с сексуальным содержанием. Дети также получат предупреждение, что лучше не смотреть и никому не отправлять обнаженные снимки. Если их все же посмотрят или отправят, родители получат предупреждение. Apple говорит, что анализ проводится локально, а сама компания не получает доступ к данным.
Кроме того, Apple начнет бороться с распространением контента, который содержит сексуальное насилие над детьми. Специальные алгоритмы будут локально сканировать библиотеку iCloud — нейросети сопоставляют изображения из облачных хранилищ с хешами изображений, предоставленных NCMEC и другими организациями по детской безопасности.
В случае обнаружения запрещенных снимков, компания оставляет за собой право передать дело в Национальный центр пропавших без вести и эксплуатируемых детей США.
Последнее нововведение — «Поиск» и Siri начнут подсказывать, какие действия предпринять, чтобы сообщить об эксплуатации ребенка: укажут на нужные сайты и расскажут, где и как подать заявление.
