Новая «Нормальность» с искусственным «интеллектом»?
Microsoft представляет функцию «Always Watch» или «Recall» («Всегда наблюдает» или «Вспомнить») для каждого ПК
Добро пожаловать в будущее, где ваш компьютер знает о вашей жизни больше, чем вы думаете. Последнее изобретение Microsoft, функция Windows 11 Recall на базе искусственного интеллекта, анонсированная на мероприятии AI в понедельник, представляет собой технологическое чудо, которое... запоминает все, что вы сделали. на вашем компьютере за последние три месяца. Звучит практично, не так ли? Только если вы сможете привыкнуть к мысли, что компьютер играет роль Большого Брата.
Эта удивительная, или пугающая, функция в настоящее время доступна только для компьютеров Copilot+ с процессорами Snapdragon X ARM. Но не волнуйтесь, пользователи Intel и AMD: Microsoft заверила нас, что они усердно работают над тем, чтобы включить и вас в эту антиутопическую мечту. Recall каждые несколько секунд делает снимок экрана активного окна, превращая экран в своего рода цифровой дневник. Эти снимки анализируются встроенным в устройство нейронным процессором (NPU) и моделью искусственного интеллекта для извлечения данных и сохранения их в семантическом индексе. Это позволяет пользователям просматривать свою историю или искать определенные моменты, используя поиск на человеческом языке. Как удобно…
«Recall — ключевая часть того, что делает ПК Copilot+ особенными, и Microsoft с самого начала встроила конфиденциальность в дизайн Recall. На ПК Copilot+ с процессором Snapdragon® серии X вы увидите значок Recall на панели задач после первой активации устройства. Вы можете использовать этот значок, чтобы открыть настройки Recall и выбрать, какие снимки Recall собирает и сохраняет на вашем устройстве. Вы можете ограничить количество снимков, которые Recall собирает, например, вы можете выбрать определенные приложения или веб-сайты, посещаемые в поддерживаемом браузере, для фильтрации; Кроме того, вы можете приостановить создание снимков с помощью значка «Восстановить» на панели задач, очистить некоторые или все сохраненные снимки или удалить все снимки с вашего устройства».
❖ Майкрософт
Похоже, что эта функция будет включена по умолчанию. Microsoft с радостью объясняет: «По умолчанию для Recall на устройстве емкостью 256 ГБ выделено 25 ГБ, что позволяет хранить снимки примерно за 3 месяца. Вы можете увеличить выделение памяти для вызова в настройках вашего ПК. Старые снимки удаляются, когда выделенное пространство памяти исчерпано, чтобы можно было сохранить новые снимки».
Безопасность? Какая безопасность?!
По словам Microsoft, Recall «не делает снимки определенного контента, включая сеансы просмотра веб-страниц InPrivate в Microsoft Edge. Он аналогично относится к контенту, защищенному с помощью управления цифровыми правами (DRM); Как и другие приложения Windows, такие как Snipping Tool, Recall не хранит контент DRM».
О, это обнадеживает. Поэтому скриншоты ваших сеансов Netflix не делаются. А как насчет остального? Ваши пароли, ваша личная электронная почта, ваши банковские реквизиты — все находится под угрозой. И если вы не используете Microsoft Edge, вам не повезло.
Microsoft обещает, что все эти данные будут зашифрованы с помощью BitLocker и сохранены только на устройстве пользователя. Они даже уверяют, что данные не будут переданы другим пользователям того же устройства, а скриншоты окон InPrivate не будут сохранены в Microsoft Edge. Как ни странно, однако, они не прокомментировали, пользуется ли такая же любезность чем-то вроде режима приватной вкладки Firefox или Brave. Какой смысл использовать технологии сохранения конфиденциальности, если операционная система сама записывает все, что вы делаете?
На пресс-конференции Юсуф Мехди, корпоративный вице-президент и директор по потребительскому маркетингу, подчеркнул консервативный подход компании. «Мы не используем эту информацию для обучения модели ИИ и даем вам полный контроль с возможностью редактировать и удалять все, что записано», — сказал Мехди.
Но давайте сделаем шаг назад и вдохнем резкий запах скептицизма. Крупные технологические компании печально известны тем, что используют пользовательские данные, и Microsoft не совсем является примером сдержанности. Британский орган по защите данных ICO (Управление комиссара по информации) уже вмешался и требует гарантий, что пользовательские данные будут защищены.
Заявление в ответ на функцию Microsoft Recall
«Мы ожидаем, что организации будут прозрачны с пользователями в отношении того, как используются их данные, и будут обрабатывать персональные данные только в той степени, в которой это необходимо для достижения конкретной цели. Промышленность должна с самого начала подумать о защите данных, а также тщательно оценить и снизить риски для прав и свобод людей, прежде чем выводить продукцию на рынок.
«Мы направляем запросы в Microsoft, чтобы понять, какие меры принимаются для защиты конфиденциальности пользователей».
Пугающие эффекты
Даже если мы верим компаниям, что Microsoft не будет трогать наши данные, последствия для безопасности и конфиденциальности огромны. Recall не имеет никакого значения, когда он делает снимки экрана, фиксируя все, от конфиденциальных документов до ваших недавних покупок на Amazon. Вы забыли отключить эту функцию? Ваш партнер или сосед по комнате может наткнуться на ваши личные моменты с помощью быстрого поиска.
Однако это лишь верхушка айсберга.
Не говоря уже об огромной бреши, которую это создает для киберугроз. Как только ваше устройство будет взломано, все ваши тщательно каталогизированные данные окажутся в чьих-то руках. Эксперт по кибербезопасности Кевин Бомонт, частый критик Microsoft, сравнил эту функцию со «кейлоггером, встроенным в Windows» и отметил, что вредоносное ПО может легко украсть базу данных отзыва и использовать ее в гнусных целях. В этом он не ошибается. Представьте себе, если бы злоумышленник или вредоносное ПО получили доступ к этой сокровищнице: учетные данные, конфиденциальные документы, частные сообщения — все будет раскрыто.
Приоритеты Microsoft под вопросом
Microsoft исторически пыталась переложить вину на пользователя в случае взлома устройства. Эта новая функция, похоже, выводит эту философию на новый уровень, создавая дополнительный риск в и без того опасной цифровой среде. Сатья Наделла, генеральный директор Microsoft, подчеркнул важность уделения приоритета безопасности в недавнем электронном письме своим сотрудникам. «Если вам придется выбирать между безопасностью и другим приоритетом, ваш ответ ясен: выберите безопасность», — сказал Наделла.
И все же Microsoft с радостью представляет функцию, которая может стать золотой жилой для хакеров. Если это их представление о безопасности, то страшно представить, как могут выглядеть менее безопасные инновации.
Способность Recall регистрировать каждое действие пользователя, делая снимки экрана каждые несколько секунд и сохраняя их до трех месяцев, свидетельствует о глубоком сдвиге в том, как технологические компании просматривают и обрабатывают наши личные данные. Это не просто функция, а открытое приглашение в режим наблюдения, где каждое нажатие клавиши, каждый щелчок и каждый взгляд записывается и потенциально передается. Это потому, что эта технология не только записывает нашу цифровую деятельность, но и нормализует концепцию, согласно которой каждый момент, который мы проводим на наших устройствах, может быть записан и проанализирован.
Помимо непосредственных угроз безопасности, Recall подрывает доверие к самой технологии. Пользователи ожидают, что их устройства будут поддерживать их, а не отслеживать каждое их движение как потенциальных шпионов. Эта функция бросает вызов этому доверию и мешает потребителям поверить в то, что технологические компании заботятся об их интересах.
Появление сквозного шифрования, VPN и приватного просмотра связано с растущим спросом общественности на собственный контроль над личными данными. Но отзыв Microsoft подрывает этот прогресс и возвращает время в эпоху неконтролируемого сбора данных. Даже несмотря на обещание шифрования и локального хранения, сбор и индексирование этих данных создает риски, которые сложно, если вообще возможно, минимизировать.
Киберпреступники могут использовать эту сокровищницу информации для кражи личных данных, мошенничества или промышленного шпионажа. Правительства могли бы использовать его для наблюдения за своими гражданами.
Самым коварным аспектом отзыва является создаваемый им прецедент. Если Microsoft сможет нормализовать такой обширный сбор данных под видом полезности, что помешает другим технологическим гигантам последовать этому примеру? Мы уже наблюдаем устойчивый рост количества инвазивных функций в технологическом пространстве — представьте себе устройства «умного дома», которые подслушивают разговоры, или платформы социальных сетей, которые отслеживают каждое взаимодействие для показа целевой рекламы. Отзыв усиливает эти опасения во много раз.
Представьте себе будущее, в котором все устройства, от смартфонов до умных холодильников, будут иметь схожие «функции». Последствия пугают. Это не только подрывает неприкосновенность частной жизни, но и создает юридический и культурный прецедент подчинения конфиденциальности удобству. Понятие личного пространства становится пережитком прошлого даже в цифровом мире. И возникает попутный вопрос: эта функция для удобства кого?