ИИ-помощник или цифровой надзиратель? Правительство готовит правила системного доступа ИИ к смартфонам россиян
Источник Минцифры подготовило проект постановления Правительства РФ "О внесении изменений в постановление Правительства Российской Федерации от 18 ноября 2020 г. № 1867", который может существенно изменить устройство продаваемых в России смартфонов и планшетов. Производителей хотят обязать показывать при первом включении устройства окно выбора так называемого «системного помощника» — программы на основе искусственного интеллекта, способной взаимодействовать с операционной системой, приложениями и аппаратными функциями устройства. Речь идет не просто об очередном приложении вроде чат-бота. Выбранному помощнику предполагается обеспечить фоновую работу, голосовую активацию, автоматическое обновление, взаимодействие с уведомлениями, системными программами и функциями телефона. Определение также включает текстовый и визуальный ввод с применением компьютерного зрения. Что именно предлагают установить Проект вносит изменения в постановление Правительства РФ от 18 ноября 2020 года № 1867 о предустановке российского программного обеспечения. Существующий класс программ «голосовой помощник» предлагается заменить более широким классом — «системный помощник». Под ним понимается программа, которая:
функционирует на основе искусственного интеллекта;
взаимодействует с функциями устройства;
взаимодействует с операционной системой;
может обращаться к установленным программам;
принимает голосовые команды;
принимает текстовые команды;
обрабатывает визуальную информацию с использованием компьютерного зрения.
По смыслу проекта такой помощник должен не только отвечать на вопросы, но и выполнять действия на устройстве. Например, запускать приложения, искать информацию, управлять настройками, обрабатывать голосовые и визуальные запросы, передавать команды другим программам. В сводном отчете об оценке регулирующего воздействия прямо говорится, что системный помощник должен получить паритетный доступ к функциям, которыми пользуются собственные ассистенты изготовителей устройств и владельцев операционных систем. То есть речь идет уже не об обычном приложении, а о программе, получающей особое положение внутри цифровой системы смартфона. Как это предполагается реализовать Наиболее вероятна комбинированная схема. В операционную систему или прошивку устройства производитель должен будет заранее встроить: 1. непропускаемое окно выбора помощника; 2. механизм его загрузки; 3. возможность назначить его помощником по умолчанию; 4. системные интерфейсы для взаимодействия с устройством; 5. механизм предоставления и сохранения разрешений. Само приложение помощника может загружаться после выбора пользователя. Проект не указывает, что оно обязательно должно скачиваться через RuStore. Источником может быть магазин приложений, сервер производителя, сервер правообладателя программы или специальный системный установщик. Принципиально важно различать приложение и сам искусственный интеллект. На телефоне может находиться лишь клиент программы, тогда как распознавание речи, обработка изображений и работа большой языковой модели могут происходить на удаленных серверах. Схема может выглядеть следующим образом: микрофон или камера → приложение на смартфоне → сервер ИИ → анализ запроса → команда операционной системе. Проект не требует, чтобы обработка происходила локально на устройстве. Он также не запрещает облачную обработку аудио, изображений и текстов. Какой доступ хотят предоставить помощнику Пункт 6 новых Правил — одна из самых тревожных частей проекта. Он предусматривает предоставление и сохранение: «всех специальных разрешений на запуск и работу всех отдельных и (или) специальных функций системного помощника» в объеме, необходимом для реализации всех его функций. Кроме того, прямо упоминаются:
регистрация и аутентификация пользователя;
автоматическое фоновое обновление;
функционирование системных фоновых служб;
работа с уведомлениями установленных программ;
голосовая активация;
прием и передача команд;
взаимодействие с аппаратными и программными функциями;
взаимодействие с операционной системой;
взаимодействие с системными программами устройства.
Это открытая, а не закрытая формулировка. Проект не содержит исчерпывающего перечня разрешений, которые можно предоставить помощнику. Фактически объем доступа будет зависеть от функций программы, а они могут расширяться после обновлений. Получит ли помощник доступ к микрофону Для голосовой активации доступ к микрофону фактически необходим. Чтобы программа реагировала на условную команду «запусти помощника», устройство должно постоянно либо периодически анализировать окружающий звук. В безопасной архитектуре ключевая фраза распознается локально и только после нее аудиозапись отправляется на сервер. Но проект не требует именно такой архитектуры. В нем отсутствуют:
обязательное локальное распознавание команды активации;
запрет передачи звука до произнесения ключевой фразы;
ограничение продолжительности фонового аудиобуфера;
обязательный индикатор записи;
запрет скрытой фоновой записи;
срок хранения аудиозаписей;
обязанность удалить запись после выполнения команды;
запрет использования записей для обучения ИИ.
Следовательно, проект не предоставляет законного права тайно записывать людей, но и не устанавливает специальных технических гарантий, которые исключали бы такую возможность. Общие положения законодательства о частной жизни и персональных данных сохраняют силу. Однако они в основном устанавливают правовые обязанности и ответственность оператора, а не определяют безопасную архитектуру самого системного помощника. Сможет ли ИИ расшифровывать разговоры Да. Распознавание речи — это и есть преобразование аудио в текст. Для выполнения голосовой команды помощник может:
записать голос;
передать запись на сервер;
преобразовать ее в текст;
определить смысл;
выделить имена, адреса, телефоны и иные сведения;
сохранить запрос в истории;
связать его с учетной записью;
использовать полученную информацию для персонализации.
Но проект не устанавливает границу между осознанно поданной командой и окружающим разговором. Технически возможны:
случайная активация на похожую фразу;
запись нескольких секунд до команды;
захват разговора находящихся рядом людей;
продолжение записи после выполнения запроса;
сохранение полной аудиозаписи вместо краткого текста команды.
Само по себе наличие технической возможности не доказывает намерения вести слежку. Но при системном уровне доступа одного обещания разработчика соблюдать законодательство недостаточно. Нужны прямые запреты, технические ограничения, прозрачный журнал обращений к микрофону и независимый аудит. В проекте этого нет. Получит ли помощник доступ к камере Определение системного помощника включает визуальный ввод и компьютерное зрение. Это может означать обработку:
фотографии, выбранной пользователем;
изображения с камеры;
документов и QR-кодов;
окружающей обстановки;
видеопотока в реальном времени;
содержимого экрана.
Однако проект не устанавливает, каким именно способом должен осуществляться визуальный ввод. Поэтому нельзя утверждать, что помощнику автоматически разрешат постоянно включать камеру. Но получение доступа к камере для реализации части заявленных функций вполне возможно. Не урегулированы важнейшие вопросы:
может ли камера включаться голосовой командой;
разрешен ли доступ к ней в фоновом режиме;
возможна ли работа при заблокированном экране;
обязательно ли показывать индикатор съемки;
где обрабатываются изображения;
можно ли сохранять лица и документы;
допускается ли отправка видеопотока на сервер;
можно ли использовать изображения для обучения моделей.
Проект подробно говорит о доступе помощника к функциям устройства, но ничего не говорит о пределах использования камеры. Возможен ли доступ к файлам и памяти телефона Прямого положения о полном доступе ко всей памяти устройства в проекте нет. Современные мобильные системы обычно изолируют приложения друг от друга. Но системный помощник при наличии необходимых разрешений и API потенциально может работать с:
фотографиями и видеозаписями;
выбранными файлами и документами;
контактами;
календарем;
геолокацией;
списком установленных программ;
содержимым экрана;
уведомлениями;
данными, которые приложения передают ему через специальные интерфейсы.
Отдельного внимания заслуживает работа с уведомлениями. В уведомлениях могут появляться:
фрагменты личной переписки;
банковские операции;
одноразовые коды;
сведения о покупках;
рабочая информация;
медицинские напоминания;
данные о поездках;
имена звонящих.
Формулировка проекта об уведомлениях не позволяет однозначно установить, должен ли помощник видеть их полный текст либо только обеспечивать доставку собственных уведомлений. Такая неопределенность недопустима для акта, устанавливающего обязательные требования. Может ли такой помощник следить за человеком На этот вопрос нельзя честно ответить одним словом. Проект не содержит нормы, прямо разрешающей государственную слежку. В нем нет требования передавать данные Правительству, правоохранительным органам или государственным информационным системам. Поэтому утверждать, что документ непосредственно вводит государственную систему прослушивания, было бы неправильно. Но проект создает техническую инфраструктуру, которую потенциально можно использовать для наблюдения:
постоянная фоновая работа;
ожидание голосовой команды;
доступ к микрофону;
компьютерное зрение;
взаимодействие с уведомлениями;
доступ к аппаратным и программным функциям;
связь с приложениями;
автоматические обновления;
сохранение специальных разрешений.
Помощник сможет знать не только то, что человек у него спросил. В зависимости от предоставленных прав он потенциально может получать сведения о том:
где находится пользователь;
какими программами пользуется;
с кем общается;
что покупает;
какие места посещает;
какие документы фотографирует;
какие уведомления получает;
чем интересуется;
в какое время активен;
какие у него политические, религиозные, медицинские или финансовые интересы.
Из этих сведений можно сформировать подробный цифровой профиль человека. Опасность состоит не только в возможном злонамеренном использовании. Возможны утечки, взломы, ошибки системы, случайные активации, недобросовестные сотрудники, подмена обновления, коммерческое профилирование и изменение политики обработки данных. Где здесь риск «электронного концлагеря» Один ИИ-помощник сам по себе еще не является «электронным концлагерем». Опасность возникает, когда несколько цифровых механизмов постепенно объединяются:
программа получает постоянный системный доступ к устройству;
взаимодействия пользователя сохраняются в централизованном профиле;
данные связываются с номером телефона, учетной записью и подтвержденной личностью;
к профилю подключаются платежи, государственные услуги, медицинские, образовательные и транспортные сервисы;
алгоритмы начинают оценивать поведение человека и принимать решения;
отказаться от цифрового посредника становится сложно или практически невозможно;
государственные или частные структуры получают возможность использовать накопленные данные для контроля, ограничений и давления.
Проект постановления не вводит сразу всю эту систему. Но он может стать еще одним инфраструктурным элементом, потому что превращает ИИ в постоянного системного посредника между человеком и его цифровой жизнью. Главный долгосрочный риск состоит в изменении самой модели взаимодействия с техникой. Сегодня человек сам открывает приложение и решает, какие данные ему передать. Завтра системный ИИ сможет выступать посредником почти при любом действии: поиске, переписке, оплате, навигации, обращении за услугой, работе с документами. Кто контролирует такого посредника, тот потенциально получает возможность:
видеть запросы;
формировать ответы;
направлять выбор;
скрывать или приоритизировать информацию;
составлять профили;
прогнозировать поведение;
влиять на решения человека.
Вопрос здесь не только в слежке, но и в управлении информационной средой гражданина. Что говорит Конституция Статья 23 Конституции РФ гарантирует каждому право на:
неприкосновенность частной жизни;
личную и семейную тайну;
защиту чести и доброго имени;
тайну переписки, телефонных переговоров и иных сообщений.
Ограничение тайны сообщений допускается только на основании судебного решения. Текст статьи доступен в КонсультантПлюс. Статья 24 Конституции запрещает сбор, хранение, использование и распространение информации о частной жизни лица без его согласия. См. текст статьи 24. Вместе эти положения означают, что системный ИИ не может получить неограниченное право собирать сведения о человеке только потому, что тот однажды выбрал программу в окне при первом включении телефона. Согласие должно быть осознанным, конкретным и относящимся к определенным целям. Выбор помощника нельзя автоматически приравнивать к согласию:
на постоянную запись окружающего звука;
на анализ всех уведомлений;
на передачу видеопотока;
на бессрочное хранение запросов;
на обучение модели;
на создание поведенческого профиля;
на объединение данных с другими сервисами.
Почему общего закона о персональных данных недостаточно На обработку сведений системным помощником распространяется Федеральный закон № 152-ФЗ «О персональных данных». Оператор должен определить цели обработки, не собирать избыточные сведения, обеспечить безопасность и прекратить обработку после достижения цели. Если голос или изображение используются для установления личности, они могут рассматриваться как биометрические персональные данные. Статья 11 закона № 152-ФЗ устанавливает специальные правила для такой обработки. Текст нормы доступен в КонсультантПлюс. Но общий закон не отвечает на специфические вопросы системного ИИ:
сколько секунд звука допустимо записывать до команды активации;
должен ли детектор ключевой фразы работать локально;
можно ли передавать аудио в облако;
вправе ли помощник видеть уведомления;
может ли он анализировать чужие голоса;
как поступать с людьми, случайно попавшими в кадр;
разрешено ли объединять запросы с банковским или государственным профилем;
можно ли использовать разговоры для обучения;
как пользователь проверит, что удаление действительно состоялось.
Для системы такого уровня необходимы специальные правила. В представленном проекте их нет. Можно ли отказаться от установки Да. При первом включении должно появиться окно со списком помощников. Пропустить его без выбора нельзя, но пользователь вправе выразить явный отказ от установки. Это важная гарантия. Однако она неполна. Проект не устанавливает требований к оформлению отказа. Не запрещены так называемые темные паттерны:
большая яркая кнопка установки и малозаметная ссылка отказа;
несколько экранов для отказа;
пугающие предупреждения;
предварительно отмеченные согласия;
навязывание регистрации;
неясное описание последствий.
Кроме того, нормативный текст гарантирует обязательное присутствие российского помощника из правительственного перечня, но прямо не обязывает включать в окно иностранные программы. Поэтому заявления о гарантированном выборе между российскими и иностранными решениями шире того, что написано в проекте. Можно ли будет удалить помощника Проект гарантирует возможность его отключения, но не гарантирует полное удаление. Это разные действия. Отключение может означать только снятие статуса помощника по умолчанию. При этом программа, ее компоненты, учетная запись, локальные данные и сведения на серверах могут сохраниться. В проекте нет прямого права:
удалить приложение;
удалить системные службы;
отозвать все привилегированные разрешения;
стереть локальную историю;
удалить серверные записи;
запретить дальнейшее использование данных для обучения;
получить подтверждение уничтожения сведений.
Не урегулировано и то, что произойдет после обновления или сброса устройства. Производитель обязан обеспечить сохранение помощника и его специальных разрешений, но не сказано, должны ли одновременно сохраняться отказ пользователя, отключение и отозванные права. При неблагоприятном толковании программа или ее разрешения могут восстанавливаться после обновления. Проект должен прямо исключить такую возможность. Особая опасность автоматических обновлений Проект предусматривает фоновое обновление помощника без дополнительных действий пользователя и сохранение специальных разрешений. Это создает риск постепенного расширения функций: 1. пользователь выбирает одну версию программы; 2. программа получает системные права; 3. затем автоматически обновляется; 4. появляются новые возможности; 5. прежние разрешения сохраняются; 6. отдельного согласия на новые способы обработки проект не требует. Таким образом, первоначальный выбор пользователя может со временем превратиться в формальное основание для работы программы, существенно отличающейся от той, которую человек выбрал. Необходимо законодательно закрепить: любое расширение доступа к микрофону, камере, уведомлениям, файлам, геолокации или данным приложений требует нового отдельного согласия. Государственный доступ: что сказано и чего не сказано В проекте нет прямой обязанности передавать собранные сведения органам власти. Это необходимо подчеркнуть, чтобы не подменять анализ предположениями. Но если аудиозаписи, расшифровки, изображения и история действий сохраняются на сервере, они становятся массивом информации, который в предусмотренных законом случаях может быть:
истребован в рамках уголовного производства;
получен при проведении оперативно-разыскных мероприятий;
изъят вместе с оборудованием и носителями;
передан по предусмотренному законом запросу;
или скомпрометирован при утечке или атаке. Чем больше данных собирается централизованно, тем выше их ценность и для коммерческих структур, и для преступников, и для государственных органов. Поэтому лучшая защита гражданина — не обещание, что сведения будут использоваться только законно, а принцип: данные, не необходимые для выполнения конкретной команды, вообще не должны собираться и храниться. В проекте такой принцип применительно к системному помощнику не закреплен. Оценка регулирующего воздействия почти не рассматривает права граждан Сводный отчет присваивает проекту низкую степень регулирующего воздействия. Общие затраты бизнеса оценены в 200,5 млн рублей за шесть лет. Но отчет практически не рассматривает:
риски утечки аудиозаписей;
фоновую запись;
ложную голосовую активацию;
скрытое включение камеры;
обработку разговоров третьих лиц;
чтение уведомлений;
ошибочные команды ИИ;
компрометацию системных разрешений;
объединение данных разных сервисов;
профилирование граждан;
последствия для несовершеннолетних;
возможное использование данных для контроля.
В разделе о рисках фактически названо только одно обстоятельство — неспособность изготовителей обеспечить предустановку. Получается парадокс: риском считается то, что производитель не сможет открыть доступ помощнику, но почти не рассматривается риск того, что доступ будет открыт слишком широко. Расходы также выглядят заниженными В отчете указаны следующие расходы за шесть лет:
предустановка и функционирование — 47,1 млн рублей;
окно выбора — 27,4 млн;
разрешения и настройка моделей — 97,5 млн;
поисковый виджет — 28,4 млн;
бесплатность помощника — 0;
запрет платы за предустановку — 0.
Общая сумма — около 200,5 млн рублей. Если исходить из 29,6 млн новых смартфонов ежегодно, то за шесть лет регулирование потенциально затронет около 177,6 млн устройств. Оцененные затраты составляют приблизительно 1,13 рубля на одно устройство. Такая оценка вызывает вопросы. Она едва ли полностью учитывает:
изменение операционных систем;
разработку защищенных API;
тестирование каждой модели;
разные версии прошивок;
аудит информационной безопасности;
обработку инцидентов;
техническую поддержку;
серверные мощности ИИ;
расходы на распознавание речи и изображений;
стоимость хранения данных;
изменение закрытых платформ вроде iOS;
риски отказа отдельных производителей выполнять требования.
Отдельно вызывает недоумение оценка бесплатного обслуживания ИИ в ноль рублей. Каждый голосовой или визуальный запрос требует вычислительных ресурсов, инфраструктуры и трафика. Кому проект предоставляет преимущество Сводный отчет оценивает число российских правообладателей системных помощников всего в 2–3 компании. В перечень предлагается включать наиболее популярную программу с интегрированной ИИ-технологией, исключительное право на которую принадлежит российскому правообладателю. Это означает, что бесплатный доступ к десяткам миллионов устройств может получить узкий круг крупнейших цифровых экосистем. Возникает эффект самоукрепления:
наиболее популярная программа попадает в правительственный перечень;
получает обязательное присутствие в окне выбора;
получает доступ к миллионам новых устройств;
становится еще популярнее;
сохраняет преимущество перед небольшими конкурентами.
В результате борьба с доминированием иностранных платформ может привести к укреплению доминирования одной отечественной платформы. Особенно важно, что проект требует, чтобы интегрированная технология ИИ принадлежала самому правообладателю. Это может ограничить участие небольших разработчиков, использующих открытые или лицензированные модели. Проблема правовой определенности Сводный отчет утверждает, что требования сформулированы ясно и противоречий нет. Изучение документов показывает обратное. Неясна дата вступления в силу В одном разделе отчета упоминается 1 октября 2026 года, а в другом — вступление в силу со дня официального опубликования. Для производителей, поставщиков и потребителей это принципиальная разница. Не определено понятие отключения Неясно, прекращает ли отключенный помощник:
использовать микрофон;
работать в фоне;
получать обновления;
обмениваться данными с сервером;
сохранять разрешения.
Не гарантировано удаление Проект говорит об отключении, но не о деинсталляции и уничтожении данных. Нет закрытого перечня разрешений Формула «все специальные разрешения» не отвечает принципу минимально необходимого доступа. Неясно, что происходит после сброса Проект требует сохранять помощника после возврата к заводским настройкам. Но сброс обычно уничтожает пользовательские настройки. Не установлено, должен ли помощник восстановиться автоматически или выбор должен быть сделан заново. Неясен порядок загрузки Не определено:
откуда скачивается приложение;
кто проверяет его подлинность;
что происходит без интернета;
кто отвечает за вредоносное обновление;
какая версия считается обязательной.
Не определено, что такое собственная ИИ-технология Исключительные права могут принадлежать на код, модель, веса, программный комплекс или отдельные компоненты. Проект не объясняет, какой именно объект должен принадлежать правообладателю. Сравнение с Европейским союзом не снимает вопросов Авторы ссылаются на европейский Digital Markets Act, экраны выбора и интероперабельность сторонних сервисов. Общее направление действительно похоже: крупные платформы не должны бесконечно продвигать только собственные решения. Но европейское регулирование действует в связке с требованиями защиты данных, прозрачности, соразмерности и безопасности. В материалах Европейской комиссии отдельно рассматривается взаимодействие DMA и законодательства о персональных данных. Российский проект берет идею системного доступа, но почти не вводит специальных гарантий от злоупотребления этим доступом. Нельзя механически переносить антимонопольное средство в сферу системного ИИ, игнорируя то, что помощник способен получать гораздо более чувствительную информацию, чем обычный браузер или поисковая строка. Итог Проект не вводит словами «систему слежки» и не содержит прямой команды передавать разговоры граждан Правительству. Но он создает технически привилегированного посредника, который потенциально может получить доступ к микрофону, камере, уведомлениям, приложениям и функциям устройства. При этом документ:
подробно защищает доступ помощника к системе;
гарантирует ему фоновую работу и обновления;
требует сохранять специальные разрешения;
не гарантирует полное удаление;
не устанавливает закрытого перечня прав;
не регулирует хранение аудио и видео;
не запрещает облачную обработку;
не запрещает профилирование;
не устанавливает специальных гарантий от скрытого наблюдения.
Самая серьезная проблема проекта заключается в явном дисбалансе: права ИИ-помощника по отношению к смартфону описаны намного подробнее, чем права гражданина по отношению к самому помощнику. Сегодня речь идет об окне выбора программы. В долгосрочной перспективе речь может идти о создании обязательной инфраструктуры, через которую искусственный интеллект будет сопровождать почти каждое цифровое действие человека. Без жестких ограничений, прозрачности и реальной возможности отказаться такая инфраструктура способна стать основой не только для удобных сервисов, но и для тотального цифрового контроля. Свобода начинается не с возможности выбрать одного из предложенных помощников. Свобода начинается с права жить без системного цифрового посредника, полностью удалить его и быть уверенным, что микрофон, камера, переписка и повседневная жизнь не превращены в источник данных для государства или корпорации. Ну и кто хочет пустить их в свою личную жизнь? Или "сказали в маске, значит в маске"? Сейчас у каждого из нас есть шанс изменить хоть что-то, пока наше правительство не сжило нас со свету окончательно! Идите на выборы в единый день голосования! Голосуйте за любую партию, кроме партий Единая Россия и Справедливая Россия. Никто не решит за Вас, решить можете только Вы! Ну а если Вас всё устраивает, Вам скажут что нужно делать... Алексей Чёрный Ангел Морозов - Смотри же!