Минцифры предложило провести «эксперимент» по внедрению генеративного искусственного интеллекта в работу госорганов. Инициатива, представленная как способ повышения эффективности, на деле закладывает основу для новой системы автоматизированного контроля, создающей серьёзные угрозы для прав граждан.
Согласно проекту постановления, нейросетям планируют доверить анализ законопроектов, проверку резюме госслужащих и, что самое важное, обработку обращений граждан. Хотя в документе подчёркивается, что ИИ не будет работать с гостайной или прогнозировать социально-экономические процессы, реальные риски лежат в другой плоскости.
Основная угроза — использование ИИ для анализа и классификации миллионов обращений, жалоб и заявлений от граждан. Система, обученная на этих данных, станет идеальным инструментом для автоматического выявления инакомыслия, мониторинга очагов социального недовольства и составления профилей «неблагонадёжных» лиц. Запрет на «прогнозирование» легко обойти, назвав это «классификацией» или «анализом рисков».
Подача проекта в виде «добровольного и безвозмездного эксперимента» позволяет внедрить эту масштабную инфраструктуру без широкого общественного и парламентского обсуждения. Когда система будет создана и интегрирована, отказаться от неё будет практически невозможно.
Чем грозит?
Автоматизация социального скоринга: Система, анализирующая обращения граждан, станет инструментом для выявления инакомыслия и составления социальных рейтингов. «Неудобные» или «подозрительные» обращения могут автоматически маркироваться и направляться на особый контроль в силовые ведомства.
Эрозия права на справедливое рассмотрение: Гражданин, чьё резюме на госслужбу или жалоба были первично отфильтрованы непрозрачным алгоритмом, лишается возможности понять критерии отказа. Это создаёт «чёрный ящик» в госуправлении, решения которого невозможно эффективно оспорить.
Создание теневой базы данных: Несмотря на запрет работать с гостайной, ИИ будет обрабатывать огромный массив персональных данных из обращений. Это приведёт к созданию всеобъемлющей базы данных о проблемах, жалобах и взглядах миллионов людей, которая станет ценнейшим активом для спецслужб.
Что делать?
Формализовать обращения: При подаче заявлений в госорганы использовать максимально нейтральные и юридически выверенные формулировки. Следует избегать эмоциональных выражений и политических оценок, чтобы снизить риски неверной классификации обращения нейросетью.
Требовать человеческого участия: В случае получения формального или неудовлетворительного ответа требовать повторного рассмотрения вопроса «лично уполномоченным сотрудником, а не с применением автоматизированных систем», ссылаясь на право на объективное рассмотрение дела.
Использовать «бумажную» почту для чувствительных тем: Для отправки обращений, содержащих чувствительную информацию (например, жалобы на действия силовиков), использовать традиционную почту. Это выводит коммуникацию из контура автоматической цифровой обработки и анализа.