Безопасность нейросетей: какие данные нельзя отправлять в чат и как защититься
Автор: Василиса Новик, Автор AI Vision: чат-модели и проверка фактов. Обновлено 2026-11-05.
В редакции у нас было железное правило: имена источников не уходят никуда, кроме блокнота и головы. Когда в работу пришли нейросети, я впервые задумалась, куда на самом деле уходит текст, который я вставляю в чат. Ответ мне не понравился, и я начала разбираться.
Безопасность нейросетей для обычного пользователя — это не про хакеров, а про привычки. Ваши запросы хранятся на серверах сервиса, могут попасть в обучение моделей, их может увидеть сотрудник поддержки, а аккаунт можно взломать. Большинство утечек происходит не из-за взлома, а потому что человек сам отправил то, что отправлять не стоило. Расскажу, куда уходят данные, что нельзя отправлять в нейросеть, как не попасться мошенникам и как выбрать сервис.
Когда вы отправляете сообщение нейросети:
- Текст и файлы передаются на серверы сервиса и разработчика модели.
- Модель обрабатывает запрос и генерирует ответ.
- История диалога хранится — чтобы вы могли вернуться к ней.
- Данные могут использоваться для улучшения моделей — в зависимости от политики сервиса и ваших настроек.
- Данные могут просматриваться сотрудниками в ограниченных случаях, например при проверке нарушений.
Условия различаются у разных компаний и тарифов. Например, у OpenAI есть настройки, позволяющие отключить использование переписки для обучения моделей. Подробности — в справке по управлению данными в списке источников.
- Пароли, ключи API, токены доступа, коды из СМС.
- Номера банковских карт, CVV, данные для входа в банк.
- Паспортные данные, СНИЛС, ИНН и сканы документов.
- Медицинские данные с вашим именем или именами других людей.
- Персональные данные клиентов и сотрудников — ФИО с телефонами, адресами, историей заказов.
- Коммерческую тайну — неопубликованные финансовые результаты, стратегию, условия сделок.
- Чужие фото и записи без согласия людей.
Отдельно о коде: перед отправкой фрагмента заменяйте ключи и пароли на заглушки. Подробнее — в статье про нейросеть для кода.
Обезличивайте данные. Замените имена на «Клиент А», суммы — на условные, адреса — на «город N». Модели обычно не нужны настоящие данные, чтобы помочь с задачей.
Вместо: «Иван Петров, тел. +7…, должен 120 000 рублей по договору №…»
Пишите: «Клиент А должен сумму X по договору. Составь вежливое напоминание об оплате».
Проверьте настройки. У многих сервисов можно отключить использование переписки для обучения и удалить историю.
Удаляйте ненужное. Старые диалоги с рабочими данными лучше удалять.
Разделяйте личное и рабочее. Для работы — аккаунт по правилам вашей компании, для личных задач — свой.
Узнайте правила компании. Многие организации регулируют, какие ИИ-сервисы можно использовать и с какими данными.
Это касается и аудиозаписей: перед расшифровкой встреч предупреждайте участников. Подробнее — в статье про транскрибацию.
Риски связаны не только с тем, что вы отправляете, но и с тем, что получаете.
- Фальшивые сервисы. Сайты и боты, которые выдают себя за известные нейросети, собирают оплату и данные. Проверяйте, где вы вводите данные карты.
- Дипфейки. Видео и голосовые сообщения «от знакомых» с просьбой перевести деньги. Перезванивайте по известному номеру. Подробнее — в статье как определить видео, созданное нейросетью.
- Фишинг, написанный нейросетью. Письма стали грамотнее и убедительнее. Проверяйте адрес отправителя и не переходите по ссылкам из неожиданных писем.
- Вредные советы. Модель может уверенно ошибиться в вопросах здоровья, денег и права. Подробнее — в статье про галлюцинации нейросетей.
Перед тем как нажать «отправить», задайте себе три вопроса:
- Есть ли здесь данные, по которым можно узнать конкретного человека?
- Будет ли проблемой, если этот текст увидит посторонний?
- Можно ли решить задачу без этих данных?
Если на первый или второй вопрос ответ «да», а на третий тоже «да», обезличьте данные перед отправкой.
Перед тем как вставить текст в чат, я задаю себе один вопрос из журналистики: «Если этот текст завтра окажется в открытом доступе, кому будет плохо?» Если ответ «никому» — отправляю. Если «источнику», «герою материала» или «мне» — сначала обезличиваю.
На практике это выглядит так. Расшифровку интервью я отправляю на редактуру без имени, должности и названия компании: «Собеседник А, сотрудник крупной компании». Документы, которые мне передали конфиденциально, в нейросеть не попадают вообще, даже обезличенные: по деталям легко вычислить, откуда утечка. А свои личные данные — паспорт, адрес, номер карты — я не отправляю ни в какой сервис, даже «чтобы заполнить анкету побыстрее». Это занимает лишнюю минуту, но спокойнее спится.
- Понятная политика конфиденциальности — что хранится, сколько и зачем.
- Возможность удалить историю и данные аккаунта.
- Безопасная оплата через проверенные платёжные системы.
- Прозрачность — какие модели используются и через каких провайдеров.
Если вы пользуетесь сервисом, который объединяет несколько моделей, учитывайте, что запросы передаются разработчикам этих моделей. Подробнее о таких сервисах — в статье про агрегаторы нейросетей.
Читайте такжедипфейк и нейросеть для Excel.
Частые вопросы
Читают ли сотрудники мои переписки с нейросетью?
У крупных сервисов доступ ограничен, но в отдельных случаях, например при проверке нарушений, переписка может быть просмотрена. Не отправляйте то, что не должно попасть к посторонним.
Используется ли моя переписка для обучения?
Зависит от сервиса и настроек. У многих это можно отключить.
Можно ли отправить в нейросеть договор?
Лучше в обезличенном виде: без имён, реквизитов и сумм, если они не нужны для задачи.
Безопасно ли загружать свои фото?
Только в сервисы, которым вы доверяете. Не загружайте фото документов и чужие фото без согласия.
Осознанная работа с нейросетями
В AI Vision действуют те же правила, что и в любом ИИ-сервисе: запросы обрабатываются моделями разработчиков, поэтому пароли, данные карт и документы отправлять не нужно. Обезличенных данных почти всегда достаточно, чтобы получить хороший ответ.
Узнать больше об AI Vision