ИИ и конфиденциальность в повседневной жизни: какие данные не стоит вводить в чат-бот

Коротко: Вводимые в чат-боты данные могут сохраняться, анализироваться и использоваться для обучения; поэтому пароли, чувствительные персональные данные, клиентские и корпоративные секреты туда не относятся.

Подробнее: Чат-бот — не дневник. Ввод обрабатывается поставщиками, часто сохраняется (история, проверки безопасности, улучшение качества) и, в зависимости от настроек, используется для обучения. Даже если поставщики называют меры защиты: что не хотите раскрывать, того не вводите.

Подробности

Не вводите

• Пароли, ключи API, учётные данные, закрытые ключи.
• Номера удостоверений, банковские данные, данные о здоровье, конфиденциальные семейные данные и данные об отношениях, данные других людей без их согласия.
• Данные клиентов, информацию о персонале, коммерческие тайны, неопубликованный исходный код, внутренние документы, договоры (возможны нарушения конфиденциальности и GDPR).
• Экзаменационные и тестовые задания, находящиеся под секретом.
• Фотографии с лицами и метаданными других людей.

Как защититься

• Настройки: отключите обучение на ваших данных (opt-out), отключите историю или используйте временные чаты, удалите учётную запись/чаты.
• Анонимизируйте/псевдонимизируйте: замените имена, места, числа заполнителями («клиент A»).
• Бизнес-версии (команда/предприятие, договор с соглашением об обработке данных (DPA), обработка данных в ЕС) вместо личных аккаунтов для рабочих данных.
• Локальные модели (Ollama) для чувствительного содержимого.
• Проверьте расширения браузера/приложения и интеграции (какие данные они видят?).
• Соблюдайте политику компании: многие компании запрещают или регулируют использование ИИ.

Правовые рамки

GDPR: ввод персональных данных в сервис — это обработка/передача; для неё нужны правовое основание и часто договор. Права субъектов данных (доступ, удаление) действуют и в отношении поставщиков ИИ. Закон ЕС об ИИ требует, среди прочего, прозрачности (делать взаимодействие с ИИ и созданный ИИ контент узнаваемыми) и регулирует высокорисковые применения; детали и сроки развиваются. Профессиональная тайна (врачи, адвокаты) и соглашения о неразглашении продолжают действовать. Это не юридическая консультация.

Ещё замечания

• Ответы не защищены как личные: открытые для обмена чаты могут стать публично находимыми.
• Prompt injection: внешний контент (веб-страницы, документы) может содержать инструкции, манипулирующие ИИ; давайте ИИ-агентам только необходимые права.
• Дипфейки/клонирование голоса: не публикуйте голос и изображения необдуманно.
• Дети и подростки: просвещение по конфиденциальности, возрастные ограничения сервисов (часто 13 или 16 лет) и согласие родителей. Практическое правило: написал бы я это на открытке? Если нет, это не относится в облачный чат-бот.

См. также: Как разумно и безопасно пользоваться ИИ-ассистентами, Prompt injection, Закон об ИИ, Локальный ИИ с Ollama и LM Studio, Соглашение об обработке данных (DPA)