ИИ Google Gemini занимался сканированием PDF-файлов на Google Drive без разрешения, и эту функцию нельзя отключить

В рамках более широкого продвижения ИИ в технологической индустрии, хотим мы этого или нет, похоже, что сервис Google Gemini AI теперь читает частные документы на Drive без явного разрешения пользователя, согласно сообщению Кевина Бэнкстера в Xitter. Хотя Бэнкстер обсуждает причины, по которым это может быть сбоем для таких пользователей, как он, полное отсутствие контроля над его конфиденциальной, частной информацией неприемлемо для компании уровня Google — и не предвещает ничего хорошего для будущих проблем конфиденциальности в условиях часто принудительного внедрения ИИ.

Похоже, ни служба поддержки Google, ни сам ИИ Gemini точно не знают, но у Кевина Бэнкстона есть теории, после предоставления более подробной информации в полной ветке. Вопреки первоначальному сообщению, технически это происходит в рамках Google Drive, а не конкретно Google Docs, хотя вполне вероятно, что проблема может относиться и к Docs.

Но что вызвало эту проблему? По словам ИИ Google Gemini, настройки конфиденциальности, используемые для информирования Gemini, должны быть открыто доступны, но их нет, что означает, что ИИ либо «галлюцинирует (лжет)», либо некоторые внутренние системы на серверах Google откровенно неисправны. В любом случае, это выглядит не очень хорошо, даже если эти частные данные предположительно не используются для обучения ИИ Gemini.

Более того, Бэнкстон в конце концов нашел нужный переключатель настроек… только чтобы обнаружить, что саммари Gemini в Gmail, Drive и Docs уже были отключены. Кроме того, он находился в совершенно другом месте, чем любая из веб-страниц, на которые изначально указывал бот Gemini.

Для Бэнкстона проблема, похоже, локализована в Google Drive и возникает только после нажатия кнопки Gemini хотя бы на