В Google рассказали об использовании чат-ботом с так называемым искусственным интеллектом (ИИ) Gemini всех доступных ему данных пользователя, чтобы лучше узнавать его и давать персональные ответы на запросы. Фактически это является признанием в намерении контролировать людей, подсовывая им «правильные» решения, считает IT-редакция ИА Красная Весна.

Вице-президент по продуктам Google Search Робби Штайн в конце ноября рассказал в подкасте Limitless о том, что Gemini все чаще обрабатывает обращения за советом или рекомендациями, используя цифровой след пользователя в различных продуктах компании: Gmail, Calendar, Drive и пр.

«Мы считаем, что у нашего ИИ есть огромная возможность лучше узнать вас и затем быть уникальным помощником благодаря этим знаниям», — заявил Штайн.

Фактически бот получает и обрабатывает письма пользователя, документы, фото, истории местоположений и поведения в сети. Получается, что с увеличением объема данных, поглощаемых Google, приватность становится всё более размытой.

Это не уже развитие технологий, а попытка манипулировать поведением людей в интересах корпорации. Или кто-то серьезно считает, что компания не стремится получить выгоду? Личная история перестает быть достоянием человека, становясь сырьем для алгоритма, предписывающего, что покупать, о чем думать и как действовать.

Когда ИИ, проанализировавший годы переписки человека, его страхи, колебания и интимные моменты, предложит «объективный» совет, будет трудно отличить помощь от манипуляции. Да, есть возможность через настройки сократить доступ бота к личной информации. Только это похоже на попытку создать видимость выбора там, где его нет. Когда вся экосистема изучена, выборочное отключение пары функций ничего не изменит. Более того, сама система может трактовать отказ делиться данными как аномалию, на которую нужно обратить внимание.

Таким образом, компания предлагает человеку удобство в обмен на беспрецедентный доступ к его цифровой «душе». Проблема в том, что, однажды делегировав ИИ-ассистенту роль личного советника на основе всех своих данных, человек рискует незаметно утратить способность к самостоятельному выбору, который не зависит от «правильных подсказок».