Если вы хотите задать чат-боту Google с искусственным интеллектом вопрос о предстоящих выборах, вам придется сделать это из страны, где выборы не проводятся. TechCrunch стало известно, что поисковый гигант начал ограничивать запросы, отправляемые Gemini, когда они касаются выборов, на любом рынке по всему миру, где проходят выборы.

Поисковый гигант подтвердил TechCrunch, что он начал вводить ограничения на Gemini, чтобы ограничить всплывающие ответы на запросы, связанные с выборами, по всему миру. TechCrunch понимает, что обновление уже доступно в США и начало распространяться в Индии и всех основных странах, где в ближайшие месяцы состоятся выборы.

Этот сдвиг подчеркивает не только роль, которую генеративный ИИ играл и потенциально может сыграть в избирательном процессе, но и обеспокоенность Google по поводу того, что сервис может стать оружием, а также выдавать неточные или вводящие в заблуждение ответы.

Переход в Индии произошел всего через несколько дней после того, как Индия выпустила рекомендацию, требующую от технологических фирм получать разрешение правительства, прежде чем запускать свои новые модели искусственного интеллекта.

Запросы, касающиеся политических партий, кандидатов, политиков, теперь возвращают заданное сообщение.

Когда задается запрос о конкретной политической партии или кандидате, Gemini показывает сообщение: “Я все еще учусь отвечать на этот вопрос. А пока попробуйте поиск в Google”. В некоторых случаях инструмент все еще можно использовать. TechCrunch обнаружил, что инструмент искусственного интеллекта действительно показывал ответы при передаче запросов с опечатками. Вполне вероятно, что ответы будут по-прежнему корректироваться в рамках игры “быстрый инженерный удар по кроту”.

Google Gemini ограничивает ответы на запросы, связанные с выборами (слева), но не в тех случаях, когда вопросы содержат опечатки (справа) Титры изображений: Джагмит Сингх / TechCrunch

“Из-за чрезмерной осторожности в отношении такой важной темы мы начали вводить ограничения на типы запросов, связанных с выборами, на которые Gemini будет возвращать ответы. Мы серьезно относимся к своей ответственности за предоставление высококачественной информации для таких типов запросов и постоянно работаем над улучшением нашей защиты”, – говорится в сообщении Google в блоге, связанном с переездом в Индию ранее сегодня.

Обновление было выпущено непосредственно перед объявлением всеобщих выборов в Индии. Ранее в этом месяце Нью-Дели выпустил рекомендацию для технологических компаний, запрещающую им выпускать свои новые модели искусственного интеллекта в стране без одобрения правительства. Столкнувшись с некоторой негативной реакцией со стороны глобальных венчурных капиталистов и основателей стартапов в области искусственного интеллекта, индийское правительство разъяснило, что ограничение касается “значимых” технологических компаний, а не стартапов.

Рекомендация последовала за мини-скандалом вокруг Gemini и индийского правительства в прошлом месяце. Инструмент искусственного интеллекта, отвечая на вопрос о том, был ли премьер-министр Индии Нарендра Моди фашистом, ответил, что Моди был обвинен в проведении политики, которую некоторые охарактеризовали как фашистскую. Заместитель министра информационных технологий Индии Раджив Чандрасекар назвал это “прямыми нарушениями” ИТ-правил 2021 года.

В прошлом месяце Google также приостановила возможность Gemini генерировать изображения людей после того, как обнаружила исторические неточности. Затем компания заявила, что вскоре переиздаст улучшенную версию для устранения проблем.

Неясно, разблокирует ли Google Gemini за ответы на запросы, связанные с выборами, после окончания выборов в конце этого года. Мы связались с Google по этому поводу и обновим эту историю, когда компания ответит. Мы также ожидаем полный список стран, в которых обновление доступно сейчас, и мы будем обновлять пост по мере того, как узнаем больше, и публиковать как есть.