Сундар Пичаи, генеральный директор Google и Alphabet, выступает с речью об искусственном интеллекте во время конференции аналитического центра Bruegel в Брюсселе, Бельгия, 20 января 2020 года.

Ив Херман | Reuters

Google объявила, что ограничит типы запросов, связанных с выборами, которые пользователи могут задавать своему чат-боту Gemini, добавив, что компания уже внедрила изменения в Индии, где избиратели отправятся на избирательные участки этой весной.

“Из-за чрезмерной осторожности в отношении такой важной темы мы начали вводить ограничения на типы запросов, связанных с выборами, по которым Gemini будет возвращать ответы”, – написал Google в своем блоге во вторник. “Мы серьезно относимся к своей ответственности за предоставление высококачественной информации по такого рода запросам и постоянно работаем над улучшением нашей защиты”.

Представитель Google сообщил CNBC, что изменения соответствуют запланированному подходу компании к выборам и что она вводит ограничения Gemini “в рамках подготовки ко многим выборам, которые пройдут по всему миру в 2024 году, и из-за чрезмерной осторожности”.

Объявление было сделано после того, как Google в прошлом месяце отключила свой инструмент для создания изображений с искусственным интеллектом после ряда противоречий, включая исторические неточности и спорные ответы. Ранее в феврале компания представила генератор изображений через Gemini — основной набор моделей искусственного интеллекта Google — в рамках значительного ребрендинга.

“Мы отключили эту функцию, пока не исправим это”, – заявил Демис Хассабис, генеральный директор DeepMind от Google, в прошлом месяце во время дискуссии на конференции Mobile World Congress в Барселоне. “Мы надеемся, что это снова заработает очень скоро, в ближайшие пару недель”. Он добавил, что продукт “работает не так, как мы планировали”.

Новость также появилась в связи с тем, что технологические платформы готовятся к масштабному году выборов по всему миру, которые затронут более четырех миллиардов человек в более чем 40 странах. Рост количества контента, генерируемого искусственным интеллектом, привел к серьезным проблемам с дезинформацией, связанным с выборами, при этом количество сгенерированных глубоких подделок увеличилось на 900% в годовом исчислении, согласно данным компании Clarity, занимающейся машинным обучением.

Дезинформация, связанная с выборами, была серьезной проблемой, начиная с президентской кампании 2016 года, когда российские субъекты стремились использовать дешевые и простые способы распространения недостоверного контента на социальных платформах. Законодатели в настоящее время еще больше обеспокоены быстрым развитием искусственного интеллекта.

“Есть основания для серьезного беспокойства по поводу того, как искусственный интеллект может быть использован для введения в заблуждение избирателей в ходе кампаний”, – сказал Джош Беккер, сенатор-демократ от штата Калифорния, в интервью CNBC в прошлом месяце.

Технологии обнаружения и нанесения водяных знаков, используемые для выявления глубоких подделок, развивались недостаточно быстро, чтобы успевать за ними. Даже если платформы, создающие изображения и видео с использованием искусственного интеллекта, соглашаются использовать невидимые водяные знаки и определенные типы метаданных, есть способы обойти эти защитные меры. Иногда скриншоты могут даже обмануть детектор.

В последние месяцы Google подчеркнула свою приверженность поиску помощников или агентов с искусственным интеллектом и значительным инвестициям в них. Этот термин часто описывает инструменты, начиная от чат-ботов и заканчивая помощниками по кодированию и другими инструментами повышения производительности.

Генеральный директор Alphabet Сундар Пичаи выделил агентов с искусственным интеллектом в качестве приоритета во время объявления прибыли компании 30 января. Пичаи сказал, что в конечном итоге он хочет предложить агента с искусственным интеллектом, который может выполнять все больше и больше задач для пользователя, в том числе в поиске Google, хотя, по его словам, впереди “много работы.” Аналогичным образом, руководители технологических гигантов от Microsoft до Amazon удвоили свои обязательства по созданию агентов искусственного интеллекта в качестве инструментов повышения производительности.

Ребрендинг Google Gemini, внедрение приложений и расширение функций стали первым шагом к “созданию настоящего помощника с искусственным интеллектом”, заявила журналистам в феврале Сисси Сяо, вице-президент Google и генеральный менеджер Google Assistant и Bard.