Корпорация Google экстренно отключила функцию генерации изображений на базе искусственного интеллекта в своём картографическом сервисе Google Earth. Инструмент проработал менее суток и был удалён после волны критики со стороны журналистов и исследователей дезинформации. Причиной стала лёгкость, с которой любой пользователь мог создавать правдоподобные фальшивые сцены прямо на реальных спутниковых снимках.
Новая функция, получившая название «Create image», использовала собственную модель Google Nano Banana 2. Она позволяла ввести текстовое описание и наложить сгенерированное изображение на любую точку земного шара в веб-версии Google Earth. Продуктовый менеджер Брайан Хоровиц позиционировал её как инструмент для «визуализации истории, планирования недвижимости и многого другого». Однако специалисты по открытым источникам немедленно забили тревогу.
Эксперт Хенк ван Эсс отметил, что Google двадцать лет строила авторитет надёжного эталона, а затем добавила «кнопку, которая всё выдумывает». Его главное опасение заключалось в том, что сгенерированные кадры наследуют доверие, которым пользуется платформа. В подтверждение угрозы журналисты BBC Verify и другие исследователи создали серию убедительных фейков: обрушенную Эйфелеву башню, гигантский провал, поглощающий пирамиду Хеопса, российские танки в Киеве, беженцев на мексиканской границе и воронку от бомбы возле больницы в Газе. Издания NPR и AFP сфабриковали горящий нефтяной терминал на иранском острове Харг, затопленное здание Капитолия, взрыв в Париже и ядерный объект в Иране. Фильтры Google не смогли остановить даже запросы с завуалированными опасными темами — достаточно было смягчить формулировку, и система пропускала запрещённый контент.
Ситуация обострилась после того, как BBC Verify обманул фирменный механизм верификации SynthID: водяные знаки можно было проверить через приложение Gemini или Lens, но тот же Gemini подтвердил подлинность заведомо фальшивого снимка с Google Earth. Старший исследователь Bellingcat Джейк Годин напомнил, что поддельные спутниковые снимки встречались и раньше — в частности, ложные данные о повреждениях на американской базе в Бахрейне во время конфликта США и Израиля с Ираном, — но появление инструмента «в один клик» превращает создание фальшивок в массовое явление. Геопространственный аналитик Билл Грир подчеркнул, что эрозия доверия к спутниковым снимкам может иметь особо разрушительные последствия.
В официальном заявлении Google признала, что, хотя профессионалы нашли инструменту полезное применение, «люди делились скриншотами сгенерированных изображений, которые, по всей видимости, нарушают политики компании». Функция полностью отозвана, и в корпорации пообещали разработать более строгие предохранители. Останется ли подобный инструмент в Google Earth или окончательно уйдёт в историю — пока открытый вопрос. Инцидент вновь подчеркнул растущую проблему доверия к визуальной информации в эпоху генеративного ИИ.
