Google приостановил ИИ-генератор в Google Earth спустя сутки после запуска

Компания Google приняла решение удалить ИИ-генератор изображений на основе технологии Nano Banana из Google Earth всего через день после его запуска. Разработчики пояснили, что пользователи активно использовали этот инструмент для создания контента, который нарушал установленные правила сервиса. В результате, в сети начали появляться фейковые изображения, такие как фотографии кратера от взрыва в Лос-Анджелесе и затопленного Капитолия США.

Инновационный инструмент позволял пользователям дорисовывать любые точки или события на карте по текстовому запросу, что привело к нежелательным последствиям. Исследователь открытых данных Хенк ван Эсс отметил, что его запросы, например, на создание изображений беженцев на границе с Мексикой или ядерного объекта в Иране, не блокировались системой. Это вызвало дополнительные опасения по поводу безопасности и надежности нового функционала. Google, видимо, решил, что риски превышают потенциальные выгоды от использования ИИ в таком формате.

Таким образом, удаление ИИ-генератора иллюстрирует сложность внедрения новых технологий в массовые сервисы, где необходимо учитывать не только инновационные возможности, но и этические, правовые и социальные аспекты их использования. Важно, чтобы подобные инструменты контролировались должным образом, чтобы избежать распространения недостоверной информации и манипуляций.