Google удалил ИИ-инструмент Nano Banana из Google Earth уже через день после запуска
Пользователи успели «разбомбить» небоскребы в США, создать ядерные объекты в Иране и «разрушить» Эйфелеву башню.
Google откатил новую функцию генерации изображений Nano Banana в Google Earth менее чем через сутки после ее запуска. Компания объяснила решение тем, что пользователи начали распространять сгенерированные изображения, которые «могут нарушать правила платформы», и пообещала вернуть инструмент только после внедрения «более надежных защитных механизмов», пишет телеграм-канал «Осторожно, новости».
Поводом для критики стали эксперименты исследователей OSINT и обычных пользователей. Они выяснили, что с помощью текстовых запросов можно было создавать фотореалистичные сцены прямо на основе спутниковых снимков Google Earth. Среди примеров — самолет, врезающийся в небоскреб на Манхэттене, ядерный объект в Иране, лагеря беженцев на границе США и Мексики, а также огромная воронка от взрыва в Лос-Анджелесе.
OSINT-исследователь Хенк ван Эсс показал, что смог за несколько секунд «разместить» лагеря беженцев у мексиканской границы и «построить» ядерный объект в Иране, задав всего несколько текстовых команд. По его словам, сервис практически не ограничивал подобные запросы.
С резкой критикой выступило и сообщество GeoConfirmed. Там заявили, что Google Earth долгое время был одним из ключевых инструментов для проверки информации и геолокации, а возможность генерировать реалистичные, но вымышленные спутниковые изображения может серьезно осложнить борьбу с дезинформацией.
По мнению аналитиков, теперь проверяющим придется сначала убеждаться, что перед ними не поддельный снимок Google Earth, а уже потом разбирать само событие. Они также предупредили, что злоумышленники смогут создавать фейковые военные объекты, менять назначение зданий или фабриковать последствия атак, выдавая такие изображения за настоящие.
В Google подчеркнули, что сгенерированные изображения были помечены как созданные ИИ и не отображались в основной версии Google Earth для других пользователей. Однако после волны критики компания решила временно полностью отключить функцию.
30 июля Google представил функцию Nano Banana для веб-версии Google Earth. Она позволяла генерировать изображения на основе спутниковых снимков, аэрофотосъемки и 3D-карт местности с помощью текстовых запросов. В компании предлагали использовать ее для визуализации исторических событий, создания инфографики, архитектурных и девелоперских проектов, планирования строительства и других творческих задач. Инструмент был доступен пользователям Google Earth по всему миру.
Комментарии
Акрамя пералічанага, людзі малявалі рускія танкі ў Кіеве, віселіцы для здраднікаў у Лондане і іншае.
2. ШІ і так умеюць дамалёўваць здымкі. Зараз проста прыбралі функцыю, якую зручна вызываць у самой праграме.
3. З улікам гэтага неабходнасць факт-чэкінгу не павялічылася. Як была, так і засталася.
4. Памыечныя сабчакоўскія «Осторожно, новості» (назва такая тут) самі не далі ніякіх першакрыніц, а тут у вас першакрыніца.
А што калі яны памыляюцца або далі фэйк? Хапае ж аўтарытэтных крыніц, ад BBC Verify, сам Google - увогуле шмат хто напісаў.
5. Сумна, што замест прапанаванага вывучэння гісторыі або планавання будучыні (ў тым ліку забудовы) людзі кінуліся правяраць тэхналогію вандалізмам.
Галоўная думка "як бы што знішчыць, захапіць, як напужаць".
Ад рэдактара. А можа б вы нам больш напісалі на гэтую тэму? Быў бы ўдзячны. Дашліце на [email protected] ці ў ТГ @nn_editor
[Зрэдагавана]