Новият инструмент Nano Banana предизвика вълна от критики, след като потребители започнаха да създават убедително изглеждащи фалшиви сателитни изображения на войни, бедствия и други несъществуващи събития.
Google временно изтегли новата си функция за генериране на изображения с изкуствен интелект в Google Earth по-малко от 24 часа след официалното ѝ представяне. Причината е, че инструментът, базиран на модела Nano Banana 2, започна да се използва за създаване на реалистични, но напълно измислени сцени върху истински географски локации, което породи сериозни опасения за разпространение на дезинформация.
Функцията позволяваше на потребителите да изберат всяка точка на картата в Google Earth и чрез текстова команда да „преобразят“ мястото – например да покажат как е изглеждало в миналото, как би изглеждало в бъдеще или да добавят нови сгради и обекти. Google я рекламираше като полезен инструмент за образование, архитектура, градско планиране и визуализация на проекти.
Само часове след старта обаче изследователи и потребители демонстрираха колко лесно могат да бъдат създадени фалшиви изображения на военни действия, бомбардировки, наводнения, ядрени съоръжения и бежански лагери на реални места по света. Макар тези изображения да не се появяваха в публичната карта на Google Earth, екранни снимки от тях започнаха бързо да се разпространяват онлайн, което според експерти може да заблуди журналисти, анализатори и широката публика.
От Google признаха, че хората разчитат на Google Earth като на достоверен източник на информация за реалния свят. Компанията обясни, че въпреки многото легитимни приложения на технологията, вече са се появили изображения, които нарушават правилата ѝ. Затова функцията е временно спряна, докато бъдат разработени по-строги механизми за защита срещу злоупотреби.
Според компанията всички генерирани изображения са били маркирани като създадени с изкуствен интелект чрез технологията SynthID и никога не са заменяли реалните сателитни снимки в основната версия на Google Earth. Въпреки това специалисти по геопространствен анализ предупреждават, че подобни изображения могат лесно да бъдат споделяни извън платформата без необходимия контекст, което увеличава риска от манипулации и дезинформация.
Случаят се превърна в поредния пример за трудностите пред технологичните компании при внедряването на генеративен изкуствен интелект. Макар подобни инструменти да предлагат нови възможности за образование, архитектура и планиране, те поставят и все по-сериозни въпроси за доверието към дигиталните изображения и необходимостта от ефективни механизми срещу фалшификации.
