Google пуска водни знаци на изображения, генерирани от AI

Ню Йорк
CNN
—

В опит да помогне за предотвратяване на разпространението на дезинформация, Google във вторник разкри постоянен, невидим воден знак върху изображения, който ще ги идентифицира като компютърно генерирани.

Технологията, наречена SynthID, вгражда водния знак директно в изображения, генерирани от Imagen, един от най-новите генератори на текст към изображение на Google. Етикетът, генериран от AI, остава независимо от модификациите като добавени филтри или променени цветове.

SynthID може също да сканира входящи изображения и да определи вероятността те да са били заснети от Imagen чрез сканиране за воден знак с три нива на сигурност: открити, неоткрити и евентуално открити.

„Въпреки че тази технология не е перфектна, нашите вътрешни тестове показват, че е точна срещу много често срещани манипулации на изображения“, пише Google в статия. блог пост вторник.

Бета версия на SynthID вече е достъпна за някои клиенти на Vertex AI, генеративната AI платформа на Google за разработчици. Компанията казва, че SynthID, създаден от отдела DeepMind на Google в партньорство с Google Cloud, ще продължи да се развива и може да се разшири към други продукти на Google или трети страни.

Deepfakes и променени изображения

Тъй като фалшивите и променени снимки и видеоклипове стават все по-реалистични, технологичните компании се борят за надежден начин за идентифициране и докладване на манипулирано съдържание. През последните месеци генерирано от AI изображение на папа Франциск, облечен в пухено яке, стана вирусно, а генерираните от AI изображения на бившия президент Доналд Тръмп по време на ареста му преди обвинението му станаха вирусни.

Вера Йоурова, заместник-председател на Европейската комисия, призова подписалите Практическия кодекс на ЕС относно дезинформацията – списък, който включва Google, Meta, Microsoft и TikTok – да „внедрят технологията за ясно идентифициране и категоризиране на подобно съдържание за потребителите“. “ през юни.

И с обявяването на SynthID Google се присъединява към нарастващ брой стартиращи и големи технологични компании, които се опитват да намерят решения. Някои от тези компании имат имена като Truepic и Reality Defender, които говорят за потенциалните рискове от усилието: защита на нашето усещане за това какво е и какво не е реално.

Content Source and Authenticity Alliance (C2PA), консорциум, подкрепян от Adobe, е пионер в усилията за поставяне на цифрови водни знаци, докато Google до голяма степен възприема свой собствен подход.

През май Google обяви инструмент, наречен относно тази снимкапредоставяйки на потребителите възможност да видят кога изображенията на техния сайт са били първоначално индексирани от Google, къде могат да се появят изображенията за първи път и къде могат да бъдат намерени онлайн.

Технологичната компания също обяви, че всяко изображение, генерирано от AI от Google, ще носи етикет в оригиналния файл, за да „даде контекст“, ако изображението бъде намерено на уебсайт или друга платформа.

Но тъй като AI технологията се развива по-бързо, отколкото хората могат да се справят, не е ясно дали тези технически решения ще могат да се справят напълно с проблема. OpenAI, компанията зад Dall-E и ChatGPT, призна по-рано тази година, че нейните собствени усилия да помогне за откриване на генерирано от AI въвеждане, а не на изображения, са „непълни“ и предупреди, че трябва да се „приемат с резерви“. „.