Google търси автентичност в ерата на изкуствения интелект с новата си система за класификация на съдържанието

Във вторник Google Обявени планове Да внедри технология за удостоверяване на съдържание в своите продукти, за да помогне на потребителите да разграничат изображения, генерирани от хора, и изображения, генерирани от AI. През следващите няколко месеца технологичният гигант ще интегрира стандарта Content Provenance and Authenticity Alliance (C2PA), система, предназначена да проследява произхода и редактираната история на цифрово съдържание, в своите услуги за търсене, реклами и вероятно YouTube. Отворен е обаче въпросът дали едно технологично решение може да се справи с него Стар социален проблем На доверие в записани медии, произведени от непознати.

А група През 2019 г. група технологични компании създадоха системата C2PA в опит да се борят с подвеждащите и фалшиви синтетични медии онлайн. Тъй като генерираното от AI съдържание става все по-разпространено и реалистично, експертите се притесняват, че може да е трудно за потребителите да определят автентичността на изображенията, които срещат. Стандартът C2PA създава цифрова следа от съдържание, подкрепена от орган за онлайн подписване, която включва описателна информация за това откъде идват изображенията и как са били модифицирани.

Google ще интегрира този стандарт C2PA в своите резултати от търсене, позволявайки на потребителите да видят дали дадено изображение е създадено или редактирано с помощта на AI инструменти. Функцията „Относно това изображение“ в Google Search, Lens и Circle to Search ще покаже тази информация, когато е налична.

В публикация в блог Лори Ричардсън, вицепрезидент на доверието и сигурността в Google, признава сложността на идентифицирането на източника на съдържание между платформите. „Намирането и реферирането на съдържание остава сложно предизвикателство, с набор от съображения, базирани на продукта или услугата. Въпреки че осъзнаваме, че няма сребърен куршум за цялото онлайн съдържание, работата с други в индустрията е от решаващо значение за създаването на устойчиви и оперативно съвместими решения. “, каза тя.

Компанията планира да използва най-новите технически стандарти C2PA, Версия 2.1за който се твърди, че осигурява подобрена сигурност срещу атаки за подправяне. Използването му ще се разшири отвъд търсенето, тъй като Google възнамерява да интегрира C2PA метаданни в своите рекламни системи като средство за „налагане на ключови политики“. В бъдеще YouTube може също да види информация за C2PA, включена в съдържание, заснето с камера.

Google казва, че новата инициатива е в съответствие с другите им усилия за прозрачност на изкуствения интелект, включително разработването на… ID на съединениетовградена технология за воден знак, създадена от Google DeepMind.

Ефективността на C2PA в голям мащаб все още е само мечта

Въпреки своята история, датираща от поне пет години, пътят към полезна технология за източник на съдържание като C2PA е изключително труден. Технологията е напълно доброволна и ключовите метаданни за удостоверяване могат лесно да бъдат премахнати от изображенията, след като бъдат добавени.

Задвижваните от AI генератори на изображения ще трябва да поддържат стандарта за включване на C2PA информация във всеки генериран файл, което вероятно би попречило на модели за синтез на изображения с отворен код като Flux. Така че може би на практика „по-автентичните“ медии, създадени от камера, ще бъдат етикетирани с C2PA в сравнение с изображенията, генерирани от AI.

Освен това поддържането на метаданни изисква пълна верига от инструменти, която поддържа C2PA на всяка стъпка по пътя, включително източника и всеки софтуер, използван за редактиране или ретуширане на изображенията. В момента само няколко производителя на камери, като Leica, поддържат стандарта C2PA. Nikon и Canon обещаха да го приемат, но The Verge Доклади Все още има несигурност дали Apple и Google ще внедрят поддръжка на C2PA в своите смартфони.

Photoshop и Lightroom на Adobe могат да добавят и поддържат C2PA данни, но много други популярни инструменти за редактиране все още не предоставят тази възможност. Необходим е само несъвместим редактор на изображения в серията, за да се разчупи пълното предимство на C2PA. Общата липса на единни изгледи на данните на C2PA в онлайн платформите представлява друга пречка за превръщането на стандарта в полезен за обикновените потребители.

Засега C2PA може да се разглежда като опит за решаване на съществуващи проблеми с доверието, свързани с фалшиви изображения. В този смисъл C2PA може да се превърне в един от многото инструменти, използвани за проверка на автентичността на съдържанието чрез определяне дали информацията идва от надежден източник – ако данните на C2PA са запазени – но е малко вероятно да бъде пълно решение за генерираната от интелекта дезинформация сам.