Meta призовава за усилия на индустрията за класифициране на генерирано от AI съдържание

Миналия месец на Световния икономически форум в Давос, Швейцария, Ник Клег, ръководител на глобалните въпроси в Meta, описа възникващите усилия за откриване на изкуствено генерирано съдържание като „най-спешната задача“, пред която е изправена технологичната индустрия днес.

Във вторник г-н Клег предложи решение. Мета каза, че ще популяризира Технологични стандарти Компаниите в цялата индустрия могат да го използват, за да разпознават тагове в изображения, видео и аудио, които биха показали, че съдържанието е създадено с помощта на изкуствен интелект.

Стандартите могат да позволят на компаниите за социални медии бързо да идентифицират генерирано от AI съдържание, публикувано на техните платформи, и да им позволят да добавят етикет към този материал. Ако бъдат широко приети, стандартите могат да помогнат за идентифициране на съдържание, генерирано от изкуствен интелект от компании като Google, OpenAI, Microsoft, Adobe, Midjourney и други, които предлагат инструменти, които позволяват на хората да създават изкуствени публикации бързо и лесно.

„Въпреки че това не е перфектен отговор, ние не искахме да направим съвършенството враг на доброто“, каза г-н Клег в интервю.

Той добави, че се надява това усилие да послужи като обединителен вик за компаниите в индустрията да приемат стандарти за откриване и сигнализиране, че съдържанието е изкуствено, така че да бъде по-лесно за всички тях да го идентифицират.

Тъй като Съединените щати навлизат в годината на президентските избори, наблюдатели от индустрията вярват, че инструментите за изкуствен интелект ще бъдат широко използвани за разпространение на фалшиво съдържание с цел подвеждане на избирателите. През последната година хората използваха изкуствен интелект, за да създават и разпространяват фалшиви видеоклипове на президента Байдън, който прави неверни или подстрекателски изявления. Главната прокуратура на Ню Хемпшир също разследва поредица от автоматични обаждания, които изглежда използват генериран от AI глас за г-н Байдън, който призовава хората да не гласуват на последните първични избори.

Сенаторите Брайън Шац, демократ от Хавай, и Джон Кенеди, републиканец от Луизиана, Законодателство, предложено миналия октомври Това ще изисква компаниите да откриват и етикетират изкуствено генерирано съдържание и да работят заедно за създаване или използване на стандарти, подобни на тези, приети от Meta.

Meta, която притежава Facebook, Instagram, WhatsApp и Messenger, е в уникална позиция, тъй като разработва технология, за да насърчи широкото приемане от потребителите на AI инструменти, като същевременно е в състояние да разпространява генерирано от AI съдържание като най-голямата социална мрежа в света. Г-н Клег каза, че позицията на Мета й дава специален поглед върху генерирането и разпространението на проблема.

Meta работи върху поредица от технологични спецификации, наречени IBTC И C2PA Стандарти. Това е информацията, която определя дали даден цифров носител е оригинален в метаданните за съдържанието. Метаданните са основна информация, вградена в цифрово съдържание, която предоставя техническо описание на това съдържание. И двата стандарта вече се използват широко от новинарски организации и фотографи за описание на изображения или видеоклипове.

Adobe, която прави софтуера за редактиране Photoshop, и множество други технологични и медийни компании прекараха години Притискайте връстниците си да го приемат Създаден е стандарт C2PA Инициатива за автентичност на съдържанието. Инициативата е партньорство между десетки компании, включително The New York Times, за борба с дезинформацията и „добавяне на слой от ясна манипулация на източника към всички видове цифрово съдържание, от снимки, видео и документи“, според организацията.

Компаниите, които предлагат инструменти за създаване на AI, могат да добавят стандарти към метаданните на видеоклипове, изображения или аудио файлове, които са помогнали да създадат. Това би показало на мрежите на социалните медии като Facebook, X (бивш Twitter) и YouTube, че това съдържание е било изкуствено, когато е било качено на техните платформи. Тези компании от своя страна могат да добавят етикети, показващи, че тези публикации са генерирани от изкуствен интелект, за да информират потребителите, които са ги гледали в социалните мрежи.

Meta и други също молят потребителите, които публикуват AI съдържание, да посочат дали са го направили, когато го качват в корпоративни приложения. Неспазването на това води до санкции, въпреки че компаниите не са уточнили какви са тези санкции.

Г-н Клег също така каза, че ако компанията установи, че дигитално създадена или модифицирана публикация „създава особено висок риск от материална измама на обществеността относно въпрос, който предизвиква безпокойство“, Meta може да добави по-забележим етикет към публикацията, за да даде на обществеността повече информация и контекст за нейния източник.

Технологията за изкуствен интелект напредва бързо, което подтиква изследователите да се опитват да бъдат в крак с разработването на инструменти за откриване на фалшиво съдържание онлайн. Въпреки че компании като Meta, TikTok и OpenAI са разработили начини за откриване на такова съдържание, технолозите бързо са намерили начини да заобиколят тези инструменти. Изкуствено генерираните видеоклипове и аудио се оказаха по-трудни за откриване от AI изображения.

(The New York Times Company съди OpenAI и Microsoft за нарушаване на авторски права върху използването на статии на Times за обучение на AI системи.)

„Лошите актьори винаги ще се опитват да заобиколят всички стандарти, които сме поставили“, каза г-н Клег. Той описа технологията като „меч и щит“ за индустрията.

Част от тази трудност произтича от фрагментирания характер на подхода на технологичните компании към този проблем. Миналата есен, TikTok Обявете нова политика Това може да изисква потребителите да добавят етикети към своите качени видеоклипове или снимки, създадени с AI на YouTube Обявете Подобна инициатива стартира през ноември.

Новото предложение на Meta ще се опита да свърже някои от тези усилия. Други усилия на индустрията, напр Партньорство в областта на изкуствения интелектсъбра десетки компании, за да обсъдят подобни решения.

Г-н Клег каза, че се надява повече компании да се съгласят да участват в стандарта, особено с наближаването на президентските избори.

„Ние смятаме особено силно, че по време на тази изборна година изчакването, докато всички парчета от пъзела си дойдат на мястото, преди да се действа, няма да бъде оправдано“, каза той.