Нов инструмент позволява на артистите да „тровят“ своите произведения на изкуството, за да възпрат компаниите, занимаващи се с изкуствен интелект

Художниците, които искат да споделят своето произведение на изкуството, често са изправени пред труден избор: или да го запазят офлайн, или да го публикуват в социалните медии и рискуват да бъдат използвани за обучение на гладни за данни AI генератори на изображения.

Но нов инструмент скоро може да помогне на художниците да възпират компаниите с изкуствен интелект да използват техните произведения на изкуството без разрешение.

Нарича се „Nightshade“ и е разработен от екип изследователи от Чикагския университет. Той работи, като „отравя“ креативността на художника чрез фина промяна на пикселите в изображението, така че AI моделите да не могат точно да определят какво изобразява изображението, според Verge. MIT Technology Review.

Въпреки че човешкото око не е в състояние да открие тези малки промени, те имат за цел да накарат модела за машинно обучение да етикетира неправилно изображението като нещо различно от това, което е. Тъй като тези AI модели разчитат на точни данни, този процес на „отравяне“ ще направи изображението безполезно за целите на обучението.

Ако достатъчно от тези „отровени“ изображения бъдат извлечени от мрежата и използвани за обучение на AI генератор на изображения, самият AI модел може да не е в състояние да произведе точни изображения.

Например, изследователите подадоха Stable Diffusion, генератор на изображения с изкуствен интелект, към модел с изкуствен интелект, който генерира 50 „токсични“ изображения на кучета, и след това го помолиха да генерира нови изображения на кучета. Създадените изображения показват животни с твърде много крайници или карикатурни лица, които приличат донякъде на кучета, според MIT Technology Review.

След като изследователите захраниха Stable Diffusion 300 с „токсични“ изображения на кучета, в крайна сметка започнаха да създават изображения на котки. Stable Diffusion не отговори на искането на CNBC Make It за коментар.

На пръв поглед генераторите на изкуство с изкуствен интелект изглежда създават изображения от нищото въз основа на всяка подкана, която някой им даде.

Но това не е магия, която помага на тези генеративни AI модели да създават реалистични изображения на розов жираф или подводен замък, това са данни за обучение и много от тях.

Компаниите за изкуствен интелект обучават моделите си на огромни набори от данни, като помагат на моделите да идентифицират кои изображения са свързани с думи. За да може AI модел да създаде правилно изображение на розов жираф, той трябва да бъде обучен да разпознава правилно изображения на жирафи и розовия цвят.

Голяма част от данните, използвани за обучение на много генеративни AI системи, се извличат от мрежата. Въпреки че в Съединените щати е законно компаниите да събират данни от публично достъпни уебсайтове и да ги използват за различни цели, става сложно, когато става въпрос за произведения на изкуството, тъй като художниците обикновено притежават авторските права върху произведенията си и понякога… Те не не искат техните произведения на изкуството да се използват за обучение на AI модел.

Въпреки че артистите могат да се запишат в „списъци за отказ“ или „директиви без изтриване“, често е трудно да се принудят компаниите да се придържат към тези директиви, Глазура в UChicagoказа екипът от изследователи, създали Nightshade, в тема от 24 октомври в X, известна преди като Twitter.

„Нито един от тези механизми не може да бъде изпълним или дори проверим“, казаха те в тема от 24 октомври „Компаниите показаха, че могат сляпо да игнорират отказите“. „Но дори да са се съгласили и да са действали по различен начин, никой не може да го провери или докаже (поне не днес). Тези инструменти са беззъби“, добави той.

В крайна сметка изследователите се надяват Nightshade да помогне на художниците да защитят своето изкуство.

Изследователите все още не са пуснали публично своя инструмент Nightshade, но са изпратили работата си за партньорска проверка и се надяват скоро да я направят достъпна, каза Glaze от UChicago за X.

Не пропускайте: Искате да бъдете по-умни и по-успешни в парите, работата и живота си? Абонирайте се за нашия нов бюлетин!

Получава Безплатното ръководство за инвестиране на Уорън Бъфет на CNBCкойто обобщава най-добрите съвети на милиардера за ежедневните инвеститори, какво трябва и не трябва да се прави и три ключови принципа за инвестиране в ясно и просто ръководство.

изплащане: Изкуственият интелект е най-новата модна дума в технологиите, но преди да инвестирате, запознайте се с тези четири термина