Китайската полиция арестува мъж, за когото се твърди, че е използвал ChatGPT за разпространение на фалшиви новини

Китайската полиция арестува мъж, за когото твърди, че е използвал ChatGPT, за да създаде фалшива новинарска статия за влакова катастрофа, в това, което изглежда е първият случай на принудителни действия, предприети в Китай съгласно безпрецедентен закон, свързан с изкуствения интелект.

Случаят подчертава усилията на китайските власти да регулират и наблюдават използването на изкуствен интелект с напредването на технологията.

Полицията в северозападната китайска провинция Гансу арестува мъж на име Хонг, за когото се твърди, че е измислил новинарска история, свързана с влакова катастрофа, при която загинаха девет души.

Властите установиха, че повече от 20 акаунта са публикували тази статия в платформа за блогове, собственост на китайския гигант за търсене Baidu, събрала повече от 15 000 гледания.

Твърди се, че Хонг е използвал ChatGPT, за да създаде малко по-различни версии на статията с фалшиви новини, за да премине двойни проверки на платформата, собственост на Baidu.

ChatGPT, създаден от американската компания OpenAI, е пример за чатбот, базиран на генеративна AI технология, която позволява на програмата да генерира отговори въз основа на потребителски подкани и въпроси. Например, потребителите могат да поискат от ChatGPT да измисли история въз основа на конкретни инструкции.

Хонг беше арестуван от полицейските власти в Гансу съгласно първия по рода си закон, уреждащ „техники за дълбок синтез“, въведен от Китай тази година. Техниките за дълбок синтез се отнасят до използването на изкуствен интелект за създаване на текст, изображения, видеоклипове или други медии. Законът гласи, че услугите за дълбок синтез не могат да се използват за разпространение на фалшиви новини.

Китай изготви проекта на закона, докато ChatGPT наистина се развиваше и набираше популярност, тъй като властите искаха да изпреварят технологията. Интернет в Китай е силно цензуриран и контролиран. Пекин се опита да въведе закони, регулиращи новите технологии, които биха могли да предизвикат опасения у централното правителство.

ChatGPT е блокиран в Китай, но може да бъде достъпен чрез виртуална частна мрежа – софтуер, който може да помогне за заобикаляне на интернет ограниченията в страната.

Китайските технологични гиганти в момента експериментират със своите конкуренти в ChatGPT. Но това не са широко достъпни чатботове като ChatGPT. Вместо това китайските компании са били по-предпазливи в подхода си и са се насочили отчасти към конкретни употреби, казаха анализатори пред CNBC, за да не изплашат регулаторите и правителството.

Например продуктът Tongyi Qianwen AI на Alibaba в крайна сметка ще бъде пуснат в софтуера за комуникация на работното място DingTalk и Tmall Genie, доставчик на хардуер за интелигентен дом.