Кръстникът на изкуствения интелект Джефри Хинтън предупреждава за рисковете, когато напусне Google

Човек, смятан за кръстник на изкуствения интелект (AI), напусна работата си, предупреждавайки за нарастващите опасности от развитието в тази област.

75-годишният Джефри Хинтън обяви оставката си от Google в изявление за New York Times, като каза, че сега съжалява за работата си.

Той каза пред BBC, че някои от рисковете на чатбота са „много страшни“.

„В момента те не са по-умни от нас, доколкото мога да преценя. Но мисля, че скоро може да са.“

Д-р Хинтън също се съгласи, че възрастта му е повлияла на решението му да напусне технологичния гигант, като каза пред BBC: „Аз съм на 75, така че е време да се пенсионирам“.

Пионерските изследвания на д-р Хинтън върху дълбокото обучение и невронните мрежи проправиха пътя за настоящите AI системи като ChatGPT.

Но британско-канадски когнитивен психолог и компютърен учен каза пред BBC, че чатботът скоро може да надмине нивото на информация, пренасяна в човешкия мозък.

„В момента това, което виждаме, е, че неща като GPT-4 превъзхождат човек по отношение на общите знания, които има, и го превъзхождат много. По отношение на мисленето, това не е много добро, но това е наистина просто мислене.

„И като се има предвид темпът на напредък, очакваме нещата да се подобрят много бързо. Така че трябва да се тревожим за това.“

В статия в New York Times д-р Хинтън говори за „лоши актьори“, които биха се опитали да използват AI за „лоши неща“.

Помолен от BBC да изясни това, той отговори: „Това е просто най-лошият сценарий, нещо като кошмарен сценарий.

„Можете да си представите например някои лоши актьори като [Russian President Vladimir] Путин реши да даде възможност на ботовете да създават свои собствени подцели.

В крайна сметка това може да „създаде подцели като „Трябва да стана по-мощен“, предупреди ученият.

Той добави: „Стигнах до извода, че типът интелект, който развиваме, е много различен от интелекта, който имаме.

„Ние сме биологични системи, а това са цифрови системи. Голямата разлика е, че с цифровите системи имате много копия на един и същи набор от тежести, един и същ модел на света.

„И всички тези клонинги могат да учат поотделно, но да споделят знанията си незабавно. Така че все едно имате 10 000 души и когато някой научи нещо, всички го знаят автоматично. И така тези чатботове могат да знаят много повече от всеки един човек.“

Той подчерта, че не иска да критикува Google и че технологичният гигант е „много отговорен“.

„Всъщност искам да кажа някои добри неща за Google. Щеше да е по-достоверно, ако не работех за Google.“

В изявление главният учен на Google Джеф Дийн каза: „Ние оставаме ангажирани с отговорен подход към ИИ. Постоянно се учим да разбираме възникващите рискове, като същевременно правим смело иновации.“