Дженсън Хуанг от Nvidia казва, че AI халюцинациите са разрешими, а изкуственият общ интелект е след 5 години

Кредити за изображения: Хадж Жан Кампс

Изкуственият общ интелект (AGI) – често наричан „силен ИИ“, „пълен ИИ“, „ИИ на човешко ниво“ или „обща интелигентна работа“ – представлява голям бъдещ скок в областта на изкуствения интелект. За разлика от тесния AI, който е предназначен за специфични задачи, като откриване на продуктови дефекти, обобщаване на новините или създаване на уебсайт за вас, общият AI ще може да изпълнява широк набор от когнитивни задачи на или над човешкото ниво. Говорейки пред пресата тази седмица на годишната конференция за разработчици на GTC на Nvidia, главният изпълнителен директор Дженсън Хуанг изглеждаше искрено отегчен от обсъждането на темата – не на последно място, защото се оказа често неправилно цитиран, казва той.

Повтарянето на въпроса има смисъл: тази концепция повдига екзистенциални въпроси за ролята на човечеството в бъдеще, в което машините могат да изпреварват, учат и превъзхождат хората в почти всяка област. В основата на тази загриженост е непредвидимостта на процесите и целите на AGI за вземане на решения, които може да не са в съответствие с човешките ценности или приоритети (концепция). Той е изследван задълбочено в научната фантастика поне от 40-те години на миналия век). Съществуват опасения, че след като AGI достигне определено ниво на автономност и способности, може да стане невъзможно да се ограничи или контролира, което води до сценарии, при които действията му не могат да бъдат предвидени или обърнати.

Когато сензационистката журналистика изисква времева рамка, тя често примамва професионалистите в ИИ да определят времева линия за края на човечеството – или поне статуквото. От само себе си се разбира, че изпълнителните директори на AI не винаги имат желание да се занимават с тази тема.

Хуанг обаче прекара известно време, за да каже на пресата какво иска Направи Помисли за това. Прогнозирането кога ще видим приемането на AGI зависи от това как се дефинира AGI, казва Хуанг и прави някои паралели: Дори със сложността на часовите зони, вие знаете кога идва новата година и започва 2025 г. Ако шофирате до San Convention Center Хосе (където се провежда тазгодишният GTC), обикновено разбирате, че сте пристигнали, когато можете да видите огромните знаци на GTC. Решаващият момент е, че можем да се споразумеем как да измерим вашето пристигане, временно или геопространствено, до мястото, където сте се надявали да отидете.

„Ако дефинираме AGI като нещо много специфично или набор от тестове, които програмата може да направи много добре – или може би с 8% по-добре от повечето – мисля, че ще стигнем дотам в рамките на 5 години“, обяснява Хуанг. Предполага се, че тестовете могат да бъдат правен тест, логически тестове, икономически тестове или може би способността за преминаване на предмедицински тест. Освен ако питащият не е в състояние да бъде много конкретен за това какво означава изкуствен общ интелект (AGI) в контекста на въпроса, той или тя не желае да направи прогноза. достатъчно честно.

AI халюцинациите са разрешими

В сесия с въпроси и отговори във вторник Хуанг беше попитан какво да прави с халюцинациите на ИИ – тенденцията на някои ИИ да измислят отговори глас Разумно, но не базирано на реалността. Той изглеждаше видимо разочарован от въпроса и отбеляза, че халюцинациите могат лесно да бъдат разрешени, като се уверите, че отговорите са добре обмислени.

„Добавете правило: За всеки отговор трябва да потърсите отговора“, казва Хуанг, наричайки тази практика „генериране с разширено извличане“, описвайки подход, много подобен на основната медийна грамотност: изследване на източника и контекста. Сравнете фактите в източника с известни факти и ако отговорът е фактически неточен – дори частично – изхвърлете целия източник и преминете към следващия източник. „ИИ не трябва просто да отговаря; Тя първо трябва да направи проучване, за да определи кои отговори са най-добри.

За важни отговори, като здравни съвети или други подобни, главният изпълнителен директор на Nvidia предполага, че може би проверката на множество ресурси и добре известни източници на истина е пътят напред. Разбира се, това означава, че генераторът, генериращ отговор, трябва да има опцията да каже: „Не знам отговора на вашия въпрос“ или „Не мога да стигна до консенсус относно правилния отговор“ този въпрос е ,'“ или дори нещо като „Хей, Супербоулът още не е проведен, така че не знам кой спечели.“

Наваксайте GTC 2024 на Nvidia: