Слушайте и научете: Речеви сигнали за AI системи като човешкия мозък

резюме: Системите с изкуствен интелект (AI) могат да обработват сигнали, подобни на това как мозъкът интерпретира речта, което може да помогне да се обясни как работят системите с AI. Учените са използвали електроди върху главите на участниците, за да измерват мозъчните вълни, докато слушат една сричка и сравняват мозъчната активност с AI система, обучена да учи английски. Те откриха, че формите са удивително сходни, което може да помогне за разработването на все по-мощни системи.

Ключови факти:

1. Изследователите откриха, че сигналите, произведени от AI система, обучена да учи английски, са забележително подобни на мозъчните вълни, измерени, когато участниците слушат една сричка, „бах“, в проучване, публикувано наскоро в списание Scientific Reports.
2. Екипът използва система от електроди, поставени на главите на участниците, за да измерва мозъчните им вълни, докато слушат аудиото, и след това сравнява мозъчната им активност със сигналите, произведени от AI системата.
3. Разбирането как и защо AI системите предоставят информацията, която предоставят, стана важно, тъй като те се вкореняват в ежедневието в области, вариращи от здравеопазване до образование.
4. Изучаването на вълните в тяхната сурова форма ще помогне на изследователите да разберат и подобрят как тези системи се учат и стават все по-отразяващи човешкото познание.

източник: Калифорнийски университет, Бъркли

Ново изследване от Калифорнийския университет в Бъркли показва, че системите с изкуствен интелект (AI) могат да обработват сигнали по начин, забележително подобен на начина, по който мозъкът интерпретира речта, казват учените, откритие, което може да помогне да се обясни черната кутия за това как работят системите за AI . .

Използвайки система от електроди, поставени върху главите на участниците, учени от лабораторията за аритметика и реч в Бъркли измерват мозъчните им вълни, докато участниците слушат една-единствена сричка – „бах“. След това те сравняват мозъчната активност със сигналите, произведени от AI система, обучена да учи английски.

„Формите са удивително сходни“, каза Джаспър Бигос, асистент по лингвистика в Калифорнийския университет в Бъркли и водещ автор на изследването, публикувано наскоро в списание The Journal. Научни доклади. „Това ви казва, че подобни неща се кодират и обработката е подобна.“

Диаграмата за сравнение на двата сигнала показва, че приликата е поразителна.

„Няма промени в данните“, добави Бигос. — Това е сурово.

Напоследък системите с изкуствен интелект се развиха главоломно. Откакто ChatGPT се разпространи по целия свят миналата година, тези инструменти се очакваше да обърнат нагоре сектори на обществото и да революционизират начина, по който работят милиони хора. Но въпреки този впечатляващ напредък, учените имаха ограничено разбиране за това как точно създадените от тях инструменти работят между входа и изхода.

Въпросите и отговорите на ChatGPT бяха еталонът за измерване на интелигентността и пристрастията на AI система. Но това, което се случва между тези стъпки, е черна кутия. Знаейки как и защо тези системи предоставят информацията, която предоставят – как учат – става важно, тъй като те се вкореняват в ежедневието в области, вариращи от здравеопазване до образование.

Бигос и неговите съавтори, Алън Джоу от университета Джон Хопкинс и Т-Кристина Джао от университета във Вашингтон, са сред учените, които работят за отварянето на тази кутия.

За да направи това, Пегус се обърна към обучението си по лингвистика.

Когато слушаме изречени думи, звукът влиза в ушите ни и се преобразува в електрически сигнали, каза Пегус. След това тези сигнали преминават през мозъчния ствол и до външните части на нашия мозък.

С електроден експеримент изследователите проследиха този път в отговор на 3000 повторения на един звук и откриха, че говорните мозъчни вълни проследяват отблизо действителните звуци на езика.

Изследователите изпратиха същия запис на звук „бах“ чрез неконтролирана невронна мрежа – система с изкуствен интелект – която може да интерпретира звука. Използвайки техника, разработена в Лабораторията за изчисления и реч в Бъркли, те измерват синхронните вълни и документират кога са се появили.

Предишни изследвания изискваха допълнителни стъпки за сравняване на вълните от мозъка и машините. Бигос каза, че изучаването на вълните в тяхната сурова форма ще помогне на изследователите да разберат и подобрят как тези системи се учат и все повече отразяват човешкото познание.

„Наистина се интересувам като учен от тълкуването на тези модели“, каза Бигос. „Те са толкова мощни. Всеки говори за тях. Всеки ги използва. Но много по-малко усилия се влагат в опитите да ги разберем.“

Бигос вярва, че това, което се случва между входовете и изходите, не трябва да остава черна кутия. Разбирането как тези сигнали се сравняват с мозъчната активност на хората е важен критерий в надпреварата за изграждане на все по-мощни системи. Така че знаете какво се случва под капака.

Например, това разбиране може да помогне за поставянето на парапети на все по-мощни AI модели. Може също така да подобри нашето разбиране за това как грешките и пристрастията са включени в процесите на обучение.

Пегос каза, че той и колегите му си сътрудничат с други изследователи, използвайки техники за изобразяване на мозъка, за да измерят как се сравняват тези сигнали. Те също така изучават как други езици, като мандарин, се декодират по различен начин в мозъка и какво може да показва това знание.

Много модели се обучават по визуални сигнали, като цветове или въведен текст – и двата имат хиляди вариации на детайлно ниво. Езикът обаче отваря вратата към по-добро разбиране, каза Бигос.

Английският например има няколко десетки звука.

„Ако искате да разберете тези модели, трябва да започнете с прости неща. Говоренето е най-лесният начин да разберете“, каза Пегос. „Много се надявам речта да е нещото, което ще ни помогне да разберем как се научават тези модели.“

В когнитивната наука една от основните цели е да се изградят математически модели, които са възможно най-подобни на хората. Наскоро документираните прилики в мозъчните вълни и AI вълните са мярка за това колко близо са изследователите до постигането на тази цел.

„Не казвам, че трябва да изграждаме неща като хората“, каза Бигос. „Не казвам, че нямаме. Но е важно да разберем как различните структури на хората са подобни или различни.“

Относно това търсене на новини за изкуствен интелект

автор: Джейсън Пол
източник: Калифорнийски университет, Бъркли
комуникация: Джейсън Пол – Калифорнийски университет, Бъркли
снимка: Изображението е кредитирано на Neuroscience News

Оригинално търсене: свободен достъп.
„Кодиране на речта в конволюционни слоеве и слоеве на мозъчния ствол въз основа на езиков опитНаписано от Джаспър Бигос и др. Научни доклади

резюме

Кодиране на речта в конволюционни слоеве и слоеве на мозъчния ствол въз основа на езиков опит

Сравнението на изкуствените невронни мрежи с резултатите от технологиите за невроизображение наскоро отбеляза значителен напредък в (компютърното) зрение и текстово-базирани езикови модели. Тук предлагаме рамка за сравняване на биологични и синтетични невронни изчисления на представяния на говорим език и предлагаме няколко нови предизвикателства пред този модел.

Предложената техника се основава на подобен принцип, който е в основата на електроенцефалографията (ЕЕГ): осредняване на невронната активност (изкуствена или биологична) в невроните във времевата област и позволява сравнение на кодирането на всяко акустично свойство в мозъка и в междинните конволюционни слоеве на изкуствена невронна мрежа.

Нашият подход позволява директно сравнение на отговорите на акустично свойство в мозъка и в дълбоки невронни мрежи, които не изискват никакви линейни трансформации между сигналите. Ние твърдим, че отговорът на мозъчния ствол (cABR) и отговорът в междинните конволюционни слоеве към абсолютно същия стимул са много сходни, без да се прилагат никакви трансформации, и ние количествено определяме това наблюдение.

Предложената техника не само разкрива прилики, но също така позволява анализ на кодирането на действителните акустични свойства в двата сигнала: сравняваме пикова латентност (1) в cABR спрямо стимулация в мозъчния ствол и в (2) междинни конволюционни слоеве спрямо вход/изход в дълбоки конволюционни мрежи.

Ние също така изследваме и сравняваме ефекта от предишно излагане на език върху пиковата латентност в cABR и в междинните конволюционни слоеве. Появяват се значителни прилики в пиковата латентност между човешкия мозък и междинните конволюционни мрежи въз основа на резултатите от осем обучени мрежи (включително експеримента за репликация).

Предложената техника може да се използва за сравняване на кодирането между човешкия мозък и междинните конволюционни слоеве за всяко акустично свойство и други техники за невроизображение.