Главният учен в Microsoft Research няма проблем да извика • системния регистър на Windows

Когато беше помолен да проучи проблемите с поверителността на данните, произтичащи от Microsoft Recall, инструмент за самонаблюдение, който не беше получен от производителя на Windows, Jaime Teevan, главен учен и технически сътрудник в Microsoft Research, отхвърли опасенията.

Теван разговаря в сряда с Ерик Бриньолфсон, директор на лабораторията за цифрова икономика в Станфордския университет, на конференцията за петата годишнина на Института за изкуствен интелект, ориентиран към човека към Американския университет.

Бриньолфсон каза, че при обявяването на Recall е имало „вид обратна реакция срещу всички предизвикателства, свързани с поверителността около това. Така че, говорете за плюсовете и минусите от използването на всички тези данни и някои от рисковете, които създава, както и някои от възможностите. „

Очевидно това беше популярна тема.

Разбира се, ние преосмисляме какво означават данните, как ги използваме, как ги оценяваме и как се използват

„Да, и това е страхотен въпрос, Ерик“, каза Теван. „Това беше повдигнато и цяла сутрин – важността на данните. И AI революцията, която виждаме сега, наистина променя начина, по който разбираме данните.“

Тя продължи: „Майкрософт като цяло помага на големи организации да управляват своите данни, да създават данни и да споделят данни и тези данни наистина са нещо, което прави работата на бизнеса различна в контекста на генеративния AI.

„Като индивиди също имаме важни данни, данни, с които взаимодействаме през цялото време, и има възможност да започнем да мислим как правим това и да започнем да мислим какво означава да можем да улавяме това и да го използваме. Но разбира се, ние преосмисляме какво означават данните и как ги използваме, как ги оценяваме.“ И как се използват.

Записвайте Отбелязах, когато Recall беше представен на Microsoft Build миналия месец, че софтуерът – който създава архив от екранни снимки, направени на всеки няколко секунди и записва потребителските дейности, така че предишните действия могат да бъдат запомнени – представлява значителен риск за поверителността. Както наскоро описано Създаден от автора Чарли Строус, той е „продуктът, който никой не иска“ и „глупав показ на абсолютна поверителност“.

Неуплашен от нежеланието на Теван да признае защо Recall предизвиква напрежение, Бриньолфсон разследва допълнително.

„Локално ли се съхранява?“ Попитан. „Така че да кажем, че активирам Recall и не знам дали мога, но когато имате нещо подобно, ще се притеснявам, че всичките ми лични файлове ще отидат в облака, или Microsoft, или нещо подобно. Имате ли това?

Теван отговори: „Да, да, това е основното нещо, което ни интересува много като компания, всъщност е защитата на данните. Така че Recall е функция, която улавя информация. Това е локална функция на Windows, нищо не отива в облака, всичко се съхранява локално.“

И сякаш постоянното регистриране на компютърните дейности на дадено лице в поредица от екранни снимки и регистрационни файлове на дейността нямаше последици за сигурността или поверителността, ако данните бяха локални и защитени от идентификационните данни на акаунта на Microsoft – не много успокоение в светлината на публикуването на изследователя по сигурността Алекс Хагена инструмент Зов за завръщане. Този код може да извлича и показва данни от некриптираната база данни SQLite на Recall, където „функцията“ на операционната система съхранява моментни снимки на потребителската активност.

Междувременно изследователи и анализатори по сигурността продължават да призовават изтеглянето, планирано да бъде издадено по-късно този месец, да бъде забравено.

Както твърди Stross, компютрите с Windows, оборудвани с призовка, ще бъдат насочени към адвокатите по време на процедурите за откриване, защото те ще осигурят достъп не само до имейли, но и до разговори във всяко приложение за съобщения или сътрудничество и потенциално разговори, ако данните за прехвърляне на реч бъдат заснети в текст от регистратора на активността на Редмънд. Също така е лесно за хакера да подслушва какво е правила жертвата им напоследък, лично или на работа.

„Това е абсурдно за всяка организация, която борави с медицински досиета или има законово задължение за поверителност, за всяка компания, която трябва да спазва GDPR (как Recall се справя с правото да бъдеш забравен? Накратко: лошо) или HIPAA.“ В Съединените щати“, пише той в публикацията си.

„Този ​​недостатък противоречи на закона за неприкосновеността на личния живот в целия ЕС (и в Обединеното кралство) и в здравните организации навсякъде, които имат медицинско право на поверителност.“

Позовавайки се на способността на Recall да избягва улавяне на DRM съдържание, писателят на научна фантастика продължи: „Единствените хора, чиято поверителност не е нарушена, са холивудските студия и Netflix, което ви казва нещо за състоянието на нещата.“ ®

Също така в Станфордския университет: За да се реши енергийната криза с ИИ, „целият спектър от електроните до алгоритмите трябва да бъде преосмислен“, казва професорът по физика.