Проект Facebook Ego4D: как искусственный интеллект с «эпизодической памятью» вызывает споры о конфиденциальности

Команда искусственного интеллекта Facebook работает над системой, которая будет постоянно анализировать жизнь владельцев. Она записывает то, что они видят, делают и слышат, чтобы помогать в повседневных задачах. В числе развиваемых навыков — «эпизодическая память» и «аудиовизуальный дневник».

Пока такие задачи не могут быть надёжно решены ни одной системой ИИ. Facebook подчёркивает, что это исследовательский проект, а не коммерческая разработка. Однако компания видит в подобных функциях будущее AR-вычислений.

Эксперты по конфиденциальности обеспокоены тем, как умные очки Facebook позволяют скрытно записывать информацию о других. Эти опасения усилятся, если разработки превратят пользователей в носителей передвижных машин наблюдения.

Проект называется Ego4D и состоит из двух частей: набора данных с видео от первого лица и серии тестов для систем ИИ. Facebook создаёт крупнейшую в своём роде базу данных вместе с 13 университетами.

855 участников из девяти стран записали около 3205 часов видео. Они использовали камеры GoPro и AR-очки, фиксируя повседневные активности от готовки до общения. Это в разы больше, чем в сопоставимых проектах.

Все кадры были деидентифицированы университетами. Это включало размытие лиц прохожих и удаление любой личной информации.

Вторая часть Ego4D — это серия задач для ИИ, таких как эпизодическая память, прогнозирование действий, манипуляции предметами и аудиовизуальный дневник. Сюда же входит анализ социальных взаимодействий.

Сейчас системам ИИ невероятно сложно решить эти задачи. Однако создание наборов данных и тестов — проверенный метод стимулирования развития искусственного интеллекта.

Facebook надеется, что системы, обученные на Ego4D, смогут использоваться не только в носимых камерах, но и в домашних роботах-помощниках.

Практические задачи Facebook вызывают беспокойство из-за истории проколов компании в области конфиденциальности. Тесты Ego4D не включают мер по удалению данных о людях, которых записали без их согласия.

«Мы ожидаем появления систем защиты конфиденциальности и разработки мер безопасности с соответствующими протоколами в дальнейшем», — сообщил представитель Facebook.