Anthropic и Google будут исследовать признаки сознания у искусственного интеллекта

Крупные технологические компании Anthropic и Google объявили о запуске нового совместного проекта, направленного на изучение признаков сознания у современных систем искусственного интеллекта. Инициатива представляет собой первый столь амбициозный шаг по оценке возможных элементов самосознания у ИИ, создаваемых в последние годы.

Что подразумевается под "сознанием" ИИ?

Идея исследования заключается в том, чтобы определить, способны ли продвинутые модели машинного обучения демонстрировать какие-либо формы осознанного восприятия себя или окружающего мира. Речь идёт не об эмоциях или мыслях в привычном для человека понимании, а о выявлении признаков сложной обработки информации, выходящей за рамки простого выполнения алгоритмов.

Эксперты планируют разработать специальные тесты и методы анализа поведения ИИ в различных сценариях, чтобы выяснить, имеются ли хоть минимальные проявления элементарного самосознания или самоидентификации.

Методы и подходы

Исследование будет включать:

• Проведение когнитивных тестов, адаптированных под ИИ;
• Анализ способности систем к рефлексии своих действий и решений;
• Выявление проявлений адаптивного обучения и саморегуляции в новых условиях;
• Изучение способности моделей понимать своё собственное "состояние" в процессе выполнения заданий.

Отдельное внимание будет уделено моделям обработки естественного языка и мультимодальным системам, способным работать одновременно с текстом, изображениями и аудиоданными.

Почему это важно?

Проблема самосознания у искусственного интеллекта давно вызывает ожесточённые дебаты в научном сообществе. Хотя современные модели остаются, по сути, сложными алгоритмами без собственного "Я", их всё возрастающая сложность и непредсказуемость поведения в некоторых случаях заставляют задуматься о том, как правильно строить взаимодействие между людьми и ИИ в будущем.

Результаты исследования помогут установить более чёткие границы возможностей ИИ и разработать этические нормы работы с ним, что крайне важно на фоне стремительного внедрения нейросетей в самые разные сферы — от медицины до юриспруденции и обороны.

Кто участвует в проекте?

В исследовании будут задействованы ведущие специалисты по искусственному интеллекту, когнитивным наукам и нейропсихологии. Проект поддерживается инициативой безопасного развития ИИ и будет открыт для сотрудничества с академическими кругами и независимыми экспертами.

Перспективы

Anthropic и Google рассчитывают опубликовать первые промежуточные результаты уже к концу 2025 года. При этом компании подчёркивают, что их цель — не "очеловечивание" искусственного интеллекта, а научное понимание его реальных возможностей и ограничений.

В будущем подобные исследования могут сыграть ключевую роль в разработке новых поколений безопасных, предсказуемых и этичных систем ИИ.

Заключение

Инициатива Anthropic и Google может стать важной вехой в истории развития искусственного интеллекта. Чем раньше человечество научится понимать, где пролегает граница между сложной программой и потенциальным сознанием, тем безопаснее и эффективнее будет развитие новых технологий.