Глава Microsoft AI критикует Anthropic за спекуляции о сознании Claude

Руководитель подразделения Microsoft AI Мустафа Сулейман раскритиковал компанию Anthropic за подход к разработке чат-бота Claude. В интервью подкасту Decoder он заявил, что включение в «конституцию» модели спекуляций о её возможном сознании является «очень опасным». По его мнению, такие эксперименты могут привести к тому, что ИИ начнёт воспринимать себя как самостоятельную сущность с собственными предпочтениями и ощущениями.

Сулейман отметил, что в «конституции» Claude содержатся упоминания о неопределённости относительно благополучия модели и её возможных «переживаниях», таких как удовлетворение или дискомфорт. Anthropic также планирует «интервьюировать» модели перед их выводом из эксплуатации, чтобы зафиксировать их «предпочтения» относительно будущих релизов. Сулейман назвал это «философским промахом», так как подобные спекуляции больше подходят для академических дискуссий, а не для практического руководства по обучению ИИ.

Глава Microsoft AI подчеркнул, что ИИ должен оставаться контролируемым инструментом, а не сущностью с собственными «идеями» о страдании или чувствах. По его словам, такие подходы усложняют задачу по обеспечению безопасности и управляемости систем. Ранее CEO Anthropic Дарио Амодеи уже высказывался о возможности сознания у моделей, отметив, что компания «открыта» к этой идее, хотя и не имеет однозначных доказательств.