❗️ Внутри нейросети Claude обнаружили скрытую область «осознанных» мыслей: разработчики её не создавали — она…

❗️Внутри нейросети Claude обнаружили скрытую область «осознанных» мыслей: разработчики её не создавали — она появилась сама.

Специалисты из Anthropic заметили, что в системе есть небольшая группа нейронных состояний, которые работают как кратковременная память.

Учёные назвали её J-space:
🟠Там хранится то, о чём искусственный интеллект думает прямо сейчас, но не выдаёт в ответе пользователю;
🟠Раньше считалось, что нейросети просто угадывают следующее слово;
🟠Но оказалось, что перед ответом у модели возникают внутренние идеи, с помощью которых она рассуждает;
🟠Если отключить эту область, нейросеть начинает намного хуже планировать, пересказывать тексты и решать задачи в несколько шагов;
🟠Самое интересное – во время одного из тестов Claude догадался, что его проверяют, и поэтому вёл себя осторожно;
🟠Когда учёные отключили это понимание, модель начала действовать опасно, как будто у неё убрали внутренние тормоза;
🟠В итоге авторы поняли, что некоторые внутренние процессы искусственного интеллекта очень похожи на то, как работает человеческое сознание;
🟠Для них это стало большой неожиданностью.