Думает, как человек: в нейросети Claude нашли механизм, похожий на сознание

Ученые компании Anthropic, создатели языковой модели Claude, обнаружили внутри нее необычную структуру, которая функционально напоминает один из механизмов человеческого мышления. Речь идет о J-space — «рабочем пространстве», куда модель помещает ключевые концепции, когда решает сложные задачи. Этот механизм не был заложен разработчиками намеренно — он возник самостоятельно в процессе обучения.

«J-space появился сам во время обучения модели — вероятно, нейросеть пришла к такому способу организации информации, потому что он оказался наиболее эффективным для решения сложных задач», — передают слова Anthropic «ВЕДы».

Чтобы заглянуть внутрь модели, исследователи создали специальный инструмент J-lens, который позволяет отслеживать, какие идеи активируются во время работы ИИ, минуя его явные «рассуждения».

В ходе экспериментов ученые просили Claude учитывать определенные концепции, например, справедливость, и наблюдали, как эта информация перемещается во внутреннее пространство модели. В других тестах изменение содержимого J-space напрямую влияло на ответы Claude при решении сложных задач, включая шахматные позиции. Часть этих внутренних представлений никогда не появляется в финальном ответе, но серьезно влияет на то, какое решение примет модель.

Исследователи проводят параллель с биологической эволюцией: в природе разные виды независимо находят похожие решения, если те помогают выживать. Так же и нейросети — они самостоятельно приходят к удобным способам обработки информации, потому что это эффективно.

Ранее стало известно, что из-за развития ИИ хотят убрать ВКР в университетах. РУДН стал первым, кто это сделал.