V этап эволюции нервной системы – кортиколизация функций (от лат. «cortex» – кора) (рис. 16). Полушария большого мозга, возникшие у рыб в виде парных боковых выростов переднего мозга, первоначально выполняли только обонятельную функцию. Кора, сформировавшаяся на этом этапе и выполняющая функцию переработки обонятельной информации, называется древней корой (paleocortex, палеокортекс). Она отличается малым числом слоёв нейронов (2–3) , что является признаком её примитивности. В процессе дальнейшего развития других отделов коры большого мозга древняя кора смещалась вниз и медиально. У разных видов она сохраняла свою функцию, но относительные её размеры уменьшались. У человека древняя кора представлена в области нижнемедиальной поверхности височной доли (переднее продырявленное вещество и смежные с ним участки), функционально она входит в лимбическую систему и отвечает за инстинктивные реакции (см. Раздел 6.5.2.1.2.).

Начиная с амфибий (см. рис. 16), происходит образование базальных ганглиев (структур полосатого тела) и так называемой старой коры (archicortex, архикортекс) и повышается их значимость в формировании поведения. Базальные ганглии стали выполнять ту же функцию, что и архикортекс, значительно расширив диапазон и сложность автоматических, инстинктивных реакций.

Старая кора, как и древняя, состоит только из 2–3 слоёв нейронов. У амфибий и рептилий она занимает верхние участки больших полушарий. Однако, начиная с примитивных млекопитающих, по мере увеличения новой коры, она постепенно смещается на срединную поверхность полушарий. У человека этот вид коры находится в зубчатой извилине и гиппокампе.

Старая кора включена в лимбическую систему, в которую кроме неё входят таламус, миндалина, полосатое тело и древняя кора (см. Раздел 6.5.2.1.2.).

С образованием этой системы мозг приобретает новые функции – формирование эмоций и способность к примитивному научению на основе положительного или отрицательного подкрепления действий. Эмоции и ассоциативное научение значительно усложнили поведение млекопитающих и расширили их адаптационные возможности.