В фотошопе CS5 они растрируются при объединении,  а в фотошопе CS6 объединяются фигуры в одну опять таки векторную форму, там не слой, а фигура (векторный слой) и заливку у неё можно менять но только один цвет.

 В фотошопе CS6 в векторе передрали многое из иллюстратора и это намного расширяет возможности работы с вектором и это намного круче CS5.

Конечно, посмотрите в уроке, там растрированный слой, без векторной маски. когда объединены.

 Вот ниже он хоть и назвался фигурой,    фигура1 копия 3, на самом деле обычный растрированный слой с прозрачным фоном