quisiera que cuando le den clic a un enlace que les salga en una ventana pequeña y no a otra pagina
lo que entiendo es que buscas un popup
Lanzar correctamente
cambia el width y height para cambiar le ancho y el alto.
Como poner una ventana emergente
pero quisiera saber a profundidad el tema
No tiene más profundidad, solo es una instrucción al navegador de que muestre el enlace en una ventana nueva con ciertas dimensiones.