Extrait du chapitre de l'Imâma dans la Risâla d'Ibn Abî Zayd et du Fiqh ‘alâ al-madhâhib al-arba’a d’Al-jazîrî :

L'homme qui est seul avec l'imâm se tiendra debout à la droite de celui-ci[1]; s'ils sont deux et plus [avec l'imam], ils se tiendront derrière lui. S'il y a une femme avec eux deux, elle se tiendra derrière eux. Si, avec l'imâm et une femme, il y a un homme, il priera à droite de l'imâm et la femme derrière eux. Quand un homme prie avec son épouse, celle-ci se tient derrière lui. Quant à l'impubère, s'il prie avec un seul homme derrière imam, ils se tiendront tous deux derrière celui-ci, à condition que l'impubère comprenne la portée de ce qu'il fait, qu'il ne s'en aille pas et ne laisse pas en plan celui qui est à ses côtés.


Cas de plusieurs rangs:

L'imâm se met en avant des gens et au milieu.

Les rangées doivent être complétées les unes après les autres en commençant par la première (on ne commencera la deuxième que si la première est complète…).

Il convient de s’aligner et de ne pas laisser de failles entre les fidèles (combler les vides).

La meilleure rangée des hommes est la première (les gens les plus à même d'occuper ce rang sont les meilleurs (pieux) ceux qui connaissent les règles et qui peuvent corriger l'Imâm ou le remplacer en cas de problème).
Puis la deuxième puis la troisième....
La droite de la première rangée est préférable à sa gauche. C'est-à-dire que, s’il y avait dix personnes alignées en rang centré derrière l’imam (cinq à sa droite et cinq à sa gauche), la onzième personne qui arrive se mettra à droite.
La meilleure position(place) est celle qui est la plus proche(derrière) de l’imam:Le Prophète a dit : 'Que viennent derrière moi les hommes sensés (mûres) et sages.' (Rapporté par Muslim).

Pour répondre donc à votre question :
Si la première rangée se finit : la deuxième commencera du milieu (derrière l’Imâm) puis se complète par sa droite car la droite des rangées est meilleure que la gauche: selon les Hadîths suivants :

1. Jâbir Ibn ‘Abellah rapporte : « j’ai voulu prier à gauche du Prophète (sous sa direction), alors il m’a pris par ma main et m’a tourné jusqu’à me mettre à sa droite, puis Jâbir Ibn Sakhr fit ses ablutions et vint se mettre à la gauche du Prophète (pour prier aussi sous sa direction), c’est alors que le Prophète nous pris par nos mains et nous poussa jusqu’à ce qu’on soit derrière lui »
(Rapporté par Muslim :4/2304 kitâb az-zuhd)
Ce Hadîth montre que la rangée commence du milieu derrière l’Imâm.

2. Le Prophète (paix et salut sur lui) a dit « Mettez l’Imâm au milieu et ne laissez pas de failles (suddu al-khalal) »(rapporté par Abû dâwud et As-sayutî a dit que c’est un Hadîth hasan.)

3. Aïsha(que Dieu l’agrée) rapporte que le Prophète (paix et salut sur lui) a dit : « Allah et Ses anges prient pour les droites des rangées » (rapporté par Ibn Hibbân dans son Sahîh)

Notez bien :
Les dispositions décrites ici sont des mandûbs (préférences,méritoires) et leur manquement n'invalide pas la prière.

Voir aussi le sujet lié :
http://www.doctrine-malikite.fr/index.php?action=forum&subaction=message&id_chambre=3392&id_sujet=37519

Voir aussi la référence arabe suivante :
http://quran.maktoob.com/vb/quran29429/

Notes:
[1] Quand l'Imam prie avec une seule personne homme (à sa droite) il est détestable (makrûh) que ce dernier se mette dans le même alignement que l'Imam (l'Imam se tiendra donc dans ce cas :légèrement en avant 'quelques centimètres en avant')