كتاب صلاة المسافرين وقصرها
6  
The Book of Prayer - Travellers
(31)
Chapter: The command to one who becomes sleepy while praying, or who starts to falter in his recitation of the Qur’an or statements of remembrance, to lie down or sit down until that goes away
(31)
باب أَمْرِ مَنْ نَعَسَ فِي صَلاَتِهِ أَوِ اسْتَعْجَمَ عَلَيْهِ الْقُرْآنُ أَوِ الذِّكْرُ بِأَنْ يَرْقُدَ أَوْ يَقْعُدَ حَتَّى يَذْهَبَ عَنْهُ ذَلِكَ
Sahih Muslim 787

Abu Huraira reported Allah's Messenger (ﷺ) as saying:

When any one of you gets up at night (for prayer) and his tongue falters in (the recitation) of the Qar'an, and he does not know what he is reciting, he should go to sleep.
وَحَدَّثَنَا مُحَمَّدُ بْنُ رَافِعٍ، حَدَّثَنَا عَبْدُ الرَّزَّاقِ، حَدَّثَنَا مَعْمَرٌ، عَنْ هَمَّامِ بْنِ مُنَبِّهٍ، قَالَ هَذَا مَا حَدَّثَنَا أَبُو هُرَيْرَةَ، عَنْ مُحَمَّدٍ، رَسُولِ اللَّهِ صلى الله عليه وسلم فَذَكَرَ أَحَادِيثَ مِنْهَا وَقَالَ رَسُولُ اللَّهِ صلى الله عليه وسلم ‏ "‏ إِذَا قَامَ أَحَدُكُمْ مِنَ اللَّيْلِ فَاسْتَعْجَمَ الْقُرْآنُ عَلَى لِسَانِهِ فَلَمْ يَدْرِ مَا يَقُولُ فَلْيَضْطَجِعْ ‏"‏ ‏.‏
Reference : Sahih Muslim 787
In-book reference : Book 6, Hadith 264
USC-MSA web (English) reference : Book 4, Hadith 1719
  (deprecated numbering scheme)