В этих словах можно услышать щелевой "Г" (близкий к "Х", но звонкий).
1. (кого-что).
Не поставить чего-л. в вину кому-л.; извинить, проявив снисходительность. П. все грехи. П. обиду, предательство, оскорбление. П. за шалость, за ошибку, за опоздание. Никогда ему этого не прощу. Не мог себе п., что отпустил её. Простите, ей-ей, не виноват. П. от души, от всего сердца. Великодушно п. кого-л. Прости ближнего своего.
2. что кому.
Освободить от какого-л. обязательства. П. долг приятелю. П. колхозу задолженность. ◊ Прости господи! (см. Господь). < Простите (см.). Прощать, -аю, -аешь; нсв. Прощаться, -ается; страд. Прощение (см.).
ИЗВИНИТЬ, -ню, -нишь; извинённый; -нён, -нена, -нено; св. кого-что.
1. (за что, также с придат. дополнит.).
Проявить снисходительность, не поставить в вину чего-л.; простить. Прошу извинить за беспокойство, за навязчивость, за опоздание, за грубость. И. друга, брата. И. чью-л. глупость, чьё-л. невежество. Извините, что заставил вас подождать. Извиним ребёнку его любопытство. Извините за выражение (разг.;
употребляется при введении в разговор резких, грубых слов).
2. чем.
Признать заслуживающим снисхождения в силу чего-л.; оправдать. И. опоздание болезнью, рассеянностью, бессонницей. Взятку нельзя и. бедностью. < Извинять, -яю, -яешь; извиняющий; нсв. Извиняться, -яется; страд. Извини; извините, в зн. межд. Разг.
Выражает протест, несогласие с чем-л., отказ в чём-л. Сходишь в магазин? - Нет уж, извини! У него высшее образование. - Извините! Это не так.
В устойчивом выражении междометного характера, употребляющемся вне прямой связи с религией, запятая не нужна, правильно: слава тебе господи.
Если эти выражения употребляются как обращение к Богу, запятые нужны. Если же они употребляются вне прямой связи с религией, как выражения междометного характера (передающие различные эмоции: радость, досаду, страх и т. п.), запятая не нужна, а слово господи следует писать со строчной: слава тебе господи, господи помилуй.