洛陽平定之後，羅士信感念當年裴仁基對自己的知遇之恩，於是出資將其父子收斂，安葬在洛陽的北邙山上。
洛陽城內有一座玉清玄壇，裏麵有一個道士叫王遠知，在當時非常有名。
隋煬帝在江都的時候，曾經派人給他送了厚禮，邀請他到江都宮裏，隋煬帝以弟子的禮節畢恭畢敬地會見他，問他怎麽樣才能夠成為神仙。
隋煬帝後來親自下詔，讓他移居洛陽的玉清玄壇。
房玄齡對這個人非常推崇，於是就攛掇李世民去拜見一下，因為房玄齡聽說，李淵當年還是唐王的時候，曾經會見過這個道士，道士說李淵貴不可言，今後可以君臨天下。
李世民一聽，來了興趣，於是就和房玄齡微服私訪去拜見他。
王遠知一聽房玄齡來訪，心中立即就明白怎麽回事了，於是連忙到門口迎接，結果看到房玄齡的身邊還有一位二十多歲的青年，隻見此人英姿颯爽，器宇軒昂，心中就明白了八九分，此人非秦王李世民無疑，於是連忙施禮說：“此中有聖人，得非秦王乎？”
李世民看已經無法隱瞞了，於是說：“道長果然好眼力，正是在下。”
王遠知連忙把他和房玄齡請到客廳裏坐下，小道童上茶後，屋子裏隻剩下他們三個人，房玄齡衝王遠知拱拱手說：“道長，我和秦王對您仰慕已久，隻是軍務繁忙，無法脫身，今日閑暇，特來拜訪，但願沒有打擾到道長！”
王遠知說：“哪裏，哪裏，我和秦王父子，十分有緣。十幾年前，我曾經拜見過當今的天子，那個時候，秦王還是個少年，無緣相見。後來太原起兵，秦王聲震華夏，我的心中也是仰慕已久，沒想到今日在洛陽城得以相見，實在是大快人心啊！”
三人喝茶、聊天，消磨了半天時光。
臨告辭的時候，房玄齡說：“道長，您是世外高人，有未卜先知的能力，此一去，不知何年何月才能再見，我希望您能送秦王一句話，給我們留下一些啟示，好不好？”