李渊父子大量募兵的事实，毕竟难以掩盖其真正的意图。高君雅、王威被剥夺了参与军机要务的大权，越发感到形势不妙，便拉拢晋阳乡长刘世龙等人，谋划利用在晋祠求雨的机会，将李渊父子及其一伙人全部杀死。刘世龙平素与高君雅、王威友好，后来通过裴寂的关系与李渊相识。李渊平时待人以礼，不问出身高低，使刘世龙很受感动。因而，当高、王指使刘世龙谋杀李渊父子时，刘世龙便把这一密谋全部告诉李渊。李渊得知高、王二人的密谋，大为惊讶。于是，他令刘世龙继续与高、王二人保持密切的交往，以便随时掌握高、王的一言一行；同时立即部置铲除高、王二人的行动计划。
五月癸亥夜，李渊命令长孙顺德、赵文恪等人从兴国寺新军中挑选五百名士兵，会同李世民所率精兵埋伏于晋阳宫城东门之左，加强戒备。一面又由刘文静和开扬府司马刘政会出面投书，到留守府控告王威、高君雅私通突厥，引突厥兵南攻，阴谋反隋的罪状。
这时，王威、高君雅还被蒙在鼓里，按照往常的惯例与李渊在一起查问政事。当刘政会进投密状时，李渊故意叫王威取状看，刘政会说： “所告副留守事，唯唐公得视之。”李渊佯作惊讶，亲自接密状观看，然后转身对王威、高君雅说： “此人告公事，如何?”王、高这时才知道自己已落入李渊的圈套，急忙狂呼道： “此是反人欲杀我也!”话还没有说完，刘文静早已喝令左右上前将王威、高君雅拿下，囚在别室。王威、高君雅及其党羽的势力就这样轻而易举地被清除了。