李渊即皇帝位后，五月令裴寂、刘文静等修定了律令。六月初一，任命裴寂为尚书右仆射、知政事，刘文静为纳言，窦威、萧瑀为内史令，陈叔达、崔民斡为黄门侍郎，唐俭为内史侍郎，并任命了六部尚书。唐王朝的典章制度和最高统治机构初步建立起来。

六月二十八日窦威去世后，又以窦抗兼纳言，陈叔达判纳言。八月，刘文静被除名；十月，窦抗亦罢去相职。三年三月，以封德彝兼中书令。此后五年中，政事就集中在裴寂、萧瑀、陈叔达和封德彝四人手中，直到武德七年（6 2 4年）十二月以后，宰相中才又增加了裴矩和宇文士及。

裴寂是北周贵裔。他的祖父是北周司木大夫。他的父亲裴孝瑜是北周绛州刺史、仪同大将军，品列九命，相当于唐的从一品，地位是很高的。

裴寂与李渊有旧。李渊作太原留守时，裴寂也正在这里做晋阳宫副监，二人过从很密。在李渊决定起兵的过程中，他曾赞助此事，进宫女五百人，并上米九万斛、杂彩五万段、甲四十万领，以供军用，为起兵提供了物质基础。进入长安后，他又帮助李渊安排受禅即位。因此，“高祖既受禅，谓寂曰：使我至此，公之力也”。

对于这样一位出身于关中郡姓的“世胄名家，历职清显”，和李渊同属关陇集团，私交甚笃，又有劝进之功的佐命元勋，李渊自然把他当作自己的心腹，除赐良田千顷，拜为尚书右仆射，“高祖视朝，必引与同坐，入阁则延之卧内，言无不从，呼为裴监而不名。当朝贵戚，亲礼莫与为比”。

刘文静也是北周贵裔，世居京兆武功（今陕西武功西）。他的祖父刘懿是北周石州刺史，父韶隋时战死，赠从四品的上仪同三司，地位不算很高。

隋末刘文静为晋阳令，他和李渊非亲非故，通过裴寂和李渊相识，并和李世民有很深的关系。由于他有谋略，有眼光，又有做晋阳令行事方便的条件，他参加了起兵前的谋议准备工作。特别是由于刘在晋阳“为令数年，．知其豪杰”，因此在募兵集众时，他起了很大作用。后来，他又出使突厥，请来援兵和马匹。进入关中后，他又立下了一系列战功。在大唐创业过程中，他的功绩和裴寂是不相上下的。对于这样一位佐命元勋，高祖虽也任命他做宰相，可不久就因打薛举失败而被除名。武德二年，终被高祖以谋反罪杀掉。对于裴寂和刘文静这两位佐命元勋，高祖对他们的厚薄是如此悬殊，这主要是由当时形势和刘文静本人的特点所决定的。

唐朝建立后，虽然征服了许多地方，但反者不少。许多地方割据势力都是慑于兵威，一时屈服，他们还想乘机而起，而东方的王世充和窦建德仍然是唐强大的对手。就是一些投向唐的乃至太原从义之士也和其他势力有着千丝万缕的联系。这样就使得唐初统治集团内部的关系显得特别复杂。高祖既要笼络、团结和利用这些来自各方，有着不同背景的人物，又要处处防范他们。在这种情况下，曾与李密联姻，做过晋阳令的刘文静，与高祖既非亲非故，在关陇集团中又地位不高，而其本人又“有器斡，倜傥多权略”，文武双全，才智过人，高祖对他是忌讳莫深的，因此，“素疏忌之”。武德二年九月刘文静因口出怨言，被妾兄上告。虽然萧瑀、李纲皆明其不反，李世民也为之求情，而裴寂一句话就送了他的命。裴寂在分析了刘文静的特点后，对高祖说：“当今天下未定，外有敌，今若赦之，必贻后患。”高祖听后，立即将文静兄弟处死。这说明，高祖当时还无法驾驭整个统治集团，对那些对他有威胁的人，只有一杀了之。

其他的宰相对他当然不构成这种威胁。窦威、窦抗、裴寂、萧璃、陈叔达，他们是勋旧贵族，地位虽高，但无兵权，是靠门弟、靠皇帝的信赖来维持他们的政治地位的。他们和皇帝是相互依靠，相依为命的。同时，都是贵族出身，气味相投，自然成为高祖的心腹力量。

窦威，他的先世在西魏、北周均为第一等高门。他的父亲窦炽是北周太保，曾做过上柱国，入隋后拜为太傅。他的三伯父之子窦毅，娶周武帝姐襄阳长公主为妻，他们的女儿便是高祖的皇后，建成、世民、元吉的母亲。

窦氏家族是关陇贵族中一个典型的家族。窦威的兄弟“并尚武艺，而威耽玩文史，介然自守，诸兄哂之，谓为‘书痴一他担任秘书郎十余年，博览群书，其诸兄并以军功致仕通显，交结豪贵，宾客盈门，而威仍职掌闲散，名位未达。高祖入关后，召威为大丞相府司录参军。唐朝建立后，当时军旅草创，典章不全，窦威既精通文籍，又多识旧仪，朝章国典，皆其所定，禅代的文书，也曾参予起草。高祖常对裴寂说：“叔孙通不能加也。”对于这样一位家世勋贵，世为帝戚，又是自己叔岳的人，自然是李渊理想中的统治核心人物。而其文才，也是关陇贵族中少有的。因此，高祖即位后不久，就拜他为内史令，参掌机密，对他倍加亲重。可是，他只做了二十八天宰相，就去世了。

正因为窦氏的这种勋贵地位，因此窦威死后高祖立即又任命他的从兄子窦抗做纳言。窦抗与高祖少年时很要好，杨玄感起兵时又曾劝高祖夺取天下，担任宰相后，高祖听朝时他或升御座，退朝后高祖把他延入卧内，舍去君臣礼仪，纵酒谈谑。有时侍宴太晚了，就留宿宫内，高祖每呼为兄而不名，宫内都称他为舅。窦抗在隋虽少入太学，略涉书史，但列位宰相，纯以外戚勋旧，并无经世之才，不能参知政务，只能陪侍游宴。所以只做了四个月宰相，便罢为左武侯大将军。

萧瑀，是南朝梁的后裔，梁武帝是他的高祖。他又是北周藩属后梁的嫡支，后梁宣帝是他的祖父，明帝是他的父亲。他的宗族和关陇军事贵族集团很早就有着密切的联系。入隋后，他的姐姐，做了炀帝的皇后。他自己又是西魏八柱国独孤氏之婿，与高祖也有姻亲关系。早在隋代，他就已成为关陇集团中一个重要人物，曾经做过内史侍郎。

萧瑀家世既与各统治集团有如此密切的联系，又在隋内史省日久，谙习故事，因此，高祖任他为内史令，“委以心腹，凡诸政务，莫不关掌。”“国典朝仪，亦责成于璃对于唐初政治制度的建设起了重要作用。

陈叔达，他是南朝陈宣帝第十六子，隋炀帝时曾为内史舍人，后为绛郡（今山西新绛）通守。李渊兵至绛郡，他举郡归降。由于他“颇有才学”，授丞相府主簿，与温大雅同掌机密，军书、赦令及禅代文诰多出自其手笔。窦威死，他与窦抗同时被任命为纳言。窦抗不问政务，原任纳言的刘文静正领兵出征，门下省实际由他主持。同时，他来自江南，实为江南人士的代表，江南名士薄游长安者，多为荐拔。”高祖用他做宰相，也是为了用他去解决江南问题。封德彝，名伦，观州蓨（今河北景县）人。祖父封隆之是北齐太子太保，父亲封子绣是隋通州刺史。渤海封氏是山东崔卢李郑以下第二等高门土族，社会地位也是很高的。因此，伦父子绣得以与范阳卢氏通婚。卢思道便是封德彝的舅父。

在隋代，封德彝以揣摩之才深得杨素赏识，杨素把从妹嫁给他，并荐他做了内史舍人。隋炀帝时，他又托附虞世基，为之指画吏务。宇文化及杀炀帝，封德彝参予了此事。化及失败后，他与宇文士及一起降唐。最初，高祖以其隋室旧臣而诌巧不忠，不加任用。后经萧璃推荐，任为内史舍人，不久迁内史侍郎，武德三年三月兼中书令，做了宰相。六年，又以本官兼吏部尚书。由于他晓习吏职，甚获当时之誉。裴矩，他的父亲裴讷之是北齐太子舍人，他本人也曾为齐高平王文学。隋初参加平陈之役，后经略岭南。隋炀帝时至张掖（今属甘肃）监视互市，对突厥和西域的情况都很熟悉，撰有（（西域图记》三卷，是炀帝对外政策的主要参谋。炀帝让他参予朝政，官位很高。后来，宇文化及和窦建德都用他做尚书右仆射。武德四年窦建德失败后入唐。

武德七年，唐以主要力量对付突厥，以裴矩熟知边事，乃于十二月命他为相。武德时期担任宰相的还有李世民、李元吉、杨恭仁和宇文士及。李世民、李元吉兄弟以亲王而任宰相，完全是挂名。杨恭仁长期镇守凉州（今甘肃武威），实际并未到任。宇文士及直到武德八年十一月才被任为权检校侍中，在高祖统治时期担任宰相的时间不过半年。

在实际担任过宰相职务的九人中，裴寂、萧瑀、窦威、窦抗、刘文静和宇文士及都出自关陇集团，除刘文静外，都出自显贵的家族，其中萧璃、窦威、窦抗和宇文士及都是皇帝的亲戚。其余三人，封德彝是山东士族，陈叔达是江南贵族，裴矩是齐、隋旧臣。这说明高祖建立起来的，仍然是以关陇贵族为核心的统治。他把关陇贵族作为自己的依靠，同时重用山东士族和江南贵族出身的大臣，去制定各项典章制度，解决新建立的政权所面临的政治、军事问题。

关陇集团是凭借武力建立起来的一个军事贵族集团。这个集团家族的数目本来就不多，经过几次朝代变迁，特别是经过隋末农民战争的打击，家族减少了许多。加以尚武的风气，能够经世治国的人就更少了。唐朝刚刚建立，需要建立一整套典章制度，在隋朝曾经担任过内史舍人的江南贵族陈叔达、以及长期担任过隋的内史侍郎、兼具江南贵族和关陇贵族身分的萧瑀，便成为合适的人选。‘唐朝建国后，北方有突厥及其支持的各个武装集团，而东方的形势更加复杂。东都洛阳有王世充建立的政权，这个政权虽有精兵，但势力所及，仅洛阳城之内，且有库无仓，基础是非常脆弱的。而占据河北的窦建德和在江准的杜伏威，都是通过农民起义建立起来的政权，不仅统辖着广大地区，而且在民间有着深厚的影响。因此，在军事上征服这些地区并进而在政治上巩固对这个地区的控制，便成为唐政权的一个主要问题。在李渊看来，山东士族长期在经济上、政治上统治着这个地区，因此，要解决山东问题就必须依靠山东士族。武德元年九月李密降唐后，李渊就曾派山东高门土族、黄门侍郎崔民斡副准安王李神通安抚山东。武德二年四月，山东郡县和一些农民起义军相继归唐，李渊又派遣在山东土族中颇有影响的定州新乐人郎楚之安抚山东。到武德三年三月，唐对刘武周即将展开反攻，全面解决山东问题已经提到日程上来的时候，封德彝作为山东士族的代表，进入了中央决策机关，被李渊任命为中书令。