唐初的宰相制度直接因袭于隋，而隋代的宰相制度又基本上总结了汉魏以来宰相制度的变化。
汉魏南北朝时代，尚书省、中书省、门下省依次摆脱宫官的束缚独立为署。
东汉的尚书令、曹魏的中书令、晋及南朝的侍中，也先后实际执掌政柄，但是三公(即太尉、司徒、司空)在名义上仍不失为宰相之号，这时候三公皆置属官，自有一套机构，也有一定职权可以说宰相名号与宰相职官是分离的。
隋文帝即位以后，在官制整顿上采取了一系列措施，其中最重要的行动之一就是废三公府僚，为三省长官的相职正名，“文帝废三公府僚，令中书令、侍中知政事，遂为宰枢之职。省（三公）府及僚佐，朝之众务，总归于台阁。”
中书令是中书省的长官，侍中是门下省的长官，台阁则指尚书省，于是乎，三省长官便成了名副其实的宰臣，谓之“真宰相”。
而三公则成为亲王的荣誉称衔或者宰相的加官，而没有单独三公的职务了。
隋代还有另外一种宰相，即以他官参掌机事及专掌朝政者，并为辅弼即宰相。例如，柳述以兵部尚书“参掌机密”。虞世基迁内史待郎，“与纳言苏威、左翊卫大将军宇文述、黄门侍郎裴矩、御史大夫裴蕴等参掌朝政”。这一制度开了唐代以他官为相的先河。
唐初的宰相制度继承于隋朝，但是后来仍有较大的变化。
武德朝三省长官并为宰相之职，但自北朝以来，尚书省长官尚书令已不轻易授人。隋文帝时杨广曾以皇子居其位，炀帝时杨素又因夺嫡篡位有功得授其职，都只是一种荣誉称号。
所以在隋代就是以尚书省次官左右仆射为本省实际长官，并为宰相正官。如虞庆则为尚书仆射时，隋文帝对他说：“卿位居宰相。”
唐初担任尚书令的李世民东征西讨常年在外征战，也不可能实掌尚书事务。在武德贞观年间，左右仆射不仅是尚书省实际长官，与中书令、侍中同为相职，而且在众位宰相中还具有超出于他相之上的地位，如房玄龄、杜如晦都是任仆射而实秉大权。
唐武德年间还没有以三省长官之外的他官任宰相事的。但从贞观元年(627)起，以他官预宰相事的记载便不绝如缕。一是以资格较浅的官员加“参议朝班”、“参知机务”、“参知政事”、“专典机密”之类名号预宰相事。如贞观元年以杜淹检校吏部尚书，参预朝政；三年又以魏征为秘书监，参预朝政，等等。
另一种情况是给一些老资格的功臣元勋加“平章事”或“同三品”名号，使其得以继续预闻宰相事务。
如贞观八年(634)六十四岁的李靖以足疾请求提前致仕，太宗诏其“三两日一至门下中书平章政事”。所谓平章政事就是共议军国政事之意。
贞观十七年(643)，太宗初立晋王治为皇太子，召以元老萧瑀为太子太保，李绩为特进、太子詹事“并同中书门下三品”。
太子太保、太子詹事都是东宫崇重的官职，其时为重东宫之选，故让旧相元老萧、李二人挂职于此。但太宗又怕有“屈阶资”，因而又特地创立一个“同中书门下三品”的名目。若仅从品秩来说，太子太保从一品，詹事正三品，都已经是三品以上官了，这里所谓“同中书门下三品”，意思是说可与两省三品官(中书门下只有中书令与待中为正三品官)中书令、侍中“同知政事”。这样就又多了一个以他官预宰相事的名号。
到高宗朝，挂参知政事、参预朝政等名号行宰相事逐渐减少，到玄宗时特别是安史之乱则几乎绝迹了。而固定的正式宰相名号则是同中书门下三品和同中书门下平章事了，而且“终唐之世不能改”。
不过，同三品与同平章事的使用还是有差别的。一船说来，本官为尚书省六部侍郎、中书门下两省侍郎或四监者，为相多称同中书门下平章事，而本官为六部尚书，任相时则多称同中书门下三品。
这种情况在开元后似乎已形成了不成文的制度。结果同平章事成为任用资历较低的宰相称号，也有人在宰相任上由同平章事升为同三品。
同三品以高武时用得最多，玄宗时以同平章事最普遍而同三品已渐少用，到了天宝年间，竟然没有一起带同三品入相的，肃宗朝也只有李麟由同平章事升同三品一个例子。
代宗大历二年(767)升中书令、侍中为正二品，同三品的名称便最终绝迹了。
武德、贞观之世，尚书省实际首长左右仆射具有首席宰相的身份。高宗即位时，李绩为尚书左仆射，又加同中书门下三品。仆射本来是从二品，位为宰相正官，同三品新创不久，高宗为李绩加同三品，也就是为了提高李绩的身份。
但从此却开了一个先例，见除仆射者，必加同中书门下三品(个别情况下也有仆射加同平章事的)。长安四年(704)，豆卢钦望由开府仪同三司(从一品散官)拜左仆射，诏书中没有提“同中书门下三品”，钦望于是不敢去中书门下参议政事。几天以后，才又有诏书令钦望“知军国重事”。从此又形成了一个惯例，空除仆射(即不加“同三品”等名号)，则不再任宰相职。
开元以后，为仆射者已很少加“同三品”等衔，从而被摒弃于宰相行列。天宝十三裁(754)正月，范阳节度使安禄山入朝，求兼相职，由于杨国忠等人的坚决反对，“玄宗乃已，止加左仆射而已。”安禄山求相不得而被加授从二品的仆射，也许对他是个安慰，但其时仆射已经不是宰相则是十分明显的。
开元天宝年间，李林甫、杨国忠都是以中书令为首席宰相的。但自杨国忠死后，中书令除崔园在至德二载(757)一度为之外，基本上便不再除授了。侍中也只有苗晋卿在肃宗朝一度为之。可以说，在安史之乱后，两省长官也基本上停止单授。
大历二年（767），中书令、侍中升正二品，只有藩镇勋臣才带有这种称号，从而最终失去了作为宰相职官的意义。
