李林甫进入官场后，政治嗅觉十分灵敏，暗中贿赂太监与宫女，皇帝的喜怒哀乐，他最早知道。当时武惠妃宠倾后宫，李林甫屡次向武惠妃效忠：“愿保护寿王（武惠妃之子）为万岁计”，武惠妃由此感激，在唐明皇前极力为李林甫美言。“枕头风”果然有效，李林甫擢升黄门侍郎。不久，李林甫又出任礼部尚书，与裴耀卿、张九龄同列相位。
盛唐政坛，人才辈出，唐明皇先后任用姚崇、宋璟为相。当时任相的张九龄为人正直，学问渊博，与裴耀卿敢于直谏，在许多事情上与唐明皇据理力争。李林甫对张、裴的声望与才华十分嫉妒，于是他窥伺上意，暗中挑拨离间。唐明皇在位已久，怠于政事而好纵情享乐，于是便对事事逢迎、媚态十足的李林甫渐生好感。
唐明皇因节度使牛仙客据边有功，欲擢升牛仙客为相，张九龄曰：“边地重臣目不识丁，岂能从相？”唐明皇很恼火，李林甫乘机大表赞同。大臣严挺之的妻子被休后，嫁蔚州刺史王元琰，王犯罪入狱，严挺之欲救之。李林甫乘机奏告，欲将严连坐。张九龄、裴耀卿救之，李林甫再诬张、裴、严为朋党，唐明皇本来就对张、裴的直谏很恼火，于是张、裴俱罢相，严挺之贬为洛州剌史。
李林甫当上右相，唐明皇任命李适之为左相。李适之是唐太宗的曾孙，以精明强干著称，李林甫对李适之十分恭敬，笑脸相迎，使其不设防。李林甫一次故意说：“华山山下有金矿，皇上还不知呢！”李适之上了奏章。唐明皇大喜，问李林甫，李林甫说：“此事我早已知悉，只是华山是陛下本命王气之所在，不可动土。”唐明皇闻言，遂觉李适之做事草率，远不如李林甫考虑周密，对李适之疏远。李林甫曾对大臣说：“明主在上，不要多嘴多舌，你们没见那些仪仗马吗？一言不发可享受三品马料，而叫一声则被废弃不用。”李林甫以“马料论”扼杀了言路。他独自把持朝政，官吏任命皆由李一人决策。他选官不看德行与能力，谁有才华必置之于死地。不学无术，能谄媚者则高升。
唐明皇后来发现朝中人才缺乏，便下召搜集天下有才之士，让“通一艺以上”的读书人到皇城选拔，由他亲自面试。李林甫获悉后亲自初选，扼杀有才之士。由他确定的人选最后再进行诗、赋、策略三项考试，结果无一人及格。李林甫上表庆贺：“因陛下英明，野无遗贤。”晚年糊涂的唐明皇居然被骗了。
李林甫自知结怨甚多，每次出行有百人护卫，夜宿府中，为防刺客，一夜要换几个房间，连家人皆莫知其所在。
李林甫在盛唐年间居然能把持朝政19年，一方面谄媚逢迎唐明皇，另一方面他老谋深算，以术驭人。他领衔完成《唐六典》，将唐代法律规范化，此亦有功。《资治通鉴》这样评价李林甫：“口有蜜，腹有剑。”他以强势树淫威，当时力大如牛的蕃将安禄山，在寒冬中拜见李林甫，也怕得汗流浃背。李林甫一死，“安史之乱”才爆发。李林甫胸无点墨，他亲戚晚年得子，他写词祝贺，将“弄璋之喜”写成“弄獐之喜”，遂成官场笑话。李林甫因无知而妒嫉贤能，他不让有才华的读书人脱颖而出，终于成了天下文人共同的敌人。
