王晙祖籍为沧州景城人，后迁居洛阳(今河南洛阳)。王晙的祖父王有方曾官至岷州(治溢乐，今甘肃 岷县)刺史；父亲王行果曾为长安尉，在当时颇有名气。王晙自幼便父母又亡，由祖父王有方抚养成人。由于出自官宦世家，王晙非常好学，他才华使王有方也非常惊奇，常说：“是子当兴吾宗。”(《新唐书·王晙列传》)王晙为人豪旷，不乐为衔检事。
二十岁时，王晙便擢明经第，任清苑(今为河北咻定道治)尉。此后历任殿中侍御史，加朝散大夫。当时朔方军(治夏州，今内蒙古乌审旗南白城子)元帅魏元忠出征失利，归罪于副将韩思忠。韩思忠当时按律当诛，但王晙认为：“思忠偏裨，权不己制，且其人勇智可惜，不宜独诛。”(《新唐书·王晙列传》)于是上表辩解。朝廷因此释放了韩思忠，随后王晙被调任渭南(今陕西渭南)令。
久视元年(700年)，宰相魏元忠因得罪了武则天的宠臣张易之、张昌宗，被贬为高要(今广东肇庆)尉，司礼丞高戬、凤阁舍人张说都因此事受到牵连，也被流放到岭南。魏元忠素以忠正著称于世，因此王晙上奏武则天，为魏元忠申辩。凤阁舍人宋璟急忙相劝：“魏公且全矣，子须威严而坐理，恐子之狼狈也。”王晙大义凛然地说：“魏公忠而获罪，晙为义所激，颠沛无恨。”王晙的一席话使宋璟非常惭愧，自愧不如，慨叹道：“璟不能申魏公之枉，深负朝廷矣。”(《资治通鉴·卷第二百七》)
景龙末年，王晙出任桂州(今广西桂林)都督。当时桂州屯有驻军，为解决驻军的补济，要从数百里之外的衡(治衡阳，今湖南衡阳)、永(治零陵，今湖南零陵)等州运送粮食，往返一次颇费周折。王晙到任后，修筑城郭，提高了桂州城的防御能力，然后奏请罢掉驻军，从而解决了粮运问题。任职期间，王晙还兴修水利，开垦屯田数千顷，使百姓丰衣足食。
先天元年(712年)八月，太子李隆基继位，是为唐玄宗。唐玄宗虽为天子，但当朝的宰相多为太平公主的党羽，为此尚书右仆射刘幽求与唐玄宗商讨对策，准备将其一网打尽。结果事情泄露，唐玄宗只好将刘幽求发配封州(治封川，今广东封川)。广州都督周利贞受到崔湜指使，准备加害刘幽求。由于去封州要经过桂州，王晙得知这一阴谋以后，便将刘幽求扣留在桂州。周利贞闻讯，屡次发公文索要刘幽求，王晙都不予理睬，周利贞便将此事上奏了朝廷。崔湜接至公文后，多次向王晙施压，让他遣送刘幽求，但王晙依旧不予理睬。刘幽求担心地问：“势且难全，正恐累君，奈何？”于是坚决地请王晙放他去广州，以免受到牵连。王晙向他解释说：“公之坐，非朋友所绝。晙在，终不忍公无罪就死。”(《新唐书·王晙列传》)在王晙的三番五次的保护下，刘幽求最终还是留在了桂州，因而保全了性命。
开元元年(713年)，唐玄宗铲除了太平公主及其党羽，崔湜等人也都被处斩。八月，刘幽求复出执政，出任尚书左仆射、平章军国大事，“故诏幽求为刻石辞。”(《新唐书·王晙列传》)
由于王晙官清明，造福一方，后来当王晙想回家乡上坟，桂州百姓一起上书朝廷，请求王晙留任。朝廷闻讯后，特下诏书表彰了王晙的功绩：“彼州往缘寇盗，户口凋残，委任失材，乃令至此。卿处事强济，远迩宁静，筑城务农，利益已广，隐括绥缉，复业者多。宜须政成，安此黎庶，百姓又有表请，不须来也。”(《旧唐书·王晙列传》)王晙遂在桂州留任一年，临行时，桂州百姓又刻石立碑歌颂其功德。
保护刘幽求一事使王晙得到了唐玄宗的信认，加上政绩出众，王晙的官职在一年内不段迁升。开元二年(714年)正月十三日，唐玄宗诏选政绩显著的地方官史入京为官。王晙入京后，任鸿胪大卿，充朔方军副大总管。闰二月，王晙又兼任安北大都护(治同城，今内蒙古额济纳旗南)、朔方道行军大总管，丰安(军所在今宁夏永宁西)、定远(军所在今宁夏永宁北)和三受降城及附近的军队皆受王晙统领，可谓风光无限。同时将安北大都护府迁至中受降城(今内蒙古包头西)，在此置兵屯田，防备突厥。不久王晙又转任太仆少卿、陇右群牧使。
此时唐与吐蕃的战争仍在河陇和西域两个战场上进行。两个战场互相策应，以河陇一带为主战场。唐朝采取依托军镇的办法，相对集中兵力，实行机动防御，并伺机反攻，逐步扩大控制区域。吐蕃则以河西九曲之地(今青海东南黄河曲流处)为后勤基地，不断攻掠河陇一带。
同年八月二十日，吐蕃大将勃坌达延、乞力徐等率10万(一说10余万)大军兵临洮州(治美相，今甘肃临潭)，继而攻打兰州(治子城，今甘肃兰州)和渭州 (治襄武，今甘肃陇西县东)的渭源县(今甘肃渭源东北)，夺得大批牧马而还。王晙奉唐玄宗之命，随摄左羽林将军、陇右防御使薛讷、右骁卫将军郭知运等前去抵御。唐玄宗还下令在全国大募勇士，补充河、陇一带的兵力。
十月，吐蕃再次向渭源发起进攻。初二，唐玄宗下诏准备御驾亲征，并发兵10余万，马4万匹，迎击吐蕃。初十，薛讷率大军至武街驿(今甘肃临洮东)抗击吐蕃军。王晙则率2000兵马昼夜兼程奔袭至20里外的大来谷口，配合薛讷大军作战。当时吐蕃大将坌达延所率10万大军均屯于此处，敌众我寡，双方兵力对比悬殊。此时如果防守，唐军则有全军覆没的危险。王晙深知兵不厌诈，便决定率军出其不意地发起进攻。王晙选精兵700人穿着吐蕃战服，分为前后两队，乘夜偷袭吐蕃军营。又在前队之后5里处多置鼓角，前队杀至营中后大声呼喊，五里外的后队则擂鼓吹号角助威。吐蕃军以为唐军主力赶到，惊恐之中，自相残杀，死万余人。
初战获胜后，王晙立即组织唐军进行追击，直至武街驿。这时薛讷率部邀击吐蕃军，距大来谷二十里时，为吐蕃军所阻。这样一来，吐蕃军就被唐军从两头压缩成一团，到处挤满了溃败的吐蕃兵。王晙再次选精兵乘夜偷袭吐蕃军，吐蕃大军顿时乱作一团，这时薛讷也率军杀到，唐军前后夹击，大败吐蕃军。坌达延率残部向洮水(今甘肃临潭西北)方向逃窜，王晙与薛讷合军，乘胜追杀至洮水，于长城堡(在今甘肃临洮境)展开激战，大败吐蕃军，斩首1.7万，截获牛羊120万头。吐蕃军见无路可退，便背水一战，誓死抗争。将薛讷军先锋、太子右卫率丰安军使郎将王海宾(其子为名将王忠嗣)围入其阵，而唐将嫉其战功，迟不发兵增援，使其战死沙场。王晙与薛讷率主力赶到后，将吐蕃残部分割包围，全部歼灭，杀的吐蕃军横尸遍野，洮水都为之不流，吐蕃将六指乡弥洪也为唐军所擒。这一战唐军取得了辉煌胜利，前后共杀吐蕃军数万人，将其所掠羊马全部追回。此战以后，唐军经过多年经营，巩固了河陇一带的防务，开始了对吐蕃的大规模反攻。
王晙在此战中，智勇兼备，两次出奇兵，最终使唐军以少胜多，堪称首功之臣。战后，王晙以功加银青光禄大夫，封清源县男，兼原州(治高平，今宁夏固原)都督，不久又任并州大都督府长史。并拜其子王班为朝散大夫。
王晙到并州(治晋阳，今山西太原西南)后，北方的形势发了重大变化。开元四年(716年)六月，后突厥可汗阿史那默啜被袭杀，其子匐俱小可汗立。但默啜兄子阙特勤率部袭杀了匐俱，并立其兄、左贤王默棘连即汗位，是为毗伽可汗，国人称为“小杀”。毗伽可汗即位之初，漠北的形势仍对后突厥汗国不利，各部落四分五裂。为此，毗伽可汗重新起用了默啜时期的重臣暾欲谷，稳定内部。又派人策反河曲地区的突厥降户，唆使其返归故土。而这时河曲地区的突厥降户也因地少人多，过着“无马、无衣”的穷困生活，也渐生叛意。
八月，王晙得知河曲降户企图叛离的消息后，立即上疏朝廷：“突厥时属乱离，所以款塞降附。其与部落，非有仇嫌，情异北风，理固明矣，养成其衅，虽悔何追。今者，河曲之中，安置降虏，此辈生梗，实难处置。日月渐久，奸诈逾深，窥边间隙，必为患难。今有降者部落，不受军州进止，辄动兵马，屡有伤杀。询问胜州左侧，被损五百余人。私置烽铺，潜为抗拒，公私行李，颇实危惧。北虏如或南牧，降户必与连衡。臣问没蕃归人云，却逃者甚众，南北信使，委曲通传，此辈降人，翻成细作。倘收合余烬，来逼军州，虏骑恁凌，胡兵应接，表里有敌，进退无援。虽复韩、彭之勇，孙、吴之策，令其制胜，其可必乎！
望至秋冬之际，令朔方军盛陈兵马，告其祸福，啗以缯帛之利，示以麋鹿之饶，说其鱼米之乡，陈其畜牧之地。并分配淮南、河南宽乡安置，仍给程粮，送至配所。虽复一时劳弊，必得久长安稳。二十年外，渐染淳风，将以充兵，皆为劲卒。若以北狄降者不可南中安置，则高丽俘虏置之沙漠之曲，西域编氓散在青、徐之右，唯利是视，务安疆埸，何独降胡，不可移徙。
近者，在边将士，爰及安蕃使人，多作谀辞，不为实对。或言北虏破灭，或言降户安静，志欲自言功效，非有以徇邦家。伏愿察斯利口，行兹远虑，边荒清晏，黎元幸甚。
臣料留住之议，谋者云遵故事，必言降户之辈，旧置河曲之中，昔年既得康宁，今日还应稳便。但同时异事，先典攸传。往者颉利破亡，边境宁谧，降户之辈，无复他心，所以多历岁年，此类皆无动静。今虏见未破灭，降户私使往来，或畏北虏之威，或怀北虏之惠，又是北虏戚属，夫岂不识亲疏，将比昔年，安可同日！
臣料其中颇有三策。若盛陈兵马，散令分配，内获精兵之实，外袪黠虏之谋，暂劳永安，此上策也。若多屯士卒，广为备拟，亭障之地，蕃、汉相参，费甚人劳，此下策也。若置之朔塞，任之来往，通传信息，结成祸胎，此无策也。伏愿察斯三者，详其善恶，利害之状，长短可寻。纵因迁移，或致逃叛，但有移得之者，即是今日良图，留待河冰，恐即有变。臣蒙天泽，叨居重镇，逆耳利行，敢不尽言。”(《旧唐书·王晙列传》)
王晙在奏疏中奏告了河曲“却逃者甚众，南北信使，委曲通传，此辈降人，翻成细作”的情状，并预言他们即将“来逼军州，虏骑凭凌，胡兵接应，表里有敌”的发展趋势，唐军将会陷入“进退无援”的困境，最后还请求朝廷诏令“朔方军盛陈兵马，告其祸福”，并将这些降户“分配淮南、河南宽乡安置，仍给程粮，送至配所”。这样，“虽复一时劳弊，必得长久安稳。”但这条疏文却没有引起唐廷的警觉和应有重视，故疏奏未报。
不久，河曲地区的突厥降户纷纷背叛朝廷，向北逃窜。十月初二，唐玄宗命朔方道大总管薛讷率军追击，王晙亦率部渡过黄河，昼夜兼程，追击叛者。当夜间追赶至山谷中时，忽遇暴风雪，大军难以行进。为了不至于耽误时间，王晙仰天发誓道：“晙若事君不忠，不讨有罪，明灵所殛，固自当之，而士众何辜，令其劳苦！若诚心忠烈，天监孔明，当止雪回风，以济戎事。”(《旧唐书·王晙列传》)话刚说完，风停雪止，王晙遂率军急驰。这时唐军发现叛军分两路溃逃，王晙率军追上东路的突厥叛军，斩一千五百余人，俘虏一千四百多人，驼马牛羊甚众，其余均逃奔漠北。王晙因功迁左散骑常侍，朔方道行军大总管，后又加封为御史大夫。
开元八年(720年)六月，散居在受降城侧的降户仆固都督勺磨和?夹跌部落暗中勾结突厥，企图攻占军城。王晙闻讯后秘密向唐玄宗奏请，发兵围剿，得到了唐玄宗的批准。王晙遂在受降城中设宴，引诱勺磨等入城宴饮，然后设伏将其全部杀死，从此河曲降户散亡殆尽。王晙因功拜兵部尚书兼幽州(治蓟县，今北京城西南)都督，复为朔方军大总管。
同年，王晙奏请西调拔悉密部落兵马，东发奚、契丹兵马，在秋季掩袭毗伽可汗的牙帐。但王晙与大臣张嘉贞的关系不好，所以他的建议没有被朝庭批准。
开元九年(721年)，兰池州(治在今宁夏灵武西南)胡人康待宾诱使诸降户发动叛乱，于四月攻陷六胡州(即唐为安置突厥降户所设的鲁、丽、含、塞、依、契六州，治所在今内蒙古鄂托克旗一带)，有众17万，并进逼夏州(治岩绿，今陕西靖边东北白城子)。唐玄宗诏命诏命王晙与陇右节度使、羽林将军郭知运共讨康待宾。王晙知道叛军虽众，但都是乌合之众，所以凭朔方军的实力便足矣对付。便奏请：“朔方军兵自有余力，其郭知运请还本军。”(《旧唐书·王晙列传》)但奏疏未报，郭知运已率陇右兵赶到。郭知运闻知此事后，对王晙心情不满，不予配合。当时王晙已招降了一部分叛军，但郭知运为抢功，纵兵击之，叛以都以为是王晙出卖了他们，纷纷逃走。
同月，唐玄宗又命太仆卿王毛仲为朔方道防御讨击大使，与王晙及天兵军节度大使张说一同讨伐康待宾。叛军暗地与党项通谋，攻打银城(今陕西神木南)、连谷 (今陕西神木北)，占据此地粮仓，张说率步骑万人出合河关(今山西兴县西北黄河畔)击败叛军，并乘胜追击至骆驼堰(今陕西神木西北)。这时党项人对叛军反戈一击，叛军溃败，向西逃入铁建山。王晙率军继续征讨，至七月初四，将叛军彻底击败，生擒康待宾，斩杀叛胡1.5万人。十六日，康待宾被腰斩于长安。
王晙因功进封清源县公，仍兼御史大夫。当时唐玄宗将宫女赐予郭知运等人，唯独王晙不接受，他说：“臣之事君，犹子事父，讵有常近围掖而臣子敢当乎？誓死以免。”(《新唐书·王晙列传》)不久叛军因王晙“出卖”他们，因此纷纷叛唐。王晙则因未能平定胡人的叛乱，于九月初二被贬为梓州(治郪县，今四川三台)刺史。
开元十年(722年)，王晙被重新起用，拜太子詹事，累封中山郡公。开元十一年(723年)正月，唐玄宗北巡。二十五日至并州，将并州设为北都，改并州为太原府，州刺史改称府尹，以王晙为吏部尚书，兼太原尹。四月三十日，唐玄宗又任命王晙取代张说为兵部尚书、同中书门下三品，并追录上次击败叛军之功，加金紫光禄大夫。五月二十五日，唐玄宗再命王晙兼任朔方军节度大使，尽统河西、陇石、河东、河北诸军。六月，王晙赴朔方军任职。
十一月，唐玄宗到南郊祭天，让王晙回京随行。但王晙心系边疆安危，上表推辞，受到唐玄宗的嘉勉，特赐衣一副。这时许州(治长社，今河南许昌市)刺史王乔的家奴状告王乔与王晙暗中勾结，意图谋反。唐玄宗立即令侍中源乾曜、中书令张说进行调查。王晙本无反意，自然查不出什么结果，但唐玄宗为以防万一，便于十二月二十九日以偏袒、提拔远亲为罪名，将王晙贬为蕲州(治蕲春，今湖北蕲春北)刺史，夺了王晙的兵权。后来王晙又改任定州(治安喜，今河北定县)刺史。
开元十四年(726年)，王晙累迁户部尚书，复为朔方军节度使。开元二十年八月初九(公元732年9月2日)，王晙去世，终年七十余岁，朝廷追赠他为尚书左丞相，谥曰忠烈。王晙去世后，信安王李祎征奚、契丹回朝(参见唐攻契丹之战)，奏称：“战时，士咸见晙与部将高昭麾兵赴敌”(《新唐书·王晙列传》)玄宗闻后感慨不已，派人到王晙家前去祭拜，并升诸子的官职。
