O jeho původu nic nevíme, zmocnil trůnu v roce 722 př. n. l. a sám píše o sobě jako o "legitimním králi" a o svých předchůdcích jako o "vládcích, jež kráčeli přede mnou". První dva roky po uchvácení asyrského trůnu byl plně zaměstnán upevňováním své pozice v samotné Asýrii, teprve na jaře 720 př. n. l. se vydal na jih, aby porazil Elamity a zmocnil se Babylonu. Porazit elamsko-babylonské síly se mu ale ani tehdy, ani v následujících deseti letech nepodařilo.
Poté Sargon II. zaměřil svou expanzi na západ proti Damašku a Samaří, které se postavily proti Asýrii při tažení na Babylon. Dobyl Samaří, porazil Izraelské království, odkud deportoval na 30 tisíc zajatců a vtrhnul do Egypta. Když si podrobením nepřátel na západě uvolnil ruce, vtrhnul roku 716 př. n. l. do Urartu a Médie, které si podrobil v následujících dvou letech.
V roce 710 př. n. l. konečně vytáhl na Babylon, který padl do jeho rukou o rok později a prohlásil se babylonským králem. Z Babylonie poté deportoval přes 100 tisíc Aramejců a Chaldejců, aby tak předešel případným povstáním proti asyrské nadvládě.
Aby Sargon II. mohl spravovat tak rozsáhlou říši, byl nucen vybudovat dobře fungující systém silnic a poslů. Na hlavních cestách nechal v rozmezí jednodenních pochodů vybudovat poštovní stanice, určené k výměně mul a vozů pro spěšné posly. Asyrský systém se stal stal vzorem pro tolik obdivovaný systém komunikace perských králů.
Sargon II. se rozhodl vybudovat nové hlaní město - Chorsábád, jehož základy položil v roce 717. př. n. l. O jedenáct let později - roku 706 př. n. l. bylo město slavnostně otevřeno. Rok po slavnostím otevření nové residence padl král Sargon II. při svém tažení na sever, kdesi v pohoří Taurus. Jeho tělo nebylo nikdy nalezeno a to bylo přičítáno hněvu bohů za to, že přesunul své sídlo z posvátného Aššuru.
