La sua carriera inizia nel Pescara come osservatore di cui successivamente divenne allenatore in seconda. Poi si trasferì nel Giulianova e nel Treviso con gli stessi incarichi. Nel 2004/05 fu assunto dall’Ascoli come assistente tecnico, in realtà l'allenatore era lui, ma non possedendo il patentino per allenare in Seria A gli avevano affidato questo incarico.
Alla fine del campionato conquista la salvezza con la società marchigiana.
Nella stagione seguente nel 2006/2007 passa alla guida del Cagliari. I risultati non sono positivi a tal punto che a dicembre viene esonerato dal presidente Massimo Cellino. Due mesi dopo a febbraio tornò sulle panchina del Cagliari e raggiunge la salvezza, e per questo fu confermato dalla società sarda.
Il 13 novembre 2007 in seguito a una serie di risultati negativi con la sua squadra a soli 9 punti in undici partite viene di nuovo esonerato dal presidente dei rossoblù. Al suo posto venne chiamato Nedo Sonetti che poche settimane dopo si dimise dall'incarico, così che Cellino richiama Giampaolo ancora essendo sotto contratto con il Cagliari, ma il tecnico per via dei suoi legali rifiuta la chiamata dichiarando: «Pur nella consapevolezza del danno economico che ne deriverà, rinuncio a tornare a Cagliari. L'orgoglio e la dignità non hanno prezzo».

Nella stagione 2008/2009 divenne il tecnico del Siena, la prima annata fu molto positiva conquistando una tranquilla salvezza e stabilendo il record di punti in Seria A con la squadra Toscana, ben 44.
Nella stagione successiva il 29 ottobre 2009 dopo aver fatto solo cinque punti in dieci partite, viene esonerato. La stagione 2010/2011 viene ufficializzato come nuovo allenatore del Catania. Dopo un buon inizio e tante ottime aspettative, il 18 gennaio 2011 viene esonerato dai siciliani in conseguenza dei risultati ottenuti.
Il 4 giugno del 2011 firma per il Cesena, ma malgrado una campagna acquisti sorprendente la sua avventura inizia molto male, forse la peggiore partenza della sua carriera e il 30 ottobre viene esonerato lasciando il Cesena all'ultimo posto in classifica.
Nella stagione 2013/2014 scende di categoria firmando per il Brescia in Serie B, ma il 23 settembre all'indomani della sconfitta casalinga contro il Crotone rassegna le proprie dimissioni dopo i problemi sorti con i tifosi del Brescia e la stessa società lombarda. Il 4 marzo 2014 ha rifiutato la richiesta di tornare sulla panchina delle rondinelle.
Il 17 novembre 2014 viene nominato nuovo allenatore della Cremonese in Lega Pro. A fine stagione, arrivato ottavo in campionato, rescinde il contratto con il club grigiorosso.

La stagione seguente 2015/2016 diventa allenatore dell’Empoli. Dopo aver portato la squadra al decimo posto in classifica esprimendo anche un ottimo gioco, il 14 maggio 2016 comunica alla società le sue dimissioni.
Il 4 luglio 2016 viene annunciato dal presidente Massimo Ferrero come nuovo allenatore della Sampdoria. Nella prima stagione conduce i blucerchiati al decimo posto, con l'importante doppio successo nei derby: non accadeva dal 1959-60. Nel campionato 2017-2018 conferma il decimo posto come l’anno prima ma con 6 punti in più (54). L’anno seguente in campionato la formazione blucerchiata guidata da Giampaolo si piazza al nono posto con 53 punti. Tra i risultati migliori della stagione figurano quelli con Napoli 3-0 e quello con la Juventus 2-0. Il 15 giugno 2019 viene annunciata la rescissione consensuale del contratto con la società di Ferrero.
Il 19 giugno 2019 viene comunicato ufficialmente il suo ingaggio da parte del Milan.

Vista la sua carriera come allenatore con il massimo risultato di un nono posto in campionato e cinque esoneri sul curriculum, secondo voi Marco Giampaolo è un maestro di calcio come dicono in tanti, oppure è un tecnico sopravvalutato?