Do verejných aktivít vstúpil v roku 1989. November 1989 ho zastihol ako vysokoškolského študenta na Pedagogickej fakulte v Banskej Bystrici. Stal sa jedným z popredných členov študentského štrajkového výboru a aktívnym organizátorom študentského hnutia. Neskôr sa ako zástupca študentov stal členom kolégia dekana a členom akademického senátu Pedagogickej fakulty v Banskej Bystrici.

V straníckej politike sa angažuje od roku 2000, keď vstúpil do SDKÚ. Vzápätí sa stal členom predsedníctva Miestneho zväzu v Žiline a na ustanovujúcom kongrese SDKÚ členom Ústrednej rady. Neskôr pôsobil ako okresný aktivista v Žiline a člen politologickej sekcie SDKÚ. Od roku 2002 až do súčasnosti je predsedom Miestneho zväzu SDKÚ v Žiline. Vo februári 2002 ho konferencia žilinského Regionálneho zväzu zvolila za predsedu, túto funkciu vykonával do apríla 2006. Na kongrese SDKÚ ho v novembri 2002 zvolili za generálneho sekretára SDKÚ, funkčné obdobie mu skončilo 17.novembra 2006.

Počas svojej pracovnej kariéry pracoval ako učiteľ fyziky a chémie, geológ, neskôr ako výskumník vo Výskumnom a vývojovom ústave železníc.

Je spolumajiteľom a kreatívnym riaditeľom reklamnej agentúry a vydavateľstva, ktoré podporuje vydávanie pôvodnej slovenskej tvorby.

V decembrových komunálnych voľbách 2006 bol zvolený za primátora mesta Žilina za koalíciu SDKÚ-DS, KDH, SF a OKS.

Ivan Harman býva v žilinskej mestskej časti Budatín. Spolu s manželkou Andreou vychováva dve deti.