Jan Olszewski z zawodu był adwokatem. W latach 80. angażował się w działalność opozycyjną. Był obrońcą m.in. Lecha Wałęsy, Zbigniewa Romaszewskiego i Zbigniewa Bujaka. Występował jako oskarżyciel posiłkowy w procesie zabójców księdza Jerzego Popiełuszki.
Jan Olszewski był uczestnikiem obrad Okrągłego Stołu. Od 1990 roku należał do Porozumienia Centrum. Brał również udział w przygotowywaniu programu wyborczego Lecha Wałęsy. Po jego wygranej, należał do jego Komitetu Doradczego. W 1991 roku uzyskał mandat posła.
Pomimo współpracy z Lechem Wałęsą, między politykami istniał konflikt. Rozpoczął się podczas tzw. falstartu Olszewskiego, gdy pod koniec 1990 roku część prawicy, w tym PC próbowała przepchnąć jego kandydaturę na premiera.
6 grudnia 1991 roku został premierem. Chciał m.in. spowolnić prywatyzację, próbował zdekomunizować organy władzy i służby mundurowe. 5 czerwca 1992 jego rząd otrzymał wotum nieufności. Wielu uważa, że spowodowała to tzw. lista Macierewicza, która była realizacją ustawy lustracyjnej.
"Mój rząd był pierwszym, który chciał odsłonić dawne, tajemne powiązania ludzi, którzy z własnej woli weszli w ostatnich latach do organów nowej władzy. Uważam, że naród polski powinien mieć poczucie, że wśród tych, którzy nim rządzą, nie ma ludzi, którzy pomagali UB i SB utrzymywać Polaków w zniewoleniu. Uważam, że dawni współpracownicy komunistycznej policji politycznej mogą być zagrożeniem dla bezpieczeństwa wolnej Polski. Naród powinien wiedzieć, że nieprzypadkowo właśnie w chwili, kiedy możemy oderwać się ostatecznie od komunistycznych powiązań, stawia się nagły wniosek o odwołanie rządu"
- mówił w TVP dzień przed utratą władzy.
Pomimo dymisji nadal działał jako polityk. Założył Ruch Odbudowy Polski, którego był przewodniczącym do 2011 roku. Startował m.in. w wyborach prezydenckich w 1995 roku, zajął jednak 4. miejsce. Próbował również w 2000 roku. W latach 2005-2006 był zastępcą przewodniczącego Trybunału Stanu.
W 2009 roku został odznaczony przez prezydenta Lecha Kaczyńskiego Orderem Orła Białego "w uznaniu znamienitych zasług dla Rzeczypospolitej Polskiej, a w szczególności dla przemian demokratycznych i wolnej Polski, za działalność państwową i publiczną". Był również honorowym obywatelem Warszawy.