A Magyar Olimpiai Bizottság honlapja szerint a hevesi születésű Kovács Péter a helyi Vörös Meteor csapatában kezdett tornázni. Az 1973-as úttörőolimpián megnyerte a szekrényugrás versenyszámát, ekkor figyelt fel rá Papp Zoltán, a Dunaújvárosi Kohász edzője. Kovács ezt követően klubot váltott, és egészen visszavonulásáig, 1984-ig volt az egyesület versenyzője.
A magyar felnőtt válogatottnak 1976-tól volt tagja. A nagy áttörést az 1979-es Európa-bajnokságon bemutatott nyújtógyakorlata jelentette, amiért ezüstérmet kapott. Ezen a versenyen hajtotta végre először a később róla elnevezett Kovács-szaltót, ami a nyújtóvas fölötti duplaszaltót és az ezutáni visszafogást jelenti.
A mexikói Universiadén korláton ezüstérmet szerzett. Az 1980-as moszkvai olimpián tagja volt a bronzérmet nyert magyar csapatnak.
A Testnevelési Főiskolán 1982-ben szerzett edzői oklevelet, három évvel később az egri tanárképző főiskolán diplomázott testnevelőtanárként. Már a sportolói pályafutása alatt elkezdett edzősködni Dunaújvárosban, ahonnan 2003-ban Sopronba költözött. A sérülései miatt rokkantnyugdíjasként élt, de egy ideig még trénerként tevékenykedett.
A kilencszeres magyar bajnok sportolót 2014-ben választották a magyar tornasport halhatatlanjai közé.
