羅西出身於義大利豪門尤文圖斯，但生涯早期因傷所苦，僅數次在盃賽中出賽，後來被租借小型俱樂部科木。租借期結束後他受到乙級球隊维琴察的招攬，也成為他生涯的轉捩點：原本主踢邊鋒的他，因隊上原本的先發中鋒受傷而改任前鋒，結果意外的踢出傑出成績：他協助球會升上甲組，並在升上甲組的首季射入24球。結果他被選入義大利國家隊。1979年維琴察降級，羅西亦轉投佩鲁贾。期間他被指涉及賭博醜聞，結果被罰停賽三年（後減刑二年），關於該事件，本人至今仍堅稱是無辜受牽連。
羅西在1982年世界杯舉行前不久復出，回歸老東家尤文圖斯，這也是他俱樂部生涯最輝煌的幾年，他和中場線上的博涅克及普拉蒂尼的攻擊火力極為驚人。1984年贏得歐洲杯賽冠軍杯，1985年更贏得歐洲聯賽冠軍杯，另外還贏得1982及1984年意甲聯賽冠軍。
踏入八十年代中期，羅西的職業生涯逐漸步入下坡，只能在小球隊效力，也沒有以前的高效率，結果1987年，年僅32歲的羅西宣佈退休。2004年3月，罗西被比利选入在世的125位最伟大足球运动员。
他的國家隊生涯則從1977年開始，他在維琴察的爆發讓國家隊教練把他選入1978年世界杯的國家隊名單，他在世界盃上表現傑出，以3球4助攻的成績在賽事最有價值球員中名列第二，也入選全明星隊，最後義大利獲得第四名。而兩年後在本土舉辦的歐洲盃他則因為被禁賽而缺席，義大利再次獲得第四名。
1981年，罗西復出後，被選入國家隊出戰1982年世界杯。其在決定四強資格的關鍵比賽中上演帽子戏法以3:2击败巴西[3]，後來這場比賽（英语：Italy_v_Brazil_(1982_FIFA_World_Cup)）被認為是歷來世界盃的經典之一。準決賽對上波蘭队時他又獨進兩球，對上西德的決賽中也有一球，最後以6球的成績贏得該屆世界杯神射手，並被評為賽事最有價值球員。之後雖然入選義大利1986年世界杯的名單，但完全沒有上場機會。
1987年，罗西退出意大利國家隊[1]。1990年，後輩斯基拉奇在義大利本土舉辦的世界盃上進了6球，平了羅西在1982年西班牙世界盃創下的義大利球員單屆進球紀錄，他也一同獲得了該屆賽事最有價值球員的榮譽。
巔峰時期的羅西被認為是義大利史上最優秀的前鋒之一：體格不夠強壯、盤球過人技巧不優，但他速度極快，尤其是反應速度一絕，射門雖然不強但準度極高。雖然不是能一人突破防線的創造者，但只要中場球員能創造夠好的機會，他是門前把握力極高的終結者。
2020年12月9日，保罗·罗西去世，享年64岁[1]。