Родился 27 января 1947 г. в г. Полевском Свердловской обл.

Доктор исторических наук (1987), профессор (1989).

В 1968 г. окончил исторический факультет Уральского университета.

В 1967–1969 гг. работал лаборантом экономической лаборатории Свердловского педагогического института, инженером социологической лаборатории Уральского политехнического института. В 1969–1971 гг. обучался в аспирантуре Уральского университета, затем в 1971–1981 гг. преподавал на кафедре истории СССР досоветского периода университета (с 1977 г. – в ученом звании доцента). В 1974 г. защитил кандидатскую диссертацию «Церковь в Древней Руси XI – первой половины XIII в. (Древнерусское покаянное право как исторический источник)», в 1987 г. – докторскую диссертацию «Общественно-политическая мысль трудящихся Урала в XVIII в.».

Исследовательская работа в области древнерусской культуры привела Р. Г. Пихою к мысли о необходимости изучения бытования ее традиций в современных условиях. В 1973 г. им был создан студенческий кружок по изучению древнерусской книжно-рукописной традиции, а в 1974 г. состоялась первая археографическая экспедиция, проведенная совместно Московским и Уральским университетами. С 1975 г. Уральский университет стал проводить экспедиции самостоятельно. В 1975 г. на основе археологической экспедиции Р. Г. Пихоей была создана научно-учебная лаборатория археографических исследований, ставшая в 1980-е гг. самостоятельной научной лабораторией. По инициативе Р. Г. Пихои и Б. А. Сутырина в 1980 г. в Уральском университете создается Музей редкой книги. С 1973 до конца 1990 г. Р. Г. Пихоя был бессменным научным руководителем археографических исследований в Уральском университете. За это время Свердловск наряду с Москвой, Ленинградом и Новосибирском стал четвертым крупнейшим в стране центром изучения древнерусской книжно-рукописной традиции, признание международной научной общественности получила уральская школа археографии. На базе лаборатории было подготовлено и защищено 15 кандидатских и две докторские диссертации.

Логическим развитием деятельности по изучению древнерусской книжности стала идея создания при университете Института русской культуры, возникшая у Р. Г. Пихои в конце 1980-х гг. К ее реализации он вместе со своими коллегами приступил на рубеже 1980–1990-х гг. Официально институт был утвержден в 1992 г., уже после отъезда Р. Г. Пихои из Екатеринбурга, но его роль в создании этой структуры является определяющей.

В 1981 г. перешел в отдел истории Института экономики УрО АН СССР на должность старшего научного сотрудника. В 1986 г. вернулся в университет и был назначен заведующим кафедрой истории СССР досоветского периода (впоследствии – истории России). В 1988 г., оставаясь заведующим кафедрой, был назначен проректором по учебной работе, а затем – первым проректором Уральского университета.

В 1990 г. Р. Г. Пихоя переехал в Москву, куда был приглашен на должность председателя Комитета по делам архивов при Правительстве РСФСР. В 1990–1996 гг. – руководитель Государственной архивной службы России. В 1996–1997 гг. – вице-президент фонда «Демократия». С 1997 г. является заведующим кафедрой истории российской государственности и общественно-философской мысли Российской академии государственной службы при Президенте России. С 1998 г. – главный редактор журнала «Государственная служба».

Почетный доктор Уральского государственного университета (2006).