Он родился в г. Ромны Полтавской губернии в традиционной еврейской семье. Его отец купец 2-й гильдии, мать дочь раввина Пинхаса Марголина из Кременчуга.
Окончив реальное училище Пётр поступает в Петербургский технологический институт.
В этот период он сближается с партией эсеров.
После окончания института он поступает младшим инженером на Путиловский завод.
Рабочие завода были основной силой в "Обществе русских фабричных и заводских рабочих",созданном в 1903году священником Георгием Гапоном. Он сотрудничал с тайной полицией и она рассчитывала с помощью Гапона взять контроль над рабочим движением. Рутенберг стал ближайшим другом Гапона. Он принял православие и женился на Ольге Хоменко(от которой имел троих детей).
Во время событий Кровавого воскресенья (9января 1905г.) Рутенберг шёл вместе с Гапоном к Зимнему дворцу, спас его во время этих событий. Гапон предложил ему сотрудничать с охранкой. Рутенберг доложил об этом руководству партии, и было принято решение убить Гапона. Он принял активное участие в разработке плана убийства Гапона и его реализации. После этих событий в 1906году он уехал за границу.Сначала жил в Германии, а с 1907года в Италии.Гостил у Горького - на Капри.В Италии он возвращается к своим еврейским корням. Познакомившись с идеями сионизма, он становится их пламенным поборником.В июле 1917года приезжает в Петербург и Керенский назначает его заместителем главы Петрограда. Он защищает Зимний дворец и был арестован большевиками. В 1918году его освобождают из Петропавловской крепости, а в 1919году навсегда уехал из России в Палестину.Там он столкнулся с антиеврейскими выступлениями палестинских арабов, которые вскоре переросли в погромы.Он создал отряды еврейской самообороны "Хаганы"-ядро будущей Армии обороны Израиля.В 1923году при поддержки Черчилля, министра колоний Великобритании, получает концессию на производство электроэнергии и создаёт Палестинскую Электрическую Компанию. На Святую Землю приходит электричество. Он пользовался большим уважением еврейских жителей Палестины. Два года (1929-1931) он стоял во главе еврейской общины Палестины. Умер Рутенберг в Иерусалиме в 1942г.
