John Schehr wurde am 9. Februar 1896 in Altona als Sohn eines Arbeiters geboren. Er erlernte den Beruf eines Schlossers. 1912 trat er der SPD und 1913 den freien Gewerkschaften bei. 1919 schloss er sich der USPD an, und 1920 wurde er Mitglied der KPD. In Altona übernahm John Schehr die ersten Parteifunktionen. Er arbeitete zunächst als Politischer Sekretär der KPD in Altona, dann als Mitglied der Bezirksleitung Wasserkante und dessen Sekretariats, und schließlich wirkte er bis Anfang 1927 als Vorsitzender der Ortsgruppe Hamburg der KPD. John Schehr war aktiv an der Formierung einer marxistisch-leninistischen Parteiführung, des Thälmannschen Zentralkomitees, beteiligt. Seit 1925 gehörte er dem ZK an. Anfang 1927 übernahm er in der Bezirksleitung Wasserkante die Funktion des Organisationssekretärs, und von Anfang 1930 bis Frühjahr 1932 war er Politischer Sekretär der Bezirksleitung Niedersachsen der KPD. Auf seine Initiative kam es vor allem in Braunschweig zu gemeinsamen Aktionen von Kommunisten und Sozialdemokraten gegen den Naziterror. Seit Mai 1932 arbeitete John Schehr im ZK der Partei als Mitglied des Sekretariats und des Politbüros. Im gleichen Jahr wurde er in den Preußischen Landtag und in den Reichstag gewählt. Mit Wilhelm Pieck nahm er am 8. Juli an der Aussprache Ernst Thälmanns mit 20 sozialdemokratischen Arbeitern teil. Als Stellvertreter des Parteivorsitzenden hatte John Schehr, maßgeblichen Anteil an der Entfaltung des antifaschistischen Massenkampfes, mit dem es 1932 gelang, den Faschisierungsprozess zu erschweren und zu verlangsamen.
Nach der Verhaftung Ernst Thälmanns am 3. März 1933 übernahm John Schehr die unmittelbare Leitung der Parteiführung. Entschlossen setzte er die von Thälmann auf der Tagung des ZK in Ziegenhals entwickelte Politik des Kampfes gegen den Faschismus fort. Unablässig suchte er nach neuen Wegen zur Einbeziehung aller antifaschistischen Kräfte in den Widerstandskampf, um so die Voraussetzungen zum Sturz der faschistischen Diktatur zu schaffen. John Schehr sicherte so auch unter den schwierigen Bedingungen die Tätigkeit der illegalen Partei und erwies sich als kluger politischer Führer und fähiger Organisator.
Am 9. November 1933 fiel er während einer illegalen Zusammenkunft in Berlin der Gestapo in die Hände, die ihn unmenschlich folterte, um ihn zum Verrat von Namen und Adressen von illegalen Mitkämpfern zu veranlassen. Er verweigerte jedoch standhaft jede Aussage.
Am 1. Februar 1934 wurde John Schehr mit Eugen Schönhaar, Rudolf Schwarz und Erich Steinfurth in Berlin ermordet.