Nacido en Colonia en 1898 en una familia judía asimilada, Fraenkel se sabía judío, pero menos judío que de izquierdas, según sus propias palabras. Tras servir en la Primera Guerra Mundial, cursa estudios jurídicos en Fráncfort del Meno, donde conoce a Franz L. Neumann y Leo Löwenthal, con quienes funda en 1919 un grupo de estudiantes socialistas. En 1921 ingresa en el Partido Socialdemócrata Alemán. Siguiendo el modelo político y profesional del jurista Hugo Sinzheimer, que participó en la elaboración de la Constitución de Weimar y era un miembro destacado del Partido Socialdemócrata, se dedica al estudio del derecho laboral moderno, doctorándose en 1922 con una tesis sobre la nulidad del contrato de trabajo. Ejerce como abogado desde 1927 hasta su salida forzosa de Alemania en 1938, trabajando para el sindicato alemán del metal y abriendo despacho en Berlín con Neumann. A diferencia de este, tras la conquista del poder por los nazis, Fraenkel decide permanecer en Alemania continuando el ejercicio de la abogacía en medio de dificultades crecientes.
Exiliado, Fraenkel lleva consigo a Estados Unidos el manuscrito alemán de El Estado dual, que verá la luz en traducción inglesa en 1941. Su publicación será recibida con tibieza y encontrará las críticas de Neumann y Otto Kirchheimer. Doctor en 1942 por la Universidad de Chicago, obtiene en 1944 la ciudadanía norteamericana, y en 1945 ingresa en la administración federal, donde trabajará en los servicios de inteligencia. De esos años finales de la guerra es su monografía Military Occupation and the Rule of Law. Enviado a Corea como agente de la Alta Autoridad americana de ocupación, acaba venciendo sus resistencias a regresar a Alemania, lo cual hace en 1951, todavía como ciudadano americano. Renunciará, finalmente, a esta nacionalidad para culminar su carrera académica en la Universidad Libre de Berlín, ciudad donde muere en 1975.