Scherp war zehn Jahre lang als Staatsanwalt bei der Staatsanwaltschaft und der Generalstaatsanwaltschaft in Frankfurt tätig.