Das geht auch mit dem Hockey Framework, das du auf deinem eigenen Server installierst.
Mit TestFlight habe ich noch keine Erfahrungen gemacht, sieht aber durchaus seriös aus.