Das hört sich so an, als habe da einer 5V eingespeist. (?) Die 5V minus die dropout ergeben ungefähr knapp 3V. Die am Ausgang gemessene Spannung ist im ungeregleten / unbegrentzten Bereich immer exakt um die Dropout niedriger.
Zu dem Problem des Spannungeinbruches: Verwende immer auch einen schnellen kramischen 100nF und nicht nur einen Tantal oder so ...