Das was du verwendest, nennt man Reflexkoppler, da die Empfangsdiode auf das reflektierte Licht der Sendediode reagiert.
Für die Anschaltung der Relais solltest du dir die Grundlagen der Transistortechnik ansehen.
Die Basis des Transistor muss immer um etwa 0,7V positiver (npn) sein als der Emitter. Wenn du ein Relais im Emitter nach GND hast, sollten an dem Relais etwa 5V anstehen damit es anzieht.
Diese 5V und die 0,7V sollten jetzt an der Basis sein damit der Transistor durchschaltet. Ist das in deiner Schaltung möglich?
Darum ist es besser das Relais vom Kollektor nach + zu schalten und den Emitter direkt nach GND.
Für die notwendige Begrenzung des Basisstrom sind bei dir die Widerstände R1 bis R4.