Ich glaub ich hab den fehler gefunden (hoffe ich zumindest):

1. der Motortreiber (IC3) war falsch herum eingesteckt.
Ist behoben, aber problem besteht immernoch.

2. Die Pinbelegung des ISP-anschlusses auf dem Board besagt folgende Pinbelegung:
Pin 1 MOSI
Pin 2 VCC
Pin 3 Nicht belegt
Pin 4 GND
Pin 5 RESET
Pin 6 GND
Pin 7 SCK
Pin 8 GND
Pin 9 MISO
Pin 10 GND
Die des AVR ISP Kabels besagtdass der 9-Polige anschluss folgendermaßen belegt ist:

Pin 1 = MOSI
Pin 2 = LED
Pin 3 = RESET
Pin 4 = SCK
Pin 5 = MISO
Pin 6 = 5V (?)
Pin 7 = GND
Pin 8 = GND
Pin 9 = GND
weiteres siehe hier: http://www.rn-wissen.de/images/6/6b/Ispschaltplan.gif
So, ich habe das ISP kabel so belegt dass es 1:1 belegt ist und habe wohl nicht darauf geachtet die leitungen passend zuzuordnen, sprich Pin 1 vom 9pol. seriellen stecker geht an pin 1 vom ISP-Pfostenbuchse usw.

Wenn meine vermutung jetzt richtig ist, dann muss ich einfach das kabel den anschlüssen (MOSI, MISO usw.) neu zuordnen und hoffe dass es nann auch geht.