Hallo stochri,
ja AVR-Studio ist für Assembler gedacht, Du wirst zwar Deine .hex Dateien einlesen und Debuggen können, aber nur im Assembler, es zeigt Dir kein C Code.
Und Insight ist nur ein Frontend für gdb dem Du wiederum simulavr als Target angeben mußt, aber das hast Du schon gemacht, wie ich gelesen habe.

Zu deinem Script unter Linux, das geht ganz einfach, leite die Ausgabe einfach mal auf den /dev/ttyS0 um in etwa so : echo 0x20 > /dev/ttyS0 , hiermit hast Du Leerzeichen an die Serielle Schnittstelle gesendet.

Andersherum ist es ja genauso einfach : cat /dev/ttyS0 >> logfile , hiermit empfängst Du alles was über /dev/ttyS0 ankommt und speicherst es in logfile.
Du kannst es auch über ein Pipe mit z.B grep verbinden oder weiß was ich, es gibt viele Möglichkeiten das in der Bash auszuwerten.

Eventuell mußt Du noch am Anfang die serielle Schnittstelle mit stty auf die Baudrate usw. einstellen.

Gruß Sebastian