Возможно стоит взять за основу готовый блок megasqirtAVR и его модернизировать?
Работает сие чудо на ATmega128))
Плата и прошивка есть в паблике
Вот отличный мануал по установке и настройке:
http://www.audiclub.ru/forum/showthread.php?t=206086