Also das Betriebssystem mit Speicherverwaltung, Displaysteuerung, Tastaturabfrage, Lautsprecher/Mirko und so weiter neu zu erstellen sollte eigentlich kein größeres Problem darstellen (relativ gesehen bzw. z.B. für mich) und es sollte der RegTP eigentlich auch egal sein ob man auf dem Handy Mac-Symbole, Nokia-Menü oder eine CP/M-Komandozeile hat, aber...
Der Teil der die Kommunikation mit dem Netz darstellt ist sehr komplex und testintensiv. Mit den Protokollen über die das Handy mit den BTSsen kommuniziert kennen sich wohl nur hochspezialisierte Entwickler aus; und dieser Teil ist auch störungsrevelant... 
Die Schwierigkeit beseht natürlich auch vor allem darin, daß die Hersteller die Hard- und Software nicht (öffentlich) dokumentieren. Man müsste in mühevoller Kleinarbeit herrausfinden, welche Bits in welchen Registern für Display, Tastatur usw. zuständig sind. Auch die Sprache der verwendeten CPU (manchmal sind das Spezialversionen die vom Halbleiterhersteller extra für das Handy gemacht wurden) müsste man herausfinden und lernen und einen Weg finden, eigene Software auf das Gerät zu spielen.
Es gibt aber auch einen legalen und "einfacheren"
Weg: Siemens (und bestimmt auch andere Hersteller) bieten auch kleine Module (Streichholzschachtelgröße) an die komplett das funktechnische Herzstück eines Handys enthalten und über eine Kontaktleiste Anschlüsse für Antenne, Lautsprecher, Micro und eine Steuereinheit erhalten. Die Steuereinheit (PC, Notebook, PDA, Microcontroller) sendet dem Modul AT-Befehle mit denen man dann telefonieren, SMSen und GRPSsen kann. Solche Module sitzen beispielsweise in Fahrzeugtrackingsystemen, Alarmanlagen oder nicht funktionierenden Mautabrechnungsboxen...
Natürlich kann ein auf diese Weise selbstgebautes Handy nie so klein und akkulaufzeitstark sein wie ein hochintegriertes Modell aber ein Weg wäre es. Die Module sind bereits zugelassen... 