Habs jetzt gefunden... man muss sich an seinem Microsoft-Konto anmelden, zur Online Mailanwendung Outlook.com wechseln, dort den Kalender aufrufen und kann dann die eingetragenen Geburtstage einzeln löschen.
Ich habe es zuvor immer im Kalender von meiner Office 365 Version versucht. Dort wurde der Geburtstag zwar auch angezeigt, aber man konnte ihn dort nicht Löschen.