Bonsoir,
je ne peux pas répondre complétement à votre question (quelqu'un de plus compétent le fera peut-être..

...?), mais voici quelques remarques :
a) il est bien sur normal de tenir compte d'une décote due à l'usufruit de votre père (NB : selon le barème fiscal, 40 % est la valeur d'usufruit de quelqu'un agé de 61 à 70 ans..)
b) la charge "morale" d'inaliénabilité est évidemment plus complexe à appréhender. Quelques remarques :
- quand elles sont écrites (dans une donation ou succession), ces clauses doivent temporaires et justifiées. (à défaut elles sont nulles...). Elles sont par exemple nulles si elles sont stipulées pour la durée de vie du gratifié...
- Si votre frère ne respecte pas cette obligation et vend la maison (par exemple à la fin de l'usufruit), il n'y aura de fait aucune sanction au non-respect de l'inaliénabilité (ni possibilité de quelque sanction que ce soit....autre que morale, bien sur...)
- sur le plan fiscal, ces clauses ne sont pas prises en compte pour le calcul des droits de donation ou succession. Ni pour l'assiette de l' ISF, par exemple - (il y aura bien une décote pour l' ISF due au démembrement, mais c'est autre chose...)-
- sur le plan économique (votre principale question). je ne sais pas vous répondre. je n'ai pas d'exemple, et je ne saurai pas évaluer cette charge... Je ne crois pas qu'il existe un "barème"..(???)
Il me semble néammoins que, comme on parle en fait d'une inaliénabilité de la nu-propriété (au moins pendant la durée d'usufruit de votre père), elle est déja largement (certes pas totalement..) prise en compte dans la décote même de nu-propriété, compte tenu du caractère peu "liquide" de celle-ci (marché restreint des investisseurs en nu-propriété..), et la décote supplémentaire de 30 % en valeur "actualisée" peut sembler exagérée de ce point de vue...(mais bon ,c'est un commentaire subjectif...)
c) Si vous nêtes pas d'accord avec le partage et la composition des lots, vous pouvez demander un partage judiciaire (mais, evidemment, c'est alors un conflit familial ouvert...)
d) Si le but est de constituer des lots de la succession en évitant l'indivision (et que la maison représente une valeur trop importante), avez-vous considéré l'apport de la maison (ou de la nu-propriété de la maison) à une SCI dont vous vous répartiriez les parts (votre frère pouvant rester majoritaire, par exemple...) ? la SCI n'est pas la panacée, et génère quelques frais supplémentaires, mais elle est trés pratique pour gérer ce type de situation...
NB : les meubles devraient bien sur faire l'objet d'une évaluation dans la cadre du partage....