¿Es incorrecto poner corchetes entre paréntesis en una ecuación matemática / física? ¿Y a la gente no le gusta?

La notación matemática es solo una herramienta para expresar relaciones abstractas con claridad. Como tal, la claridad de una notación es su aspecto más importante. En álgebra simple, espero que sea bastante claro para la mayoría de los lectores lo que está haciendo: solo debe preocuparse si está utilizando un sistema de notación donde los corchetes podrían malinterpretarse para tener un significado especial.

En resumen, mientras sea claro y legible, ¡no se preocupe por eso!

Creo que todo depende del contexto y de cuán largas y complicadas realmente deben ser tus expresiones, es decir, el grado en que puedes simplificarlas antes de que sean demasiado concisas para ser fácilmente entendidas.

Si debe usar expresiones anidadas, entonces creo que a menudo es preferible usar una mezcla de paréntesis, corchetes y llaves (todos los tipos de lo que llamaré ‘símbolos de encierro’) para aclarar los diferentes niveles de anidación, y también para variar los tamaños de estos, de modo que los más internos sean más pequeños que los más externos. Además, debe tratar de ser coherente en el orden en que los usa; por ejemplo, use paréntesis para los niveles más internos de anidación, luego corchetes para los niveles intermedios y llaves para los niveles más externos.

Sin embargo, si encuentra que necesita más de tres niveles de anidamiento, sugeriría usar símbolos sustitutos para las expresiones internas, como también sugirió Ted. Además de mejorar la claridad, esta también es una buena manera de evitar errores de transcripción al hacer cálculos largos, porque cada vez que copia una expresión en la siguiente línea en un cálculo, sin modificarla deliberadamente, existe la posibilidad de que cometa un error eso se ondulará por el resto del cálculo sin ser detectado. La rectificación de estos errores puede llevar mucho tiempo si tiene que hacer correcciones en varias copias de una expresión. Si usa símbolos sustitutos, entonces solo tiene que volver a consultar una sola copia de la expresión correspondiente, por lo que no habrá posibilidad de que se introduzca un error de transcripción (este es un consejo invaluable que un viejo profesor de matemáticas mío una vez me dio). ¡Otra ventaja de usar símbolos sustitutos en cálculos largos es que reducen el riesgo de calambres en los escritores! : o)

Y debo hacerme eco de los comentarios de Ted sobre evitar el uso de ciertos tipos de símbolos que encierran, como corchetes angulares o llaves, que podrían tener significados especiales dentro del tipo de matemática que está utilizando, ya que esto podría causar confusión.

Finalmente, si realmente no puede evitar el uso de muchos niveles de expresiones anidadas, una buena manera de realizar un seguimiento de todos los símbolos que encierran, y asegurarse de que cada símbolo de apertura esté emparejado con un símbolo de cierre correspondiente en el orden de anidación correcto, es etiquetar su encerrando símbolos escribiendo un pequeño número debajo de cada uno de esos símbolos, y usando la misma etiqueta para cada par de símbolos de apertura y cierre, por lo tanto:

{… [… (…) … (…) …] … [… (…) … (…) …] …}
1..2..3..3… 4..4..2… 5..6..6… 7..7..5..1

Por supuesto, estas etiquetas solo deberían servir como ayuda mientras realiza los cálculos, y no deberían aparecer en la forma final ‘publicada’ de sus ecuaciones.