Es el planteamiento de una situación matemática, que nos pide obtener una respuesta o solución. La respuesta debe obtenerse generalmente con la ayuda de teoremas o axiomas que expliquen la solución obtenida. En otras palabras, un problema consiste en la búsqueda de una determinada solución que permita satisfacer el planteamiento de una situación. Las situaciones de un problema pueden ser muy variadas, desde algo tan simple como una simple suma, hasta el de resolver una ecuación de segundo grado, o demostrar una conjetura, etc.

Cuando hacemos uso ordenado de varias operaciones finitas, para hallar la solución de un problema. A ese grupo ordenado y finito de operaciones, que nos permiten hallar la solución de un problema, se conoce como algoritmo. También se puede decir que un algoritmo es una descripción de la solución a un problema. Otra definición de algoritmo es que son los pasos que se deben seguir para resolver cualquier problema matemático.

Cuando hallamos la solución a un determinado problema, podemos usar el mismo algoritmo para problemas similares, es decir, las mismas operaciones que se usaron en un problema se pueden usar en otro similar. En las matemáticas existen muchos algoritmos para solucionar muchos problemas similares, como por ejemplo, el algoritmo de la suma que nos permite sumar números de más de dos cifras.

Para encontrar la solución de un problema matemático, se suelen usar constantes y variables. Las constantes son cantidades que siempre son las mismas y no cambian al buscar la solución de un problema, las variables son cantidades que varían y no siempre son las mismas cuando se busca la solución de un problema. Las cantidades desconocidas que buscamos como respuesta a una solución se les suele llamar incógnita.

Dentro de la búsqueda a la solución de un problema matemático, las variables y cantidades desconocidas se suelen representar, pero no siempre, usando letras del abecedario, las constantes se suelen representar con símbolos particulares, como por ejemplo la constante π, que representa el número que se obtiene de dividir la longitud de cualquier circunferencia con su diámetro correspondiente; las constantes también se suelen representar con las primeras letras del abecedario o dejarlos tal como están como un número con sus cifras.