La invención de la geometría analítica fue, junto al cálculo diferencial e integral, el desarrollo matemático más importante del siglo XVII. Con origen en el trabajo de los matemáticos franceses Viète, Fermat y Descartes, a mediados de siglo se había consolidado como un importante programa de investigación matemática.
Dos tendencias en la matemática contemporánea estimularon el crecimiento de la geometría analítica. La primera fue un creciente interés en las curvas, lo que resulta en parte de la recuperación y la traducción latina de clásicos tratados de Apolonio, Arquímedes y Pappus, y en parte de la creciente importancia de las curvas en campos aplicados como la astronomía, la mecánica, la óptica y la estereometría. La segunda fue la aparición un siglo antes de una práctica algebraica establecida en el trabajo de los algebristas italianos y alemanes y su posterior conformación por parte de Viète en una poderosa herramienta matemática al final del siglo.
Viète fue un destacado representante del movimiento humanista en la matemática que se fijó el proyecto de restaurar y promover los logros de los geómetras griegos clásicos. En su Artem analyticem isagoge de 1591 Viète, como parte de su programa de volver a descubrir el método de análisis utilizado por los antiguos matemáticos griegos, propuso nuevos métodos algebraicos que empleaban variables, constantes y ecuaciones, pero no vio esto como un avance sobre el método antiguo, una visión que se obtiene al comparar el análisis geométrico contenido en el Libro VII de la Colección de Pappus con el análisis aritmético de la Aritmética de Diofanto. Pappus había empleado un método analítico para el descubrimiento de teoremas y para la construcción de problemas. En el análisis, por el contrario a la síntesis, se parte de lo que se busca hasta que se llega a algo conocido. Al abordar un problema aritmético para el que se establece una ecuación entre magnitudes conocidas y desconocidas y luego se despeja la incógnita, uno estaba, según Viète, trabajando con un procedimiento «analítico».
Viète introdujo el concepto de variable algebraica, que él denotó usando una vocal mayúscula (A, E, I, O, U), así como el concepto de parámetro (una cantidad constante no especificada), que denotó con una consonante mayúscula (B, C , D, y así sucesivamente). En su sistema la ecuación
aparecería como
Viète retuvo el principio clásico de la homogeneidad, acordando que los términos a sumar deben ser todos de la misma dimensión. En la ecuación anterior, por ejemplo, cada uno de los términos tiene la dimensión de un sólido o cubo. Por lo tanto, la constante , que denota un plano, se combina con
para formar una cantidad que tiene la dimensión de un sólido.
Cabe señalar que en el esquema de Viète el símbolo es parte de la expresión para el objeto obtenido operando sobre la magnitud denotada por
. Por lo tanto, las operaciones sobre las cantidades indicadas por las variables se reflejan en la misma notación algebraica. Esta innovación, considerada por los historiadores de la matemática como un importante avance conceptual en el álgebra, facilitó el estudio de la solución simbólica de ecuaciones algebraicas y dio lugar a la creación de la primera teoría consciente de las ecuaciones.
Después de la muerte de Viète el arte analítico fue aplicado al estudio de curvas por sus compatriotas Fermat y Descartes. Los dos hombres estaban motivados por el mismo objetivo, aplicar las nuevas técnicas algebraicas a la teoría de los loci (lugares geométricos) de Apolonio como se conservaba en la Colección de Pappus. El más célebre de estos problemas consistió en la búsqueda de la curva o locus trazada por un punto cuyas distancias a varias líneas fijas satisface una relación dada.
Fermat adoptó la notación de Viète en su artículo Ad Locos Planos et Solidos Isagoge de 1636. El título del trabajo se refiere a la antigua clasificación de las curvas en planas (como líneas, rectas y círculos), sólidas (elipses, parábolas e hipérbolas) o lineales (curvas definidas cinemáticamente o por una condición locus). Fermat consideró una ecuación en dos variables. Una de las variables representaba una línea medida horizontalmente desde un punto inicial determinado, mientras que la otra representaba una segunda línea situada en el extremo de la primera línea e inclinada en un ángulo fijo respecto a la horizontal. A medida que la primera variable variaba en magnitud, la segunda tomaba un valor determinado por la ecuación, y el punto final de la segunda línea trazaba una curva en el espacio. Por medio de esta construcción Fermat fue capaz de formular el principio fundamental de la geometría analítica:
Siempre que dos cantidades desconocidas se encuentran en igualdad final, resulta un locus fijo en su lugar, y el punto final de una de estas cantidades desconocidas describe una línea recta o una curva.
El principio implicaba una correspondencia entre dos clases diferentes de objetos matemáticos: curvas geométricas y ecuaciones algebraicas. En el documento de 1636, Fermat demostró que si la ecuación es una cuadrática, entonces la curva es una sección cónica, es decir, una elipse, una parábola o una hipérbola. También demostró que la determinación de la curva dada por una ecuación se simplificaba mediante una transformación que implicaba un cambio de variables de una ecuación en forma estándar.
La Geometría de Descartes apareció en 1637 como un apéndice de su famoso Discurso del método, tratado que presenta el fundamento de su sistema filosófico. Aunque supuestamente se trataba de un ejemplo en la matemática de su método racional, La Geometría era un tratado técnico comprensible independientemente de la filosofía. Estaba destinado a convertirse en uno de los libros más influyentes en la historia de la matemática.
En las secciones iniciales de La Geometría Descartes introdujo dos innovaciones. En lugar de la notación de Viète inició la práctica moderna de denotar las variables por las letras finales del alfabeto (x, y, z) y los parámetros por las letras al comienzo del alfabeto (a, b, c), y además utiliza la notación exponencial para indicar potencias de x. Más importante conceptualmente, dejó a un lado el principio de homogeneidad de Viète, mostrando por medio de una construcción sencilla la forma de representar la multiplicación y la división de líneas por líneas. Por lo tanto, todas las magnitudes (líneas, áreas y volúmenes) podían ser representadas independientemente de su dimensión de la misma manera.
El objetivo de Descartes en La Geometría era lograr la construcción de soluciones a problemas geométricos por medio de instrumentos que eran generalizaciones aceptables de la regla y el compás. El álgebra era una herramienta para ser utilizada en este programa.
En el problema de Apolonio, por ejemplo, se trata de encontrar el lugar geométrico de los puntos cuya distancia a una colección de líneas fijas satisface una relación dada. Utilizando esta relación para derivar una ecuación y, a continuación, utilizando un procedimiento geométrico que implique instrumentos de construcción aceptables, se obtienen puntos en la curva dada por las raíces de la ecuación.
Descartes describió instrumentos más general que el compás para dibujar curvas «geométricas». Estipuló que las partes del instrumento sean unidas entre sí de modo que la relación de los movimientos de las partes pueda ser cognoscible. Esta restricción excluía las curvas «mecánicas» generadas por procesos cinemáticos. La espiral de Arquímedes, por ejemplo, era generada por un punto que se mueve en una línea cuando la línea gira uniformemente alrededor del origen.
Descartes llegó a la conclusión de que una curva geométrica o no mecánica era una cuya ecuación
era un polinomio de grado finito en dos variables. Él deseaba limitar la matemática a la consideración de dichas curvas.
El énfasis de Descartes en la construcción reflejaba su orientación clásica. Su conservadurismo con respecto a qué curvas eran aceptables en la matemática más lo distinguía como pensador tradicional. En el momento de su muerte, en 1650, había sido superado por los acontecimientos, en tanto la investigación se alejaba de las preguntas sobre la construcción a problemas referidos a encontrar áreas (entonces llamados problemas de cuadratura) y tangentes. Los objetos geométricos que estaban entonces en creciente interés eran precisamente las curvas mecánicas que Descartes había querido desterrar de la matemática.
A raíz de los importantes resultados obtenidos en el siglo XVI por Gerolamo Cardano y los algebristas italianos, la teoría de las ecuaciones algebraicas llegó a un callejón sin salida. Las ideas necesarias para investigar las ecuaciones de grado mayor a cuatro eran lentas en desarrollarse. La influencia histórica inmediata de Viète, Fermat y Descartes era proporcionar métodos algebraicos para la investigación de las curvas. Una vigorosa escuela de investigación se estableció en Leiden alrededor de Frans van Schooten, un matemático holandés que editó y publicó en 1649 una traducción latina de La Geometría. Van Schooten publicó una segunda traducción de dos volúmenes de la misma obra en 1659-1661 que también contenía apéndices matemáticos de tres de sus discípulos, Johan de Witt, Johan Hudde y Hendrick van Heuraet. El grupo de matemáticos de Leiden, que también incluyó a Christiaan Huygens, fue en gran parte responsable del rápido desarrollo de la geometría cartesiana a mediados del siglo.