Los científicos islámicos del siglo X han participado en tres grandes proyectos matemáticos: la realización de algoritmos aritméticos, el desarrollo del álgebra y la extensión de la geometría.
El primero de estos proyectos dio lugar a la aparición de tres sistemas de numeración completos, uno de los cuales era el «dedo aritmético» utilizado por los escribas y funcionarios del tesoro. Este antiguo sistema aritmético, que se hizo conocido en todo Oriente y Europa, empleaba aritmética mental y un sistema de almacenamiento de resultados intermedios con los dedos como una ayuda para la memoria. (Su uso de fracciones unitarias recuerda al sistema egipcio.) Durante los siglos X y XI matemáticos capaces, como Abul-Wafa (940-997/998), escribieron con este sistema, pero fue finalmente reemplazado por el sistema decimal.
Un segundo sistema común era la numeración en base heredado de los babilonios a través de los griegos y conocido como la «aritmética de los astrónomos». Aunque los astrónomos utilizaban este sistema para sus tablas, por lo general los números se convertían al sistema decimal en presencia de cálculos complicados y luego se convertían de nuevo para obtener una respuesta sexagesimal.
El tercer sistema era la «aritmética india», cuya base numérica, con el cero, se extendió por el este del Islam proveniente de los hindúes. (Diferentes formas numéricas, cuyos orígenes no están del todo claros, se utilizaron en el oeste del Islam.) Los algoritmos básicos también vinieron de la India, pero éstos fueron adaptados por al-Uqlidisi (aprox. 950) usando lápiz y papel en lugar del tradicional tablero de arena, una movida que ayudó a popularizar este sistema. Además, los algoritmos aritméticos se completaron de dos maneras: mediante la extensión de los procedimientos de la extracción de raíces, conocidos por los hindúes y griegos sólo para raíces cuadradas y cúbicas, a raíces de grado superior y a través de la extensión del sistema decimal hindú desde los números enteros hasta incluir fracciones decimales. Estas fracciones aparecen simplemente como dispositivos computacionales en la labor tanto de al-Uqlidisi como de al-Baghdadi (aprox. 1000), pero en los siglos posteriores recibieron un tratamiento sistemático como método general. En cuanto a la extracción de raíces, Abul-Wafa escribió un tratado (ahora perdido) sobre el tema, y Omar Khayyam (1048-1131) resolvió el problema general de la extracción de raíces de cualquier grado deseado. El tratado de Omar también está perdido, pero el método es conocido por otros autores, y parece que un paso importante en su desarrollo fue la derivación de al-Karaji a mediados del siglo X, por inducción matemática, del teorema binomial para exponentes de números enteros -es decir, su descubrimiento de que
Durante el siglo X, los algebristas islámicos progresaron desde los polinomios cuadráticos de Al-Khwarizmi al dominio del álgebra de las expresiones que involucran potencias enteras arbitrarias positivas o negativas de la incógnita. Varios algebristas subrayaron expresamente la analogía entre las reglas para trabajar con potencias de la incógnita en el álgebra y las reglas para trabajar con potencias de en la aritmética, y hubo una interacción entre el desarrollo de la aritmética y el del álgebra entre los siglos X y XII. Un estudiante de la obra de al-Karaji, al-Samaw’al, en el siglo XII, fue capaz de aproximar el cociente
como
y también dio una regla para encontrar los coeficientes de las potencias sucesivas de . Aunque nada de esto emplea el álgebra simbólica, el simbolismo algebraico estaba en uso por el siglo XIV en la parte occidental del mundo islámico. El contexto de este simbolismo bien desarrollado fue, al parecer, los comentarios que estaban destinados a fines de enseñanza, tales como los de Ibn Qunfudh (1330-1407) de Argelia sobre el álgebra de Ibn al-Banna (1256-1321) de Marruecos.
También se desarrollaron otras partes del álgebra. Tanto los griegos como los hindúes habían estudiado ecuaciones indeterminadas, y la traducción de este material y la aplicación del nuevo desarrollo algebraico condujeron a la investigación de las ecuaciones diofánticas por escritores como Abu Kamil, al-Karaji y Abu Yafar al-Khazin (primera mitad del siglo X), así como los intentos por demostrar un caso especial de lo que ahora se conoce como el último teorema de Fermat , a saber, que no hay soluciones racionales para . El gran científico Ibn al-Haytham (965-1040) resolvió problemas de congruencias mediante lo que ahora se conoce como el teorema de Wilson, que establece que, si
es un número primo, entonces
divide a
, y al-Baghdadi dio una variante de la idea de números amigos mediante la definición de dos números «equilibrados» si las sumas de sus divisores son iguales.
Sin embargo, no sólo la aritmética y el álgebra sino que también la geometría se sometió a un amplio desarrollo. Thabit Ibn Qurrah, su nieto Ibrahim Ibn Sinan (909-946), Abu Sahl al-Kuhi (que murió aprox. 995) e Ibn al-Haytham resolvieron problemas que involucraban la geometría pura de las secciones cónicas, incluyendo áreas y volúmenes de figuras planas y sólidas formadas a partir de ellas, y también investigaron las propiedades ópticas de espejos hechos a partir de secciones cónicas. Ibrahim Ibn Sinan, Abu Sahl al-Kuhi e Ibn al-Haytham utilizaron la antigua técnica de análisis para reducir la solución de problemas a construcciones que implican secciones cónicas. (Ibn al-Haytham, por ejemplo, utilizó este método para encontrar el punto en un espejo esférico convexo en el que un objeto dado es visto por un observador dado.) Thabit e Ibrahim mostraron cómo diseñar las curvas necesarias para relojes de sol. Abu’l-Wafa, cuyo libro sobre la aritmética de los escribas fue mencionado anteriormente, también escribió sobre métodos geométricos necesarios para los artesanos.
Además, a finales del siglo X Abu’l-Wafa y el príncipe Abu Nasr Mansur enunciaron y demostraron teoremas de geometría plana y esférica que podían ser aplicados por astrónomos y geógrafos, incluyendo las leyes de senos y tangentes. El pupilo de Abu Nasr, al-Biruni (973-1048), que produjo una gran cantidad de trabajos de alta calidad, fue uno de los maestros en la aplicación de estos teoremas a la astronomía y a problemas en la geografía matemática como la determinación de latitudes y longitudes, de las distancias entre ciudades y de la dirección de una ciudad a otra.