在文艺复兴早期，欧洲数学在两方面发生了重要变化，一是数学符号的改进，二是数学同艺术和商业的联系得到了加强。这个时期的数学发展最初是在意大利进行的。意大利商人阶层的兴起促生了一个新的数学家群体，通常称为计算学家（maestri d’abbaco）。他们创办了很多寄宿制的计算学校（abbaco school）并编写了很多教材。15世纪中期欧洲印刷术出现并普及后，计算学家的影响也扩展到其他欧洲国家。在代数方面，他们开始引入缩略表示、运算符号、负数、负指数、小数和对数等，简化了数学的计算。在16世纪末，F.韦达在《分析术引论》（Ad artem analyticem isagoge，1591）中把代数学的符号化推进了一大步。他用元音字母表示未知量，用辅音字母表示已知量，从而可以将注意力集中于问题的求解程序和解的结构上面。R.笛卡儿提出用字母表中的前后字母分别表示未知量和已知量，这个做法被后人接受。计算学家对代数学的另一个贡献是他们探索了更复杂问题的解题技巧，并且开始求解高于二次的特殊方程。在14世纪后期，A.de 马兹尼（Antonio de Mazzinhi，1353～1383）在许多问题的求解中引入了第二个未知量，M.达迪^[注]（Maestro Dardi，14世纪中期）给出两种源自复利问题的三、四次方程的解，其后弗朗西斯卡^[注]（Piero della Francesca，1420～1492）进一步解出了五次和六次的源自复利问题的方程。

在绘画领域，一些精通欧几里得几何的意大利画家发展出一套精确的透视绘图理论，成为射影几何的开端。F.布鲁内莱切^[注]（Filippo Brunelleschi，1377～1446）指出，异于画布平面上的所有平行线将在画布平面上交于消失点。L.B.阿尔贝蒂^[注]（Leone Battista Alberti，1404～1472）撰写了第一本关于透视的著作《论绘画》（Della Pittura，1451），引入了消失线、中心消失点等概念。弗朗西斯卡的《绘画透视学》（De prospectiva pingendi）是透视理论的第一部数学著作，详细论述了如何把一个立体投影到画布平面上。

在代数学方面，意大利数学家在16世纪前期找到了三次方程的代数解法。在意大利数学家S.del 费罗^[注]（Scipione del Ferro，1465～1526）和N.塔尔塔利亚工作的基础上，G.卡尔达诺出版了《大术》(Ars Magna，1545)，系统论述了三次方程的解法及其几何证明，并记载了由L.费拉里^[注]（Lodovico Ferrari，1522～1565）最早发现的四次方程的解法，成为数学发展史上的一个重要里程碑。三次方程的不可约情形对三次和四次方程的求解都至关重要。最早在这个方向取得突破的是意大利数学家R.邦贝利，他在《代数学》（L’algebra，1572）中建立了虚数的运算法则，说明卡尔达诺公式在不可约情形中也适用。其后，韦达在1590年给出了一种不可约情形的三角函数解法，实际上是一种数值解法。N.许凯^[注]（Nicolas Chuquet，1445～1488）曾经利用中间分数法则求解了二次方程、平方根和立方根等问题的近似值，卡尔达诺用线性插值法近似求解高次方程，并和德国数学家C.克拉维乌斯^[注]（Christopher Clavius，1538～1612）各自改进了自斐波那契以来的多重双假设法。此外，他还和邦贝利各自改进了用分数近似方根的开方算法。这些数值方法以代数方法为基础，客观上促进了代数学的发展。

对于四次方程的求解，邦贝利还完善了费拉里的配方法。其后S.斯蒂文和韦达给出了更清晰的论述，而且韦达还指出可以利用线性代换消去四次方程的三次项。韦达的另一项重要工作是给出了高次方程实根与系数的关系，现在称为韦达定理，不过当时他只考虑方程的正根。在三角学方面，欧洲第一部纯粹的三角学著作是由德国数学家J.雷格蒙塔努斯撰写的《论各种三角形》（De Triangulis Omnimodis，1533），此书共5卷，前两卷讲述平面三角形，后三卷讲述球面三角形。后来G.J.雷蒂库斯^[注]（Georg Joachim Rheticus，1514～1574）出版了N.哥白尼天文学著作的数学部分《三角形的边与角》（De Lateribus et Angulis Triangulorum，1542）和《三角殿堂》（Opus Palatinum de Triangulis，1596），在直角三角形中定义了6种三角函数，并开始制作它们的表格。他的学生在其去世后完成了这些表格，并精确到小数点后十位，一直使用到20世纪初。韦达给出了很多三角学公式和三角函数表，解释了构造这些表格的数学理论，并详细讨论了如何求解平面和球面三角形。他得到了圆周率的第一个无穷乘积表达式，给出了正弦和余弦的n倍角公式，并将n等分角的几何问题转化为数值求解n次方程的代数和算术问题，从而成为解析几何的先行者。