为入唐波斯人后裔，生于玄宗天宝三载（744），卒于宪宗元和十二年（817）。幼时随父亲生活于广州，代宗大历（766～779）年间，由于精通天文星历之学而被征召至长安，就职于司天台，前后共50余年，最终以“行司天监兼晋州长史、翰林待诏”的身份去世。在他执掌司天台期间，主持将希腊托勒密的天文学著作引介到中国，促进了东西方在天文历算之学上的交流。

李素的字“文贞”，又出现于《大秦景教流行中国碑》中，在该碑左侧第三栏有“僧文贞”之题名，从李素生活的年代和事迹来看，这里的“文贞”应当就是李素，从而说明李素应当是景教僧侣，保持着景教的信仰。而李素的儿子均在唐朝为官，并从武职军将逐渐转变为礼仪中的官员，甚至成为乡贡明经，反映出其家族逐渐融入了中国社会。

1980年1月，西安西北国棉四厂职工子弟学校操场出土了李素及其妻卑失氏的墓志，使得史籍无载的李素事迹为今人所知。