生于浙江宁波。1955年毕业于上海交通大学电讯系。1961年获苏联莫斯科电讯工程学院副博士学位。1955年起，一直任教于北京邮电大学（原名北京邮电学院），1978年、1981年曾在美国加利福尼亚大学伯克利分校和洛杉矶分校做访问学者。1991年当选中国科学院学部委员（院士）。1994年当选中国工程院院士。

20世纪60年代陈俊亮从事数据传输中纠错编码技术的研究，是有线600/1200波特及无线600波特数据传输设备的主要研制者之一。80年代从事程控数字电话交换机的研究，对交换机诊断程序理论与实现做出了贡献。90年代率先从事智能网的研究，在智能网的体系、软件结构等方面做出了重要贡献，其成果已形成产业化和市场化。21世纪初以来重在网络智能及交换技术的研究。

陈俊亮曾任程控交换技术与通信网国家重点实验室主任，又于1994～1998年任国家自然科学基金委员会信息科学部兼职主任。获1988年国家科技进步奖一等奖等多项奖励。著有《数字电路逻辑设计》一书。