Paul Baran和其他研究人员对分组网络设计的早期发展是出于面对基础设施故障时对更高程度的电路冗余和网络可用性的期望，而不是对20世纪中期电信中的电路交换网络。在1973，Danny Cohen首次展示了一种分组语音的形式，作为飞行模拟器应用程序的一部分，它在早期的ARPANET上运行。在之后大约20年的时间跨度内，人们开发了各种形式的分组电话，并形成了行业兴趣组来支持新技术。随着ARPAET项目的终止和互联网商业流量的扩大，IP电话成为IT主要关注的商业兴趣领域，如微软和英特尔，以及开源软件，如在上世纪90年代中期流行的VocalTec。
20世纪末，第一个软交换成为可用，新的协议如H.323、媒体网关控制协议（MGCP）和会话发起协议（SIP）得到了广泛的关注。在20世纪初，高带宽不间断网络连接住宅和企业的高速发展，催生了互联网电话服务提供商（ITSP）的产业。开源电话软件（如星号PBX）的发展，激起了IP语音服务的广泛兴趣和创业精神，应用了新的互联网技术范式，如云服务电话。
近年来的VoIP发展的里程碑：
1999: 发布了会话发起协议（SIP）规范RFC 2543。Digium公司的Mark Spencer开发了第一个开源私有分支交换（PXX）软件（星号）。
2004:商业VoIP服务提供商激增。
2007: VoIP设备制造商和销售商在亚洲蓬勃发展，特别是在菲律宾，许多海外家庭的家庭居住。
2011:WebRTC技术的兴起，允许VoIP直接在浏览器中运行。
如今企业所需的基本通讯功能如视频通话、电话会议、视频会议、PTT对讲都以IP电话为基础，或与其高度关联密不可分。劳格科技的SparkleSoftphone可使企业员工均可以从基于IP的网络上进行语音传输、数据交互甚至召开视频及电话会议，提高工作效率。
