目前电信级VoIP系统一般由IP电话终端、IP接入网关、网关(Gateway)、网守(Gatekeeper)、网管系统、认证计费系统等几部分组成。

1、终端：IP电话终端包括传统的语音电话机、PC、IP电话机,也可以是集语音、数据和图象于一体的多媒体业务终端。

2、接入网关：接入网关即前置交换机,它的作用是与PSTN网、移动网、专网PBX实现互联互通及信令转换、话务收敛、呼叫分配。接入网关与网关相连可采用PRI信令,与PSTN测可采用NO.7号信令或R2好信令,优选NO.7号信令。

3、网关：由于不同种类的终端产生的数据源结构是不同的,要在同一个网络上传输,这就要由网关或者是通过一个适配器进行数据转换,形成统一的IP数据包。IP电话网关提供IP网络和电话网之间的接口,用户通过PSTN本地环路连接到IP网络的网关,网关负责把模拟信号转换为数字信号并压缩打包,成为可以在因特网上传输的IP分组语音信号,然后通过因特网传送到被叫用户的网关端,由被叫端的网关对IP数据包进行解包、解压和解码,还原为可被识别的模拟语音信号,再通过PSTN传到被叫方的终端。这样,就完成了一个完整的电话到电话的IP电话的通信过程。网关负责完成PRI信令至H.323协议的转换。

4、关守：关守实际上是IP电话网的智能集线器,是整个系统的服务平台,负责系统的管理、配置和维护。关守提供的功能有拨号方案管理、安全性管理、集中帐务管理、数据库管理和备份、网络管理等等。关守按管理作用的不同又可分为目录关守、区域关守,整网通过目录关守同其他IP电话运营网络实现互通。；

5、网管系统：网管系统的功能是管理整个IP电话系统,包括设备的控制及配置,数据配给,拨号方案管理及负载均衡、远程监控等。

6、认证计费系统：认证计费系统的功能是对用户的鉴别用户是否为有权用户并对呼叫进行费用计算,同时提供相应的单据和统计报表。认证计费系统可以由IP电话系统制造商提供,也可以由第三方制作,但此时需IP电话系统制造商提供其软件数据接口。