Bir VOIP Telefon Sistemi / IP PBX sistemi, bir veya daha fazla SIP telefonu / VOIP telefonu, bir IP PBX sunucusu ve opsiyonel olarakta bir VOIP Cihazı içerir. IP PBX sunucusu bir proxy sunucusuna benzer: SIP istemcileri yani yazılım ya da donanım tabanlı telefonlar, IP PBX sunucusuna kaydolur ve bu telefonlar arama yapmak istediklerinde IP PBX’in bağlantı kurmasını isterler. IP PBX’te tüm telefonların/kullanıcıların ve cevap veren SIP adreslerinin bir listesi vardır ve bu yüzden dahili arama ya da VOIP cihazı veya bir VOIP hizmet sağlayıcısı aracılığıyla harici arama yapabilir.