maxcallbitrate=4000 = 4000 bytes, = 4 kbytes.
Много ли видело вы засунете в 4 килобайта? H264/90000 там не просто так.
117х115 точек в 64кбита - наверное всё же 64 бита, а не килобита? толстая цветность? Тогда лучше уменьшить до 16-битного цвета.
Проанализируйте что приходит от абонента А в sdp по части видео, и что уходит.
Астериск не транскодит, что пришло - то и отдаёт как умеет.
Смотрите что в sdp.