Слово аккомпаниатор образовано от глагола аккомпанировать с помощью суффикса -атор. Существительные с суффиксом -атор называют лицо, осуществляющее действие, названное производящим глаголом, например: реставрировать → реставр-атор, агитировать → агит-атор и т. п. Словообразовательный процесс сопровождается усечением суффикса -ирова- в основе производящего глагола. При образовании слова аккомпаниатор усечение является неполным: в производящей глагольной основе, которая входит в производное слово, гласный и сохраняется: аккомпанировать → аккомпани-атор.

Слово аккомпанемент в русском языке непроизводное, является заимствованием из французского языка: accompagnement (франц.) ― ‘сопровождение’. Отрезок -емент- с историко-этимологической точки зрения  представляет собой французский суффикс. В русском языке этот суффикс не участвует в словообразовательных процессах, однако при собственно морфемном анализе может выделяться на основе аналогии, ср.: аккомпан-емент, ангаж-емент, абон-емент.