Как поменять цвет заголовка окна в другой программе?

Как при помощи bash или с использование других средств поменять цвет заголовка окна в другой программе?

С помощью bash - никак. Он немного не для этого ;)
Какой оконный менеджер?

kwin или kwm в kde

Можно ли с помощью xlib поменять цвет заголовка окна ???

Legion, вряд ли. xlib - это более низкого уровня библиотека, чем оконный менеджер.
Тут надо средствами самого оконного менеджера. kwin, возможно, это умеет.
Если не получится, можно ещё попробовать openbox/awesome/ и т.п...