そういうことか。

tinymceへのボタン追加と、ポップアップは、こういう感じでできる。

text: 'My Plugin',
 icon: false,
 tooltip: 'This is my plugin.',
 onclick : function() {
 ed.windowManager.open({
 title: 'Edit image',
 body: [
 {type: 'textbox', name: 'bkg_image', label: 'ラベル'},
 ],
 onsubmit: function(e) {
 ed.focus(); 
 ed.selection.setContent("\<div bkg='"+e.data.bkg_image+"'>hogehoge<\/div>");
 
 }
 });
 }

https://stackoverflow.com/questions/18822409/creating-a-custom-popup-with-tinymce

ちなみに、

type : colorpicker とかにすると、カラーピッカーも呼べる。

なにこれ、便利。

その挙動も、tinymce側のpluginを開発すれば制御できる。