ValekS, так и сделал, наверно внутри php кавычки в js неверно обрабатываются визуальным редактором.
Вынес js за php и сделал так, заработало:
transform: {
'<button class="blue button" onClick="window.open(\'http://sait.ru/{URL}\')">{TITLE}</button>':'[LOAD={TITLE}]{URL}[/LOAD]'
}