Bootstrapの「btn-group」で作成したプルダウンを条件によって消したい

Twitter Bootstrapを使用してボタングループを作成しています。
この「▼」をJavascriptで消したい。

  <div class="btn-group">
    <a class="btn btn-primary btn-small">ボタン</a>
    <a class="btn btn-primary btn-small dropdown-toggle" data-toggle="dropdown" href="#">▼</a>
    <ul class="dropdown-menu">
      <li><a href="#">りんく</a></li>
    </ul>
  </div>

はいはい、「▼」のとこから全部とかで囲って消しちゃえばいいやん。
（大本のbtn-groupを外さないと崩れるのでこれも除去）

  <div class="">
    <a class="btn btn-primary btn-small">ボタン</a>
    <span id="deleteTarget" style="display : none">
    <a class="btn btn-primary btn-small dropdown-toggle" data-toggle="dropdown" href="#">▼</a>
    <ul class="dropdown-menu">
      <li><a href="#">りんく</a></li>
    </ul>
    </span>
  </div>

はい、消えた！
けど、通常時にプルダウン部が別れてしまうのでボツ。

  <div class="btn-group">
    <a class="btn btn-primary btn-small">ボタン</a>
    <span id="deleteTarget">
      <a class="btn btn-primary btn-small dropdown-toggle" data-toggle="dropdown" href="#">▼</a>
      <ul class="dropdown-menu">
        <li><a href="#">りんく</a></li>
      </ul>
    </span>
  </div>

「aタグ、ulタグ消してdivのclass除去」の3作業を行うか、btn-group自体を消して作りなおす。
もしくは、bootstrapのclassを定義し直すとか？？
結局、解決策がみつからず。。。

※上記画像はbootstrapの3ですが、2でも同じ結果になりました。

コードサンプル（時間経過で消えるかも。）