「ultra-heterodox」は接頭辞「ultra-」と形容詞「heterodox」から成る。『ultra』はラテン語『ultra』（向こう側、越えて）に由来し、『heterodox』はギリシャ語『heterodoxos』（hetero-「他の」＋doxa「意見」）に由来する。

「heterodox」はギリシャ語『heterodoxos』（ἑτεροδόξος）から派生し、後期ラテン語『heterodoxus』を経て中世フランス語またはラテン語から英語に入った。『ultra-』は17〜18世紀以降に英語で強調や「越えて」の意味で使われ、両者を組み合わせた語は近代英語で形成された。

構成要素はそれぞれ「越えて」「異なる意見」を意味したが、結合によって「単に異端なだけでなく極めて異端的」という意味になった。