Según algunas etimologías, es "ajar más de lo debido". Quizá esa terminación sea una influencia del francés outrager; porque en rigor de verdad proviene del latín ultraticum ("traspasar un límite"). Se usa en sentido figurado, para límites morales, éticos, de educación y decoro: sin perjuicio de, además, un ultraje físico.
Este fragmento contiene algún extracto de ultrajar en www.filco.es"¡Cómo pudo enseñarse a despreciar los instintos primordiales de la vida e inventarse un alma, un espíritu, para ultrajar el cuerpo!"