В настоящее время прилагательное "мужеский" в словарях определяется как устаревшее, поэтому в речи современного человека выглядит неуместно. Но проблема не только в этом.
Мужеский никогда не было исконно русским словом, оно пришло к нам их старославянского (церковнославянского<wbr />) языка, который по происхождению относится к южнославянским языкам, а не восточнославянским. Слова из этого родственного, но всё же чужого языка воспринимались всегда с некоторым отстранением, потому что он пришёл в жизнь наших предков вместе с христианством, церковной службой, Библией и богослужебными книгами, ради которых его и создали. Отсюда и возникла разница в значениях некоторых слов, которые изначально значили одно и то же, но по-старославянски и по-древнерусски, например, небо - нёбо, невежда - невежа, запасный - запасной, чуждый - чужой.
Мужской - исконно русское прилагательное, этот факт чётко показывает окончание -ой, в данном случае находящееся под ударением, поэтому мы и пишем букву О, но чаще всего ударение на окончание не падает, во множестве прилагательных мы пишем -ий или -ый. Строгая ("мхатовская") норма литературного произношения требует, чтобы во всех окончаниях прилагательных мужского рода в именительном или винительном падежах произносился звук, который мы всегда произносим как "безударный о" невзирая на правописание!
В орфографии некоторое время происходила "борьба" букв, более близко отражавших реальное произношение и пришедших из книжной, церковнославянской традиции. У Пушкина читаем:
далее "убогой" рифмуется со "строгой" в женском роде, творительном падеже и не вызывающей вопросов:
На этой особенности я подробно останавливалась здесь и даже предлагала послушать "Евгения Онегина" в исполнении профессионального актёра - носителя мхатовского произношения по долгу службы.
Итак, в матче мужеский - мужской победил русский вариант, а устаревший попадается лишь в старых книгах, и подражать им не стоит, красота и чистота языка не в том, чтобы слепо следовать всем книжным нормам ушедших эпох.