Наверное не стоит долго и глубоко объяснять, что любой товар пользуется спросом и приносит прибыль в том случае, если он востребован на рынке в соответствующих объёмах и по соответствующей цене.
Сразу скажем честно, что в России сейчас знания, включая научные, востребованы более чем плохо - страна потихоньку деградирует в плане профессионализма. Поэтому Ваша цель, поставленная в вопросе, практически почти нереализуема.
Тем не менее, что можно попытаться сделать.
Во-первых, Вы должны понять каковы характеристики тех читателей, на которых рассчитан журнал, и что они хотели бы в нём видеть. Здесь, если есть желание, можно почитать в приличном зарубежном учебнике по Маркетингу главы посвящённые сегментации рынка. Если вы сможете своей целевой аудитории предлагать ценные с их точки зрения материалы, то спрос на журнал, а с ним и рентабельность, начнут повышаться.
Во-вторых, понимаю, что данный журнал не относится к средствам массовой информации, но, тем не менее, стоит подумать о том, какую рекламу можно размещать в журнале с ориентацией на ту же целевую аудиторию. Это не обязательно товары или услуги! Это может быть реклама конференций, форумов, возможностей использования новых технологий в продуктах и т.д.
В-третьих, не забывайте о том, что Запад навязал России дурость по поводу индекса цитируемости и многие учёные нуждаются в том, чтобы напечатать где-то свои статьи. Если для Вас это допустимо, предлагайте свой журнал для этих целей, зарабатывая на этом деньги. Если такое предложение недопустимо для имиджа Вашего журнала (за деньги часто просят напечатать и околонаучную лабуду), подумайте о создании ещё одного журнала для этих целей. Зарабатывая деньги на печатании заказных статей, будете компенсировать убыточность основного журнала.
И ещё, знайте одно важное правило экономики, которое называется "эффект масштаба производства": чем больший объём продукции (в Вашем случае тираж журнала) выпускается, тем дешевле оказывается выпуск одной единицы продукции. Если сможете обеспечить большой тираж, то и решать проблему с рентабельностью будет легче.