Николай Яненко изучал римановы метрики и многомерные пространства, искал признаки изгибания поверхностей и разрабатывал метод дифференциальных связей. Многие темы исследований он брал одним из первых в стране и в мире.
Поняв огромную роль распараллеливания вычислений для увеличения производительности ЭВМ, он стремился к созданию сверхвысокопроизводительных компьютеров. А открытый им метод дробных шагов позволил существенно сократить время решения многомерных задач путём «расщепления» многомерной задачи на совокупность одномерных.
Николай Яненко — автор и соавтор более 400 публикаций, в том числе 17 монографий, трижды лауреат Государственной премии и кавалер боевых орденов, полученных в годы Великой Отечественной войны.
