Предсказуемо обращаться к памяти

Причина

Производительность очень чувствительна к производительности кэша, и алгоритмы кэша отдают предпочтение простому (обычно линейному) доступу к соседним данным.

Пример

int matrix[rows][cols];

// плохо
for (int c = 0; c < cols; ++c)
    for (int r = 0; r < rows; ++r)
        sum += matrix[r][c];

// хорошо
for (int r = 0; r < rows; ++r)
    for (int c = 0; c < cols; ++c)
        sum += matrix[r][c];