跨步预取时,为什么循环顺序很重要?

在C语言中,系统会告知您以行优先的顺序遍历矩阵,因为这是将数组存储在引擎盖下的方式,行优先的迭代利用了整个缓存行,这导致较少的缓存未命中.确实,我的确在机器上看到行级和列级迭代之间存在巨大的性能差异.测试代码:

#include <stdio.h>
#include <stdlib.h>

#include <time.h>
#include <sys/resource.h>

int getTime()
{
  struct timespec tsi;

  clock_gettime(CLOCK_MONOTONIC, &tsi);
  double elaps_s = tsi.tv_sec;
  long elaps_ns = tsi.tv_nsec;
  return (int) ((elaps_s + ((double)elaps_ns) / 1.0e9) * 1.0e3);
}

#define N 1000000
#define M 100

void main()
{
  int *src = malloc(sizeof(int) * N * M);
  int **arr = malloc(sizeof(int*) * N);
  for(int i = 0; i < N; ++i)
    arr[i] = &src[i * M];

  for(int i = 0; i < N; ++i)
    for(int j = 0; j < M; ++j)
      arr[i][j] = 1;

  int total = 0;

  int pre = getTime();


  for(int j = 0; j < M; ++j)
    for(int i = 0; i < N; ++i)
      total += arr[i][j];

  /*
  for(int i = 0; i < N; ++i)
    for(int j = 0; j < M; ++j)
      total += arr[i][j];
  */

  int post = getTime();

  printf("Result: %d, took: %d ms\n", total, post - pre);
}

但是,现代内存系统具有预取器,可以预知跨步访问,并且当您遍历一列时,您将遵循非常规则的模式.这是否不应该让列优先的迭代执行与行优先的迭代类似?

最佳答案
高速缓存行具有特定大小(例如64字节),并且处理器读取和写入完整的高速缓存行.比较处理的字节数和读取和写入的字节数.

转载注明原文:跨步预取时,为什么循环顺序很重要? - 代码日志