CPU,GPU線程同步後測時的問題

加速计算 CUDA
1

各位大大好
最近在寫程序時
使用了Event來測時
大致上的code是這樣

        cudaEvent_t start, stop;
   float runtime;
   cudaEventCreate(&start);
   cudaEventCreate(&stop);
   cudaEventRecord(start, 0);


   run_agent<<<109, 96>>>(d_a, d_b, d_c);

   cudaEventRecord(stop, 0);
   cudaEventSynchronize(stop);        

   cudaEventElapsedTime(&runtime, start, stop);

   cudaEventDestroy(stop);
   cudaEventDestroy(start);

   printf("time:%fms\n", runtime);

測出來的時間約為5ms
但是後來改成for迴圈去跑

        cudaEvent_t start, stop;
   float runtime;
   cudaEventCreate(&start);
   cudaEventCreate(&stop);
   cudaEventRecord(start, 0);

   for(unsigned int k = 0; k < 10; k++) {
   run_agent<<<109, 96>>>(d_a, d_b, d_c);
   cudaThreadSynchronize();
   }
   cudaEventRecord(stop, 0);
   cudaEventSynchronize(stop);        

   cudaEventElapsedTime(&runtime, start, stop);

   cudaEventDestroy(stop);
   cudaEventDestroy(start);

   printf("time:%fms\n", runtime);

我也加上了cudaThreadSynchronize()去同步線程
但是測出來的時間居然是6.xms
我覺得很奇怪

正常來說不是應該要是剛剛的5ms * 10嗎?
因為線程同步的問題
至少啟動kernel的時間都已經超過6ms了
怎麼會只有6ms?

附註一下我的設備是
CPU:I5-2400
GPU:GTX560

請各位大大解答~感謝

2

建议去掉cudaThreadSynchronize()试试。

3

你去掉cudaThreadSynchronize()之后，时间是否大致正常？

4

目前手邊的電腦沒辦法跑cuda
等有進實驗室再來測試
同一個流
去掉好像沒差?

5

第一次執行
run_agent<<<109, 96>>>(d_a, d_b, d_c);
後
會等到第一次執行完畢之後才執行第二次的
run_agent<<<109, 96>>>(d_a, d_b, d_c);
嗎?
如果去掉cudaThreadSynchronize()~~~

6

我的机器配置是AMD x4 640, GTS 450
运行时间是10X的关系，不知道你的为什么是这样。

去掉cudaThreadSynchronize后，稍微提快了一点。

7

我覺得是因為你的每次kernel呼叫都會把GPU的資源佔滿
但是我的kernel函數不會
所以導致不是線性的增長
不過在有cudaThreadSynchronize的時候也不會線性增加
這是我的疑問…