分享

python – C – argsort低效率的矢量版本实现与numpy中的低效率相比

 印度阿三17 2019-06-27

这是我做的比较. np.argsort定时在float32上,ndarray由1,000,000个元素组成.

In [1]: import numpy as np

In [2]: a = np.random.randn(1000000)

In [3]: a = a.astype(np.float32)

In [4]: %timeit np.argsort(a)
86.1 ms ± 1.59 ms per loop (mean ± std. dev. of 7 runs, 10 loops each)

这里有一个C程序执行相同的过程,但是在引用this answer的向量上.

#include <iostream>
#include <vector>
#include <cstddef>
#include <algorithm>
#include <opencv2/opencv.hpp>
#include <numeric>
#include <utility>
int main()
{
  std::vector<float> numbers;
  for (int i = 0; i != 1000000;   i) {
    numbers.push_back((float)rand() / (RAND_MAX));
  }

  double e1 = (double)cv::getTickCount();

  std::vector<size_t> idx(numbers.size());
  std::iota(idx.begin(), idx.end(), 0);

  std::sort(idx.begin(), idx.end(), [&numbers](const size_t &a, const size_t &b)
                                               { return numbers[a] < numbers[b];});

  double e2 = (double)cv::getTickCount();
  std::cout << "Finished in " << 1000 * (e2 - e1) / cv::getTickFrequency() << " milliseconds." << std::endl;
  return 0;
}

它打印完成时间为525.908毫秒.它比numpy版慢得多.所以有人能解释是什么让np.argsort这么快吗?谢谢.

Edit1:np .__ version__返回1.15.0,它运行在Python 3.6.6 | Anaconda自定义(64位)和g – 版本打印8.2.0.操作系统是Manjaro Linux.

Edit2:我用g中的-O2和-O3标志进行编译,得到的结果是216.515毫秒和205.017毫秒.这是一个改进,但仍然比numpy版本慢. (Referring to this question)这被删除了,因为我错误地运行了测试,我的笔记本电脑的DC适配器已拔下,这会导致它变慢.在公平竞争中,C阵列和矢量版本的表现相同(约需100ms).

Edit3:另一种方法是用C代替数组:vector numbers [1000000] ;.之后,运行时间约为100毫秒(/ -5毫秒).完整代码:

#include <iostream>
#include <vector>
#include <cstddef>
#include <algorithm>
#include <opencv2/opencv.hpp>
#include <numeric>
#include <utility>
int main()
{
  //std::vector<float> numbers;
  float numbers[1000000];
  for (int i = 0; i != 1000000;   i) {
    numbers[i] = ((float)rand() / (RAND_MAX));
  }

  double e1 = (double)cv::getTickCount();

  std::vector<size_t> idx(1000000);
  std::iota(idx.begin(), idx.end(), 0);

  std::sort(idx.begin(), idx.end(), [&numbers](const size_t &a, const size_t &b)
                                               { return numbers[a] < numbers[b];});

  double e2 = (double)cv::getTickCount();
  std::cout << "Finished in " << 1000 * (e2 - e1) / cv::getTickFrequency() << " milliseconds." << std::endl;
  return 0;
}

解决方法:

我接受了你的实施并用10000000项测量它.花了大约1.7秒.

现在我介绍了一堂课

class valuePair {
  public:
    valuePair(int idx, float value) : idx(idx), value(value){};
    int idx;
    float value;
};

with初始化为

std::vector<valuePair> pairs;
for (int i = 0; i != 10000000;   i) {
    pairs.push_back(valuePair(i, (double)rand() / (RAND_MAX)));
}

和排序比完成

std::sort(pairs.begin(), pairs.end(), [&](const valuePair &a, const valuePair &b) { return a.value < b.value; });

此代码将运行时间缩短至1.1秒.这是我认为由于更好的缓存一致性,但仍然离python结果相当远.

来源:https://www./content-1-272551.html

    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多