C++ - 与 Numpy 中的矢量版本相比,Argsort 效率低的矢量版本实现

C++ - vector version implement of argsort low effiency compared to the one in numpy

本文关键字:版本 Argsort 效率 实现 Numpy C++      更新时间:2023-10-16

这是我做的比较。np.argsort定时于 float32 ndarray 由 1,000,000 个元素组成。

In [1]: import numpy as np
In [2]: a = np.random.randn(1000000)
In [3]: a = a.astype(np.float32)
In [4]: %timeit np.argsort(a)
86.1 ms ± 1.59 ms per loop (mean ± std. dev. of 7 runs, 10 loops each)

这是一个C++程序执行相同的过程,但在引用此答案的向量上。

#include <iostream>
#include <vector>
#include <cstddef>
#include <algorithm>
#include <opencv2/opencv.hpp>
#include <numeric>
#include <utility>
int main()
{
std::vector<float> numbers;
for (int i = 0; i != 1000000; ++i) {
numbers.push_back((float)rand() / (RAND_MAX));
}
double e1 = (double)cv::getTickCount();
std::vector<size_t> idx(numbers.size());
std::iota(idx.begin(), idx.end(), 0);
std::sort(idx.begin(), idx.end(), [&numbers](const size_t &a, const size_t &b)
{ return numbers[a] < numbers[b];});
double e2 = (double)cv::getTickCount();
std::cout << "Finished in " << 1000 * (e2 - e1) / cv::getTickFrequency() << " milliseconds." << std::endl;
return 0;
}

它打印Finished in 525.908 milliseconds.,并且比numpy版本慢得多。那么谁能解释一下是什么让np.argsort这么快?谢谢。


Edit1:np.__version__返回在Python 3.6.6 |Anaconda custom (64-bit)上运行的1.15.0g++ --version打印8.2.0。操作系统是Manjaro Linux。


Edit2:我在g++中使用-O2-O3标志进行编译,并在 216.515 毫秒和 205.017 毫秒内得到结果。这是一个改进,但仍然比numpy版本慢。(参考这个问题(这已被删除,因为我错误地在拔下笔记本电脑的 DC 适配器的情况下运行测试,这会导致它变慢。在公平竞争中,C阵列和矢量版本表现相同(大约需要100ms(。

Edit3:另一种方法是用 C 替换向量,例如数组:float numbers[1000000];。之后,运行时间约为 100 毫秒(+/-5 毫秒(。完整代码在这里:

#include <iostream>
#include <vector>
#include <cstddef>
#include <algorithm>
#include <opencv2/opencv.hpp>
#include <numeric>
#include <utility>
int main()
{
//std::vector<float> numbers;
float numbers[1000000];
for (int i = 0; i != 1000000; ++i) {
numbers[i] = ((float)rand() / (RAND_MAX));
}
double e1 = (double)cv::getTickCount();
std::vector<size_t> idx(1000000);
std::iota(idx.begin(), idx.end(), 0);
std::sort(idx.begin(), idx.end(), [&numbers](const size_t &a, const size_t &b)
{ return numbers[a] < numbers[b];});
double e2 = (double)cv::getTickCount();
std::cout << "Finished in " << 1000 * (e2 - e1) / cv::getTickFrequency() << " milliseconds." << std::endl;
return 0;
}

我采用了您的实现并用10000000项对其进行了测量。大约花了1.7秒。

现在我介绍了一个类

class valuePair {
public:
valuePair(int idx, float value) : idx(idx), value(value){};
int idx;
float value;
};

与初始化为

std::vector<valuePair> pairs;
for (int i = 0; i != 10000000; ++i) {
pairs.push_back(valuePair(i, (double)rand() / (RAND_MAX)));
}

和排序比完成

std::sort(pairs.begin(), pairs.end(), [&](const valuePair &a, const valuePair &b) { return a.value < b.value; });

此代码将运行时间缩短到 1.1 秒。我认为这是由于更好的缓存一致性,但距离 python 结果还很远。

想法:

  • 不同的底层算法:。np.argsort默认使用快速排序,C++中的实现可能取决于您的编译器。

  • 函数调用开销:我不确定C++编译器是否内联了您的比较函数。否则,调用此函数也可能会引入一些开销。根据这篇文章,情况并非如此

  • 编译器标志 ?