python 性能优化方法小结

提高性能有如下方法

1、Cython,用于合并python和c语言静态编译泛型

2、IPython.parallel，用于在本地或者集群上并行执行代码

3、numexpr，用于快速数值运算

4、multiprocessing,python内建的并行处理模块

5、Numba，用于为cpu动态编译python代码

6、NumbaPro，用于为多核cpu和gpu动态编译python代码

为了验证相同算法在上面不同实现上的的性能差异，我们先定义一个测试性能的函数

def perf_comp_data(func_list, data_list, rep=3, number=1): 
  '''Function to compare the performance of different functions. 
  Parameters 
  func_list : list 
  list with function names as strings

  data_list : list 
  list with data set names as strings 

  rep : int 
  number of repetitions of the whole comparison 
  number : int 
  number ofexecutions for every function 
  '''
  from timeit import repeat 
  res_list = {} 
  for name in enumerate(func_list): 
    stmt = name[1] + '(' + data_list[name[0]] + ')' 
    setup = "from __main__ import " + name[1] + ','+ data_list[name[0]] 
    results = repeat(stmt=stmt, setup=setup, repeat=rep, number=number) 
    res_list[name[1]] = sum(results) / rep
  res_sort = sorted(res_list.items(), key = lambda item : item[1])
  for item in res_sort: 
    rel = item[1] / res_sort[0][1]
    print ('function: ' + item[0] + ', av. time sec: %9.5f,  ' % item[1] + 'relative: %6.1f' % rel)

定义执行的算法如下

from math import * 
def f(x): 
  return abs(cos(x)) ** 0.5 + sin(2 + 3 * x)

对应的数学公式是

生成数据如下

i=500000
a_py = range(i)

第一个实现f1是在内部循环执行f函数，然后将每次的计算结果添加到列表中，实现如下

def f1(a): 
  res = [] 
  for x in a: 
    res.append(f(x)) 
  return res

当然实现这种方案的方法不止一种，可以使用迭代器或eval函数,我自己加入了使用生成器和map方法的测试，发现结果有明显差距，不知道是否科学：

迭代器实现

def f2(a): 
  return [f(x) for x in a]

eval实现

def f3(a): 
  ex = 'abs(cos(x)) **0.5+ sin(2 + 3 * x)' 
  return [eval(ex) for x in a] 

生成器实现

def f7(a): 
  return (f(x) for x in a)

map实现

def f8(a): 
  return map(f, a)

接下来是使用numpy的narray结构的几种实现

import numpy as np 
a_np = np.arange(i) 

def f4(a): 
  return (np.abs(np.cos(a)) ** 0.5 + np.sin(2 + 3 * a))

import numexpr as ne

def f5(a): 
  ex = 'abs(cos(a)) ** 0.5 + sin( 2 + 3 * a)' 
  ne.set_num_threads(1) 
  return ne.evaluate(ex)

def f6(a): 
  ex = 'abs(cos(a)) ** 0.5 + sin(2 + 3 * a)' 
  ne.set_num_threads(2) 
  return ne.evaluate(ex)

上面的f5和f6只是使用的处理器个数不同，可以根据自己电脑cpu的数目进行修改，也不是越大越好

下面进行测试

func_list = ['f1', 'f2', 'f3', 'f4', 'f5', 'f6', 'f7', 'f8'] 
data_list = ['a_py', 'a_py', 'a_py', 'a_np', 'a_np', 'a_np', 'a_py', 'a_py']
perf_comp_data(func_list, data_list)

测试结果如下

function: f8, av. time sec:  0.00000,  relative:  1.0
function: f7, av. time sec:  0.00001,  relative:  1.7
function: f6, av. time sec:  0.03787,  relative: 11982.7
function: f5, av. time sec:  0.05838,  relative: 18472.4
function: f4, av. time sec:  0.09711,  relative: 30726.8
function: f2, av. time sec:  0.82343,  relative: 260537.0
function: f1, av. time sec:  0.92557,  relative: 292855.2
function: f3, av. time sec: 32.80889,  relative: 10380938.6

发现f8的时间最短，调大一下时间精度再测一次

function: f8, av. time sec: 0.000002483,  relative:  1.0
function: f7, av. time sec: 0.000004741,  relative:  1.9
function: f5, av. time sec: 0.028068110,  relative: 11303.0
function: f6, av. time sec: 0.031389788,  relative: 12640.6
function: f4, av. time sec: 0.053619114,  relative: 21592.4
function: f1, av. time sec: 0.852619225,  relative: 343348.7
function: f2, av. time sec: 1.009691877,  relative: 406601.7
function: f3, av. time sec: 26.035869787,  relative: 10484613.6

发现使用map的性能最高，生成器次之，其他方法的性能就差的很远了。但是使用narray数据的在一个数量级，使用python的list数据又在一个数量级。生成器的原理是并没有生成一个完整的列表，而是在内部维护一个next函数，通过一边循环迭代一遍生成下个元素的方法的实现的，所以他既不用在执行时遍历整个循环，也不用分配整个空间，它花费的时间和空间跟列表的大小是没有关系的，map与之类似，而其他实现都是跟列表大小有关系的。

内存布局

numpy的ndarray构造函数形式为

np.zeros(shape, dtype=float, order='C')

np.array(object, dtype=None, copy=True, order=None, subok=False, ndmin=0)

shape或object定义了数组的大小或是引用了另一个一个数组

dtype用于定于元素的数据类型，可以是int8，int32，float8，float64等等

order定义了元素在内存中的存储顺序，c表示行优先，F表示列优先

下面来比较一下内存布局在数组很大时的差异，先构造同样的的基于C和基于F的数组，代码如下：

x = np.random.standard_normal(( 3, 1500000))
c = np.array(x, order='C') 
f = np.array(x, order='F') 

下面来测试性能

%timeit c.sum(axis=0)
%timeit c.std(axis=0)
%timeit f.sum(axis=0)
%timeit f.std(axis=0)
%timeit c.sum(axis=1)
%timeit c.std(axis=1)
%timeit f.sum(axis=1)
%timeit f.std(axis=1)

输出如下

loops, best of 3: 12.1 ms per loop
loops, best of 3: 83.3 ms per loop
loops, best of 3: 70.2 ms per loop
loop, best of 3: 235 ms per loop
loops, best of 3: 7.11 ms per loop
loops, best of 3: 37.2 ms per loop
loops, best of 3: 54.7 ms per loop
loops, best of 3: 193 ms per loop

可知，C内存布局要优于F内存布局

并行计算

未完，待续。。。

以上就是本文的全部内容，希望本文的内容对大家的学习或者工作能带来一定的帮助，同时也希望多多支持！

# python  # 性能  # 性能优化  # 性能测试  # Python性能优化技巧  # 如何使用Python标准库进行性能测试  # 如何测试Python网站的访问速度  # 并且优化Python网站的性能  # 多核  # 迭代  # 在一  # 都是  # 是在  # 第一个  # 遍历  # 一遍  # 几种  # 可以使用  # 越好  # 与之  # 在上面  # 越大  # 很远  # 可以根据  # 用在  # 最短  # 内建  # 既不 

相关文章： 如何通过商城自助建站源码实现零基础高效建站？  C++中引用和指针有什么区别？（代码说明）  制作ppt免费网站有哪些,有哪些比较好的ppt模板下载网站？  如何用PHP快速搭建CMS系统？  如何快速生成ASP一键建站模板并优化安全性？  建站之星后台密码遗忘？如何快速找回？  网站制作员失业,怎样查看自己网站的注册者？  建站之星好吗？新手能否轻松上手建站？  代购小票制作网站有哪些,购物小票的简要说明？  建站之星在线版空间：自助建站+智能模板一键生成方案  建站之星如何助力网站排名飙升？揭秘高效技巧  建站为何优先选择香港服务器？  如何快速搭建高效香港服务器网站？  已有域名如何快速搭建专属网站？  制作表格网站有哪些,线上表格怎么弄？  一键网站制作软件,义乌购一件代发流程？  ,sp开头的版面叫什么？  怎么将XML数据可视化 D3.js加载XML  建站主机核心功能解析：服务器选择与网站搭建流程指南  建站之星后台搭建步骤解析：模板选择与产品管理实操指南  广州网站制作公司哪家好一点,广州欧莱雅百库网络科技有限公司官网？  如何在香港服务器上快速搭建免备案网站？  网站广告牌制作方法,街上的广告牌，横幅，用PS还是其他软件做的？  建站主机助手选型指南：2025年热门推荐与高效部署技巧  哈尔滨网站建设策划,哈尔滨电工证查询网站？  C++中的Pimpl idiom是什么，有什么好处？（隐藏实现）  网站设计制作公司地址,网站建设比较好的公司都有哪些？  建站之星北京办公室：智能建站系统与小程序生成方案解析  独立制作一个网站多少钱,建立网站需要花多少钱？  高防服务器租用指南：配置选择与快速部署攻略  微课制作网站有哪些,微课网怎么进？  如何注册花生壳免费域名并搭建个人网站？  建站之星如何一键生成手机站？  如何在万网ECS上快速搭建专属网站？  大连企业网站制作公司,大连2025企业社保缴费网上缴费流程？  如何快速搭建安全的FTP站点？  如何自定义建站之星模板颜色并下载新样式？  css网站制作参考文献有哪些,易聊怎么注册？  专业商城网站制作公司有哪些,pi商城官网是哪个？  如何选择高效可靠的多用户建站源码资源？  如何构建满足综合性能需求的优质建站方案？  儿童网站界面设计图片,中国少年儿童教育网站-怎么去注册？  制作电商网页,电商供应链怎么做？  深圳 网站制作,深圳招聘网站哪个比较好一点啊？  ,制作一个手机app网站要多少钱？  如何在服务器上三步完成建站并提升流量？  如何快速生成专业多端适配建站电话？  如何快速打造个性化非模板自助建站？  唐山网站制作公司有哪些,唐山找工作哪个网站最靠谱？  如何自己制作一个网站链接,如何制作一个企业网站，建设网站的基本步骤有哪些？