国产xxxx99真实实拍_久久不雅视频_高清韩国a级特黄毛片_嗯老师别我我受不了了小说

資訊專欄INFORMATION COLUMN

sum() 函數性能堪憂,列表降維有何良方?

李濤 / 2244人閱讀

摘要:在上一篇如何給列表降維函數的妙用中,我們介紹了這個用法,還對函數做了擴展的學習。是的,函數做列表降維有奇效,但它性能堪憂,并不是最好的選擇。這正是函數出于一致性考慮,而舍棄掉的實現方案。

本文原創并首發于公眾號【Python貓】,未經授權,請勿轉載。

原文地址:https://mp.weixin.qq.com/s/mK1nav2vKykZaKw_TY-rtw

Python 的內置函數 sum() 可以接收兩個參數,當第一個參數是二維列表,第二個參數是一維列表的時候,它可以實現列表降維的效果。

在上一篇《如何給列表降維?sum()函數的妙用》中,我們介紹了這個用法,還對 sum() 函數做了擴展的學習。

那篇文章發布后,貓哥收到了一些很有價值的反饋,不僅在知識面上獲得了擴充,在思維能力上也得到了一些啟發,因此,我決定再寫一篇文章,繼續跟大家聊聊 sum() 函數以及列表降維。若你讀后有所啟發,歡迎留言與我交流。

有些同學表示,沒想到 sum() 函數竟然可以這么用,漲見識了!貓哥最初在交流群里看到這種用法時,也有同樣的想法。整理成文章后,能得到別人的認可,我非常開心。

學到新東西,進行分享,最后令讀者也有所獲,這鼓舞了我——應該每日精進,并把所學分享出去。

也有的同學早已知道 sum() 的這個用法,還指出它的性能并不好,不建議使用。這是我不曾考慮到的問題,但又不得不認真對待。

是的,sum() 函數做列表降維有奇效,但它性能堪憂,并不是最好的選擇。

因此,本文想繼續探討的話題是:(1)sum() 函數的性能到底差多少,為什么會差?(2)既然 sum() 不是最好的列表降維方法,那是否有什么替代方案呢?

stackoverflow 網站上,有人問了個“How to make a flat list out of list of lists”問題,正是我們在上篇文章中提出的問題。在回答中,有人分析了 7 種方法的時間性能。

先看看測試代碼:

import functools
import itertools
import numpy
import operator
import perfplot

def forfor(a):
    return [item for sublist in a for item in sublist]

def sum_brackets(a):
    return sum(a, [])

def functools_reduce(a):
    return functools.reduce(operator.concat, a)

def functools_reduce_iconcat(a):
    return functools.reduce(operator.iconcat, a, [])

def itertools_chain(a):
    return list(itertools.chain.from_iterable(a))

def numpy_flat(a):
    return list(numpy.array(a).flat)

def numpy_concatenate(a):
    return list(numpy.concatenate(a))

perfplot.show(
    setup=lambda n: [list(range(10))] * n,
    kernels=[
        forfor, sum_brackets, functools_reduce, functools_reduce_iconcat,
        itertools_chain, numpy_flat, numpy_concatenate
        ],
    n_range=[2**k for k in range(16)],
    logx=True,
    logy=True,
    xlabel="num lists"
    )

代碼囊括了最具代表性的 7 種解法,使用了 perfplot (注:這是該測試者本人開發的庫)作可視化,結果很直觀地展示出,隨著數據量的增加,這幾種方法的效率變化。

從測試圖中可看出,當數據量小于 10 的時候,sum() 函數的效率很高,但是,隨著數據量增長,它所花的時間就出現劇增,遠遠超過了其它方法的損耗。

值得注意的是,functools_reduce 方法的性能曲線幾乎與 sum_brackets 重合。

在另一個回答中,有人也做了 7 種方法的性能測試(巧合的是,所用的可視化庫也是測試者自己開發的),在這幾種方法中,functools.reduce 結合 lambda 函數,雖然寫法不同,它的時間效率與 sum() 函數也基本重合:

from itertools import chain
from functools import reduce
from collections import Iterable  # or from collections.abc import Iterable
import operator
from iteration_utilities import deepflatten

def nested_list_comprehension(lsts):
    return [item for sublist in lsts for item in sublist]

def itertools_chain_from_iterable(lsts):
    return list(chain.from_iterable(lsts))

def pythons_sum(lsts):
    return sum(lsts, [])

def reduce_add(lsts):
    return reduce(lambda x, y: x + y, lsts)

def pylangs_flatten(lsts):
    return list(flatten(lsts))

def flatten(items):
    """Yield items from any nested iterable; see REF."""
    for x in items:
        if isinstance(x, Iterable) and not isinstance(x, (str, bytes)):
            yield from flatten(x)
        else:
            yield x

def reduce_concat(lsts):
    return reduce(operator.concat, lsts)

def iteration_utilities_deepflatten(lsts):
    return list(deepflatten(lsts, depth=1))


from simple_benchmark import benchmark

b = benchmark(
    [nested_list_comprehension, itertools_chain_from_iterable, pythons_sum, reduce_add,
     pylangs_flatten, reduce_concat, iteration_utilities_deepflatten],
    arguments={2**i: [[0]*5]*(2**i) for i in range(1, 13)},
    argument_name="number of inner lists"
)

b.plot()

這就證實了兩點:sum() 函數確實性能堪憂;它的執行效果實際是每個子列表逐一相加(concat)。

那么,問題來了,拖慢 sum() 函數性能的原因是啥呢?

在它的實現源碼中,我找到了一段注釋:

/* It"s tempting to use PyNumber_InPlaceAdd instead of
PyNumber_Add here, to avoid quadratic running time
when doing "sum(list_of_lists, [])".  However, this
would produce a change in behaviour: a snippet like

empty = []
sum([[x] for x in range(10)], empty)

would change the value of empty. */

為了不改變 sum() 函數的第二個參數值,CPython 沒有采用就地相加的方法(PyNumber_InPlaceAdd),而是采用了較耗性能的普通相加的方法(PyNumber_Add)。這種方法所耗費的時間是二次方程式的(quadratic running time)。

為什么在這里要犧牲性能呢?我猜想(只是淺薄猜測),可能有兩種考慮,一是為了第二個參數(start)的一致性,因為它通常是一個數值,是不可變對象,所以當它是可變對象類型時,最好也不對它做修改;其次,為了確保 sum() 函數是個 純函數 ,為了多次執行時能返回同樣的結果。

那么,我要繼續問:哪種方法是最優的呢?

綜合來看,當子列表個數小于 10 時,sum() 函數幾乎是最優的,與某幾種方法相差不大,但是,當子列表數目增加時,最優的選擇是 functools.reduce(operator.iconcat, a, []),其次是 list(itertools.chain.from_iterable(a)) 。

事實上,最優方案中的 iconcat(a, b) 等同于 a += b,它是一種就地修改的方法。

operator.iconcat(a, b)
operator.__iconcat__(a, b)
a = iconcat(a, b) is equivalent to a += b for a and b sequences.

這正是 sum() 函數出于一致性考慮,而舍棄掉的實現方案。

至此,前文提出的問題都找到了答案。

我最后總結一下吧:sum() 函數采用的是非就地修改的相加方式,用作列表降維時,隨著數據量增大,其性能將是二次方程式的劇增,所以說是性能堪憂;而 reduce 結合 iconcat 的方法,才是大數據量時的最佳方案。

這個結果是否與你所想的一致呢?希望本文的分享,能給你帶來新的收獲。

相關鏈接:

如何給列表降維?sum()函數的妙用 :https://mp.weixin.qq.com/s/cr_noDx6s1sZ6Xt6PDpDVQ

stackoverflow 問題:https://stackoverflow.com/questions/952914/how-to-make-a-flat-list-out-of-list-of-lists

公眾號【Python貓】, 本號連載優質的系列文章,有喵星哲學貓系列、Python進階系列、好書推薦系列、技術寫作、優質英文推薦與翻譯等等,歡迎關注哦。后臺回復“愛學習”,免費獲得一份學習大禮包。

文章版權歸作者所有,未經允許請勿轉載,若此文章存在違規行為,您可以聯系管理員刪除。

轉載請注明本文地址:http://specialneedsforspecialkids.com/yun/43668.html

相關文章

  • 如何給列表降維sum()函數的妙用

    摘要:上個月,學習群里的同學問了個題目,大意可理解為列表降維,例子如下想得到結果原始數據是一個二維列表,目的是獲取該列表中所有元素的具體值。不經意間,函數的注意事項,竟把其它的進階內容都聯系起來了。小小的函數,竟成為學習之路上的一個樞紐。 上個月,學習群里的 S 同學問了個題目,大意可理解為列表降維 ,例子如下: oldlist = [[1, 2, 3], [4, 5]] # 想得到結果:...

    Channe 評論0 收藏0
  • 在下函數式編程有何貴干

    摘要:尾聲除了以上特性,函數式編程中還有,等比較難以理解的概念,本文暫時不牽扯那么深,留待有興趣的人自行調查。 本文簡單介紹了一下函數式編程的各種基本特性,希望能夠對于準備使用函數式編程的人起到一定入門作用。 showImg(/img/bVyUGu); 函數式編程,一個一直以來都酷,很酷,非常酷的名詞。雖然誕生很早也炒了很多年但是一直都沒有造成很大的水花,不過近幾年來隨著多核,分布式,大數據...

    April 評論0 收藏0

發表評論

0條評論

李濤

|高級講師

TA的文章

閱讀更多
最新活動
閱讀需要支付1元查看
<