摘要:沒錯,在中你一樣可以這樣簡單的操作,而不同的是你操作的是一整列的字符串數據。因為對于類型的,字符的操作發生在的非重復值上,而并非原上的所有元素上。下面的這些屬性基本都是關于查看和操作數據類型的。
作者:xiaoyu
微信公眾號:Python數據科學
知乎:python數據分析師
pandas有一種功能非常強大的方法,它就是accessor,可以將它理解為一種屬性接口,通過它可以獲得額外的方法。其實這樣說還是很籠統,下面我們通過代碼和實例來理解一下。
>>> pd.Series._accessors {"cat", "str", "dt"}
對于Series數據結構使用_accessors方法,我們得到了3個對象:cat,str,dt。
.cat:用于分類數據(Categorical data)
.str:用于字符數據(String Object data)
.dt:用于時間數據(datetime-like data)
下面我們依次看一下這三個對象是如何使用的。
str對象的使用Series數據類型:str字符串
# 定義一個Series序列 >>> addr = pd.Series([ ... "Washington, D.C. 20003", ... "Brooklyn, NY 11211-1755", ... "Omaha, NE 68154", ... "Pittsburgh, PA 15211" ... ]) >>> addr.str.upper() 0 WASHINGTON, D.C. 20003 1 BROOKLYN, NY 11211-1755 2 OMAHA, NE 68154 3 PITTSBURGH, PA 15211 dtype: object >>> addr.str.count(r"d") 0 5 1 9 2 5 3 5 dtype: int64
關于以上str對象的2個方法說明:
Series.str.upper:將Series中所有字符串變為大寫;
Series.str.count:對Series中所有字符串的個數進行計數;
其實不難發現,該用法的使用與Python中字符串的操作很相似。沒錯,在pandas中你一樣可以這樣簡單的操作,而不同的是你操作的是一整列的字符串數據。仍然基于以上數據集,再看它的另一個操作:
>>> regex = (r"(?P[A-Za-z ]+), " # 一個或更多字母 ... r"(?P [A-Z]{2}) " # 兩個大寫字母 ... r"(?P d{5}(?:-d{4})?)") # 可選的4個延伸數字 ... >>> addr.str.replace(".", "").str.extract(regex) city state zip 0 Washington DC 20003 1 Brooklyn NY 11211-1755 2 Omaha NE 68154 3 Pittsburgh PA 15211
關于以上str對象的2個方法說明:
Series.str.replace:將Series中指定字符串替換;
Series.str.extract:通過正則表達式提取字符串中的數據信息;
這個用法就有點復雜了,因為很明顯看到,這是一個鏈式的用法。通過replace將 " . " 替換為"",即為空,緊接著又使用了3個正則表達式(分別對應city,state,zip)通過extract對數據進行了提取,并由原來的Series數據結構變為了DataFrame數據結構。
當然,除了以上用法外,常用的屬性和方法還有rstrip,.contains,split等,我們通過下面代碼查看一下str屬性的完整列表:
>>> [i for i in dir(pd.Series.str) if not i.startswith("_")] ["capitalize", "cat", "center", "contains", "count", "decode", "encode", "endswith", "extract", "extractall", "find", "findall", "get", "get_dummies", "index", "isalnum", "isalpha", "isdecimal", "isdigit", "islower", "isnumeric", "isspace", "istitle", "isupper", "join", "len", "ljust", "lower", "lstrip", "match", "normalize", "pad", "partition", "repeat", "replace", "rfind", "rindex", "rjust", "rpartition", "rsplit", "rstrip", "slice", "slice_replace", "split", "startswith", "strip", "swapcase", "title", "translate", "upper", "wrap", "zfill"]
屬性有很多,對于具體的用法,如果感興趣可以自己進行摸索練習。
dt對象的使用Series數據類型:datetime
因為數據需要datetime類型,所以下面使用pandas的date_range()生成了一組日期datetime演示如何進行dt對象操作。
>>> daterng = pd.Series(pd.date_range("2017", periods=9, freq="Q")) >>> daterng 0 2017-03-31 1 2017-06-30 2 2017-09-30 3 2017-12-31 4 2018-03-31 5 2018-06-30 6 2018-09-30 7 2018-12-31 8 2019-03-31 dtype: datetime64[ns] >>> daterng.dt.day_name() 0 Friday 1 Friday 2 Saturday 3 Sunday 4 Saturday 5 Saturday 6 Sunday 7 Monday 8 Sunday dtype: object >>> # 查看下半年 >>> daterng[daterng.dt.quarter > 2] 2 2017-09-30 3 2017-12-31 6 2018-09-30 7 2018-12-31 dtype: datetime64[ns] >>> daterng[daterng.dt.is_year_end] 3 2017-12-31 7 2018-12-31 dtype: datetime64[ns]
以上關于dt的3種方法說明:
Series.dt.day_name():從日期判斷出所處星期數;
Series.dt.quarter:從日期判斷所處季節;
Series.dt.is_year_end:從日期判斷是否處在年底;
其它方法也都是基于datetime的一些變換,并通過變換來查看具體微觀或者宏觀日期。
cat對象的使用Series數據類型:Category
在說cat對象的使用前,先說一下Category這個數據類型,它的作用很強大。雖然我們沒有經常性的在內存中運行上g的數據,但是我們也總會遇到執行幾行代碼會等待很久的情況。使用Category數據的一個好處就是:可以很好的節省在時間和空間的消耗。下面我們通過幾個實例來學習一下。
>>> colors = pd.Series([ ... "periwinkle", ... "mint green", ... "burnt orange", ... "periwinkle", ... "burnt orange", ... "rose", ... "rose", ... "mint green", ... "rose", ... "navy" ... ]) ... >>> import sys >>> colors.apply(sys.getsizeof) 0 59 1 59 2 61 3 59 4 61 5 53 6 53 7 59 8 53 9 53 dtype: int64
上面我們通過使用sys.getsizeof來顯示內存占用的情況,數字代表字節數。
還有另一種計算內容占用的方法:memory_usage(),后面會使用。
現在我們將上面colors的不重復值映射為一組整數,然后再看一下占用的內存。
>>> mapper = {v: k for k, v in enumerate(colors.unique())} >>> mapper {"periwinkle": 0, "mint green": 1, "burnt orange": 2, "rose": 3, "navy": 4} >>> as_int = colors.map(mapper) >>> as_int 0 0 1 1 2 2 3 0 4 2 5 3 6 3 7 1 8 3 9 4 dtype: int64 >>> as_int.apply(sys.getsizeof) 0 24 1 28 2 28 3 24 4 28 5 28 6 28 7 28 8 28 9 28 dtype: int64
注:對于以上的整數值映射也可以使用更簡單的pd.factorize()方法代替。
我們發現上面所占用的內存是使用object類型時的一半。其實,這種情況就類似于Category data類型內部的原理。
內存占用區別:Categorical所占用的內存與Categorical分類的數量和數據的長度成正比,相反,object所占用的內存則是一個常數乘以數據的長度。
下面是object內存使用和category內存使用的情況對比。
>>> colors.memory_usage(index=False, deep=True) 650 >>> colors.astype("category").memory_usage(index=False, deep=True) 495
上面結果是使用object和Category兩種情況下內存的占用情況。我們發現效果并沒有我們想象中的那么好。但是注意Category內存是成比例的,如果數據集的數據量很大,但不重復分類(unique)值很少的情況下,那么Category的內存占用可以節省達到10倍以上,比如下面數據量增大的情況:
>>> manycolors = colors.repeat(10) >>> len(manycolors) / manycolors.nunique() 20.0 >>> manycolors.memory_usage(index=False, deep=True) 6500 >>> manycolors.astype("category").memory_usage(index=False, deep=True) 585
可以看到,在數據量增加10倍以后,使用Category所占內容節省了10倍以上。
除了占用內存節省外,另一個額外的好處是計算效率有了很大的提升。因為對于Category類型的Series,str字符的操作發生在.cat.categories的非重復值上,而并非原Series上的所有元素上。也就是說對于每個非重復值都只做一次操作,然后再向與非重復值同類的值映射過去。
對于Category的數據類型,可以使用accessor的cat對象,以及相應的屬性和方法來操作Category數據。
>>> ccolors = colors.astype("category") >>> ccolors.cat.categories Index(["burnt orange", "mint green", "navy", "periwinkle", "rose"], dtype="object")
實際上,對于開始的整數類型映射,我們可以先通過reorder_categories進行重新排序,然后再使用cat.codes來實現對整數的映射,來達到同樣的效果。
>>> ccolors.cat.reorder_categories(mapper).cat.codes 0 0 1 1 2 2 3 0 4 2 5 3 6 3 7 1 8 3 9 4 dtype: int8
dtype類型是Numpy的int8(-127~128)。可以看出以上只需要一個單字節就可以在內存中包含所有的值。我們開始的做法默認使用了int64類型,然而通過pandas的使用可以很智能的將Category數據類型變為最小的類型。
讓我們來看一下cat還有什么其它的屬性和方法可以使用。下面cat的這些屬性基本都是關于查看和操作Category數據類型的。
>>> [i for i in dir(ccolors.cat) if not i.startswith("_")] ["add_categories", "as_ordered", "as_unordered", "categories", "codes", "ordered", "remove_categories", "remove_unused_categories", "rename_categories", "reorder_categories", "set_categories"]
但是Category數據的使用不是很靈活。例如,插入一個之前沒有的值,首先需要將這個值添加到.categories的容器中,然后再添加值。
>>> ccolors.iloc[5] = "a new color" # ... ValueError: Cannot setitem on a Categorical with a new category, set the categories first >>> ccolors = ccolors.cat.add_categories(["a new color"]) >>> ccolors.iloc[5] = "a new color"
如果你想設置值或重塑數據,而非進行新的運算操作,那么Category類型不是那么有用。
以上就是本次騷操作的介紹,你get到了沒有?
關注微信公眾號:Python數據科學,發現更多精彩內容。
文章版權歸作者所有,未經允許請勿轉載,若此文章存在違規行為,您可以聯系管理員刪除。
轉載請注明本文地址:http://specialneedsforspecialkids.com/yun/42406.html
摘要:沒錯,在中你一樣可以這樣簡單的操作,而不同的是你操作的是一整列的字符串數據。因為對于類型的,字符的操作發生在的非重復值上,而并非原上的所有元素上。下面的這些屬性基本都是關于查看和操作數據類型的。 作者:xiaoyu 微信公眾號:Python數據科學 知乎:python數據分析師 showImg(https://segmentfault.com/img/remote/146000001...
摘要:春節搶票應該是每個在外游子的必修課,還有不足一個月就要過春節了,現在的你,是不是還奮戰在搶票一線呢說到搶票,之所以現在大家能享受到流暢的移動互聯網購票服務,其實背后都是云計算在加持,沒想到吧,原來看似高深的云計算離我們如此之近。春節搶票應該是每個在外游子的必修課,還有不足一個月就要過春節了,現在的你,是不是還奮戰在搶票一線呢?說到搶票,之所以現在大家能享受到流暢的移動互聯網購票服務,其實背后...
摘要:劃重點,這是一道面試必考題,我靠這道題刷掉了多少面試者嘿嘿首先這是一道非常棒的面試題,可以考察面試者的很多方面,比如基本功,代碼能力,邏輯能力,而且進可攻,退可守,針對不同級別的人可以考察不同難度,比如漂亮妹子就出題,要是個帥哥那就得上了, 劃重點,這是一道面試必考題,我靠這道題刷掉了多少面試者?(? ? ??)嘿嘿 首先這是一道非常棒的面試題,可以考察面試者的很多方面,比如基本功,代...
摘要:不會產生動作意味著和的請求不會在服務器上產生任何結果。對長度的限制是字節。起限制作用的是服務器的處理程序的處理能力。很可能受到中文名稱跨站請求偽造攻擊。而數據大小,則是因為瀏覽器的限制造成的。請開始你的表演參考文章的人都理解錯了中與的區別 本篇文章分兩部分,第一部分可以列為初為新人的裝逼失敗模式,第二部分列為修煉低調模式。裝逼失敗模式:99%的人對GET和POST的認識修煉低調模式:1...
摘要:不會產生動作意味著和的請求不會在服務器上產生任何結果。對長度的限制是字節。起限制作用的是服務器的處理程序的處理能力。很可能受到中文名稱跨站請求偽造攻擊。而數據大小,則是因為瀏覽器的限制造成的。請開始你的表演參考文章的人都理解錯了中與的區別 本篇文章分兩部分,第一部分可以列為初為新人的裝逼失敗模式,第二部分列為修煉低調模式。裝逼失敗模式:99%的人對GET和POST的認識修煉低調模式:1...
閱讀 865·2021-11-15 11:37
閱讀 3604·2021-11-11 16:55
閱讀 3270·2021-11-11 11:01
閱讀 998·2019-08-30 15:43
閱讀 2743·2019-08-30 14:12
閱讀 681·2019-08-30 12:58
閱讀 3388·2019-08-29 15:19
閱讀 2023·2019-08-29 13:59