摘要:分析通過查閱的文檔,可以通過指定參數值來改變數據庫中創建表的列類型。根據描述,可以在執行方法時,將映射好列名和指定類型的賦值給參數即可上,其中對于表的列類型可以使用包中封裝好的類型。
問題
在數據分析并存儲到數據庫時,Python的Pandas包提供了to_sql 方法使存儲的過程更為便捷,但如果在使用to_sql方法前不在數據庫建好相對應的表,to_sql則會默認為你創建一個新表,這時新表的列類型可能并不是你期望的。例如我們通過下段代碼往數據庫中插入一部分數據:
import pandas as pd from datetime import datetime df = pd.DataFrame([["a", 1, 1, 2.0, datetime.now(), True]], columns=["str", "int", "float", "datetime", "boolean"]) print(df.dtypes)
通過_dtypes_可知數據類型為object, int64, float64, datetime64[ns], bool
如果把數據通過to_sql方法插入到數據庫中:
from sqlalchemy import create_engine engine = create_engine("mysql+mysqldb://{}:{}@{}/{}".format("username", "password", "host:port", "database")) con = engine.connect() df.to_sql(name="test", con=con, if_exists="append", index=False)
用MySQL的_desc_可以發現數據庫自動創建了表并默認指定了列的格式:
# 在MySQL中查看表的列類型 desc test;
Filed | Type | Null | Key | Default | Extra | |
---|---|---|---|---|---|---|
str | text | YES | NULL | |||
int | bigint(20) | YES | NULL | |||
float | double | YES | NULL | |||
datetime | datetime | YES | NULL | |||
boolean | tinyint(1) | YES | NULL |
其中str類型的數據在數據庫表中被映射成text,int類型被映射成bigint(20), float類型被映射成double類型。數據庫中的列類型可能并非是我們所期望的格式,但我們又不想在數據插入前手動的創建數據庫的表,而更希望根據DataFrame中數據的格式動態地改變數據庫中表格式。
分析通過查閱pandas.DataFrame.to_sql的api文檔1,可以通過指定dtype 參數值來改變數據庫中創建表的列類型。
dtype : dict of column name to SQL type, default None
Optional specifying the datatype for columns. The SQL type should be a SQLAlchemy type, or a string for sqlite3 fallback connection.
根據描述,可以在執行to_sql方法時,將映射好列名和指定類型的dict賦值給dtype參數即可上,其中對于MySQL表的列類型可以使用SQLAlchemy包中封裝好的類型。
# 執行前先在MySQL中刪除表 drop table test;
from sqlalchemy.types import NVARCHAR, Float, Integer dtypedict = { "str": NVARCHAR(length=255), "int": Integer(), "float" Float() } df.to_sql(name="test", con=con, if_exists="append", index=False, dtype=dtypedict)
更新代碼后,再查看數據庫,可以看到數據庫在建表時會根據dtypedict中的列名來指定相應的類型。
desc test;
Filed | Type | Null | Key | Default | Extra | |
---|---|---|---|---|---|---|
str | varchar(255) | YES | NULL | |||
int | int(11) | YES | NULL | |||
float | float | YES | NULL | |||
datetime | datetime | YES | NULL | |||
boolean | tinyint(1) | YES | NULL |
通過分析,我們已經知道在執行to_sql的方法時,可以通過創建一個類似“{"column_name":sqlalchemy_type}”的映射結構來控制數據庫中表的列類型。但在實際使用時,我們更希望能通過pandas.DataFrame中的column的數據類型來映射數據庫中的列類型,而不是每此都要列出pandas.DataFrame的column名字。
寫一個簡單的def將pandas.DataFrame中列名和預指定的類型映射起來即可:
def mapping_df_types(df): dtypedict = {} for i, j in zip(df.columns, df.dtypes): if "object" in str(j): dtypedict.update({i: NVARCHAR(length=255)}) if "float" in str(j): dtypedict.update({i: Float(precision=2, asdecimal=True)}) if "int" in str(j): dtypedict.update({i: Integer()}) return dtypedict
只要在執行to_sql前使用此方法獲得一個映射dict再賦值給to_sql的dtype參數即可,執行的結果與上一節相同,不再累述。
df = pd.DataFrame([["a", 1, 1, 2.0, datetime.now(), True]], columns=["str", "int", "float", "datetime", "boolean"]) dtypedict = mapping_df_types(df) df.to_sql(name="test", con=con, if_exists="append", index=False, dtype=dtypedict)參考
文章版權歸作者所有,未經允許請勿轉載,若此文章存在違規行為,您可以聯系管理員刪除。
轉載請注明本文地址:http://specialneedsforspecialkids.com/yun/41296.html
閱讀 3274·2021-11-23 09:51
閱讀 939·2021-09-03 10:30
閱讀 3212·2021-08-31 09:40
閱讀 3278·2019-08-30 14:22
閱讀 902·2019-08-30 14:09
閱讀 2900·2019-08-30 13:21
閱讀 3232·2019-08-28 18:03
閱讀 2859·2019-08-26 13:44