SQLflow:基于python開發的分布式機器學習平臺, 支持通過寫sql的方式,運行spark,

legendaryedu 發布于2019-07-31 10:04 / 3001人閱讀

摘要：主頁腳本頁面單頁面注意下載文件配置中的路徑。一個簡單的操作集群的是不是很簡單。正在新增版深度學習功能謝謝支持。

簡書博客: https://www.jianshu.com/u/3fe... 百度云搜索：http://www.lqkweb.com 搜網盤：http://www.swpan.cn 淘寶券搜索：http://www.wodecai.cn 淘寶券：http://www.tbquan.cn 你我搜：http://www.niwosou.cn 開源Flask+Bootstrap網址導航: http://hao.tbquan.cn

開發交流QQ群: 941879291

SQLflow (python3.6)

SQLflow based on python development, support to Spark, as the underlying distributed computing engine, through a set of unified configuration file to complete the batch, flow calculation, the Rest service development.

2019-03-26 更新后臺路由,前端抽取base模板并更新使用ajax方式執行sql語句

主頁：

結果頁：

SQLflow

SQLflow 基于python開發, 支持通過寫sql的方式操作分布式集群, 數據處理, 機器學習、深度學習模型訓練, 模型部署, 分布式爬蟲, 數據可視化等。

Build

python3.6

git clone https://github.com/lqkweb/sql...

pip install -r requirements.txt

python manage.py

主頁：http://127.0.0.1:5000
腳本頁面：http://127.0.0.1:5000/script
單sql頁面：http://127.0.0.1:5000/sql

【注意：1、下載apache spark文件配置manage.py中的SPARK_HOME路徑。2、data.csv是放到sqlflow/data目錄中】

Usage

在腳本執行頁面：http://127.0.0.1:5000/script 輸入 select from A limit 3; 或者 select from A limit 3 as B; 生成臨時表A或者B

生成臨時表A數據:

select * from A limit 3;

生成臨時表B數據:

select * from A limit 3 as B;

打開單sql執行頁面：http://127.0.0.1:5000/sql, 直接就可以用spark sql任意語法操作數據表A和數據表B了:

desc A
select * from A limit 2
select * from B limit 2

[注] "as B" 相當于創建了一個 B 臨時表。

一個簡單的sql操作spark集群的Demo,是不是很簡單。

[附] sparksql doc: https://spark.apache.org/docs...

還有更多sql版黑科技，sql版scikitlearn, sqlspider, sqlcharts, sqlkeras深度學習平臺正在內測中！ 正在新增sql版機器學習算法功能, 謝謝支持。 正在新增sql版爬蟲功能, 謝謝支持。 正在新增sql版數據可視化功能, 謝謝支持。 正在新增sql版keras深度學習功能, 謝謝支持。 記得給個star鼓勵一下！Thanks?(?ω?)?

云服務器 GPU云服務器基于機器學習的基于hadoop的海量數據存儲平臺設計與開發 redis的分布式存儲方式基于深度學習的語音增強

文章版權歸作者所有，未經允許請勿轉載,若此文章存在違規行為，您可以聯系管理員刪除。

轉載請注明本文地址：http://specialneedsforspecialkids.com/yun/43201.html

PySpark SQL 相關知識介紹

摘要：大數據除了體積和速度外，數據的多樣性和準確性也是大數據的一大特點。這些也被稱為大數據的特征。介紹是一個解決大數據問題的分布式可伸縮的框架。介紹計算的模型最早出現在谷歌的一篇研究論文中。相關鏈接介紹是一個通用的分布式編程框架。本文作者：foochane?本文鏈接：https://foochane.cn/article/2019060601.html 1 大數據簡介大數據是這個時代最...

CoderStudy 2019-07-24 10:56 評論0 收藏0
Spark 快速入門

摘要：數據科學任務主要是數據分析領域，數據科學家要負責分析數據并建模，具備統計預測建模機器學習等方面的經驗，以及一定的使用或語言進行編程的能力。監控運行時性能指標信息。 Spark Spark 背景什么是 Spark 官網：http://spark.apache.org Spark是一種快速、通用、可擴展的大數據分析引擎，2009年誕生于加州大學伯克利分校AMPLab，2010年開源，20...

wangshijun 2019-08-16 16:59 評論0 收藏0
道器相融，由Angel論一個優秀機器學習平臺的自我修養

摘要：而道器相融，在我看來，那煉丹就需要一個好的丹爐了，也就是一個優秀的機器學習平臺。因此，一個機器學習平臺要取得成功，最好具備如下五個特點精辟的核心抽象一個機器學習平臺，必須有其靈魂，也就是它的核心抽象。 *本文首發于 AI前線，歡迎轉載，并請注明出處。摘要 2017年6月，騰訊正式開源面向機器學習的第三代高性能計算平臺 Angel，在GitHub上備受關注；2017年10月19日，騰...

leo108 2019-06-26 18:16 評論0 收藏0