模型壓縮精品文章

• 

  深度神經(jīng)網(wǎng)絡(luò)的壓縮和正則化

  ...層的卷積神經(jīng)網(wǎng)絡(luò)（如Alexnet和VGGnet），深度壓縮可以將模型大小減少35到49倍。即使對(duì)于全卷積神經(jīng)網(wǎng)絡(luò)（如GoogleNet和SqueezeNet），深度壓縮也可以將模型大小減少10倍。而且上述兩種壓縮情況都不會(huì)降低模型預(yù)測(cè)的精度。當(dāng)前的...

  blankyao 2019-04-25 18:08 評(píng)論0 收藏0
• 

  輕量化神經(jīng)網(wǎng)絡(luò)

  1、基本卷積運(yùn)算手工設(shè)計(jì)輕量化模型主要思想在于設(shè)計(jì)更高效的網(wǎng)絡(luò)計(jì)算方式（主要針對(duì)卷積方式），從而使網(wǎng)絡(luò)參數(shù)減少，并且不損失網(wǎng)絡(luò)性能。本節(jié)概述了CNN模型（如MobileNet及其變體）中使用的基本卷積運(yùn)算單元，并...

  curried 2019-04-25 18:30 評(píng)論0 收藏0
• 

  揭秘支付寶中的深度學(xué)習(xí)引擎：xNN

  本文介紹支付寶App中的深度學(xué)習(xí)引擎——xNN。xNN通過(guò)模型和計(jì)算框架兩個(gè)方面的優(yōu)化，解決了深度學(xué)習(xí)在移動(dòng)端落地的一系列問(wèn)題。xNN的模型壓縮工具 (xqueeze) 在業(yè)務(wù)模型上實(shí)現(xiàn)了近50倍的壓縮比， 使得在包預(yù)算極為有限的移動(dòng)...

  wayneli 2019-04-25 18:19 評(píng)論0 收藏0
• 

  AWS推出MXNet模型服務(wù)器

  ...r for Apache MXNet（MMS）是一個(gè)開(kāi)源組件，旨在簡(jiǎn)化深度學(xué)習(xí)模型的部署。部署深度學(xué)習(xí)模型不是一項(xiàng)簡(jiǎn)單的任務(wù)，它要求收集各種模型文件、搭建服務(wù)棧、初始化和配置深度學(xué)習(xí)框架、暴露端點(diǎn)、實(shí)時(shí)發(fā)送度量指標(biāo)，并運(yùn)行自定義...

  hover_lew 2019-04-25 18:23 評(píng)論0 收藏0
• 

  無(wú)問(wèn)芯穹Qllm-Eval：制作多模型、多參數(shù)、多維度的量化方案

  前言近年來(lái)，大語(yǔ)言模型（Large Models, LLMs）受到學(xué)術(shù)界和工業(yè)界的廣泛關(guān)注，得益于其在各種語(yǔ)言生成任務(wù)上的出色表現(xiàn)，大語(yǔ)言模型推動(dòng)了各種人工智能應(yīng)用（例如ChatGPT、Copilot等）的發(fā)展。然而，大模型的落地應(yīng)用受到其較...

  UCloud小助手 2024-06-25 11:55 評(píng)論0 收藏0
• 

  TensorFlow 首個(gè)優(yōu)化工具來(lái)了：模型壓縮4倍，速度提升3倍！

  ...論是新手還是高級(jí)開(kāi)發(fā)人員，都可以使用來(lái)優(yōu)化機(jī)器學(xué)習(xí)模型以進(jìn)行部署和執(zhí)行的技術(shù)。這些技術(shù)對(duì)于優(yōu)化任何用于部署的TensorFlow模型都非常有用。特別是對(duì)于在內(nèi)存緊張、功耗限制和存儲(chǔ)有限的設(shè)備上提供模型的TensorFlow Lite...

  wangdai 2019-04-25 18:30 評(píng)論0 收藏0
• 

  首次披露！阿里線下智能方案進(jìn)化史

  ...得了一些小小的成績(jī)。算法方面，我們提出了自主研發(fā)的模型壓縮方法，新型模型結(jié)構(gòu)和目標(biāo)檢測(cè)框架；工程方面，我們研發(fā)出一套非數(shù)據(jù)依賴的量化訓(xùn)練工具，并且針對(duì)不同硬件平臺(tái)，研發(fā)了高效推理計(jì)算庫(kù)；同時(shí)我們也和服...

  keelii 2019-06-26 19:00 評(píng)論0 收藏0
• 

  阿里開(kāi)源首個(gè)深度學(xué)習(xí)框架 X-Deep Learning！

  ...百億甚至千億。進(jìn)一步的，不少產(chǎn)品應(yīng)用需要大規(guī)模深度模型的實(shí)時(shí)訓(xùn)練與更新，現(xiàn)有開(kāi)源框架在分布式性能、計(jì)算效率、水平擴(kuò)展能力以及實(shí)時(shí)系統(tǒng)適配性的等方面往往難以滿足工業(yè)級(jí)生產(chǎn)應(yīng)用的需求。 X-DeepLearning正是面向這...

  hankkin 2019-06-26 18:42 評(píng)論0 收藏0