...踐中完成了線上部署,在此做一下記錄與總結 一、購買服務器 服務器選擇:服務器的品牌有很多,如亞馬遜、阿里云、騰訊等等,各大廠商之間的產品、服務各不相同,但請盡量選擇靠譜的產品,在這里我選擇的是阿里云,因...
...unJDK。 第一步跟MySQL安裝方式相同,首先將jdk8上傳到遠程服務器; 解壓 tar -zxvf jdk-8... 修改/etc/profile文件,添加環境變量: JAVA_HOME=/java/jdk/jdk1.8.0_181 CLASSPATH=$JAVA_HOME/lib/ PATH=$PATH:$JAVA_HOME/bin export PATH JAVA_HOME CLA...
...Docker hub下載速度慢和經常性抽風,于是在自己的主機上搭建registry存放 image,簡述搭建過程和列出遇到的坑。 準備工作 docker容器啟動配置文件 使用官方的鏡像 暴露5000端口 registry的image會存在 /tmp/registry中,如果主機重啟了image...
ChatGPT和Sora等AI大模型應用,將AI大模型和算力需求的熱度不斷帶上新的臺階。哪里可以獲得...
大模型的訓練用4090是不合適的,但推理(inference/serving)用4090不能說合適,...
圖示為GPU性能排行榜,我們可以看到所有GPU的原始相關性能圖表。同時根據訓練、推理能力由高到低做了...