99精品伊人亚洲|最近国产中文炮友|九草在线视频支援|AV网站大全最新|美女黄片免费观看|国产精品资源视频|精彩无码视频一区|91大神在线后入|伊人终合在线播放|久草综合久久中文

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

部署基于 LLM 的私有知識庫系統(tǒng) AnythingLLM

jf_94205927 ? 來源:jf_94205927 ? 作者:jf_94205927 ? 2024-12-27 13:44 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

一、Flexus 云服務(wù)器 X 實例介紹

云服務(wù)器,如同虛擬的超級計算機,是云計算技術(shù)的核心組成部分。它通過網(wǎng)絡(luò)提供計算資源,包括處理器、內(nèi)存、存儲和操作系統(tǒng)等,用戶可以根據(jù)需求靈活配置和擴展。云服務(wù)器具備高可用性、彈性伸縮和快速部署等特點,適用于各種規(guī)模的企業(yè)和開發(fā)者,無論是網(wǎng)站托管、數(shù)據(jù)分析還是應(yīng)用開發(fā),都能提供穩(wěn)定、高效的支持。

華為云下一代云服務(wù)器 Flexus X 實例煥新上線,新產(chǎn)品搭配彈性伸縮服務(wù) AS 及負載均衡服務(wù) ELB,可以實現(xiàn)基于業(yè)務(wù)負載的快速彈縮,從容應(yīng)對多變的市場業(yè)務(wù)壓力,覆蓋高科技、零售、金融、游戲等行業(yè)大多數(shù)通用工作負載場景。

wKgZO2duPsaAU8AeAAKFUe3KKt0777.png

Flexus X 實例通過和其他服務(wù)組合,具備計算、鏡像安裝、網(wǎng)絡(luò)、存儲、安全等能力,您可根據(jù)業(yè)務(wù)需要靈活配置各資源。

wKgZO2duPsyAYkywAAvyr-51fqA462.gif

本次測評使用的規(guī)格是:4 核 12G-100G-3M 規(guī)格的 Flexus X 實例基礎(chǔ)模式

wKgZO2duPs2AWVkiAAHXWmcDvoA232.png

二、Flexus 云服務(wù)器 X 實例配置

2.1 重置密碼

購買服務(wù)器的時候可以提前設(shè)置用戶名和密碼,因為我這里跳過了,所以購買完成后需要重置密碼,會短信或站內(nèi)消息通過你的云服務(wù)器信息,重點是公網(wǎng) IP 地址和用戶名,首先打開你的服務(wù)器控制臺,選擇重置密碼

wKgZPGduPs2AUB2iAAJxDfXk-p8031.png

勾選自動重啟,點擊確定即可

wKgZO2duPs2AbnJtAADmtG_r2Mc652.png

2.2 服務(wù)器連接

華為云服務(wù)器提供了多種鏈接方式,如使用控制臺提供的 VNC 方式登錄、使用 Linux/Mac OS 系統(tǒng)主機登錄 Linux 彈性云服務(wù)器(即 ssh root@192.168.48.78 命令)或者使用 Putty、Xshell 等工具登錄 Linux 彈性云服務(wù)器。

我個人習(xí)慣使用 MobaXterm這款軟件,添加 SSH 連接,輸出公網(wǎng) IP、用戶名和端口(默認 22),連接即可。

wKgZPGduPs6AOlcwAAB35aqd5VA036.png

2.3 安全組配置

安全組是一個邏輯上的分組,為同一個 VPC 內(nèi)的云服務(wù)器提供訪問策略。用戶可以在安全組中定義各種訪問規(guī)則,當云服務(wù)器加入該安全組后,即受到這些訪問規(guī)則的保護。

系統(tǒng)為每個網(wǎng)卡默認創(chuàng)建一個默認安全組,默認安全組的規(guī)則是對出方向上的數(shù)據(jù)報文全部放行,入方向訪問受限。您可以使用默認安全組,也可以根據(jù)需要創(chuàng)建自定義的安全組。

wKgZO2duPs6AX6b1AAJtUulR8LY910.png

主要需要填寫優(yōu)先級(默認填 1 即可)、協(xié)議端口(協(xié)議一般為 TCP 或 UDP,端口一般選擇你項目需要暴露的端口即可),描述(選填,一般會填寫此端口的用途以免忘記了),其他默認點擊確定即可。安全組配置主要是暴露端口可以給外網(wǎng)訪問。

wKgZPGduPs6ANv_BAAHf3yU1SGg476.png

如果還不清楚可以參考文檔:安全組配置示例

總結(jié)

AnythingLLM 是一款多功能人工智能應(yīng)用,旨在為用戶提供一個統(tǒng)一的平臺來處理多種類型的文檔和模型。無論是在 Windows、MacOS,還是 Linux 系統(tǒng)上,用戶都可以通過簡單的“一鍵安裝”來獲取完整的工具套件。它支持包括 PDF、Word 文檔等多種格式的文件處理,并允許用戶連接各種自定義或開源的語言模型,如 GPT-4、Llama、Mistral 等,因此用戶不再受到單一模型的約束。此外,AnythingLLM 能夠完全在本地運行,只與用戶明確連接的服務(wù)進行交互,這大大增強了數(shù)據(jù)的隱私保護。此次使用的 Flexus X 實例配置還是很高的 4 核 12G-100G-3M 規(guī)格的基礎(chǔ)模式,盡管本地運行 ollama 模型,也能在推理過程中抗住壓力,穩(wěn)定輸出,盡管輸出緩慢,CPU 和內(nèi)存占用也沒有超過 60%,整體體驗很好。

喜歡用 Docker 部署有趣項目?華為云服務(wù)器助你輕松實現(xiàn)!高性能、高可靠,支持一鍵部署 Docker 環(huán)境,快速啟動你的創(chuàng)意項目?,F(xiàn)在華為云服務(wù)器正進行 828 B2B 企業(yè)節(jié),限時優(yōu)惠,立即搶購,讓你的項目飛速上線!

審核編輯 黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 云服務(wù)器
    +關(guān)注

    關(guān)注

    0

    文章

    809

    瀏覽量

    13839
  • 華為云
    +關(guān)注

    關(guān)注

    3

    文章

    2772

    瀏覽量

    18317
  • LLM
    LLM
    +關(guān)注

    關(guān)注

    1

    文章

    325

    瀏覽量

    844
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    如何在魔搭社區(qū)使用TensorRT-LLM加速優(yōu)化Qwen3系列模型推理部署

    TensorRT-LLM 作為 NVIDIA 專為 LLM 推理部署加速優(yōu)化的開源,可幫助開發(fā)者快速利用最新 LLM 完成應(yīng)用原型驗證與產(chǎn)
    的頭像 發(fā)表于 07-04 14:38 ?662次閱讀

    AI知識庫的搭建與應(yīng)用:企業(yè)數(shù)字化轉(zhuǎn)型的關(guān)鍵步驟

    隨著數(shù)字化轉(zhuǎn)型的加速,AI技術(shù)已經(jīng)成為提升企業(yè)運營效率、優(yōu)化客戶體驗、推動業(yè)務(wù)創(chuàng)新的重要工具。而AI知識庫作為企業(yè)智能化的基礎(chǔ),發(fā)揮著至關(guān)重要的作用。通過構(gòu)建高質(zhì)量的知識庫,企業(yè)能夠更好地組織、管理
    的頭像 發(fā)表于 03-27 15:18 ?459次閱讀

    【幸狐Omni3576邊緣計算套件試用體驗】DeepSeek 部署及測試

    、RKLLM 、編譯和運行、效果演示等。 簡介 介紹了板端部署的 DeepSeek 模型及其部署方案。 DeepSeek DeepSeek 是由杭州深度求索公司自主研發(fā)的高性能大語言模型,以其開源、輕量化
    發(fā)表于 03-21 19:31

    《AI Agent 應(yīng)用與項目實戰(zhàn)》閱讀心得3——RAG架構(gòu)與部署本地知識庫

    系統(tǒng)架構(gòu)設(shè)計上,采用了前后端分離的模式:前端使用Streamlit構(gòu)建交互界面,后端集成了向量數(shù)據(jù)LLM。部署環(huán)境的準備工作包括創(chuàng)建虛擬環(huán)境、安裝必要的Python包、配置向量數(shù)據(jù)
    發(fā)表于 03-07 19:49

    技術(shù)融合實戰(zhàn)!Ollama攜手Deepseek搭建知識庫,Continue入駐VScode

    Ollama、Deepseek-R1、AnythingLLM 搭建強大的本地個人知識庫,并詳細介紹 Continue 在 VScode 中的本地集成,帶你解鎖全新的技術(shù)應(yīng)用體驗,開啟高效知識管理與開發(fā)
    的頭像 發(fā)表于 03-04 14:47 ?672次閱讀
    技術(shù)融合實戰(zhàn)!Ollama攜手Deepseek搭建<b class='flag-5'>知識庫</b>,Continue入駐VScode

    如何從零開始搭建企業(yè)AI知識庫?

    在數(shù)字化轉(zhuǎn)型的浪潮中,企業(yè)逐漸意識到數(shù)據(jù)不僅是資源,更是驅(qū)動業(yè)務(wù)增長的“燃料”。然而,分散在郵件、文檔系統(tǒng)、本地硬盤甚至員工腦海中的知識,往往如同孤島般難以串聯(lián)。AI知識庫的出現(xiàn),正試圖將這些碎片化
    的頭像 發(fā)表于 02-28 14:35 ?846次閱讀

    用騰訊ima和Deepseek建立個人微信知識庫

    ---基于騰訊混元大模型或Deepseek-r推理模型的個人知識庫。大模型是通才,知識庫是專家大模型的訓(xùn)練數(shù)據(jù)無法實時更新,而你的知識庫可以動態(tài)補充最新信息。大模型對細分領(lǐng)
    的頭像 發(fā)表于 02-25 17:33 ?1381次閱讀
    用騰訊ima和Deepseek建立個人微信<b class='flag-5'>知識庫</b>

    DeepSeek從入門到精通(2):0成本用DeepSeek(滿血版)搭建本地知識庫

    我們身處數(shù)字化浪潮中,知識管理和利用的重要性與日俱增。擁有一個專屬的本地知識庫,能極大提升工作效率,滿足個性化需求。但對于技術(shù)小白來說,搭建這樣的知識庫不僅存在技術(shù)門檻,同時也意味著需要一定的成本投入。
    的頭像 發(fā)表于 02-23 15:34 ?616次閱讀
    DeepSeek從入門到精通(2):0成本用DeepSeek(滿血版)搭建本地<b class='flag-5'>知識庫</b>

    基于華為云 Flexus 云服務(wù)器 X 搭建部署——AI 知識庫問答系統(tǒng)(使用 1panel 面板安裝)

    ???對于企業(yè)來講為什么需要華為云 Flexus X 來搭建自己的知識庫問答系統(tǒng)??? 【重塑知識邊界,華為云 Flexus 云服務(wù)器 X 引領(lǐng)開源問答新紀元!】 ???解鎖知識新動力
    的頭像 發(fā)表于 01-17 09:45 ?2041次閱讀
    基于華為云 Flexus 云服務(wù)器 X 搭建<b class='flag-5'>部署</b>——AI <b class='flag-5'>知識庫</b>問答<b class='flag-5'>系統(tǒng)</b>(使用 1panel 面板安裝)

    華為云 Flexus 云服務(wù)器 X 實例之 openEuler 系統(tǒng)下搭建 MaxKB 開源知識庫問答系統(tǒng)

    及個人開發(fā)者快速構(gòu)建高效、靈活的應(yīng)用環(huán)境。本文將詳細介紹如何利用華為云 Flexus 云服務(wù)器 X 實例搭建基于 openEuler 系統(tǒng)的 MaxKB 開源知識庫問答系統(tǒng),為企業(yè)內(nèi)部的知識
    的頭像 發(fā)表于 01-17 09:44 ?1339次閱讀
    華為云 Flexus 云服務(wù)器 X 實例之 openEuler <b class='flag-5'>系統(tǒng)</b>下搭建 MaxKB 開源<b class='flag-5'>知識庫</b>問答<b class='flag-5'>系統(tǒng)</b>

    騰訊ima升級知識庫功能,上線小程序?qū)崿F(xiàn)共享與便捷問答

    近日,騰訊旗下的AI智能工作臺ima.copilot(簡稱ima)迎來了知識庫功能的重大升級。此次升級不僅增加了“共享知識庫”的新能力,還正式上線了“ima知識庫”小程序,為用戶帶來了更加便捷和高效
    的頭像 發(fā)表于 12-31 15:32 ?1843次閱讀

    從零開始訓(xùn)練一個大語言模型需要投資多少錢?

    關(guān)于訓(xùn)練技巧和模型評估的文章,但很少有直接告訴你如何估算訓(xùn)練時間和成本的。前面分享了一些關(guān)于大模型/本地知識庫的安裝部署方法,無需編寫代碼,即可使用 Ollama+AnythingLLM搭建企業(yè)
    的頭像 發(fā)表于 11-08 14:15 ?791次閱讀
    從零開始訓(xùn)練一個大語言模型需要投資多少錢?

    k8s可以部署私有云嗎?私有部署全攻略

    Kubernetes(簡稱K8S)可以部署私有云。Kubernetes是一個開源的容器編排引擎,能夠自動化容器的部署、擴展和管理,使得應(yīng)用可以在各種環(huán)境中高效運行。通過使用Kubernetes,企業(yè)可以在自己的數(shù)據(jù)中心或
    的頭像 發(fā)表于 10-25 09:32 ?475次閱讀

    【實操文檔】在智能硬件的大模型語音交互流程中接入RAG知識庫

    非常明顯的短板。盡管這些模型在理解和生成自然語言方面有極高的性能,但它們在處理專業(yè)領(lǐng)域的問答時,卻往往不能給出明確或者準確的回答。 這時就需要接一個專有知識庫來滿足產(chǎn)品專有和專業(yè)知識的回復(fù)需求,理論
    發(fā)表于 09-29 17:12

    智能水電表管理系統(tǒng)支持本地私有部署嗎?

    智能水電表管理系統(tǒng),作為智慧城市建設(shè)中的關(guān)鍵組件,正逐步改變著能源計量與管理的傳統(tǒng)模式。面對日益增長的數(shù)據(jù)安全需求及特定行業(yè)的合規(guī)性考量,越來越多的企業(yè)和機構(gòu)開始關(guān)注系統(tǒng)的本地私有部署
    的頭像 發(fā)表于 08-12 20:32 ?579次閱讀
    智能水電表管理<b class='flag-5'>系統(tǒng)</b>支持本地<b class='flag-5'>私有</b>化<b class='flag-5'>部署</b>嗎?