近日，2024金融科技應用創(chuàng)新發(fā)展大會暨農(nóng)村金融機構信息化發(fā)展創(chuàng)新座談會在上海舉辦。浪潮信息推出元腦企智EPAI企業(yè)大模型開發(fā)平臺，面向金融業(yè)務場景，實現(xiàn)7天完成POC驗證、2個月上線AI應用，通過將浪潮信息在AI算力底座建設、大模型開發(fā)領域積累的成熟、成功經(jīng)驗工具化，助力金融機構又快、又穩(wěn)地部署生成式AI應用，助力金融數(shù)智化跨越式發(fā)展。

2024金融科技應用創(chuàng)新發(fā)展大會 浪潮信息王鵬飛發(fā)表演講

浪潮信息售前技術支持部總經(jīng)理王鵬飛在會上表示，公司致力于推動金融行業(yè)的數(shù)智化轉型。元腦企智EPAI可為金融機構量身定制，提供一站式大模型應用開發(fā)部署解決方案。這一創(chuàng)新方案有助于金融機構以低成本、少人力實現(xiàn)高效率的智能應用開發(fā)，提升運營效率，降低風險，滿足客戶的智能化、場景化需求。

"玩轉"大模型 中小金融機構面臨"少技術、少資金、少數(shù)據(jù)"三大挑戰(zhàn)

在金融行業(yè)，可以說整個行業(yè)都在往數(shù)字化轉型的深水區(qū)積極探索，亟需以AI催生的數(shù)字金融、科技金融為抓手，塑造數(shù)字金融新業(yè)態(tài)新模式。

從政策上，根據(jù)三中全會精神，金融行業(yè)要進一步深化金融供給側結構性改革，扎實做好"五篇大文章"。因此各家金融機構實施了從積極布局大模型，到關注金融行業(yè)大模型，再到聚焦金融應用場景的模型建設的系列舉措。六大國有銀行已在多個領域應用大模型，例如工行為20萬網(wǎng)點員工打造智能助手，通過大模型吸納全行50類業(yè)務，輔助柜員辦理復雜業(yè)務、提升網(wǎng)點效能，智能處理業(yè)務量顯著增長，23年智能處理業(yè)務量3.2億筆，同比增長14%。同時，12家股份制銀行中已有超過6家正在推進大模型及相關應用，中信銀行開發(fā)大模型平臺，興業(yè)銀行實現(xiàn)研報摘要智能生成，浦發(fā)和平安銀行加強大模型平臺和底座建設。金融機構對大模型的需求不僅是發(fā)展得"如火如荼"，而且對"增效"要求越來越迫切，金融機構在積極推動大模型在金融領域的落地實踐。

金融大模型落地面臨的技術挑戰(zhàn)

然而金融機構想要部署大模型，仍有許多痛點。對于城商行、農(nóng)商行、農(nóng)信等中小金融企業(yè)或機構，想要"玩轉"大模型，需要克服自身在數(shù)字資源、科技能力、業(yè)務場景等方面的限制，突破算法、算力、數(shù)據(jù)方面的屏障。

首先，從基礎模型到實際應用，不僅需要軟硬件的更新，還需要在制度、流程和管理等方面進行調(diào)整。比如，在金融大模型開發(fā)，從模型的選型、定制部署到應用開發(fā)的全流程，打造一套成熟的方案顯得尤為重要。這不僅涉及到技術層面的考量，還包括了業(yè)務需求的深入理解、資源的合理配置以及未來擴展性的預見。一個久經(jīng)打磨、成熟穩(wěn)健的方案能夠確保金融大模型項目的順利進行，同時也能為后續(xù)的維護和升級提供堅實的基礎。

其次，作為金融企業(yè)，歸根到底在經(jīng)營客戶、業(yè)務、產(chǎn)品，以及貨幣、風險，模型服務要以盈利為目標，因此資金預算也是現(xiàn)實的考量。

第三，金融機構的數(shù)據(jù)資源，尤其是面向模型微調(diào)所需的高質(zhì)量數(shù)據(jù)的缺乏，也是擺在面前的現(xiàn)實問題。

元腦企智助力金融機構快速部署大模型

元腦企智EPAI(Enterprise Platform of AI)，正是浪潮信息的大模型應用落地解決之道，能夠為企業(yè)AI大模型落地應用提供高效、易用、安全的端到端開發(fā)平臺，提供數(shù)據(jù)準備、模型訓練、知識檢索、應用框架等系列工具，支持調(diào)度多元算力和多模算法，幫助企業(yè)高效開發(fā)部署生成式AI應用、打造智能生產(chǎn)力。

浪潮信息元腦企智EPAI 為中小金融機構量身定制

首先，從創(chuàng)新大腦到多元算力底座，元腦企智EPAI具有架構上的優(yōu)勢。

元腦企智擁有一個包含多種模型的大模型庫，這是其核心部分。它分為三個主要部分：首先，提供場景數(shù)據(jù)，元腦企智利用上億條基礎知識數(shù)據(jù)和自動化工具幫助企業(yè)構建知識庫。其次，模型定制，通過微調(diào)增強模型的學習能力，并利用知識庫檢索技術提升模型的查找能力。最后，應用構建和開發(fā)，元腦企智支持設定模型角色和偏好，配置功能化工具，并提供多種使用方式，同時確保全鏈路安全。此外，元腦企智的底座是適配多元、多模的多元算力Infra基礎設施，包括元腦企智EPAI一體機，以及高效的多元算力管理調(diào)度工具。

其次，浪潮信息利用元腦企智提供一站式金融大模型應用孵化，涵蓋三個主要步驟。其一，確定應用類型和預期效果;其二，根據(jù)需求和成本選擇合適的基礎大模型，并參考公開數(shù)據(jù)集;最后，通過提示詞工程、RAG和模型微調(diào)增強模型場景能力。最后，完成這些步驟后，可以部署模型并開發(fā)應用，如集成API服務到業(yè)務系統(tǒng)或提供對話式機器人。對于復雜任務，智能體Agent可進行任務編排和工具調(diào)用。

王鵬飛認為，元腦企智之所以能一站式開發(fā)部署AI應用，"內(nèi)功"非常重要。主要依托了幾大優(yōu)勢。從數(shù)據(jù)工程上，元腦企智支持10種以上的企業(yè)常見數(shù)據(jù)格式，并可以超過95%的抽取準確率將其轉化為知識庫以及模型可用的微調(diào)數(shù)據(jù)。從模型開發(fā)上，元腦企智支持10種以上的開源大模型和接口協(xié)議，并逐步支持20種以上的計算芯片上的模型完全私有化部署。從算法功能上，元腦企智能夠達到90%以上的RAG檢索召回準確率，最快構建模型服務API的時間不足0.5天，且支持多種插件、IDE和編程語言。此外，元腦企智提供了低代碼乃至無代碼的環(huán)境，應用開發(fā)速度大大提高、培訓周期顯著縮短，有利于企業(yè)的降本增效。正是通過類似的開發(fā)范式，元腦企智可以便捷的助力各類金融場景應用的開發(fā)，讓金融企業(yè)真正玩轉大模型。

7天快速測試驗證 助力金融大模型輕松上手

浪潮信息自推出元腦企智EPAI以來，成功實施了智能編程、智能客服大腦和智能投標助手等應用案例。智能客服大腦利用金融業(yè)務數(shù)據(jù)構建，能解決80%常見問題，并能與現(xiàn)有服務集成，提供自動化流程和智能化業(yè)務支持。智能編程助手借助元腦企智自動解析大型代碼庫，提升開發(fā)效率。智能投標助手能快速識別招標文件關鍵信息，節(jié)省業(yè)務時間，提高工作效率。

元腦企智助力金融機構 輕松上手大模型

據(jù)王鵬飛介紹，元腦企智助力金融客戶實現(xiàn)項目快速實施，時間上最短7天，最長2個月。以最復雜的聯(lián)合共創(chuàng)為例，以項目的形式劃分為前期試用、方案確認、本地定制開發(fā)、驗收落地四個階段。雖然流程比較長，但核心的應用開發(fā)部分一般2~3周內(nèi)完成;對于通常的大模型應用簡單驗證，不超過7天即可完成。

元腦企智EPAI，是浪潮信息2024年具有戰(zhàn)略意義的產(chǎn)品，體現(xiàn)了浪潮信息一直在AI領域的前沿不停探索開拓的能力和決心。浪潮信息期望能將自身的AI成果賦能金融行業(yè)等千行百業(yè)，與客戶、合作伙伴共同攜手，加速AI創(chuàng)新落地。